Stroj jako kamarád, deep nudes i nebezpečné výzvy. Jak se žije dětem online

Umělá inteligence proniká světem - a stále více zasahuje i do života dětí. Stává se pro ně často nejen rádcem, ale i přítelem, se kterým probírají i své intimní vztahy. Jaké benefity a jaká rizika přináší vpád chatbotů do dětství a dospívání, probíráme v podcastu 5:59 s expertem, který chování dětí v online prostoru zkoumá dlouhodobě.

Časy, kdy se s vekou slávou (nebo taky s velkou ostudou) zaváděl internet do škol, jsou dávnou minulostí. Dnes představují online prostředí a digitální nástroje včetně generativní umělé inteligence neodmyslitelnou součást školní výuky a obecně života školou povinných dětí. To s sebou ovšem kromě nesporných výhod přináší i nové výzvy a problémy.

Profesor Kamil Kopecký, který na Univerzitě Palackého v Olomouci vede Institut výzkumu a vzdělávání v oblasti digitálních technologií a kyberbezpečnosti, o tom ví své. A to i díky velkému výzkumu Čeští žáci v online světě, který pomáhal zrealizovat. Zjištění z jeho třetí vlny byla prezentována minulý měsíc u příležitosti 66. ročníku Zlín Film Festivalu. A právě tam proběhlo i živé natáčení podcastu 5:59, který se tématu věnuje.

„Když se podíváme na tu poslední vlnu těch dat, tak tam jasně vidíme, že děti začaly masivně používat AI k různým věcem, ať už pozitivním nebo negativním, ale zároveň ta AI začala sloužit i jako nástroj, který může tomu dítěti ublížit,“ přibližuje jedno z hlavních zjištění výzkumu profesor Kopecký.

„Objevily se nám tady nové věci, jako jsou různé deepfake nebo dokonce deep nudes, neboli generovaná pornografie, kdy vlastně kdokoliv může udělat to, že zneužije identitu dítěte k tomu, aby vytvořil třeba nějaký intimní materiál. A tohle mě překvapilo hodně, protože jsem nečekal, že k adopci té technologie dojde tak rychle,“ přiznává akademik.

Podíl dětí, které zažily situaci, kdy někdo AI zneužil proti nim, podle Kopeckého meziročně vzrostl víc než dvojnásobně, což u něj vyvolává obavy. Nechce přitom paušálně umělou inteligenci zavrhovat, sám ji využívá a ví, jak užitečný nástroj to může být, např. při výuce cizích jazyků. Pokud jde ale o její využívání těmi nejmladšími, nabádá k opatrnosti.

„U dětí je potřeba skutečně nějaká regulace, promyslet aktivity, které je nutné dělat bez umělé inteligence, abychom posílili kognici, aby se dítě vzdělávalo, učilo,“ vysvětluje.

Dalším ze zajímavých - a potenciálně zneklidňujících - zjištění je to, jak často si děti povídají s AI chatboty jako s kamarády. Jde o celou jednu třetinu školáků. Podle Kamila Kopeckého se v tom odráží i generační rozdíly.

„My víme, že dítě potřebuje někoho, kdo ho pochopí. Má třeba nějaký problém ve škole, zažívá něco v rodině a potřebuje se někomu svěřit. A v minulosti si ty holky třeba telefonovaly, kluci si povídali, říkali si o těch problémech, rozebírali je. A teď ty stejné konverzace probíhají s podporou umělé inteligence,“ vysvětluje Kopecký.

Současné děti mají navíc podle odborníka z Univerzity Palackého větší problémy se seznamováním a navazováním kontaktů s vrstevníky. Tendenci uchylovat se do online prostředí také silně podpořilo období covidové pandemie, kdy byli žáci připoutáni k monitorům počítačů při distanční výuce.

„Ty děti tím pádem mají problém navazovat vztahy v reálném světě. A umělá inteligence je snadnější cesta, jak získat toho kamaráda, který nás neodsoudí, neřekne nám, že jsme něco udělali špatně, který je chápavý. Je to vlastně něco, co není lidské,“ odkazuje Kopecký na skutečnost, že hlavní jazykové modely jsou nastavené na to, aby vždy vyhověly.

Za mimořádně znepokojivý jev pak profesor Kopecký považuje tzv. nebezpečné výzvy, které se občas v online prostředí objevují. Typicky nabádají jejich příjemce k nějaké aktivitě či jejímu napodobení a zdokumentování, přičemž někdy to může mít i vážné následky.

„Na začátku loňského roku se objevila na TikToku tzv. paracetamolová výzva, která vyzývala děti, aby se vyhnuly škole (…) zkonzumováním velkých dávek paracetamolu (Paralenu). Tím se dá ale velmi snadno předávkovat a může dojít k selhání jater, ledvin, oběhové soustavy. A jenom u nás v Olomouci jsme měli nějakých 10 nebo 11 případů, kdy byly děti na pohotovosti na vypumpování žaludku z toho, že konzumovaly nadbytečné dávky paracetamolu,“ uvádí expert na prevenci rizikového chování na internetu jeden příklad za všechny.

„Tohle je takové neprobádané pole. My čekáme, co nového sítě přinesou (…) Je velká šance, že se zase nějaká výzva, která může dětem ublížit, objeví,“ varuje Kamil Kopecký z Institutu výzkumu a vzdělávání v oblasti digitálních technologií a kyberbezpečnosti na Univerzitě Palackého v Olomouci.

V podcastu 5:59 se také dozvíte, zda mezi českými školáky a školačkami existují genderové rozdíly ve využívání umělé inteligence. Nebo jak moc se intimní život mladé generace přesouvá do online prostředí a jaká rizika s tím souvisí. Poslechněte si v přehrávači na začátku článku.