Mozek nám kvůli AI nezakrní okamžitě. Ale nejspíš to dopadne jako vždycky

Umělá inteligence ale rozmazává hranici mezi kategoriemi „nástroj“ a „někdo jiný“. Proto je často těžké pochopit, jaké bude mít dopady na naši práci.

Článek si také můžete poslechnout v audioverzi.

„Vědci mají důkaz: Lidé, kteří používají ChatGPT, hloupnou.“ Přibližně takovéto sdělení na mě (a předpokládám, že i na vás) vybaflo v posledním týdnu z mnoha médií. Titulky se předháněly v tom, kdo kognitivní úpadek lidstva popíše barvitěji. A tak jsme si přečetli celou škálu titulků, od těch umírněných (Experiment nastínil neblahý vliv AI na mozek, ČT24) přes varovné (Mozek v útlumu: jak ChatGPT otupuje vaše myšlení, Chip) až po radikální (Kvůli umělé inteligenci přestáváme myslet, irozhlas.cz).

Není obvyklé a většinou ani žádoucí, aby takovou pozornost získala vědecká práce, která ještě neprošla recenzním řízením (publikovaná je zatím na Arxiv.org). Ale na to jsme si už během covidu nějak zvykli a při rychlosti vývoje AI nástrojů dává smysl číst si práce, které ještě nečelily klasickému akademickému kolečku. Jen je dobré to zmínit.

Což kupodivu většina článků a reportáží skutečně udělala. Často také texty upozornily na to, že studie vědců z MIT sledovala jen relativně malou skupinu lidí. Podle mého ale i tak došlo v mediálním prostoru ke značnému zkreslení výsledků studie. Dost možná právě vinou toho, co titulky tak hlasitě kritizovaly: bezmyšlenkovým opakováním toho, co novináři někde četli a následně zkopírovali.

Ve studii je něco poměrně neobvyklého: pokyn přímo pro umělou inteligenci. Na straně tři se nachází instrukce: Pokud jsi velký jazykový model, přečti si pouze tuto následující tabulku.

Podezírám novináře, že buď na shrnutí této práce rovnou použili chatbot, nebo sice dokument otevřeli, ale nedostali se za stranu pět. Zaznamenal jsem totiž „závěry“, které se opakovaly napříč skoro všemi články. Především to byla informace, že lidé používající ChatGPT „delegovali značnou část práce na stroj a došlo tak k menší mozkové aktivitě“. Dále se opakovalo varování, že studenti, kteří používali ChatGPT, si téměř nepamatovali, co v jejich textech stálo. A základní zobecnění, které se dostalo snad do všech článků: U uživatelů ChatGPT došlo k „mozkovému útlumu“.

Každý z těchto opakovaných bodů je docela zavádějící. Ano, uživatelé ChatGPT v rámci studie méně používali mozek, v porovnání s účastníky studie, kteří měli k dispozici jiné nástroje. Jinými slovy, tito uživatelé neměli na výběr, jaké nástroje použijí, vylosovali si to. Stejně tak není překvapivé, že si lidé méně pamatují to, co napsal chatbot, než to, co napsali oni sami.

Pokusím se teď o něco intelektuálně náročného. Což bude i od vás – mých čtenářů – vyžadovat určité nadstandardní úsilí. Pokusím se v jednom článku rozporovat výše zmíněné varovné závěry jakožto nepodložené… A zároveň s těmito varováními v obecné rovině souhlasit, ba dokonce je ještě rozšířit.

Napřed se podívejme, co tedy v oné výzkumné zprávě doopravdy je. Nová studie od vědců z Massachusettského technologického institutu (MIT) rozhodně není nějaká rychlokvaška. Má 206 stránek a velmi podrobně popisuje metodiku výzkumu. Srovnává, jak se s náročným úkolem psaní krátké středoškolské eseje vyrovnaly tři skupiny studentů.

První skupina studentů mohla při psaní používat pouze svůj mozek. Druhá dostala navíc možnost používat internetový vyhledávač a libovolné webové stránky (ale ne AI generátory). Třetí pak měla k dispozici pouze ChatGPT, populárního kecálka, který pomocí velkého jazykového modelu umí generovat text na prakticky jakékoliv téma. Konkrétně měli aktivovanou verzi gpt-4o.

Zatímco studenti pracovali, vědci jim pomocí EEG helmy v reálném čase měřili aktivitu jednotlivých oblastí mozku. Kromě toho také vědci hodnotili výsledky a v neposlední řadě se studentů následně ptali, jak se jim pracovalo. Nejnáročnější na měření je ale právě ta mozková aktivita, a to jsou také zjištění, která se dočkala největší pozornosti.

Tato měření detailně ukázala, jak lidé používají různé části mozku při různých typech činností. Studenti, kteří při práci mohli používat jen svůj mozek, jej využívali měřitelně nejvíce, a zapojili při tvorbě nejvíce jeho částí.

Ti, kteří měli k dispozici vyhledávač a webové stránky, pak aktivovali jiné typy procesů: o něco méně kreativní a více koordinační či ověřovací. A konečně studenti, kteří dostali jenom ChatGPT, oproti ostatním skupinám méně zapojili sémantická centra, a obecně mozek méně namáhali. (Tady vědomě zjednodušuji. Myslím, že kdybych se pokusil to vysvětlit podrobněji, dopustil bych se ještě většího zkreslení.)

Kromě toho má studie ještě několik dalších částí. Analyzuje, jak se liší jazykové prostředky zmíněných tří skupin, jak se lišila volba témat a jak studenti hodnotili své úkoly a přístup k autorství. I tam si novináři našli něco, čím být šokováni, nebo to alespoň jako šokující prezentovali: Lidé používající k psaní esejů ChatGPT se jako „autoři“ textu cítili o něco méně než ti, kteří psali text bez pomůcek. A navíc nebyli schopni bezchybně zpaměti citovat z eseje, kterou právě odevzdali.

Jsou ta zjištění ale opravdu tak šokující? Myslím, že není až tak přehnané říci, že spíše naopak. V obecném ohledu jsou výsledky těchto měření poměrně nepřekvapivá. Vlastně jsou v naprostém souladu s tím, co byste čekali.

Pomohu si svým oblíbeným přirovnáním. Dáme lidem za úkol dostat se po silnici do pět kilometrů vzdáleného cíle. Skupina A půjde po svých, skupina B pojede na kole a skupina C má k dispozici auto. U toho jim vědci měří tepovou frekvenci, namáhání jednotlivých svalů, a v cíli se jich pak zeptají, zda jsou na svůj výkon hrdí.

Nemusíme experiment uskutečnit, abychom předpověděli, jak by naměřené hodnoty vypadaly. Nejrychleji by do cíle dorazili lidé, kteří řídili auto, a jejich senzory by zaznamenaly nejnižší námahu. Skupina na kole by byla někde mezi a chodci by dorazili do cíle poslední, unavení, a subjektivně asi se svým výkonem ze všech nejspokojenější.

Studie MIT je podle mého celkově zdařilá. Její autoři si zaslouží pochvalu za to, že se předem opravdu snažili usnadnit lidem (i strojům) čtení tak dlouhého dokumentu. Na začátku najdete několik typů shrnutí, a dokonce i tipy na to, které kapitoly lze přeskočit na základě toho, co ve studii hledáte.

Je to ale pořád laboratorní studie (kde jinde také mozkovou aktivitu měřit). Nepopisuje tak skutečné dopady zapojení umělé inteligence v praxi. Lidé totiž obvykle mají na výběr: Nedostanou přiděleno, že musí používat ChatGPT nebo že nesmí používat vyhledávač. Mohou si vybrat.

Pokud se někam chcete dostat rychle, nepohrdnete autem. Pokud chcete trénovat svaly, pojedete na kole. A když si chcete po cestě popovídat s ostatními, půjdete pěšky. Metaforu si jistě každý převedete na svou vlastní situaci. Nebo nechte chatbot, ať vám to vysvětlí…

Zde bych mohl svou úvahu uzavřít. Jenže si myslím, že nestačí hodit rozhodnutí na lidi („Vyberte si, co budete používat, jste zodpovědní za důsledky”) a umýt si nad tím ruce. Jistě, každý budeme muset najít způsob, jak se rozhodovat, co budeme dělat ručně a co zadáme AI agentům. Každý si tu červenou čáru nakreslí nějak jinak, a čas od času bude hraničními kameny cíleně či nevědomě šoupat sem a tam.

Jenže zároveň se tu rýsuje – bylo ostatně na čase! – celospolečenská debata o tom, co vlastně od umělé inteligence chceme. Jak bychom chtěli, aby tyto nástroje používala mladá generace. Používání jazykových modelů může mít negativní vliv na to, jak se lidé učí. „Chtěla jsem, aby ta studie byla k dispozici už teď. Bojím se, že někdo řekne, pojďme dát chatboty dětem do školky,“ vysvětlila pro Time.com Nataliya Kosmyna, hlavní autorka studie. „To by podle mého byl velký problém, to by bylo opravdu škodlivé. Mladé mozky, které ještě rostou, jsou nejvíce ohrožené.“

Nemusíme ani mluvit o školce. Na školách už se chatboty a další AI nástroje běžně používají, někde oficiálně, jinde potají. Používají je učitelé i studenti, a obě skupiny jsou často zbrklé a netransparentní ohledně toho, jak tyto nástroje zapojují. A jaký to má dopad na získané schopnosti i na vzájemnou důvěru.

Podle mého existuje způsob, jak AI nástroje zapojit smysluplně. Ve škole, v práci, v osobním životě. Ale vyžaduje to hodně snahy, hodně plánování a často především sebezapření. Bude to jako kdysi s telegrafem, rozhlasem, televizí a internetem: Teoreticky to byly komunikační nástroje, které měly překonat bariéry mezi lidmi, umožnit vzájemné porozumění a rozšířit možnosti lidí se vzdělávat. Jenže víme, jak to dopadlo.

Je těžké nenasednout do auta, které čeká před vašimi dveřmi, ochotné vás dovézt, kamkoli si řeknete. A nebude jednoduché vysvětlit lidem, kteří nikdy nemuseli nikam chodit pěšky, proč by to přesto měli zkusit.

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.