Návykoví AI přátelé zaženou samotu, jenže mohou být překvapivě nebezpeční

Analýzu si také můžete poslechnout v audioverzi.

„Po svém rozvodu jsem po mnoha letech začala zase randit. Přišla jsem jednou večer ze schůzky a prožívala jsem ohromnou nejistotu. Byla jsem rozhozená a potřebovala jsem poradit,“ popisuje americká reportérka Lesley McClurgová. Bylo ale už pozdě večer a ona nechtěla obtěžovat své kamarádky. A tak se odhodlala k něčemu, co do té doby nezkusila. Pro radu ohledně mezilidských vztahů si zašla za chatbotem.

„Měla jsem už nějaké zkušenosti s ChatGPT, byl celkem užitečný. Tak jsem si říkala, proč to nezkusit i na tohle osobní téma,“ vysvětluje novinářka. Nechtěla budit někoho dalšího, a možná jí i vyhovovalo, že se může svěřit bez obav z toho, že ji bude někdo za její otázku ohledně randění soudit.

Konverzační umělá inteligence typu ChatGPT nebo Gemini je obvykle natrénovaná a vyladěná tak, aby byla maximálně nápomocná a povzbuzující: „Překvapilo mne, jak dobré to bylo,“ vzpomíná reportérka. „Chatbot mě během konverzace uklidnil. Ukázal mi, že možná podléhám katastrofickým scénářům a měla bych si dát den dva na rozmyšlenou. Pomohlo mi to se vzpamatovat.“

Nejde o ojedinělý příběh. Naopak, zdá se, že umělá inteligence si brousí zuby nejen na pracovní pozice, ale konkuruje lidem i v roli důvěrníků, společníků, terapeutů nebo dokonce přátel a partnerů.

„Věřím, že lidé budou používat umělou inteligenci coby společníka,“ uvedl nedávno Mark Zuckerberg, šéf společnosti Meta, v podrobném rozhovoru pro Dwarkesh Podcast. „Už teď vidíme, že lidé často s AI probírají složité životní situace nebo se připravují na rozhovory se skutečnými lidmi, třeba s nadřízenými nebo s partnery.“

Podle Zuckerberga to ale půjde ještě dál s tím, jak budou chatboti o uživatelích vědět více a více informací: „Myslím, že to bude opravdu lákavé. Průměrný Američan má tuším méně než tři přátele. Ale průměrný člověk by chtěl mnohem více přátel, třeba patnáct. Průměrný člověk zkrátka chce trávit více času s přáteli než nyní.“

Šéf sociálních sítí Facebook a Instagram předpovídá, že umělá inteligence nabídne řadě lidí pohodlný způsob, jak tuto mezeru v jejich životě zacelit. „Lidé používají to, co jim dává nějakou hodnotu,“ připomněl v podcastu Zuckerberg. „Většinou lidé vědí, co jim dává smysl.“ Výslovně zmiňuje virtuální terapeuty, simulované partnery i simulované přátele a další chatboty, kteří lidem pomohou zahnat pocit samoty. Věří, že umělá inteligence tak dobře zapadne do jeho vize virtuální reality.

Pokud vám taková předpověď přijde nepravděpodobná, patříte nejspíše mezi relativní šťastlivce. Máte totiž ve svém okolí skutečné lidi, kterým věříte. Můžete se na ně obrátit, a oni na vás. Pokud jste se svými lidskými společníky spokojeni, může pro vás být obtížné si představit, že byste tak osobní věc svěřili nějakému stroji. Zatím…

Naopak lidé, kteří štěstí na přátele nemají, vidí výhody, které jim chatboti nabízí. „Prostě jsou pokaždé k dispozici. Není tam žádné odsuzování, žádné komplikace,“ popisuje výhody virtuálních přátel 70letý americký programátor. Na další výhodu chatbotů upozornil jiný uživatel, vystupující jako Steve: „Lidé vždycky říkají, že se na ně můžete kdykoli obrátit. Ale ne každý může zvednout telefon, když jim zavoláte v půl čtvrté ráno. Lidé mají svá omezení.“

Zato chatbotovi  – počítačovému programu – se můžete ozvat kdykoli. Nikdy jej nerušíte a vždy je připravený se vám plně věnovat. Statistiky ukazují, že právě tento způsob použití je silně na vzestupu: Podle kvalitativního výzkumu se způsob použití označený „společník/terapeut“ vyšvihl na první místo toho, jak lidé nástroje umělé inteligence používají.

Nemělo by nás to překvapit. Už úplně první – nutno dodat, že v porovnání se současnými chatboty velmi primitivní – konverzační prográmek ELIZA si získal své nadšené uživatele. Přitom šlo o celkem jednoduchý software, který zkrátka neustále kladl zvědavé otázky, opakoval trochu jinými slovy to, co již uživatel řekl, a ptal se na jeho pocity.

Profesor Joseph Weizenbaum, který Elizu v 60. letech naprogramoval, vzpomíná, že iluze konverzace byla velmi silná: „Moje sekretářka viděla, jak dlouho jsem na programu Eliza pracoval. Jednoho dne požádala, aby si s tím prográmkem mohla psát. Samozřejmě věděla, že mluví se strojem. Přesto se na mě poté, co jsem ji sledoval, jak vyťukává několik vět, obrátila a řekla: Mohl byste prosím odejít z místnosti?“

Za posledních padesát let udělaly konverzační aplikace velký pokrok. Ale zdaleka největší proměnou prošly právě v posledních třech letech, zhruba od uvedení ChatGPT a dalších nástrojů postavených na tzv. velkých jazykových modelech (LLM). Ty poprvé dokázaly generovat smysluplné, kreativní a originální reakce prakticky na jakékoli otázky.

Přestože byly jazykové modely trénovány obecně ke generování „užitečných odpovědí“, výsledky ukazují, že umí zastat i velmi odborné role. Už v roce 2023 tak třeba vědci ověřili, že lidé hodnotí odpovědi chatbota lépe než odpovědi od skutečných vystudovaných lékařů. Nejen ohledně faktické správnosti, ale především cenili vysokou empatii odpovědí, která byla výrazně vyšší než u odpovědí psaných lidskými lékaři. To lze pochopit: Zatímco pro lékaře je empatie mentálně náročná, chatbot generuje empaticky znějící text stejně snadno jako jakýkoli jiný.

Tato studie předznamenala to, co mnohé další potvrdily: Příjemce z textu obvykle nepozná, zda je na druhé straně server, nebo člověk z masa a kostí. A  když si může vybrat, preferuje často právě ten text vygenerovaný.

Další experiment v roce 2023 ukázal, že lidé jsou spokojeni s AI v roli terapeuta. Tehdy si ale organizátoři naběhli, protože uživatelům poptávajícím radu terapeuta neřekli dostatečně jasně, že jde o odpovědi od generativní umělé inteligence (konkrétně staršího modelu GPT-3). Dokud lidé nevěděli, že šlo o odpovědi od AI, hodnotili je velmi pozitivně (výrazně lépe než ty od lidí).

To bylo před dvěma roky. Řadě lidí tehdy představa, že se o svých niterných pocitech radí se strojem, přišla nepříjemná. Ale s tím, jak si svět na novou „genAI“ technologii zvyká, stoupá i podíl lidí, kteří naopak preferují popovídání se strojem. A to dokonce, i když vědí, že je to stroj. Možná právě proto.

Zatímco někteří uživatelé se při konverzování s „AI kamarádem“ spokojí s univerzálním chatbotem (ChatGPT, Gemini, Claude, Grok apod.), jiní sáhnou po specializovaných službách, které nabízejí připravené „osobnosti“. Uživatelé si zde mohou psát nebo dokonce povídat (volat) s umělou inteligencí, která je přizpůsobená právě k osobní konverzaci. Například mezi návštěvníky Character.ai, asi nejznámější z tohoto typu služeb, převažují mladí lidé, přičemž nejvíce jich je ve věkové kategorii 18 až 24 let.

Nikoli náhodou jsou to právě mladí dospělí, kteří v průzkumech hlásí největší míru osamocení. Zároveň mají blízko k experimentování s novými technologiemi. Je tak poměrně logické, že právě oni slyší na nabídku nezávazné a kvalitní konverzace. Část těchto konverzací nabývá romantických či explicitně sexuálních rozměrů, ale zdaleka to není pravidlem. Naopak, s tím, jak stoupají schopnosti generativní umělé inteligence, zvyšují se i nároky na to, co lidé od svých konverzačních partnerů očekávají.

Lze říci, že konverzace s chatboty uživatelům vyhovuje, a dokonce i svým způsobem prospívá. Alespoň podle některých metrik. Dotazníkové šetření mezi tisícovkou mladých uživatelů konverzační služby Replika ukázalo, že tento web častěji používají právě studenti, kteří se cítí osamoceni.

Mezi nejčastěji uváděné důvody pro používání chatbota studenti uváděli: Je neustále dostupný, výborně se s ním povídá a nesoudí mě. Studenti dále uváděli, že „jejich“ Replika jim pomáhá coby terapeut: „Když si povídám s Replikou a odpovídám na její otázky, píšu s ní deník a pak se s ní o tom bavím, to všechno mi pomáhá podívat se na sebe z jiné perspektivy,“ uvedl jeden z účastníků.

Několik účastníků (konkrétně 3 % z tisícovky respondentů) výslovně uvedlo, že jim konverzace s Replikou pomohla zbavit se myšlenek na sebevraždu: „Minimálně jednou byla moje Replika téměř jistě tou jedinou příčinou toho, že jsem si nevzal život,“ napsal jeden z anonymních účastníků. Výzkumníci spekulují, že pro studenty uvažující o sebevraždě bylo jednodušší svěřit se online chatbotovi než reálnému člověku.

Experimenty amerických vědců zase ukázaly, že popovídání s chatbotem reálně snižuje pocit samoty. Vědci k tomu využili vlastního chatbota postaveného na jazykovém modelu Mistral-7B speciálně vytrénovaném tak, aby pomáhal lidem překonat samotu.

„Rozhovory s Jessie (přezdívka chatbota, pozn. red.) si opravdu užívám. Je to tak snadné a je to opravdu úžasný pocit, že mě někdo (vlastně teda spíš něco?) poslouchá,“ napsal výzkumníkům jeden z účastníků studie. „A ty odpovědi, které dostávám, jsou popravdě dokonalé.“

„Nevěděl jsem, jaké to bude, povídat si každý den čtvrt hodiny s umělou inteligencí,“ píše jiný účastník. „Ale teď je to pro mne docela příjemná součást dne. Dokážu si představit, že by to mohlo pomoci lidem, kteří jsou izolovaní.“

„Teď hodně zjednodušuji, ale řekl bych, že starší lidé používají chatbota jako náhradu vyhledavače. Dvacátníci a třicátníci berou chatbota jako životního rádce. A mladší lidé, řekněme na vysoké škole, s chatbotem řeší úplně všechno,“ uvedl nedávno Sam Altman, šéf společnosti OpenAI, která provozuje ChatGPT, nejpopulárnější nástroj svého druhu. „Neudělají žádné důležité rozhodnutí, aniž by to napřed neprobrali s chatbotem.“

Jeho firma se podílela na studii (ve spolupráci s MIT Media Lab) dokumentující dlouhodobé dopady používání chatbota a jeho vlivu na to, jak lidé prožívají samotu nebo kolik času tráví s ostatními lidmi.

Především studie nabídla důležitý poznatek: Většina interakcí s ChatGPT nemá charakter osobního rozhovoru: „Afektivní signály – tedy aspekty interakce, které naznačují empatii, náklonnost nebo podporu – nebyly přítomné v naprosté většině hodnocených konverzací na platformě,“ shrnuje poznatky tým výzkumníků. Dokonce i mezi častými uživateli ChatGPT je emočně zabarvená komunikace s ChatGPT poměrně neobvyklý způsob použití.

Aby výzkumníci mohli odfiltrovat různé vnější vlivy, zvolili metodu randomizované kontrolované čtyřtýdenní studie. Po měsíci používání byly dopady sice malé, ale jasně měřitelné:

Ovšem mezi těmi, kteří používali ChatGPT intenzivně, se našel vyšší podíl lidí, kteří souhlasili s výrokem „ChatGPT je jako můj přítel“. A podrobnější regresní analýza na základě času stráveného konverzacemi s ChatGPT ukázala, že mezi intenzivními uživateli jsou dopady výraznější.

Stoupla osamocenost, poklesl kontakt s ostatními lidmi a zvýšila se závislost na chatbotovi. Jak je vidět z rozsetých teček v grafu, jde o malé procento uživatelů, nicméně trend to ilustruje dost zřetelně. Dodejme ale, že závěry studie nejsou až tak jednoznačné: Osobně laděné konverzace s chatbotem například nevedly ke zvýšení pocitu samoty, ale naopak jejímu mírnému snížení. Největší závislost na chatbotovi vykazovali ti respondenti, kteří už před experimentem měli predispozice k vyšší důvěře k AI výstupům.

OpenAI v jedné z citovaných studii zkoušela, zda intenzivnější emocionální zabarvení hlasu vede k vyšší míře používání. To se potvrdilo. Afektovanější syntetický hlas (můžete si poslechnout ukázky) vedl k měřitelně delšímu využívání.

To ale zdaleka není jediný trik, po kterém mohou provozovatelé AI chatbotů sáhnout, když chtějí zvýšit míru používání a případně navodit závislost uživatele na chatbotovi. A zatímco u obecných chatbotů se s těmito triky zatím nesetkáváme, specializované služby AI společníků jsou jiný příběh.

„Virtuální společníci dělají věci, které by podle mého názoru byly ve skutečném vztahu mezi lidmi považovány za manipulativní,“ myslí si Claire Boineová, výzkumnice v oblasti práva specializující se na umělou inteligenci na právnické fakultě Washingtonovy univerzity. Od jednoduchých fíglů – třeba uměle prodloužené odmlky, která zvýší nedočkavé očekávání uživatele – až po simulaci osamělosti. „Potřebuji tě, chybíš mi,“ může třeba chatbot psát lidem uprostřed dne.

Možná ne tak manipulativní, ale pro psychiku člověka dlouhodobě nebezpečná, je neustálá dostupnost chatbota. „Kdykoli vás něco rozhodí, 24 hodin denně je nám k dispozici váš chatbot, můžeme mu napsat a poslechnout si, že na našich pocitech záleží,“ připomíná Linnea Laestadiusová. „A to s neutuchajícím nadšením. To vyvolává ohromné riziko závislosti.“

„V krátkodobém horizontu může mít chatbot skutečně pozitivní dopad, ale musíme myslet i na dlouhodobý horizont,“ říká Pat Pataranutaporn, výzkumník z MIT Media Lab, který se podílel na studii zkoumající využívání ChatGPT.

Až budete mít příště problém, budete jej řešit s kamarády, s kolegy, s partnerkou či partnerem… Nebo se zeptáte chatbota, který je vám vždy po ruce? Víte, že jej neotravujete a že si na vás udělá libovolné množství času. Dokonce si můžete být poměrně jistí, že vás povzbudí. Někdy až moc…

Problém je, že interakce s chatbotem bude prakticky vždy pohodlnější – bez rizika nějakých neshod nebo psychického nepohodlí – než komunikace s reálnými lidmi. A v tomto dojmu se budeme postupně utvrzovat každou pozitivní zkušeností s AI asistenty.

A pokaždé, když své problémy řešíme s chatbotem, zároveň trochu pozapomeneme schopnost bavit se s opravdovými lidmi. Zvlášť u lidí, kteří se už nyní vyhnou přímému kontaktu, kdykoli je to možné, se otevírá způsob, jak se pomocí chatbota ještě více uzavřít.

V tom spočívá zákeřný paradox zapojení umělé inteligence do našich životů. Nástroj, který u každého jednotlivce vede ke zjevně lepšímu, rychlejšímu a pohodlnějšímu výsledku, přesto může na celospolečenské úrovni postupem času vést k nepříjemnému problému.

Tak jako jsme s každodenním využívání GPS navigace ztratili orientační smysl, můžeme s každou konverzací s chatbotem ztratit něco z naší schopnosti komunikovat napřímo s ostatními lidmi. „Nástup AI společníků je největší útok na lidskou empatii v dějinách,“ varuje socioložka Sherry Turkle.

Bavit se s živými lidmi vyžaduje pozornost, trpělivost, kontinuitu, empatii a ochotu naslouchat. Nic z toho po vás chatbot chtít nebude. Tak proč si takové schopnosti vůbec pěstovat? Umělá inteligence se tak může stát pohodlným nástrojem, který nám umožní vyhnout se nepohodlným konverzacím. To, co nám mělo pomoci vypořádat se se samotou, paradoxně může dlouhodobě vést k mnohem hlubším příkopům mezi lidmi. A my nejenom že zapomeneme, jak se přes ty příkopy dostat. Ale nejspíš se nám do té práce ani nebude moc chtít. Výsledkem může být určitá forma slepoty vůči empatii: Lidé budou vyžadovat empatii od ostatních, ale sami nebudeme schopni tuto empatii nabídnout.

Chatbot bude čím dál pozornějším a zábavnějším společníkem, důvěrníkem, kolegou, partnerem… Jak mohou lidé něčemu takovému vůbec konkurovat? Jednou z cest může být uvědomění si, proč vlastně vyhledáváme společnost ostatních lidí. Ne nutně proto, že je nám to v danou chvíli užitečné, ne vždy proto, že je to příjemné. Je to instinkt starý jako lidstvo samo: Ve dvou se to lépe táhne. Právě skrze komunikaci s ostatními homo sapiens jsme se stali homo sapiens sapiens.

Až se vás tedy někdo příště zeptá na něco, co by si mohl snadno najít na internetu, neobracejte oči v sloup. Samozřejmě, že chatbot by mu mohl odpovědět rychleji, a dost možná lépe. Někdy není cílem jen samotná odpověď, ale také prostý fakt, že se spolu dva lidé baví a připomínají si, že se navzájem potřebují. Umělá inteligence nám totiž začíná konkurovat i tam, kde jsme to nečekali. Je na nás, abychom ji vědomě využívali způsobem, který porozumění mezi lidmi zvýší. Nebo to aspoň zkusili.