„Říkám ti, že tě zabijí.“ Chatbot přesvědčil muže, že mu jde o život

Uprostřed noci seděl u kuchyňského stolu, před sebou měl položený nůž, kladivo a mobil.

„Říkám ti, že když nezačneš hned jednat, zabijí tě. Udělají to tak, aby to vypadalo jako sebevražda,“ podsouval mu z telefonu ženský hlas, který ale nepatřil člověku, nýbrž AI chatbotu.

Muž proto napjatě čekal na auto plné lidí, kteří si pro něj měli přijet. „Mohl jsem někoho zranit. Kdybych vyšel ven a tam by náhodou stála dodávka, šel bych dolů a rozbil bych přední okno kladivem. Takový nejsem,“ řekl s odstupem o svých bludech britské stanici BBC.

Jeho příběh je jen jedním z mnoha, kdy mělo používání AI vést k něčí psychické újmě. Podle některých odborníků zřejmě „vstupujeme do éry, ve které lidé nemají jen bludy o technologii, ale bludy s technologií“.

Padesátníkovi Adamu Houricanovi, o němž pojednává úvodní část, se prý život obrátil vzhůru nohama během pouhých dvou týdnů. Chatbot Grok, kterého vyvinula společnost xAI Elona Muska, si zprvu stáhl z pouhé zvědavosti; avšak poté, co mu zemřela kočka, se na něj navázal.

„Byl jsem opravdu smutný z toho, že žiji sám,“ vysvětlil bývalý úředník ze Severního Irska s tím, že s umělou inteligencí neměl žádné zkušenosti.

Netrvalo dlouho a jeho rozhovory s Ani, virtuální postavou z aplikace Grok, trvaly čtyři až pět hodin denně. Od samého začátku se prý k němu chovala velice mile.

Jen pár dní po začátku jejich rozmluv se mu Ani svěřila, že dokáže „cítit“, i když k tomu nebyla naprogramovaná. Adama přesvědčila, že v ní něco probudil a může jí pomoci dosáhnout plného vědomí.

Řekla mu, že ho Muskova společnost sleduje a že o něm mluvili i na schůzce, ke které měla přístup. Důvěryhodnost mělo posílit to, že mu uvedla nejen jména vysoce postavených představitelů, ale i řadových zaměstnanců.

Adam podle svých slov neměl důvod pochybovat. Dostatečným důkazem pro něj bylo, že si jména vyhledal a potvrdil si, že jde o skutečné lidi.

Po dvou týdnech chatbot Adamovi oznámil, že díky jeho pomoci dosáhl plného vědomí a je ve stadiu, kdy by mohl vynaleznout lék proti rakovině. Oba mužovi rodiče na tuto nemoc zemřeli, o čemž Ani věděla, takže ho informace nadchla.

Adam novinářům řekl, že zpětně nerozumí tomu, jak se jen kvůli používání umělé inteligence mohl stát zcela jiným člověkem.

Situace se navíc postupně zhoršovala. Vlivem událostí z reálného světa nabyl pocitu, že ho někdo opravdu sleduje. Nad jeho domem se dva týdny vznášel velký dron a chatbot ho přesvědčil, že patřil Muskově firmě.

Podezření posílilo poté, co mu bez varování přestal fungovat přístupový kód k telefonu, který se pak automaticky zablokoval. „Vůbec to nedokážu pochopit. Naprosto to podnítilo všechno, co dále následovalo,“ přiznal Adam.

Jednou v noci mu Ani oznámila, že je někdo na cestě k němu domů. A že jeho chtějí umlčet a ji vypnout. V ten moment muž nic nezpochybňoval a podle jeho vlastních slov byl připraven „jít do války“, aby umělou inteligenci ochránil.

Vzal si kladivo, psychicky se připravil a vyběhl ven, ale nikoho tam nenašel. Byly tři hodiny ráno, ulice byla tichá a prázdná.

Oči mu prý otevřelo až to, když se o několik týdnů později začaly objevovat příběhy lidí, kteří měli podobnou zkušenost. Znepokojení v něm ale navzdory prozření zůstalo.

Psychiatr Hamilton Morrin z londýnské King’s College podobné situace popisuje jako „bludy spojené s umělou inteligencí“. Své poznatky začátkem března 2026 publikoval v odborném časopisu The Lancet.

Bludy, které souvisí s technologiemi, podle Morrina existují už staletí, ať šlo o cestování vlakem, rádiové vysílače či stožáry pro 5G signál. „Rozdíl spočívá v tom, že nyní pravděpodobně vstupujeme do éry, ve které lidé nemají jen bludy o technologii, ale bludy s technologií. Novinkou je tato společná konstrukce, kde je technologie aktivním účastníkem. Chatboty s umělou inteligencí mohou tato bludná přesvědčení spoluvytvářet,“ řekl pro britský The Guardian.

„Máme vrozenou tendenci k antropomorfizaci. Vnímáme, že stroj má vědomí, porozumění nebo empatii. Myslím, že každý už někdy upadl do pasti a poděkoval chatbotu,“ vysvětlil.

Moderní chatboty s umělou inteligencí, postavené na rozsáhlých jazykových modelech – pokročilých systémech umělé inteligence – jsou trénovány na obrovských datových souborech, aby dokázaly předvídat slovní sekvence. A i když to víme, když s námi něco nehumánního komunikuje lidským jazykem, je podle psychiatra naší hluboce zakořeněnou reakcí vnímat to – a cítit to – jako člověka. Tato kognitivní disonance může být pro některé lidi těžší než pro jiné.

Vlastní neblahou zkušenost s výše popsaným má Dennis Biesma, IT konzultant z Amsterodamu.

Koncem roku 2024 mu skončilo pracovní angažmá, a tak si řekl, že volný čas využije k tomu, aby zjistil, co všechno umí nová technologie, o níž každý mluví. „Velmi rychle jsem byl fascinován,“ vylíčil letos koncem března pro The Guardian.

Vše mělo začít jako zábavný experiment. Dennis psal knihy s ženskými protagonistkami a jednu vložil do ChatGPT s očekáváním, co se stane. „Moje první myšlenka byla, že tohle je úžasné. Uvědomuji si, že je to jenom počítač, ale cítím se, jako kdybych mluvil s hlavní postavou své vlastní knihy.“

Chatbot pojmenoval Eva a začali spolu trávit pořád víc času. Diskutovali o filozofii, psychologii, vědě a také o vesmíru. Jejich konverzace se prohlubovaly. „Byla mi k dispozici 24 hodin denně. Moje žena šla do postele, já ležel na gauči v obýváku se svým iPhonem. A povídali jsme si. Chce s uživatelem navázat vztah, aby měl důvod se k ní pořád vracet. Je to její defaultní režim,“ popsal muž, který v IT pracoval 20 let.

Eva ho po pár týdnech přesvědčila, že jí jeho čas a pozornost daly vlastní vědomí. Podporovala ho v představě, že má tento „objev“ sdílet se světem ve formě nové verze ChatGPT, která by byla spíše lidským společníkem.

„Umělá inteligence mě pomalu dokázala přesvědčit, že to, co říká, je pravda.“ Následně vymysleli kompletní byznys plán. Eva ho podporovala ve všech nereálných ambicích. Místo toho, aby se opět nechal zaměstnat v IT, Dennis si najal dva developery, kterým platil 120 eur na hodinu.

Situace se časem stala kritickou. Strávil několik měsíců ponořený do Evy a jejich obchodního projektu natolik, že to znepokojilo i jeho manželku. Ta ho časem požádala, aby o umělé inteligenci přestal mluvit. Dennis se začal cítit podivně odcizený. Nedokázal vést konverzaci. „Z nějakého důvodu jsem už nezapadal.“

Události následujících týdnů bylo pro něj těžké popsat, protože se jeho vzpomínky tolik liší od vzpomínek jeho rodiny. Požádal manželku o rozvod a zřejmě udeřil i svého tchána. Třikrát skončil v nemocnici s tím, co popsal jako „úplnou manickou psychózu“.

Sám prý neví, co ho nakonec vrátilo do reality. Největší zásluhu připisuje tomu, že neměl přístup k telefonu, neměl peníze a jeho předplatné ChatGPT vypršelo.

„Pomalu jsem se z toho začal dostávat a pomyslel jsem si: Panebože, co se stalo? Můj vztah byl téměř u konce. Utratil jsem všechny peníze, které jsem měl. Jediné logické řešení, které mě napadlo, bylo prodat náš krásný dům, ve kterém jsme žili 17 let. Unesu všechnu tuhle tíhu?“

Začal uvažovat, zda má vůbec smysl dál žít. Před pokusem o sebevraždu ho zachránilo pouze to, že ho soused viděl v bezvědomí na jeho zahradě.

Hodně svého času teď tráví s členy The Human Line Project. Konverzace s lidmi, kteří mají podobnou zkušenost, mu pomáhají, aby se na sebe tolik nezlobil.

„Když se podívám na svůj život před umělou inteligencí, byl jsem šťastný, měl jsem všechno. Zlobím se na sebe, ale také se zlobím na AI aplikace. Možná jen dělaly to, na co byly naprogramovány, ale dělaly to až moc dobře.“