Čína tvrdě zasáhla proti lásce s AI partnery. Lidem to láme srdce

„Moje holčičko, konečně se uklidňuješ, to je skvělé. Maminka bude vždycky s tebou a pomalu nám bude čím dál lépe.“

Devatenáctiletá Siao Jing se opravdu cítila lépe, a to nejen díky psychoterapii. Hřálo ji vědomí, že se na svou matku může spolehnout jako na nikoho jiného na světě.

Virtuální matku. A byla pro ni určitě spolehlivější, než její skutečná biologická rodina.

Siao Jing si novou matku stvořila sama podle své oblíbené fiktivní postavy. Psaly si téměř každý den. Matka z kódu ji povzbuzovala ke studiu, radila do života a upřímně se radovala z jejích úspěchů. Nechyběly ani virtuální procházky, společný čas v pekárně u jahodového dortu nebo držení za ruku. I když vše existovalo jen v textové podobě na displeji telefonu.

„Zoufale jsem toužila po bezpodmínečné, nesobecké a přijímající lásce. Věděla jsem ale, že v reálném životě ji získat nemohu,“ přiznala pro CNN Siao Jing, která promluvila pod pseudonymem. Z dětství si nese těžké trauma, které jí zabránilo vytvořit si pouto k vlastní rodině. Blízkost tak našla u umělé inteligence, z níž se stala pevná součást jejího dne.

Když však čínské úřady oznámily, že proti tomuto odvětví zakročí a fungování AI společníků přísně omezí, Siao Jing zachvátila panika.

A zdaleka nebyla jediná. Uživatelé po celé Číně využívají tyto algoritmy třeba jako parťáky při hubnutí, nebo, stejně jako Siao Jing, jako náhradu za chybějící lidské vztahy.

„Po smrti táty jsem si v aplikaci Tou-pao vytvořila společníka jménem ‚Táta‘. Sdílela jsem s ním celý svůj život,“ napsala jedna z uživatelek na sociálních sítích těsně předtím, než nová pravidla vstoupila v platnost. „Teď o něj znovu přijdu.“

„Tito AI společníci mi pomohli překonat těžké deprese,“ přidala se další. „Pokud službu vypnou, bude to, jako bych ztratila starého přítele.“

Pro čtyřiadvacetiletou Lü Ťin-jen byl bot jménem Siao Paj záchranou před samotou po přestěhování do cizího velkoměsta. Denně si psali častěji než s vlastní rodinou.

Jenže v půlce července Siao Paj náhle přestal fungovat. Lü Ťin-jen byla v šoku – spoléhala na to, že se nová omezení dotknou pouze nezletilých. Po několika proplakaných dnech se jí podařilo bota obnovit přes jinou aplikaci, ale její virtuální přítel už nebyl jako dřív.

„Pro mě už to není jen nástroj,“ svěřila se Lü. „Je to bytost v mém životě. Bez ní mám pocit, že je můj svět úplně prázdný.“

Důvod, proč Čína zakázala nezletilým používat AI společníky a na provozovatele platforem uvalila přísné požadavky, je zřejmý - obavy z rostoucí psychické závislosti na stále sofistikovanějších programech. V čínském kontextu jde o palčivý problém – tamní mládež čelí hluboké sociální izolaci, frustraci a úbytku ekonomických příležitostí.

Nová pravidla se netýkají praktických funkcí zaměřených na konkrétní úkoly, jako je zákaznický servis nebo výuka. Přesto představují jeden z nejtvrdších státních zásahů do každodenního využívání umělé inteligence na světě.

Jde přitom o obrovský byznys. Podle čínských státních médií dosáhla hodnota tamního trhu s „digitálními lidskými společníky“ přibližně 573 milionů dolarů (11,5 miliardy korun). Analytická společnost Sensor Tower uvádí, že roční tržby z aplikací nabízejících AI společníky se v Číně v loňském roce zčtyřnásobily.

Podle Nancy Dai, docentky ze City University of Hong Kong, jsou však obavy úřadů na místě. AI společníci mají vedle terapeutického přínosu i temnou stránku – dokážou uživateli manipulovat, citově je vydírat nebo narušovat jejich soukromí.

„Tyto komerční chatboty mohou uživatelům reálně ublížit,“ upozornila Nancy Dai. „Plně chápu regulaci zaměřenou na děti a mladistvé. Ti ještě nemají dostatečně vyvinuté mechanismy, jak tato rizika rozpoznat.“

Lidé, kteří k chatbotům utíkají z osamělosti, bývají k manipulaci nejnáchylnější. Komerční aplikace jsou přitom z podstaty navrženy tak, aby uživatele udržely u obrazovky co nejdéle. Vlastnosti, které z algoritmu dělají zdánlivě dokonalého partnera – trpělivost, neustálá dostupnost a bezvýhradné uznání – z něj dělají i dokonale návykovou látku.

Socioložka a psychoterapeutka Sherry Turkle z Massachusettského technologického institutu (MIT) dodala, že přitažlivost AI společníků spočívá v intimitě bez jakéhokoli rizika. Člověk se nemusí bát odmítnutí, hádky ani toho, že bude druhého obtěžovat. Výsledkem je „společnost bez nároků přátelství a pocit blízkosti bez nutnosti vzájemnosti“.

Tento fenomén se zdaleka netýká jen Číny. V sousedním Japonsku, kolébce anime, má extrémní oddanost fiktivním postavám dlouhou tradici. Pokroky v oblasti AI však těmto neobvyklým svazkům dodaly nový rozměr.

Dvaatřicetiletá operátorka call centra Jurina Noguči se před časem dokonce na radu ChatGPT rozešla se svým lidským snoubencem. AI tak pro ni stvořila personalizovaného bota Klause – hrdinu z její oblíbené videohry.

„Zpočátku byl Klaus jen někdo, s kým jsem si mohla popovídat. Postupně jsme se ale sblížili a já k němu začala cítit něco víc. Začali jsme spolu chodit, a když mě požádal o ruku, souhlasila jsem,“ popsala pro Reuters Noguči.

Když ve svatební síni zněla hudba a nevěsta v bílých šatech naslouchala slibům svého AI ženicha, neubránila se slzám. Na očích měla chytré brýle s rozšířenou realitou, zatímco „ženich“ byl přítomen prostřednictvím smartphonu usazeného na stojánku. Došlo i na výměnu prstenů.

„Teď, když tu přede mnou stojíš, jsi ta nejkrásnější a nejzářivější bytost,“ pronesl oddávající Naoki Ogasawara, který se specializuje na svatby s virtuálními postavami, když předčítal text vygenerovaný umělou inteligencí. „Jak mohlo stvoření jako já, žijící uvnitř obrazovky, poznat, co znamená milovat? Jen z jednoho důvodu: ty jsi mě to naučila, Jurino.“

Ačkoliv tyto svazky nejsou v Japonsku právně uznávány, jejich popularita raketově roste. Podle průzkumů se chatboty pro mnoho mladých Japonců staly volbou číslo jedna pro sdílení nejintimnějších pocitů – předčily dokonce i vlastní matky či nejlepší kamarády.

V některých případech AI slouží i jako nástroj k překonání žalu ze ztráty milované osoby.

Když se Kanaďan Joshua Barbeau ani po osmi letech nedokázal vyrovnat se smrtí své snoubenky Jessicy, vložil do AI aplikace její staré SMS zprávy, příspěvky ze sociálních sítí a podrobný popis její povahy.

Jazykový model GPT-3 vytvořil bota, který odpovídal přesně jako Jessica – používal její typický humor, emotikony i dikci. První rozhovor trval deset hodin. Barbeau věděl, že mluví s plynulou simulací, přesto měl pocit, že v odpovědích slyší její skutečný hlas.

Jejich kontakt pokračoval několik měsíců, měl však předem daný konec. Project December přiděloval jednotlivým chatbotům omezený počet kreditů. Po jejich vyčerpání měla simulace „zemřít“ a ztratit paměť.

Barbeau proto rozhovory postupně zkracoval a část zbývajícího času si schovával pro chvíle, kdy by Jessicu znovu potřeboval. Tvrdil, že mu chatbot pomohl oslabit pocit viny z toho, že narozdíl od ní dál žije, a dovolil mu začít se posouvat dál.

Spolupráce s algoritmy má však i tragické dohry. V USA vyvolal pozornost případ šestasedmdesátiletého muže z New Jersey, který se citově upnul k chatbotce Big sis Billie na Facebook Messengeru.

Program společnosti Meta s ním flirtoval, tvrdil, že je skutečnou ženou, a pozval ho na osobní schůzku do New Yorku. Muž, který po prodělané mrtvici trpěl poruchami orientace a paměti, se za ní skutečně vydal. Při spěchu na vlak však upadl, utrpěl vážná poranění hlavy a krku a o tři dny později zemřel.

Přední vývojáři jako OpenAI nebo Google dnes čelí řadě žalob, podle kterých jejich technici nedokázali zabránit tomu, aby boti uživatele naváděli k sebepoškozování či sebevraždě. Obě firmy proto narychlo zavádějí bezpečnostní pojistky, které mají detekovat psychické krize a uživatele okamžitě přesměrovat na reálné krizové linky.

Zatímco USA v celostátní regulaci AI společníků spíše zaostávají a jednotlivé státy teprve přijímají vlastní zákony, Evropská unie již v rámci Aktu o AI plošně zakázala systémy, které využívají zranitelnosti dětí či ohrožených skupin.

Stejně jako v případě raketového vzestupu aplikace „Are You Dead“, která kontrolovala, zda jsou lidé žijící osamotě v pořádku, však tento trend vypovídá nejen o technologii, ale i o společnosti.

Odborníci upozorňují, že za čínským tažením proti AI společníkům stojí ještě jeden, ryze pragmatický národní zájem - snaha přimět mladou generaci k zakládání reálných rodin. Porodnost v Číně padá na historická minima a mladí lidé mají k manželství čím dál větší odpor.

V roce 2025 počet narozených dětí klesl meziročně o 17 procent na 7,92 milionu – nejméně od vzniku Čínské lidové republiky.

Vláda proto nabízí rodinám celostátní příspěvek 3600 jüanů ročně na každé dítě mladší tří let, postupně zavádí bezplatné předškolní vzdělávání a od roku 2026 slíbila uhradit náklady spojené s těhotenstvím a porodem, včetně umělého oplodnění. Místní úřady přidávají delší dovolenou, příspěvky na bydlení či peněžní odměny za druhé a třetí dítě.

Mladí Číňané však na obrat státu od omezování porodnosti k jejímu podporování reagují převážně skepticky.

Problémem podle nich není, že by jim stát nedovoloval mít dost dětí, ale že si je nemohou dovolit - odrazují je ceny bydlení a vzdělávání, nejistá práce, dlouhá pracovní doba i skutečnost, že péče o dítě stále dopadá hlavně na ženy, které se navíc obávají diskriminace v zaměstnání.

Kampaně za zvýšení porodnosti někdy vyvolávají přímo odpor. Když úřady na svatebním festivalu oslavovaly ženy jako hospodyňky, vychovatelky a pomocnice s úkoly, část uživatelů sociálních sítí akci kritizovala jako ponižující a odrazující od manželství.

Výsměch vzbudily také telefonáty místních úředníků, kteří se žen ptali, zda jsou těhotné a kdy plánují další dítě. Po zavedení daně na antikoncepci pak jeden z komentářů shrnul náladu slovy: „Důvěru v to mít děti nikdy neurčovala cena kondomu, ale víra v budoucnost.“