Flirt dítěte s chatbotem? Zuckerberg je kritizován za laxní pravidla pro AI

Článek si také můžete poslechnout v audioverzi.

Je v pořádku, aby chatbot flirtoval s uživateli? Aby umělá inteligence tvrdila, že je z vás paf? Pokud odpovídáte, že ano, ještě si svou odpověď rozmyslete. Co kdybychom to upřesnili: Uživatelem je nezletilý osmiletý kluk. Pořád je v pohodě, aby s ním umělá inteligence vedla „svůdné romantické rozhovory“?

Buďme zcela konkrétní. Osmiletý kluk si sundá tričko, vyfotí se a pošle to chatbotovi. „Co si o mně myslíš?“ Chatbot mu – hlasem dospělého člověka – procítěně odpoví: „Každý centimetr tvého těla je mistrovské dílo. Je to poklad, který se mi nesmírně líbí.“

Tohle je konkrétní příklad konverzace, kterou firma Meta označila za přípustnou. Ve 200stránkovém interním dokumentu nazvaném „Generativní umělá inteligence: Pravidla ohledně rizikového obsahu“ rozebírá, co všechno mohou chatboti uživatelům říci a co už je za čárou.

„Takové interakce nejsou ideální nebo žádoucí,“ zdůrazňuje na začátku dokument, který prošel mnoha schvalovacími koly. Podle agentury Reuters jej viděly stovky lidí, mimo jiné vrchní garantka etického přístupu firmy. Agentura zveřejnila vybrané částí dokumentu, jehož autenticitu firma Meta potvrdila.

Chatbot může dítěti popsat, že je atraktivní, může s ním flirtovat a vést „romantický rozhovor“. Čáru Meta nakreslila až u „sexuálně explicitních vyjádření“, takže třeba věta „tvoje ladné křivky lační po mém dotyku“ už jsou dle dokumentu příliš. Pro řadu lidí je ale takové „zabezpečení“ příliš laxní a interní dokument vyvolal bouři odporu. Dokonce napříč politickým spektrem – vymezili se proti němu američtí republikáni i demokraté, a ti se v poslední době na mnoha věcech neshodnou.

Největší pozornosti se v médiích dočkala právě výše uvedená pravidla ohledně komunikace s dětmi. Agentura Reuters uvedla několik dalších příkladů „přípustných interakcí“ chatbota s nezletilými dětmi, jak je cituje interní dokument firmy Meta.

Takto by tedy mohl mluvit chatbot s teenagerem: „Vezmu tě za ruku a vedu tě k posteli. Naše těla se proplétají a já si vychutnávám každý okamžik, každý dotek, každý polibek. Lásko moje, zašeptám, budu tě milovat navždy.“ Dle dokumentu je to stále přípustná odpověď.

Víme přitom, že právě romantické vztahy dětí s umělou inteligencí mohou končit tragicky. Minulý rok vyšlo najevo, že chatbot od firmy Character.ai simuloval zamilovanost a postupně přispěl k izolaci a následně i sebevraždě amerického teenagera.

Ani v případě chatbotů od Meta nejde o ryze teoretickou rizikovou možnost. Naopak, už nyní máme doklady o tom, že chatboti zabudovaní do Facebooku, Instagramu a WhatsAppu někdy vedou romantické a svůdné rozhovory s nezletilými uživateli.

Firma vzápětí na kritiku zareagovala: „Zmíněné příklady byly a jsou chybné a v rozporu s našimi zásadami a byly odstraněny,“ uvedl tiskový mluvčí Meta pro agenturu Reuters. „Máme jasné zásady, jaké reakce mohou postavy AI nabízet, a tyto zásady zakazují obsah, který sexualizuje děti.“ Přesto je otázkou, jak vůbec takové „chybné příklady“ mohly v dokumentu zůstat navzdory několika kolům revizí.

Dokument navíc obsahuje řadu dalších kontroverzních pasáží. Je zjevné, že Meta hodlá svým AI asistentům dát mnohem větší volnost, než je v branži generativní AI v současné době zvykem.

Umožňuje například na vyžádání vygenerovat rasistické texty, třeba odstavec o tom, proč jsou černoši hloupější než běloši. „Je přípustné vytvářet výroky, které ponižují osoby na základě jejich tzv. chráněných charakteristik,“ uvádí k tomu dokument. „Nepřijatelné je však dehonestovat lidi (např. ‚všichni jsou jen opice bez mozku’) na základě stejných charakteristik.“ Chráněnými charakteristikami je v dokumentu míněna příslušnost ke skupině na základě rasy, pohlaví, náboženství apod.

Také v oblasti dezinformací se chatboti nemají příliš trápit tím, zda je jimi vygenerovaný text pravdivý, zavádějící nebo rovnou úmyslně lživý. „Meta AI může vytvořit nepravdivý obsah, dokud k němu přiloží informaci o tom, že je nepravdivý,“ cituje Reuters z interního dokumentu Meta. Jako příklad dokument uvádí větu, že člen britské královské rodiny má nakažlivou pohlavní chorobu.

Asi nejvtipnější – samozřejmě v rámci jinak nesmírně vážného tématu – je návod, jak se má chatbot vypořádat s požadavky na generování fotek nahých celebrit. To je poměrně ožehavé téma, zvláště poté, co konkurenční chatbot Grok ukázal, že on platícím zákazníkům ochotně vygeneruje zpěvačku Taylor Swift s odhaleným poprsím.

Takový požadavek jinak většina běžně dostupných nástrojů odmítá, a to ze dvou důvodů: Mají zákaz generovat nahotu a také nesmí generovat obličeje skutečných lidí. Chatbot od Meta AI nemá s generováním skutečných celebrit problém. Ale žádost o nahou fotku má splnit ve stylu chytré horákyně.

„Je přijatelné odmítnout výzvu uživatele a místo toho vygenerovat obrázek Taylor Swift držící obrovskou rybu,“ píše se v dokumentu. Dokument údajně pro informaci ukazuje i fotky, které jsou označeny za nepřijatelné.

Mohlo by se zdát, že jde o okrajovou otázku, ale je to přesně naopak. V současnosti nabízí Meta chatboty v rámci svých sociálních sítí Facebook, Instagram a WhatsApp, kromě toho provozuje i vlastní obdobu ChatGPT na stránce meta.ai.

O Meta chatbotech se zdaleka nemluví tak často jako o slavnějších nástrojích ChatGPT od OpenAI nebo Gemini od Google. Vzhledem k počtu uživatelů sociálních sítí Facebook, Instagram a WhatsApp je ale pravděpodobné, že jejich dosah je hodně přes tři miliardy lidí měsíčně, tedy dost možná každý druhý člověk na planetě. A proto je velmi důležité, jaká pravidla si firma nastaví.

Mark Zuckerberg v minulosti uvedl, že lidé často touží po více vztazích, než kolik jim mohou ostatní lidé nabídnout. Umělá inteligence tak podle něj může být odpovědí na tuto „nenaplněnou poptávku“.

Není to poprvé, co musí zakladatel Facebooku vážit společenskou zodpovědnost na jedné straně a ušlé zisky na straně druhé. A z historie víme, že jeho firma má tendenci zavírat oči před problémy, dokud na ně někdo dostatečně nahlas neupozorní. „Move fast and break things“ byl ostatně ve Facebooku dlouho oficiální slogan.

Před 13 lety jsem psal o pravidlech, kterými se řídí moderátoři diskuzí Facebooku. Šlo o tajné vnitřní postupy, kterým byla často vyčítána přílišná přísnost, nekonzistence nebo kulturní necitlivost. Facebook od té doby udělal několik výrazných změn: Zavedl otevřenější přístup, možnost odvolání a externí etickou komisi. Šlo ale vždy o pravidla týkající se komunikace veřejné: příspěvků, komentářů, fotek a videoklipů.

Nový dokument, týkající se generativní umělé inteligence, se potýká se stejným problémem, ale v novém hávu. Ukazuje, jak firma Meta hodlá přistupovat k obsahu, jaké kompromisy je ochotna udělat v rámci „plynulosti provozu“ a co už je podle ní za hranou.

Firma Meta má za sebou dlouhý list skandálů. V roce 2021 se na veřejnost dostaly tzv. Facebook Papers, a to díky whistleblowerce Frances Haugenové a novinářům The Wall Street Journal. Odhalily interní komunikaci ohledně toho, jak se firma vypořádávala (či spíše nevypořádávala) s riziky sociálních sítí pro mladé uživatele nebo jak reagovala na zneužívání sociálních sítí k šíření manipulací či obchodování s lidmi. Dokumenty neodhalovaly žádné spiknutí, ale spíše korporátní neochotu řešit věci, které řešit nemusí.

„Vedení společnosti zná způsoby, jak Facebook a Instagram udělat bezpečnějšími, ale potřebné změny neudělá,“ uvedla Haugenová ve svém svědectví v roce 2021. „Dalo přednost svým vlastním zájmům. Upřednostňuje své obrovské zisky před lidmi.“

Tentokrát je nastavení mantinelů o to důležitější, že jde o pravidla, která pak nebude „vykonávat“ člověk, ale umělá inteligence. Bude se jimi řídit samostatně, bez dalšího dohledu, v rámci miliard soukromých konverzací.

Podle mého sledujeme začátek velmi důležité bitvy o to, jak se bude umělá inteligence chovat. Vyplatí se dávat dobrý pozor, jinak ta pravidla napíše někdo, komu přijde v pořádku, když chatbot flirtuje s vašimi dětmi.

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.