Článek
Americká technologická společnost xAI Elona Muska čelí žalobě, že její chatbot Grok používá vizuální materiály zobrazující sexuální zneužívání dětí na trénování vlastní funkce generování obrázků.
Jak uvádí na technologie zaměřený server Ars Technica, žalobu podala žena, kterou média jmenují jako jen Jane Doe, což je jméno používané u případů, kdy aktér sporu či soudu má zůstat anonymní. Jane Doe ve ve středu podané žalobě uvádí, že na začátku století byla v předškolním věku opakovaně znásilňována několika dospělými muži. Akty sexuálního násilí si muži zaznamenávali a následně materiály přes internet prodávali dalším pedofilům.
Jane Doe je kvůli této zkušenosti vedená jako oběť v databázích různých vládních i nevládních organizací, které se zabývají monitorováním a upozorňováním na šíření dětské pornografie. Tyto organizace posílají Jane Doe upozornění, kdykoli v nových případech figurují snímky zobrazující její znásilnění.
Jedno z těchto upozornění přišlo Jane Doe od Kanadského centra pro ochranu dětí (CCCP). Kanadské centrum ji oznámilo, že na platformě xAI identifikovalo dětskou pornografii vygenerovanou Grokem, která zachycovala malou Jane Doe.
Žaloba dále mluví o nalezených zprávách na internetových fórech, ve kterých si uživatelé dopisovali o vytváření AI materiálu, který zachycuje nejen Jane Doe, ale i další oběti sexuálního zneužívání a tvorby dětské pornografie.
Žalobkyně se tak v soudním dokumentu domnívá, že xAI údajně tyto obrázky vygenerované Grokem ukládá a používá je k jeho dalšímu trénování. To by potvrzovalo její obavy z toho, že Grok cvičil svoje generativní schopnosti na snímcích z „nejotřesnějšího období jejího života“, ale i na nových, vlastních pornografických snímcích.
Grok je generativní model umělé inteligence vyvíjený společností xAI Elona Muska, který je úzce integrovaný do sociální sítě X (dříve Twitteru). Na rozdíl od konkurenčních modelů je jedním z jeho marketingových lákadel minimální míra cenzury, a to i v případě sexuálního obsahu, který konkurenční chatboti filtrují.
Právní zástupci Jane Doe však upozorňují, že právě chybějící zábrany vytvářejí platformu pro tvorbu a následné šíření dětské pornografie. Podmínky použití modelu Grok totiž považují veřejné příspěvky na síti X a vlastní výstupy Groka ve výchozím nastavení za trénovací data.
Zábrany nastavené xAI zakazují Grokovi, aby se učil na vlastních výtvorech, které zobrazují násilí. Podle žaloby však uživatelské podmínky xAI neuvádí, jestli zákaz učení pro tento model platí i v případě sexuálního obsahu, který vytvoří. Tedy včetně obrázků, které zobrazují sexuální zneužívání dětí. Zbavit Groka toho, co se z jednoho konkrétního obrázku naučil, je technicky nesmírně složité a xAI nikdy veřejně neuvedla, že tuto schopnost má. Pokud se tedy Grok v minulosti učil z dětské pornografie – ať už z existujícího materiálu nebo vlastních výtvorů – tyto snímky dál ovlivňují vše, co vygeneruje. A to i v případě, že pornografický obsah není k nalezení ani na internetu ani mezi trénovacími daty.
Navrhovaná hromadná žaloba by v případě schválení zastupovala každou oběť, jejíž fotky z dětství posloužily jako trénovací vzorek pro Groka. Žaloba obviňuje xAI z toho, že prrovozováním Groka porušuje americké federální zákony o výrobě, držení a distribuci pornografie tím, že Grok páchá „všechny tři zločiny“.
Kdyby xAI soudní spor prohrálo, muselo by platit odškodné každé oběti, která prokáže, že Grok trénoval na její fotografii. Jane Doe v žalobě rovněž žádá soud, aby společnosti xAI přikázal vymazat veškerou Grokem generovanou dětskou pornografii, stejně tak požaduje, aby xAI Grokovi trvale zablokovala možnost generovat materiály dětské pornografie.
To by však vyžadovalo úplný zákaz generování jakéhokoliv sexualizovaného obsahu - tedy funkce, kterou Elon Musk, zakladatel xAI a majitel platformy X propagoval jako jeden z hlavních tahounů Groka.
