Článek
Američanka z Wyomingu žaluje společnost xAI miliardáře Elona Muska. Její nevlastní otec údajně nahrál do chatbota Grok její fotografii z doby, kdy jí bylo přibližně 11 let, a pomocí umělé inteligence z ní vytvořil více než 7000 falešných sexuálně explicitních snímků. Ty pak sdílel na internetu, uvádí americký deník The Washington Post.
Žena o tom netušila. O případu se dozvěděla letos, když přijela k rodičům na rodinnou oslavu. V domě našla policisty, kteří prohledávali elektroniku jejího nevlastního otce kvůli podezření, že jsou v domě materiály zachycující sexuální zneužívání dětí.
Od technika, který hledal pevný disk s rodinnými fotografiemi, se dozvěděla, že případ souvisí s umělou inteligencí.
Dva dny po policejní razii byl její nevlastní otec nalezen mrtvý ve svém autě. Podle ženy spáchal sebevraždu. „Můj život byl úplně normální, během necelých 48 hodin se změnil v noční můru,“ popsala.
Hromadná žaloba
V červenci se Američanka připojila k federální žalobě, kterou proti xAI podaly už v březnu tři dívky z Tennessee, z nichž dvě jsou stále nezletilé. Také ony tvrdí, že někdo zneužil jejich fotografie a pomocí Groku z nich vytvořil nové sexualizované verze.
Žaloba podaná u federálního soudu v severní Kalifornii viní xAI z vytváření, držení a šíření materiálů zobrazujících sexuální zneužívání dětí vytvořených pomocí umělé inteligence. Žalobkyně požadují odškodnění a chtějí, aby se případ stal hromadou žalobou zahrnující další osoby, jejichž fotografie z dětství byly pomocí xAI přeměněny na sexuálně explicitní obsah.
Musk dříve uvedl, že si není vědom toho, že by Grok vytvořil nahé snímky nezletilých. Podle něj má chatbot odmítat vytvářet nezákonný obsah.
Společností xAI se zabývají americké i evropské úřady. Reagují tak na případy, kdy systém Grok na sociální síti X vytvářel na žádost uživatelů sexuálně explicitní obsah. Podle neziskové organizace Centrum pro boj proti digitální nenávisti vygeneroval Grok od 29. prosince 2025 do 8. ledna 2026 přibližně tři miliony sexuálně explicitních snímků. Přes 20 000 z nich zobrazovalo děti.
Generativní umělá inteligence zároveň komplikuje odhalování podobného obsahu. Internetové společnosti před dvacet let využívají systém amerického Národního centra pro pohřešované a zneužívané děti (NCMEC), který mimo jiné porovnává digitální otisky nalezených snímků s databází materiálů zobrazujících sexuální zneužívání dětí. Umělá inteligence ale dokáže rychle vytvářet velké množství nových snímků, které nelze s existujícími databázemi jednoduše porovnat.
NCMEC zároveň kritizovalo xAI a dalších sedm internetových společností kvůli nedostatkům při hlášení podezřelého obsahu. Podle žaloby chyběly některé důležité informace také v hlášení týkajícím se nevlastního otce dotčené Američanky. První oznámení podle ženy navíc dostala policie v jiném státě, což údajně zdrželo vyšetřování.
