Lidé na X zneužívají Grok k tvorbě falešné nahoty. Systém jim v tom nebrání

Prosincová aktualizace Muskovy bezplatné umělé inteligence Grok usnadnila uživatelům generovat obrázky lidí ve spodním prádle či plavkách a to i v pózách se sexuálním podtónem. Oblečení umělá inteligence dokáže na snímku odstranit na žádost, úplnou nahotu neumožňuje.

Trend se stal virálním během novoročních svátků. Uživatelé Groka tak pokračují i v posledních dnech v generování obrázků nezletilých, včetně batolat či dětí. Například Ashley St. Clairová, matka jednoho z Muskových dětí, si opakovaně na funkci umělé inteligence stěžovala. AI nástroj vygeneroval a upravil i její obrázek v bikinách z fotky, na které jí bylo 14 let.

Platforma X však problematické příspěvky na síti nechává. „Moje žádosti adresované společnosti Grok o odstranění intimních fotografií nezletilé osoby bez jejího souhlasu jsou nyní označeny varováním a jejich viditelnost byla omezena, ale fotografie jsou stále veřejně přístupné,“ napsala na síti X. Také uvedla, že obdržela řadu zpráv od lidí, kteří adresovali případy, kde se toto děje s kojenci.

St. Clairová sdělila deníku The Post, že podniká právní kroky. Ale to, co je skutečně potřeba, jsou podle ní větší právní záruky v oblasti umělé inteligence. „Toto musí přestat a je třeba okamžitě zavést příslušnou regulaci,“ uvedla. „A tato regulace by neměla být vypracována Elonem u stolu v Mar-a-Lago,“ dodala.

Britský regulační orgán pro komunikaci Ofcom v pondělí kontaktoval společnosti X a xAI, aby zjistil, jaké kroky podnikly k plnění svých zákonných povinností chránit uživatele ve Velké Británii, informuje The Guardian. Orgán dodal, že na základě reakce společnosti posoudí, zda je nutné zahájit vyšetřování.

Byla to totiž i Catherine, princezna z Walesu, která se mezi dalšími objevila na digitálně svlečených AI snímcích, jak upozorňuje BBC.

Na vzrůstající obavy reagovala také Evropská komise. Podle prohlášení velmi vážně prošetřuje stížnosti, podle kterých byl Grok používán k vytváření a šíření sexuálně explicitních dětských obrázků.

Mezitím v Británii politici a aktivisté za práva žen obvinili vládu z pomalé reakce kvůli tomu, že nepřijala zákon, který byl schválen před šesti měsíci a který zakazuje tvorbu takovýchto intimních snímků.

Společnost X vydala v sobotu první veřejné prohlášení k této záležitosti v příspěvku na oficiálním účtu X Safety. „Proti nelegálnímu obsahu na X, včetně materiálů zobrazujících sexuální zneužívání dětí, zasahujeme jeho odstraněním, trvalým pozastavením účtů a v případě potřeby spolupracujeme s místními úřady a orgány činnými v trestním řízení,“ uvedl mluvčí X.

V neděli společnost uživatele varovala, aby nepoužívali Grok k vytváření nelegálního obsahu, včetně materiálů zobrazujících sexuální zneužívání dětí, upozornila BBC.

Sám Elon Musk nelegální obsah nepodporuje. „Každý, kdo používá Grok k vytváření nelegálního obsahu, ponese stejné důsledky, jako kdyby nelegální obsah sám nahrál,“ uvedl na X. Sám si však z plavkového trendu utahoval. „Nevím proč, ale nemohl jsem se přestat smát,“ napsal, když přesdílel příspěvek se snímkem, na kterém umělá inteligence dala toastovači plavky a popiskem: „Grok může obléknout bikiny na všechno“.

Výzkumníci z AI Forensics, neziskové organizace se sídlem v Paříži, prozkoumali 50 tisíc zmínek o platformě Grok na síti X a 20 tisíc obrázků, které nástroj vygeneroval během týdne mezi 25. prosincem a 1. lednem.

Alespoň čtvrtinu zmínek tvořily žádosti o vytvoření obrázku. V požadavcích k vygenerování obrázků se často vyskytovaly výrazy jako „ona“, „dát“, „odstranit“, „bikiny“ a „oblečení“.

Více než polovina obrázků zobrazovala minimálně oblečené osoby, a to ve spodním prádle nebo v bikinách, přičemž většinu tvořily mladší ženy pod třicet let. Menšina obrázků, konkrétně dvě procenta, podle AI Forensics zobrazovala osoby ve věku 18 let nebo mladší a některé obrázky zobrazovaly děti mladší pěti let. Podle vědců byla většina obsahu stále dostupná online a součástí byly také požadavky na vytvoření propagandy Islámského státu či nacismu.

Britským aktivistům se podle listu Guardian v červnu loňského roku podařilo prosadit zákon, který zakazuje pořizování a vyžadování pořizování intimních snímků bez souhlasu dotyčné osoby, ale zákon není v současné době vymahatelný. Sdílení deepfake snímků bez souhlasu dotyčné osoby nad osmnáct let je již nyní nezákonné.

„Vláda opakovaně otálela a odmítala stanovit časový harmonogram, kdy tato zásadní ustanovení vstoupí v platnost. Nemůžeme si dovolit další zpoždění. Oběti tohoto zneužívání si zaslouží lepší zacházení. Nikdo by neměl žít ve strachu, že bude jeho souhlas porušen tímto otřesným způsobem,“ řekla Charlotte Owenová, konzervativní členka horní sněmovny, která se zasazovala o přijetí tohoto zákona.

Vláda je však podle mluvčího odhodlána co nejdříve zavést nové trestné činy týkající se vytváření nebo vyžadování intimních deepfakes bez souhlasu. „Jsou ponižující a škodlivé… proto jsme přijali zákon zakazující jejich vytváření bez souhlasu a zajistili, aby pachatelé čelili přiměřeným trestům za tuto ohavnou škodu,“ uvedl mluvčí na konto sexuálních deepfake snímků.

„Je na Elonu Muskovi, aby si uvědomil, že se jedná o formu sexuálního napadení, a přijal příslušná opatření. Jedná se o pořizování snímků žen bez jejich souhlasu a jejich odhalování za účelem ponížení – neexistuje žádný jiný důvod, proč to dělat, než právě ponížení,“ řekla zase Jess Asatová, poslankyně za Labouristickou stranu, která se zasazuje o lepší regulaci pornografie.