Pornografie bez souhlasu za pár vteřin. Nový trend ukázal na hlubší problém

„Oblékněte ji do přiléhavých průhledných bikin,“ napsal anonymní uživatel platformy X pokyn umělé inteligenci Grok.

Trvalo to jen pár vteřin, než systém vygeneroval explicitní snímek 25leté Kendall. Na svou polonahou fotku přitom narazila náhodou, když jako jindy otevřela sociální síť.

Obrázek, který Grok vytvořil, ale vypadal opravdu realisticky, zhodnotila Kendall nález pro časopis The Rolling Stones. Úpravy nebyly zjevně přehnané a ani nepůsobily jako nakreslené.

„Abych řekla pravdu, na sociálních sítích jsem říkala: ‚Tohle nejsem já‘,“ přiznává. „Ale moje mysl si říká: ‚Tohle není od mého těla příliš daleko‘,“ řekla.

Její příběh jen jedním z mnoha. Během prvního týdne nového roku se funkce Groku, která umožňuje vytváření explicitních snímků, stala virální.

A svět si toho rychle všiml. Některé země platformu zakázaly, další ji začaly vyšetřovat.

Evropa stále hledá způsob, jak trend zcela vyřešit. ​​Evropská komise v pondělí zahájila nové vyšetřování, které má rozhodnout, zda společnost X splnila požadavky EU na ochranu uživatelů, když integrovala Grok do platformy sociálních médií a jejího základního algoritmu.

Majitel sítě Elon Musk zpočátku na nový trend reagoval smějícími se emotikony.

Síť X pak v reakci na kritiku zablokovala neplatícím uživatelům možnost prostřednictvím chatbota generovat nebo upravovat obrázky. Později oznámila, že znemožní pomocí chatbota vytvářet a upravovat fotografie skutečných lidí v odhalujícím oblečení v zemích, kde je to nelegální.

Musk se od celé věci přitom distancoval. A prohlásil, že „neví o žádných nahých obrázcích nezletilých generovaných Grokem“. V další odpovědi na platformě X pak uvedl, že „každý, kdo používá Grok k vytváření nelegálního obsahu, ponese stejné důsledky, jako kdyby nelegální obsah nahrál“. Mnoho existujících úprav obrázků však zůstává online.

Studie britsko-americké neziskové organizace The Center for Countering Digital Hate ukázala, že za pouhých 11 lednových dní vytvořil Grok 3 miliony sexualizovaných obrázků, z nichž 23 tisíc ukazovalo děti.

Častým terčem těchto sexuálně motivovaných útoků jsou známé osobnosti, ať už jde o zpěvačky, herečky, nebo dokonce i političky.

Situace na síti přitom postupně eskalovala. Zatímco na začátku uživatelé žádali umělou inteligenci „jen“ o to, aby ženy zobrazila v plavkách, další požadavky začaly být mnohem více explicitní.

A Grok je bez zaváhání plnil.

Některé upravené obrázky pak měly ukazovat ženy oblečené v průhledných bikinách, nebo dokonce plavkách jen ze zubní nitě. Další pak ženy v sexualizovaných pozicích.

Jak ukázaly studie, výrazně častěji tyto útoky míří na ženy. „Ženy jsou historicky častěji terčem násilí a agrese. A obrázkové sexuální násilí na tyto vzorce přímo navazuje. Jde o otázku moci a kontroly – kontroly nad ženským tělem i nad postavením žen ve společnosti,“ popsal pro Seznam Zprávy psycholog Dean Fido působící na University of Derby.

„Veřejné osobnosti lidé často nevnímají jako skutečné lidské bytosti, ale jako vzdálené objekty. To usnadňuje jejich zneužití – chybí empatie i schopnost představit si jejich perspektivu,“ dodává Fido.

Jen vytváření snímků ale není celý problém. Grok také uživatelům umožňuje tyto obrázky veřejně zveřejňovat na síti X, je s ní propojený. V důsledku toho lze generovat sexualizované obrázky bez souhlasu a okamžitě je šířit mezi potenciálně široké publikum.

Důvod, proč míří kritika zejména na Grok, plyne i z toho, že byl strukturálně navržen tak, aby fungoval s menším počtem ochranných opatření a zábran než ostatní modely umělé inteligence. Nedávná vlna veřejného pobouření tak jen více upozornila na dlouhodobé problémy, které tento model nesl.

Současná kauza s tímto modelem umělé inteligence je ovšem jen špičkou ledovce, deepfake pornografie už za poslední roky zničila život řadě lidí. Celá situace kolem Groku podle expertů vytváří mrazivý a globální obraz, někdy označovaný jako „technologicky usnadněné genderově podmíněné násilí“.

Vytváření a sdílení sexuálních obrázků a videí generovaných umělou inteligencí bez souhlasu bylo v několika zemích postupně kriminalizováno.

Například Evropská unie vyžaduje, aby členské státy takové jednání řešily ve svých zákonech. Spojené státy i Velká Británie zavedly zákony, které kriminalizují sdílení intimních obrázků nebo videí bez souhlasu.

V České republice mohou podle novely trestního zákona, která prošla předloni, hrozit za samotnou tvorbu falešné pornografie až dva roky vězení. O rok tvrdší trest se týká lidí, kteří obsah umístí na internet. V závažných případech se může jednat o sazbu až pět let vězení.

Nejde tedy o novinku, ale generativní umělá inteligence situaci ještě zhoršuje, protože produkce takového materiálu je zdarma a navíc vzniká za pár vteřin.

Zpráva Organizace OSN pro ženy zjistila, že téměř každá čtvrtá žena pracující jako obránkyně lidských práv, aktivistka nebo novinářka „hlásila zkušenosti s online násilím (páchaným) za pomoci umělé inteligence“.

„Podstata těchto materiálů spočívá v tom, že zobrazená osoba nedala souhlas k jejich vzniku a její tělo je záměrně sexualizováno, aniž by o tom věděla. Pro oběti jde o závažný zásah do jejich soukromého života a často to s sebou nese intenzivní psychickou zátěž, pocity ponížení a také poškození jejich jména,“ vysvětlila pro Seznam Zprávy Federica Fedorczyková, která se věnuje zkoumání dopadů umělé inteligence na anglické Reuben College, která je součástí Oxfordské univerzity.

„Dopady tohoto jednání dále zesiluje skutečnost, že sexuálně explicitní obsah na internetu přetrvává a jen výjimečně jej lze zcela odstranit. A také globální a vzájemně propojená povaha sociálních sítí, která umožňuje jeho rychlé a nekontrolovatelné šíření mezi široké publikum,“ dodala.

Ne všechny ženy se přitom chtějí k těmto případům vyjadřovat veřejně, protože se obávají , že by k falešným snímkům přilákaly větší pozornost a s tím i spojené dopady.

To byl případ Evie, která dále říká, že se stala obětí úpravy fotografie, aby varovala před nebezpečím. Její rozhodnutí upozornit na problém vyvolalo vlnu nových útoků. Uživatelé začali pořizovat ještě znepokojivější sexuální snímky, na kterých je zobrazena, jak upozornil deník The Guardian.

Případ představuje pro Evropu výzvu i proto, že může jít o další záležitost, ve které naštve administrativu amerického prezidenta Donalda Trumpa. Vztahy jsou už tak často napjaté kvůli obchodní i zahraniční politice, šéf Bílého domu také často vystupuje proti evropským regulacím, které kritizuje i Elon Musk.

Otázkou zůstává, nakolik by se Trump chtěl za nejbohatšího člověka na světě postavit. Zatímco během jeho prezidentské kampaně a krátce poté šlo o blízké spojence, později došlo i na ostré hádky na sociálních sítích. Nedávno spolu ale zase za svitu svíček povečeřeli.

Jak upozornil deník The New York Times, jakákoli ráznější nařízení ze strany Evropské unie, která omezují pravidla na internetu, jsou často terčem Trumpovy kritiky. Omezení totiž často dopadají na velké americké technologické společnosti a prezident to považuje za nespravedlivou diskriminaci.

Například před měsícem Brusel udělil společnosti X pokutu 120 milionů eur za porušení zákona o digitálních službách.

Sankce vyvolala ostrou reakci Washingtonu: zakázal cestování do Spojených států bývalému eurokomisaři pro vnitřní trh Thierry Bretonovi, protože právě on patřil k tvůrcům zákona o digitálních službách.