Článek
S rozvojem umělé inteligence a jejího implementování do běžného života přibývá případů, kdy nestačí právně chránit jen lidi z masa a kostí.
Tak to alespoň vidí někteří jihokorejští poslanci, kteří se snaží odstranit mezeru v zákoně, která doposud umožňovala uživatelům sdílet pornografický obsah s fiktivními postavami generovanými AI.
K tématu přitáhl pozornost případ muže obviněného ze šíření deepfake obrázků nahých žen na telegramu.
Podle státních zástupců šlo o překročení zákona, za což mu hrozilo až sedm let vězení či pokuta ve výši maximálně 50 milionů wonů (bezmála tři čtvrtě milionu korun).
Virtuální oběti
Od soudu v Kojangu nakonec muž odešel bez trestu. Prokuratura ho sice obžalovala ze šíření deepfake pornografie, nepodařilo se jí ale doložit původ snímku ani to, že zachycuje skutečnou ženu. Soudce tak loni v srpnu rozhodl, že oběti byly virtuální, nikoli reálné.
„Neexistují žádné podklady potvrzující původ nebo způsob syntézy tohoto obrázku, a proto je obtížné dojít k závěru, že na něm byla zobrazena skutečná osoba,“ citoval deník Dong-A Ilbo I Čong-huna z okresního soudu v Uidžongbu.
Verdikt podnítil poslance vládní Korejské demokratické strany k předložení návrhu zákona, který by kriminalizoval tvorbu, šíření a držení sexuálně explicitního materiálu vytvořeného pomocí AI, a to i v případě, že nezobrazuje reálnou osobu.
Podle doslovného znění by tedy mohl být postižitelný i člověk, který si vygeneruje realisticky vypadající nahou dospělou ženu, která nikdy neexistovala, nikomu obrázek nepošle a pouze si ho nechá.
„Díky rychlému pokroku v oblasti umělé inteligence může dnes kdokoli snadno vytvářet obrazy virtuálních osob, které je obtížné odlišit od skutečných jedinců,“ uvedli poslanci v návrhu, který byl postoupen k podrobnému posouzení.
„Technologie však byla také zneužita k výrobě a šíření manipulovaného sexuálního obsahu, který vyvolává pocit sexuálního ponížení nebo odporu, což se stává závažným společenským problémem.“
Jak moc virtuální?
Profesor práva Čche Kjong-džin z Gachon University pro korejská média uvedl, že u sexuálního trestného činu se běžně chrání konkrétní lidé a jejich sexuální autonomie; u kompletně virtuální ženy však nic takového neexistuje. Podle něj návrh připomíná spíš rozšíření regulace pornografie než zákon proti sexuálnímu násilí.
Další otázka zní, zda je „virtuální žena“ zcela virtuální. Podle zastánců zákona je dnes tato hranice mnohem méně jasná – modely se učí na obrazech skutečných lidí a fiktivní tvář může připomínat konkrétní osobu, aniž by šlo doložit jeden zdrojový snímek.
Podle právničky I Un-ui existují například postavy explicitně modelované podle reálných lidí a škoda pak může být prakticky stejná jako u klasického deepfake. Jiní namítají, že je návrh zákona problematický a mohl by zasahovat do svobody jednotlivce.
Problémem je mimo jiné uplatňování stejné míry trestu jako v případě, kdy je poškozena skutečná osoba.
„Trestní postih nejen za výrobu fotografií a videí s využitím virtuálních osob vytvořených pomocí umělé inteligence, ale i za jejich držení a prohlížení, a to pod záminkou ochrany sexuální morálky, by mohl nadměrně omezovat svobodu jednotlivce,“ uvedla pro SCMP Kim Jong-mi, advokátka z kanceláře Soongin.
Zkušenost však Jihokorejcům radí nebrat sexuální násilí na lehkou váhu. Mají za sebou masové protesty proti skrytým kamerám, skandál „Nth Room“ z roku 2020 s vydíráním žen a dívek na telegramu.
V roce 2024 se řešila exploze deepfake pornografie mezi školáky – obrázky spolužaček, učitelek, příbuzných nebo vojaček se šířily v telegramových skupinách. V jednom období roku 2024 bylo z 506 zadržených podezřelých 411 ve věku deseti až 19 let.
V prvních sedmi měsících roku 2025 regulátor řešil více než 15 800 deepfake sexuálních videí.
