Užitečný diktát z Bruselu. Pravidla pro AI snad usměrní i české politiky

Falešná videa politiků zesměšňující soupeře, absurdní volební vizuály generované na jedno kliknutí, reklamní bannery a „fotografie“, na kterých je na první pohled něco špatně. K tomu chatboti v každém zákaznickém centru. Vlna AI balastu se valí veřejným prostorem – online i offline. Používání umělé inteligence teď ale dostává nové mantinely.

Bylo načase. Evropská unie používání umělé inteligence právně upravuje už od roku 2024. Na konci července pak začala platit novela takzvaného AI Actu zvaná AI Omnibus.

Právo vždy pokulhává za realitou, což u této „vymoženosti“ platí dvojnásob. Legislativa dobíhá překotný vývoj AI. Není radno nechat technologii – a tudíž hlavně technologickým gigantům – úplně volné herní pole. Cesta, kterou Evropa zvolila, byla od začátku méně liberální než třeba cesta Spojených států, kde Trumpova administrativa dlouho razila filozofii volné AI.

Zdá se, že se ze sna probudili i za mořem: V Bílém domě v těchto dnech finalizují právní dokument, který by měl rámec bezpečnosti na poli AI také konečně vytyčit.

Co přesně změní nová unijní pravidla? V prvé řadě končí éra, kdy stačilo klauzuli o použití umělé inteligence schovat do obchodních podmínek. Novela vyžaduje, aby jasné označení „zavádějícím subjektem“ měl uživatel přímo před očima. Až na výjimky, jako je umělecká nadsázka či parodie.

Zákazům a přísné regulaci podléhá také plošné lustrování obličejů veřejnými kamerami na ulicích či chatboti na zákaznických linkách, kteří předstírají, že jsou živými lidmi. Pokud vám odpovídá počítač, musíte se o tom dozvědět hned v první sekundě. Právní mantinely zbrzdí i kognitivní manipulaci spotřebitelů v reklamách.

Právě reklamní spoty ve smyčce přehrávané během pauz oblíbených pořadů často vykazují zjevné známky generování. Dokonce jedna z nejsledovanějších tuzemských talentových soutěží, SuperStar, která se na podzim vrací na obrazovky televize Nova, vyrukovala se spotem téměř kompletně vytvořeným AI, na což vtipně upozornil redaktor popkulturního podcastu Slejvák Radia Wave Miroslav Harant. Výsledkem je brak, odfláknutá skrumáž mutantů, trapas.

Pokud se Nova rozhodne s tímto klenotem dále pracovat – na sítích i ve vysílání –, musí ho dál zcela bezpodmínečně označovat jako AI modifikovaný. Pokud možno zřetelněji, než jak činí nyní. Vykazuje totiž známky deep fake, tedy zobrazení skutečnosti, která se ovšem nikdy neodehrála.

Deep fake se podle novely rozumí „AI generovaný nebo AI manipulovaný obrazový, zvukový nebo video obsah, který se podobá existujícím osobám, objektům, místům, subjektům nebo událostem a zároveň by se mohl člověku nepravdivě jevit jako autentický nebo pravdivý. Obsah může být deep fake i tehdy, pokud jeho autor neměl záměr nikoho uvést v omyl,“ stojí na webu Evropské komise. O reklamě hovoří dokument výslovně.

Bez označení by dnes neprošel ani jeden volební plakát Stačilo! před volbami 2025, protože všechny navrhl jeden z dostupných chatbotů. Trikolora zase „vyhazovala z balkonu Poslanecké sněmovny“ opoziční poslance s ukrajinskou vlajkou. I to by dnes nebylo bez vodoznaku či upozorňujícího textu přípustné. Otázkou je, jak si antisystémová hnutí, pro něž je vědomé obcházení pravidel a ohýbání reality dlouhodobě hlavní politickou živností, s novými pravidly v praxi poradí. Pokuta, která za nedodržování hrozí, by je ale mohla motivovat. Jde o 35 milionů eur nebo až sedm procent ročního obratu firmy.

Dá se čekat, že v kampani do komunálních voleb budeme svědky dalších obdobných pokusů, protože více než tři čtvrtiny kandidátů do zastupitelstev obcí o mandát usilují jako nezávislí – bez rozpočtu velké strany odkázáni na kampaň hrazenou hlavně z vlastních prostředků.

Se zněním novely by se měl co nejdříve seznámit i bývalý premiér Petr Fiala, který poté, co slíbil, že bude nové vedení ODS bezbřeze podporovat, od prvního dne činí bezděky přesný opak. Během své diverzní akce si oblíbil trojčení pomocí nástrojů generativní AI. Vyrábí si rádoby vtipná videa zobrazující politické rivaly, která umisťuje na své profily na sociálních sítích.

Zpravidla jde o „humorné scénky“ vládních politiků. Naposledy se vyšvihl dílem, ve kterém Petr Macinka cestuje do Ankary schovaný v příručním zavazadle Petra Pavla a kde Andrej Babiš řídí letový provoz. Hloupost, která se nikdy nestala, i podle právničky Lucie Malé z české Asociace umělé inteligence už teď jednoznačně podléhá nutnosti označování.

„Doporučuje se multimodální přístup: textové prvky (výrazný štítek, úvodní sdělení chatbotu), zvukové (slovní oznámení na začátku hlasové interakce) a vizuální (ikona AI, barevný rámeček). AI Act nestanoví jednu povinnou větu nebo jednu povinnou ikonku,“ vysvětluje. Podrobný manuál nabízí příručka, kterou asociace připravila.

Nejjednodušší by samozřejmě bylo, kdyby se bývalý premiér tohoto sebeztrapňování nadobro vzdal. V zájmu vlastní profesorské důstojnosti i v zájmu ochrany veřejnosti před lživým obsahem. Kdo nepokouší legislativní hranu, nemusí nic označovat.

AI slopy (česky AI břečky), jak se hromadně generovaný digitální obsah nízké kvality souhrnně nazývá, nejsou jen výsadou audiovizuálního průmyslu, dorazily i do světa tiskovin.

Známe to všichni. Letmá procházka kolem obecní výlepové tabule znamená nedobrovolnou prohlídku výtvorů generativní umělé inteligence. Na první (ani druhý) pohled nemáte šanci poznat, zda se manikérka rozhodla propagovat nový salon, restaurace láká na letní menu, domov pro seniory nabízí možnost ubytování, stavebniny výhodnou akci nebo zda městské kulturní centrum inzeruje koncert punkové kapely.

Plakáty jsou jeden od druhého k nerozeznání. Koneckonců nástroj slovo „generativní“ obsahuje už v zaběhnutém názvu. Invenci čekat nelze. A tak se prodíráme pralesem totožných ohyzdných prospektů.

Městské výlepové plochy, ale i sociální sítě se proměnily v odkladiště méně i více (ale hlavně méně) povedených AI výtvorů, které často popírají i nejzákladnější typografické poučky. Poskytovatele služeb nelze za rozhodnutí nechat propagaci na „fantazii“ AI hanit. Je to téměř bez práce a často úplně zdarma.

Na obsah tohoto charakteru AI Omnibus nijak nedohlíží. Pravidla míří hlavně na firmy, instituce, organizace, úřady… Tenhle škaredý plevel tak žádné tuzemské ani evropské nařízení nerozmetá. Vkus se po lidech právně vymáhat nedá.