Článek
Zatímco tradiční extremistické vlivy v Česku oslabují, trend internetový roste. „Jednou z největších bezpečnostních výzev je online radikalizace mládeže. Radikální online komunikace se neustále vyvíjejí a představují pro bezpečnostní složky trvalou hrozbu,“ popsal po jednání vlády ministr vnitra Lubomír Metnar (ANO).
A do čela se dostávají také moderní technologie. „Novým nástrojem pro šíření extremistického obsahu se stává umělá inteligence,“ doplnil ministr.
Podle expertů jde o poměrně nedávný trend. „Jde to souběžně s tím, jak se umělá inteligence vyvíjí a rozšiřuje se její využití. Zároveň se jí čím dál větší množství lidí z extremistické scény naučilo ovládat,“ popsal politolog Miroslav Mareš z Masarykovy univerzity.
Možnost použít AI znamená pro šíření extremistických myšlenek značný posun. Tím prvním byl nástup internetu v druhé půlce 90. let, který umožnil značné zrychlení šíření narativů, které se dříve distribuovaly pomocí tiskovin, ale také zasíťování uživatelů se stejným pohledem.
„AI dramaticky zrychluje to, co bylo i s internetem složité. Udělat webové stránky dříve znamenalo, že musíte znát někoho, kdo to umí. To dnes neplatí, AI vás to naučí bleskurychle. A do pár vteřin vám třeba vygeneruje umělý text,“ řekl k vývoji Jan Charvát, politolog z Karlovy univerzity.
Obrázky, texty i videa
Forem, ve kterých extremisté své myšlenky pomocí AI šíří, je celá řada. „Jedná se o různé nenávistné dokumenty, ale také anonymně zpracované obrázky, které jsou šířeny v online prostředí,“ jmenoval Metnar.
Právě deepfaky, tedy vysoce realistické obrazy či videa vytvořená umělou inteligencí, mohou být nejnebezpečnější. Podle Charváta totiž sdělení ve formě memů nebo krátkých videí fungují nejlépe. Díky umělé inteligenci autorovi odpadá také potřeba fotografii vytvářet, hledat na internetu či ručně upravovat.
Zatímco obrázků se mezi českými extremisty šíří dost, falešná videa jsou v Česku teprve v počátcích. Brzy se však i ona mohou stát běžným jevem. „Někdo pak může například vygenerovat video prezidenta Petra Pavla, jak hajluje před ukrajinskou vlajkou. Pokud podobným obsahem zahrnete internet, nemusí mu sice uživatelé přímo věřit, ale budou si pamatovat, že někde viděli prezidenta zdvihat pravici,“ popsal Charvát.
Kromě vizuálního obsahu se v českém prostoru vyskytují také texty, například v podobě příspěvků na sociálních sítích, které tvoří umělá inteligence. Zatímco dříve by jejich tvorba zabrala čas, dnes jsou vám k dispozici téměř okamžitě.
„Umělé inteligenci můžete říct: ‚Napiš mi text, který bude zdůrazňovat nebezpečí migrace pro osmnáctiletého kluka.‘ A pak si ho necháte vygenerovat ve verzi pro matku, která se bojí o své děti, nebo důchodce, který má strach, že nebude moct bezpečně chodit ven. Během minuty máte tři texty se stejným obsahem, ale pro různé skupiny,“ ilustroval Charvát efektivitu AI.
Kromě samotné tvorby obsahu může být umělá inteligence také dobrým nástrojem k jeho šíření. Dokáže například vytipovat okruh uživatelů, kterému obsah zaslat. „Když máte hotový obsah, zadáte pokyn ‚najdi mi fóra, kam to mám poslat‘. Stejně jako všechny věci, které chcete v propagandě dělat, se i tohle obrovským způsobem zjednoduší,“ popsal Charvát.
Cíl: zaplavit veřejný prostor
Témat, která extremisté pomocí AI zpracovávají, je celá řada. Objevuje se například zmíněný narativ o migraci nebo lživé příspěvky spojené s válkou na Ukrajině. „Také u antisemitských incidentů, kterých v Česku naštěstí není tolik jako v USA nebo západní Evropě, pachatelé používali AI nástroje,“ doplnil Šimon Krbec, výkonný ředitel Centra studií genocid Terezín.
Trend používání umělé inteligence se totiž propisuje napříč extremistickým centrem. Využívají ji radikální pravicové, levicové i náboženské skupiny. „Například tradiční ‚white power‘ kapely si takhle generují plakáty na koncerty. Důležitý nástroj je to pak pro influencery, například krajně pravicová tvůrkyně Nikol Valdská v nyní smazaném rozhovoru přiznala, že se o obsahu radí s Chatem GPT,“ uvedl Charvát.
Jedním z jejich cílů je obsahem zaplavit český online prostor. „Můžete dopředu nastavit algoritmus, aby na profilu vydával příspěvek třikrát denně. Účtu se tím zvyšují dosahy a zároveň publikuje obrovské množství obsahu, který tradiční média nestíhají vyvrátit. Než popíšou jednu, publikuje se jich dalších pět,“ popsal Charvát s odkazem na Steva Bannona, bývalého poradce Donalda Trumpa, který podobnou taktiku používal při prezidentské kampani.
Právě proto používají extremisté umělou inteligenci na volně dostupných platformách a sociálních sítích. „AI je schopná vytvořit vlastní svět, referenční rámec, a může využít tuto vymyšlenou realitu k namíření nenávisti proti vybraným skupinám,“ popsal Krbec. Dodal, že v prostředí sociálních sítí může být AI efektivním nástrojem k radikalizaci lidí a jejich následnému vstupu do extremistických skupin.
Nadnárodní problém
Česká republika není jediným státem, ve kterém extremisté využívají umělou inteligenci. „Rovněž německá strana zaznamenala využívání AI při tvorbě a zneužívání radikálních materiálů,“ uvedl Metnar s tím, že problém řeší i řada dalších států. Odborníci se pak odkazují především na Spojené státy. Ty se v současnosti potýkají se zneužíváním deepfake videí, která jsou v Česku teprve na startu.
V budoucnu pak lze očekávat, že se spolu s rozvíjejícími se technologiemi budou zvyšovat také jejich možnosti využití extrémisty. „Pozorujeme zintenzivnění, které bude pokračovat. Mohou vznikat například botí farmy řízené umělou inteligencí, které budou v šíření propagandy ještě účinnější,“ předpokládá Mareš.
Podle Charváta je také možné, že se AI v budoucnu stane nástrojem plánování útoků. „V nějaké fázi přijdou nástroje, které budou schopné identifikovat snadnou oběť. A to od phishingu přes finanční podvody až po někoho, koho může pachatel napadnout, v horším případě zabít,“ popsal.
Ministr vnitra uvedl, že se resort na boj s novými nástrahami extremismu připravuje. Do nových projektů v rámci kyberbezpečnosti poputuje 100 milionů, finance půjdou na policejní systémy i posílení personálu o odborníky či školení.
Odborníci se shodují na tom, že monitoring a filtraci radikálního obsahu by měli zajišťovat provozovatelé AI systému. Bránit se však může také přímo stát. „Umělou inteligenci může použít i přímo ministerstvo. Není problém nastavit vlastní, veřejně přiznané nástroje, které budou sbírat tyto narativy a v reálném čase je vyvracet,“ uvedl Charvát.
