Článek
Regulaci ztěžující zneužívat děti v online prostředí ohlodává třetím rokem zub času i strach lidí z kontroly „Velkým bratrem“. Poslední verze legislativy Regulace CSAM (Child Sexual Abuse Material) – kritiky přezdívané jako šmírovací zákon – prošla 26. listopadu Radou EU. Slibuje, že „kybernetická bezpečnost a šifrování jsou komplexně chráněny.“
„Nejsou,“ vyhlašují oponenti z řad politiků i právníků.
A to už Rada aktuální verzí, která je oproti původní osekaná do značně kompromisní podoby, zklidnila dostatek členských států EU aspoň natolik, aby umožnily návrhu projít do posledního kola schvalování - takzvaného Trialogu.
Onen kompromis spočívá v tom, že mění požadavek na komunikační platformy z povinné plošné kontroly konverzací uživatelů na kontrolu dobrovolnou. Ta běží už teď díky výjimce, kterou poskytovatelé dostali, a která platí do dubna 2026.
V případě potvrzení Komisí, Parlamentem a Radou dostane svolení skenovat komunikaci například firma Meta – provozovatel Whatsappu a Messengeru – trvale.
„O kompromis se jedná. To ovšem neznamená, že by šlo o kompromis přijatelný. Vidím zde dva základní problémy. Jedním je otázka míry zásahu do soukromí a rizika rozšiřování sledování v budoucnu. Ať už jde o proměnu dobrovolnosti v povinnost, nebo o rozšiřování účelu mimo rámec vyhledávání dětské pornografie – například potírání dalších forem zločinu, dezinformací, nenávistných projevů, porušování autorských práv a tak dále,“ komentuje pro Seznam Zprávy právník Jan Vobořil z neziskové organizace Iure.
Druhým problémem je podle něj otázka smysluplnosti takového opatření ve vztahu k ochraně dětí. A domnívá se, že řešení schválené Radou EU dává ještě menší smysl než původní plán na plošné sledování veškeré digitální komunikace.
„Jestliže původní návrh znamenal elektronickou obdobu otevírání a kontroly každého odeslaného dopisu, tak tento by představoval kontrolu dopisů jednoho přepravce. Ti co uvíznou v síti, tedy budou spíše rodiče, co si posílají fotky dětí z pláže, než ti, kdo si posílají dětskou pornografii a logicky využijí bezpočet jiných způsobů komunikace, které obsah skenovat nebudou. A nutno říci, že tento argument by platil i u původního návrhu povinného skenování. Nemyslím, že tento kompromis tak dává smysl komukoli,“ říká.
Přes Vobořilovu námitku dali lídři členských států EU legislativě zelenou. Pro hlasovalo 23 zemí, proti byly čtyři včetně Česka.
Porodní bolesti
Legislativa putuje v různých podobách po institucích EU už od května 2022. Kvůli obavám veřejnosti se uzákonění sledování digitální komunikace obrušuje, s efektivní ochranou dětí to podle řady expertů nejspíš nebude také nijak valné. Oněch obroušení zaznamenal Chat control už tolik, že než vyjde ven, může z něj zbýt v praxi hlavně ohrožení anonymity uživatelů komunikačních platforem, zatímco efektivita ochrany dětí zůstane stejná jako dřív.
Pro srovnání, jak dlouhé průtahy už jsou, můžeme připomenout třeba odchod Velké Británie z Evropské unie. Referendun, v němž Britové řekli Evropě „bye bye“, se konalo 23. června 2016, z EU vystoupili 31. ledna 2020 - tedy za 3 roky a 7 měsíců. Chat control již čeká na finální razítko téměř stejně dlouho.
Zdlouhavost schvalování zároveň ukazuje, jak citlivá záležitost to je. Na jedné straně stojí argument vyšší ochrany dětí před zneužíváním, na druhé zůstává riziko plošného „šmírování“ lidí. A nutno dodat, že ani současná kompromisní varianta ho neeliminuje. Pouze cesta k ní je složitější a více maskovaná.
Nová maska, stejná tvář
Komunikační platformy mají podle poslední verze povinnost analyzovat a vyhodnocovat rizika spojená se zneužíváním dětí. Podle nich budou rozřazené na vysoce, středně či málo rizikové. V první jmenované kategorii být platforma nechce. Čím rizikovější bude, tím větší je riziko intervence do jejího fungování ze strany úřadů.
„V návrhu schváleném Radou nedochází k výběru konkrétních platforem, které by měly povinně skenovat komunikaci. Systém by měl fungovat tak, že každá služba podstoupí hodnocení rizik a může být doporučeno, aby dobrovolně přijala určité kroky. Jedním z nich může být i dobrovolné skenování, s tím, že by ho úřady nemohly nařídit. Šifrovaných komunikačních platforem jako Signal se to nedotkne, pokud přijmou jiná opatření pro ohlídání bezpečnosti. Společně s experty ale stále vnímám pozici Rady jako nástroj tlaku,“ komentuje pro Seznam Zprávy europoslankyně Markéta Gregorová (Piráti).
Volné definice toho, co je vysoké, či nízké riziko, podle ní znamenají, že půjde za vysoce rizikovou aplikaci prohlásit prakticky cokoliv. To povede k vymáhání opatření, která mohou opět vést k masovému skenování komunikace. Protože tím by platformy ukázaly dobrou vůli. Legislativa jim tedy neukládá povinnost plošně skenovat, ale navádí je k tomu.
„Fakticky to může skončit tak, že dobrovolné skenování se postupně stane nástrojem, který bude kontrolními orgány fakticky vyžadován. Z dobrovolnosti se poměrně nepozorovaně může stát faktická povinnost, byť nebude natvrdo napsána v zákoně. To se může pak dotknout i koncově šifrované komunikace,“ potvrzuje obavy Vobořil.
Dvě strany mince
Nutnost ochránit děti před útočníky i z digitálního prostředí je nezpochybnitelná, obzvlášť v Evropě. Podle neziskové organizace Internet Watch Foundation v roce 2023 téměř 60 procent všech oznámení o sexuálním zneužívání dětí byla vysledovaná k takzvaným hostingovým službám v členských státech EU. Podle Evropské komise 92 procent lidí v témže roce sdílelo obavy ze zvyšujícího se rizika zneužití dětí v digitálním prostředí.
V roce 2022, kdy první návrh Chat controlu spatřil světlo světa, bylo množství evidovaných případů zneužívání dětí ještě vyšší. Jak potvrdil Seznam Zprávám člověk blízký Evropské komisi, poptávka po řešení a ochraně byla vysoká, ale strach z rizik taktéž. Motivace ke vzniku původní Regulace CSAM ale vznikla ještě o dva roky předtím.
„V roce 2020 vcházel v platnost Evropský kodex pro elektronické komunikace. Ten zpřísnil pravidla pro ochranu soukromí v digitální komunikaci. Zařadil tyto kanály pod e-privacy neboli listovní tajemství pro online komunikaci. Evropská komise byla v situaci, kdy na jedné straně platformy reportovaly z EU nejvíc materiálu spadajícího pod zneužívání dětí či dětskou pornografii,“ vysvětluje zdroj, který si přál zůstat v anonymitě, ale redakce jeho totožnost zná.
„Poskytovatelé platforem hledali a reportovali takové materiály zhruba 10 let. Tak vyšetřovatelé nejčastěji odhalili případy zločinu skrze online komunikaci a zahájili vyšetřování. Bez této možnosti by se razantně zhoršily šance na odhalení zločinců. Jenže po vstupu e-privacy v platnost by o tuto možnost bezpečnostní složky přišly. Komise musela reagovat,“ dodává.
Národní centrum pro pohřešované a zneužívané děti se sídlem v USA sbírající data se závadným obsahem z celého světa ve stejnou chvíli hlásilo desítky milionů materiálů vyhodnocených jako dětská pornografie. Většina pocházela z digitální komunikace uživatelů.
Potřeba reagovat – tedy nedat zločincům možnost šířit dětskou pornografii bez obav z dopadení – byla palčivá. Původní varianta legislativy se podle zdroje zaměřovala především na vizuální materiály. Textové komunikaci se věnovala hlavně v kontextu slovníku spojeného s takzvaným dětským groomingem. To je kriminální taktika, kdy sexuální predátor získá důvěru dítěte s cílem ho zneužít.
Návrh v květnu 2022 opustil dílnu Komise. Pak začalo celé legislativní kolečko, v jehož poslední fázi se EU a Chat control nachází zřejmě nyní.
Poslední tažení
Trialog mezi Radou, Parlamentem a Komisí startuje v úterý. Jeho výsledek bude veřejnost podle zdrojů Seznam Zpráv znát nejspíš až po Novém roce. Situace je napjatá a postoj ke „šmírovacímu zákonu“ roztříštěný.
Evropským parlamentem jsou slyšet kritické hlasy napříč politickým spektrem. K odpůrcům se přidal na začátku prosince i eurokomisař Magnus Brunner, když prohlásil, že dává přednost spíše zamítavému postoji Evropského parlamentu před kompromisním textem Rady EU.
Hromadné sledování komunikace budí hlavní znepokojení, pochyby však panují na více stranách. Experti nevěří, že technologická pokročilost umělé inteligence je na takové úrovni, aby zvládala správně vyhodnocovat miliony zpráv denně a mezi zločinci se neobjevili například rodiče, z nichž pošle jeden druhému přes Messenger fotografii jejich dítěte z pláže.
Další problém vyvstává z hlediska obřího byrokratického aparátu, který budou muset komunikační platformy provozovat, aby snižovaly vlastní rizikovost. Například Meta se dala slyšet, že kvůli unijní legislativě DSA vyčlenila tisíc lidí, aby obstála v požadavcích EU.
V případě Regulace CSAM firemní administrativa i zátěž bezpečnostních složek, které mohou dostávat na stůl kromě podchycených případů i AI chybně interpretovanou komunikaci, poroste. Tohle všechno se vlévá do jednoho vařícího guláše perspektiv, z nějž se Evropa nají na konci Trialogu.
