Článek
Zhruba čtvrtina Čechů se už setkala s podvodným obsahem, který využíval umělou inteligenci. Podvody využívající AI a technologii deepfake na oběti útoku působí přesvědčivě, útočníci využívají tyto metody například v SMS zprávách, telefonátech i v hlasových zprávách či v dokumentech, které posílají svým obětem přes různé komunikační platformy.
S pokusy podvodníků se nestávají jen jednotlivci, ale i firmy. Podle průzkumu agentury Ipsos pro poskytovatele mobilních služeb Vodafone se nejčastěji setkávají například s podezřelými žádostmi o platby či o změnu bankovních účtů.
Co to jsou deepfake technologie
- Deepfake technologie využívají strojové učení a umělou inteligenci k vytváření nebo úpravě videí a zvukových nahrávek, aby vypadaly a zněly autenticky. Vyobrazené osoby pak mohou dělat a říkat věci, které ve skutečnosti nikdy neudělaly ani neřekly.
- Deepfake videa se mohou snažit vylákat z lidí peníze na podvodné investice, v kontextu voleb mohou podobná videa poškodit reputaci politiků, šířit falešné zprávy a dezinformace a v konečném důsledku tak ovlivnit rozhodování voličů a ohrozit demokracii.
Zdroj: Check Point Software Technologies
Podvodníci se často vydávají za konkrétní osobu, aby oběti snáze zmátli. S tímto typem incidentu se setkalo už 31 procent firem. 22 procent zaznamenalo falešné faktury nebo dokumenty vytvořené či upravené pomocí AI a devět procent evidovalo podezřelé hlasové zprávy nebo hovory vydávající se za někoho z firmy či přímo za vedení společnosti.
K tomu, aby se podvodníci mohli vydávat za někoho jiného, jim stačí jediná fotografie dotyčné osoby a 15 sekund její hlasové nahrávky. To stačí k vytvoření digitálního klonu za pomoci umělé inteligence, jak uvedl Matyáš Boháček, výzkumník v oblasti umělé inteligence a deepfake technologií na Stanfordově univerzitě a spoluzakladatel společnosti Synhawk, zaměřené na rozpoznávání deepfake a hlasových podvodů.
Na internetu jde podle Boháčka najít fotografii skoro každého dospělého. Podvodníci si umějí poradit i se získáním hlasu. Obětem zavolají například z neznámého čísla a očekávají, že volaný telefonát přijme a pozdraví, představí se a zeptá se, kdo je u telefonu. Hovor si útočníci nahrají a ze záznamu mohou nadále hlas využívat.
Podle Ipsosu by proto 73 procent firem zvažovalo službu operátora pro ověřování deepfakes, přičemž největší využití vidí u ověřování faktur, dokumentů a žádostí o platbu.
Jak operátoři bojují s podvodníky
Při posuzování pravosti obsahu využívají lidé většinou vlastní úsudek, podle řady expertů se ovšem schopnost správně odhalit pravost digitálního obsahu bude do budoucna zhoršovat.
Na to se připravují někteří operátoři. Například Vodafone chystá 22. října spustit aplikaci Vodafone Verify, která má uživatelům pomoci ověřovat podezřelé fotografie, videa, hlasové zprávy nebo dokumenty.
Uživatel do aplikace nahraje soubor nebo odkaz, například příspěvek sdílený na sociálních sítích. Služba následně analyzuje širokou škálu rizikových signálů a poskytne uživateli pravděpodobnostní vyhodnocení společně s vysvětlením. Cílem podle oznámení Vodafone není nahradit lidský úsudek, ale poskytnout další vrstvu informací, která podpoří informovanější rozhodování.
Aplikace bude dostupná pouze pro zákazníky Vodafone. Do budoucna společnost plánuje spustit také službu Verify Meetings, která pomůže identifikovat deepfake účastníky online schůzek, a Verify Network, ochrannou technologii integrovanou přímo do sítě operátora.
„Lidé se dnes při rozpoznávání podvodů často spoléhají na vlastní intuici nebo na známky nepřirozenosti v obrazu a zvuku. Jenže právě v tom se umělá inteligence zlepšuje nejrychleji. Ověřování na úrovni platforem a infrastruktury se proto postupně stává stejně důležitým bezpečnostním návykem, jako jsou silná hesla nebo dvoufázové ověřování,“ vysvětluje Boháček z firmy Synhawk, která stojí za vznikem aplikace.
Synhawk poskytuje technologie pro detekci syntetických hlasů, deepfake videí, falešných digitálních identit a dalších forem AI generovaných hrozeb. Pomáhá telekomunikačním operátorům, veřejným institucím a podnikům chránit uživatele před podvody, vydáváním se za jiné osoby a zneužitím generativní umělé inteligence.
„Model není samospásný, není to AI magický štít, který vás stoprocentně vždycky ochrání. Model klade pravděpodobnost a vyzývá vás k tomu, abyste byli opatrní,“ dodává k aplikaci Vodafone Verify ICT produktový manažer Vodafone Petr Roháček.
Samotná technická opatření nestačí
Podobně jako Vodafone Verify funguje také opatření operátora O2. Ten zavedl například nástroj takzvané AI babičky Alenky na WhatsAppu, která je dostupná zdarma pro všechny na čísle 720 002 002. Lidé jí mohou poslat nejen podezřelou SMS, ale také odkaz, obrázek nebo hlasovou zprávu. Alenka pomůže vyhodnotit, co je podezřelé, o co se útočník pravděpodobně snaží a jak bezpečně postupovat dál. Poradit se s ní může kdokoli, nejen zákazník O2.
O2 zablokovalo za posledních šest měsíců více než šest milionů pokusů o podvržená volání. Rekord podle ředitele bezpečnosti O2 Radka Šichtance nastal v červenci, kdy zablokovali 214 tisíc pokusů o podvodné volání za jediný den.
„Velkou část hrozeb odhalujeme také díky samotným zákazníkům. Na číslo 7726 nám denně pošlou přibližně 3400 podezřelých SMS. Každou zaslanou SMS s odkazem analyzujeme a využíváme také automatizované vyhodnocování s pomocí umělé inteligence. Naši bezpečnostní specialisté na základě těchto podnětů identifikují a blokují v průměru 20 nových podvodných domén denně,“ uvedl Šichtanc.
Růst pokusů o podvod s využitím AI zaznamenal i mobilní operátor T-Mobile. „Jen u hovorů se bavíme o milionu detekovaných a blokovaných hovorů měsíčně v rámci našeho vlastního Firewall řešení, podvodných SMS blokujeme tisíce denně. Stále platí, že zákazníci mohou pro nahlášení těchto podvodů využít buď nativní tlačítko v telefonu, nebo číslo 7726, kam podvodnou SMS přepošlou. Ve spolupráci s CZ.NIC také blokujeme podvodné weby apod.,“ uvádí mluvčí T-Mobile Patricie Šedivá.
T-Mobile zavedl už v roce 2023 opatření na ochranu zákazníků před podvodnými telefonáty (takzvaný spoofing). Toto bezpečnostní řešení od T-Mobilu dokáže omezit zneužití definovaných telefonních čísel díky filtrování hovorů speciálním telefonním firewallem, pracujícím se seznamy povolených a blokovaných číselných řad.
Žádné technické opatření podle Šichtance nedokáže zachytit úplně všechny podvody. Útočníci totiž průběžně mění postupy a vytvářejí nové varianty škodlivých odkazů. Je proto důležité kombinovat ochranu sítě, aktivní zapojení zákazníků a osvětu.
Důležitou roli v tomto ohledu hrají i banky. Podle Šichtance se role operátorů a bank v souvislosti s řešením pokusů o podvod dobře doplňují. „Banka může vyhodnotit podezřelou transakci nebo zabránit některým neoprávněným operacím s penězi. Operátor může zase pomoci zachytit podvodný hovor, zprávu nebo nebezpečný web. Čím lépe spolu jednotlivé instituce spolupracují a sdílejí informace o aktuálních hrozbách, tím větší šanci máme útok zastavit včas,“ míní.
