Článek
Rozhovor si také můžete poslechnout v audioverzi nebo stáhnout do podcastové aplikace.
Reálně vypadající video, nebo zpráva, ale i videohovor s někým, koho přece znáte. Jenže i když s vámi mluví a reaguje, není skutečný. Takzvané AI deepfakes jsou dnes obří hrozbou. Útočníci dokáží s pomocí umělé inteligence napodobit hlas vrcholového manažera, policisty, nebo pracovníka banky, ale i vytvořit zcela reálně vypadající zprávy, hlasovky a videa.
Takto napáchané škody jdou po celém světě do stovek milionů dolarů. Největší veřejně známý útok využívající deepfake technologie připravil britskou inženýrskou společnost Arup o 25 milionů dolarů (600 milionů korun). Své zkušenosti má ale třeba i fitness e-shop GymBeam Dalibora Cicmana. S falešnou kopií svého šéfa volal jeden z jeho manažerů zhruba 15 minut a od škody firmu zachránila jen náhoda. Umělý podvodník zaměstnanci tvrdil, že je na služební cestě, ale málem podvedený ho ten den viděl na chodbě. A tato náhoda ho varovala.
Věřit tomu, co lidé vidí, slyší a čtou
Vodafone službu nabídne ve spolupráci s technologickou společností Synhawk. „Máme ochranu ve třech vrstvách. Nejprve se zabýváme offline obsahem – tedy obsahem, který najdete na webových stránkách, nebo sociálních sítích či komunikačních platformách. Je jedno, jestli je to textová zpráva, hlasová zpráva, nebo video. V dnešní době je tato komunikace jednoduše zmanipulovatelná. Do aplikace tento obsah nasdílíte a ona vám řekne, jestli je to deepfake,“ popisuje Veronika Brázdilová viceprezidentka pro firemní zákazníky Vodafone.
Upozorňuje, že díky aplikaci může zmizet i šikana prostřednictvím zfalšovaných videí na sociálních sítích. Druhou vrstvu pak tvoří detekce deepfake hovorů na platformách, jako je Teams, Skype či Google Meet. „Dokážete si ověřit, že člověk, se kterým hovoříte, je živý. Třetí vrstva nám pak sedí v síti, což znamená, že i když probíhá hovor, dokážeme vám říct, jestli se bavíte s podvodníkem, nebo s reálným člověkem,“ dodává Brázdilová. Věří, že i díky tomu budou moci lidé znovu důvěřovat tomu, co vidí, slyší a čtou.
Upozorňuje, že zejména pro české firmy a občany, pro které je primární komunikační cestou písemná dokumentace, mohou být snadno napadeny.
„Útočníci mohou velmi jednoduchým způsobem během přenosu napadnout a změnit text. A druhá strana nepozná, jestli je to správně. Tady může dojít k bezpečnostním i finančním rizikům, poškození lidí, státní správy i reputace,“ dodává Brázdilová.
V call centru zůstanou živí lidé
Do umělé inteligence teď ve velkém investuje i samotný mobilní operátor. „V dnešní době to už není jen o nějakých experimentech, ale řídíme celou řadu velmi sofistikovaných AI projektů, které nám pomáhají automatizovat a mít nějakou konkurenční výhodu. AI nám pomohlo rozumět lépe, čím zákazník prochází, kde je spokojený a co ho trápí a na základě toho dokážeme všechno velmi rychle měnit,“ říká Brázdilová s tím, že i zákaznická spokojenost se podle měření zvyšuje.
To, že by po vzoru firem, jako je třeba Direkt, začal masivněji AI nahrazovat reálné zaměstnance, však operátor nechystá. „Snažíme se využít kapacity, které se nám díky integraci umělé inteligence uvolňují v jiných oblastech. Počet zaměstnanců, které každý rok nabíráme, se nám nesnižuje. Spíš se zaměřujeme na to, jak je rekvalifikovat a jakým způsobem kapacity využít jinak,“ dodává. Ujišťuje ale, že „živí lidé“ zůstanou i na call centrech, protože právě to zákazníci preferují.
Českým firmám chybí data
Aby i české firmy mohly veškeré možnosti AI využívat, musí být na to podle Brázdilové technologicky připravené. „V minulosti ale firmy bohužel dostatečně neinvestovaly do své IT infrastruktury. Pokud chcete používat umělou inteligenci, potřebujete nejenom zařízení, ale nějakou datovou konektivitu, případně úložiště a zabezpečení. A pokud firmy nejsou připravené, sice AI zapojí, ale mohou používat jen základní vrstvu. Pokud chtějí být více efektivní, musí se dívat, jestli mají vůbec data, která mohou zpracovávat,“ popisuje. Upozorňuje také, že zatímco dříve byly databáze vytvářeny pro lidi, dnes se musí vytvářet pro AI. „Stejně tak webová stránka – dříve se psaly pro lidi, dnes vám je scanuje AI. Ta ale vyhledává jiným způsobem a právě tomu se dnes firmy přizpůsobují.
Další velké změny pak přinese lidem nástup 6G sítí. „Ještě je sice brzo, abychom o tom mluvili, protože jsme zatím nezačali využívat ani všechno, co dokáže 5G. Ale musím říct, že osobně se na 6G těším. Už teď 5G umožňuje rychlejší internet, větší přenosy dat, více zařízení a podobně a 6G síť bude mít ultra nízkou latenci. To znamená, že všechno budete dělat téměř v reálném čase. Bavíme se o tom, že se budou dát přenášet extrémně vysoké objemy dat, takže se bude ještě víc využívat rozšířená realita nebo virtuální realita. No a pak tam se hovoří velmi často o takzvaném internetu smyslů, kdy se bude dát přenášet i chuť, vůně nebo hmat,“ říká manažerka.
