Hlavní obsah

Poslechl šéfa, kolegové mu obří transakci schválili. Všichni byli jen loutky

Foto: koláž: Pavel Kasík, Seznam Zprávy, AI vizualizace

Budeme muset zapojit kombinaci několika metod ověření, a to jak pomocí technologií, tak i tajných domluvených kódů.

Reklama

Před různými internetovými podvody varují odborníci už dlouho. Princip je vždycky podobný: Podvodník musí vyvolat iluzi důvěryhodnosti, snížit vaši ostražitost a pak vás donutit k nějaké akci, ze které může profitovat.

Článek

Techniky útoků jsou různé a pestré. Na jedné straně spektra jsou primitivní, hromadně rozesílané zprávy, na které se občas někdo chytí a vyplní své soukromé údaje.

Čtete ukázku z newsletteru TechMIX, ve kterém Pavel Kasík a Matouš Lázňovský každou středu přinášejí hned několik komentářů a postřehů ze světa vědy a nových technologií. Pokud vás TechMIX zaujme, přihlaste se k jeho odběru!

Hongkongská policie nedávno oznámila případ dokonaného podvodu, který je naopak příkladem nesmírně propracovaného podfuku. Odpovídá tomu i celková částka: Škoda přesáhla 200 milionů hongkongských dolarů, tedy přes půl miliardy korun.

Obrazovka plná falešných kolegů

Schválně si to představte na vlastní kůži. Pracujete v nadnárodní firmě a jste členem týmu, který má na starosti finanční transakce. Váš finanční ředitel z londýnské kanceláře vám pošle pozvánku na důležitou videokonferenci. Odmítli byste?

Jeden ze zaměstnanců nejmenované firmy tuto pozvánku přijal. Uklidnilo jej, že nebyl sám. Na konferenčním hovoru bylo několik dalších kolegů z jeho oddělení. Pozvánku dostal e-mailem i na WhatsApp. Přítomnost kolegů jej uklidnila.

Neměl pak důvod pochybovat o tom, že transakce, které má za úkol zadat, jsou nějak podezřelé. Vždyť mu to „odkývala“ skoro desítka lidí. Nejen londýnské vedení, ale také kolegové, které dobře zná.

Jenže ve skutečnosti šlo pouze o propracovanou zástěrku, která si nezadá se slavnými filmovými trháky jako Truman Show, Podraz nebo Dannyho parťáci. Na videokonferenci byla sice plná obrazovka lidí, ale zřejmě pouze jeden z nich byl skutečný zaměstnanec. Ostatní účastníci byli buď deepfake kopie naklonované pomocí AI, nebo prostě nahrané videoklipy kolegů. Případně kombinace obou technik.

Jak funguje podvod skrze deep fake?

Podívejte se, jak mohou podvodníci pomocí „naklonování“ napodobit hlas i podobu vašich kolegů nebo příbuzných:

„Ukázalo se, že v té videokonferenci s více lidmi byli všichni, které viděl, falešní,“ uvedla policie. Zaměstnanec byl sice původně skeptický, protože transakce, kterou měl provést, byla v řádech milionů dolarů, a navíc měla být provedena tajně. Ale právě přítomnost kolegů jej uchlácholila.

Další instrukce ohledně transakcí už mu pak podvodníci dodali prostřednictvím chatovacích aplikací nebo videokonferenčních hovorů jeden na jednoho. Přesvědčovací fáze už ostatně proběhla a teď stačilo jen vytěžit co nejvíce peněz. Celkem tak proběhlo několik transakcí na pět různých účtů.

Je to vlastně pěkná demonstrace známých psychologických jevů: Když jste ve skupině lidí, kteří se na něčem shodnou, snadno přitakáte navzdory vlastním pochybnostem. Zodpovědnost ozvat se totiž není jen na vás, a máte tedy dojem, že rozhodnutí je společné a sdílené. Více hlav víc ví, říkáte si.

V tomto případě byly ale ty ostatní hlavy umělé. Rád bych napsal nějakou radu, jak se takovému podvodu bránit. Jenže žádná jednoduchá není. Budeme muset zapojit kombinaci několika metod ověření, a to jak pomocí technologií, tak i tajných domluvených kódů. Možná, že pro některá rozhodnutí prostě budeme muset vyžadovat setkání tváří v tvář.

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.

Deep Fake videa: prezident, komedie i porno

Videomontáž zvaná „deep fake“ využívá strojového učení. Odtud také pochází její název, slovo deep odkazuje na tzv. hluboké strojové učení využívající umělé neuronové sítě. Od běžných videomontáží se deep fake liší především svou dostupností a rychlostí.

Zatímco dříve by věrohodná montáž vyžadovala práci celého týmu schopných grafiků a odborníků na filmové efekty, dnes zvládne „přelepit jeden obličej druhým“ téměř kdokoli. Stačí k tomu zdrojové video a co nejvíce fotek cílového herce. Třeba v této ukázce z produkce HBO natočil herec Jan Vlasák zdrojové video, na které pak schopný grafik nalepil podobu prezidenta Miloše Zemana.

Deep Fake montáž Miloše Zemana pro reklamu na seriál Bez vědomí z produkce HBOVideo: video: HBO, sestřih: Pavel Kasík

Reklama

Doporučované