Ženy jsou v informatice v menšině. Umělá inteligence ale dominanci mužů zmenší

Příkladem zneužité umělé inteligence může být případ zaměstnance jedné hongkongské firmy. Ten se před dvěma roky nechal napálit deepfake videohovorem s falešným vedením společnosti a následně převedl podvodníkům v přepočtu 600 milionů korun. Je to jen jeden příklad švindlu z mnoha, o nichž je slyšet čím dál častěji.

„V médiích se opakovaně rozebírají příklady a možnosti zneužívání umělé inteligence, což mi připadá škoda, protože třeba právě v medicíně podle mě hodně pomůže,“ říká vědkyně Barbara Zitová, která se zabývá zpracováním digitálního obrazu a nástupem umělé inteligence do každodenního života.

Působí v oboru informatiky, kde převažují muži. Nástup umělé inteligence však začal obor měnit. Od tradičního kódování se práce přesouvá k psaní textů a v tom mohou být podle Zitové ženy často zdatnější.

„Technologické firmy dnes uvádějí, že využívají služeb mladých lidí z humanitně zaměřených vysokých škol, protože dokážou lépe formulovat názor v textové podobě,“ přibližuje vědkyně.

Jaká byla vaše cesta k umělé inteligenci?

Za mého mládí ještě počítače nebyly zdaleka tak rozšířené jako dnes. Už od dětství mě ale bavila matematika, od páté třídy jsem byla ve výběrové třídě a pak i na gymnáziu. Zároveň mě bavily obrázky, fotografie, takže jsem na Karlově univerzitě od odborné matematiky uhnula k počítačové grafice a posléze ke zpracování obrazů, kde jsem až do dneška.

V jednom rozhovoru jste řekla, že učíte počítač vidět a rozumět obrazům lépe než lidské oko. Co si pod tím představit?

Počítače skutečně mohou vidět to, co my nevidíme. Náš ústav například spolupracuje s restaurátory. Když se podíváte na obraz v jiných vlnových délkách, dokážete zachytit i vrstvy, které běžně nevidíte. Nacházejí se pod vnější malbou.

Podobně i lékaři, když vyšetřují pacienta, si mohou nechat udělat CT nebo magnetickou rezonanci. Na výsledky se pak mohou dívat odděleně, nebo použít systém, který různé typy vyšetření spojí dohromady. Díky tomu pak lékař vidí více informací v jednom snímku najednou.

Záběr oborů, s nimiž spolupracujete, je ale ještě mnohem širší: kriminalistika, průmysl, energetika nebo biomedicína. A do toho vstupuje umělá inteligence, která se stává všudypřítomnou – stačí vytočit informační linku banky nebo mobilního operátora. Je AI dobrým pomocníkem pro lidi, nebo naopak hrozbou?

Je to nástroj. Zatím nemá sám o sobě tendence nám ubližovat. I když vzhledem k tomu, že mám ráda sci-fi, nemohu samozřejmě vyloučit, že by se to v budoucnu nemohlo nepříjemně zvrtnout. Víme, jak se v médiích opakovaně rozebírají příklady a možnosti zneužívání AI, což mi připadá škoda, protože třeba právě v medicíně podle mě AI hodně pomůže. Ale těch oblastí je samozřejmě více.

Jak AI pomáhá?

Může například urychlit nějaký důležitý výzkum, třeba ve farmaceutickém průmyslu. Systém AlphaFold od společnosti Google dnes dokáže rychle určovat tvary proteinů, což pomáhá zkrátit vývoj nových léků z let na pouhé měsíce.

Umělá inteligence může také pomoci předpovědět, jak se bude vyvíjet zdravotní stav konkrétního člověka. Možná to pak někoho přiměje ke změně životního stylu, aby se hrozícím chorobám vyhnul. Pozitivních využití AI je opravdu hodně. Na druhou stranu je samozřejmě hodně i těch negativních.

Třeba útoky na klienty bank, z nichž podvodníci pomocí umělé inteligence pod různými záminkami vymámí přístupové údaje k účtům.

Třeba. Myslím, že by se společnost měla více zaměřit na to, abychom si všichni uvědomili, co se všechno při zneužití AI může stát. Když například čtenáři v minulosti viděli fotku v novinách, byla to víceméně pravda. I když to tak neplatilo pokaždé.

Viz například lidé, kteří „zmizeli“ z okolí Klementa Gottwalda, protože byli odsouzeni ve vykonstruovaných procesech. Na svých přednáškách také ráda ukazuji slavný portrét Abrahama Lincolna, což je jedna z prvních velkých fotomontáží v dějinách, kdy je jeho hlava nasazena na těle úplně jiného politika.

Lidé ale takové úpravě reality snadno podlehnou.

Ano, jenže to není problém AI, ale těch, kteří tento nástroj zneužívají. Jak se technika zdokonaluje, už není potřeba nějaká trollí farma, kterou obsluhuje velký počet lidí, ale postačí jeden výkonný stroj. Každý se už dnes při surfování po internetu může přesvědčit, jak algoritmy vytvářejí informační nebo reklamní kanál přesně pro vás, jak přesně vystihnou, o co máte zájem – a podle toho vám nabízejí informace.

Existují zásady, rady, jak by měl člověk postupovat, aby na internetu poznal, že nabízená fotka nebo video je dílem AI?

Podle pravidel Evropské unie má mít každý informační kanál, do něhož zasáhla AI, titulek, že ho upravila právě umělá inteligence. Když se podíváte na slušné informační zdroje, je to tam skutečně uvedeno. Když nás chce ale někdo za každou cenu ovlivnit, tak tam samozřejmě žádnou takovou vysvětlující informaci dávat nebude. A každý člověk si nepochybně nebude ověřovat, jestli jsou dané obrázky pravé.

Navíc neexistuje žádný stoprocentní software, který by vám to ověřil. Speciálně v kategorii obrázků už dávno neplatí, že postavy upravené umělou inteligencí mají například šest prstů. AI je mnohem dokonalejší, už netvoří jenom krásné dokonalé lidi. Umí třeba vytvořit akné na pleti, zamazat brýle, prostě cokoli, co zvyšuje důvěryhodnost. Čím lépe je někdo placený za to, aby vás podvedl, tím kvalitnější práci odvede.

Takže co s tím?

Člověk by měl kriticky uvažovat, mít aktuální informace o tom, co se děje, zaměřovat se na solidní a hodnověrné zdroje, a nikoli na pochybné informace. Ale uvědomuji si, že to nemusí být pro každého snadné.

Už se vám také stalo, že jste naletěla?

Snažím se být velmi opatrná. Dlouhodobě se například zajímám o moře a když vidím obrázky, na nichž pod hladinou plavou žraloci nebo delfíni, říkám si, že to nemusejí být úplně pravdivé snímky.

Takže spíš naopak jste u fotek podezřívavá, že je vytvořila AI, i když jsou třeba pravé?

Z poslední doby se mi vybavuje, že na pražské Letné hořelo plynové potrubí. Nejprve jsem to zaznamenala na sociálních sítích a okamžitě mě zaujala fotka plamene. Vypadala divně, nepřirozeně. Opravdu jsem si myslela, že to je fake, uměle vytvořené. Plamen byl takový vysoký, hodně svítivý. Když jsem se ale následně podívala do solidních médií, viděla jsem stejnou fotku. Opravdu to byl plamen z hořícího plynu. O to těžší pak v určitých případech může být rozpoznat realitu od fikce.

Jsou videa upravovaná umělou inteligencí ještě přesvědčivější, a tedy nebezpečnější než falešné fotky?

Jsou. Mnozí lidé si nepochybně myslí, že to musí být pravda, protože videa se přece nedají snadno napodobit. Je to omyl. V posledních měsících sledujeme, že jsou zadarmo dostupné modely, kde rozpohybujete fotografii kohokoliv.

Samozřejmě tyto funkce pocházejí ze zemí, kde moc neřeší nějaká pravidla, co se může, a co ne, případně jestli tento produkt označit jako výtvor AI. Mohou takhle rozpohybovat i známé osobnosti, politiky, prostě kohokoliv, není tam žádná kontrola. Navíc to jde docela snadno. A vypadají velmi uvěřitelně. Obávám se, že za rok za dva už budou tak dokonalé, že prakticky nepůjde rozeznat realitu od umělé inteligence.

A já se opět musím zeptat: co s tím?

Chce to asi lepší vzdělávání, výchovu, zkušenost. Když dneska někdo uvidí na ulici skořápkáře, také už neuvěří, že uhodne, pod kterým víčkem se nachází kulička, aby vyhrál ohromný balík peněz. Ze zkušenosti ví, že je to podvod.

Když se lidé naučí, že určité aktivity na internetu jsou velmi nepravděpodobné, snad tomu přestanou věřit. Nechci ale, aby to vyznělo tak, že AI jenom škodí, může být také hodně prospěšná, jak už jsem to zmiňovala.

Může mít i deepfake pozitivní přínos?

Musíme si předně uvědomit, co všechno je deepfake. Je to například i dabing zahraničního filmu, protože herci říkají něco jiného než původně. Samozřejmě se tím otvírá i velké téma, co se stane, až umělá inteligence sebere dabérům jejich práci.

Stejná AI technologie ale může být prospěšná například pro nevidomé, když jim popisuje, co se ve filmu odehrává. Dovedu si také představit, že vzniknou televizní seriály, které se budou vytvářet přesně na míru konkrétního diváka – podle toho, jak bude hodnotit děj, jaký vývoj si bude přát.

Nebo si vezměte použití AI ve výuce. Kdyby na hodinu pomyslně přišel uměle vytvořený Karel IV. a vyprávěl o sobě a své době, nepochybně by si z toho odnesly děti více než od učitele a z učebnic. V Japonsku se už dnes využívají chatboty k tomu, že si povídají se seniory v domovech důchodců – protože je málo lidí, kteří tam chodí na návštěvy.

Dočetl jsem se také, že jste se setkala se zfalšovaným rentgenovým snímkem. O co šlo?

Pacient se soudil, protože mu stomatolog špatně provedl zubní operaci. Zubař jako důkaz, že to udělal dobře, předložil rentgenový snímek zubů. Byl pořízený z takové té destičky v ústech. Ve spisu pacienta byl ještě jeden rentgenový snímek, ale o několik měsíců starší. Kolegové z našeho oddělení zjistili, že oba mají stejnou geometrii snímání. Zubař by tedy musel pacientovi onu destičku dát dvakrát do úst naprosto stejně, což je téměř nemožné.

Náš závěr tedy byl, že je velmi nepravděpodobné, aby se oba snímky podařilo nasnímat identicky. Byly tam navíc ještě další nesrovnalosti, které ukazovaly, že si s druhým snímkem někdo „pohrál“. Ale tady figurovaly ještě klasické editační programy, AI v té době ještě nebyla.

Jak dále vaše oddělení spolupracuje s policií nebo se soudy?

Typicky jde právě o posouzení, jestli dotyčná fotografie nebo video byly upravené, nebo nikoli. Ale bývá to i naopak. Jedna strana tvrdí, že snímek byl modifikovaný, aby se vyvinil z nějakého trestného činu. My pak analyzujeme, jestli byl obrázek nějak měněn.

Ještě něco dalšího?

Koncem roku skončil několikaletý projekt, v jehož rámci jsme vyvíjeli softwarovou aplikaci, která pomáhá vyšetřovatelům zefektivnit vyhodnocování obrázků a videí ze sledovacích kamer. Když například zjišťují, jestli na určitém místě někdo byl a pokud ano, co tam dělal.

Když by měli prohlížet několikadenní záznamy, bylo by to nesmírně náročné. Náš software jim může pomoct v tom, v jaké části nahrávky se hledaná událost zhruba nachází. Jen chci upozornit, že se to netýká kamer, které například sledují situaci na křižovatkách nebo na přechodech. Jsou to kamery využívané výhradně na policejní vyšetřování konkrétního případu. Není to žádný Velký bratr.

A když jste zmiňovala práci při restaurování obrazů, o co jde?

Abyste mohl restaurovat obraz, musíte napřed vědět, jaké tam máte vrstvy, co všechno se na plátně nachází. Buď můžete odebrat vzorek a analyzovat, nebo můžete „prohlédnout“ obraz pomocí různých vlnových délek, například rentgenovým zářením.

V současné době nejvíce spolupracujeme s ústavem National Institute of Optics z Florencie, který má společné projekty s L'Opificio delle Pietre Dure, což je jedno z nejvýznamnějších restaurátorských pracovišť na světě. To jsou velmi prestižní záležitosti, kdy máme k dispozici třeba data z děl Leonarda da Vinciho.

Vaším dlouholetým koníčkem je fotografování. Používáte při tom umělou inteligenci?

Používám. Ale jen pro vlastní potřebu, zkouším, co to všechno umí. Jednu dobu jsem si dokonce vedla deník, kde jsem měla co den, to obrázek. Dneska mobilní telefony dokážou díky AI velké věci. Mám ale zásadu, že neměním obsah, pouze vylepšuji kvalitu obrázku.