Na horečku kolem AI doplatí hlavně běžní lidé, předpovídá expert

Umělá inteligence poslední generace je obrovským posunem v informační technologii, kdy dokáže poskytovat velmi užitečné informace v rekordně krátkém čase. Dokáže ale vytvářet i věrohodné fotografie či videa, které i odborníci jen těžko rozliší od těch pravých. Falešný obsah na sítích tak slouží dezinformátorům, aby šířili svou demagogii daleko rychleji a efektivněji.

Karel Obluk, bývalý manažer tuzemské antivirové firmy AVG, která se jako první česká společnost obchodovala na newyorské burze, však v tomto ohledu není tak skeptický. „Trochu se obávám, že je jedno, jestli falešný obsah vytváří umělá inteligence, nebo skuteční lidé. To, s čím se setkáváme úplně běžně a co v naprosté většině populace stačí, jsou i nekvalitní fotomontáže. Existují i dnes zjevně vymyšlené texty a lidé, kteří jim chtějí věřit, jim stejně věří,“ říká v rozhovoru pro SZ Byznys.

V rozhovoru mluví také o tom, do čeho by investoval a v čem se jako investor mýlil. Obluk je dnes partnerem londýnského fondu Evolution Equity Partners, který investuje do firem z oblasti počítačové bezpečnosti včetně čerstvé akvizice firmy Protect AI.

Je podle vás poslední verze umělé inteligence skutečně takový převrat, jak slyšíme od jejích příznivců?

Umělá inteligence jednoznačně znamená velký přínos, ale je třeba ji – jako každou technologií – brát s rezervou. Obor sleduji a pamatuji si, že tady bylo několik vln nadšení a potom zase několik období ochlazení, kdy se zjistilo, že uplatnění AI nebude zase až tak skvělé.

Myslím si, že i tahle vlna znamená obrovský posun v tom, co dokážeme ve výpočetní technice. Současná AI přinesla obrovský rozvoj funkcí, které počítač může zvládnout a kde nám jednoznačně pomůže. Po nějakém čase ale určitě přijde vystřízlivění, zejména mezi laickou veřejností. Očekávání, zejména právě u laiků, totiž nejsou úplně realistická.

Máte z posledních možností AI také obavy, zejména pokud jde o vytváření smyšleného obsahu?

Myslím, že se musíme trochu bát toho, co umělá inteligence dokáže třeba právě v oblasti vytváření falešného videa, falešného obsahu i fake news a podobně. Určitě AI zaznamená posun, který bude jak pozitivní, tak i negativní. Na druhou stranu si myslím, že se nemusíme bát toho, že by nás všechny umělá inteligence nahradila minimálně v horizontu těch 10 či 20 let, které můžeme nějak trošku předvídat.

O rizicích AI jsem nedávno četl článek ve Financial Times, kde vědci mluví o „dírách“ v AI, kdy za pomoci určitých promptů čili dobře napsaných otázek je možná dojít k zakázaným věcem: například návodů na výrobu bomb, ale hlavně produkovat dezinformace. Jaký směrem se podle vás AI vyvine?

Problém je, že se to eliminovat nedá. Ale upřímně řečeno, já se trochu obávám toho, že je jedno, jestli falešný obsah vytváří umělá inteligence, nebo skuteční lidé. To, s čím se setkáváme úplně běžně a co v naprosté většině populace stačí, jsou i nekvalitní fotomontáže. Existují i dnes zjevně vymyšlené texty a lidé, kteří jim chtějí věřit, jim stejně věří.

Takže ano, AI dokáže vytvořit dobrou fotomontáž nebo úplně nové fotografie, vygenerované obrázky nebo videa, dokonce máme i filmy vytvořené pomocí umělé inteligence, které pochopitelně posouvají laťku ještě někam dál, a teď už ani experti nebudou schopni rozeznat, jestli to je montáž, nebo jestli je video vytvořené umělou inteligencí, nebo jestli je to realita.

Ale z hlediska dopadu na společnost si myslím, že ten rozdíl nebude tak zásadní, protože dopady na společnost z mého pohledu jsou daleko větší v oblasti sociálních bublin a sociálních sítí, které tu společnost nějakým způsobem dělí a polarizují.

Je nepochybné, že technologie jednoznačně přispěly k polarizaci společnosti, především Facebook. Ale není pravda, že AI tento trend zintenzivní, protože schopnost generovat vymyšlený obsah se násobně zvyšuje?

Ano, je to nástroj, který dává lidem, kteří chtějí udělat něco špatného, do rukou nástroj ještě lepší, ještě účinnější. Na druhou stranu současně dává do rukou nástroj i těm, kteří se snaží s tímhle škodlivým obsahem bojovat. Takže pochopitelně jako vznikají škodlivé věci, tak vznikají i technologie, které se snaží se škodlivými věcmi bojovat.

Bohužel je to trochu hra na kočku a myš, kdy doháníme zločince, kteří jsou hrozně inovativní, a boj s lidskou hloupostí je nekončící. Takže když někdo uvěří tomu, že země je placatá, a potvrdí si to tím, že letí v letadle z Ameriky do Austrálie a celou dobu letu drží na klíně vodováhu, a tím je dokázáno, že země je placatá, tak prostě nepotřebujete ani vytvářet fake videa a jejich obrázky.

Tihle lidé tomu prostě budou věřit a chtějí být ve své pravdě jen utvrzení.

Vy jste se zmínil, že na mánii kolem AI jsou náchylní „naletět“ hlavně menší investoři, kteří mohou prodělat hodně peněz. Je to podle vás třeba příklad akcií firmy NVIDIA, které masivně vyrostly, avšak právě menší investoři akcie nakupovali až později, kdy už byly drahé. Není to klasická bublina?

Nechci dávat nějaké investiční rady, ale myslím si, že zrovna NVIDIA je firma, která má dobře nastartováno, pokud tu bude další poptávka po čipech. Ale ano, tak jako u řady dalších společností, zrovna NVIDII nebo před pár lety i Teslu jsem hodnotil jako předraženou akcii. A mýlil jsem se, protože akcie těchto firem dál strmě rostly.

Od určitého okamžiku už hodnota akcií byla výš, než co bych já byl ochoten investovat. Fundament byl podle mě přepálený (hodnota akcie neodpovídala ziskovosti firmy, pozn. red.). Takže bych teď řekl, že Nvidia je hodně drahá, ale pořád ta příležitost tam je.

Nicméně co se týče investic do čipů, sleduju spíš poslední zprávy o supravodivosti za pokojové teploty. Kdyby se ukázalo, že je tato technologie funkční, byl by to samozřejmě obrovský a zásadní průlom. Obecně platí, že řada drobných investorů, kteří nemají hlubší znalosti a jenom čtou články a řeknou si: „Já naskočím teď na to, co roste, to bude ta správná akcie,“ tak se většinou spálí. Tito investoři většinou nastupují příliš pozdě a vystupují příliš pozdě, ke své škodě.

V tom se spoléhám buď na aktivně řízené fondy, anebo ETF (fondy kopírující burzovní indexy, pozn. red.), kde – pokud sám nemám dostatek informací – bych se osobně neodvážil investovat a vybírat konkrétní tituly právě bez informací.

Kdyby se potvrdily zprávy o supravodivosti, NVIDIA a další technologické firmy by mohly dál prudce růst?

Další miniaturizace a rozšiřování nasazení čipů by určitě byl průlom. Dívám se proto i na softwarové firmy jako Apple či Microsoft. Databázové, analytické systémy a oblast zpracování dat obecně, to je podle mne také velmi zajímavá oblast.

Já jsem partnerem v technologicky zaměřeném fondu, který investuje především do privátních firem v oblasti bezpečnosti. Mně osobně jsou tak blízké věci související s bezpečností, teď myslím počítačovou bezpečností, která má obrovskou budoucnost a obrovský potenciál růstu.

V jaké výši jste osobně vložil prostředky do fondu Evolution Equity Partners?

My máme fond, který investuje do počítačové bezpečnosti, a tudíž já jako partner jsem tam velmi motivován nejenom tím, co jsem tam vložil, ale tím, že se podílím na zisku a zhodnocení.

Z tohoto hlediska to je pro mě ještě mnohem podstatnější než investice prostředků, které vlastním. Vložil jsem do fondu výraznou část svých prostředků.

Předpokládám, že jsou to hlavně výnosy z prodeje původně brněnské firmy AVG, kterou jste kdysi řídil?

Ano.

Na čem se vám podařilo v minulosti výrazně vydělat a také prodělat?

Musíme rozlišit fond Evolution Equity Partners a moje soukromé investice, které jsou řádově nižší. Evolution Equity Partners je fond rizikového kapitálu, kde máme kromě našich prostředků především externí partnery z celého světa. Je to fond, který spravuje peníze investorů: první fond od investorů získal 130 milionů dolarů, druhý 400 milionů a ve třetím teď cílíme nad 750 milionů dolarů.

Jaký byl výnos pro investory u těch dvou minulých fondů, které už jste uzavřeli?

To není veřejná informace, ale ty fondy patří mezi 10 procent nejlepších fondů na světě ve své kategorii. Když se podíváte na nejlepší fondy, které v té oblasti rizikového kapitálu zhodnocují prostředky typicky dvoj-, tří- či vícenásobně, tak z toho se dá asi usoudit, kde se přibližně pohybujeme.

Nejnovější investicí fondu je v Seattlu sídlící firma Protect AI. Můžete ji popsat?

V této investici se mísí oblast bezpečnosti a umělé inteligence, kde vidíme, že celá řada datových modelů, s nimž umělá inteligence pracuje, není dostatečně chráněna.

Je to segment, kde nebezpečí určitě vidíme a kde bude potřeba chránit datové modely, ať už z hlediska jejich napadení před zneužitím, před nějakým ovlivněním datových modelů, které třeba jsou veřejně přístupné, tak aby dodávaly relevantní data.

Patří sem i ochrana dat, na kterých se trénují samotné AI modely, aby si uživatelé těch modelů potom mohli být jistí, že model je v pořádku a že ho můžou používat.