Očima byznysu: Geniální program prolamující šifry? Úspěch i sebereklama

Mythos je nová umělá inteligence od americké firmy Anthropic, kterou její tvůrci odmítli veřejně vydat s odůvodněním, že je v hledání chyb v počítačových systémech tak dobrá, že by mohla být zneužita. Od běžných AI jako ChatGPT nebo Claude Opus 4.7 se liší hlavně rychlostí a důsledností — v jednom interním testu dokázala napsat funkční útok devadesátkrát úspěšněji než její přímý předchůdce. Zjednodušeně: většina dnešních AI umí upozornit, že v programu je chyba. Mythos je první model, který se tu chybu snaží sám od začátku do konce zneužít, bez pomoci člověka.

Pravděpodobnost, že by mohl být Mythos zneužit k masovým kyberútokům nebo krádežím dat, je menší, než zní titulky. Když Anthropic Mythos testoval proti Linuxu, tedy systému, na kterém běží většina internetu, model sice našel desítky závažných chyb, ale po několika tisících pokusech nedokázal ani jednu z nich vzdáleně zneužít. Jinými slovy: našel odemčené dveře, ale dál ho zastavil alarm, mříže a zámky.

Moderní software má několik vrstev ochrany a ty fungují. Šéf zabezpečení prohlížeče Firefox navíc potvrdil, že mezi 271 chybami, které Mythos v prohlížeči odhalil, nebyla jediná, na kterou by nepřišel i zkušený lidský výzkumník. Rychlejší auditor, ne zbraň hromadného ničení.

Silná reakce americké vlády a institucí jako SEC je víc o politice než o technice. Americký ministr financí a šéf centrální banky skutečně svolali kvůli Mythosu nouzovou schůzku se šéfy velkých bank, ale impulz přišel od lobbistické skupiny, která už léta kritizuje americkou komisi pro cenné papíry za to, že v jedné centrální databázi drží informace o každém obchodu na burze včetně osobních údajů investorů. To je skutečně rizikový design a kritici na něj upozorňují dávno před Mythosem. Nový AI model se jim prostě hodil jako záminka, jak dlouholetý problém dostat do titulků. Riziko existuje, ale panika je zesílená zájmy, které s Mythosem přímo nesouvisí.

Nevěřím v to, že lze podobné technologie efektivně regulovat a dějiny dávají za pravdu. Regulace technologií vždy zaostávaly za realitou o pět až deset let a obvykle dosáhly dvou věcí: postavily překážky evropským startupům, zatímco američtí a čínští giganti mezitím zaplatí pokuty z drobných. GDPR měla chránit soukromí — Google a Meta fungují dál, zlikvidovali jsme ale tisíce malých firem v Evropě. Evropský AI Act vychází v době, kdy schopnosti modelů každých pár měsíců skočí o generaci.

A konkrétně u Mythosu je to ještě jasnější: výzkumníci z firmy AISLE ukázali, že stejné chyby dokážou najít i malé, volně dostupné AI modely za méně než dva tisíce korun. Kdokoliv si je může stáhnout. Regulací nejvyspělejších modelů tedy nic nevyřešíte, jen popíšete papír. Co funguje, je úplně jiná logika: transparentnost, otevřené sdílení nalezených chyb, tlak trhu na firmy, aby samy zveřejňovaly, kdy a kde jejich modely selhávají. Regulace dává iluzi bezpečí. Reálnou bezpečnost tvoří lidé, kteří na tom dennodenně pracují.

Domnívám se, že obavy kolem Mythosu mohou být přehnané nebo součást marketingu, a mám pro to konkrétní důvody. Jiní výzkumníci nezávisle zopakovali několik „vlajkových“ nálezů Mythosu pomocí běžně dostupných AI modelů — včetně ChatGPT — tedy technologií, které dnes používají miliony lidí. Americký kryptograf Bruce Schneier, jedna z nejuznávanějších postav oboru, napsal, že Anthropic ukázal „pěknou sestřihovou smyčku úspěchů“, ale nezveřejnil, jak často jeho model hlásí plané poplachy.

A David Sacks, technologický poradce amerického prezidenta, otevřeně mluví o tom, že Anthropic má „historii strašení“. To neznamená, že je Mythos podvod — je to skutečně výkonnější model než jeho předchůdci. Ale rámec „je to tak nebezpečné, že to nesmíme pustit ven“ plní současně dvě role: chrání veřejnost a buduje značku firmy. Zdravá skepse je v tomhle kontextu odpovědnost, ne cynismus.