Jako varování od Einsteina. Trump ale nebezpečí umělé inteligence zlehčuje

Proslulý vědec Albert Einstein v srpnu roku 1939 v dopise varoval amerického prezidenta Franklina Delana Roosevelta před nebezpečím, které by mohly představovat jaderné zbraně.

Psaní, v němž ale vědec zároveň vyjádřil úžas nad novou energií, se tak stalo podnětem k zahájení tajného výzkumného programu v hodnotě 2 miliard dolarů, který do historie vstoupil jako „Projekt Manhattan“. Vedl ho fyzik Robert Oppenheimer a udělal z USA jadernou velmoc. Šlo tehdy i o to, aby se takovou zemí nestalo nacistické Německo.

Po téměř 90 letech jakoby se historie opakovala. Opět tu jsou vědci, kteří stojí u zrodu revoluční technologie, přičemž i oni varují před jejími nebezpečnými „vedlejšími účinky“. A USA opět chtějí v hektickém závodě porazit svého rivala - tentokrát komunistickou Čínu.

Řada vědců nicméně volá po „zpomalení“. Na 1300 z nich se podepsalo pod dopis, v němž technologické firmy jako OpenAI a Antrophic vyzývají ke zvolnění vývoje nástrojů umělé inteligence (AI) a k tomu, aby do tohoto procesu vstoupila se svými regulacemi a dohledem vláda a její agentury.

Současnou debatu ohledně potenciálu a rizik roznítilo hned několik varovných výroků přímo od vývojových inženýrů.

Expert ze společnosti Anthropic Jacob Coxon, který pracoval i ve firmě OpenAI, dokonce na X napsal, že tyto přední laboratoře pracují na vývoji „nadlidských systémů, které dokážou hacknout cokoli, přes noc revolučně změnit jakoukoli oblast a získat skutečnou moc a zdroje“.

Podle něj tyto systémy mohou do konce dekády zahubit lidstvo. Pravděpodobnost, že se takový apokalyptický scénář naplní, odhadl na 10 procent.

Za tohoto inženýra, který podal výpověď, se postavil jeho kolega Evan Hubinger.

„Osobně si myslím, že v příštím desetiletí je pravděpodobnost (vyhynutí lidstva) vyšší než 10 procent. Věřím, že společnost Anthropic se snaží ze všech sil, ale zatím nemáme plán, jak vyřešit problém sladění superinteligence, a ani k tomu zjevně nesměřujeme,“ napsal Hubinger rovněž na platformě X.

Právě „nesoulad“ s lidskými záměry je jednou z největších obav Silicon Valley, píše k tématu list The New York Times (NYT) a vyjmenovává další černé scénáře v souvislosti s vývojem AI.

„Další obavou je, že umělá inteligence by mohla umožnit bezohledným zločincům – nebo nezodpovědným vládám – vytvořit smrtící patogeny, získat přístup k systémům jaderného velení a řízení nebo spustit nezastavitelné kyberútoky, které by ohrozily značné ztráty na životech či kolaps společnosti,“ píší NYT.

O víkendu se tak k těmto hrozbám vyjádřili i nejvyšší političtí představitelé z obou amerických politických stran.

Z jejich výroků je patrné, že k AI a jejímu vývoji přistupují zcela odlišně. Republikáni v čele s prezidentem Donaldem Trumpem chtějí firmám spíše ponechat volnou ruku a nijak je neomezovat v závodě s Čínou, která podle nich na superinteligenci neúnavně pracuje.

„V oblasti umělé inteligence Čínu porážíme (…) a upřímně řečeno, chci, aby to tak zůstalo, protože kdo zvítězí v oblasti umělé inteligence, ten zvítězí,“ prohlásil Trump v sobotu během své návštěvy Irska.

„Můžeme nainstalovat ochranná opatření, můžeme udělat to či ono, ale myslím si, že existuje spousta negativních sil, které tuto otázku vytahují na světlo (…) ačkoli by to dělat neměly, a zmiňují věci, které se nestanou,“ dodal Trump, který tak dal najevo, že ho apokalyptické scénáře nechávají chladným.

V pondělí na své sociální síti Truth Social uvedl, že vývoj umělé inteligence žádnou regulaci nepotřebuje. „Jedinou kontrolou nebo pojistkou, kterou umělá inteligence potřebuje, je silný a chytrý prezident (s vysokým IQ!) a USA ho mají,“ napsal Trump.

Republikánský senátor za Texas Ted Cruz sice přiznal, že je znepokojen riziky, které umělá inteligence pro lidstvo představuje, i on se ale zasazuje za to, aby USA de facto za každou cenu porazily Čínu.

„Číňané si nestanovují žádná omezení. Jdou vpřed plnou parou. Mohli bychom nechat vládu zasáhnout a prostě zastavit odvětví umělé inteligence v Americe a víte, co by se stalo? Čína by nás dohnala za šest měsíců a nechala nás daleko za sebou a my bychom neměli prostředky, jak se bránit,“ řekl serveru Politico Cruz.

„Byl bych raději, aby to byly americké zabijácké roboty než čínské,“ dodal.

Demokraté to vidí jinak. Někteří požadují dohled a volají po vytvoření speciální kongresové komise, jež by vývoj AI regulovala.

Jsou ale i demokraté, kteří požadují, aby se vývoj superinteligence zakázal, jiné méně dokonalé systémy pozastavily, dokud vláda nezavede rigorózní systém prověřování a kontrol.

Do tohoto tábora patří progresivně ladění demokraté, jako nezávislý senátor za Vermont Bernie Sanders, newyorská poslankyně Alexandria Ocasio-Cortezová či poslanec Greg Casar.

Ten požaduje, aby se z demokratů stali „AI populisté“, neboli aby začali proti této technologii aktivně bojovat a nenechali se neustále zaměstnávat a tím pádem se do jisté míry rozptylovat kritikou Donalda Trumpa.

„Samozřejmě je důležité postavit se Trumpovi na odpor. Myslím si ale, že až se za patnáct, dvacet let ohlédneme zpět, nejdůležitější událostí roku 2026 bude možná právě vývoj umělé inteligence, a ne nějaká šílenost, kterou Trump dneska zase provedl. ( …) Nesmíme dopustit, aby hrozba, kterou Trump představuje, převážila nad naší schopností organizovat se proti umělé inteligenci,“ řekl Casar novinářům.

Ozval se i bývalý demokratický prezident Barack Obama. Vyzval spolustraníky, aby o tématu AI mluvili během současné kampaně před volbami do Kongresu a nebáli se přijít s plány, jak tuto technologii regulovat.

„Kdybych příští rok kandidoval na prezidenta, bylo by to určitě jedním z mých hlavních bodů programu, měl bych velmi jasný plán, mluvil bych o tom a řekl bych: Tady je náš plán pro bezpečnost, tady je náš plán, jak zajistit, aby to naše děti nezničilo,“ měl Obama říci v soukromém rozhovoru s šéfem demokratů Hakeemem Jeffriesem. Jako první o této konverzaci informoval deník The New York Times.

Obama nicméně uznává i celou řadu pozitivních věcí, které by AI mohla lidstvu přinést. Uvedl například očekávané průlomy ve vývoji léků a léčebných postupů. AI by podle něj mohla i pomoci vybudovat svět založený na čistých energiích.

Rizika má ale bývalý prezident evidentně na mysli. „V soukromém sektoru se to vyvíjí velmi rychle, a pokud to nezvládneme, mohlo by to podle mě být nebezpečné,“ varoval.