Obecná umělá inteligence už je možná tady. Proč jen krčíme rameny?

„Obecná umělá inteligence je teď na obzoru,“ prohlásil v úterý z pódia vývojářské konference Google I/O šéf její AI sekce Demis Hassabis. „Stane se tou nejvýznamnější technologií, jakou kdy člověk vynalezl. Pokud ji postavíme dobře, mohla by posunout pokrok a rozkvět lidstva za hranice naší představivosti.“

„Ten pokrok je úžasně rychlý,“ podivoval se nahlas Hassabis, zakladatel firmy DeepMind a držitel Nobelovy ceny za chemii. „I pro nás, kteří jsme vývoji AI zasvětili celý život, je to neuvěřitelné.“

„Až se za touto dobou ohlédneme, myslím, že si uvědomíme, že jsme stáli na prahu singularity. Bude to hluboký okamžik pro lidstvo,“ snažil se znovu Hassabis podtrhnout význam.

Odezva publika byla ovšem nulová. Žádný potlesk nebo údiv. Proč také? To je přece normálka. Větší potlesk vyvolalo i oznámení, že nyní budete moci zaklapnout víko notebooku a AI agent bude dál na pozadí programovat.

Obecná umělá inteligence (často přezdívaná zkratkou AGI) nebo silnější superinteligence (zkratka ASI) jsou dnes pojmy tak běžné, že se nad nimi nikdo nepozastavuje.

Co se týče té AGI, dost možná už jsme této mety dosáhli a k té superinteligenci šéfové velkých AI laboratoří zatím celkem odhodlaně a zcela nepokrytě směřují. V Silicon Valley se to teď považuje za úplně standardní: Počítat s tím, že do několika let tu bude počítačová entita, která je chytřejší než jakýkoliv člověk. Mluví se o „něžné singularitě“ nebo „milionu vědců v datacentru“, jako by se nechumelilo.

Něco z toho je samozřejmě klasický trik, který patří do repertoáru Silicon Valley už půl století: Fake it till you make it. Napřed musíte o té budoucnosti mluvit, jako by tu byla, a tím ji přivoláte. Občas se to zvrtne, když někdo sliby přežene, a pak praskne, že nebyly ničím podložené. Ale u umělé inteligence to zatím nevypadá na nějaké prasknutí nebo náraz do zdi. Naopak se zdá, že schopnosti stoupají ještě o trochu rychleji, než naznačovaly ty nejoptimističtější predikce (nebo nejpesimističtější, dle úhlu pohledu).

Když v roce 2015 Elon Musk a Sam Altman zakládali laboratoř OpenAI, termín obecná umělá inteligence působil nejen nevědecky, ale přímo směšně. Ilya Sutskever, jeden z nadějných vývojářů AI, se tehdy svěřil, že OpenAI se pro něj stalo útočištěm právě proto, že tam zkratku AGI brali vážně. Jinde, mezi „skutečnými výzkumníky strojového učení“, se takovými sci-fi nesmysly moc nezabývali.

OpenAI se do výzkumu AGI pustila, ale definovat ji neuměli. I sám Sutskever o ní mluvil často spíš jako guru a mystik než jako vědec. „V Silicon Valley se vyvinulo něco, čemu říkám kvazináboženské hnutí,“ všimla si novinářka Karen Hao, která v roce 2019 jako první napsala důkladný profil firmy OpenAI. „Pojem obecné umělé inteligence není vědecky podložený.“

„V tomto ‚AGI náboženství‘ existují dvě frakce. Jedni si myslí, že nám AGI přinese utopii, druzí si myslí, že zničí celé lidstvo. Obě skupiny ale věří, že to přijde brzy, a tudíž dochází ke stejnému závěru: Musíme být těmi, kdo tu technologii ovládnou, a nesmíme ji uvolnit mezi ostatní,“ dodává.

Hao si ve své (mimochodem velmi zdařilé) knize Impérium umělé inteligence všímá, že Altman i další šéfové umí s tímto termínem obratně pracovat. Když prezentují svou vizi Microsoftu, používají jiné metriky, než když stejnou vizi prezentují investorům, zaměstnancům nebo veřejnosti. Pro každého nabere zkratka jiný význam. I to je asi důvod, proč se firmy OpenAI a Microsoft nikdy nedohodly na formální definici momentu, kdy AGI nastane.

Schválně jsem se podíval na to, jak o „obecné AI“ diskutovali vědci specializující se na strojové učení před deseti lety. V roce 2016 administrativa prezidenta Baracka Obamy sestavila analýzu ohledně predikcí o možnostech umělé inteligence: „Současný konsenzus expertní komunity, se kterou v tomto souhlasí i vládní experti, je, že obecná umělá inteligence nebude dosažitelná ještě minimálně několik desetiletí.“

Predikční platforma Metacalculus odhadovala v roce 2020 nástup „slabé obecné inteligence“ na rok 2055. Šlo o medián odhadů – polovina lidí tipovala, že to bude trvat ještě déle nebo že takového momentu nebude dosaženo do konce století.

Aktuální mediánová predikce na stejné platformě mluví o dubnu 2028, tedy za dva roky. Experti často mluví o kolapsu časových odhadů. Za zmínku stojí, že ty odhady, které v roce 2021 zněly jako nejvíce přitažené za vlasy, se ve zpětném pohledu ukazují jako nejpřesnější.

Dobrým příkladem jsou predikce Daniela Kokotajla, uznávaného výzkumníka a filozofa AI, který v roce 2024 odešel z OpenAI. Ten v roce 2021 napsal svou esej: Jak bude vypadat rok 2026?

„V roce 2026 budou chatboty používat stamiliony lidí, budou s nimi řešit různé věci, praktické, ale i vztahové. Řada lidí bude brát chatboty jako svého druhu kamarády.“ Naprostá trefa, největší chatboti ChatGPT a Gemini mají téměř miliardu aktivních uživatelů. Trefil se i v dalších aspektech, mnohé z nich jsou poměrně technické.„Když jsem predikci psal, snažil jsem se domyslet, jak by různé příběhy mohly věrohodně skončit,“ popsal svou metodiku výzkumník. „Vyšlo to, myslím, lépe, než jsem čekal. Realita se blíží této fikci více, než jsem čekal, a rozhodně více, než čekala většina ostatních lidí.“

Správně také Kokotajlo odhadl něco, co řadě lidí stále ani dnes nedochází. Že vysoké schopnosti umělé inteligence samy o sobě neznamenají automatickou změnu celé lidské společnosti. Předvídal tehdy například, že dopad umělé inteligence na produktivitu (měřenou klasickým HDP) bude v roce 2026 nulový. A i když úplná nula to zřejmě není, je pravda, že dopad AI na reálně měřitelnou produktivitu celých států je spíše malý.

Jedním z důvodů může být, že současná státní, obchodní i firemní infrastruktura je – a buďme za to rádi – optimalizována pro lidi, pro lidské vnímání, lidské chyby a lidské schopnosti. Jak už jsem psal v loňském článku: „Firmy na novou situaci nedokážou rychle naskočit. Nasazování rozsáhlých AI automatizací, které by nahradily celé oddělení, je značně nejisté a rizikové. A tak se AI používá hlavně jako podpůrný prostředek, ale stále funguje v infrastruktuře, která je dělaná pro lidi.“

Jak si všiml moderátor Dwarkesh Patel: „Výkonnost modelů stoupá tempem, jaké předpovídají zastánci rychlých časových odhadů. Ale užitečnost roste tempem, jaké předpovídají zastánci pomalých časových odhadů.“

Znamená to, že firmy nyní masivně nasazují umělou inteligenci (a utrácejí za tyto tokeny miliardy dolarů), ale jen minimum těchto tokenů je spáleno smysluplně. Většina chatbotů je nyní nasazena k tomu, aby „spolupracovala“ na materiálech, které jsou určené pro ty staré, na lidi zaměřené struktury.

Někdo použije chatbota, aby pomohl připravit prezentaci nebo napsat e-mail, případně naprogramovat nějaké interní nástroje, vygenerovat obrázky pro reklamu na sociální sítě atd. To jsou všechno činnosti, které se neprojeví na celkové produktivitě.

Řada firem navíc pořádně neví, jaký je jejich cíl nebo strategie růstu. Dosud to totiž nemusely moc řešit. Takže když dostanou nové nástroje, neumí je nasadit k ničemu jinému než k tomu, co dělaly dosud. Pokud dříve chodily v kruzích, tak nyní jezdí ve stejných kruzích na motorce. Je to intenzivnější tempo, ale reálná produktivita nestoupá.

Mohli bychom to brát jako uchlácholení: Nástup AI nakonec až tolik věcí nezmění. Firmy si budou věci dělat dál s pomocí lidských zaměstnanců a AI bude jen tu a tam přicmrndávat. Ale to by podle mého byl velmi krátkozraký pohled.

Optimalizace struktur na lidské procesy nám dává čas navíc. Neměli bychom jej ale promrhat. Stojí za připomenutí, že schopnosti AI agentů rostou exponenciálně. A kdykoli něco roste exponenciálně, nesmíme se spoléhat na svou intuici.

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.