Superinteligenci nečekejte. Je to hra vabank, varují skeptici

Až vytvoříme superinteligenci, bude ráj na zemi, tvrdí velké firmy. OpenAI, Anthropic nebo Meta to říkají přímo, ale i jiné firmy do umělé inteligence investují ohromné částky. Sam Altman, šéf OpenAI, často mluví o tom, že „obecná umělá inteligence“ by mohla přijít v řádu let, brzo následovaná superinteligencí.

Altman má dokonce se svým hlavním investorem domluvenou smluvní doložku: Pokud bude dosaženo AGI, přístup Microsoftu k novým modelům se na tuto novou technologii nevztahuje. Dozorčí rada rozhodne, jak v takovém případě s AGI naložit. Tato pojistka je ve stanovách firmy ještě z doby před ChatGPT a má zabránit právě té teoretické situaci, která je stále méně teoretická. Pokud je cílem bezpečný vývoj superinteligence, tak by neměl být primárně motivován ziskem, protože to by mohlo vést k omezení bezpečnosti.

Nedávné události ukazují, že tato obava byla oprávněná. Firma OpenAI se lekla, že je v žebříčcích nejlepších modelů předběhl konkurenční Gemini 3 Pro. Vyhlásila červený poplach a ještě v prosinci 2025 uvedla GPT-5.2, který ji papírově vrátil do čela pelotonu. Podle kritiků to ale bylo za cenu nedostatečného otestování modelu, který měl jít původně ven až za několik měsíců.

Závody směrem k superinteligenci jsou tedy v plném proudu, což odpovídá noční můře kritiků, kteří varují, že přesně takhle si zahráváme se silou, již nemůžeme ovládnout.

Čím dál hlasitější je ale i kritika z opačné strany názorového spektra. Ekonomové upozorňují na bezprecedentní investice do datových center. Samozřejmě, že datová centra budou potřeba. Ale firmy nyní plánují investice řádově větší než v minulosti. Navíc jde o centra plná specializovaných čipů, které zastarávají poměrně rychle.

„Říkám, že lze realisticky předpokládat, že za pět let můžeme očekávat stokrát lepší čipy,“ vysvětluje Arvind Krishna (šéf IBM), proč je ohledně ohromných investic do datových center skeptický. Firmy tedy sice zdánlivě investují do trvanlivé infrastruktury, ale její velká část bude za pár let zastaralá – zvolily sprint, přestože cíl je v nedohlednu.

To ale nutně neznamená, že jsme v bublině. „Těm firmám sázka může dávat smysl,“ myslí si Krishna. „Pokud se některé povede vytvořit něco, co bude velmi použitelné pro koncové zákazníky a jednoznačně lepší než cokoli, co má konkurence, tak najednou získala půl miliardy zákazníků.“ A na světě je potenciálních zákazníků více než 7 miliard.

Takové chování skutečně dává smysl jen v případě, že se hraje hra, v níž vítěz, který proběhne cílem jako první, bere vše. A cíl navíc musí být poměrně nedaleko, jinak to nebude fungovat a sprintující závodník lehne vyčerpáním.

Investoři zatím tento příběh přijímají, což tlačí ceny akcií vzhůru. Kritici varují, že to připomíná klasickou ekonomickou bublinu. „Nevěřte tomu nadšení,“ snažil se upozornit v roce 2024 Daron Acemoglu, držitel Nobelovy ceny za ekonomii. „Podle predikcí by měla generativní AI navýšit HDP o 7 % do deseti let. Mně to zdaleka tak jisté nepřijde. Je prakticky nemožné něco předpovídat desítky let dopředu.“ Vysvětluje třeba, že navýšení produktivity automaticky nezaručuje podobné navýšení spotřeby a produkce.

Řekněme, že byste dokázali vyrobit troubu, která umí nějakým fyzikálním zázrakem upéct bábovku pětkrát rychleji než doposud. Taková trouba by si jistě své zákazníky našla. Ale je dost nepravděpodobné, že by vedla k pětinásobnému zvýšení spotřeby bábovek. Kdo to bude jíst?

A stejně tak může třeba rychlejší produkce obsahu pomocí AI vést k většímu počtu tvůrců, ale nikoli k vyššímu počtu platících konzumentů. V takovém případě nedojde ani tak k nárůstu HDP, jako spíše k přesunu výdělků ve stylu „ekonomiky superhvězd“.

Před příliš optimistickým narativem varoval už počátkem roku 2023 Rodney Brooks, australský odborník na robotiku: „Lidé dělají stále tu samou chybu. Vždycky, když uvidí nějakou demonstraci AI, berou to jako důkaz, že svět už najednou nebude jako dřív.“

„Ve chvíli, kdy se začaly v březnu 2023 objevovat studie jako Záblesky AGI, bylo jasné, že očekávání jsou nereálně vyšponovaná,“ komentoval to v roce 2024 Gary Marcus, kognitivní psycholog z New York University. Zklamalo jej, že velcí hráči jako Microsoft se ženou kupředu za tímto cílem bez ohledu na okolnosti. A nezdá se, že by je někdo brzdil.

„Pozor, neříkám, že generativní umělá inteligence zmizí. Ale je tu finanční bublina, protože lidé odhadují hodnoty společnosti zabývající se umělou inteligencí, jako kdyby už už měly vyřešit problém obecné AI. Podle mého názoru to není realistické.“

Zatím se nezdá, že by vývoj AI zpomaloval. Naopak, nové modely si troufnou na čím dál komplikovanější úlohy. Možná ale nepřijde žádný další „inteligenční skok“ a budeme „jen“ ladit stávající modely. To vůbec není málo, naopak. Většina lidí a firem nyní nevyužívá ani zlomek toho, co AI nabízí. A nebrání jim v tom fakt, že jsou modely málo inteligentní. Brzdí je neznalost, nedostatek nástrojů, chybějící infrastruktura, nejasné interní předpisy i obyčejná setrvačnost.

Ani Microsoft už ostatně nemluví o AGI jako o okamžitém nebo dokonce bezprostředním cíli: „Když říkám, že může AGI přijít brzy, myslím tím třeba deset let,“ objasnil v létě 2025 Mustafa Suleyman, šéf vývoje AI u Microsoftu. Na rozdíl od jiných šéfů laboratoří nepředstírá, že má nějakou představu o budoucím světě, do něhož vstoupila superinteligence: „Vůbec netuším, jak bude společnost vypadat, jestli se to stane.“

Hlavním cílem podle něj nemá být vytvoření nějakého AI-boha, ale spíše hledat, jak tato technologie může už v dnešní podobě řešit reálné problémy, které lidstvo trápí: energetika, vzdělání, zdravotní péče, zásobování jídlem. „Říkám tomu humanistická superinteligence,“ zavádí Suleyman vlastní příchuť AGI. „Cílem pro mne není superinteligence jako taková.“ Což je ostatně sdělení, se kterým by nejspíše – přinejmenším na papíře – souhlasili i zástupci ostatních velkých hráčů.

Osamoceným solitérem je pak výzkumník Yann LeCun, jeden ze tří hlavních architektů hlubokého strojového učení (vedle již zmíněných Hintona a Bengia). Ale zatímco jeho kolegové nyní bijí na poplach a varují před monstrem, které pomohli přivést na svět, LeCun je zcela v klidu.

Nevěří totiž, že by dnes dominantní varianta AI, tedy velké jazykové modely (LLM), byly cestou k dalšímu rozvoji. Podle něj narazí do zdi. Přirovnává je spíše než k AI-božstvu k mozku domácího mazlíčka: „Dříve, než začneme urgentně řešit, jak se nenechat ovládnout systémy, které jsou chytřejší než člověk, bychom měli mít aspoň náznak systému, který je chytřejší než kočka.“

LeCun nedávno skončil ve firmě Meta, kde zastával pozici šéfa vývoje superinteligence. „Nenadělal jsem si v Silicon Valley ani v Metě moc přátel tvrzením, že do tří až pěti let nebudou velké jazykové modely tím dominantním systémem umělé inteligence.“ Podle něj všichni doufají, že se k cíli dostanou pouhým škálováním jazykových modelů. „Ani náhodou,“ vzkazuje.

To, co vytvářejí LLM systémy jako Gemini nebo ChatGPT, označuje pouze za iluzorní inteligenci. Myslí si, že má řešení: modely světa (world models). Ty by měly fungovat více jako lidský mozek, vytvářet si nové vzpomínky a trénovat se za pochodu. Někdy doslova za pochodu: LeCun věří, že právě takové systémy se budou hodit do humanoidních i jiných robotů, kteří se koneckonců budou ve světě pohybovat, a měli by mu tedy rozumět.

A krátce po odchodu z Mety už má Yann LeCun – jak jinak, jsme ostatně v Silicon Valley – vlastní firmu a investory, kteří jej na jeho cestě podpoří.

Když objevujeme novou fascinující technologii – a stroj generující smysluplný text nepochybně fascinující je –, okamžitě se roztáčejí kola fantazie. Na všechno náš mozek zkouší „nalepit“ nové možnosti. Mohla by AI za vás investovat? Nahradit terapeuta? Doktora? Mohla by dětem číst pohádky, pomáhat lidem se seznámením, vyluxovat obývák? (Odpovědi jsou mimochodem: Asi ano, raději ne, rozhodně ne, co blázníte, možná ano, jakž takž.)

Podobně určitě naši předkové reagovali na parní stroj, telefony nebo benzínový motor. Byly to převratné vynálezy, které společnost výrazně proměnily. A pak se staly normálními součástmi našich životů a dnes už jsou prakticky neviditelné. Když počítám věci na kalkulačce v mobilu a vyhledávám v reálném čase konverzi do cizí měny, neběží mi hlavou, jak je úžasné, že mám kapse k dispozici znalosti celého lidstva na dosah. Mají to všichni a svět se točí dál.

To je přibližně teze princentonských výzkumníků Arvinda Narayanana a Sayashe Kapoora: Umělá inteligence je prostě jen další technologie, která bude brzy normální. A tak bychom se měli poučit z historie, jak rychle (nebo spíše pomalu) nové technologie nastupují.

Podívejme se třeba na elektřinu. Zavedení elektrického proudu do domácností (tzv. elektrifikace) byla samozřejmě velká věc. Ale jak velká? To vypadalo jinak ve fantazii tehdejších vynálezců a jinak v praxi.

Vynálezci a podnikatelé 19. století měli okamžitě hromadu velikášských nápadů, jak elektřina změní každou oblast našich životů. Nemůžeme jim to mít za zlé – naopak, tak se lidé posouvají kupředu: někdo si vymyslí něco, co zatím neexistuje, a tak se pro to nadchne, že nepřestane, dokud to neuvede do reality.

Některá obecnější proroctví se vynálezcům vyplnila: „Elektrické světlo bude tak levné, že svíčky budou považované za luxus.“ Přepočítáno na hodinu svícení jsou dnes svíčky skutečně o řád až dva dražší než světlo z LED žárovky. V jiných nápadech Edison ustřelil: „Elektřina udělá ze spánku jen špatný zvyk minulosti,“ predikoval. Ano, někteří lidé spí méně, ale není to – a neměla by být – zdravá norma.

Elektřina byla pořád stejná – tedy poté, co vyhrál Teslův střídavý proud nad Edisonovým stejnosměrným. Ale teprve s postupem času bylo možné ji prakticky využít. Trvalo to desítky let. Desetitisíce patentů na nejrůznější elektrické pomocníky do domácnosti neuspěly, ale některé si našly spokojené zákazníky. Postupně vznikla celá nová odvětví, která byla postavena na možnostech elektrifikace. Nic z toho ale nebylo automatické a nestalo se to přes noc. „Transformace postupuje rychlostí lidských návyků a změn v rámci institucí,“ připomínají Narayanan a Kapoor.

Když tedy výzkumníci označují AI za „normální technologii“, není to žádná urážka nebo skepse. Naopak, poukazují na to, že skutečná užitečnost se obvykle objeví až časem. ChatGPT mohl být prvním „spotřebičem“, který dal lidem ochutnat možnosti umělé inteligence. Limitem zapojení AI tak není technologie samotná. Limitem jsou lidské a společenské návyky.

Jistě, chatbot by za vás mohl během rána napsat měsíční report, projít e-maily, naprogramovat nový web a nabídnout tři grafické styly pro prezentaci. Ale vy nic z toho nepotřebujete nebo vás nenapadne to po něm chtít nebo zkrátka nevíte, zda tomu můžete věřit. Proto bude – alespoň podle některých expertů – praktické zapojení AI mnohem pomalejší, než by si přály velké firmy, které se vývojem zabývají.

Podle této vize tak zůstává kontrola pevně v rukou lidí. Jenom proto, že má AI nadlidský potenciál, to neznamená, že si jej lidé nechají „vnutit“.