Článek
„Chtěl byste, aby lidstvo přežilo?“ zeptal se moderátor miliardáře.
„No… Nevím. Je to dost spletitá otázka.“
Pokud neznáte osobitý – a v mnoha ohledech překvapivě mystický – styl kalifornského investora Petera Thiela, mohla vám taková odpověď připadat absurdní. Proč se ošívá nad takovou jasnou věcí? Přežití lidstva je snad ta jedna věc, na které by se lidstvo mělo shodnout.
Jenže Thiel by vám vysvětlil, že jeho váhavé „ano“, které nakonec na opakované naléhání přeci jen vyslovil, vyplývá naopak z jeho hlubokého vhledu do aktuální situace.
Patří totiž mezi známé zastánce radikálního proudu zvaného „efektivní akceleracionismus“, zkráceně e/acc. Jen říká nahlas i to, co opatrnější vyznavači tohoto směru taktně zamlčují. Lidé z jejich pohledu nejsou cílem. A nebudou ani hybateli skutečného pokroku. Naopak, lidé mají tendenci překážet té jediné síle, která může lidstvo posunout do další fáze. Umělé inteligenci.
AI spása nebo AI zkáza? Co přinese budoucnost?
Jak vidí budoucnost s umělou inteligencí optimisté a skeptici?
Postupně prozkoumáme šest vizí toho, jak umělá inteligence (AI), obecná umělá inteligence (AGI) nebo dokonce nadlidská superinteligence (ASI) promění naše životy, naši společnost a náš svět. Pokud tedy ještě bude náš.
Proč se trápit tím, že lidé vyhynou?
ChatGPT, Gemini, Grok i Claude – to jsou v současnosti nejznámějí a nejpokročilejší „elektronické mozky“. Stojí za nimi čtyři různé firmy, ale mají hodně společného. A jejich příběh se – jako tolik důležitých příběhů v lidských dějinách – začal psát u ohniště. Konkrétně u táboráku na oslavě 44. narozenin Elona Muska.
Psal se rok 2015 a Musk tehdy ještě zdaleka nebyl nejbohatším mužem planety. S „odřenýma ušima“ se s dvanácti miliardami dolarů dostal mezi stovku nejbohatších. Po večeři, když se začalo stmívat, seděl u ohně se svým dlouholetým přítelem Larry Pagem, zakladatelem firmy Google (toho času 19. nejbohatší Američan). Jejich desetileté přátelství ale ten den mělo skončit. A důvodem sporu dvou miliardářů nebylo nic menšího, než radikálně rozdílné vize o budoucnosti lidstva.
Larry Page šeptal, ne kvůli závažnosti tématu, ale kvůli onemocnění hlasivek. Znamenalo to, že kdo jej chtěl slyšet, musel si přisednout opravdu blízko. Slova byla tichá, ale promyšlená. Podle Page čeká lidi zlatý věk. Ráj na zemi. Digitální technologie a umělá inteligence přinesou blahobyt. Lidé se postupně na tyto pokročilé stroje napojí.
Asi tři desítky přátel Elona Muska bylo svědkem rozkolu mezi ním a Larry Pagem v kalifornském údolí Napa.
Čeká nás soutěž různých druhů inteligencí. Odvěká soutěž o zdroje nutné k přežití. A podle Page je logické, že vyhraje ten nejlepší. „To by byl konec lidstva,“ uvažoval nahlas Musk. „To bychom byli ztraceni.“
Larry Page ale – podle svědků frustrován tak nechápavou připomínkou – zopakoval, že takový ráj na zemi za to stojí. Nakonec protestujícího Muska osočil z toho, že je „druhista“. Tedy že diskriminuje na základě biologického původu. Nové – digitální – formy života by neměly být zavrhovány jen proto, že jsou lepší a inteligentnější, než lidé.
„Došlo mi v ten moment, že Larry nemá zájem vyvíjet bezpečnou umělou inteligenci,“ vzpomínal v roce 2023 Musk. „Když mi řekl, že jsem druhista (…) tak mi došlo, že potřebujeme nějakou protiváho tohoto přístupu.“ Musk začal pracovat na vybudování týmu, který bude vyvíjet umělou inteligenci s jednoznačným cílem: pro dobro lidstva. Tak byla založena zpočátku malá laboratoř OpenAI…
Elon Musk z ní o pár let později odešel a nyní má svou konkurenční „továrnu na umělou inteligenci“, firmu X.ai. Může to znít vzhledem k Muskovu veřejnému profilu těžko uvěřitelně. Ale na spektru techno-optimistů patří i nyní k těm umírněnějším. Jiní miliardáři jsou mnohem radikálnější.
Je potřeba technologický pokrok brzdit, aby se nevymkl kontrole? Je čas šlápnout na brzdu, nebo aspoň stisknout pauzu? Ne, odpovídají techno-optimisté. Přesně naopak. A z dříve abstraktní debaty se rychle stává nejdůležitější otázka současnosti.
Brzdit nástup AI je zrada a vražda
„Je čas vztyčit vlajku technologií!“ Takto v roce 2023 uvedl vlivný americký investor Mark Andreessen svůj manifest techno-optimismu. Podle něj nám lžou všichni, kdo varují před možným dopadem technologií na společnost. Pravda je podle něj přesně opačná: jedině technologie mohou svět zachránit.
Tou bezmála božskou entitou je pochopitelně umělá inteligence, přesněji superinteligence. „Věříme, že umělá inteligence je náš Kámen mudrců. Věříme, že může zachránit životy. A věříme, že jakékoli zpomalení vývoje umělé inteligence naopak zmaří lidské životy,“ burcuje Andreessen. Budou to podle něj úmrtí, kterým by bývalo šlo předejít. Pokud někdo stojí v cestě vývoje umělé inteligence – nebo se dokonce aktivně snaží o jeho zpomalení – jde podle něj „o jistou formu vraždy“.
Na první pohled má tato úvaha svou logiku. Pokud máme technologii, o které víme, že něco zvládá, pak je neetické nedat k této technologii přístup co nejvíce lidem. Můžeme třeba na základě dat konstatovat, že samořídící auta řídí bezpečněji, než to dokážou lidé. Šlo by tedy s jistou dávkou zjednodušení říci, že čím déle bude nástup samořídících aut trvat, tím více lidí na silnicích zbytečně zahyne.
Jenže Andreessen a další jemu podobní techno-optimisté zde nemluví o nějaké konkrétní, již známé a prozkoumané technologii. Mluví o teoretické budoucí umělé inteligenci, která dokáže věci, o kterých se nám ani nesnilo. Mluví o superinteligenci, která je od nás svými možnostmi tak vzdálená, jako my od šimpanzů nebo mravenců.
Pojďme si udělat pořádek v často používaných zkratkách:
AI – Termín Artificial Intelligence je hodně obecný a nadužívaný. V poslední době označuje v podstatě veškeré systémy využívající strojové učení, neuronové sítě a v poslední době především generátory.
AGI – Pojmem Artificial General Intelligence se obvykle rozumí obecná umělá inteligence, tedy taková, která dokáže plnit široké spektrum úkolů na obecné úrovni, podobně, nebo lépe než průměrný člověk.
ASI – Artificial Superintelligence pak jde ještě mnohem dále. Označuje systém, který dokáže jakýkoli myslitelný kognitivní úkol zvládnout lépe, než nejlepší člověk.
Mravenci nemohou ani vzdáleně pochopit lidské úvahy, postupy a technologie. Ani kdyby se sešli všichni mravenci svět a dali tykadla dohromady, nepochopili by, jak funguje rentgen, co dokáže bagr, nebo na jakém principu funguje očkování.
A takto nechápavě se my lidé budeme dívat na superinteligenci. Omezení, kterým podléhá naše chápání světa, tento budoucí systém hravě překoná.
Plnou parou do bodu zlomu
„Mnoho mých přátel pracuje na vývoji těchto pokročilých technologií, a dost na ně doléhá, že ze všech stran slyší, jak jsou na špatné straně barikády,“ svěřuje se Guillaume Verdon, kanadský výzkumník a jeden z nejznámějších představitelů e/acc. „A tak jsem si řekl, pojďme vytvořit ideologii, ve které jsme právě my – vývojáři a konstruktéři – těmi kladnými hrdiny.“
e/ccc – Pod zkratkou e/acc (effective accelerationism, efektivní urychlování) vystupují lidé, kteří se neobávají dopadů technologií. A už vůbec ne dopadů AI, AGI nebo ASI. Naopak varují před těmi, kteří se snaží rozvoj a nasazení těchto technologií brzdit.
Zpočátku šlo o dosti okrajový spolek. Ale poměrně rychle se ukázalo, že je této myšlence radikálního pokroku nakloněna nejen doba, ale především řada investorů a zakladatelů ze Silicon Valley. Dokonce do té míry, že před tímto hnutím jmenovitě varovala ministryně průmyslu a obchodu.
Administrativa předchozího amerického prezidenta Joe Bidena razila poměrně opatrný přístup k vývoji i vývozu technologií souvisejících s AI. S nástupem kabinetu Donalda Trumpa však došlo k razantní změně. Avizoval ji už – ještě před oficiálním začátkem funkčního období – nový viceprezident J.D. Vance, když na summitu v Paříži přednesl vizi ohledně regulace AI: „Nebudu mluvit o bezpečnosti v umělé inteligenci. Budu mluvit o příležitosti umělé inteligence.“
V únoru 2025 tehdy nastupující americký viceprezident J.D. Vance mluvil v Paříži o důležitosti vývoje AI bez „zbytečných strachů o bezpečnost“.
Zdůraznil, že „přílišná regulace by mohla toto revoluční odvětví zahubit ještě v zárodku“. „Uděláme vše pro to, abychom podporovali růst AI,“ řekl přímo Vance. „Budoucnost nevyhrají ti, kteří se budou strachovat o bezpečnost AI. Zvítězí ti, kteří budou budovat.“
„Tohle byl asi nejvíc e/acc projev všech dob,“ komentoval to Verdon uznale. A nezůstalo jen u řečí. Jedním z prvních kroků Trumpovy administrativy bylo zrušení omezení vývozu pokročilých AI technologií. Došlo k odbrzdění zapojení umělé inteligence v rámci vládních úřadů. Nedávno oznámilo americké ministerstvo války (dříve obrany) proměnu armády v organizaci, kde je „AI na prvním místě“. Prezidentův exekutivní příkaz z 11. prosince se pak pokouší zamezit i tomu, aby jednotlivé státy mohly jakkoli regulovat, či zpomalovat vývoj umělé inteligence.
Zdá se tedy, že v roce 2025 získali zastánci akceleracionismu významné spojence. Dříve okrajová sekta se stala v Americe div ne dominantním přístupem. Ne všichni by to tak samozřejmě podali, ne všichni by se podepsali pod manifest radikálního techno-optimismu. Pro některé zastánce rychlého rozvoje AI je motivace ekonomická. Velká část americké ekonomiky je nyní přímo, či nepřímo závislá na dalším rozvoji tohoto odvětví.
Jiní zase věří, že v otázce umělé inteligence se hraje hra „vítěz bere vše“. Pokud je skutečně možné vyvinout superinteligenci (ASI), která pak vyvine další superinteligenci, bude to mocný univerzální nástroj svým potenciálem přesahující atomovou energii i atomové zbraně… A pak je přece klíčové, aby se tato superinteligence vyvinula „u nás“ a ne „u těch druhých“.
Benevolentní božstvo… nebo plameny?
Slavným propagátorem konceptu singularity je Ray Kurzweil, programátor a futurista. O nástupu této superinteligence mluví už od 90. let. „Singularita je blízko,“ předpověděl v roce 2006: „Lidé se propojí se stroji a stanou se nesmrtelnými.“
Dnes sedmasedmdesátiletý Kurzweil podřizuje vše tomu, aby se toho „šťastného okamžiku“ dožil. Založil Singularity University, což není univerzita, ale vzdělávací, výzkumná a investorská skupina zaměřená právě na to, aby přišel bod zlomu co nejdříve.
V roce 2017 Kurzweil předpověděl, že stroje uvažující na úrovni lidí získáme už v roce 2029. Tehdy tato předpověď působila nepatřičně optimisticky. Jenže od té doby přišly významné pokroky v oblasti generativní umělé inteligence: transformery, velké jazykové modely a zvyšování výkonu umožnily dosáhnout této mety (alespoň v užším slova smyslu) ještě dříve, než „přehnaně optimistický“ Kurzweil doufal.
bod zlomu – Obecně moment, ve kterém se proces dostane do stavu, že jej už nelze zastavit. V případě vývoje AI je to okamžik, kdy se umělá inteligence začne podílet na vylepšování sebe sama. Dokáže to rychleji, než lidé. Stvoří další verzi, která v tom zdokonalování sebe sama bude ještě lepší… A už není cesty zpět.
singularita – Logickým důsledkem toho, že překonáme bod zlomu, je nástup singularity. Je jedno, zda to bude otázka měsíců, nebo let. Kvůli exponenciálnímu zrychlování celého procesu vylepšování, jak jej prezentují zastánci e/acc, je v tu chvíli už pro lidský mozek (nebo všechny lidské mozky dohromady) nemožné pochopit, co se děje a jak superinteligence uvažuje.
Metafora bodu zlomu a singularity pochází z fyziky. Označuje teoretické místo na okraji černé díry, za kterým přestávají platit fyzikální zákony, jak je známe ve zbytku vesmíru. Je to bod, za který nemůžeme dohlédnout. Proto je to přiléhavá metafora: nikdo si podle zastánců e/acc neumí představit, jak úžasných divů se za bodem zlomu dočkáme.
To nejlepší, co může kdokoli z nás udělat, je nestát tomuto pokroku v cestě, tvrdí radikální techno-optimisté. Lidé přitom nejsou cílem tohoto pokroku. Cílem je stvořit něco lepšího, než jsou lidé. Něco, co se o lidi postará.
A jak vlastně víme, že se tato superinteligentní entita bude chtít zabývat něčím tak přízemním, jako je léčení nemocí, lidské štěstí nebo zajištění celosvětového míru? Na to nemají zastánci e/acc jednoznačnou odpověď. Je to otázka víry.
Mimo záznam řada lidí z předních AI laboratoří připouští, že nemohou vědět, zda se tento závod k „božské AI superinteligenci“ náhodou pro lidi nevyvine velmi špatně. Ani to je ale nevede k tomu, že by zpomalili. Naopak. To je jen pohání kupředu. „Jde o určitou touhu potkat nejinteligentnější bytost v historii,“ parafrázuje Tristan Harris, spoluzakladatel Centra humánních technologií. „Je pro ně fascinující být součástí tohoto ohně, a chtějí být těmi, kteří jej pomohli zapálit.“
Někteří příznivci hnutí se snaží o nenápadnou definici kruhem: věří, že „skutečně božská inteligence“ by jistě měla řešení i pro takovou otázku. Jiní – podobně jako Larry Page u ohně v roce 2015 – přiznávají, že jejich cílem není nutně přežití lidského druhu jako takového.
„To byla poslední kapka,“ vzpomíná Elon Musk na svou narozeninovou party z roku 2015. Právě zde se možná daly do pohybu věci, které jednou vstoupí do učebnic jako „počátek konce“. Zatím ale není jasné, co v tom ohni nakonec skončí.
