Článek
Papež Lev XIV. představil v pondělí Magnifica Humanitas, svou první encykliku. A zároveň první v dějinách, která je věnovaná umělé inteligenci. Dvě stě třicet pět stran, 42 300 slov (je delší než Hemingwayův román Stařec a moře), dvě stovky očíslovaných paragrafů.
Když ji papež představoval, stál vedle Christopher Olah, spoluzakladatel Anthropicu. Ano, to je firma, jejíž zakladatelé se několik let před uvedením ChatGPT „odtrhli“ od OpenAI a vytvořili model Claude. Olah pak v projevu řekl to, co od „tech bros“, tedy miliardářů ze Silicon Valley, slýcháváme zřídka: „Nedůvěřujte nám.“
(Přiznání autora: Encykliku jsem nečetl celou, rozhodně ne klasickým způsobem „od začátku do konce“. Text jsem si nechal sumarizovat AI, shodou okolností modelem Claude, jehož spoluautor stále vedle papeže. Shrnul mi ji na zhruba patnáct stran a já pak klíčové pasáže, maximálně padesát stran, přečetl celé.)
Encyklika je v principu skvělé ohledání doby. Mapa krajiny, kde dnes stojíme: používáme AI k práci, k dopisům, k diagnózám, k psaní vědeckých prací i školních úloh a zároveň netušíme, co s námi vlastně dělá. Lev mluví o „digitálním kolonialismu“, o tom, že AI musí být „odzbrojena“ tak, jak jsme se v minulosti snažili odzbrojit jadernou energii. Nikoli zcela úspěšně, jak víme.
Papež odmítá teorii spravedlivé války jako překonanou. Připomíná, že data nejsou soukromým majetkem pár firem, ale veřejným statkem. A v paragrafu 98 popisuje současné AI modely větou, kterou by mohl podepsat každý poctivý výzkumník: „AI nástroje jsme spíš vypěstovali, než vytvořili.“ Rozuměj: Ani ti, kteří velké jazykové modely vymysleli a tvoří, nedokážou úplně přesně říct, co dělají.
To je důležité přiznání. A je to také asi nejsilnější pocit, který pozorný čtenář (nebo „čtenář“, když využije AI) má z celého papežova textu.
Více k tématu si přečtete zde:
Encyklice se dostalo neobvykle vstřícného přijetí napříč ideologickými přihrádkami. Sekulární levice tleská logicky větě o tom, že „zisky jsou privatizovány a ztráty socializovány“. Konzervativci oceňují kritiku posthumanismu.
Na Hacker News, které reportují o atmosféře a názorech v „bublině“ Silicon Valley, jeden z komentářů začíná: „Jsem ateista, ale většina toho, co v poslední době slyším od papežů, mi přijde jako rozumné rady.“
Všichni jako by se shodovali, že papež trefil něco důležitého.
Vypovídá to o stavu věcí víc než celá encyklika dohromady: AI vzbuzuje obavy bez ohledu na světonázor. Strach z toho, že přicházíme o něco, co se týká podstaty člověka, není nějaká religiózní, „katolická“ hrůza. Není ani sekulární.
Je to strach, který si nesou věřící i nevěřící do stejné kavárny a tam si o něm povídají stejným slovníkem. Lev XIV. pro tyto debaty nabídl autoritativní text, ke kterému je možné se odvolávat.
Druhý zajímavý moment je ale paradoxně ten, kde se věřící a nevěřící zase rozcházejí. Tedy v návodu, jak problém řešit.
Lev volá po „robustních právních rámcích“, aniž by je definoval, požaduje „nezávislý dohled“, aniž by řekl, kdo a jak. Pro věřícího to ale stačí: Papež dal směr, podrobnosti dořešíme cestou a pořád máme přece Boha, aby to nějak zařídil. Rerum Novarum z roku 1891, tedy v éře průmyslové revoluce (k níž se mnozí analytici éry AI dovolávají), také nevymyslelo odbory. Ale věřícím k nim dalo jistý ideologický základ.
Pro nevěřící je to o dost komplikovanější. Sekulární kritik AI dostává morálně závažný dokument, na který se může odvolávat, ale vlastně moc neví, jak. Odkázat se na papeže znamená přijmout autoritu, která je pro ateisty spíše symbolická, neukotvená v jejich myšlenkovém schématu. Ignorovat papeže znamená ignorovat jeden z nejlepších analytických textů o AI za poslední rok.
No, a pak je tu ta věc, která je jízlivá až nezdvořilá. Od chvíle, kdy byla encyklika zveřejněna, se diskutuje o tom, nakolik se na jejím napsání podílela AI. Software Pangram, jeden z nejlépe hodnocených v dané disciplíně, označil řadu pasáží encykliky jako jasně vygenerované AI (a zároveň předešlé encykliky označil jako 100procentně „lidské“).
A ano, opět se našly ty proklaté dlouhé pomlčky, které považujeme za důkaz spoluautorství AI i v češtině. Analytici jich napočítali 127, zatímco v jiných, dřívějších textech nejsou žádné. 22krát se objevují slova „genuine“ a „genuinely“, která jsou z těch, o nichž se ví, že si je oblíbil právě jazykový model Claude. V předešlé encyklice ani jednou.
V této souvislosti jsem si nastudoval, jak encykliky vlastně vznikají. Papež je nepíše sám téměř nikdy. Ale i tak je encyklika autorským dílem. Papež dává hlavní myšlenku, dává jí svou tvář a svou autoritu a celý text čte větu po větě. Ano, je možné, že podkladový text z významné části pomohla napsat AI. A je v tom třetí paradox: text napsaný (možná) AI je k AI nelítostný.
Co s tím?
Odložme vtip, který se nabízí jako první. Totiž, že AI je novodobým Bohem. Stejně jako on je něčím, čemu nerozumíme a „do čeho“ nevidíme. Stejně jako on je konceptem, kterému někteří věří a jiní ho odmítají a agnostici uznávají, že může být k něčemu dobrý, ale jisté to není. No a sídlí v cloudu, že ano. Vtip se nabízí, je dobrý, ale není pravdivý.
Naše kritika AI, kterou nám zároveň pomáhá formulovat AI, totiž mimoděk prozrazuje něco docela jiného. Něco potenciálně více šokujícího. Bůh není AI. Bůh jsme my.
Tak jako Bůh prý stvořil člověka a pak ho vyhnal z ráje, protože nad ním ztratil moc (ale nikdy o něj neztratil zájem), tak my se chováme k AI. Stvořili jsme ji, aniž bychom tušili, co je to za bytost a jak je mocná. Ztratili jsme nad ní moc, jakmile začala „kultivovat“ sama sebe. A teď ji rituálně vyháníme z ráje.
Autoritativně říkáme: Musí být odzbrojena, musí sloužit společnému dobru a musí být regulována.
AI tu zůstane. Bude milovat své uživatele a zároveň o nich vědět víc, než jim je milé. Jinými slovy, bude vševědoucí a my se budeme všemi silami snažit, aby zároveň nebyla všemocná. Nevíme, jestli se nám to podaří. Z jednoduchého důvodu, který již zazněl: Nevíme, co přesně jsme vytvořili, a nerozumíme tomu.
Encyklika je pozoruhodným dokumentem. Věřící z něj můžou čerpat sílu a inspiraci, která je však pro nás ostatní nesdělitelná. A tudíž nepochopitelná. Pro nás je AI zrcadlem, ve kterém vidíme sami sebe, a překvapuje nás a šokuje, jak málo hezký je to pohled.
