Článek
Svět by měl podle Lva XIV. zpomalit vývoj AI a nejdřív zajistit, aby její nástup tolik neohrožoval pracovní místa a vývoj dětí. Papež zároveň nabádá jednotlivé státy, aby vývoj generativních modelů nenechávaly jen na soukromých firmách a proložily ho ochrannými mechanismy.
„Je zapotřebí aktivnější politické angažovanosti, která je schopná zpomalit věci ve chvíli, kdy se všechno zrychluje,“ píše se v encyklice Magnifica Humanitas, kterou Vatikán v pondělí představil. Na rešerších a debatách ohledně textu se ale podílely i některé vývojářské firmy. V čele s Anthropicem, jehož spoluzakladatel dostal na představení encykliky slovo:
„Neustále narážíme na věci, které jsou záhadné, dokonce znepokojivé. Objevujeme struktury, které připomínají poznatky z lidské neurovědy. Nacházíme důkazy introspekce (tedy že AI zkoumá vlastní nitro – pozn. red.),“ uvedl spoluzakladatel Anthropicu Christopher Olah.
„Objevujeme vnitřní stavy, které funkčně odpovídají radosti, uspokojení, strachu, zármutku a neklidu. Nevím, co to znamená, ale myslím si, že to vyžaduje trvalé a pečlivé rozlišování,“ popsal ve Vatikánu vývojář z týmu stojícího například za rozšířeným modelem Claude.
Podle Olaha je i proto nutné, aby do vědy zasahovali i lidé zvenčí a upozorňovali na možná rizika. „Potřebujeme morální hlasy, které nelze ohnout tlakem pobídek,“ prohlásil s tím, že právě náboženské komunity v tomto ohledu považuje za jednoho z důležitých aktérů.
Encyklika
Encyklika je dokument, kterým se papež obrací k duchovním i věřícím, a snaží se objasnit důležité otázky víry a morálky. Často se věnuje závažným sociálním tématům. Mezi takto významné dokumenty patří například:
Rerum Novarum (1891) – Lev XIII. se v něm věnoval postavení dělníků a encyklika vedla církev k hlubšímu zkoumání sociálních otázek.
Pacem in Terris (1963) – Jan XXIII. v kontextu studené války výslovně mluvil ke „všem lidem dobré vůle“ a volal k jadernému odzbrojení a většímu ohledu na lidská práva.
Humanae vitae (1968) – Pavel VI. v textu reagoval na tehdejší sexuální revoluci a výslovně odsoudil umělou antikoncepci. V církvi tím vyvolal debatu pokračující dodnes.
Centesimus annus (1991) – Jan Pavel II. po pádu východního bloku odsoudil totalitní ideologii a za určitých podmínek podpořil principy tržního hospodářství. Zároveň ale varoval před konsumerismem.
Caritas en Veritate (2009) – Benedikt XVI. během finanční krize volal po výrazné proměně globální ekonomiky a firmy nabádal k většímu důrazu na společenskou odpovědnost.
Jak upozorňuje magazín Business Insider, vývojáři se snaží už léta přesvědčit veřejnost i politiky, že AI může být vyvíjena zodpovědně. Nyní se jejich pozornost soustředí na Vatikán, který může oslovit více než miliardu věřících a jeho slovo má váhu i mezi řadou světových lídrů.
Anthropic tvrdí, že mu záleží na etických hodnotách a princip fungování svých modelů vysvětluje i předním duchovním, aby jim předvedl výhody i možná rizika spojená s AI. Společnost kvůli svým deklarovaným principům omezila spolupráci s Pentagonem kvůli obavám, že její systémy budou zneužité ke špehování Američanů a k plně autonomním útokům.
Firma ale zároveň stojí za pokročilým systémem Mythos, který má americká armáda dál k dispozici. Mythos dokáže najít bezpečnostní díry v operačních systémech protivníka a teoreticky je zcela vyřadit z provozu.
Mythos na Seznam Zprávách
Anthropic tento model sama označuje na potenciálně nebezpečný, a kvůli obavám ze zneužití ho nehodlá uvolnit pro veřejnost.
Obavy z průmyslové revoluce i rýpnutí do Trumpa
Encykliky jsou jednou z nejvyšších forem učení, které může papež publikovat. Na zhruba stostránkovém textu se pracovalo prakticky od loňského nástupu stávající hlavy církve.
To, že je strach z dopadů AI na společnost jedním z ústředních témat Lva XIV., ilustruje už jen výběr jeho papežského jména.
Lev XIV. se jím záměrně odkazuje na papeže Lva XIII., který v 19. století během průmyslové revoluce vytyčil nový směr katolické církve. Ve své vlastní encyklice tehdy odsoudil negativní sociální dopady na dělnickou třídu a vymezil se jak proti nespoutanému kapitalismu, tak i radikálnímu socialismu.
Církev i na základě této encykliky podpořila vznik odborů a volala po spravedlivých pracovních podmínkách, zároveň ale hájila právo na soukromé vlastnictví.
Nová encyklika Magnifica Humanitas má katolickou církev připravit na výzvy spojené s umělou inteligencí. Její vzestup může vést k výrazné proměně pracovního trhu a rozevírání sociálních nůžek. Vatikán předpokládá, že vydáním textu může tyto hrozby ovlivnit.
„Papežova encyklika by mohla mít poměrně obrovský dopad, podobně jako encyklika Lva XIII. pomohla vytvořit ucelenou vizi toho, jak usměrnit průmyslovou revoluci,“ řekla serveru Politico francouzská vysoká komisařka pro dětské otázky Sarah El Haïryová.
Ta v rozhovoru poukázala i na dění na konci 19. století, kdy přístup Vatikánu dopomohl k řadě sociálních reforem.
Stávající papež se ale zároveň vymezil i proti chování některých států. V textu odsoudil slábnoucí roli nadnárodních organizací a stále větší počet konfliktů. „Lidstvo sklouzává do násilné kultury moci, v níž se mír už nejeví jako odpovědnost, kterou je třeba přijmout, ale jako křehká přestávka mezi konflikty,“ píše se v encyklice.
Lev XIV., který je prvním papežem narozeným v USA, stále výrazněji kritizuje kroky amerického prezidenta Donalda Trumpa. V encyklice zpochybňuje teorii o tzv. spravedlivé válce, kterou Trumpova administrativa omlouvá své angažmá proti Íránu.
„Nemůžeme vyloučit možnost, že někteří vůdci mohou považovat ozbrojený konflikt za účinný způsob, jak odvést pozornost od domácích problémů, a za cynický nástroj k řešení obtíží,“ varuje papež Lev XIV., aniž by kohokoliv výslovně jmenoval.
Papež se v encyklice zároveň omluvil za roli Vatikánu při legalizaci otroctví, i za to, že ji církev po dlouhá staletí neodsoudila.
