Článek
Zdánlivě to je dobrá anekdota: think-tank manželky jednoho z nejbohatších Čechů pozve do Česka autora populárních knih, kterého publiku nabízí jako „jednoho z nejvlivnějších veřejných intelektuálů světa“, a pak mu jako hlavního předřečníka přidělí kontroverzního domácího politika, ministra zahraničí Petra Macinku. Možná kvůli kontrastu, aby publikum lépe vnímalo hostovu intelektuální velikost? Pokud to byl plán, pak vyšel: Část publika předřečníka ostentativně ignorovala, část ho vypískala.
Ale je třeba předeslat: Jak dobře vědí komici, špatný předskokan je spíše nevýhoda. V tomto případě nejen proto, že hrozí, že uvrhne publikum do špatné nálady, ale hlavně proto, že Macinkova politická vata i rádoby legrační ústup (že si zbytek nechá na příště) daly tématu Juvala Noacha Harariho to nejhorší možné rámování. Přijel proto, aby mluvil o budoucnosti lidstva tváří v tvář umělé inteligenci, která atakuje to nejlidštější v naší existenci: smysl života a naše základní hodnoty. A místo důstojného prostředí se ocitl v kulisách laciné politické frašky a žabomyších válek.
Bojoval s pocitem, který možná část publika po Macinkových slovech i pískání cítila: Není to tak, že si lidstvo svou cestu do bezvýznamnosti zaslouží?
Ale pojďme k tomu, co Harari přivezl, a to nejen do Fora Karlín publiku platícímu drahé vstupenky, ale i divákům veřejnoprávní televize.
Juval Noach Harari je mistr metafory. Kdo četl jeho bestseller Sapiens: od zvířete k božskému jedinci, ví, že umí přetavit složité problémy do zapamatovatelných obrazů a příběhů. V Praze jich nabídl dost, zde jsou některé z nich.
- AI agenti jsou něco jako migranti budoucnosti. Harari vzal tři klasické obavy z migrace (berou práci, přinášejí jinou kulturu a nejsou loajální k zemi, do které přišli) a ukázal, že jdou dobře aplikovat i na AI. Ta přichází bez víz, přímo do našich telefonů a počítačů, s naším souhlasem. Práci bere, a to v rozporu s intuicí, dříve bankéřům, právníkům a novinářům než zdravotním sestrám a kulturu mění prostřednictvím doporučovacích algoritmů. Loajální není nutně ani k těm, kteří ji stvořili.
- Moderní společnost trpí ztrátou důvěry, ale ta nezmizela, jen se přestěhovala. Lidé přestali věřit novinářům, vědcům a politikům, zejména těm u moci. Harari říká: Důvěru těmto lidem i institucím „unesly“ algoritmy. Sociální sítě provedly na miliardách lidí experiment s cílem udržet jejich pozornost a zjistily, že nejlépe funguje vztek, strach a závist. A nejsnáze se manipuluje s těmi, kteří si myslí, že se zmanipulovat nenechají.
- Po boji o pozornost přijde boj o soukromí a intimitu. Generace dětí, které se rodí dnes, možná stráví s AI, v jakékoli podobě (určitě to už nebude klasické rozhraní mobil/počítač), víc času než s kterýmkoli člověkem. Harari tomu říká největší psychologický experiment v dějinách a nepřehání: Podle loňského průzkumu Common Sense Media použilo AI společníka alespoň jednou už 72 procent amerických teenagerů. Navrhuje zakázat dětem přístup k AI partnerům, stejně jako se dětem neprodává pornografie.
- Kuře neovládne farmáře. Což si zaslouží vysvětlení: Dnešní AI ekonomika je přetopený kotel, kde se nerýsuje návratnost investic. Lépe řečeno, s jedinou výjimkou – pokud vzniknou agenti chytřejší než my, tvrdí Harari. Pak se bavíme o disrupci, na kterou dnešní logika oceňování trhů nebude platit. Jenže zároveň vyvstává otázka: Zvládneme entitu chytřejší než my ovládat a řídit? Odpověď zní: Nezvládneme. Hospodářské zvíře na farmě rozumí tomu, co dostává žrát a jak se cítí. Ale zároveň žije v ekonomickém kontextu, kterému nerozumí. Když farma zbankrotuje, nikdy se to nedozví a ani tomu nemůže rozumět. A my můžeme být vůči AI v podobné roli.
- AI z nás udělá vazaly. Jsou dvě „velmoci“ AI – americká a čínská. Na rozdíl od starých impérií nepotřebují vojáky dobývající území. Stát, jehož nemocnice, letiště a armáda běží na cizích modelech, lze „vypnout“ jedním tlačítkem. Ve Washingtonu nebo v Pekingu. Viz Starlink na Ukrajině, ale i českou historii – počínaje Habsburky a konče Sověty. Česko má vedle vazalství dvě možnosti: buď si postavit infrastrukturu vlastní, nebo společně budovat evropskou. V obojím jsme ale dnes pozadu.
Takže: hezké metafory, dobré otázky. A my přece jsme v éře, kdy otázky jsou důležitější než odpovědi, nebo ne? Nikoli vždy. U Harariho otázka není „instrument“, který vede k řešení. Harari nabízející vize připomíná kabaretiéra nebo v lepším případě kouzelníka, který umí udělat dojem, ale když si odmyslíme hezkou slupku, zbude spíš efektní show. Ne snad vyloženě laciná a nepochybně brilantně provedená, ale stále jen show.
Harari nepřivezl odpovědi. A když nějaké měl, byly nepřesné a nejisté. Zapomněl třeba na možnost, že Česko nebo Evropa si svou infrastrukturu postaví na otevřených modelech provozovaných na vlastním železe, což je reálně a významně levnější (upozornil na to Patrick Zandl). Nebo odvážně navrhoval zákaz AI vydávající se za člověka, což už od letošního srpna fakticky vyžaduje evropský AI Act. A překvapil přirovnáním lidí ke kuřeti či jinému hospodářskému zvířeti, ale z druhé strany metafora tak úplně nefunguje. My chováme zvířata kvůli jídlu, proč bude AI chovat nás?
Harari přivezl spousty nápadů a myšlenek, ale jeho vize budoucnosti je odbytá a nedrží pohromadě. V kterékoli z debat, kterých i v Česku probíhá bezpočet, by Harari mohl aspirovat na nejchytřejšího člověka v místnosti. Ale když ho za hodně peněz a prestižní vysílací čas prodáváte, jako by to byl nejchytřejší člověk na planetě, měli jsme právo čekat o malinko víc.
