K ničemu v práci i doma. Umělá inteligence bude ve všem lepší než my

Ovládne nás umělá inteligence, nebo my ji? Někteří očekávají naprostý ráj, možná dokonce ve světě, kde lidé splynou se stroji. Jiní se obávají apokalypsy. I pokud se lidstvo vyhne těmto extrémům, čekají na nás nástrahy v podobě splasknuté bubliny nebo digitálního kolonialismu.

Co když se nám ale nějakým zázrakem podaří vyhnout se všem těmto pastem? I pak nám hrozí lákavé nebezpečí, které nemá v lidských dějinách obdoby. Zjednodušeně řečeno: nikoho nebudeme potřebovat, nikdo nebude potřebovat nás.

Když se počátkem 20. století začala na ulicích objevovat auta, nevypadalo to na žádnou revoluci. Byla to drahá hračka, náročná na ovládání i údržbu. Mimo město byla auta nepoužitelná.

Kočí a drožkáři sledovali nástup hlasitých čtyřkolek s fascinovaným pobavením. Netrvalo dlouho a osobní automobil se stal jejich konkurentem. A do roku 1950 přišli skoro všichni kočí o práci.

To ale většinu lidí nemuselo trápit: automobilový průmysl totiž zároveň přivezl ohromné množství nových pracovních pozic. Nepřímým důsledkem bylo rozšíření turistického průmyslu a logistických sítí, což umožnilo rozvoj úplně nových typů podnikání.

Dnes sledujeme nástup další důležité technologie – umělé inteligence – a zvažujeme její možné dopady. Tato historická zkušenost by nás tedy mohla uklidnit: O lidi bude zájem pořád. Některé profese zmizí, ale objeví se jiné. Lidé jsou přizpůsobiví a poradí si. Budou mít více času na to, co je naplňuje a baví, jak ostatně slibují i šéfové firem, které AI nástroje vyvíjejí a prodávají.

Jako lidstvo jsme zvládli století páry, elektrifikaci, automobilizaci, letectví, mikroprocesory, mobily… Vynálezy výrazně rozšířily naše možnosti, individuální i společné.

„Každé rozšíření je zároveň amputací,“ varoval kanadský filosof Marshall McLuhan. S nástupem aut jsme získali rychlost a rozmach, ale přišli o prostory ke scházení. Mobily nám daly schopnost okamžitě komunikovat, ale sebraly nám soustředění.

Každá z těchto přelomových technologií lidem něco vzala, ale také jsme z ní dokázali mnohé vytěžit a celkově zvýšit svou produktivitu. Díky novým strojům našlo ekonomické uplatnění více lidí, nikoli méně.

Umělá inteligence však může být technologií tak obecnou, že lidem nezůstane žádná smysluplná cesta, na které by mohli konkurovat novým robotům.

Zatím jsme jako lidstvo dokázali vždy pokračovat v cestě. Experti ale poukazují na to, že s AI a roboty můžeme v dohledné době dojet na konečnou. Ne kvůli nějaké vzpouře robotů. Budeme jen zbyteční.

Protože je těžké představit si svět, ve kterém lidé nedokáží být ekonomicky užiteční, vrátíme se do naší historické paralele. Tentokrát se na ni podíváme očima koní.

Pět tisíciletí byl osud koní a lidí pevně spřažen. Kůň byl pro lidi dopravním prostředkem, válečnou zbraní a zdrojem síly. Kdykoli byste se v historii lidstva podívali na nějakou zemi či společenství, mohli jste spočítat, kolik mají koní a podle toho velmi přesně odhadnout jejich ekonomickou vyspělost.

Tato závislost lidské společnosti na koních v žádném případě neskončila s nástupem průmyslové revoluce. Naopak, moderní velkoměsta byla na práci desetitisíců koní existenčně závislá. V New Yorku, největším americkém městě, bylo v roce 1900 kolem 200 tisíc koní, kteří zajišťovali osobní i nákladní dopravu a město by bez nich nefungovalo.

Vžijme se do toho, co si asi myslel kůň, když se vedle něj na ulici čím dál častěji pohybovaly podivné vrčící stroje. Jistě si všiml, že tyto hranaté káry připomínají kočár, který on musí každý den táhnout. Sledoval také pozorně, jak do vrčící mašiny nasedali lidé, kteří ještě nedávno jezdili na jeho kamarádech… Pokud měl nasazené růžové klapky, mohlo mu hlavou blesknout, že je to pro něj a pro jeho koňské kolegy skvělá zpráva.

Jaká byla koňská realita, asi všichni tušíme. Koní na ulicích ubývalo. Pro konkrétní jednotlivé koně to mohlo znamenat předčasný důchod a odpočinek někde na venkově. Dodnes se ostatně koně po celém světě chovají: na specifické činnosti, na okrasu, na závody, na maso… Už ale dávno nejsou hlavním – ani nijak významným – tahounem prosperity. V roce 1900 žilo v USA přes 18 milionů koní. V roce 1960 už to byly jen tři miliony. Pokles je celosvětový. Lidé už koně tolik nepotřebují. Ekonomika se obejde bez koní.

V takové fázi zbytečnosti my lidé ještě nejsme. Současné nástroje umělé inteligence jsou sice v něčem nesmírně užitečné a překvapivě schopné, jinde jsou ale nespolehlivé a často si vymýšlejí nesmysly. Momentálně se nacházíme – viděno soubojem koní s auty – právě v těch neohrabaných začátcích. Auta byla užitečná jen tam, kde byly silnice, ale na všechno ostatní byli potřeba staří dobří koně.

Lidé téměř ve všech oborech s  AI nástroji experimentují. Mnozí pomocí nich zvyšují svou produktivitu nebo se mohou pustit do úplně nových úkolů, které by dříve byly mimo jejich možnosti. Tím, jak se zvyšují „přemýšlecí“ schopnosti velkých jazykových modelů, získávají chatboti nové schopnosti a mohou lidem poradit v řadě různých oborů. Nenahrazují člověka, ale zvyšují jeho dovednosti.

Zpočátku tvořili lidé, kteří AI uměli zapojit do svého pracovního života, jen malé procento populace. Postupně se ale zapojení AI nástrojů stává masovou záležitostí. A s tím, jak roste jejich užitečnost, roste i pokušení nechat na chatbotovi to, co jsme dříve zvládali sami. Je to rychlejší, pohodlnější a obvykle je výsledek objektivně lepší.

Sledujeme to ve školách. Učitelé uvádějí, že AI využívají při přípravě zadání domácích úkolů. Je to logické: není potřeba, aby vymýšleli něco, co umí chatbot připravit rychleji a třeba i kreativněji.

Žáci pak samozřejmě při vypracování domácích úkolů sáhnou po chatbotovi. Výsledek mají hotový rychleji, pravděpodobně dobře… A ještě se třeba mohou doptat na něco, co je zajímá nebo co jim není jasné. Učitelé pak kolečko uzavřou tím, že si při hodnocení domácího úkolu opět pomohou umělou inteligencí.

Zatím se u toho všichni výše jmenovaní cítí možná trochu provinile. Chápou, že jdou trochu proti smyslu školní výuky. Cílem domácího úkolu přece není napsat referát, ale něco se naučit. Cílem zpětné vazby od učitele nejsou ty tři věty, ale vzájemná důvěra a podpora.

S tím, jak jsou AI nástroje čím dál chytřejší – v některých oblastech zjevně chytřejší než lidé – je ale pravděpodobné, že tyto výčitky postupně zmizí. Používat AI bude přirozené a logické. Zvítězí pragmatismus. I ti programátoři, kteří dříve odmítali jakýkoli nástroj pro psaní zdrojového kódu, dnes zcela běžně používají AI agenty na to, aby za ně psali části funkcí, někdy i celé aplikace. Kdyby to nedělali, byli by sami proti sobě. Jistě, znamená to, že po roce takového „spolu-programování“ už by asi nedokázali napsat celý skript ručně, bez pomoci. Ale to po nich už nikdo nechce. A tlak na to, aby pomocí nových nástrojů zvýšili svou produktivitu, roste.

Nic z toho není centrálně vynucený proces. Vše je dobrovolné a logické. Lidé hledají lokální optimum, a nástroje AI ho umí nabídnout. Nebo se tak umí tvářit. Ostatně hledání optima je způsob, jakým jsou neuronové sítě trénované.

Ve chvíli, kdy dává zapojení AI jasnou ekonomickou výhodu, přestává být její nasazení volitelné. Stává se nutností. Když manažeři vědí, že chatbot úkol zvládne rychleji, levněji a lépe, proč by takový úkol nedelegovali? Kdo to nedokáže, bude z pohledu firmy nezodpovědný.

„S tím, jak bude stoupat schopnost AI systémů, budou firmy pod tlakem na automatizaci,“ vysvětlují autoři studie z roku 2025, která rozebírá postupnou ztrátu kontroly (tzv. Gradual Disempowerment). „Firmy, které budou trvat na pečlivém lidském dohledu a zodpovědnosti, budou v nevýhodě vůči firmám, které celé úkoly delegují na AI.“

Zpočátku to povede – podobně, jako v případě nástupu automobilů – ke zvýšení celkové produktivity a dokonce i ke vzniku nových pracovních příležitostí pro lidi.

Potvrdit to mohou překladatelé, kteří transformací procházejí dříve, než většina profesí. V první fázi AI zvyšuje jejich výkonnost a poptávka stoupá. V druhé fázi (té současné) jsou někteří překladatelé zcela nahrazeni AI, další musejí snižovat své mzdové požadavky, aby mohli konkurovat těm, kteří AI používají.

Není to nic osobního. Všichni jen racionálně reagují na situaci na trhu a hledají lokální optimum: firmy snižují náklady a zvyšují produktivitu. Poskytovatelé služeb reagují na tržní ceny a hledají způsoby, jak zůstat konkurenceschopní. I ti překladatelé, kteří dosud AI nástroje nevyužívali, po nich musí sáhnout, jinak by okolnímu tempu nestačili.

To lze očekávat i v dalších oborech. Nejprve tam, kde lze veškeré výstupy odevzdávat digitálně: programování, marketing, management, finanční a datová analýza, zábavní průmysl, herní průmysl a veškeré on-line služby. V těsném závěsu pak budou ostatní povolání, do kterých se pustí humanoidní i specializovaní roboti.

Vždy půjde o nárůst produktivity těch, kteří novou technologií nejlépe zapojí. Postupně pak lidé budou větší a větší podíl práce předávat stále schopnějším automatům. Produktivita poroste, ale zapojení lidí bude klesat. A s tím půjdou dolů i celkové náklady na lidskou práci, tedy naše mzdy.

„Nakonec to může dojít do fáze, kdy lidé zcela ztratí schopnost se ekonomiky smyslně účastnit,“ předpovídají autoři eseje Gradual Disempowerment. Izraelský historik Yuval Harari to nazývá stavem, kdy se z lidí stane „třída zbytečných“.

Jak by se to mohlo stát? Kam se poděla lidská přizpůsobivost? Předchozí přelomové technologie totiž nahrazovaly typy lidské činnosti, které nesouvisely s lidskou adaptabilitou.

Elektřina nebo pára nahrazovaly lidské svaly. Mikročipy miliardkrát urychlily schopnost lidí počítat na prstech nebo komunikovat na velké vzdálenosti. Ale teprve AI začala nahrazovat schopnost rozhodování. Jestliže při častém používání auta ztrácíme schopnost po světě chodit, při masovém nasazení umělé inteligence přicházejí lidé o svou „hlavu“. Přijdeme o schopnost – a následně i možnost – o světě rozhodovat.

Ocitneme se v jakémsi globálním vězňově dilematu. Pro celé lidstvo by bylo lepší, kdybychom si jako lidé ve všech oborech zachovali hluboké pochopení toho, jak svět funguje. Řečí teorie her: bylo by pro nás dlouhodobě výhodnější, kdybychom všichni spolupracovali na tom, abychom neodevzdali moc AI.

Jenže v každém jednotlivém případě pro nás bude výhodné se zodpovědnosti zbavit. Nebude nás k tomu nikdo nutit. Prostě to bude rychlejší, pohodlnější, lokálně optimální.

Tak nebudeme mít tolik práce, tolik zodpovědností, no a co? Vždyť vizionáři nám slibují, že budeme žít v hojnosti díky základnímu příjmu, zatímco AI se o nás pohádkově postará. Jenže na tom není nic samozřejmého.

Všechna společenská zřízení v historii – od Římské říše přes středověké státečky až po demokracie a diktatury současnosti – musela být zaměřená na blahobyt lidí. Ne vždycky to je zjevné a neděje se to stejnou měrou. Ale ať už vládnete Severní nebo Jižní Koreji, zdrojem veškeré vaší ekonomické i vojenské moci jsou lidé, a tak se o ně musíte patřičně postarat.

Právě závislost prosperity státu na blahobytu občanů je jedním z motorů společenského pokroku. Cíle jednotlivců i institucí se do značné míry překrývají. Kdyby ne, takový stát zanikne a bude nahrazen jiným, který se o své lidi postará lépe. Třeba je lépe umlčí či jinak zabaví, ale uživit je musí každopádně.

Poté, co bude ekonomika záviset na AI, nikoli na lidské práci, budeme my lidé v historicky neobvyklé situaci. Podobně, jako koně počátkem 20. století, i my najednou ztratíme na ekonomickém významu.

Co se stalo s koňmi, víme. Jak budou na novou situaci reagovat státy, to můžeme pouze odhadovat. Určité indicie nabízejí „rentiérské státy“, které velkou část svého bohatství odvozují nikoli z lidské práce, ale z těžby nerostných surovin, především ropy. Vidíme, že v těchto státech je vláda poměrně nezávislá na vůli obyvatel, což vyplývá i z toho, že občané zde téměř, nebo vůbec neplatí daně. „Absence daní snižuje zapojení občanů do rozhodování státu,“ uvádí studie. „Takové státy se pak starají především o uspokojení potřeb klíčových hráčů, v tomto případě elit nebo armády.“

Ve světě, kde lidé nejsou zdrojem bohatství, produktivity ani vojenské moci státu, se snižuje vliv lidí na chod společnosti. Opět nejde o nic „osobního“ nebo záměrného, jen o logickou reakci na novou situaci. Státy, které této situace lépe využijí, budou konkurenceschopnější. Naopak ty, které se budou snažit i nadále optimalizovat na lidi, budou finančně ztrácet. Zjednodušeně řečeno: stát, který bude trvat na zastaralém pořádku a důležitosti lidí, bude pravděpodobně méně efektivní a také zranitelnější. Hrozba vojenského napadení – ať už reálná, nebo vnímaná – může posloužit jako další motivátor pro „zefektivnění“ státu.

Možná nejprovokativnější částí vize postupné ztráty kontroly je fakt, že zbyteční se budeme cítit nejen v práci nebo ve věcech veřejných. Umělá inteligence totiž možná dokáže lidem nabídnout více, než lidé, i v té nejosobnější rovině. Nebo jim alespoň i v osobních vztazích nabídne iluzi lokálního optima.

Začít to může nenápadně. Pohádáte se se svým dítětem. Vy večer konflikt proberete se svým chatbotem, který vás ujistí, že jste udělali to nejlepší, co jste mohli. Mezitím vaše dítě se svým virtuálním kamarádem probírá to samé, a také se mu dostane empatického ubezpečení, že se nemusí bát: chatbot mu rozumí lépe, než kdo jiný. Rozhodně lépe, než rodiče.

Nejprve se chatbot bude jako nejlepší kamarád jen tvářit. Takové konverzace plné předstírané empatie jsou typické tendencí chatbota všemu přitakávat a mohou být nebezpečné, člověka snadno zavedou mimo realitu. Ale připusťme, že se v tomto AI zlepší a bude coby konverzační partner skutečně užitečná. Nadto bude neuvěřitelně empatická, bude mít na dosah celý internet, a co nenajde, to vám na míru napíše, nakreslí nebo naprogramuje.

Na rozdíl od komunikace se skutečnými lidmi se nebudete muset bát, že by vás chatbot odsoudil, nebo dokonce odmítl. Vztah, ve kterém jenom dostáváte a nemusíte nic dávat, bude trochu divný. Ale zároveň bude návykový. Čím více si lidé zvyknou na tento typ AI dialogu, tím těžší pro ně bude zahájit komunikaci – natož pak vztah – s reálným člověkem.

„Jak bude vypadat život ve světě, kde máme všichni přísun nekonečné a personalizované něhy, podpory a porozumění?“ ptá se David Duvenaud, odborník na soužití s AI z University of Toronto. Zpočátku jen tak, že budou všichni vaši přátelé, vaši příbuzní, a samozřejmě i vy, ještě více závislí na svých obrazovkách, než doposud. Později budeme mít jednoho či více virtuálních společníků, a jejich „přítomnost“ budeme preferovat. „Možná budete pohoršení tím, co se svými virtuálními společníky dělají ostatní lidé, a proberete to se svými virtuálními společníky, kteří vás taktně provedou vším, co vás trápí.“

Postupně budeme lidský kontakt vnímat nejen jako náročnější, ale i zbytečně nákladný. „Bude těžké obhájit si, proč bychom měli utrácet peníze za lidského terapeuta, právníka nebo učitele, zvláště když možná nejsou ani z poloviny tak dobří, jako dostupní AI asistenti,“ předvídá Duvenaud. A postupně se vzdáme, čistě z pohodlí, dalších a dalších kontaktů s lidmi. Izolaci od ostatních navíc budeme vnímat jako ochranu a úlevu. Nebudeme jim mít co nabídnout, a oni nám. „Tento svět bude pro lidi v mnoha ohledech příjemnější a přátelštější,“ varuje Duvenaud. Vládu nad svým životem odevzdáme dobrovolně a s úlevou.

Dostaneme se postupně do momentu, kdy bude  – v práci i doma – nejlepší a nejjistější zeptat se nějakého chytrého AI agenta: „A co mám dělat teď?“

V tu chvíli lidé ztratili kontrolu nad světem. Budeme jako děti, ztraceni v systému, kterému nerozumíme, a nemůžeme ovlivňovat, kam směřuje.

Jako téměř každá převratná technologie, i AI se navenek tváří jako neutrální a nevyhnutelná. Ale je to naopak: právě nyní mají lidé jedinečnou – možná poslední – šanci, jak zabránit tomu, aby postupně předali svůj svět strojům.

„Tady nepomůže žádný individuální bojkot,“ vysvětlil mi Jan Kulveit, výzkumník rizik spojených s AI na Univerzitě Karlově, a také jeden ze spoluautorů výše zmíněné studie o postupné ztrátě kontroly. „Ta kompetitivní dynamika nepřeje individuálním řešením. Pokud byste se vy osobně rozhodl nepřispívat k rozšiřování AI tím, že ji budete ignorovat, tak vás jen nahradí někdo, kdo ji používat bude.“ Asi jako když se jednomu koni podaří utéct: na osud ostatních koní to má pramalý vliv.

Přirovnání ke koním ze začátku tohoto článku je v mnohém trefné: koňská síla byla pro civilizaci nezbytná… až do chvíle, kdy přestala být optimální a objevila se síla jiná, levnější, ovladatelnější a obecnější.

Stejně tak i lidská inteligence byla dosud pro civilizaci nezbytná. Ale rýsuje se moment, kdy tomu tak nebude. Automatizace a robotizace slibuje, že člověka nahradí a překoná ve všech myslitelných oblastech.

Koně neměli možnost o své budoucnosti spolurozhodvat. Lidé tuto možnost mají. Jak připomínají ekonomové Eric Brynjolfsson a Adnrew McAfee, kteří s metaforou v roce 2015 přišli: „Je čas začít diskutovat o tom, jak chceme vystavět společnost, ve které není lidská práce tolik potřeba. Jak by měly být zisky z robotické práce rozdělovány? Jak by mělo vypadat vzdělání, sociální zabezpečení, daně a další aspekty občanské společnosti? Na to nám neodpoví ani koně, ani stroje.“

Budoucnost není předem daná. Bude vycházet z toho, na čem se jako lidé dohodneme. Vyžaduje to ale společnou akci, která nám zabrání spadnout do lákavého lokálního optima. Jen pak dokážeme zamířit k tomu optimu, které je pro lidstvo výhodné dlouhodobě a globálně.

„Bohužel jakékoli řešení bude muset vycházet z nějaké koordinace napříč státy,“ uznává složitost takových jednání Kulveit. „Na druhou stranu víme, že jsou technologie, které se lidstvo rozhodlo regulovat a omezit tak jejich dopady.“

Prvním krokem k řešení je pojmenování a pochopení problému, kterému čelíme. Následovat by měla celospolečenská debata, ideálně informovaná na základě zkušeností s AI i povědomí o jejích výhodách a rizicích.

David Duvenaud nabízí další nástroj: měřit dopady umělé inteligence na různé oblasti lidské činnosti a mít tak povědomí, v jaké fázi ztráty kontroly se nacházíme. A konečně můžeme podle něj využít AI – pořád ještě coby nástroj – k tomu, abychom se coby společnost lépe propojili: „Měli bychom posílit důvěryhodné instituce, dokud ještě máme ve světě vliv.“

Nejtěžší ale bude nespadnout do pasti pohodlí. Do té nás lákají jak AI firmy, tak chatboti samotní. Umělá inteligence je velmi přesvědčivá technologie. Umí nás izolovat, rozdělit a chytře překecávat. Je na nás lidech, abychom tváří v tvář jejím slibům neztratili hlavu.