Snažíte se pracovat lépe než robot? Jen si vychováváte svou AI náhradu

V roce 1770 představil maďarský vynálezce Johann Wolfgang von Kempelen přístroj, kterým chtěl uchvátit císařovnu Marii Terezii. Jeho zařízení – mechanický stroj nazývaný prostě „Turek“ – zdánlivě dokázal hrát šachy lépe než většina lidí.

Věhlas jeho vynálezu byl takový, že z něj byl konstruktér otrávený. Chtěl se věnovat ostatním nápadům, ale obecenstvo chtělo znovu a znovu vidět zázračnou šachovnici. Není těžké pochopit proč.

Během ukázek na zámcích i veřejných výstavách tato skříňka se sochou tureckého šachisty (dnes bychom ji nazvali humanoidním robotem) dokázala porážet i poměrně schopné hráče. Mimo jiné Turek zdolal třeba i Benjamina Franklina, který o této partii údajně mluvil po zbytek života.

Není jisté, zda se Franklin dozvěděl to, co dnes víme my: Že to byl od začátku do konce velmi chytře vymyšlený podvod. Mechanismus paže byl důmyslný. Jenže o konkrétních tazích nerozhodovala nějaká „umělá inteligence“, ale důmyslně skrytý muž malého vzrůstu, alsaský šachista William Schlumberger.

Spekulovalo se o tom dlouho, kauzu zkoumaly články a dokonce i knihy. Definitivně vyšlo tajemství najevo v roce 1827, když lidský operátor během předvádění kvůli vysokým teplotám v místnosti omdlel. Ale ani to nezabránilo v tom, aby světové turné mechanického Turka pokračovalo, a to pravděpodobně až do smrti Schlumbergera v roce 1838.

Mechanický Turek patří k fascinujícím kuriozitám. Ve své době vyvolával debaty o schopnostech strojů nebo smyslu lidské inteligence ve světě, kde stroj umí přemýšlet lépe než člověk. Protože do takového světa nyní míříme – pokud tam už nejsme –, nabývají tyto úvahy na aktuálnosti.

Třeba zrovna u šachů už to dávno není jen teoretická debata. V roce 1997 Garry Kasparov, tehdy nejlepší šachista světa, těsně prohrál sérii partií s počítačem IBM Deep Blue. Tentokrát už to nebyl člověk v útrobách stroje, ale naopak stroj, jehož pokyny vykonával člověk.

Přibližně od roku 2005 pak žádný člověk neporazil specializovaný počítačový program vytrénovaný na šachových partiích.

Šachisté hrající na všech úrovních se tomuto trendu přizpůsobili a využívají pokročilých softwarových nástrojů k tomu, aby se zdokonalili ve hře. A na první pohled je „strojová nadvláda“ na šachovnici nijak nepoškodila. Šachistů přibývá, o turnaje je stále zájem a ani o sponzory nemají profesionální hráči nouzi.

Diváci nechtějí sledovat dva stroje, jak v řádu sekund sehrají tisíce partií. Lidé jsou stále fascinovaní tím, že si je nějaký člověk schopen zapamatovat tolik možností a rychle reagovat na nové situace. Počet aktivních hráčů šachů dlouhodobě roste.

Jenže lidé hrající šachy na pódiu se čím dál víc podobají strojům. Je to ostatně logické: Všichni nejlepší hráči světa trénují se stejnými umělými inteligencemi, na stejných pokročilých trenažérech. Učí se nazpaměť tisíce různých variant optimálních zahájení a koncovek. Hry na nejvyšší úrovni obvykle končí remízou: Oba lidé jako kdyby byli jen více čí méně dokonalou nápodobou stroje.

Role se obrátily. Mechanický Turek byl navenek robot, ale uvnitř byl poháněný člověkem. Nyní jsou nejlepší šachisté světa navenek lidé, ale napodobují hru robota, jak nejvěrněji umí.

Není to zdaleka jen otázka šachové hry – tam je to možná jen o trochu překvapivější, protože šachy mají určitou „intelektuální auru“. Optimalizace lidské práce má ale dlouhou tradici. Zřejmě poprvé ji formálně popsal Adam Smith ve slavném díle Bohatství národů (ze kterého také pochází známé spojení „neviditelná ruka trhu“).

Optimalizaci Smith vysvětluje na zdánlivě primitivním příkladu: výrobě špendlíků. Samotný dělník, který by dělal každý špendlík od začátku do konce, „by při největší píli stěží dokázal vyrobit jeden špendlík za den a jistě by jich nevyrobil dvacet,“ všímá si Smith. Ve skutečné dílně ale jednotlivec nevyrábí každý špendlík od začátku do konce.

„Jeden vytahuje drát, druhý jej rovná, třetí jej stříhá, čtvrtý špičatí, pátý jej na horním konci brousí…“ Hlava špendlíku, její nasazení, barvení i balení špendlíků do papíru jsou další izolovatelné – a tedy snadno bezmyšlenkovitě opakovatelné – kroky. Celá výroba se tak podle Smithe rozdělila „asi na osmnáct různých úkonů“.

Smith hodnotí celý proces jako prospěšný pro každého jednotlivého dělníka: „Ačkoli byli velmi chudí, a proto jen nevalně vybavení potřebnými stroji, dokázali, když se opravdu snažili, vyrobit mezi sebou asi (…) 48 000 špendlíků za den.“ Na jednoho dělníka tak vycházelo skoro 5000 špendlíků za den, o tři řády více, než by dokázal vyrobit sám.

Princip je jednoduchý: Pro zvýšení produktivity je potřeba, aby se co nejvíce činností, které se dělají opakovaně, sjednotilo, rozdělilo, řetězilo a centralizovalo. Jednotlivým pracovníkům je potřeba usnadnit – nalajnovat – jejich práci tak, aby ji mohli provádět zcela automaticky a bezmyšlenkovitě. V Americe tento přístup v masové míře prosadil průkopník „vědeckého managementu“ Frederick Winslow Taylor, proslulý tím, že pracovníky v továrnách sledoval a pečlivě stopoval délku jednotlivých úkonů.

Z jeho pohledu měla být činnost pro řadové pracovníky zcela automatická, bezmyšlenkovitá, robotická: „Manažeři mají za úkol shromáždit veškeré tradiční znalosti, které byly dosud doménou pracovníků. Pak musí tyto znalosti klasifikovat, spočítat a redukovat do pravidel a rovnic.“

Veškerá mozková činnost by měla být podle Taylora odstraněna ze samotné práce a má být přítomna pouze ve stadiu plánování. Cílem nebylo jen ušetřit čas – i  když k tomu často došlo jaksi automaticky –, ale především snížit cenové náklady. Hlavním výsledkem takovéto optimalizace pak byla nižší cena za vyrobený kus.

V českém prostředí principy masové výroby rozvíjel Tomáš Baťa, který se v roce 1905 vrátil z USA, nadšený novým přístupem k důslednému vědeckému managementu. Díky optimalizaci všeho, co pomocí tehdejších technologií optimalizovat šlo – zastavte se v jeho muzeu, nabízí fascinující náhled do jeho myšlení –, dělníci v jeho továrnách vyráběli miliony párů bot ročně.

Kdo vydělává na zvyšující efektivitě? Někdo více, někdo méně. Vydělává zákazník, protože si může koupit více věcí za nižší cenu. Něco si vydělá i dělník, byť odměna za práci u pásu byla najednou výrazně nižší než ohodnocení kvalifikovaného řemeslníka.

A samozřejmě vydělává majitel továrny, protože ovládá „centrum“ a může tedy určovat podmínky. Toto je ostatně jádro toho, na co upozorňoval Karel Marx: majitel (držitel kapitálu, kapitalista) jako jediný vlastní výrobní prostředky.

Jednotlivým dělníkům naopak nic nepatří, prodávají pouze svůj čas a práci. Nezískávají unikátní expertizu, nemají možnost říci, že „vyrobili špendlík“. Tento jev se označuje jako odcizení od pracovního procesu. A toto odcizení začíná pronikat do oblastí, které se proti němu ještě před pár lety zdály být imunní.

V oblasti fyzické práce jsme na dopady mechanizace zvyklí. Pásová výroba už nám přijde zcela samozřejmá. Za pozornost ale stojí její modularita. Z pohledu průkopníků typu Taylora či Bati to znamenalo prostě možnost nahradit jednoho dělníka jiným dělníkem. V průběhu 20. století ale dochází k postupnému nahrazování lidí u pásu mechanickými pomocníky neboli robotizaci.

Protože práce u pásu bývá nesmírně jednotvárná, nikdo si asi nestěžuje, že mu robot vzal jeho oblíbené šroubování matky, pájení tří spojů nebo překládání z pásu do krabic. Robotizace by lidem teoreticky měla umožnit „postoupit o úroveň výše“. Často to ale dopadá obráceně.

Poprvé jsem si to uvědomil při prohlídce ohromných skladů firmy Amazon. Práce „sběračů“ – lidí, kteří chodí po kilometry dlouhých chodbách a sbírají objednané produkty z polic – byla plně řízená počítačem. Jinak to ani nešlo. Kdyby chtěli najít konkrétní knihu ve skladu sami, hledali by ji klidně několik let. Sklad nebyl seřazen podle abecedního nebo jiného lidsky srozumitelného systému. Je to ohromná hala uspořádaná podobně jako data na pevném disku. Nevíme, kde co je, a musíme jít do místa, kam nás poslal počítač, který ví, kde se jaký kus nachází.

Člověk vyslaný do tohoto labyrintu nejde vyzvednout dvě knihy. Jde vyzvednout položky A44323481 a  R998534. Neví, kde jsou, to mu řekne tablet. Ten mu také narýsuje optimální cestu, což dává smysl, protože sklad je tak ohromný, že si člověk nemá šanci vypěstovávat nějaký instinkt na orientaci. Bylo by hloupé snažit se tam zorientovat lépe než počítač. Člověk věci vybere, sebere a přinese.

Ve chvíli, kdy se efektivita stane hlavní metrikou, lidem v systému nezbývá nic jiného, než pracovat s robotickou přesností. Nečeká se od nich žádná inovace. Ani vlastně nemají možnost s ní přijít. Systém je udělaný tak, že každá inovace by znamenala zdržení. Nemůžete zevnitř inovovat systém, protože byste ho rozbíjeli a zdržovali sebe i ostatní. Jako kdybyste chtěli uprostřed hry Člověče, nezlob se vymýšlet nový způsob pohybu figurek. Pravidla jsou navržena tak, aby systém fungoval, a vám nezbývá, než abyste plnili svoji roli.

V nové verzi skladiště už ale lidé mezi regály nehledají. Sloužili jen jako dočasná náhrada robotů. Nyní lidé stojí na místech a roboti jim ze skladu vozí příslušné regály. Ale ani to není konečná fáze.

V některé další generaci už se počítá s tím, že i tuto část budou dělat roboti. Lidské ruce jsou tu jen dočasnou náhradou robotické práce. A než budou konečně robotem nahrazeny, očekává se od nich robotická přesnost.

Generativní umělá inteligence  – schopná psát texty, programovat aplikace nebo tvořit vizualizace – podobnou automatizaci přináší i do prostředí informační ekonomiky. V každé fázi nabízí nová technologie asistenci pracovníkům a slibuje zvýšení jejich efektivity.

Zároveň ale probíhá přesun expertizy, přesně tak, jak to popsal Frederick Taylor: „Manažeři mají za úkol shromáždit veškeré tradiční znalosti, které byly dosud doménou pracovníků. Pak musí tyto znalosti klasifikovat, spočítat a redukovat do pravidel a rovnic.“ Jen to už nejsou jednoduchá manažerská schémata výrobního pásu, ale nelidsky složité váhy velkých jazykových modelů.

Názorně je celý proces vidět na postupném „vytěžování“ překladatelů. Ti nejprve uvítali jednoduché strojové překladače jako orientačního pomocníka s hrubými překlady. V další fázi – někdy kolem roku 2021 – začaly být výsledky strojových překladů dost dobré na to, aby je mohli částečně zapojit do svého pracovního procesu a tím si jej usnadnili, i když zdaleka ne všichni tomuto trendu fandili.

Pak ale nastoupily velké jazykové modely a stroj najednou dokázal překládat text tak dobře, že mnozí zadavatelé upřednostnili levný a rychlý překlad od umělé inteligence před kvalitním, propracovaným, ale drahým překladem od člověka.

Překladatelé se museli přizpůsobit a u běžných překladů přešli na tzv. posteditaci. Už nedělají překlad od začátku do konce, ale pouze upravují text, který připravil AI systém: „Při posteditaci si připadám jako průtokový ohřívač. Za den musím zpracovat mnohem víc informací než při běžném překladu,“ popsal mi to překladatel Miroslav Pošta.

Všimněte si, že v každé fázi jednotliví lidé naprosto logicky reagovali na aktuální situaci. Používali dostupné nástroje k tomu, aby optimalizovali svůj výstup. Zároveň ale vytvářeli data, která pomohla vytrénovat příští generaci umělé inteligence. Opravený překlad je nejlepším vstupním textem pro trénování lepšího AI překladače. Toto se zdaleka netýká jen překladatelů. Každý z nás, kdo vytváří nějaké texty, dokumenty, obrázky, programy, schémata, prostě cokoli digitálního, se pravděpodobně podílí na extrakci své expertizy do příští generace AI systémů.

Pro každého jednotlivce dává smysl využívat AI nástroje k usnadnění své práce. Ale důsledky masového nasazení této technologie přesahují to, co dokážeme jako jednotlivci ovlivnit, nebo vůbec dohlédnout.

Na tento problém upozorňuje i encyklika papeže Lva XIV.: „Je jistě žádoucí, aby technika zbavovala člověka namáhavých, jednotvárných nebo nebezpečných úkolů a aby lidskou činnost rozumně usnadňovala. Přesto musí obecným pravidlem zůstat ochrana pracovních příležitostí a nenahraditelná role jednotlivce. Honba za vyššími zisky nemůže ospravedlnit rozhodnutí, která soustavně obětují pracovní místa.“ Člověk má být podle papeže cílem, nikoli prostředkem.

Jak z toho ven? Když budeme optimalizovat vše, co optimalizovat jde, výsledek je poměrně předvídatelný: Člověk nebude moci dlouhodobě překonat stroj. Maximálně bude moci chvíli napodobit strojovou přesnost a bude tak dočasně levnější náhradou. Než pomůže vycvičit příští generaci, která jeho roli převezme, jako počítačové systémy převzaly roli šachového mistra ovládajícího robotickou ruku mechanického Turka.

Co s tím? Obecnou odpověď nemám. Abych ale nekončil tak dystopicky: Všiml jsem si, že v šachovém světě se objevuje nový trend. Nejlepší šachisté světa – a určitě i diváci – jsou unavení tím, jak všichni napodobují strojovou přesnost propočítaných, ohraných a optimalizovaných strategií. A tak se čím dál častěji objevují tahy, které z optimálního pohledu nedávají smysl.

Nejsou to úplně „Cimrmanovy tahy mimo šachovnici“. Spíše je to snaha, aby se hráči vyhnuli nudným „optimalizovaným“ hrám. Jeden z nejlepších šachistů současnosti Magnus Carlsen propaguje „freestyle šachy“, kde se figurky na začátku zamíchají do pozice, která je prakticky nepředvídatelná. Hráči se tak nemohou spoléhat na natrénované postupy a do hry se vrací prvek překvapení. Možná se podobné strategie ujmou i v dalších oborech. Hrát si na robota totiž lidi docela rychle omrzí. A kdo bych chtěl být zavřený ve skříňce, ve které se nedá pořádně dýchat?

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.