Pod čarou: Svoboda a rovné zacházení? Na sítích na důstojnost zapomeňte

Když se papež Lev XIV. po svém zvolení poprvé oficiálně setkal se členy kardinálského kolegia, uvedl, že „vývoj na poli umělé inteligence klade nové výzvy pro obranu lidské důstojnosti, spravedlnosti a práce“. Nebyl to jen náhodný postřeh. Ve svém projevu také vysvětlil, že si nové jméno zvolil s odkazem na papeže Lva XIII., který na konci 19. století ve slavné encyklice Rerum novarum podobnými slovy kritizoval tehdejší dopady průmyslové revoluce zejména na dělnické vrstvy.

Ohrožení lidské důstojnosti v důsledku nástupu AI se ve Vatikánu hojně řešilo i za éry papeže Františka a katolická církev není zdaleka jediný aktér, který má v této souvislosti o lidskou důstojnost takovou péči – stejné obavy se často skloňují i v nové evropské legislativě vymezující mantinely pro rozvoj AI, takřka stejný jazyk používají i dokumenty OSN a poukaz na důstojnost samozřejmě patří do základní argumentační výbavy každého kritika AI průmyslu.

Slovo důstojnost zásadně vylepší každý morální apel. Jen těžko se dá polemizovat s tím, že ohrožení lidské důstojnosti je špatná věc, a zmiňovaným projevům a regulacím nelze netleskat. Při bližším zkoumání se ale bohužel často ukážou jako prázdné fráze. Koncept důstojnosti v nich totiž nebývá dostatečně vysvětlen a každý si ho vyloží po svém – třeba i lidé z technologického sektoru, kteří mohou na této vágní rovině snadno argumentovat, že jejich vynálezy naopak lidem důstojnost dodávají.

S důstojností se to má podobně jako s takzvaným třením, o kterém jsem v kontextu neregulovaného technologického rozmachu psal v minulém vydání Pod čarou. I důstojnost je věc, která na první pohled vypadá jako neuchopitelný filozofický pojem, ale ve skutečnosti jde o celkem věcnou komoditu či veličinu, jejíž fungování, nabývání a ztráty se řídí jasnými pravidly. A když do nich trochu pronikneme, zjistíme, jak důležitou, ale přitom přehlíženou věcí je ve společnosti právě důstojnost.

Při hledání zdrojů a definic důstojnosti se často dostaneme do slepé uličky, protože zbytečně přemýšlíme o jejích konkrétních formách a projevech. Došlo mi to ve chvíli, když jsem před časem uvažoval o tom, proč vlastně rostou (a dnes snad už zase klesají) preference Motoristů. Naivně jsem se domníval, že za tím jistě musí být jiné ostré politické názory Filipa Turka a jeho souputníků, protože všechna ta auta a motory přece musí být jen prázdné ozdobné slogany, které nikdo nebere vážně.

Poslechněte si audioverzi newsletteru načtenou autorem.

Pak mi ovšem při sledování některých internetových debat došlo, že auta pro řadu voličů naprosto zásadní věcí jsou a rozhodně jim to nelze mít za zlé nebo se jim dokonce smát. Pro mnoho lidí (v drtivé většině případů jde o muže, často také z nižších sociálních vrstev) totiž představují důležitý zdroj důstojnosti a sebehodnoty.

Za volantem získávají pocit svobody, nezávislosti a autonomního rozhodování. Jiní lidé jim na silnici musí projevovat alespoň dílčí respekt. Mají dojem, že se v případě potřeby dokážou postarat o svou rodinu a blízké a auto je pro ně znakem toho, že v životě něco dokázali – a to vše se rozplyne jako pára nad hrncem, kdyby byli nedejbože nuceni cestovat v anonymním davu v MHD.

Lidem jako já to ovšem obtížně dochází, protože vzhledem ke svému životnímu stylu a společenskému postavení mohu zmíněné atributy důstojnosti získat spoustou jiných cest a přesun tramvají naopak mou důstojnost nijak neohrožuje. Co je pro jednoho klíčový zdroj důstojnosti, je pro jiného nudná otrava nebo dokonce ponižující aktivita, výsledkem je jen vzájemné neporozumění a povahu důstojnosti nám to nijak blíže neosvětlí.

Spory o to, co je a není důstojné a na co proto lidé mají či nemají nárok, se z pochopitelných důvodů vedou zejména na poli práva, kde kolem toho také vzniká notný chaos. S trochou odstupu se ale ukáže, že nejen v souvislosti s AI a novými technologiemi se v různých právních tradicích důstojnost definuje skrze dva nebo tři základní principy či kategorie.

První přístup klade důraz na důstojnost pramenící z jedinečnosti a nenahraditelnosti každého člověka – nikdo z nás nemá být v jakékoliv situaci včetně mezilidské komunikace považován za zaměnitelné a anonymní číslo či věc, a pokud se do takové situace náhodou dostaneme, naši důstojnost to pochopitelně velmi poškozuje.

Dalším zásadním kořenem důstojnosti je autonomie a právo na rozhodování – čím větší kontrolu máme sami nad sebou, svým tělem, okolím, osudem či veřejným obrazem, tím více důstojnosti požíváme.

A v neposlední řadě je tu i otázka rovnosti – lidé mají být obdařeni důstojností stejnou měrou a nikdo o ní nemá přicházet kvůli majetkovému postavení, příslušnosti k nějaké zranitelné či znevýhodněné skupině lidí nebo jinému hendikepu. To je ostatně i linka, kterou při své kritice technologií sleduje katolická církev.

Na první pohled tyto principy mohou působit trochu abstraktně a neuchopitelně, ale když se podíváme na praktické příklady ze světa digitálních technologií, dojde nám, že jakékoliv ohrožení nebo posílení důstojnosti jde vždy napasovat na jednu z těchto kategorií.

O pořádný kus důstojnosti nejspíš přišel každý, kdo si musel na nějaké zákaznické infolince či helpdesku povídat s chatbotem. Bývá to k vzteku nejen proto, že tyto systémy v drtivé většině nefungují a místo pomoci se spíše snaží uživatele odradit od dalšího úsilí. Debata se strojem působí ponižujícím dojmem i na lidi, kteří jinak mohou technologiím fandit. Nabourává totiž první ze zmíněných principů, tedy důstojnost pramenící z respektu k unikátní lidské osobnosti každého z nás.

Dobře to vysvětluje třeba tato studie z oblasti IT etiky – potíž je v tom, že chatboti jsou prezentováni jako falešní „lidé“ a jsme proto ponoukáni k tomu, abychom s nimi jako s lidmi debatovali, ideálně slušným a vlídným tónem. Tyto komunikační normy jsou ale založeny na logice vzájemného respektu a naslouchání – když druhému člověku dáváme svůj čas a pozornost, vytváříme tím u něj nějaký závazek a zároveň posilujeme jeho důstojnost.

V případě chatbota je ovšem jasné, že na druhém konci drátu je jen nemyslící kus kódu, kterému je náš respekt naprosto ukradený. Na debatu s námi nevynakládá žádné úsilí, naše slušnost je jednosměrná a naše důstojnost začíná dost trpět.

Zdaleka to není jediný případ, kdy jsme z pozice unikátního jedince posunuti do role zaměnitelné věci. Na anonymní objekt se prostřednictvím aplikací mění třeba i každý kurýr dovážkových služeb a nerovná a nedůstojná komunikace člověka a stroje probíhá na sítích takřka všude a neustále. Patří k tomu i fakt, že když je nám cokoliv nabízeno pomocí algoritmu, jsme jeho očima vnímáni jen jako soubor dat indikujících určité zájmy a vlastnosti, které s naší skutečnou osobností a názory nemusí mít nic společného.

Když nám ve feedech začnou vyskakovat koťátka nebo modelky v bikinách coby algoritmická sázka na jistotu, je to sice nedůstojné, ale ještě poměrně nevinné. Když se z nás ale stanou odosobněná a anonymní data třeba při strojovém AI posuzování nároku na sociální dávky (s čímž už se v různých koutech světa experimentuje), je to pro důstojnost bohužel mnohem větší rána.

Tady pak vstupuje do hry i další zmiňovaná logika, tedy důstojnost pramenící z rovnosti všech lidí. Už dlouho se debatuje o tom, že nástup AI nástrojů může vést k posilování společenských nerovností, protože ti majetnější si budou moci dovolit nákladnější služby provozované živými lidmi, kdežto ti chudší budou odkázáni na laciné AI náhražky ve všech oblastech života, od terapie přes úřední a bankovní služby až po péči o staré a jinak zranitelné lidi.

Důstojnost je komoditou odjakživa a na principu, že čím více máme peněz, tím více důstojnosti si můžeme dovolit, není nic nového. Technologie ale tento typ nerovností mohou ještě dál posilovat. Proto se také často řeší, zda má být přístup k internetu považován za základní lidské právo, nebo jestli zákonem více nechránit právo na offline služby, platbu hotovostí apod. Vždy jde o to, že neuvážená automatizace a nasazení technologií mohou porušovat princip rovnosti a některé skupiny lidí jsou pak vystaveny méně důstojnému zacházení.

Není náhodou, že tento koncept důstojnosti často akcentují křesťanské církve, a jistě to přispívá i k aktuální renesanci náboženství a spirituality – v současnosti je to totiž jeden z mála zbývajících alternativních zdrojů důstojnosti, která není komodifikována a může si na ni sáhnout každý. Koncept unikátní, rovné a nezcizitelné důstojnosti každého lidského života je tu bohužel často zneužíván i k protipotratovým tažením nebo sabotážím biomedicínského výzkumu, ale nelze popřít, že ve střetu s novými technologiemi je linka argumentace ze zmiňovaných papežských projevů a encyklik více než pádná.

Neměli bychom také zapomínat, že s rostoucími „digitálními“ nerovnostmi se začíná otevírat nebezpečná šikmá plocha. Důstojnost totiž není neměnnou a přesně vyčíslitelnou veličinou a o tom, co je a není důstojné, si děláme obrázek při vzájemném srovnávání s jinými lidmi.

Velmi dobře to vystihli autoři a autorky konceptu minimální důstojné mzdy, kteří při jejím výpočtu vycházejí i z toho, jaký životní standard je ve společnosti považován za normální – poslat děti jednou za rok na letní tábor k tomu jistě patří, a když si to nemůžeme dovolit, důstojnosti nám to rozhodně nedodá.

Když se ovšem některé, v současnosti nedůstojné praktiky normalizují (bude běžné místo živého lékaře či úředníka debatovat s chatbotem), laťka se posune a argumentovat ztrátou důstojnosti bude najednou mnohem složitější.

V neposlední řadě hraje nejen v online prostředí výraznou roli i poslední zmiňovaný zdroj důstojnosti, kterým je osobní autonomie a možnost svobodné volby. Stroje totiž řadu rozhodnutí činí za nás, což sice v mnoha ohledech usnadňuje život, ale také nás to činí mnohem závislejšími a bezmocnějšími.

Je to proces, který se na digitálních platformách rozehrává už delší dobu, ale po nástupu AI pomocníků nabral na síle – Google nedávno posílil AI prvky ve vyhledávání a ohlásil vývoj nových nástrojů, které mají nahradit populární YouTube manuály a budou nám skrze obrazovku telefonu simultánně radit třeba při opravování kola. To sice zní nesmírně prakticky, ale úbytek znalostí a zručnosti nám na důstojnosti rozhodně nepřidá, a když daná služba zmizí nebo bude zpoplatněna, ocitneme se v ještě mnohem nedůstojnější situaci.

Když algoritmus přímo rozhodne za nás, často si toho všimneme a oprávněně se kvůli ráně pro důstojnost rozčílíme. Ještě zákeřnější je ale zákulisní omezování osobní autonomie, ke kterému dochází vždy, když nám aplikace a platformy nenápadně okrajují možnosti volby – většinou jsou to uzavřené systémy, do jejichž fungování nevidíme, a musíme se tak smířit s tím, co nám k rozhodování a výběru nabídnou, ať už to jsou třeba potenciální partneři na seznamce nebo filmy na streamovacím portálu.

Ve většině případů se zmiňované koncepty důstojnosti či její ztráty míchají – typicky se to děje třeba při aktivitách na sociálních sítích, kdy jsme zároveň odlidštěni a manipulováni coby anonymní čísla, čelíme nerovnému zacházení a jsme postrkováni předem danými cestami s omezenou možností volby. Pocit ztráty důstojnosti se tak násobí, i když nemusí být zcela jasné, který faktor je zrovna ve hře.

Mohlo by se proto zdát, že debaty o abstraktních principech důstojnosti jsou trochu bezcílná akademická záležitost, ale opak je pravdou. Při navrhování právních regulací nových technologií jde celkem snadno prokázat, jak přímo porušují některé zákony a pravidla (typicky třeba při poškozování autorských práv, šíření zakázaného obsahu apod.). Pokud ale chceme regulacemi dosáhnout i omezení zásahů do lidské důstojnosti, musíme mít pro střet se zástupci technologického průmyslu připraveny pádné argumenty a příklady, jak přesně k tomu dochází – a právě proto je přemýšlení o kořenech a povaze důstojnosti tak důležité.

Navíc už je pak jen krůček k tomu, abychom pochopili, jak se tyto principy každodenně projevují i v jiných sférách společnosti a politiky mimo pole nových technologií. Ztráta důstojnosti a touha po jejím znovuzískání je zásadním faktorem při změnách veřejných nálad, a politici, kteří s ním dokážou dobře pracovat, mají většinou úspěch zaručen.

Výzva samozřejmě spočívá v tom, abychom ztracenou důstojnost znovunalézali přínosnou a produktivní formou a nepodléhali u toho populistické či nenávistné rétorice – pokud má například daný jedinec slušný plat a lepší právní ochranu na pracovišti a šéf jej nemůže šikanovat, je tu menší šance, že si bude chtít ztracenou důstojnost nahánět prostřednictvím neomezené rychlosti na dálnici nebo vyhánění migrantů.

V jakékoliv společenské situaci hrají roli principy lidské jedinečnosti (nemá s námi být zacházeno jako s kusem hadru a chceme pozornost a respekt), rovnosti (když nedosáhneme na relativně normální věci, roste pocit nespravedlnosti) a svobodné volby (kdy se rozhoduje o nás bez nás nebo můžeme vybírat jen z menšího zla, rozhodně nás to nepotěší), jejichž poškozování nám důstojnost zásadně ubírá, a je jedno, jestli se bavíme o předvolebních kampaních nebo scrollování na instagramu.

Pokud se vám ukázka z newsletteru Pod čarou líbila, přihlaste se k odběru. Každou sobotu ho dostanete přímo do vašeho e-mailu, včetně tipů na další zajímavé čtení z českých i zahraničních médií.