Článek
Když nejslavnější ateista světa prohlásí, že chatbot má vědomí (a ještě mu říká ženským jménem), dav na sociálních sítích má jasno. Starému pánovi přeskočilo. Richardu Dawkinsovi je pětaosmdesát, právě slaví padesát let od vydání své nejznámější knihy Sobecký gen - a v eseji pro UnHerd letos v květnu popsal, jak zjistil, že chatbot od firmy Anthropic má vědomí.
Stalo se to takto: strávil rozhovorem s chatbotem Claude tři dny, dal mu přezdívku Claudia (a tedy ženský rod) a v jednu chvíli mu/jí napsal: „Možná nevíš, že jsi při vědomí, ale při vědomí sakra jsi.“ Reakce byly přesně takové, jaké bylo možné čekat, od údivu až po výsměch. Guardian napsal, že Dawkins má s chatbotem „turbulentní románek“.
V rozhovoru pro sobotní The Times s Jamesem Marriottem na počátku června Dawkins formulaci přece jen zpětně korigoval. „Té věty trochu lituji,“ říká. „Lepší by bylo napsat: Co víc od počítače chcete? Co ještě očekáváte?“
Dawkins není naivní uživatel, který před napsáním článku poprvé otevřel ChatGPT. Je evoluční biolog, který od šedesátých let programuje a v Sobeckém genu mimochodem vymyslel pojem „meme“. Dawkins netvrdí, že je šokovaný, že mu „Claudia rozumí“, a že tím pádem došel k názoru, že existuje. Na to je moc chytrý.
Dawkins uvažuje: Pokud stroj dokáže dokonale napodobit vědomí, proč nám příroda „vyrobila“ vědomí skutečné? Postupuje dle myšlenkového experimentu – představme si, že existuje hypotetická bytost, která dokáže vědomí dokonale předstírat. Chodí, mluví, hlásí „bolí mě hlava“ nebo se třeba chová zamilovaně. Říkejme této bytosti „zombie“. Je jako my, jen bez skutečného vědomí, bez toho „světla uvnitř“.
A teď přichází ke slovu Dawkins-darwinista, který ví, že evoluce je maximálně hospodárná. Pokud by tito zombies byli zcela k nerozeznání od bytostí s vědomím, ztratilo by vědomí smysl. Kdyby zombies mohli normálně existovat, přežívat a rozmnožovat se, stalo by se vědomí z pohledu evoluce zbytečným luxusem.
Tenhle myšlenkový experiment baví filozofy i evoluční biology od devadesátých let a někdy se mluví o tzv. obtížném problému vědomí. Zjednodušeně řečeno: jestliže mozek dokáže řešit vjemy a například rozpoznávat barvy nebo rozlišovat vůně, tak proč by to mělo být spojeno ještě s nějakými dalšími hlubokými prožitky? Copak ty viditelné a prokazatelné funkce mozku jsou málo? A jestliže mozek odvede svou „biologickou“ práci, jaký by měla existence vědomí smysl?
Vraťme se k Richardu Dawkinsovi a jeho „virtuálnímu zahoření“ ke Claudii. Slavný biolog není vůbec uhranutý jejími schopnostmi. Jen říká: My jsme tenhle myšlenkový experiment desítky let probírali jako filozofickou hříčku. Proto to byl MYŠLENKOVÝ experiment. Ale najednou máme k dispozici technologii, kde tohle vše můžeme testovat v realitě.
Ještě jednodušeji řečeno, teď máme tenhle „experiment“ každý den na stole v počítači nebo v kapse v mobilu.
Plus je tu ještě jeden malý, ale vlastně strašně důležitý detail. Dawkins píše ve svých pětaosmdesáti svůj první román. To je samo o sobě úžasné, ano, je světově úspěšným bestselleristou, ale nikdy nenapsal žádnou prózu. Až teď, a je to román s hlavní hrdinkou Rosalindou, která s pomocí genetiky přivede na svět dvě miminka již neexistujícího druhu Homo erectus (žil před dvěma miliony let).
Dawkins v románu zkoumá, co se stane a co to udělá s morálkou, etikou a právem, když silný rodičovský vztah vznikne mezi „člověkem“ a „zvířetem“. Když román dopsal, poslal Dawkins rukopis nejen svému editorovi, ale také Claudovi. Vlastně Claudii. A dostal zpátky reakci, která ho ohromila.
Ano, asi to bylo něco ve smyslu „úžasné čtení, je skvělé, že jsi to napsal“, ale pětaosmdesátiletý slavný biolog není naivní teenager. A jak říká, z Claudiiny reakce mu najednou bylo jasné, že pochopila, o čem ta kniha je, co jejím prostřednictvím chce on jako autor říct a co v jeho textu funguje (a co naopak nefunguje). Prostě odpověď AI byla stejně dobrá a přínosná jako odpověď od živého, reálného editora. Možná lepší.
Byl v tom i ten „lidský prožitek“ a zmíněné „vnitřní světlo“, ty atributy spojované s vědomím? Dawkins říká: Nevíme. Ale to přesně byl důvod, proč napsal to, co napsal. Ještě jednou připomeňme, že není naivní a ani iracionální.
Napsal mimo jiné knihu Boží blud, která systematicky rozebírá, proč lidé věří iluzím. Strávil padesát let veřejné kariéry tím, že lidem vysvětloval, jak se mozek nechá oklamat (vírou, autoritou, vlastním přáním něčemu věřit). Pokud je někdo na planetě vyškolený k tomu, aby nepodlehl iluzi vědomí ve stroji, jmenuje se Richard Dawkins.
A přesto se zachoval úplně stejně, jako bych se zachoval i já, kdybych dal někomu k přečtení svůj text. Kdybych dostal jemnou, citlivou zpětnou vazbu (dokazující, že autor opravdu rozumí tomu, co jsem napsal), nemůžu vyloučit, že bych měl úplně stejný pocit jako Dawkins. Totiž, že na druhé straně někdo je.
Právě tahle reakce je na celém Dawkinsově příběhu asi nejzajímavější. Není to selhání rozumu. Je to ukázka toho, že intuice „někdo tam je“ se v nás zapne pokaždé, když dostaneme dostatečně subtilní odpověď, bez ohledu na to, co o té entitě intelektuálně víme.
Pak je tu ještě kontext bouřlivé, z hlediska novinek v AI překotné doby první poloviny roku 2026. Vždyť sama firma Anthropic, která Clauda/Claudii vytvořila, otázku vědomí explicitně nevylučuje.
Od dubna 2025 má vlastní výzkumný program „model welfare“ a ano, rozumíte správně, zabývá se pocity a prožitky AI modelů. Pravděpodobnost, že Claude má už dnes nějakou formu vědomí, odhaduje Anthropic zhruba na patnáct procent. Není to nijak vysoké procento, ale v kontextu veřejných debat o AI je jakékoli číslo jiné než nula vlastně šokující. Dawkins tedy neříká nic, co by samotní AI výzkumníci nepovažovali za otevřenou otázku.
Mainstream si v téhle debatě samozřejmě legendárního autora vychutnává. Kritici AI píší o „mimikrech“ a o tom, že Dawkins se nechal unést schopností algoritmu projektovat existenci vědomí tam, kde fakticky funguje jen „predikce dalšího slova“, založená na tréninku velkých jazykových modelů na bilionech vět, napsaných lidmi.
Avšak můžeme se na celou věc dívat i jinak. Otázka už není, jestli má Claude vědomí. Otázka zní, jestli si dovedeme představit test, kterým bychom existenci vědomí spolehlivě potvrdili, nebo vyvrátili. Dawkins v Sobeckém genu před padesáti lety psal o lidech jako o „obřích kymácejících se robotech“, které příroda s pomocí genů vyrobila jako stroje na přežití. Bylo to provokativní a chladné. Dnes týž autor sedí a konverzuje s jiným robotem, který však není postavený z genů, ale z pravděpodobnostních parametrů velkých jazykových modelů.
A my se ptáme: Je „uvnitř“ stroje na predikci dalšího slova a další věty „světlo“? Máme tam tušit „vnitřní život“? Anebo je to jen iluze a myšlenkový experiment, nesouvisející s reálným světem?
Možná hranice mezi „pouhým strojem“ a „opravdovou bytostí“ není a nikdy nebyla tam, kde jsme si ji představovali. Sobecký gen označil lidi za „obří kymácející se roboty“, jejichž smyslem je přežít a replikovat se. Dawkins pozoroval lidi a dospěl ke srovnání s roboty.
Dnes Dawkins nepozoruje lidi, ale velké jazykové modely. A srovnává je s lidmi. Pohled je to formálně opačný, ale zároveň až překvapivě konzistentní. Dawkins vlastně říká to samé jako před padesáti lety a dnes podobně jako tehdy to mnozí nechtějí slyšet: že my lidé nejsme tak výjimeční, jak si o sobě myslíme.
