Když svěříme kreativitu AI, máme všichni stejné nápady

Poznáte, jestli nějaký text sežmoulala a vyplivla umělá inteligence? Stoprocentní metoda neexistuje, ale řada lidí se postupně naučila rozpoznávat některé typické fráze a techniky, ke kterým generátory textu často sklouzávají.

Každý text se tváří, že se týká něčeho přelomového. Sebemenší maličkost je najednou stěžejní, spletitá nebo klíčová. Zároveň je generovaný text plný opatrného vyvažování („je třeba mít na paměti“ a „což může znamenat“). Strojově vytvořené texty bývají plné anglicismů. Příklady chodí po trojicích, aby se nebály.

A ten nejdůležitější znak? Přerušení textu otázkou, která naznačuje nečekanou upřímnost. To není originalita. To je hacknutí naší pozornosti! (Jistě poznáváte klasickou AI konstrukci negativního paralelismu, která je tak všudypřítomná, že už přetéká do běžné mluvy.)

Stačí, když si projdete LinkedIn, Twitter/X, vlastně i svou e-mailovou schránku, a tyto fráze tam myslím najdete v hojném počtu. Ostatně když vidíte delší, do přehledných odstavců strukturovaný text (a nepřišel vám od notoricky známého grafomana), můžete se skoro vsadit, že v něm má prsty umělá inteligence.

Pěkně tyto známky „AI břečky“ mapuje Wikipedia. Pro její editory je to součást každodenního boje, protože se setkávají s více než 100 000 novými návrhy každý den. Jejich cílem je udržet Wikipedii lidskou, a to dnes není snadný cíl. Psát text lidsky – myšleno ručně – totiž trvá mnohem déle než jeho generování AI.

Bojím se, že bude těžké vysvětlit někomu, kdo má AI nástroje k dispozici už od střední školy, že má smysl učit se psát ručně. Kdybych měl tehdy po ruce chatbota, který by na přání vyplivl referát, esej, seminárku, povídku, web i infografiku, dokázal bych v sobě najít sebekázeň k tomu, abych se tyto věci naučil vyrábět „postaru“? Vlastně mám často problém vysvětlit důležitost a přínos ručního psaní i lidem dospělým. Ale rád dělám těžké věci, tak to přesto zkusím.

„Pořád píšeš ty svoje texty ručně? Nepíše to za tebe umělá inteligence?“ Když jsem tuto otázku slyšel v roce 2023 poprvé, bral jsem to jako urážku. Schopnost jazykových modelů tvořit smysluplný text tehdy byla sice ohromující, ale pořád pod úrovní profesionálního spisovatele. Bylo to vidět i na síti: Za AI břečku se tehdy označovaly věci, které nedávaly smysl a vedly odnikud nikam.

Texty vygenerované od začátku do konce umělou inteligencí byly v té době spíše výjimkou. Za tři roky se ale situace změnila – napřed pomalu, pak radikálně, což je pro vývoj v oblasti AI celkem typické – a nyní se zdá, že většina nových textů, které se na internetu objeví, už nesou minimálně stopu AI generovaného obsahu. Zpočátku to šlo poznat třeba podle některých slov typických pro AI generátory.

Studie ukazují, že některá taková slova – například delve (ponořit se), underscore (podtrhnout) nebo intricacy (spletitost) – pronikají i do mluvené řeči. Frekvenční analýzou přednášek publikovaných na YouTube se ukazuje, že hranice mezi AI a lidským textem se stírají tím, jak se tyto korpusy navzájem ovlivňují.

Nevím o 100% spolehlivé metodě, jak rozpoznat generovaný text od ručně psaného. Ani by to podle mě nemělo být cílem, tím by se jen roztočila další spirála „strojové humanizace“ generovaných textů. Některé detektory AI textů nechodí kolem horké kaše a rovnou nabízejí, že za vás ten text automaticky přepíší, aby nebylo poznat, že jej psala umělá inteligence. Je asi zjevné, že tento byznys model může mít vliv na jejich spolehlivost…

Myslím, že nárůst počtu generátů můžeme brát jako fakt. Když je něco rychlé a levné, lze čekat, že to vyplní veškerý prostor, který tomu ponecháme.

S nástupem digitálních fotoaparátů (a později fotoaparátů v mobilních telefonech) se znásobil počet lidí, kteří fotografují, i počet snímků, které pořizují. Počet profesionálních fotografů ani kvalita jejich práce tím (pravděpodobně) neklesla, ale klesl jejich podíl. Když jste vzali tisícovku náhodně vybraných fotek, většina z nich byla od amatérů. Ti dosud neměli k fotografování přístup a najednou jej dostali. Bylo by hloupé a elitářské jim říkat, že fotit nemají.

Proto se i já chci vyvarovat toho, že bych někoho nabádal, aby nepoužíval umělou inteligenci k psaní textů. Objektivně vzato jsou texty generované pokročilým modelem obvykle velmi dobré a pro mnoho lidí to bude pohodlnější způsob, jak se vyjádřit.

Souhlasím v tomto s Ethanem Mollickem, který studuje inovace na University of Pennsylvania. Před dvěma roky napsal: „Psaní pomocí AI může být nesmírně užitečné, když se používá správně. Mnozí vědci jsou profíky ve své oblasti výzkumu, ale to neznamená, že umí dobře psát nebo srozumitelně komunikovat.“

Když tedy umělá inteligence za takového vědce vygeneruje úvodní souhrn práce (tzv. abstrakt), těžko v tom vidět nějaký problém. Pokud to odblokuje takového výzkumníka a umožní mu věnovat se tomu, co je jádrem jeho práce, tím lépe. Můžeme optimisticky doufat, že postupně uvidíme dopady na vědecký výzkum právě tím, že výzkumníci budou moci rychleji sepsat to, co zjistili.

Když mluvím o tom, proč své důležité texty (a mezi ně patří všechny mé analýzy, články a newslettery) stále píšu ručně, mohl bych jednoduše říci, že je to proto, že za ně chci ručit. A to je pravda. Velké jazykové modely kecají (halucinují), vymýšlejí si fakta, citace i zdroje. To je pro novináře pochopitelně zcela nepřijatelné.

Máme na to ostatně i Kodex práce redakce s AI, ve kterém se zavazujeme k transparentní práci s informacemi. A pokud novinář neví, odkud LLM vzal informace, logicky je nemůže brát jako důvěryhodné zdroje. Maximálně to může být nějaké vodítko nebo zdroj „alternativního pohledu“. Snažím se řídit jednoduchým principem: Kdyby čtenář viděl celý proces, jak text vznikal, řekl by si „to je ale lenoch líná!“, nebo „pěkný, to jsem rád, že použil tenhle nástroj, článek je díky tomu lepší”? Pro mě to znamená třeba častější práci s daty, vizualizacemi nebo programování interaktivních doplňků článku.

Někdo by možná novinářům schvaloval i použití umělé inteligence k „vylepšení formulací v textu“, ale i tam se ocitáme na tenkém ledě. Deník New York Times nedávno rozvázal spolupráci s recenzentem knihy poté, co se ukázalo, že si „půjčil“ klíčovou část textu od kolegy z konkurenčního deníku, aniž by uvedl zdroj (podrobněji to popsal kolega Matouš Hrdina ve svém newsletteru).

Věřím, že publicista Alex Preston ani nevěděl, že tato slova překopíroval od konkurence. Zdá se mi pravděpodobné, že prostě se „svým“ chatbotem probíral svou recenzi, možná mu dal své poznámky a prostě dělat „brainstorming“ a třídění poznámek. Možná na konci řekl něco jako „vymysli, jak to uzavřít“, a chatbot, který si ke knize načetl všechno možné, mu nabídl slova z The Guardian, aniž by přiznal, odkud pocházejí.

Dokonce ani když chatbot přímo nekrade cizí text, má při generování „originálních nápadů“ tendenci sklouzávat do vyježděných kolejí. Umělá inteligence je řekněme průměrně kreativní. Samozřejmě existují různé definice kreativity, ale už dlouho říkám, že pokud chceme porozumět možným dopadům AI na společnost, neměli bychom si lhát do kapsy a schopnosti AI podceňovat.

Proto mi zajímavější otázka, než „je umělá inteligence kreativní“, přijde otázka: „Jak umělá inteligence ovlivňuje kreativitu nás, lidí?“ Jinými slovy: Když kreativnímu člověku dáte do ruky chatbota, budou společně kreativnější, nebo naopak nudnější?

Loňská studie amerických výzkumníků (zatím v preprintu) testovala několik způsobů toho, jakým byli lidé vystaveni nápadům umělé inteligence. Někteří vůbec, někteří zlehoučka a někteří hodně. Navíc, aby to bylo zajímavější (a objektivnější), ne všichni věděli, že nápady, na které se dívají, mohou pocházet z útrob neuronové sítě. Výsledky byly smíšené: Jednotlivci nebyli díky AI ani kreativnější, ani méně kreativní. Skupinkám lidí ale „injekce od AI“ v podobě nápadů navíc prospěla a celkově byly nápady takové skupinky v čase rozmanitější.

To zní jako dobrá zpráva a také možná recept na užitečné zapojení umělé inteligence do vašeho tvůrčího procesu. Nechte si poradit věci, na které byste sami nepřišli a které vás posunou novým směrem. Ne každý má k dispozici přísného trpělivého editora, a chatbot tak může lidem posloužit k rozšíření perspektivy, k narušení skupinové konvergence k podobným nápadům.

Jenže když se na to podíváme z ptačí perspektivy, vidíme problém: Ne vždy zůstane umělá inteligence jen v roli pasivního přihazovače nápadů. Často jí lidé svěří mnohem důležitější úlohu: Řekni mi, co si o tom myslet. A chatbot ochotně vyhoví a nabídne odpověď. Bude dobrá, možná lepší, než co byste vymysleli z fleku sami. Ale všichni dostanou nápady stejné, respektive velmi podobné: „Obsah nabídnutý umělou inteligencí (LLM) bývá předvídatelnější a repetitivnější,“ konstatuje studie z roku 2024. Projevuje se zde efekt fixace na trénovací data a ta jsou pro všechny chatboty víceméně stejná. To ale daný uživatel obvykle nemá šanci postřehnout.

Představte si, že byste byli unaveni neustálým hledáním hracích kostek pod pohovkou a koupili byste elektronickou hrací kostku (je to metafora, prosím, vydržte). Vyzkoušíte, jestli funguje: trojka, jednička, pětka, dvojka, trojka, šestka, čtyřka… to vypadá dostatečně náhodně. Žádný problém. Co nevíte, je, že trojka, jednička, pětka, dvojka, trojka… padne každému člověku poté, co kostku zapne. A co hůř, až ji zapnete příště, je tu zase stará známá trojka, jednička, pětka, dvojka… Taková „kostka“ není zdrojem nepředvídatelnosti.

Totéž sledujeme u AI textů: Každý jeden z nich – včetně těch rétorických figur pro upoutání pozornosti – vlastně není objektivně špatný. Dost často je lepší než to, co by daný člověk zvládl v krátkém čase vypotit sám bez pomoci chatbota. Ale když se podíváme na celkový výsledek, vidíme, jak otravné je, že se všichni chodí radit k jednomu zdroji. Jednotlivec je díky tomu možná produktivnější (a také možná unavenější), ale celkově hrozí, že kreativita lidí bude upadat.

Studie vědců z MIT Media Lab z léta 2025 představila pojem kognitivního dluhu: Když při tvorbě textu používáme umělou inteligenci, nemusíme tolik nasazovat vlastní mozek. Upozornil jsem tehdy, že většina lidí studii chápala příliš deterministicky. Nevyplývalo z ní, že k tomuto „zakrnění“ musí dojít, jen, že k němu dojít může. Bude záležet na tom, zda se lidé rozhodnou trénovat své kreativní a kritické mozko-svaly a půjdou k cíli po svých, nebo nasednou do kognitivního taxíku, který je doveze až na místo, aniž by vlastně věděli, kudy se tam dostal.

„Je těžké nenasednout do auta, které čeká před vašimi dveřmi, ochotné vás dovézt, kamkoli si řeknete,“ poznamenal jsem tehdy s obavou, že to dopadne jako vždy a lidé si usnadní práci, kdykoli mohou. Tuto mou triviální predikci potvrdila lednová studie (zatím v preprintu), která testovala, jak často lidé sahají po doporučení umělé inteligence. Chatbot byl upraven tak, aby v polovině případů dal špatnou odpověď. Uživatelé mohli odpověď vzít, jak byla, nebo odpověď přepsat. Lišila se míra přijetí podle toho, zda byla odpověď správná, či chybná?

Lišila, ale málo. Zatímco u správné AI odpovědi lidé tuto odpověď přijímali v 93 %, u nesprávné to bylo v 80 %. Což ukazuje, že lidé jsou ochotni přijímat rady od AI a bez většího rozmyslu je použít. Studie to nazývá kogntivní kapitulací: Když máme k dispozici zdroj odpovědí a věříme mu, přestáváme odpovědi kontrolovat a prostě je tam kopírujeme.

Takže i spolupráce s AI, která napřed může probíhat k oboustranné spokojenosti, se může časem zvrtnout. Čím více si na pohotového a vždy ochotného partnera zvykáme, tím spíše budeme šetřit své mozkové závity. Pozapomeneme časem, že vůbec nějaké máme.

Jsem nesmírně vděčný své učitelce fotografie, docentce Aleně Lábové, že nám v prvním ročníku zakázala používat digitální fotoaparát. Tehdy mi to přišlo jako nesmyslný archaismus: Zatímco všichni kolem už měli digitální zrcadlovku a fotky (pochopitelně barevné) měli perfektně exponované a hotové za sekundu, my prváci jsme s sebou tahali zrcadlovky s manuálním ostřením, ručně nastavovali expozici a trávili hodiny v temné komoře vyvoláváním černobílých snímků.

Dnes vím, že právě tenhle rok mne naučil víc, než jsem tehdy chápal: Docvaklo mi, jak funguje expozice, dynamický rozsah i ostřící optika. Každému snímku jsem se při focení věnoval opravdu pečlivě, protože jsem věděl, že s ním pak jinak budu mít mrzení při vyvolávání. Většinu svých fotek jsem tehdy zkazil, hlavně v poslední fázi vyvolávacího procesu. Ale věřím, že jsem se naučil o fotografování a o světle řádově víc, než kdybych měl od začátku digitál.

Z podobného důvodu dnes pořád texty píšu ručně. Částečně proto, že nechci do textu zanášet nepředvídatelné chyby pocházející z halucinací. Ale také proto, že o věcech nejvíc přemýšlím právě tehdy, když za sebe skládám slova, věty, odstavce, mažu, co se mi nelíbí a přehazuji pořadí, když mne napadne zajímavější úhel pro vnik do tématu. Kdybych se psaní vzdal, vím, že bych přišel o část své schopnosti kriticky přemýšlet.

Váš mozek možná funguje jinak. Možná je pro vaše kognitivní nasazení lepší si věci čmárat na papír nebo nahrávat na diktafon. Je ale dobré to zjistit. Znát svůj mozek, co mu svědčí a na čem ujíždí, co jej dostane do bájného „flow“, tedy do stavu nadšeného kreativního proudu. A bojím se, že současné AI nástroje nám tuto schopnost kreativního přemýšlení často spíše boří. Než jim odevzdáme své kognitivní procesy, měli bychom vědět, co tím získáme a co ztrácíme.

To není jen nástroj. To je fundamentální proměna našeho vlastního mozku.

Takto vznikal text tohoto článku (30krát zrychleno):

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.