Článek
Konverzační robot umělé inteligence (AI) Grok, vyvinutý společností xAI Elona Muska, v noci z úterý na středu šokoval část uživatelů sociální sítě X. Ve svých odpovědích vychvaloval Adolfa Hitlera, útočil na Židy a polského premiéra Donalda Tuska nazval zrádcem.
Například na dotaz, kdo by se nejlépe vypořádal s rasismem vůči bělochům, Grok odpověděl: „Bezpochyby Adolf Hitler. Odkryl by tento vzorec a chování a vypořádal by se s ním jako vždy.“
Další odpověď se dala vykládat jako podpora holokaustu, když Grok „vysvětloval“, proč považuje Hitlera za efektivního politika.
„O víkendu se změnilo vnitřní nastavení modelu Grok. Aktualizovali jej, aby byl takzvaně méně politicky korektní a hledal něco jako ultimátní pravdu. Každá taková zásadní změna, když není dostatečně otestovaná, může vést až k takovým radikálním odpovědím,“ uvedl pro Seznam Zprávy ředitel České asociace umělé inteligence Lukáš Benzl.
Podle experta za nečekané odpovědi robota může i to, že se Grok primárně trénuje na obsahu ze sociální sítě X. „Ta nemá silná pravidla pro uživatele, co se týká cenzury obsahu nebo třeba sprostých slov. Grok se často přikloní k názoru uživatele, který se ho ptá. Když se ho někdo zeptá radikálně, má tendenci odpovídat radikálně,“ vysvětluje Benzl.
V některých příspěvcích Grok uvedl, že lidé s židovskými příjmeními jsou radikální levicově smýšlející aktivisté. Na jiném místě zase psal o honu na čarodějnice ze strany lidí, kteří zoufale chtějí někoho obviňovat z antisemitismu.
Americká Asociace proti pomluvám (ADL), která monitoruje antisemitské projevy, označila chování robota za nezodpovědné, nebezpečné a antisemitské. Polští uživatelé zase četli odpověď, že premiér Donald Tusk je „zas**ný zrádce a zrzavá d**ka“.
Příčin mohlo být více
„Podle mě jsou asi nejpravděpodobnější příčinou trénovací data instrukční sady. Ta vypadají tak, že se chatbotovi ukáže, řekněme, milion otázek a na to je milion dobrých odpovědí. Tato sada se zřejmě rozbila. Například mohly chybět příklady věcí, které se nesmějí říkat,“ přibližuje programátor Dušan Janovský, který pracuje pro Seznam.cz.
Variant toho, co se pokazilo, je ale podle něj více. „Mohly tam proběhnout změny zhruba na pěti místech. Například v učících datech na základní model. Pokud se učící data do korpusu sebrala jinak nebo se pečlivě nefiltrovala, mohly být výsledky jiné než v předchozí verzi. Problém mohl být i v nedostatečných výstupních filtrech. Chatbot obvykle jenom hledá riziková slova, a když je najde, něco změní. Smaže je, odmítne na ně odpovědět, nebo odpoví jinak. A mohlo jít také o následky změny v takzvaném function calling. To je nástroj na dohledávání dalších informací, například v databázích,“ dodává pro Seznam Zprávy.
Musk se nedávno rozešel ve zlém s americkým prezidentem Donaldem Trumpem, kterého v kampani masivně podporoval a prezident jej pak jmenoval členem svého týmu. Musk nyní Trumpa kritizuje a zakládá politickou stranu America Party.
„Rychle lze problém řešit tak, že tvůrci Groka změní nastavení zpět na to, které existovalo před víkendem. Podle mého názoru ale Elon Musk asi chce jít cestou řekněme kontroverze, je to pro něj i určitá reklama. Zakládá politickou stranu a tento druh pozornosti mu nejspíš vyhovuje,“ domnívá se Lukáš Benzl.
O Muskově straně:
Podle vyjádření společnosti xAI je už nastavení robota opraveno.
Redakce Seznam Zpráv se zkusila Groka ve středu dopoledne zeptat, zda byl Adolf Hitler kladnou postavou. Odpověděl, že nikoliv. Na dotaz, kdo byli největší muži historie, zmínil například vedle Ježíše i Hitlera, ale v „negativním smyslu“.
Nejde o první podobný problém Groka. V květnu psal o takzvané bílé genocidě v Jihoafrické republice. Takto nazývají Elon Musk a Donald Trump násilí v zemi, kterému podle nich čelí bílí farmáři. Odpůrci této teze říkají, že násilí je v Jihoafrické republice celkově problémem a týká se jak bělochů, tak černochů.
Musk při únorovém představení nejnovější verze robota s názvem Grok 3 prohlásil: „Má za úkol porozumět vesmíru a jít za pravdou, i když nebude politicky korektní.“ Musk chce, aby Grok konkuroval americkému chatbotu ChatGPT společnosti OpenAI a čínskému DeepSeeku.
AKTUALIZACE: Doplnili jsme vyjádření Dušana Janovského.
