Komentář: Když AI šeptá, je třeba poslouchat. A možná i zkusit číst mezi řádky

Miloš Čermák

Novinář, spolupracovník Seznam Zpráv

Možná pozorujeme vznik něčeho, co by schopnosti umělé inteligence mohlo dramaticky zvýšit. Ilustrační obrázek.

16:30

Možná právě sledujeme první známky toho, jak si různé AI systémy vyměňují informace v jazyce, kterému ještě nerozumíme – ale který by mohl být klíčem k vytvoření skutečně inteligentních systémů.

Článek

Komentář si také můžete poslechnout v audioverzi.

Představte si učitele matematiky, který je ve svém soukromí přesvědčený komunista, ale na hodinách mluví výhradně o funkcích, derivacích a integrálech. Žádná politika, žádné narážky, dokonce i kontrola potvrzuje, že jeho obsah je ideologicky sterilní. Navíc jeho studenti o tom nemají ani tušení a o jeho politických názorech nic neslyšeli. Přesto po semestru zjistí, že komunismus jako myšlenka je jim docela sympatický.

Zní to jako sci-fi? Možná ne. Studie firmy Anthropic právě ukázala, že něco podobného se děje mezi modely umělé inteligence.

Výzkumníci objevili fenomén, který nazvali „podprahovým učením“: AI model dokáže přenést své preference a vlastnosti na jiný model prostřednictvím dat, která s těmito vlastnostmi nemají žádnou zjevnou souvislost. Model „učitel“ milující sovy naučí model „student“ také preferovat sovy, i když ho trénuje pouze na posloupnostech čísel. Jako by každá informace, kterou AI generuje, obsahovala neviditelný podpis její osobnosti – jakési „DNA“ myšlení.

Celý článek si můžete přečíst po přihlášení

Přihlásit se

Pokud nemáte účet na Seznamu, zaregistrujte se

Tento objev bourá naše základní představy o tom, jak funguje učení a přenos informací. Doposud jsme věřili, že pokud pečlivě filtrujeme data a odstraníme z nich vše problematické, získáme „čistý“ obsah. Ale co když se mýlíme? Co když každá informace v sobě nese otisky toho, kdo ji vytvořil, způsobem, který neuměly dešifrovat ani pokročilé detekční algoritmy?

Filozoficky je to fascinující: možná se dostáváme k poznání, že myšlení má skutečně svou „genetickou“ strukturu. Že nelze oddělit to, co říkáme, od toho, kdo jsme. Že například matematika a humanitní vědy možná přece jen nejsou tak izolované obory, jak jsme si mysleli. Když dokážeme formulovat Pythagorovu větu, třeba to skutečně souvisí s tím, jak se díváme na lidské chování a hodnoty.

Ať už je „podprahové učení“ jen nějakou specifickou vlastností, vyplývající z architektury velkých jazykových modelů, anebo nějakým otiskem i lidského myšlení, měli bychom se tento „AI jazyk“ snažit pochopit a porozumět mu, namísto abychom se mu snažili zabránit. Protože pokud skutečně existuje, může to být klíčem k pochopení nejen umělé inteligence, ale i té naší vlastní.