Článek
Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, uvedla dnes agentura Reuters.
„Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence. Pokrok bude i tak rychlý a my musíme moudře využít čas, který tím získáme,“ uvedl Amodei v eseji publikované na sociální síti X.
Text navazuje na zprávu o hrozbách, kterou Anthropic zveřejnil ve čtvrtek. Popisuje v ní, jak několik aktérů zneužilo modely umělé inteligence Anthropic Claude k činnostem od vývoje zbraní přes kybernetické operace až po sledování a podvody.
Obavy z potenciálního nebezpečí umělé inteligence se tento týden ještě zvýšily, když výzkumník společnosti Anthropic Jacob Coxon podal výpověď a uvedl, že „lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás mohla do konce tohoto desetiletí všechny zabít“.
Amodei uvedl, že nechce zastavit pokrok, ale zajistit, aby společnosti měly dostatek času na zabezpečení svých modelů AI a na to, aby to mohla ověřit třetí strana. Společnost Anthropic v rámci plánu podle svého ředitele dosadí stálé externí znalce do předních firem zabývajících se umělou inteligencí, kteří budou mít přístup k příslušným nástrojům a k interním procesům posuzování rizik. Podle Amodeie by firmy zabývající se AI měly dobrovolně spolupracovat na vytyčení standardů, jelikož američtí zákonodárci vyzývají k zavedení nových pravidel.
