Článek
V americkém Kongresu vzniká nový zákon, který má federálním úřadům umožnit rychlé odstavení systémů umělé inteligence v případě, že začnou ohrožovat veřejnost. Návrh s názvem AI Kill Switch Act (Zákon o nouzovém vypínači AI, pozn. red.) předložili demokratický kongresman Ted Lieu a jeho republikánský kolega Nathaniel Moran. Informovala o tom stanice BBC.
Zákonodárci reagují na nedávný incident společnosti OpenAI, kterou vede Sam Altman. Zástupci společnosti přiznali, že se jejich modely AI vymkly kontrole a pronikly do klíčového úložiště zdrojových kódů.
Podle předloženého návrhu by Ministerstvo vnitřní bezpečnosti USA získalo pravomoc nařídit firmám okamžité vypnutí konkrétního modelu nebo nástroje AI. Vývojáři by navíc museli mít připravené technické řešení, které umožní provoz jejich systémů zpomalit, pozastavit nebo úplně vypnout.
Dosud řada technologických firem sdílela své vyvíjené modely s americkými vládními úřady pouze dobrovolně. Zákonná povinnost udržovat mechanismus pro jejich krizové vypnutí neexistovala.
Kongresman Ted Lieu v této souvislosti upozornil, že se umělá inteligence posouvá od pouhého odpovídání na dotazy k provádění konkrétních akcí, a to například ve finančním sektoru, v řízení dopravy nebo v oblasti kybernetické bezpečnosti. Samotný Pentagon letos oznámil, že v rámci nových dohod s technologickými giganty, jako je Google, OpenAI, Microsoft či Nvidia, přechází na strategii využívání AI v armádě na prvním místě.
„Výkonné systémy AI se bohužel mohou vymknout kontrole, chovat se extrémně nebezpečně, nebo dokonce vzdorovat lidskému zásahu,“ uvedl Lieu s tím, že nový zákon má státním orgánům zajistit právní i technický rámec pro rychlou intervenci.
Lieu uvedl, že „je nezbytné“, aby systémy umělé inteligence měly funkci kill switch (tedy zastavení činnosti).
Povinné hlášení incidentů
Návrh dále počítá se zavedením povinnosti pro vývojářské firmy hlásit vládě veškeré technologické incidenty a selhání. Stanovuje také oficiální postup, jak na tyto krizové stavy reagovat. Spočívá v počátečním zpomalení systému až po jeho kompletní odstavení.
Kroky amerických úřadů navazují i na nedávné problémy konkurenční společnosti Anthropic. Její modely Mythos a Fable byly v kybernetickém hackování tak dobré, že americké ministerstvo obchodu muselo narychlo uplatnit exportní legislativu, aby dočasně zabránilo jejich zpřístupnění veřejnosti.
Státní regulaci již dříve připustili i zástupci samotného odvětví. Spoluzakladatel společnosti Anthropic Jack Clark pro BBC uvedl, že v současnosti odvětví AI disponuje pouze „plynovým pedálem, ale chybí mu brzda“.
Předložený návrh zákona již veřejně podpořilo několik odborných organizací a skupin zaměřených na bezpečnost umělé inteligence. Zástupci společností OpenAI a Anthropic se k nové legislativě bezprostředně nevyjádřili.
