Hlavní obsah

„Bude těžké vrátit džina do láhve.“ Červený kříž varuje před zbraněmi s AI

Foto: Shutterstock.com

Ilustrační snímek.

Na regulaci nových zbraní, které využívají AI, může být podle Červeného kříže brzy pozdě. Reaguje tak na konferenci OSN v Ženevě, která závazné omezení bojových nástrojů s umělou inteligencí přinést nedokázala.

Článek

Před důsledky neschválení závazné normy, která by omezila nové zbraně s nástroji AI, varoval společně s dalšími lidskoprávními organizacemi také Mezinárodní výbor Červeného kříže. Prudký vývoj bojových nástrojů podle něj překonává pokusy o regulaci, na kterou tak může být brzy příliš pozdě, píše britský The Guardian.

Na konferenci OSN v Ženevě chtěly země schválit vyjednávací mandát, který by vedl k právně závazné smlouvě o regulaci nových zbraní s nástroji AI, tedy autonomních zbraní (vojenských systémů, které jednají bez lidského dohledu). Kvůli nutnému souhlasu všech států byla nakonec v sobotu přijata jen výrazně slabší varianta, která od zemí žádá, aby „vypracovaly konsensus“, což je nástroj, který nemusí obsahovat žádné právní závazky.

Lidskoprávní organizace přitom tvrdí, že si situace žádala naléhavější kroky. „Přihlížíme tomu, jak se umělá inteligence nasazuje na bojišti a možná už i ve zbraňových systémech. Pokud s regulací nezačneme, bude mnohem těžší vrátit džina do láhve,“ řekla Cordula Droegeová, ředitelka pro mezinárodní právo, hnutí a partnerství v Mezinárodním výboru Červeného kříže (ICRC).

K závazné úpravě s jasnými pravidly a zákazy používání nových zbraní s nástroji umělé inteligence vyzvali také předsedkyně ICRC Mirjana Spoljaricová Eggerová a generální tajemník OSN António Guterres. ICRC konkrétně navrhuje zakázat nasazení autonomních zbraní proti lidem, zajistit předvídatelné chování zbraňových systémů a omezit jejich použití například jen na vojenské cíle.

Podle odborníků by nedostatečná regulace mohla mít při rychlém vývoji umělé inteligence a zbraní, které ji využívají, nebezpečné důsledky.

„Nejde o to zakázat všechny autonomní zbraňové systémy, ale stanovit v mezinárodní smlouvě hranice, které se nikdy nesmějí překročit,“ řekla Droegeová. „Jsme těsně před jejich překročením. Zejména zaměřování lidí pomocí strojů by mělo být morální hranicí,“ dodala.

Lidskoprávní organizace také upozorňují, že jakékoli zpoždění s regulací umožní soukromému sektoru a jednotlivým armádám, aby samy určily, jak se budou autonomní zbraně používat.

Autonomní zbraně už dnes stojí za mnoha civilními ztrátami. Příkladem je červencový útok na jihovýchodě Ukrajiny: ruský dron, který pravděpodobně mířil na čerpací stanici, narazil do zdi a při výbuchu zabil tři lidi. Lidskoprávní organizace upozorňují také na Gazu, kde Izrael při zaměřování cílů využívá nástroje umělé inteligence. Podle nich se tak oběťmi stávají i lidé, kteří s teroristickými buňkami souvisejí jen minimálně. V Íránu si pak americký úder na základní školu, způsobený údaji, které chybně shromáždila umělá inteligence, vyžádal 156 civilních obětí, včetně 120 školáků.

Anna Hehirová, vedoucí oddělení pro správu vojenské umělé inteligence v organizaci Future of Life Institute, varovala před „rojovými“ schopnostmi autonomních zbraní, jež se podle ní výrobci a armády snaží vyvinout. Stovky až tisíce dronů by při nich působily současně.

„Nese to s sebou riziko rozsáhlých škod už jen kvůli obrovskému počtu systémů, které by fungovaly autonomně. Stačí, aby u jednoho z nich došlo k algoritmické chybě, a celý roj se pak může nechat zmanipulovat a vydat se po cestě založené na této chybě… zejména pokud jsou naprogramovány tak, aby mířily na lidi,“ vysvětlila Hehirová.

Nástroje umělé inteligence stále častěji používají i nestátní aktéři. Jemenští Hutiové například použili systém Claude k programování balistických raket. AI stejně tak využívaly islamistické skupiny působící v africkém Sahelu.

Doporučované