Článek
Krátce po zahájení války s Íránem letos na jaře se v americké armádě rozšířila zpravodajská zpráva, která byla více než alarmující. Podle zprávy měla čínská loď na Blízkém východě přepravovat součásti jaderného zbrojního programu, odhalila stanice CNN. Podle jejích zdrojů obeznámených s touto událostí se armáda okamžitě pustila do operace s plánem loď zadržet.
Vojáci se připravovali na nalodění a vzdušné síly byly ve vzduchu, když těsně před zahájením akce úředníci odhalili, že zpráva byla vygenerována pomocí umělé inteligence – a že chatbot, který analytik použil, nesprávně identifikoval materiál, který loď přepravovala. O jaký nesprávně identifikovaný náklad se jednalo, CNN nezjistila.
Chatbot ve zprávě propojil informace z otevřených zdrojů s tajnými signálními informacemi z vládních databází a dospěl k závěru ohledně přepravovaného nákladu. Analytik poté opět využil AI k sestavení standardní zpravodajské zprávy a tuto zprávu rozeslal. Velitelství speciálních operací USA v Tichomoří a Pentagon na žádost o komentář nereagovaly.
Podle jednoho ze zdrojů CNN byla zpráva „zcela nepravdivá“, ale zároveň „téměř vyvolala válku“. Jakákoli operace USA proti čínskému plavidlu mohla vést k ozbrojenému konfliktu mezi oběma zeměmi.
V rámci americké armády i zpravodajských služeb se představitelé snaží začlenit umělou inteligenci do téměř všech aspektů své práce, od analýzy obrovských objemů nezpracovaných zpravodajských informací a výběru cílů pro údery, až po běžnější použití, jako je správa rozpočtu a logistiky. Tento incident však podtrhuje závažná rizika spojená s využíváním této nové a relativně málo prozkoumané technologie uprostřed války.
AI novým brancem americké armády
Podle předních představitelů je důvodem pro rychlé zavádění umělé inteligence obava z konfliktu se státem, který by potenciálně byl v tomto odvětví o krok před nimi. Už v lednu proto ministr obrany Pete Hegseth zveřejnil „Strategii urychlení rozvoje umělé inteligence“ ve svém resortu.
Strategie mimo jiné prosazuje široké využití umělé inteligence v rámci celé armády a zároveň ukládá ministerstvu, aby AI zpřístupnilo prostřednictvím několika programů všem třem milionům civilních a vojenských zaměstnanců na všech úrovních utajení.
Incident s čínskou lodí ale poukazuje na bezprostřední riziko, které vzniká a to – že lidé budou činit katastrofální rozhodnutí na základě nepřesných nebo zavádějících informací generovaných AI či jinými automatizovanými systémy. A podle jednoho ze zdrojů není tento druh „halucinace“, kterou v tomto případě vyvolal nástroj použitý analytikem, v rámci zpravodajské komunity ojedinělým incidentem.
„Využití umělé inteligence při zaměřování cílů se rozhodně rozšiřuje a neexistují žádné skutečné pokyny, jak by zapojení člověka do tohoto procesu mohlo zabránit civilním obětem nebo vzájemnému zabíjení,“ uvedl další zdroj obeznámený se současnou politikou armády.
„Umělá inteligence vám umožní dojít k špatnému nápadu rychleji,“ uvedl na závěr jeden ze zdrojů.
