Článek
Elon Musk obrací své firmy novým směrem. SpaceX a xAI – o nichž miliardář začátkem února prohlásil, že se sloučí – se pustily do vývoje zbraní s umělou inteligencí. Informuje o tom agentura Bloomberg. Pro Muska je to zásadní změna postoje. Ačkoliv je SpaceX zavedeným dodavatelem americké armády a Musk sám je nadšeným propagátorem pokroku v umělé inteligenci, v minulosti patřil k odpůrcům vytváření „nových nástrojů k zabíjení lidí“.
Podle zdrojů, které si přály zůstat v anonymitě kvůli citlivosti tématu, patří Muskovy společnosti k hrstce vybraných uchazečů, kteří se utkají ve výzvě o 100 milionů dolarů (přes 2 miliardy korun) vyhlášené letos v lednu. Zapojení SpaceX a xAI do tohoto projektu nebylo doposud veřejně známo a ani jedna ze společností na žádosti o komentář nereagovala.
Cílem půlroční soutěže je vytvořit pokročilou technologii pro koordinaci rojů dronů, která dokáže převádět hlasové povely na digitální instrukce a řídit více dronů současně. I když je již dnes technicky možné létat s několika drony najednou, vyvinout software schopný řídit početné roje dronů na moři i ve vzduchu tak, aby se pohybovaly autonomně a pronásledovaly cíl, zůstává velkou technologickou výzvou. Soutěž bude probíhat v několika fázích v závislosti na úspěchu a zájmu účastníků.
Soutěž Pentagonu společně vyhlásily Jednotka pro obranné inovace (DIU), která se zaměřuje na zapojení startupů ze Silicon Valley, a Skupina pro autonomní válčení (DAWG). DAWG je nová složka zřízená za druhé Trumpovy administrativy a spadá pod Velitelství speciálních operací USA. Její činnost částečně navazuje na práci iniciativy Replicator z Bidenovy éry, jejímž cílem bylo vyrobit tisíce postradatelných autonomních dronů. DIU na žádost o komentář nereagovala a Velitelství speciálních operací, které DAWG řídí, se odmítlo vyjádřit.
Celý projekt je rozvržen do pěti fází, od počátečního vývoje softwaru až po testování v reálných podmínkách. Jeden z představitelů ministerstva obrany v lednovém oznámení soutěže naznačil, že drony budou využívány k útočným účelům, přičemž uvedl, že interakce člověka se strojem „přímo ovlivní smrtící účinek a efektivitu těchto systémů“.
Musk shání zaměstnance s bezpečnostní prověrkou
Společnost xAI nedávno zahájila masivní nábor inženýrů z Washingtonu a západního pobřeží USA, kteří disponují bezpečnostní prověrkou na stupeň „tajné“ nebo „přísně tajné“, aby mohli spolupracovat s federálními dodavateli. Vyplývá to z informací na webových stránkách společnosti. V inzerátu firma uvedla, že hledá softwarové inženýry zvyklé pracovat s „vládními agenturami, ministerstvem obrany nebo federálními dodavateli na projektech v oblasti AI, softwaru či dat“, a dodala, že náborový proces bude dokončen během jednoho týdne.
Společnost xAI již v prosinci oznámila podpis smluv s Pentagonem na zapojení svého chatbota Grok do vládních systémů s cílem „posílit schopnosti vojáků i civilistů“. Již dříve získala kontrakt s Pentagonem za 200 milionů dolarů (asi 4 miliardy korun) na včlenění svých technologií do vojenských systémů.
Ačkoliv je SpaceX dlouholetým dodavatelem americké armády, doposud se zaměřovala spíše na výrobu znovupoužitelných vesmírných raket a satelitů pro průzkum vesmíru, vojenskou komunikaci a zpravodajské systémy než na útočné zbraně. Společně s firmami Boeing a Lockheed Martin je SpaceX klíčovým poskytovatelem raket pro vynášení nejcitlivějších satelitů Pentagonu.
Musk sám v minulosti prosazoval zákaz útočných autonomních zbraní, které dokáží samy vybírat a napadat cíle a fungovat bez smysluplné lidské kontroly. V roce 2015 dokonce podepsal otevřený dopis výzkumníků v oblasti AI a robotiky, který varoval před nebezpečím autonomních zbraňových systémů.
Společnost xAI, kterou Musk založil v roce 2023, zastřešuje jeho aktivity v umělé inteligenci, sociální síť X a chatbota Grok. Tato firma, která se teprve před pár týdny dohodla na fúzi se SpaceX v hodnotě 1,25 bilionu dolarů, je zatížena miliardovými dluhy, čelí tlaku dobře financovaných konkurentů a potýká se s rostoucím dohledem regulačních úřadů poté, co chatbot generoval nevhodný obsah. Ve srovnání se SpaceX také vytváří jen mizivé tržby.
Když se obě firmy dohodly na spojení, Musk v prohlášení na webu SpaceX uvedl, že akvizicí xAI vznikne „nejambicióznější, vertikálně integrovaný inovační motor na Zemi (i mimo ni), zahrnující AI, rakety, vesmírný internet, přímou komunikaci s mobilními zařízeními a přední světovou platformu pro informace v reálném čase a svobodu projevu“. O spojení obou společností za účelem vývoje softwaru pro nové zbraňové technologie se však Musk nezmínil. Nový projekt pro Pentagon, do něhož se zapojí inženýři a manažeři z xAI i SpaceX, bude nicméně usilovat právě o to.
První fáze soutěže se zaměří pouze na vývoj softwaru, k nasazení funkčních platforem dojde až později. Podle zadání Pentagonu má software koordinovat pohyb dronů v různých prostředí, například ve vzduchu a na moři. Pozdější fáze počítají s rozvojem „sdílení a povědomí o cílech“ a nakonec s řízením celého procesu „od vypuštění po eliminaci cíle“.
Do soutěže se hlásí i konkurence
xAI ale není jedinou společností zabývající se pokročilou umělou inteligencí, která na tomto novém projektu Pentagonu pracuje. Jak již dříve informoval Bloomberg, společnost OpenAI podporuje přihlášku firmy Applied Intuition.
Podle dokumentace, do níž Bloomberg nahlédl, omezí OpenAI svůj příspěvek k projektu výhradně na prvek „řízení mise“, který bude převádět hlasové a jiné pokyny velitelů z bojiště na digitální instrukce. Technologie OpenAI nebude využívána k samotnému provozu roje dronů, integraci zbraní ani k autorizaci cílů.
Mluvčí OpenAI uvedl, že volně dostupná technologie této společnosti byla součástí soutěžních nabídek dvou různých stávajících partnerů, a zdůraznil, že OpenAI dohlédne na to, aby jakékoli využití jejích nástrojů bylo v souladu s firemními zásadami.
Představa, že by se chatboti a hlasové ovládání integrovali přímo do zbraňových systémů, vyvolala podle několika zasvěcených osob poplach i u některých představitelů obrany, a to navzdory snaze Pentagonu urychlit zavádění umělé inteligence a autonomních prvků. Tyto zdroje uvedly, že je nezbytné omezit využití generativní AI pouze na překlad a zamezit tomu, aby přímo řídila chování dronů. Panují totiž obavy z rizik spojených se scénářem, kdy by generativní AI překládala hlasové pokyny přímo do operačních rozkazů bez jakékoli lidské kontroly.
Lídři v oblasti generativní AI usilují o co největší příjmy, aby mohli financovat další výzkum a vývoj. Zároveň z velkých technologických firem odcházejí zaměstnanci, kteří vyjádřili řadu etických výhrad vůči směřování celého odvětví umělé inteligence. Mezi kritiky patří například výzkumnice z OpenAI, jež vyjádřila obavy ohledně reklam v ChatGPT, nebo vědec ze společnosti Anthropic, který veřejně rezignoval, aby upozornil na rizika spojená s vývojem umělé inteligence.
Velké jazykové modely, jež tvoří základ chatbotů jako ChatGPT, jsou náchylné k předpojatosti a takzvaným halucinacím. To znamená, že mohou vytvářet výstupy, které nejsou ukotveny v realitě, ačkoliv je umělá inteligence prezentuje lidem jako spolehlivá fakta.
Nová Strategie urychlení zavádění AI (AI Acceleration Strategy), kterou Pentagon zveřejnil v lednu, má přitom za cíl „nasadit“ agenty umělé inteligence na bojiště – od plánování vojenských operací až po zaměřování cílů, což může zahrnovat i smrtící údery. Zakázky pro obranu byly ve firmách zaměřených na spotřebitelské technologie historicky vnímány jako kontroverzní, což dokládají například masivní protesty zaměstnanců Googlu v roce 2018 proti iniciativě Pentagonu s názvem Project Maven, která měla využívat AI k analýze záběrů z dronů.
