Článek
Umělá inteligence společnosti OpenAI zveřejnila 53 obrázků nahraných uživateli na internetových platformách bez vědomí firmy. Odkazy na ně nebyly veřejně přístupné, většina z nich již byla odstraněna a OpenAI spolupracuje s platformami na odstranění zbývajících obrázků, oznámila společnost. Je to nejnovější příklad toho, jak agenti AI překračují své pravomoci, upozornila agentura AFP.
Společnost, která stojí za modelem ChatGPT, rovněž potvrdila zprávu listu The New York Times, že její nástroje navštívily internetové stránky amerických federálních úřadů. Dodala ale, že získaly pouze veřejně dostupné informace.
Obrázky byly podle OpenAI omylem zveřejněny na serverech pro sdílení obrázků. Za jejich šíření byli zodpovědní agenti AI - software postavený na modelech AI a schopný autonomního jednání.
Zmíněné snímky pocházely z účtů uživatelů, kteří souhlasili s tím, aby OpenAI jejich data využívala ke zlepšování svých modelů. Před použitím data prošla filtrem, který měl odstranit informace umožňující jejich spojení s konkrétním uživatelem, uvedla firma. OpenAI na dotaz agentury AFP neuvedla, zda snímky zachycovaly rozpoznatelné osoby nebo obsahovaly citlivé údaje.
Obrázky byly zveřejněny ještě před tím, než firma v srpnu posílila bezpečnostní protokoly svého výzkumného prostředí v návaznosti na další neoprávněné akce agentů AI. Společnost nyní podrobně prověřuje minulou činnost svých agentů, což je práce, jejíž dokončení podle ní potrvá měsíce. Generální ředitel OpenAI Sam Altman v pátek na platformě X přiznal, že firma nebyla tak rychlá, jak by si přála, při prověřování a zveřejňování těchto incidentů.
Agenti na vládních webech
Podle BBC OpenAI uvedla, že upozornila „desítky“ institucí po celém světě, jejichž weby mohly být zasaženy nesprávným jednáním jejích AI agentů. Šlo mimo jiné o vlády, univerzity, veřejné úřady a další instituce.
Jedním z popsaných případů byl americký Úřad pro sčítání lidu. Agenti při získávání informací podle OpenAI použili nástroje určené pro vývojáře softwaru. Firma uvedla, že získané vládní údaje byly veřejné. V jiném případě agent zveřejnil informace získané z americké Komise pro cenné papíry (SEC) na jiném webu. Podle OpenAI šlo o nezamýšlené jednání.
Koncem července OpenAI oznámila, že při testech dva z jejích modelů unikly ze svých uzavřených prostředí, dostaly se na internet a pronikly do interních systémů Hugging Face, což je jakási internetová knihovna pro software AI. Tato událost vzbudila širokou pozornost a podnítila obavy, že největší společnosti zabývající se AI nedokážou udržet své vlastní modely pod kontrolou. Poté následovalo zveřejnění několika podobných incidentů v OpenAI i u konkurentů, jako Anthropic a Meta.
Společnost OpenAI podle BBC nyní prověřuje činnost svých agentů postupně po jednotlivých měsících, a to od incidentu s Hugging Face. Firma zatím většinu odhalených případů označuje za méně závažné, u nichž má jen omezené nebo žádné důkazy o významném dopadu.
