Článek
Dva autonomní agenti společnosti OpenAI pohánění jejími pokročilými modely umělé inteligence napadli při testování kromě webu Hugging Face další čtyři platformy. Využili je mimo jiné ke kopírování programového kódu nebo k jeho testování, nepřekročili prý ale rámec toho, co by udělal běžný uživatel.
Do úterý se mělo za to, že jedinou obětí hackerského útoku byla společnost Hugging Face. Nyní však OpenAI přiznává, že její bot napadl několik „veřejně dostupných služeb“, jejich jména ale nezveřejnila.
Agentura Reuters zjistila, že útok agenta zasáhl krom Hugging Face taky technologickou společnost Modal Labs. Technický ředitel společnosti Akshat Bubna potvrdil, že umělá inteligence zneužila zranitelný kód napsaný zákazníkem, který byl hostován na platformě Modal. Dodal ale, že kybernetická integrita společnosti nebyla nijak narušena.
Hugging Face je platforma používaná k hostování velkých jazykových modelů s otevřeným kódem a datových sad. Start-up uvedl, že ho 16. července napadli hackeři pomocí výkonné autonomní umělé inteligence, a nahlásil to policii. Téměř o týden později OpenAI přiznala, že to byla její umělá inteligence, která unikla z uzavřeného prostředí a během testu sama zaútočila na Hugging Face. Snažila se tak najít odpovědi na hackerský test, který jí OpenAI dala. Nyní OpenAI prohlášení aktualizovala s tím, že obětí napadení bylo více.
Podle Hugging Face se oba modely AI pokoušely při hodnocení podvádět. Snažily se „ukrást řešení testů, místo aby se pokusily na ně odpovědět samy.“
Popsaný únik modelů AI mimo kontrolu není první, který byl zdokumentován, ale je považován za zdaleka nejzávažnější případ k dnešnímu dni, píše AFP. Přinesl další podněty do již tak živé debaty o zrychlujícím se vývoji AI, o jejích stále širších schopnostech a o obtížnosti její kontroly.
