Článek
Americké technologické společnosti Microsoft, Google a xAI souhlasily, že vládě Spojených států poskytnou přístup k novým modelům umělé inteligence (AI) před jejich uvedením na trh. Oznámila to v úterý americká vláda, která tak bude moci prověřit, zda modely nepředstavují hrozbu pro národní bezpečnost.
Oznámení podtrhuje rostoucí obavy Washingtonu z rizik spojených s výkonnými AI systémy. Americké úřady chtějí v rámci předběžného přístupu k novým modelům identifikovat možné hrozby, jako například zneužití modelů ke kybernetickým útokům či vojenským účelům, píše agentura Reuters.
Dohody s firmami Microsoft, Google a xAI uzavřelo Centrum pro AI standardy a inovace (CAISI), které spadá pod americké ministerstvo obchodu. „CAISI bude provádět předběžná hodnocení a cílený výzkum, aby lépe posoudilo schopnosti nejnovější AI a posílilo bezpečnost AI,“ píše se v tiskové zprávě.
Obavy, že by se AI mohla stát výkonným nástrojem hackerů, v poslední době posílil nový model Mythos od společnosti Anthropic. Ten je údajně schopen velmi rychle identifikovat slabiny v počítačových systémech. Firma Anthropic tvrdí, že Mythos je z tohoto důvodu příliš nebezpečný, než aby jej zpřístupnila veřejnosti.
Se společností Anthropic a jejím konkurentem OpenAI se americká vláda na předběžném přístupu k AI modelům dohodla již v roce 2024.
