Šéfka robotiky v OpenAI rezignovala, má obavy z masového sledování

Vedoucí robotického oddělení společnosti OpenAI Caitlin Kalinowski v sobotu oznámila, že rezignuje. Nesouhlasí s dohodou jednoho z největších hráčů na poli umělé inteligence, tedy OpenAI, s americkou vládou. Odůvodnila to tím, že sledování lidí bez soudního dohledu a  použití autonomních zbraňových systémů bez lidského schválení jsou věci, které si zaslouží mnohem důslednějšího projednání, než kterého se jim dostalo.

OpenAI uzavřela minulý týden dohodu s Pentagonem, která umožňuje ministerstvu obrany využívat jeho technologie umělé inteligence. K dohodě došlo poté, co konkurenční společnost Anthropic podobnou dohodu odmítla s obavami, že by tato technologie mohla být využívána právě k masovému sledování a používání autonomních zbraňových systémů.

Odmítnutí společnosti Anthropic povolit použití jejích modelů Claude AI vyvolalo negativní reakci amerických úředníků. Prezident Donald Trump požadoval, aby federální agentury přestaly Anthropic používat. Americký ministr obrany Pete Hegseth poté označil Anthropic za riziko pro dodavatelský řetězec a uvedl, že dodavatelé ministerstva obrany budou mít zakázáno s touto společností spolupracovat.

Generální ředitel společnosti OpenAI Sam Altman po nesouhlasných komentářích na platformě X zveřejnil příspěvek, v němž uvedl, že společnost upraví smlouvu tak, aby její modely nebyly využívány ke „sledování osob a občanů USA“, píše server France24. Reagoval tak na kritiku, že firma dává vojenským představitelům příliš velké pravomoci bez dostatečného dohledu.

Caitlin Kalinowski na X napsala, že jí velmi záleží na týmu robotiky a práci, kterou společně vybudovali, ale že „sledování Američanů bez soudního dohledu a autonomní zbraňový systém bez lidského schválení jsou věci, které si zaslouží více úvah, než se jim dostalo“. „Šlo o princip, ne o lidi,“ píše v příspěvku.

Kalinowski zdůraznila, že nesouhlasí s podle ní unáhlenou dohodou OpenAI s Pentagonem. „Aby bylo jasno, můj problém spočívá v tom, že oznámení bylo učiněno ukvapeně, aniž by byly definovány bezpečnostní zábrany,“ napsala. „Jedná se především o otázku správy. Tyto věci jsou příliš důležité na to, aby se dohody nebo oznámení dělaly ukvapeně.“

Kalinowski dříve pracovala ve společnosti Meta, kde vyvíjela brýle pro rozšířenou realitu. Svou rezignaci označila za otázku principu a uvedla, že stále hluboce respektuje generálního ředitele Sama Altmana a je hrdá na práci společnosti v oblasti robotiky.

Mluvčí OpenAI potvrdil rezignaci Kalinowské a zároveň obhajoval dohodu, kterou společnost učinila s ministerstvem obrany. „Věříme, že naše dohoda s Pentagonem vytváří schůdnou cestu pro odpovědné využití umělé inteligence v oblasti národní bezpečnosti a zároveň jasně stanoví naše limity: žádné sledování občanů nebo autonomní zbraňové systémy,“ řekl mluvčí společnosti na otázky Business Insideru. „Uvědomujeme si, že lidé mají na tyto otázky silné názory a budeme i nadále vést diskuzi se zaměstnanci, vládou, občany a komunitami po celém světě.“

K otázce, kolik lidí ze společnosti po domluvě o spolupráci s Pentagonem odešlo, se prý Kalinowski momentálně nemůže vyjádřit.