Firmy zakazují ChatGPT, bojí se úniků. Uklidnit je má schovaný přepínač

Jako řada jiných korporací také firma Samsung zprvu svým zaměstnancům dovolila používat nástroj ChatGPT, například ke kontrole textů nebo vylepšení skriptů.

Jihokorejský gigant však tuto praxi brzy přehodnotil, protože interní šetření ukázalo, že pracovníci do této služby nahráli citlivá firemní data. Konkrétně jí vývojáři předali zdrojový kód obsahující neveřejná firemní data nebo poznámky z firemních porad, které obsahovaly tajné firemní materiály. Samsung okamžitě omezil délku nahraného textu na 1024 znaků a od května pak používání ChatGPT pro práci úplně zakázal.

Jiné velké firmy přistoupily k podobným opatřením a omezily využívání ChatGPT a podobných on-line nástrojů. Firma OpenAI ostatně uživatele ChatGPT už od začátku výslovně varovala, aby do služby nenahrávali žádná soukromá data.

Služba ostatně funguje jako celosvětový experiment a na zaslaných datech a konverzacích se trénují neuronové sítě i budoucí jazykové modely OpenAI.

Trénování na zaslaných datech je v podmínkách služby ChatGPT jasně uvedeno a je pochopitelné. OpenAI si však uřízla ostudu i tím, že špatně spravovala historii konverzací svých uživatelů. Nejenže se někteří uživatelé nemohli ke svým předchozím vláknům dostat, ale v některých případech dokonce došlo k úniku dat a jejich prosáknutí do cizích účtů.

Firma OpenAI chybu svedla na problém v externí knihovně, kterou používala k ukládání dat. Pachuť však zůstala. Italské úřady regulující zacházení se soukromými údaji nejen na základě tohoto incidentu v březnu zakázaly v Itálii přístup ke službě ChatGPT, dokud nedojde k nápravě problematického a nezodpovědného zacházení s daty, která uživatelé zasílají.

A zdá se, že se toto opatření neminulo účinkem. Ostatně s tím, jak ChatGPT získává na popularitě, si takové problémy nemůže dovolit. Hrozilo navíc, že k italským kontrolorům se přidají i kolegové z dalších zemí. Firma OpenAI proto doplnila nové možnosti, což se projevilo nejen v Itálii, ale i po celém světě.

Původní verze ChatGPT byla co do možností opravdu strohá. Mohli jste si maximálně vybrat mezi tmavým a světlým vzhledem konverzací. I tak však ChatGPT nalákal více než sto milionů uživatelů během prvních tří měsíců a stal se tak zřejmě nejrychleji rostoucím produktem v historii.

Nový program ChatGPT obsahuje v Nastavení nové položky týkající se právě správy uživatelských dat. V podstatě je to jen jeden přepínač. Jeho deaktivací vypnete ukládání konverzací do historie a zároveň dáte OpenAI pokyn k tomu, aby vaše konverzace od teď nepoužívala k trénování svých neuronových sítí.

Zároveň firma uvedla, že nebude trénovat své sítě ani na datech, která platící klienti posílají skrze rozhraní API. „Zákazníci si zjevně nepřejí, abychom na jejich datech trénovali, a proto jsme změnili své plány,“ řekl Sam Altman, šéf OpenAI, televizi CNBC.

To je významný krok, který může pomoci službám OpenAI expandovat i tam, kde jim to dosud vnitrofiremní datová politika nedovolovala. Itálie už ChatGPT vzala na milost a služba je pro tamní obyvatele opět dostupná.

Řada firem bude mít i tak obavy posílat svá data mimo svou síť. Poohlédnout se tedy mohou po některých konkurenčních velkých jazykových modelech, které mohou spustit na svém vlastním serveru bez nutnosti spoléhat na nástroje třetích stran.

Také softwarové firmy jako Microsoft a Google plánují uvést svá vlastní řešení, která by měla firmám umožnit natrénovat umělou inteligenci na vlastních datech, aniž by tato data putovala do centrály a sloužila k trénování cizích neuronových sítí.