Článek
Americký výrobce čipů Nvidia představil novou platformu Open Agent Safety Platform, která má vývojářům pomoci zavádět bezpečnostní opatření pro AI agenty. Firma s novinkou přišla několik dní poté, co její šéf Jensen Huang zpochybnil přístup společností Anthropic a OpenAI k bezpečnosti umělé inteligence. Informuje o tom server Yahoo Finance.
„Mimořádný potenciál AI pro společnost budeme moci naplno využít pouze tehdy, pokud vyřešíme její bezpečnost,“ uvedl Huang v tiskové zprávě. Domnívá se, že spolu s posouváním hranic AI je potřeba stejně rychle rozvíjet také bezpečnostní technologie. Bezpečnost AI podle něj vyžaduje řešení napříč celým technologickým systémem.
Generální ředitel Nvidie minulý týden v rozhovoru pro list The New York Times reagoval na varování šéfa Anthropicu Daria Amodeiho a generálního ředitele OpenAI Sama Altmana, podle kterých by rychlé tempo vývoje AI mohlo ohrozit lidstvo. Jejich přístup označil za zvláštní.
„Nikdo dnes nebuduje více výpočetní kapacity než lidé, kteří žádají, aby se vývoj zpomalil,“ řekl. Podle něj bezpečnostní rizika mohou firmy zmírňovat pomocí technologií.
Nová platforma Nvidie má propojit technologické firmy, výzkumníky a organizace veřejného sektoru, které budou sdílet osvědčené bezpečnostní postupy, sjednocovat metody hodnocení a podporovat mezinárodní spolupráci. Cílem je vytvořit bezpečnostní protokoly, které by mohly předcházet závažným selháním AI systémů.
Huang zároveň odmítl, že rychlejší vývoj AI musí být na úkor bezpečnosti. Podle něj jsou ochranná opatření, testování, izolovaná prostředí nebo monitorovací technologie samy součástí vývoje AI a firmy by jejich rozvoj měly urychlit.
