Článek
V neděli 2. srpna se začala uplatňovat další významná část evropského nařízení o umělé inteligenci (AI Act), které bývá někdy svými kritiky označované až za evropského hrobníka AI inovací a konkurenceschopnosti. Samotné nařízení ale stojí na řadě principů, které dávají smysl a které v debatě o evropské konkurenceschopnosti někdy zanikají.
Kritika nařízení míří například na to, že je přehnaně opatrné, bude vyžadovat velkou míru administrativy a ve finále poškozuje startupy, kterým na rozdíl od velkých firem chybí kapacita na právníky. Nebo míří na regulaci samotných modelů, nikoli jen na jejich využití, což ve finále může nahrávat provozovatelům největších amerických modelů, kteří mají na regulatorní compliance nesrovnatelně větší kapacity než menší evropské firmy.
Na druhé straně je potom například zjednodušení pravidel, které přineslo nedávné nařízení AI Omnibus, kritizováno jako tichá deregulace a kapitulace před Big Tech společnostmi.
Nechme však stranou jednotlivosti nebo provedení, byť to je samozřejmě vždy zásadní, a podívejme se na jádro celé problematiky.
Nejprve je třeba upozornit, že regulace umělé inteligence není pouze doménou Evropské unie, ale že různé formy regulace se objevují i v jiných regionech. Čína má už několik let vlastní pravidla pro algoritmická doporučení a generativní AI, byť motivovaná spíš kontrolou obsahu než ochranou spotřebitele. Ve Spojených státech neexistuje jeden obdobný komplexní federální rámec a pravidla pro využívání AI se tak postupně vytvářejí na úrovni jednotlivých států i konkrétních odvětví.
Regulace založená na riziku
AI Act nestaví všechny způsoby využití umělé inteligence na stejnou úroveň, ale rozlišuje je podle míry rizika, které mohou představovat.
Čím závažnější mohou být dopady konkrétního použití AI na bezpečnost nebo práva lidí, tím přísnější požadavky na něj dopadají. Některé praktiky proto zakazuje úplně, u jiných požaduje řízení a zmírňování rizik a u velké části běžných AI systémů stanoví jen omezené nebo žádné zvláštní povinnosti.
V případě regulace umělé inteligence jsou tyto základní principy poměrně srozumitelné. Regulace definuje zakázané praktiky a požaduje řízení rizik tam, kde může AI významně ovlivnit život člověka, například při rozhodování o zaměstnání, úvěru, pojištění nebo přístupu k jiným důležitým službám.
Požadavek na zdokumentovatelnost fungování rizikovějších systémů, odpovídající míru lidského dohledu a transparentnost tam, kde má člověk vědět, že přichází do kontaktu s AI nebo obsahem generovaným AI, dává u technologie, která se často chová jako černá skříňka, smysl.
Stejně tak dává smysl požadovat, aby firmy u rizikovějších systémů věděly, za jakým účelem je používají, průběžně sledovaly jejich fungování a měly mechanismus, jak zasáhnout, pokud systém začne produkovat chybné nebo nepřiměřené výsledky.
To, jak konkrétně tyto požadavky implementovat do právní úpravy, bude do určité míry vždy problematické, ať už konkrétní úprava bude vypadat jakkoli.
AI Act může zopakovat globální vliv GDPR
To, že regulace umělé inteligence, postavená na výše zmíněných principech, nakonec může být přínosná, můžeme ukázat na příkladu GDPR a ochrany osobních údajů.
I to bylo zpočátku vnímáno jako byrokratická přítěž a příliš přísná regulace. Postupně se ale stalo globálním referenčním bodem pro ochranu osobních údajů a jeho principy se promítly do právní úpravy v řadě dalších zemí.
AI Act má šanci docílit podobného efektu, protože jde o první ucelený právní rámec pro umělou inteligenci, který je postavený kolem jejího vlivu na životy lidí. Firmám, které se s tímto rámcem naučí pracovat už nyní, může tato zkušenost pomoci i mimo Evropu. Schopnost doložit, jak firma řídí rizika spojená s AI, pracuje s daty a zajišťuje dohled nad systémy, se může stát konkurenční výhodou i na trzích, kde obdobně komplexní regulace zatím neexistuje.
Důležité také je, že jde o přímo použitelné evropské nařízení, nikoli o směrnici, kterou by jednotlivé státy převáděly do svých právních řádů. Základní rámec je proto v celé EU společný a AI Act současně vytváří mechanismy, které mají napomáhat jeho konzistentnímu uplatňování napříč členskými státy.
Ve světě přitom taková míra regulatorní jednotnosti není samozřejmostí. České firmy a startupy se dle našich zkušeností potýkají například s roztříštěností regulace v USA, kde se pravidla pro využívání umělé inteligence mezi jednotlivými státy liší. Zkušenost s evropským rámcem jim přitom může pomoci i při působení na těchto trzích.
Více času pro firmy
Odklad pravidel pro vysoce rizikové AI systémy, který přineslo nařízení AI Omnibus, je pro firmy příležitostí připravit se na tuto regulaci v relativním klidu a zároveň dobře. Přestože dosud nejsou k dispozici všechny harmonizované normy, společné specifikace a alternativní pokyny, mohou si firmy už nyní projít, jaké AI nástroje vlastně používají, kdo za ně odpovídá, u jakých systémů bude potřeba lidský dohled, dokumentace či informační povinnosti a zda je současné nastavení dostačující.
To vše se jim bude hodit nejen při zajišťování souladu s evropskou regulací, ale na jakémkoli jiném trhu, stejně jako při komunikaci se zaměstnanci, obchodními partnery či zákazníky.
Odklad některých povinností proto podle mě není důvodem přípravu zastavit. Naopak dává firmám čas nastavit si základní AI governance rozumně a bez tlaku bezprostředního regulatorního termínu. A pokud se evropský přístup skutečně stane jedním z globálních standardů pro odpovědné využívání AI, může být dnešní investice do těchto procesů nejen nákladem na compliance, ale i budoucí konkurenční výhodou.
