Komentář: AI už využívají i právníci, ale stále platí - nikdy jí nevěřte

Komentář si také můžete poslechnout v audioverzi.

Generativní umělá inteligence se za poslední tři roky stala všudypřítomnou technologií, kterou vyzkoušel prakticky každý, kdo v práci používá počítač. Dorazila i do tradičně konzervativních oborů, mezi které se řadí i advokacie. Kanceláře experimentují s chatboty, digitálními koncipienty či automatickými rešeršemi a podáními. Zároveň však narážejí na řadu překážek, které poukazují jak na současné limity této technologie, tak na její nepochopení a nesprávné využívání. Jaké jsou hlavní výzvy, které advokáti při zavádění umělé inteligence řeší, a co si z toho můžeme vzít my všichni?

Úspěšná kniha Simona Sinka „Začněte s proč“ se věnuje tématu vnitřní motivace. Proč skutečně děláme to, co děláme? V oblasti AI se dá mírně posunout: proč AI potřebujeme? Jaká úzká místa může vyřešit? Čeho se chceme v její prospěch vzdát a mít z toho užitek? Které činnosti přinášejí přidanou hodnotu a které naopak zbytečně konzumují čas zaměstnanců?

I přes rostoucí nabídku specializovaných AI nástrojů a asistentů stále platí, že je nejprve potřeba věnovat čas přemýšlení nad těmito otázkami a až potom uvažovat nad tím, jaké jsou naše cíle a jaký nástroj pro jejich dosažení zvolíme. Zpočátku přitom doporučuji soustředit se na realistické a rychle dosažitelné výsledky. Čím větší projekt a větší zásahy do fungování firmy, tím větší riziko, že výsledky nebudou odpovídat vynaloženým nákladům nebo že úplně selže. Tyto změny sice mohou někdy dávat smysl, ale až v případě, kdy si všichni vyzkouší alespoň nějaké základy práce s AI.

V praxi vidíme, že advokátní kanceláře, které jsou s výsledky zavádění AI nástrojů spokojené nejvíce, je využívají především na automatizaci rutinních úkonů a pomoci s organizací kanceláře. Velmi dobře se hodí pro rešerše a přehled nad elektronickým spisem a jeho dokumenty. Účinně pomáhá se zpracováním pošty včetně datových zpráv a hodí se také na přípravu jednodušších smluv, strukturování spisů nebo automatická podání. Každá firma má ale jiné zaměření a jiná úzká místa, proto je vždy musí nejprve identifikovat a teprve poté přemýšlet nad tím, jaká řešení se jí nabízejí.

Druhou výzvou je roztříštěnost práce. Především v situaci, kdy kanceláře nemají vyřešené oblasti, ve kterých AI využívají. Pokud se v advokátní kanceláři zeptáme, kdo využívá AI nástroje, zvedne ruku většina lidí. Když se ale zeptáme, kdo s ní pracuje týmově, zbyde jich nahoře jen pár. Platí to především pro klasické chatovací nástroje. Každý má svůj chat, svoje experimenty a osvědčené situace, pro které je používá. Takové uspořádání je překážkou v efektivním využití AI napříč firmou. Zaměstnanci nevědí, jaké postupy šetří čas a jak je správně replikovat. Ale také zde neexistuje kontrola nad tím, kde všude byly tyto nástroje využity a zda je možné se na výsledky zcela spolehnout.

Ať už tedy nástroje generativní AI využíváte na cokoli, vždy se vyplatí je nastavit tak, aby byly strukturované týmově. To znamená, že na jedné straně bude pro všechny k dispozici historie chatů, které budou na druhé straně přísně strukturované a vázané ke konkrétním projektům a jejich dílčím částem.

S předešlou situací úzce souvisí také bezpečnost. Jde o téma, které se objevuje snad v každém textu o využívání AI, proto není potřeba ho dlouze rozebírat. Přesto je třeba zdůraznit, že zrovna v oblasti advokacie je zásadní, aby se data ze spisu nedostala mimo kancelář nebo firmu. AI v právu nemůže fungovat jako osobní poznámkový blok. Potřebuje auditní stopu a kontrolované prostředí.

Proto je potřeba definovat jasná pravidla, které nástroje se využívají a jakým způsobem. Správně nastavit jejich provoz a rozhraní. Vždy by měly běžet v prostředí advokátní kanceláře, na vlastním hardwaru a nevyužívat externí nástroje typu veřejných cloudových modelů, minimálně při práci s citlivými firemními daty a daty klientů.

Klíčovým prvkem ve využití jakéhokoli AI nástroje je správný kontext. Jinými slovy, AI potřebuje konkrétní vstupní data a přesné instrukce. V opačném případě se může stát, že výsledek vypadá správně a přesvědčivě, ale přesto je nepoužitelný. Smysluplné využití AI nastává teprve tehdy, když je systém napojený na data kanceláře – zná klienta, ví, jaké dokumenty se ho týkají a jaké má termíny. Teprve potom dokáže nabídnout skutečnou pomoc místo generování neurčitých paragrafových vět.

V kontextu debaty o tom, jaké činnosti svěřit umělé inteligenci a jak ušetřit drahocenný čas, to může znít paradoxně: nikdy nevěřte tomu, co od AI dostanete. Platí to především při využívání vysoce specializovaných nástrojů, jejichž výstupy jsou použity jako součást výsledku vaší práce. Pořád je ale potřeba mít na paměti, že jde o pravděpodobnostní nástroj. Pokud má generovat nový obsah, a ne například replikovat informace ze spisu, skládá za sebou slova podle toho, jak by se pravděpodobně vyskytovala v konkrétní situaci, se kterou pracuje.

Kam až přehnaná víra v neomylnost AI vede, ukazuje například nedávná blamáž poradenské společnosti Deloitte, která v materiálu pro australskou vládu obsahovala vymyšlené citace z rozsudku federálního soudu nebo odkazy na neexistující citace. Po celém světě je zdokumentováno už přibližně 500 případů, kdy se v nějakém soudním řízení ukázalo, že některý z dokumentů obsahuje neexistující citace a další AI halucinace. Ostatně takové příklady najdeme i u nás.

Základní pravidlo tak zní: AI může urychlit práci, ale nemůže práci advokáta nahradit. Odpovědnost vždy nese advokát nebo jiný uživatel, který musí všechny informace ověřit a zazdrojovat. Což nás vede zpět ke kontextu – čím přesnější je, tím lepší výsledky dostaneme.

Poslední rozšířenou výzvou, se kterou se advokátní kanceláře potýkají, je rozdílná úroveň uživatelů. Typická situace vypadá tak, že ve firmě je jeden nebo několik AI nadšenců, skupina lidí s povrchní znalostí a potom také skupina skeptiků s omezenou znalostí nebo chutí k využití AI.

Pokud chce kancelář přejít na nějaký AI nástroj, potřebuje své zaměstnance vyškolit na určitou společnou úroveň a zároveň zajistit, aby ho využívali naplno. V takovém případě se osvědčilo zřízení pozice jakéhosi AI evangelisty z řad zapálených zaměstnanců. Ten může kolegům vysvětlit přínosy konkrétních AI řešení a spolu s vedením se také zapojit do výběru vhodných oblastí pro automatizaci a následně do testování a výběru vhodného nástroje.

Umělá inteligence začala měnit širokou škálu kancelářských pozic. V oblasti práva, ale také v řadě jiných odvětví však nebude tou hlavní změnou nahrazení lidí technologií. Půjde o změnu myšlení a koordinace práce. Technologie může ušetřit rutinní práci a nahradit tak několik asistentů. Nepřevezme ale odpovědnost vůči klientovi. A právě ta zůstává spolu s důvěrou nejdražší komoditou advokacie i v době umělé inteligence.