Umělá inteligence dá vědcům superschopnosti, předpovídá expertka

Rozhovor si také můžete poslechnout v audioverzi.

Umělá inteligence, to zdaleka není jen chatbot, i když to je v současnosti asi nejznámější příklad AI technologie. Celá oblast strojového učení je ale mnohem rozsáhlejší. Google se snaží ukázat, že hledá nové způsoby, jak svůj výzkum zavést do praxe po celém světě. Na své prezentaci v rámci konference AI Leaders Connect v Praze o tom mluvila Ronit Moradová z Google Research.

„Když jsme začínali s předpovědí povodní, experti nám říkali, že je nemožné vytvořit globální model. Dnes poskytujeme včasné varování 700 milionům lidí,“ popisuje konkrétní příklad Moradová, která řídí týmy pracující na výzkumu i praktických aplikacích AI. „V Thajsku jsme zase ukázali, že i sestry bez specializace dokážou s pomocí AI nástroje rychle odhalit vážné oční onemocnění tam, kde chybí lékaři,“ uvedla svůj oblíbený příklad.

Podle Moradové je zásadní nejen technologický pokrok, ale i celospolečenská debata o pravidlech a etice spojených s AI: „Umělá inteligence má obrovský potenciál řešit problémy, které dříve trvaly roky, nebo byly nemožné. Jsme teprve na začátku!“ V rozhovoru pro Seznam Zprávy popsala i další výhody – ale i rizika – zapojení AI do vědeckého výzkumu.

Mnohé univerzity si stěžují, že nevědí, jak na AI reagovat. Studenti třeba zkopírují instrukce a chatbot jim vyplivne dvacetistránkovou seminárku. Jsou s tím spojené pasti i příležitosti. Jaký máte pocit, že se školy – dva a půl roku po uvedení ChatGPT – s generativní umělou inteligencí sžívají?

Učitelé i studenti podle mého musí začít vnímat vzdělávání úplně novou optikou. Vy jste zmínil chatbot, ale tady je lepší uvažovat o celé té platformě nových možností. A umělá inteligence je nejprospěšnější vynález naší doby. Má celou řadu podob a pro rozvoj vědy bude klíčová. Vzdělávací instituce i studenti můžou z AI udělat svou superschopnost.

Pojďme se podívat na učitele: tráví hromadu času papírováním a další ubíjející činností. AI jim může uvolnit ruce, může pomoci připravovat testy nebo opravovat práce. A učitelé se budou moci věnovat smysluplnému kontaktu se studenty, na kterém skutečně záleží.

Náš tým se před dvěma roky pustil do vývoje modelů LearnLM, které jsou přizpůsobené právě pro nasazení ve výuce. Tento vývoj byl mimochodem inspirovaný naším předchozím projektem, jazykovým modelem vytrénovaným na lékařských textech (Med-PaLM, pozn. red.).

Ohromná příležitost je tu i pro studenty. Můžou rozvíjet své schopnosti a nápady. Mimochodem, ty nápady přece nemusí být jejich vlastní, můžou ty nápady rozpracovat s dalšími studenty nebo s umělou inteligencí. Naučit se, jak s umělou inteligencí spolupracovat jako s kreativním partnerem.

Zatím ale slyšíme o tom, jak si studenti spíše šetří práci a na umělou inteligence přehodí domácí úkoly, čímž ztratí příležitost se něco naučit. A někteří studenti si stěžují, že učitel – místo aby jim napsal zpětnou vazbu na jejich seminárku – jim poslal komentáře zjevně vygenerované chatbotem. Což je obzvláště pokrytecké, když měli studenti zákaz toho chatbota při tvorbě používat…

Problém v tomto případě je, že ten student nebo pedagog nepostupovali transparentně. Používali AI tajně, takže výsledek působil falešně. Přitom se to dá udělat lépe, lze zapojit AI do hodnocení, ale je nutné to dělat jasně a s rozmyslem. Neposílat studentovi něco, co není osobní.

Máme projekty, kde pomocí jazykových modelů pomáháme učitelům v Ghaně, a výsledky jsou velmi pozitivní. Ale učitelé nesmí jen hodit studentovu práci do AI a hotovo. To pak už přece není učitel.

Jak ale mohou lidé tomu pokušení ulehčit si práci odolat? Jen proto, že něco má potenciál pomáhat, neznamená automaticky, že to zároveň nenapáchá hodně škody. Víme, jak to dopadlo se sociálními sítěmi. Lidé jsou líní, a pokud je možnost použít AI smysluplně nebo použít AI jako zkratku, myslím, že je jasné, co bude pro lidi jednodušší.

Musíme lidem pomáhat. A tady nemyslím „my“ jako Google, ale my všichni: vlády, neziskovky, univerzity, všichni. Umělá inteligence je příliš důležitá technologie na to, abychom ji neregulovali. Je potřeba nastavit regulaci správně.

Zmínil jste příklad sociálních sítí a já si myslím, že tam se nám nepovedlo nastavit regulaci dobře, neudělali jsme dost. Teď začíná éra AI, pořád jsme ještě relativně na začátku. Musíme se zaměřit na ta pravidla a regulaci. Regulací ale nemám na mysli zákaz nebo omezení technického rozvoje AI. To by podle mého byla velká chyba.

Nemůžeme zastavit výzkum. Ale musíme mít názor na to, jakým směrem se má vývoj ubírat. Vidím, že se to trochu mění, že se to zlepšuje. Ale chtěla bych, aby se do toho zapojilo více lidí, organizací a vlád, nesmí to být jen technologické firmy.

S jakými nedorozuměními ohledně AI se ve veřejném prostoru nejčastěji setkáváte?

Neustále se mluví hlavně o chatbotech. Ale AI nejsou jen chatboti. Obzvláště ve vědě. Stále větší roli hrají agenti nebo systémy agentů, platformy.

Chatbot je samozřejmě první kontakt. Ale ve vědě jsou podstatné AI systémy, které nemají formu chatbota, třeba AlphaFold, mají ohromný dopad. Bývaly doby, kdy trvalo několik let najít strukturu nějakého proteinu. Teď je 200 milionů proteinů zmapovaných a kdokoli si je může stáhnout. To může urychlit vývoj nových léků apod.

Lidé také hodně mluví o tom, že AI si vymýšlí. Určitě často slyšíte, jak umělá inteligence Google radila lidem jíst kameny… Tyto AI přehledy jsou nyní dostupné i v Česku.

Ano, někdy jsou tam chyby. Proto nekončíme s vývojem. Začali jsme s Gemini 1.0, pak 1.5, teď máme 2.5. Pokračujeme a na faktické správnosti nám záleží. Je to něco, co v rámci skupiny Google Research hodně řešíme, a věřím, že děláme pokroky.

Vše vygenerované se snažíme ukotvit v důvěryhodných, reálných zdrojích. Je to klíčové, protože lidé značku Google berou jako spolehlivou. Je to otázka důvěry a profesionality. Kdy bude míra chyb nulová? To nevím, pořád se ta situace vyvíjí. Někteří si myslí, že to za tři roky bude vyřešené, jiní si myslí, že je to problém, který má více úrovní, které budeme muset řešit postupně. Ale každopádně pracujeme na tom, aby byly generované výsledky jazykových modelů důvěryhodnější.

Říkám si, že se tím Google pustil do výroby obsahu. Když jsem předtím klikl na odkaz a tam na tom webu byly špatné informace, nevyčítal jsem to vyhledávači, ale autorovi té stránky. Ale když chatbot něco lidem přeříká vlastními slovy, tak mají lidé tendenci vinit toho chatbota.

To je riziko, které na sebe Google bere, jsme v tomto směru odvážní a zodpovědní. Už od začátku – v roce 2018 – mluvíme o tom, že umělou inteligenci je třeba zapojit zodpovědně. Pokud jako uživatel podezíráte, že je informace nesprávná nebo nějak divná, je vaše zodpovědnost se podívat na ty zdroje. Ty jsou vždycky dostupné.

Jde o to, že to musíte napřed nasadit, dostat mezi lidi, a pak to půjde vylepšit?

Správně. A tyhle věci se časem vylepší. Tempo je totiž exponenciální. Nemusíme čekat na další model. Ta rychlost inovací je zkrátka ohromná.

Velkou pozornost si Google nedávno získal díky generátoru překvapivě realistických videí Veo3. Není to další hřebíček do rakve důvěryhodnosti? Cokoli může být falešné.

Google se v tomto snaží být transparentní. Pomocí technologie SynthID umíme detekovat generované video, protože to naše video je označené neviditelným vodoznakem. I kdyby jen kousek videa byl generovaný, poznáme to. Takže ano, internet bude plný generovaného videa, ale uživatel bude moci poznat, co je generované.

Řada lidí si neumí moc představit, jak pracují vědci, natož jak může vědcům pomáhat umělá inteligence. Přitom právě ve vědě může AI díky pákovému efektu mít nesmírný vliv na celý svět.

Umělá inteligence proměňuje práci výzkumníků. Bývaly doby, kdy výzkumník mohl na nějakém projektu pracovat roky: kde začít, z jakých zdrojů vycházet, co vyzkoušet… Zdlouhavé a drahé.

Nyní se tato fáze výzkumu může významně urychlit, je to jako ta zmíněná superschopnost. Vezměte si třeba náš projekt Co-Scientist, což je asistent pro vědce. S nápadem přišli moji kolegové Alan Karthikesalingam a Vivek Natarajan, kteří si řekli, co kdybychom měli nástroj, který by pomáhal vědcům s výzkumem. Oba přišli z medicínského výzkumu. Chtěli agenta, který by nedělal jen nějaká shrnutí studií, ale byl partnerem při výzkumu, přicházel s vlastními hypotézami.

Dalším projektem našeho týmu je AIME, což je konverzační diagnostický agent. Umí fungovat jako rozhraní mezi doktory a pacienty. Pro hodně lidí je to překvapující, ale AI agent umí s pacienty komunikovat empatičtěji než člověk. Když tedy doktoři pracují s AIME, tak jsou diagnózy přesnější a komunikace s pacientem empatičtější. Umělá inteligence má nekonečnou trpělivost, může pořád dokola vysvětlovat, co pacient nepochopil.

Dokážu si představit ideální situaci, kdy tým člověk + AI dává lepší výkony než samotný člověk nebo samotná AI. Ale taky si umím představit, že AI bude dávat sama o sobě lepší výsledky.

Určitě je lepší dohromady. Umím si představit budoucnost, ve které lidé a AI agenti pracují společně jako tým. To zatím vidím v mnoha odvětvích.

Já se jen bojím, jestli jako lidé nemáme tendenci vidět ten ideální scénář, přestože existují i další představitelné scénáře. I Google ostatně ukázal, že auto bez řidiče řídí lépe než auto s řidičem. Nemyslím, že si můžeme být jistí tím, že lidé + AI agenti budou vždy silnější než pouze AI agenti.

Samozřejmě neznám budoucnost. Chtěla bych, aby se spolupráce lidí a AI ukázala jako vítězná strategie. A máte pravdu, samořídící auta, to je jak magie. Nakonec je to ale otázka důvěry. Když se rozhodneme věřit tomu samořídícímu autu, tak to bude lepší a bezpečnější. Ale ta důvěra se musí získat a zasloužit.

Procházíme fází, kdy je všude samý chatbot. Jaká je podle vás ta další fáze AI?

Myslím, že vstupujeme do éry agentů. A to je skvělá příležitost pro lidi. Protože jako lidé budeme moci dirigovat celý soubor agentů, místo abychom se zdržovali jednotlivostmi a rutinními úkoly. Uvidíme smíšené týmy, lidi a AI agenti bok po boku.

Uvidíme stoupající důležitost kvantových počítačů. Kvantové počítače pomohou doplnit umělou inteligenci, zvláště tam, kde je nedostatek trénovacích dat. Jsme na začátku toho, kdy půjde kvantové počítače nasadit v praxi. Na řešení opravdu těžkých problémů, jako je třeba léčba rakoviny. Agenti umělé inteligence a kvantové počítače.

Řada lidí to slyší a má pocit, že by třeba umělá inteligence mohla běžet na kvantovém počítači, ale tak to není, ty výpočetní problémy jsou úplně jiné.

Přesně tak, jsou to jiné věci. Ale umím si představit, že se tyto oblasti – agentická AI a kvantové počítače – budou moci doplnit. Kvantové počítače jsou v začátcích a pomocí AI můžeme jejich vývoj urychlit.

Z čehož bude zase těžit věda, medicínský výzkum, řešení klimatické krize. Podle mého se ukáže, že kvantové počítače budou důležitá vrstva, díky které bude mít umělá inteligence ještě větší dopad a povede ještě k většímu pokroku.

Můj syn teď studuje na univerzitě. Je z generace Z, ale mám pocit, že se chová, jako by byl starší než já. Pořád mne zve do knihoven v New Yorku a podobně, má rád staromódní věci a myslím, že mne to obohacuje. Ale je to vtipné: já mluvím o umělé inteligenci a on o knihách. Ale samozřejmě je důležité, aby lidé měli obojí.