Článek
OpenAI a Microsoft už dlouho netvoří zamilovaný pár. Jedno z nejdůležitějších partnerství se rozpadalo dlouho a minulý týden obě firmy představily novou smlouvu: Jejich spolupráce už nebude exkluzivní.
V minulosti běžely modely umělé inteligence OpenAI prakticky výhradně na serverech Microsoftu. Ten na oplátku dostával exkluzivní přístup k modelům OpenAI a ty mohl přeprodávat dále. Microsoft a OpenAI navíc měly od začátku domluvenou speciální doložku „pro případ obecné umělé inteligence“.
Byla to jedna z pojistek, které měly zajistit, že OpenAI není jen firma, ale obecně prospěšná výzkumná laboratoř. Jejím cílem má být „vývoj obecné umělé inteligence (AGI) pro dobro celého lidstva“. Pokud by bylo dosaženo této AGI, všechny smlouvy by přestaly platit.
Investoři museli podepsat, že cílem OpenAI není zisk, ale „vývoj obecné umělé inteligence pro dobro celého lidstva“.
Zatímco ještě v únoru OpenAI tvrdila, že AGI doložka zůstává nezměněná, nově je zjevné, že tato – i dříve jen velmi neurčitě definovaná – záklopka skončila spolu s exkluzivitou.
Všichni investoři do OpenAI také dříve museli počítat s tím, že jejich případný zisk je shora omezen. Tím si OpenAI v roce 2019 ospravedlnila přechod z neziskové společnosti na něco, co bychom mohli nazvat „společnost se ziskem omezeným“. Investoři podepisovali, že souhlasí s tím, že jejich zisk nesmí přesáhnout stonásobek vložené částky.
OpenAI je 11 let od svého založení víceméně klasickou Silicon Valley korporací – tedy přesně tím, proti čemu se od začátku vymezovala. Z původních pojistek zůstaly převážně jen kulisy.
Přinejmenším navenek je to důvod, proč Elon Musk na OpenAI podal žalobu, která se nyní konečně dostala před soud. Musk si coby jeden ze spoluzakladatelů OpenAI stěžuje, že její šéf Sam Altman neziskovku ukradl.
Špinavé prádlo dvou „vizionářů“
Představte si, že by se celý váš inbox dostal na veřejnost. A navíc byste museli sedět a vysvětlovat, co jste si v rychlosti nepřečetli, co jste psali a co jste tím mysleli. V takové pozici je nyní Musk. Během probíhajícího soudního procesu zatím zjevně není ve své kůži. Padají z něj věty jako „Kladete mi záludné otázky“ nebo „Na ten e-mail jsem odpověděl, ale nečetl jsem jej“.
Musk žaluje firmu OpenAI a spolu s ní i Sama Altmana coby jejího šéfa a Microsoft coby hlavního investora. Je to tedy jeho iniciativa. O to hůře působí Muskova příprava, či spíše absence přípravy na celý proces.
Už při výběru poroty bylo jasné, že Musk nemá veřejnost na své straně. „Je to hamižný, rasistický, homofobní zmetek,“ uvedl jeden z kandidátů na porotce, možná aby si pojistil, že nebude muset v porotě usednout. Soudkyně se nakonec rozhodla zdůraznit, že Musk opravdu není populární, což ale neznamená, že porota nebude rozhodovat spravedlivě: „Skutečnost je taková, že jej lidé prostě nemají rádi. Hodně Američanů jej nesnáší, ale to neznamená, že by Američané nemohli zajistit spravedlivý soudní proces.“
Soud ale pokračuje. Nyní je řada na Altmanovi, aby se před porotou shodil zase on. Jak ukazuje jeho nedávný profil v časopise The New Yorker, také současný šéf OpenAI má nejen ve svém okolí pověst manipulativního oportunisty.
Oba miliardáři chtěli jistě zapůsobit jako vizionáři a proroci technologické budoucnosti. Nyní v přímém přenosu sledujeme, jak bojují o přízeň veřejnosti, a je celkem zjevné, že ani jeden z nich na porotu nepůsobí jako nezištný světec. A přitom byl začátek OpenAI tak nadějný…
Laboratoř pro dobro všech
K založení OpenAI přispěla polosoukromá hádka dvou miliardářů z roku 2015: Muska a Larryho Page. Dnes jde o nejbohatšího a druhého nejbohatšího člověka na světě, tehdy byl Musk sotva v první stovce a Page byl na 19. příčce. Bavili se – jak je v Silicon Valley zvykem – o budoucnosti lidstva a technologií (podle některých se tento rozhovor odehrál už o dva roky dříve).
Page, zakladatel Googlu, líčil, jak se budou lidé díky strojům mít lépe a lépe. Nakonec se na ty stroje napojí. A podle něj bude logické, že nastane souboj inteligencí a vyhraje ten nejlepší.
„To by byl konec lidstva,“ uvažoval nahlas Musk. „To bychom byli ztraceni.“ Musk už dříve prohlásil, že umělá inteligence je jako „démon“, o kterém si lidé myslí, že jej ovládnou. Ale místo toho démon ovládne je.
Lidstvo vývojem umělé inteligence přivolává démona. Znáte ty příběhy, kdy si chlápek (…) sebejistě myslí, že dokáže přivolaného démona ovládnout? Ale nedokáže.
Page se ohradil. Takové uvažování je podle něj „druhistické“. Nové formy inteligence si podle něj zaslouží vyhrát, pokud budou lepší než lidé. Musk později popsal, že jej to vyděsilo. Obával se, že Google je na dobré cestě dominovat v oblasti AI výzkumu. A začal pracovat na protiváze. Tou měla být právě laboratoř OpenAI. Už samotné jméno mělo ukazovat, že tady se dělá věda a výzkum pro dobro všech.
Ne pro akcionáře…
„OpenAI je nezisková výzkumná společnost zabývající se umělou inteligencí. Naším cílem je rozvíjet digitální inteligenci způsobem, aby co nejspíše prospívala lidstvu jako celku. Nebudeme přitom vázáni nutností vytvářet finanční zisk. (…) Jako nezisková organizace chceme vytvářet hodnotu pro všechny, nikoli jen pro akcionáře.“
– citace z tiskového prohlášení k založení OpenAI v roce 2015
„Hodně teď přemýšlím, jestli je vůbec možné zabránit, aby lidstvo pokračovalo ve vývoji umělé inteligence. Myslím, že téměř jistě ne. Pokud k tomu stejně dojde, zdá se mi, že by bylo dobré, aby jako první uspěl někdo jiný než Google,“ napsal Altman v roce 2015 Muskovi, jehož opatrné až alarmistické názory na riziko „AI démona“ byly obecně dobře známé.
„Myslíš, že by bylo dobré, aby YCombinator spustil něco jako projekt Manhattan pro umělou inteligenci?“ nabídl Altman zapojení startupového inkubátoru, který tehdy vedl.
Přinese umělá inteligence spásu nebo zkázu?
Tyto e-mailové konverzace umožňují nebývale podrobný vhled do začátků OpenAI. Je z nich vidět, že Altman, Musk i další spoluzakladatelé opravdu přemýšleli, jak organizaci postavit tak, že ji žádný jednotlivec ani korporace nemohou ovládnout.
Ať už z přesvědčení, nebo protože věděli, že to bude působit lépe na výzkumníky. Ty chtěli do organizace vedle peněz lákat i příběhem o „boji proti konci světa“, což bylo rámování, které už v té době mezi některými AI experty rezonovalo.
Bez Microsoftu by to nešlo
Jenže Musk nakonec od projektu odstoupil. Navenek to zdůvodnil tím, že jeho firma Tesla se také pouští do výzkumu AI a on nechce, aby mu vznikl střet zájmů. Lze spekulovat o tom, že nebyl spokojen s vedlejší rolí, která by mu v OpenAI připadla. To je podle některých komentátorů ostatně hlavní důvod, proč nyní OpenAI žaluje. „Je naštvaný, že tváří úspěšné OpenAI je Sam Altman a nikoli Elon Musk,“ shrnuje to s jen mírnou nadsázkou reportér David Pierce z The Verge.
S odchodem miliardáře Muska nicméně vznikla pořádná díra v plánovaném rozpočtu OpenAI. Tu dokázal Altman zacelit právě dohodou s Microsoftem. V létě 2019 Microsoft vložil miliardu dolarů do OpenAI a odstartoval tak oboustranně výhodné partnerství.
Dnes zná laboratoř OpenAI díky ChatGPT každý, ale v roce 2019 šlo o poměrně odvážnou sázku. Výzkumníci OpenAI se zabývali vším možným a pozornost Microsoftu si pravděpodobně vysloužili i díky jednomu z okrajových projektů, kdy umělá inteligence z dílny OpenAI porážela lidské hráče v náročné hře Dota 2. Dnes víme, že tehdy jim Microsoft poskytl (na Muskovu přímluvu) výpočetní výkon.
Miliardová investice víceméně zacelila díru po Muskově odchodu, ale vývoj AI si vyžadoval více a více výpočetního výkonu. OpenAI se postupně přeorientovala na klasickou společnost dodávající služby firmám a nezisková část – především tým zabývající se bezpečností – byla čím dál více stranou. Kvůli tomu OpenAI v roce 2021 opustili Dario Amodei a jeho sestra Daniela Amodei, aby založili konkurenční firmu Anthropic.
Hit jménem ChatGPT
Pak přišel zlomový moment, kdy se generativní umělá inteligence během několika měsíců proměnila ve věc veřejnou. Původně nenápadný nástroj ChatGPT byl najednou hitem a během několika týdnů od svého uvedení v listopadu 2022 se stal nejrychleji rostoucí službou v historii internetu.
Microsoft nesl popularitu nové služby s nelibostí, jak popisuje Karen Hao v knize Empire of AI. Původní dohoda totiž byla taková, že ChatGPT bude „výzkumný náhled dostupný veřejnosti“, zatímco Microsoft představí chatbot pro veřejnost. Ve skutečnosti to dopadlo naopak. Jeho varianta „Chat with Bing“ sice používala stejný model, ale v popularitě zaostávala. Microsoft to zkusil ještě několikrát – firma nabízí několik desítek variant služby Copilot – ale co do počtu uživatelů se moc neposunul.
Spory panovaly i o to, jak uvádět nové modely nebo jak koordinovat práci na nových funkcích. Zatímco navenek spolu firmy Microsoft a OpenAI vystupovaly jako harmonická dvojice, na pozadí to vřelo. Když se v listopadu 2023 pokusila dozorčí rada (nakonec neúspěšně) sesadit Altmana z pozice šéfa OpenAI, Microsoft dostal jasný signál, že vsadil příliš mnoho na jednu kartu. Laboratoř, díky které byl Microsoft na špici AI výzkumu, se málem rozpadla během několika dní.
Od dobro pro všechny zpátky k akcionářům
Tato epizoda byla podle všeho počátkem konce. Pro Microsoft začal být blízký vztah s OpenAI přítěží a OpenAI zase chtěla nabízet své služby i skrze jiné poskytovatele. Jen chvíli poté, co formálně skončila exkluzivní spolupráce, už OpenAI oznámila, že bude spolupracovat s konkurenčním Amazonem.
Dává to smysl pro všechny zúčastněné. Amazon je největším poskytovatelem cloudových služeb pro firmy. A právě firmy mohou nyní zřejmě vytěžit z AI modelů největší užitek, například tak, že je využijí k automatizaci nebo psaní kódu.
Firma OpenAI se navíc intenzivně připravuje ke vstupu na burzu a dělá si zálusk na bilionovou kapitalizaci (tedy tržní cena tisíc miliard dolarů). Padly tak i poslední reálné rozdíly, které by OpenAI odlišovaly od klasické firmy.
Jak mizely pojistky OpenAI
Při vývoji silného a mocného nástroje se může hodně věcí pokazit. Lidé se mohou nechat zlákat bohatstvím či mocí, případně mohou způsobit problém neopatrným nadšením. Od svého založení v roce 2015 měla výzkumná laboratoř OpenAI zjevnou snahu těmto nástrahám předcházet. Jenže postupně jedna pojistka za druhou mizely…
Což je dobrá zpráva pro její investory i pro firmy, které chtějí její modely nasadit. Horší zpráva je to pro výzkumníky, kteří věřili, že v OpenAI jde primárně o výzkum bezpečnosti umělé inteligence. Tito specialisté postupně firmu opouštějí. Někdy s dost temně znějícími vzkazy.
„Posledních několik měsíců jsem se svým týmem musel plavat proti proudu,“ postěžoval si při svém odchodu z OpenAI výzkumník Jan Leike, který vedl oddělení pro bezpečnou superinteligenci. Po odchodu Ilyi Sutskevera, Daniela Kokotajlo a Daria Amodei to byla další významná osobnost, která z OpenAI odešla kvůli nespokojenosti s tím, že se starosti o bezpečnou AI dostaly na druhou kolej.
„Stavět stroje, které jsou chytřejší, než lidé, je z podstaty věci nebezpečné. OpenAI nese na svých bedrech ohromnou zodpovědnost,“ zdůraznil Laike při oznámení svého odchodu v květnu 2024. „Ale posledních několik let důraz na bezpečnost a procedury ustoupil zájmu o vývoj nablýskaných produktů.“
Zakladatelé OpenAI dali organizaci do vínku celou řadu zábran, záklopek a bezpečnostních pojistek, aby právě takovému nebezpečí předcházeli. Při cestě za komerčním úspěchem ale tyto bariéry jedna po druhé padly. Musk a Altman se budou před soudem dohadovat, kdo to myslel lépe. Zvenku je ale jasné, že oba již démonovi, před kterým chtěli zachránit svět, sami podlehli.
