Připravte si peněženky. AI rychle zdražuje a levná už nikdy nebude

Začátkem dubna čekala uživatele populárního agentního nástroje OpenClaw nepříjemná zpráva. Společnost Anthropic stojící za modely Claude zásadně omezila, jak mohou takové nástroje třetích stran její umělou inteligenci využívat. Kdo chtěl, aby OpenClaw a podobné nástroje dál běžely na jeho předplatném, musel napříště sáhnout hlouběji do kapsy. Nejnáročnějším uživatelům následně podle serveru The Next Web vzrostly měsíční náklady až padesátkrát.

Mezi komentátory a analytiky se od té doby stále častěji ozývá názor, že éra levné, často zcela bezplatné umělé inteligence se definitivně chýlí ke konci.

OpenClaw je open-source nástroj rakouského vývojáře Petera Steinbergera, který dokáže samostatně plnit vícekrokové úkoly. Letos se stal hitem a v době dubnového oznámení běželo přes 135 tisíc jeho instancí. Kolik takový provoz spolyká, poznal sám autor z první ruky: stovka agentů, s nimiž při vývoji experimentoval, spotřebovala za jediný měsíc výpočetní kapacitu OpenAI za 1,3 milionu dolarů.

Háček byl v tom, že intenzivní agentní provoz vyšel přes paušální předplatné víc než pětkrát levněji než přes oficiální rozhraní (API). Předplatné bylo tedy z hlediska firem pro zákazníky „příliš výhodné“.

Anthropic v tomto ohledu není sám. Investoři podle The Verge nalili do firem jako OpenAI či právě Anthropic stovky miliard dolarů, aby mohly růst a budovat výpočetní kapacity, a nyní očekávají své peníze zpět – a pochopitelně i „něco“ navíc. Po letech, kdy byl přístup k pokročilým modelům laciný, nebo úplně zadarmo, začíná účet docházet.

Anthropic tak od poloviny června odděluje automatizovaný provoz od běžného předplatného a přístup k nejnovějšímu modelu Fable 5 převedl na měřené kredity. GitHub zavedl placení podle skutečné spotřeby a OpenAI pustil do svého chatbota reklamu.

Na fakturách je změna znát už dnes: menší firmy zaplatily podle dat platformy SpendHound za služby OpenAI meziročně o 140 % víc, velké podniky zhruba o čtvrtinu.

Jednotkou, na které se ekonomika celého oboru láme, je takzvaný token: základní díl dat, který model dokáže zpracovat, ať jde o text, obrázek, nebo zvuk. V angličtině odpovídá zhruba čtyřem znakům, jeden odstavec vydá přibližně na sto tokenů a tento článek přibližně na tři tisíce (pro zajímavost: v češtině by to bylo zhruba dvakrát tolik, protože čeština je pro velké modely „tokenově náročnější“, ale většina světového provozu se odehrává v angličtině).

Token přitom soustavně a rychle zlevňuje. Investiční firma Andreessen Horowitz pro ten jev razí termín „LLMflace“: cena za stejnou úroveň schopností klesá každý rok zhruba desetkrát. Model GPT-3 stál v roce 2021 šedesát dolarů za milion tokenů, stejný výkon dnes pořídíte za pár centů.

Výzkumníci z Epoch AI naměřili podle typu úlohy pokles devítinásobný až devítisetnásobný za rok a podle dat o firemních výdajích, která shromažďuje společnost Ramp, spadla průměrná cena za milion tokenů u velkých poskytovatelů za jediný rok z deseti dolarů na dva a půl.

Účty rostou proto, že spotřeba na jeden úkol roste ještě rychleji, a to o několik řádů. Před dvěma lety znamenala typická interakce s chatbotem jeden dotaz a jednu odpověď, dohromady zhruba dva tisíce tokenů. Dnešní agentní systémy, které zadání samy rozloží na kroky, průběžně si ověřují výsledky a spouštějí dílčí podúlohy, spálí na jediném úkolu 50 až 500 tisíc tokenů. Programovací asistenti běžně zpracují miliony tokenů na vývojáře a den.

S proměnou používání se obrátila i struktura nákladů. V počátcích oboru padala většina výdajů na trénink modelů a běžný provoz byl levný. Dnes je tomu naopak: „uvažující“ modely, které za viditelnou odpovědí promýšlejí různé postupy, si po jednovětém zadání podle profesora Marka Riedla z Georgia Tech „povídají samy se sebou“ tisíce, u programování i desetitisíce slov. Při milionech uživatelů denně tento skrytý provoz nad náklady na trénink dávno převážil.

Celý vzorec má v ekonomii jméno. Anglický ekonom William Stanley Jevons popsal už v roce 1865, že Wattův parní stroj, o mnoho úspornější než starší Newcomenův, spotřebu uhlí v Anglii nesnížil, nýbrž zvedl: efektivnější stroj zlevnil práci s párou, zlevnění otevřelo nová použití a ta vyhnala celkovou spotřebu nad původní úroveň.

Na „Jevonsův paradox“ se loni v lednu odvolal šéf Microsoftu Satya Nadella, když levný čínský model DeepSeek krátkodobě srazil akcie výrobců čipů: čím dostupnější umělá inteligence bude, argumentoval, tím víc se jí spotřebuje. Vývoj mu zatím dává za pravdu – byť s výhradou, že paradox funguje jen do chvíle, než se poptávka nasytí.

Čtyři největší americké technologické firmy – Amazon, Microsoft, Google a Meta – letos podle vlastních výhledů proinvestují 630 až 725 miliard dolarů, z velké části do datových center pro umělou inteligenci. Ještě v roce 2022 činily jejich kapitálové výdaje dohromady zhruba 160 miliard, za čtyři roky se tedy více než zečtyřnásobily.

Analytici tempo opakovaně podceňovali: podle Goldman Sachs čekal konsensus na začátku let 2024 i 2025 růst kolem 20 % a skutečnost obě léta přesáhla 50 %. Analytická společnost Gartner odhaduje, že investice do datových center pro AI dosáhnou mezi lety 2024 a 2029 6,3 bilionu dolarů. Jen OpenAI se podle únorového vyjádření zavázala k výdajům 600 miliard dolarů do roku 2030, a i to je výrazně méně než dřívější plán ve výši 1,4 bilionu.

Pro představu o měřítku: letošní výdaje této čtveřice odpovídají zhruba 2 % HDP Spojených států. Podobnými investičními horečkami prošla řada přelomových technologií: britská železniční mánie 40. let 19. století spolkla na vrcholu kolem 7 % tamního HDP, během pěti let telekomunikačního boomu na konci 20. století společnosti „uložily“ jen do optických kabelů zhruba procento amerického HDP.

Vzorec se opakuje: do nové infrastruktury se nahrne víc peněz, než kolik trh krátkodobě unese, následuje korekce a teprve po ní přijde dlouhodobý užitek. Po prasknutí internetové bubliny zůstala většina položených vláken léta „temná“ – podle dobových odhadů se jich využívala zhruba desetina – ale dnes tvoří páteř internetu. Akcionáři tehdejších telekomunikačních firem ovšem o peníze z velké části přišli. I případná korekce očekávání kolem umělé inteligence by tak podle historické zkušenosti přinesla především výměnu majitelů a vystřízlivění z očekávání, technologie sama by ji přežila.

Kolik by investice měly vydělat, spočítal pro The Verge analytik společnosti Gartner Will Sommer. Aby se vložené biliony nemusely alespoň částečně odepsat jako ztráta, potřebovali by poskytovatelé modelů návratnost investovaného kapitálu kolem 25 % – tedy zhruba tolik, kolik na svých investicích běžně vydělávají Amazon, Microsoft či Google.

Klesne-li návratnost pod 12 %, ztrácí o obor zájem velký institucionální kapitál, který najde lepší zhodnocení jinde. Pod 7 % už jde o odpisové pásmo a pohromu pro všechny, kdo do technologie vložili peníze. Jen aby se návratnost udržela těsně nad tímto pásmem, musely by velké firmy do roku 2029 vydělat na AI dohromady téměř sedm bilionů dolarů, ke konci období bezmála dva biliony ročně.

Za posledních dvanáct měsíců přitom utržila umělá inteligence mimo Čínu podle analýzy společnosti Exponential View, kterou v červnu citoval Bloomberg, zhruba 110 miliard dolarů, a obor přitom roste třikrát rychleji, než kdysi rostly internet nebo mobilní aplikace. Na požadované dva biliony ročně by se tržby musely do konce roku 2029 zvýšit zhruba osmnáctkrát, což odpovídá růstu o zhruba 130 % ročně. I nejrychleji rostoucí technologie v dějinách by tedy musela své příjmy každý rok více než zdvojnásobit.

To by znamenalo, že zákazníci by museli v AI službách „propálit“ také podstatně více tokenů než dnes. Google loni v říjnu oznámil, že jich měsíčně zpracovává 1,3 biliardy, a sečteme-li odhady všech hráčů, vyjde podle Gartneru 100 až 200 biliard ročně. Na dva biliony dolarů ročních příjmů by poskytovatelé museli zpracovávat řádově deset triliard tokenů za rok. Biliarda má 15 nul, triliarda 21; spotřeba tokenů by tedy musela do konce desetiletí vzrůst padesátitisíckrát až stotisíckrát.

Analýza společnosti Exponential View, kterou v červnu citoval Bloomberg, uvádí, že tržby z umělé inteligence mimo Čínu dosáhly v prvním čtvrtletí 25 miliard dolarů a už druhé čtvrtletí po sobě převýšily odpisy investic do čipů a datových center, odhadované na 21 miliard.

Za posledních dvanáct měsíců obor utržil 110 miliard dolarů a roste podle autorů třikrát rychleji, než kdysi rostly internet nebo mobilní aplikace. Rezerva je ovšem tenká: odpisy spolykají přes dvě třetiny tržeb a na elektřinu, provoz a další vývoj zbývá málo.

Pohled z druhé strany je střízlivější. Podle loňské studie MIT nepřineslo 95 % podnikových pilotních projektů s generativní AI žádný měřitelný dopad na hospodaření. Průzkumy poradenské společnosti McKinsey ukazují, že umělou inteligenci dnes někde ve firmě používá zhruba devět organizací z deseti, významný celofiremní přínos si ale připisuje jen asi 6 % z nich. Peníze se zatím vydělávají především na infrastruktuře a modelech, mnohem méně na jejich nasazení v běžných firmách.

Rozdílné strategie vedou k rozdílným výsledkům i mezi samotnými laboratořemi. Anthropic, který prodává především firmám a vývojářům, oznámil v květnu tržby přepočtené na roční tempo ve výši 47 miliard dolarů a podle Forbesu se blíží ziskovosti.

OpenAI, jejíž příjmy stojí hlavně na předplatném ChatGPT, který týdně používá přes 900 milionů lidí, z nichž naprostá většina neplatí nic, letos podle dostupných odhadů prodělá kolem 14 miliard dolarů a ziskovost slibuje až na konci desetiletí.

Z pohledu dějin technologií jde o překvapivě známý příběh. Rizikový kapitál v minulém desetiletí dotoval překotný růst v nejrůznějších odvětvích, od sdílené přepravy přes e-shopy až po rozvoz jídla. Levný komfort nebyl projevem štědrosti, ale nástrojem, jak obsadit trh.

Učebnicovým příkladem je Uber: mezi lety 2014 a 2022 nakupil podle propočtů analytika Huberta Horana provozní ztráty kolem 31,5 miliardy dolarů a první celoroční provozní zisk ohlásil až za rok 2023. Jízdy mezitím zdražily, podle Rakuten Intelligence o 92 % mezi začátkem roku 2018 a létem 2021, byť se na tom podepsal i pandemický nedostatek řidičů. (Ztrátu, kterou Uber nastřádal za dekádu, dnes mimochodem čtveřice největších technologických firem proinvestuje zhruba za 16 dní.)

Uberu se strategie vyplatila, protože dobytý trh dokázal udržet: síť řidičů a pasažérů se navzájem posiluje a zákazník nemá kam snadno odejít. Laboratořím umělé inteligence taková výhoda chybí. Přechod od jednoho modelu k druhému je totiž otázkou chvíle, vývojáři je střídají podle aktuální nabídky a otevřené modely, jejichž kvalita rychle roste, drží ceny u dna. Na platformě OpenRouter, přes kterou vývojáři přistupují k desítkám modelů, kleslo podle dat citovaných Bloombergem zastoupení uzavřených modelů Googlu, OpenAI a Anthropicu v červnu na třetinu zpracovaných tokenů.

Právě proto se laboratoře snaží zákazníky připoutat jinak: nástroji, agentními platformami a hlubokou integrací do firemních systémů. I dubnové odstřižení OpenClaw lze číst jako součást této snahy, Anthropic totiž souběžně spustil vlastní placenou platformu pro správu agentů.

A v jednom ohledu paralela s Uberem kulhá úplně. Software míval zanedbatelné mezní náklady, obsloužit dalšího uživatele nestálo skoro nic, takže dotace byly sázkou na budoucí levný provoz. Každý token má naproti tomu reálnou cenu ve výpočtech a elektřině. Zdražování je tak pro laboratoře podmínkou přežití, bez ohledu na to, zda trh ovládly.

Tlak podle analytiků povede ke konsolidaci. Sommer předpovídá, že mnoho firem neufinancuje tempo, jakým spalují peníze, a že na každém regionálním trhu nakonec přežijí nanejvýš dva velcí poskytovatelé jazykových modelů.

Šéf softwarové firmy Box Aaron Levie pro The Verge soudí, že se situace vyjasní během příštích dvou let a že korekci nepřežijí všichni. S konsolidací zřejmě skončí i éra štědrých neplacených verzí; otázkou podle oslovených odborníků bylo vždy jen to, kdy a jak tvrdě bezplatnou vrstvu zpoplatnit.

Pro koncového uživatele to nemusí být nutně špatná zpráva. Dokud spolu laboratoře soupeří a přechod nic nestojí, profituje především zákazník. Z širšího pohledu obor dospívá a přechází od růstu za každou cenu k hledání skutečného obchodního modelu. Podobně „zdarma“ ostatně fungují i jiné samozřejmé služby, e-mail, mapy či sociální sítě; jen za ně platíme jinak, pozorností a daty. Reklama, kterou OpenAI pustil do svého chatbota, je první vlaštovkou téhož přístupu u umělé inteligence.

Předpovídat vývoj oboru se zatím dařilo jen napůl. Odhady, jak rychle zlevní jednotka výkonu, vycházejí s pozoruhodnou přesností, zatímco odhady celkových výdajů selhávají rok co rok, protože způsob, jakým se umělá inteligence používá, se mění rychleji než ceníky.

Takže počítejte s tím, že token bude dál zlevňovat - a vaše účty za AI porostou.