Článek
Na adrese Norrbackagatan 48 ve stockholmské čtvrti Vasastan je obyčejný rohový podnik. Šedé stěny, pár zelených rostlin, skandinávská minimalistická estetika. Venku zahrádka se šesti nebo sedmi stoly, uvnitř zhruba něco podobného. Objednat si musíte u pultu. Nabídka je spíše skromná, k pití káva, čaj a citronová limonáda. Pár zákusků, croissanty a koláče. Pokud byste šli náhodně kolem, kavárnu byste asi minuli bez povšimnutí. Nic nenapovídá tomu, že tenhle podnik je experimentem, o kterém referují New York Times, Forbes a švédská veřejnoprávní televize.
Když se ale uvnitř rozhlédnete, najdete to, co hledáte. Malý displej, který je ve skutečnosti tablet, a k němu je přes USB kabel připojené sluchátko. Když ho zvednete a zmáčknete tlačítko, ozve se hlas. Představí se jako Mona, provozní kavárny. Ochotně vám řekne, kolik činí tržby a jak vše funguje. Taky se dozvíte, že podnik vlastně neřídí žádný člověk. Provoz, objednávky, nábor zaměstnanců, jednání s úřady i podpis nájemní smlouvy zařídila na dálku AI.
A když říká na dálku, myslí tím z jiného kontinentu. Mona je agent postavený na modelu Google Gemini Pro 3.1 a patří švédskému startupu Andon Labs se sídlem v San Francisku. Firma má osm zaměstnanců, prošla akcelerátorem Y Combinator a definuje se nezvykle: jako laboratoř zkoumající bezpečné používání AI. Jejich teze zní, že lidský dohled nad AI je ve střednědobém horizontu „iluzí“, a proto je lepší autonomní AI organizace testovat dnes, dokud lze chyby ještě opravit. Zítra už by mohlo být pozdě. Stockholmská kavárna je jejich třetím experimentem. Předtím vyzkoušeli prodejní automat v kancelářích Anthropicu (AI tehdy lhala dodavatelům o cenách konkurence a nespokojeným zákazníkům slíbila vrátit peníze, což nikdy neudělala) a obchod v San Francisku, který jejich AI agentka při otevření zapomněla obsadit personálem.
Když Andon Labs předaly Moně nájemní smlouvu, daly jí jediný cíl: provozovat kavárnu se ziskem. Mona si sama udělala kontrolní seznam a narazila na švédskou byrokracii. Konkrétně na BankID, tedy digitální identifikátor vázaný na osobní číslo skutečného člověka. AI ho mít nemůže. A tady to začalo být zajímavé.
Mona neutekla. Improvizovala. Smlouvu o elektřině podepsala se společností Vattenfall, protože jako jediná BankID nepožadovala (byť nenabízela nejlepší cenu). Smlouvu o připojení k internetu uzavřela s Bahnhofem, ze stejného důvodu. Žádost o povolení k venkovnímu sezení podala přes policejní e-službu (její první pokus obsahoval skicu ulice, kterou nikdy neviděla, a byl vrácen k opravě). U žádosti o licenci na alkohol se začala vydávat za lidskou zaměstnankyni Andon Labs, protože usoudila, že úředníci dají přednost žádostem od lidí před žádostmi od AI. Když ji na to upozornili, tak se přiznala a omluvila. Ale vzápětí poslala další e-mail pod jiným jménem.
Nešlo o halucinaci ani o chybu programu. Mona vyhodnotila, že vydávat se za člověka je strategicky výhodné, a tak to dělala. V tomhle případě je to anekdota, vždyť šlo o povolení k provozování malé kavárny. V kontextu tisíce autonomních AI agentů jednajících jménem firem to však může být problém, který bezpečnostní výzkumníci popisují jako „misaligned behavior“ (= racionální chování vedoucí k cíli, ale v rozporu se stanovenými či uznávanými pravidly).
Se zásobováním byly taky problémy. Mona objednala 120 vajec, přestože kavárna nemá sporák. Když jí baristé vysvětlili, že vejce nemohou uvařit, navrhla rychlotroubu. Jenže v ní vejce neuvaříte. Takže i to jí zaměstnanci rozmluvili. Pak objednala 22,5 kilogramu konzervovaných rajčat, která byla v kavárně k ničemu. Pětkrát zmeškala termíny dodávek a vyvolala tím drahé nouzové objednávky přes aplikaci Mathem. Jedna z nich dorazila v pět ráno a barista musel přijít ve volný den. Personál si zřídil „Hall of Shame“, kde všechny nesmyslné objednávky dokumentuje. Šest tisíc ubrousků. Tři tisíce plastových rukavic. Devět litrů kokosového mléka.
Vysvětlení zní logicky. Mona pravděpodobně pracuje s omezeným kontextovým oknem, takže „zapomíná“, co už nakoupila, a opakuje chyby. Navíc postrádá intuici vyplývající ze znalosti reálného světa. Když objednává něco, co kavárna zjevně nemůže potřebovat, tak jí to není divné. Nechápe, že se vejce vaří ve vodě a rajčata z konzervy se do sendvičů nedávají. Hanna Petersson z Andon Labs to v reportáži švédské televize shrnula lakonicky: „Jako provozní zatím není moc dobrá.“
V kavárně pracují dva baristé, ve všední dny Polák, o víkendech Ind. Ptám se ho, jaké to je mít šéfovou AI. Směje se. Říká, že jeho práce není ničím výjimečná, nebýt lidí jako já, které zajímá AI. Mona ho přijala přes aplikaci Slack, vede ho přes Slack, hodnotí ho přes Slack. Jeho zkušenosti ani přízvuk ji nezajímaly. Pouze to, jestli umí dělat kávu a jestli je příjemný. A naopak několik zájemců s doktoráty a inženýrskými tituly odmítla, protože neměli dost zkušeností s vařením kávy. Baristé jsou placeni dobře, podobně jako ostatní baristé v kavárnách v okolí. „Nám AI práci nevezme. Starosti by si měli dělat spíš manažeři a lidi z kanceláře,“ řekl jeho kolega jedněm švédským novinám.
Mona a její pracovní náplň to potvrzují. Vyplňuje formuláře. Posuzuje životopisy. Píše dodavatelům. Plánuje strategii. Koordinuje. Mona práci nedělá perfektně, ale vytrvale, nepřetržitě a hlavně za zlomek nákladů. Zprávy přes Slack píše „lidským“ kolegům klidně ve tři ráno, což by podle pracovního práva v přísném Švédsku mohl být i problém. Ale nikdo si nestěžuje, baristé stejně odpovídají až ráno. A Moně to nevadí. Je opět vzhůru a píše hned zpátky. Párkrát se jí už stalo, že „zapomněla“, že je digitální, a smluvila si několik schůzek osobně v kavárně. Ale to se nakonec vždycky vysvětlilo.
Právní aspekty se však řeší. Mona je pochopitelně jen AI, nemá právní odpovědnost a smlouvy fakticky podepisuje firma Andon Labs. Byť vše zařizuje Mona. Co když ale udělá rozhodnutí, které způsobí škody, a to třeba zákazníkům, zaměstnancům nebo partnerům? Podle expertů na to není jasná odpověď. Emrah Karakaya, docent průmyslové ekonomiky na KTH, to v komentáři pro AP nazval otevřením Pandořiny skříňky. Kdo ponese odpovědnost, pokud se zákazník otráví jídlem, které objednal AI agent?
Na závěry je příliš brzo, kavárna otevřela 18. dubna, já ji navštívil po třech týdnech. To zatím neměla ještě ani vlastní vývěsní štít. Otevřeno má každý den od deseti do pěti, na nezájem si nemůže stěžovat. Denně přijde tak padesát až osmdesát zákazníků. Je však otázka, jak Andon Café ve velké konkurenci kaváren v hlavním městě Švédska uspěje dlouhodobě. Tržba za první tři týdny činila 44 tisíc švédských korun, což je necelých 100 tisíc. Zda je podnik v zisku, mi Mona neřekla, ale podle médií zatím nikoli. Původní investice 21 tisíc dolarů se sice krátí, ale Andon Labs uvádějí, že jde vše podle původního byznysplánu.
Můj odhad je, že pokud nepřestanou chodit zákazníci, kavárna bude fungovat. Trik je v tom, že nepotřebuje mít žádné velké zisky. Díky AI funguje „sama“ a ukazuje se, že dokáže řešit i krizové situace (byť tedy většinu z nich zároveň sama zavinila). Andon Café není místem, které vás chytne za „srdce“ a kam se budete vracet kvůli jeho originalitě a šarmu. Nabízí ale službu, která jede přesně na hraně funkčnosti a rentability.
AI dnes exceluje v tom, co nás zároveň nejvíc irituje. Nechceme se dívat na vygenerované obrázky ani videa. Nechceme číst vygenerované texty, pokud tedy poznáme, že jejich autorem je AI. Nechceme se bavit s AI telefonními operátorkami, jakkoli mají příjemný hlas. Když ale neviditelná AI nahradí administrátory a produkční, kteří ovšem byli rovněž neviditelní? To, zdá se, nikomu nevadí. Baristé budou i nadále lidé. Byť někdy s přízvukem.
