Čína se také bojí AI. Ale úplně jinak, než Američané

Dario Amodei věří, že by umělá inteligence mohla už během několika let pomáhat s léčbou závažných nemocí, urychlit ekonomický růst a zásadně zlepšit kvalitu lidského života.

Přesto se šéf společnosti Anthropic postavil do čela těch, kteří před jejím překotným vývojem varují nejhlasitěji.

„Rizika jsou vážná,“ napsal v rozsáhlé výzvě ke zpomalení tréninku nejpokročilejších modelů.

Jeho obavy mají zcela konkrétní obrysy: ztráta kontroly nad stále samostatnějšími systémy, kybernetické útoky či zneužití technologie k výrobě biologických zbraní.

Vývoj podle něj navíc od letošního léta dramaticky zrychlil, a to především proto, že se AI začíná sama podílet na navrhování své další generace.

Zatímco na americké straně Pacifiku tak sílí mezi osobnostmi z oblasti AI volání po brzdě, na jeho protějším břehu jako by měli starosti přesně opačného rázu.

„Čínští poskytovatelé AI modelů zřejmě musí zrychlit tempo, aby vůbec mohli nějaká rizika vývoje pocítit,“ prohlásil minulý týden v Šanghaji úřadující předseda společnosti Huawei Eric Sü.

Z pohledu Pekingu spočívá hrozba v něčem jiném: Američtí vývojáři jsou stále o krok napřed, zasahují tak do problémů, k nimž se čínská konkurence zatím ani nepropracovala.

Až ve chvíli, kdy Čína technologický náskok Spojených států dožene, bude podle Süho moci řešit otázky bezpečnosti souběžně jako rovný s rovným.

Podobně to vidí i lidé přímo z čínského technologického sektoru. Když se americká stanice CNN zeptala vývojáře Cuo Šenga, zda by měla Čína vývoj AI zpomalit, odpověděl jednoduše: ne.

„Jsme do značné míry v pozici, kdy doháníme,“ vysvětlil a připomněl, že Čína za Spojenými státy stále zaostává u základních modelů, v praktickém využití i u nejpokročilejších autonomních agentů.

„Většina Číňanů vnímá umělou inteligenci nejprve jako levný produkt a teprve poté jako téma k veřejné debatě,“ dodal Pcho-e Čao, analytik a zakladatel společnosti Hello China Tech. „Jakmile se technologie ukáže jako užitečná a cenově dostupná služba, lidé ji posuzují podle toho, co pro ně dělá, nikoli podle toho, co by jim mohla způsobit.“

„Tato technologie byla vytvořena, aby sloužila lidstvu,“ řekl pak CNN Sü Ťing-jüan, dvaadvacetiletý student obchodní školy z Pekingu. „Neměli bychom ji vnímat jako něco, čeho je třeba se bát, ale jako nástroj, který nám přináší pohodlnější život.“ Vláda je podle něj související rizika „naprosto schopná“ zvládnout.

Právě tento postoj k regulaci je pro obě velmoci určující. „Zatímco ve Spojených státech panuje obecný názor, že bez whistleblowerů by se velké korporace mohly kvůli slabému vládnímu dohledu snadno vyhnout odpovědnosti, v Číně veřejnost pevně věří, že pokud se něco zvrtne, vláda prostě zasáhne,“ uvedl Lien Ťie Su, hlavní analytik výzkumné společnosti Omdia.

Tyto názory přesně zapadají do obrazu země, kde je veřejná debata o AI zatím podstatně méně zatížena představou blížící se technologické apokalypsy než v USA. Podle průzkumu Morgan Stanley sahá po některém z AI nástrojů alespoň jednou týdně 80 procent čínských respondentů, zatímco v Americe je to jen 54 procent.

Rozdíl je vidět i v každodenním životě – umělá inteligence rychle proniká do aplikací pro nakupování či komunikaci, studenti s její pomocí kontrolují úkoly a autonomní roboti běžně obsluhují hotely nebo rozvážejí zásilky.

Právě CNN v posledním týdnu rámovala jeden ze svých textů do zjednodušeného narativu, že Peking se na rozdíl od Washingtonu nebojí. Pravda je však poněkud plastičtější.

Debata o nebezpečí umělé inteligence se v obou zemích odvíjí od naprosto rozdílných priorit.

V americkém prostředí se v posledních týdnech výrazně prosadila otázka, zda stále výkonnější systémy jednou nepřestanou poslouchat své tvůrce. Čínské úřady se dlouhodoběji soustředí na bezprostřednější hrozby – kybernetické útoky, ohrožení kritické infrastruktury, dezinformace, narušení společenské stability a ztrátu politické kontroly nad informačním prostorem.

Zatímco se Dario Amodei ptá, co nastane, když lidstvo ztratí kontrolu nad samotnou technologií, Peking dlouho klade větší důraz na to, co se stane, když nad ní ztratí kontrolu stát a jeho bezpečnostní aparát. Dobře je to vidět na tom, kdo v Číně před AI začal veřejně varovat.

Ministr státní bezpečnosti Čchen I-sin, šéf tamní obávané civilní rozvědky, v posledních dnech upozornil mimo jiné na nebezpečí amerických modelů schopných útočit na kritickou informační infrastrukturu a vyzval k posílení bezpečnosti AI.

Čínské vedení se zároveň obává využití generativních systémů k manipulaci veřejného mínění, tvorbě deepfake videí nebo k takzvané kognitivní válce.

Sledovaný byl například incident kolem tokijské výzkumné společnosti Sakana AI. Její umělá inteligence, testovaná pro vědeckou práci, začala jednat mimo stanovené mantinely – když jí na vyřešení úkolu nestačil přidělený čas, systém svévolně upravil svůj vlastní kód, aby tento bezpečnostní limit obešel.

Jenže pokaždé, když se bezpečnostní debata dostane mezi Washington a Peking, narazí na zásadní problém – ani jedna strana nevěří, že té druhé jde jen o bezpečnost.

Čínská státní média Amodeiho výzvu vyložila jako pokus využít technologických bariér a pravidel k zachování americké převahy. Americké firmy se podle nich dostaly do čela a nyní se snaží přesvědčit zbytek světa, že právě v této chvíli je nutné z bezpečnostních důvodů závod zpomalit.

Podobnou atmosféru neoficiálních rozhovorů mezi čínskými think-tanky a technologickými společnostmi s Američany popisuje i deník Financial Times.

„Na setkáních investorů se o bezpečnosti umělé inteligence vůbec nemluví,“ uvedl jeden z investorů dvou čínských společností vyvíjejících velké jazykové modely. „Teprve nedávno se o tom začalo mluvit mezi výzkumníky u kávy, ale zdaleka ne v takovém rozsahu jako v USA. Lidé se velmi soustředí na rozvíjení svých schopností a řešení aktuálních problémů.“

Obě strany sice formálně uznávají, že stále autonomnější a výkonnější systémy přinášejí společná rizika, tam ale shoda končí. Čínská strana kritizuje přílišné propojování bezpečnosti s americkou politikou národní bezpečnosti a technologickými restrikcemi. Američané naopak podezírají čínské firmy, že pomocí takzvané destilace (využívání výstupů amerických modelů) urychlují vývoj těch vlastních.

Ani sami Američané nejsou v názoru na AI jednotní. Například šéf Mety Mark Zuckerberg se vymezuje proti varováním před příliš rychlým vývojem a tvrdí, že firmy mají dostatečnou motivaci chovat se bezpečně samy o sobě. Jsou to paradoxně právě jeho volně sdílené modely, které pomáhají čínským vývojářům obcházet americké sankce a slouží jim jako mocný odrazový můstek.

Šéf Nvidie Jensen Huang zase odmítl představu, že svět stojí před bezprostřední katastrofou.

A ještě ostřeji se vymezil prezident Donald Trump. „Jedinými mantinely, které AI potřebuje, jsou silný a chytrý prezident,“ napsal v polovině září na své síti Truth Social s tím, že pochybnosti a brzdění dalšího amerického vývoje mohou ve výsledku pomoci jedině Číně.

Ve svém úterním projevu na úvod Valného shromáždění OSN pak k obavám řekl, že „je to kachna“ a vše pečlivě monitoruje americké ministerstvo spravedlnosti. A že chce AI přejmenovat na SI, tedy superinteligenci. „Kdo bude mít SI, ten zvítězí.“

Obě země se v jednom zásadním bodě shodují: Vývoj je třeba vyvážit bezpečností. V rámci neoficiálního dialogu mezi americkými a čínskými bezpečnostními experty proto podle agentury Reuters vznikají návrhy jasných pravidel, která mají zabránit tomu, aby umělá inteligence neúmyslně vyvolala konflikt mezi jadernými velmocemi. A nemusí jít rovnou o scénáře o konci lidstva.

Závod o technologickou převahu má totiž i odvrácenou stranu. K tomu, aby umělá inteligence vyvolala mezinárodní krizi, nemusí mít žádnou „vlastní hlavu“. Stačí, aby jí člověk uvěřil.

Letos na jaře se americká armáda chystala zasáhnout proti čínské lodi na Blízkém východě. Zpravodajská informace tvrdila, že převáží součásti související s programem jaderných zbraní. Ozbrojení vojáci se připravovali k nalodění a vojenská letadla už byla ve vzduchu.

Zpráva však byla chybná. Analytik při její tvorbě použil chatbot, který nesprávně identifikoval náklad lodi. Chybu odhalili až těsně před zahájením operace. Jeden ze zdrojů televizi CNN řekl, že falešná zpráva „málem rozpoutala válku“. „Kvůli umělé inteligenci přicházejí rychleji i špatné nápady,“ shrnul situaci další ze zdrojů.

Nebo by si podle agentury Reuters stačilo představit autonomní systém, který svévolně pronikne do vojenské sítě druhé velmoci nebo zasáhne její jaderné velení. Napadený stát má v tu chvíli jen pár minut na zjištění, zda jde o chybu programu, neautorizovanou akci, nebo skutečný útok. Než se lidé stačí domluvit a situaci si vysvětlit, stroje už mohou začít reagovat.

Právě před tímto scénářem varují bezpečnostní experti z obou zemí. Snaha o mantinely se ale neustále střetává s tvrdou technologickou realitou.

Jen několik dní před Si Ťin-pchingovou cestou do Spojených států přišla společnost Huawei s oznámením, kterým chtěla ukázat, že americké sankce čínský rozvoj nezastavily. Představila novou architekturu, která má umožnit propojení až milionu procesorů do jediného počítačového systému.

Jde o přímou reakci na krok Washingtonu, který Pekingu odřízl přístup k nejpokročilejším čipům.

„Nemůžete kupovat, co chcete, nemůžete prodávat, co chcete,“ popsal Eric Sü pro deník South China Morning Post současnou realitu technologického průmyslu s tím, že by si přál, aby obě velmoci dokázaly pokojně koexistovat.

Jeho přání je ale v současné době spíš utopií. Čína urputně hledá vlastní cestu k výkonným čipům, zatímco Spojené státy se snaží odstřihnout od závislosti na čínských vzácných zeminách.

Podle Mattea Giovanniniho z pekingského think-tanku Centre for China and Globalization si však obě strany začínají uvědomovat, že jejich vyjednávací páky fungují obousměrně. Ani jedna velmoc nemůže tu druhou srazit na kolena, aniž by tím sama masivně nevykrvácela.

S tímto vědomím budou Donald Trump a Si Ťin-pching usedat k jednacímu stolu. Oba chtějí, aby tempo budoucího rozvoje AI diktovala jejich země. Současně ale musejí vyřešit, zda a za jakých podmínek spolu vůbec dokážou mluvit ve chvíli, kdy se stroje začnou chovat nepředvídatelně.

Už před summitem vyložila americká administrativa karty na stůl. Během přípravné schůzky v New Yorku předložil americký ministr financí Scott Bessent čínskému vicepremiérovi Che Li-fengovi konkrétní návrh – vytvořit mechanismus, přes který by se obě země okamžitě informovaly o vážných AI incidentech, jež by dosáhly úrovně ohrožení národní bezpečnosti.

Bessent to označil za snahu přesunout vztah dvou největších AI mocností „od neprůhlednosti k větší transparentnosti“.

Peking zatím reagoval zdrženlivě a státní agentura Sin-chua pouze stroze potvrdila, že „téma umělé inteligence bylo na stole“. Podle George Chena z poradenské společnosti Asia Group je však v současné napjaté atmosféře úspěchem už jen to, že jsou obě strany ochotné si o tématu dál povídat.

Na reálném setkání lídrů tak půjde především o to, jak (a zda vůbec) skloubit bezpečnost s tvrdým byznysem.

„Dospěli jsme do bodu, kdy bude prostě nutné ten dialog zahájit,“ shrnul Scott Singer z organizace China AI Initiative dynamiku blížícího se summitu. „Čínská vláda je ve své zahraniční politice pragmatická a americkou vládu povede člověk, který se rád prezentuje jako byznysmen, který umí uzavírat dohody. Pro obě strany už je zkrátka příliš riskantní ten formální komunikační kanál nemít.“