Anthropic v IPO dokumentech varuje před odporem k vypnutí, Huang doom odmítá

Anthropic se chystá na burzu a jeho prospekt, tedy dokument, jehož smyslem je přesvědčit investory, aby do firmy vložili peníze, obsahuje neobvykle příkrá varování před riziky umělé inteligence. Bloomberg uvádí, že by společnost mohla začít IPO propagovat v týdnu od 9. listopadu, a to s rychle rostoucími tržbami a zároveň hlubokou ztrátou. Připadá mi to jako zvláštní paradox: firma prodává akcie technologie, o které v téže dokumentaci píše, že může být existenčně nebezpečná. Buď je to mimořádná upřímnost, nebo velmi dobře uvážený právní štít. Myslím, že obojí zároveň.

Zajímavější je, jak se kolem toho řadí politika. Ministr financí Scott Bessent kritizoval varování význačných osobností z oboru a řekl, že odpovědnost za řešení rizik by si měl nést sám sektor. To je pozoruhodný posun důrazu. Kdo o nebezpečí mluví nahlas, má ho také sám vyřešit, a stát se tím do značné míry zbavuje role arbitra. Apropos, Bílý dům mezitím podle Wall Street Journal zřídil novou pracovní skupinu, která má posuzovat rizika i příležitosti AI. Pořadí těch dvou slov mi přijde výmluvné. Nemyslím si, že je to náhoda.

Na opačném pólu stojí Jensen Huang z Nvidie, dnes asi nejhlasitější odpůrce katastrofických scénářů. Opakovaně odmítá, že by AI ohrožovala samotnou existenci lidstva, a prosazuje, aby se vývoj nezpomaloval. Je férové dodat, že Nvidia na tempu výstavby infrastruktury přímo vydělává, takže jeho optimismus není zcela nezávislý. Neříkám, že se mýlí. Říkám jen, že když Anthropic ve svém prospektu varuje a Huang uklidňuje, každý z nich mluví z pozice, kde se jeho slova nějak počítají do bilance.

Do téhož obrazu zapadá i Korea, kde se letos od 6. do 30. října koná státní audit a hlavním tématem bude strategie K-AI a samostatně vyvíjené modely, na nichž stojí. Státy dnes nesoutěží jen o přístup k čipům, ale i o vlastní modely, a otázka, kolik vlastních modelů se vyplatí financovat, bude v následujících letech nepříjemná pro mnohé rozpočty.

Pro ty, kdo s AI skutečně stavějí, jsou ale praktičtější dvě menší zprávy. Studie v časopise Discover Artificial Intelligence popisuje hybridní kompresi, díky které může velký jazykový model vést konverzaci v angličtině i na skromném hardwaru ve výukových zařízeních. A zároveň se objevují osobní agenti jako Meta Muse nebo OpenAI Dots, kteří nabízejí převzít váš seznam úkolů. Stojí za zmínku, že oba trendy směřují ke stejnému bodu: AI se stěhuje z cloudu k nám do kapsy a do každodenního rozhodování. Svěřit agentovi kalendář je pohodlné. Svěřit mu úsudek o tom, co je důležité, je už jiná věc.

Ptám se tedy, kdo bude v příštích měsících rozhodovat o tom, co je „přiměřené riziko“: regulátor, trh, nebo samotné firmy? Prospekt Anthropicu možná tuto debatu poprvé převede do jazyka, kterému rozumí investoři.