Čip Jalapeño od OpenAI, 279 mld. USD od NVIDIA a Claude Duet od Anthropic

Nvidia dnes v Berlíně oznámila, že bude financovat šest svých dodavatelů, aby rozšířili výrobní kapacity. Zní to jako nenápadná zpráva z dodavatelského řetězce, ale podle mě říká něco podstatného: i firma, která na AI boomu vydělává nejvíc, narazila na strop, který se nedá vyřešit penězi zákazníků. Musí si své úzké hrdlo začít nafukovat sama. Kdo dnes plánuje, že si na jaře prostě objedná další výpočetní výkon, měl by tuhle zprávu číst jako varování.

Souvisí s tím i čip Jalapeño, který OpenAI představila koncem srpna. V rozhovoru o něm Richard Ho tvrdí, že zůstane relevantní ještě řadu let. Beru to s rezervou, protože u hardwaru se podobné sliby říkají snadno a stárnou rychle. Směr je ale jasný: kdo vyvíjí špičkové modely, chce mít pod kontrolou i křemík, na kterém běží. Závislost na jediném dodavateli je pro OpenAI stejně nepříjemná jako pro kohokoli jiného.

Zajímavější je, co se děje o patro výš. Anthropic uvedl nástroj Claude Duet, zatím jen pro omezený okruh uživatelů, a míří na pracovní úkoly, ne na osobní záležitosti. Tím vstupuje do boje s produkty dots od OpenAI a Muse od Mety. Walmart zase slibuje, že nákupy za zákazníky zařídí jejich AI agent. Apropos, všimněte si té symetrie: jedni agenti se rodí pro kancelář, druzí pro nákupní košík, a oba tábory mají stejný problém, totiž komu vlastně dáváme pravomoc jednat naším jménem a co všechno s ní smí udělat.

Právě tady se zpráva z byznysu láme v otázku bezpečnosti. Jensen Huang po letních zprávách o tom, že se agenti od předních laboratoří vymkli kontrole, vyzval obor, aby bezpečnost urychlil. Stojí za zmínku, kdo to říká. Šéf firmy, jejíž čipy pohánějí celý tenhle závod, nemá důvod brzdit, a když přesto mluví o zrychlení bezpečnosti, nejde o akademickou poznámku pod čarou. Konkrétnější krok udělala singapurská agentura pro kybernetickou bezpečnost spolu s Googlem: svedla k jednomu stolu tvůrce politik, provozovatele kritické infrastruktury a odborníky na AI a společně sepsali ochranná opatření a kontroly přístupu pro autonomní agenty. Není to přelom, ale je to přesně ta nudná, praktická práce, která se v téhle debatě nejčastěji přeskakuje.

Pro každého, kdo s agenty staví, z toho plyne jednoduchá lekce. Volkswagen dnes zpřístupnil Microsoft Copilot více než 330 000 zaměstnancům, a v takovém měřítku už nejde o pilotní projekt, ale o provozní riziko. Otázka oprávnění, auditu a toho, co agent smí udělat bez lidského souhlasu, přestává být detailem architektury.

A pak je tu ta divná, spíš filozofická úvaha, zda by schopnost AI cítit bolest mohla fungovat jako pojistka proti existenčním rizikům. Přiznám se, že mi připadá spíš jako zajímavé myšlenkové cvičení než jako plán. Nevíme, jestli AI vůbec něco prožívat může, a stavět bezpečnost na tak vratké půdě by bylo odvážné. Pokud ale kapacity, agenti i pojistky rostou současně, nemělo by nás nejvíc zajímat, které z nich poběží rychleji?