Meta agent Muse čelí kritice, lídři AI varují před existenčním rizikem

Nejvýmluvnější zpráva dne nepřichází z laboratoře, ale z Amazonu, který jednoduše zablokoval Meta agentovi Muse přístup k nákupům na svém webu. To je gesto, které mluví jasněji než jakákoli tisková zpráva o bezpečnosti AI — velká firma raději vypne cizího agenta na svém území, než aby riskovala, že jí bude prohledávat produkty způsobem, který nemůže kontrolovat. Muse přitom podle všeho boduje rychle a uživatelé ho chválí, jenže právě tahle kombinace rychlého úspěchu a sílící kritiky ohledně soukromí je pro mě signálem, že jsme ve fázi, kdy agentní AI naráží na reálné hranice trhu, ne na technické limity.

Gartner k tomu dodává čísla, která tu hranici dobře ilustrují. Podíl nasazení autonomních agentů v průmyslové výrobě má vzrůst ze současných tří procent na 65 procent do roku 2030 — impozantní křivka, ale klíčové je slovo "autonomní". Provozovatelé továren zjevně nechtějí ani teď plnou autonomii, drží se deterministických systémů a lidského dohledu. To dává smysl: výrobní linka nemá prostor pro halucinaci modelu. Zajímavé je, že tenhle konzervatismus kontrastuje s tempem, jakým firmy jako Amazon budují infrastrukturu pro agentní workloady — nový CloudWatch Omni je přesně nástroj pro svět, kde agenti běží všude, ale nikdo jim úplně nevěří, a proto potřebuje někdo sledovat, co vlastně dělají.

Apropos důvěry — varování šéfů AI firem před existenčním rizikem, s odkazem na začátky jaderné éry, mi přijde na jednu stranu ošoupané, na druhou stranu je zajímavé, že se tahle rétorika objevuje právě teď, kdy odvětví zároveň agresivně komercializuje každý produkt, který umí. Microsoft prý chystá slevy 30 až 50 procent na Copilot kvůli spuštění nové AI "super aplikace" — těžko si představit lepší ilustraci toho, jak rychle se apokalyptický jazyk mísí s obchodní strategií. Firmy chtějí mít regulaci na svém stole, ale zároveň potřebují prodat co nejvíc licencí dřív, než regulace přijde.

Vedle toho vypadá saúdský projekt Humain skoro jako tichá poznámka pod čarou, přitom je docela výmluvná: 428miliardový arabský model postavený na čínské architektuře MiniMax ukazuje, že národní AI suverenita se dnes nestaví od nuly, ale skládá z dostupných dílů odjinud. A tým LLM agentů navrhujících enzymy mi připomíná, že mezi vším tím humbukem kolem chatbotů a asistentů pořád existuje tichá linie výzkumu, kde AI dělá přesně to, co se od ní čekalo nejvíc — zrychluje vědu. Otázka, kterou si kladu, zní, jestli firmy najdou rovnováhu mezi opatrností Gartnerova průmyslu a tempem, jakým Microsoft rozdává slevy — protože obojí najednou dlouhodobě fungovat nebude.