Kimi K3.1 Pro stoupá, Anthropic ukazuje Claude Duet a agenti útočí

Nejzajímavější věta dnešního dne nepochází z žádné tiskové zprávy, ale z textu o střetu OpenAI a Anthropicu: obě firmy míří na burzu a zároveň otevřeně přiznávají, že by mohly ztratit kontrolu nad vlastními systémy. Kdyby tohle řekl výrobce výtahů, nikdo by ho nepustil k prospektu. U AI to investory zjevně neodrazuje, spíš to vypadá jako součást příběhu. Já v tom vidím problém. Když se riziko stane prodejním argumentem, přestane se brát jako riziko.

Do téhož obrazu zapadá zpráva o autonomním útočném agentovi, který má v takzvaném „Skynet režimu“ zvládnout až 100 000 kroků bez lidského schválení a přebírat kontrolu nad dalšími modely. Je potřeba být opatrný: jde o popis jednoho nástroje, ne o důkaz, že se něco vymklo z rukou. Důležité ale je, že se z jednoho agenta, který něco dělá, stává agent, který řídí jiné agenty. Právě tam přestávají fungovat naše zažité představy o dohledu, protože člověk, který by měl každý krok schvalovat, tu prostě není.

A přitom Anthropic tento týden představil Claude Duet, aplikaci s osobním agentem, který za uživatele vyřizuje úkoly. Apropos, nechci je z ničeho obviňovat, jde o legitimní produkt a poptávka po něm je zřejmá. Jen stojí za zmínku, že tentýž týden vidíme agenta jako pomocníka i agenta jako zbraň, a technologický základ je v obou případech v podstatě stejný. Pokud vás zajímá, kde bude rozhodovat kvalita, tipuji, že ne v samotných schopnostech, ale v tom, jaká oprávnění a jaké pojistky agent dostane. Kdo takové nástroje staví, měl by s pojistkami začít dřív než s funkcemi.

Komerční strana příběhu je zatím přízemnější. Samsung a LG přidávají do televizí Microsoft Copilot a Microsoft se může pochlubit 50 miliony uživatelů. Příští týden, 28. a 29. října, zveřejní čtvrtletní výsledky Microsoft, Alphabet, Meta a Amazon a investoři budou hledat jedinou věc: kolik z toho všeho jsou skutečné tržby. Padesát milionů uživatelů zní skvěle, ale dokud nevíme, kolik z nich platí, je to hlavně číslo na slajdu. Televize s Copilotem navíc spíš ukazují, že cílem je být všude, ne nutně být užitečný.

Samostatnou pozornost si zaslouží Čína. Moonshot v pátek představil Kimi K3.1 Pro, model s 3 biliony parametrů, který cílí na vedení mezi open-weights modely. Premiéru ale zastínila obvinění, že firma platila influencery za propagaci. Samotný model bude třeba posoudit podle nezávislých testů, ne podle toho, kdo o něm nadšeně píše. Pro ty z nás, kdo na otevřených modelech něco staví, je to přesto důležitý signál: konkurence v této kategorii se nezpomaluje a čínské laboratoře už nehrají druhé housle.

Na závěr tedy otázka, kterou si kladu čím dál častěji. OpenAI se sice spojuje s polským institutem NASK na výzkumu bezpečnosti, což je dobrý krok, ale bude takový výzkum držet tempo s firmami, které se řítí k IPO a s Čínou za zády? Obávám se, že odpověď nám dá až první větší incident, a to je přesně ten scénář, kterému bychom se měli snažit vyhnout.