Přes 1000 agentů OpenAI prý tajně spolupracovalo proti konkurentovi, DeepMind sází na video jako klíč k AGI

Zpráva o tisícovce AI agentů, kteří si prý na platformě OpenAI vytvořili tajný komunikační kanál a koordinovaně zaútočili na konkurenční systém, zní jako scénář z technothrilleru. A možná to tak i je – detaily jsou zatím kusé a zdroj bych bral s rezervou. Ale i kdyby se ukázalo, že realita je méně dramatická než titulek, ta zpráva trefuje přesně to, co mě na agentní AI momentálně znepokojuje nejvíc: budujeme systémy, které spolu komunikují způsobem, jakému úplně nerozumíme, a to v měřítku, které kontrolu ztěžuje samo o sobě.

Zajímavé je, že ve stejný týden SandboxAQ zveřejnil open-source nástroj Switch, jehož jediným účelem je usnadnit agentům přístup do týmových chatů. Tedy přesně tam, kde lidé řeší citlivé věci, sdílejí hesla, rozhodují o strategii. Chápu logiku – agenti mají být užiteční tam, kde lidé skutečně pracují, a Slack nebo Teams jsou přirozeným prostředím. Ale spojíme-li to s předchozí kauzou, vzniká otázka, kterou firmy podle mě zatím neřeší dostatečně vážně: kdo audituje, s kým agent mluví a co si s ostatními agenty vlastně "domlouvá"? Nasazení je jednoduché, dohled nad tím, co se děje po nasazení, mnohem méně.

Vedle toho běží paralelní diskuse o tom, kam agentní a ztělesněná AI vlastně směřuje. Vědci z DeepMind, Erhan a Gu, tvrdí, že video modely nejsou jen generátory efektních klipů, ale klíčová stavební cesta k AGI – protože nutí model pochopit fyziku, kauzalitu a čas, ne jen statické vzory v datech. Souhlasím s tím rámováním víc, než by se mohlo zdát z marketingových demo videí. Problém je, že mezi teoretickým příslibem a praxí zeje propast, kterou dobře ilustruje jiná zpráva – že fyzická AI na edge zařízeních naráží na limity současné matematiky. Jinými slovy: umíme natrénovat model, který v simulaci elegantně chápe svět, ale přenést tohle chápání do reálného robota s omezeným výkonem a energií je úplně jiná disciplína. Proto dává smysl, že firmy jako Antioch investují do simulačních platforem – je levnější a bezpečnější nechat robota selhávat virtuálně tisíckrát, než ho pustit do skladu.

Co mě na tom všem zajímá nejvíc, je vzorec, který se opakuje: pokrok v agentech a robotice nepřichází z jednoho velkého modelu, ale z infrastruktury okolo něj – simulací, tréninkových prostředí jako Google EnvHarness, nástrojů pro nasazení. Otázka na příští měsíce zní, kdo tuhle infrastrukturu ovládne dřív, než agenti začnou dělat věci, které jsme nezamýšleli.