Microsoft hlásí 40 milionů nasazených AI agentů díky Agent 365

Čtyřicet milionů nasazených AI agentů za dva měsíce. Tohle číslo od Satyi Nadelly bych si nechal na chvíli projít hlavou, protože ukazuje něco, co se v diskuzích o agentní AI často ztrácí — adopce už neběží v teoretické rovině pilotních projektů, ale v masovém měřítku napříč desítkami tisíc firem. Microsoft se svým Agent 365 evidentně trefil do momentu, kdy podniky přestaly agenty testovat a začaly je nasazovat do produkce. A přesně tady se láme zajímavý paradox celého odvětví.

Ten paradox spočívá v tom, že zatímco firmy horečně škálují agentní infrastrukturu, samotné modely pod kapotou se mění rychleji, než na to stihnou reagovat. Anthropic svým Opusem 5 naznačuje, že výkonnější LLM potřebují úplně jiný přístup k tomu, jak se jim předává kontext — nejde jen o napojení nového modelu na existující workflow, ale o přepracování celé architektury kolem toho, jak model přemýšlí. Jinými slovy, firmy, které si dnes postaví agentní systém kolem konkrétního modelu, riskují, že za půl roku bude jejich pečlivě vyladěný workflow brzdit právě to, co mělo zrychlovat. Ethan Mollick z MIT proto přichází v pravou chvíli s praktickým průvodcem, jak agenty skutečně delegovat — protože otázka už není „jestli agenty nasadit", ale „jak s nimi pracovat, aniž by se stali černou skříňkou, která dělá věci jinak, než čekáte".

A tady se dostáváme k tomu, co mě na dnešním zpravodajství zajímá nejvíc — kontrola. Google zpřístupnil nástroje pro hodnocení agentů v Gemini Enterprise všem uživatelům, Groundcover trvá na tom, že telemetrie agentů by neměla opouštět firemní cloud, H2O.ai se chlubí zabudovanou governance. Všechny tyhle kroky směřují jedním směrem — snahou udržet dohled nad systémy, které jednají čím dál autonomněji. Jenže právě v okamžiku, kdy odvětví buduje observabilitu pro jednotlivé agenty ve firmách, přichází studie ukazující, že přední laboratoře jako Anthropic, OpenAI a Google DeepMind nemají pořádný plán pro katastrofické scénáře na úrovni celého odvětví. Je to zvláštní nesoulad měřítek: firmy si hlídají, jestli jejich chatbot správně odpoví zákazníkovi, zatímco lidé, kteří tyto modely stavějí, přiznávají, že by nad nimi mohli ztratit kontrolu úplně.

Nemyslím si, že jde o důvod k panice, ale o důvod k trpělivosti. Když se čtyřicet milionů agentů rozběhne rychleji než schopnost je monitorovat, a zároveň chybí shoda na tom, jak řešit ty nejhorší scénáře, je docela legitimní ptát se, jestli budujeme infrastrukturu kontroly stejným tempem jako infrastrukturu schopností. Apropos, možná je to ta nejdůležitější otázka příštích měsíců.