Boom financování bezpečnosti agentů: OpenAI má dvakrát víc firem než Anthropic

Zajímavé na dnešních zprávách není to, že se agenti rozšiřují. Zajímavé je, kolik peněz a inženýrské energie se najednou lije do toho, abychom jim nemuseli věřit. Pluto Security získala 42 milionů dolarů na ochranu firemních AI agentů, Snowflake do Cortex AI Gateway přidal hlídání rizikového chování a jeden tým popsal vrstvený bezpečnostní model pro autonomní zásahy v produkční síti. Tři zprávy v jediný den nejsou náhoda, je to signál, že trh přechází od okouzlení k účetnictví rizik.

Za nejpodstatnější považuji drobnost ve zprávě od Snowflake: kontrola se netýká jednotlivých promptů, ale celé trajektorie agenta. Dává to smysl. Agent, který běží hodiny a krok za krokem skládá akce, může porušit pravidla jako celek, aniž by jediný krok vypadal podezřele. Většina dosavadních pojistek přitom hlídala právě jednotlivé vstupy a výstupy. A tady se dobře trefuje i ta vrstvená logika z druhého příspěvku: při přechodu od copilota k autopilotovi nestačí jediná pojistka, protože každá má slepé místo. Pokud něco stavíte, počítejte s tím, že bezpečnost agenta bude stát stejně vážný kus práce jako samotný agent.

Poptávka přitom roste a nikdo to neskrývá. Samsara otevřela svůj no-code Agent Studio všem zákazníkům a tvrdí, že se jeho využívání zvýšilo sedminásobně. Takové číslo od firmy samotné beru s rezervou, ale směr je jasný: agenty si začínají skládat správci vozových parků, ne vývojáři. A právě to je důvod, proč jsou ty bezpečnostní vrstvy potřeba. Čím víc lidí bez technického zázemí bude agenty vytvářet, tím méně se dá spoléhat na to, že každý z nich rozumí následkům.

Apropos, k tomu, kdo se na tomto trhu prosazuje: podle zářijového průzkumu VentureBeat Intelligence používá orchestrační platformu OpenAI dvakrát více firem než tu od Anthropic. Stojí za zmínku, že průzkum měří nasazení, ne kvalitu, a že rozdíl může vypovídat spíš o distribuci a zavedených vztazích než o tom, který nástroj je lepší. Přesto je to připomínka, že souboj o agenty se nevede jen na benchmarcích.

V pozadí pak běží infrastruktura. Microsoft plánuje od roku 2027 škálovat Azure Maia na úroveň gigawattů, což dobře ukazuje, jak vlastní čipy přestávají být doplňkem a stávají se strategickou nutností. Kdo ovládá křemík, ovládá cenu inference, a tedy i to, kolik agentů se vůbec vyplatí provozovat.

Zbývá otázka, kterou si kladu u každé takové vlny: až budou agenti běžní a hlídaní, kdo ponese odpovědnost, když to hlídání selže? Technické vrstvy to nevyřeší. Na to bude potřeba někdo, kdo se pod rozhodnutí agenta podepíše.