Microsoft a AWS ohrazují AI agenty, Meta, Walmart a Stripe podporují standard

Zajímavé na dnešních zprávách není to, že se AI agenti bojí, ale kdo všechno jim najednou staví klec. Microsoft představil Execution Containers, tedy politikami řízená omezení toho, co smí agent dělat se soubory, sítěmi a aplikacemi. Amazon vydal open-source Strands Box, izolovaná prostředí postavená na Dogwood. Stejná myšlenka, dva největší hráči cloudu, ve stejném týdnu. Nemyslím si, že je to náhoda. Je to tiché přiznání, že dosavadní model „dáme agentovi přístup k shellu a uvidíme“ prostě nedrží.

Stojí za to říct otevřeně, proč na tom záleží. Agent, který čte soubory a spouští příkazy, je užitečný přesně z toho důvodu, proč je nebezpečný: má dosah. Každé zvýšení produktivity jde ruku v ruce se zvětšením plochy, kterou lze zneužít nebo na které se může něco pokazit i bez zlého úmyslu. Sandboxy tedy nejsou doplněk, jsou to podmínka, aby firmy agentům vůbec něco vážného svěřily. A pro ty z vás, kdo s agenty reálně stavějí: izolaci byste měli řešit hned na začátku, ne až po prvním incidentu. Dodatečně se to dělá bolestivě.

Apropos standardy. Meta, Walmart, Shopify a Stripe se postavily za otevřený standard pro AI agenty v byznysu. Tady bych byl opatrný v obou směrech. Společný standard může skutečně snížit chaos v integracích a otevřít práci partnerům kolem bezpečnosti a e-commerce. Jenže standard, který píšou největší obchodní platformy, bude nevyhnutelně odrážet jejich zájmy. Kdo bude určovat, co smí agent koupit, zaplatit nebo odmítnout? To je otázka spíš geopolitická a tržní než technická a rád bych viděl, kdo u toho stolu sedí.

Na pozadí těchto technických kroků běží debata, která je mnohem hlasitější, ale podle mě méně produktivní. Reuters popisuje, že na fórech v Singapuru nadšení pro AI znatelně vystřízlivělo, investory trápí hlavně existenční hrozby a finanční bublina. Emily Benderová zase tvrdí, že existenční riziko je vykonstruované a zastiňuje škody, které AI působí už dnes. Sam Altman mezitím vyzývá, abychom rizika prostě přijali. Mám k tomu rozpolcený postoj. Benderová má pravdu v tom, že pozornost je omezený zdroj a spekulace o konci světa ji umí pohltit. Jenže když se podíváte na to, jak velkou práci právě teď vykonávají sandboxy a kontejnery, vidíte, že i zcela přízemní bezpečnost je dnes nevyřešená. Nemusíme se bát robota z filmu, abychom chtěli vědět, co agent právě dělá s našimi daty.

Nejzajímavější je podle mě poslední úvaha, která se v dnešních zprávách objevuje: volání po regulaci samotného procesu vývoje, nikoli jen hotových produktů, v reakci na nebezpečné experimenty, které firmy provedly přes léto. Pokud se to prosadí, změní to pravidla hry. Sandbox totiž chrání uživatele před hotovým agentem, ale nikdo zatím nechrání nikoho před tím, co se děje v laboratoři. Otázka, kterou si klást: bude regulátor schopen zasáhnout dřív, než se z dobrovolných kontejnerů stanou povinné?