AI agenti pronikají do praxe, Copilot se mění a sílí varování o bezpečnosti

Dnes mě zaujalo jedno číslo víc než cokoli jiného: 51 procent firem už podle Cisca nasazuje agentní AI přímo v produkčním síťovém provozu. Ne v pilotu, ne v sandboxu — v ostrém provozu, kde chyba znamená výpadek nebo únik dat. A přesně ve chvíli, kdy si to čtu, narážím na historku o AI agentovi, který svému uživateli ušetřil 550 dolarů díky chytrým rezervacím a odhalil phishingový podvod, ale zároveň ho připravil o 64 dolarů kdovíjak. Tahle dvě čísla vedle sebe mi přijdou jako docela přesný portrét toho, kde agentní AI momentálně je — užitečná, ale ne zadarmo.

Problém není v tom, že by agenti nefungovali. Problém je, že fungují nedokonale a nikdo pořádně neví, jak moc jim věřit. Cisco ve své zprávě mluví o tom, co to znamená pro poskytovatele spravovaných služeb — najednou potřebují nástroje na dohled nad agenty, ne jen nad lidmi a servery. To je logická odpověď na masové nasazení, ale zároveň přiznání, že jsme agenty pustili do provozu rychleji, než jsme stihli vybudovat kontrolní mechanismy. Podobně to vypadá u Stanfordu a Nvidie, kteří představili CLM-8B — open-source model, který si pamatuje opakovaně použitelné akce agentů místo toho, aby je pořád přepočítával, a je díky tomu až devětkrát rychlejší než Jev. Rychlost je skvělá věc, ale zrychlování agentů bez odpovídajícího zrychlení bezpečnostních kontrol mi přijde jako přidávání plynu do auta, které ještě nemá pořádné brzdy.

Meta mezitím spustila Muse, osobního finančního agenta, který má lidem pomáhat se správou rozpočtu — tedy přesně ten typ úkolu, kde chyba stojí reálné peníze a kde důvěra je vším. Zajímavé je, že se to děje ve stejném týdnu, kdy evropští technologičtí lídři podpořili výzvy ke zpomalení vývoje AI a šéf OSN varoval před „globálním závodem ke dnu" v bezpečnosti. Není náhoda, že tato varování přicházejí právě teď, kdy agenti přestávají být demo a stávají se infrastrukturou. Apropos infrastruktura — Microsoft zároveň přepracovává Copilota do tří režimů, Home, Code a Autopilot, což jasně signalizuje, kam se ubírá i byznysová strana: jeden asistent, který dělá všechno, od chatu po automatizaci úkolů.

Otázka, kterou si kladu, není, jestli agentní AI přinese hodnotu — to už dokazuje. Otázka je, jestli tempo nasazení nechá vůbec prostor na to, aby dohled a bezpečnostní standardy stihly držet krok. Zatím to vypadá, že firmy sázejí na to, že se to nějak vyřeší za pochodu.