Senátor Warner přichází s první regulací agentní AI

Zatímco Washington teprve sepisuje první paragrafy zákona o agentní AI, útočníci už dávno mají hotový produkt. JADEPUFFER, ransomwarová operace odhalená firmou Sysdig, je podle všeho první doložený případ vyděračského útoku řízeného autonomním AI agentem od začátku do konce. Ne asistovaného, řízeného. To je rozdíl, který si myslím zaslouží víc pozornosti, než kolik se mu zatím dostává – protože zatímco komentátoři diskutují o tom, jestli agentní AI je hype nebo skutečnost, kriminální ekosystém už ji nasadil do provozu a zlevňuje ji stejně rychle, jako to dělá s legitimními nástroji.

Senátor Warner na to reaguje návrhem AI AGENT Act, prvním federálním pokusem regulovat, co smí autonomní systém dělat jménem člověka nebo firmy. Právní expertka Ellen Goodman z Rutgers upozorňuje, že jde o skutečně první text tohoto druhu na federální úrovni – dosud jsme měli jen rámcová prohlášení o odpovědnosti AI, ne konkrétní pravomoci a hranice pro agenty jednající autonomně. Problém je timing. Regulace vzniká reaktivně, poté co bezpečnostní komunita už zdokumentovala první útok v reálném světě. To je vzorec, který u AI vidíme opakovaně – nejdřív se něco stane, pak se o tom začne mluvit v Kongresu. Firmy jako Keeper mezitím řeší problém prakticky: rozšiřují správu koncových zařízení tak, aby zahrnovala i schvalování akcí prováděných AI agenty, protože bezpečnostní týmy zjišťují, že jejich stávající nástroje prostě nepočítaly s tím, že rozhodnutí bude dělat software, ne člověk. Apropos, tohle je přesně ten typ mezery, kterou byznysy budující agentní systémy často objeví až ve chvíli, kdy je pozdě.

Druhá linie dneška je geopolitická a týká se toho, kdo vlastně tu infrastrukturu bude ovládat. Helsing, německý obranný startup a evropská odpověď na americký Anduril, získal 1,8 miliardy dolarů při valuaci 18 miliard – a firma sama říká, že poptávka investorů výrazně převýšila nabízenou alokaci. To není jen další velké kolo financování, je to signál, že Evropa konečně staví vlastní kapacitu pro obrannou AI místo spoléhání na americké dodavatele. Souběžně s tím čínské jazykové modely stále více pronikají do zahraničních firem, včetně amerických a evropských – ne kvůli ceně, ale proto, že jsou skutečně konkurenceschopné. Peking si zároveň připravuje vlastní bezpečnostní benchmark pro řešení halucinací a úniků dat, což ukazuje, že i čínský stát si je vědom rizik, která jeho vlastní modely nesou.

Spojuje to jedna otázka: kdo stanoví pravidla dřív, než technologie překročí hranici, kterou nikdo nestihl definovat? Zatím to vypadá, že to nebudou zákonodárci.