AI agenti získávají právní krytí i sílu v cloudu, sliby o bezpečnosti ale mizí

Nejzajímavější zpráva dneška nemá nic společného s novým modelem ani benchmarkem — je to dopis. Bernie Sanders poslal šéfům předních AI firem, včetně OpenAI, ostrý písemný vzkaz, ve kterém je konfrontuje s bezpečnostními sliby, které podle všeho tiše opustily. Je to jeden z nejtvrdších kroků, které Kongres vůči tomuto odvětví zatím podnikl, a myslím, že to není náhoda, že přichází právě teď, kdy se agentní AI systémy začínají masově nasazovat do reálných firemních procesů. Sliby o bezpečnosti se totiž dobře dělají ve chvíli, kdy je produkt ještě laboratorní hračka. Jakmile se z něj stane byznys generující miliardy, priority se tiše přeskládají — a přesně to Sanders pojmenovává.

Apropos odpovědnost — souběžně přišlo něco, co považuji za technicky nenápadnou, ale prakticky velmi důležitou zprávu: první odvolací rozsudek týkající se AI agentů. Ten teď firmám fakticky nabízí návod, jak omezit svou právní odpovědnost za jednání autonomních systémů. Právníci očekávají, že se stane referenčním bodem pro budoucí spory, a dává to smysl — čím víc firem nasazuje agenty, kteří jednají samostatně jménem uživatele nebo organizace, tím víc bude potřeba jasně vymezit, kde končí odpovědnost výrobce a začíná odpovědnost provozovatele. Je zajímavé sledovat, jak se právní rámec formuje reaktivně, judikaturou, zatímco regulace na úrovni zákonů pořád zaostává.

A přesně do tohoto prostředí teď firmy hrnou infrastrukturu. Nutanix otevřel svůj Cloud Platform AI agentům přes open-source MCP server — stejný krok, o kterém informovaly hned dva zdroje, což samo o sobě ukazuje, jak rychle se Model Context Protocol stává de facto standardem pro propojení agentů s podnikovými systémy. Podobně Harvey prohlubuje spolupráci s Microsoftem a dostává své právní AI agenty přímo do 365 Copilotu. Obě zprávy mají společného jmenovatele: agenti přestávají být experiment na okraji a stávají se součástí základní firemní infrastruktury. To je přesně ten moment, kdy otázky odpovědnosti a bezpečnostních závazků, které Sanders otevírá, přestávají být teoretické.

Vedle toho vypadá zpráva o CoLA, nové metodě efektivnějšího trénování jazykových modelů, skoro jako z jiného světa — čistě technický pokrok bez politického kontextu. Ale i tady platí, že levnější trénování znamená víc hráčů schopných stavět vlastní modely, a tedy i víc subjektů, na které se budou muset vztahovat pravidla, o kterých se teď teprve začíná diskutovat. Otázka, kterou si kladu, zní: podaří se nastavit odpovědnost a dohled dřív, než se agentní systémy stanou tak všudypřítomnými, že to už nepůjde dohnat?