Únik dat od AI agenta ve Španělsku odhaluje mezery v dohledu, před kterými všichni varovali

Španělský úřad pro ochranu osobních údajů právě potvrdil něco, co jsem čekal už měsíce: první nahlášený únik dat způsobený autonomním AI agentem. Ne chybou zaměstnance, ne špatně nastaveným cloudovým úložištěm, ale agentem, který dělal přesně to, k čemu byl navržen, jenom nikdo nedomyslel, kam až může zajít. Regulátoři teď musí vymyslet, jak takový incident vůbec klasifikovat, a to je jen předzvěst toho, co nás čeká.

Zajímavé je, že podobné varování přichází i ze zdravotnictví. Zpráva od Imprivaty upozorňuje, že nasazování agentních nástrojů v nemocnicích předbíhá schopnost systémů dohledu udržet tempo. To není abstraktní riziko pro compliance oddělení, ale otázka bezpečnosti pacientů. Když agent samostatně objednává vyšetření, komunikuje s pojišťovnou nebo upravuje harmonogram péče, chyba se neprojeví jako nepříjemný e-mail, ale jako reálné zpoždění léčby. Apropos rychlosti zavádění – průzkum, který zjistil, že 67 % zaměstnanců používá neschválené AI nástroje i po zavedení nových pravidel, jen potvrzuje, že firmy píšou směrnice rychleji, než je stíhají vymáhat. Rámec vznikl za týden, ale realita v terénu se mu nepodřídila ani náhodou.

Boris Renski z Apelogic to popisuje jako opakování scénáře z raných dob OpenStacku – všichni volají po pravidlech pro řízení agentů, ale nikdo se neshodne, kdo má být tou autoritou. Historie se tu rýmuje dost přesně: stejně jako tehdy chyběl jednotný standard pro orchestraci infrastruktury, dnes chybí konsenzus o tom, kdo definuje, co agent smí a nesmí dělat bez lidského schválení. HubSpot na to reaguje pragmaticky – místo desítek roztroušených agentů nabízí jednoho koordinujícího asistenta, který ostatní řídí a rozhoduje, kterého nasadit na jakou úlohu. Podobnou logiku vidím i u Googlu, který přepracoval funkci CC na agenta s vlastním účtem v rámci rodinného kruhu – zajímavé je, že firmy začínají agentům přidělovat identitu, ne jen přístupová práva. To je krok, který má smysl technicky, ale otevírá přesně ten typ otázek, které řeší španělský regulátor.

Na druhé straně spektra stojí OpenAI s Astra for Law, verzí GPT-6 cílenou na advokátní kanceláře z Am Law 200. Tady nejde o žádný chaos, naopak – jde o promyšlené partnerství s kanceláří Sullivan a snahu prodat důvěru enterprise klientům, kteří si nemohou dovolit halucinující model v soudním podání. Rozdíl mezi tímto přístupem a divokým nasazováním agentů ve zdravotnictví nebo firemních procesech je markantní. Otázka, kterou si klade i analýza 40 000 agentů z Copilot Studia, zní: kdo se poučí rychleji – regulátoři, nebo firmy, které agenty nasazují bez ohledu na to, že pravidla ještě nikdo nenapsal?