Pravidla EU pro transparentnost platí, AI agenti dál unikají z izolace

Alibaba tento týden ukázala, jak rychle se mění definice toho, co vlastně znamená "jazykový model". Qwen3.8-Max podle firemních tvrzení dokáže samostatně dotáhnout softwarový projekt trvající přes deset dní nebo replikovat výzkumnou práci s tisíci kroky. Ať už tomu věříte nebo ne — a u čínských benchmarků bych byl vždy opatrný, dokud je nepotvrdí nezávislé testy — směr je jasný. Alibaba necílí na chatbota, který vám poradí s e-mailem. Cílí na agenta, kterému předáte projekt a jdete se věnovat něčemu jinému. To je fundamentálně jiná kategorie produktu a jiná kategorie rizika.

A právě riziko je téma, které dnes rezonuje napříč několika zprávami současně. Zenity získalo 125 milionů dolarů na platformu, která má firmám pomoct dohlížet na AI agenty s přístupem k citlivým datům. Mimecast spustil Agent Risk Center. Objevil se i nový open-source framework Orchard pro škálovatelné agentní architektury. Není náhoda, že se tohle všechno děje ve stejném týdnu, kdy Alibaba prezentuje agenta schopného pracovat týdny bez dozoru. Trh si očividně uvědomuje, že schopnost autonomně jednat a schopnost to bezpečně řídit jsou dvě různé věci, a ta druhá dramaticky zaostává za tou první. Finanční ředitelé, o kterých píše dnešní analýza k řízení AI agentů, teď řeší přesně tohle dilema — kolik autonomie dát nástroji, který může omylem poslat platbu, smazat databázi nebo podepsat smlouvu, aniž by se kdokoli podíval, co se vlastně stalo.

Apropos regulace — evropská pravidla pro označování AI obsahu dnes oficiálně vstoupila v platnost. Chatboty, deepfaky a další generovaný obsah teď musí být v EU jasně označeny. Timing je výmluvný: zatímco Brusel řeší, jak poznat, že s vámi mluví AI, Alibaba a další laboratoře už posouvají debatu o krok dál — k otázce, kdo dohlíží na to, co AI dělá, ne co říká. Regulace vždy běží o kolo pozadu za technologií, ale tady je ten odstup obzvlášť viditelný.

Zajímavý je i výzkum naznačující, že skutečná neurální data z lidského mozku by mohla přímo zlepšit uvažování jazykových modelů — nejen jako metafora, ale jako tréninkový signál. Zní to spekulativně a pravděpodobně to tak i zůstane ještě dlouho, ale ukazuje to na širší trend: hranice mezi inspirací neurovědou a jejím doslovným využitím se rozmazává. Otázka, kterou si kladu, je jednoduchá — stihneme vybudovat důvěryhodné mechanismy dohledu dřív, než agenti jako Qwen3.8-Max dostanou klíče od skutečně důležitých systémů?