NVIDIA představila Audex, LLM spojující audio a text bez ztráty jazykových schopností

Nejlepší známka na žebříčku AI bezpečnosti dnes zní jako C+. Ne A, ne B, ale céčko s plusem – a to patří Anthropicu, firmě, která si bezpečnost dala přímo do zakladatelského příběhu. Future of Life Institute zveřejnil nový AI Safety Index a výsledek je výmluvný nejen tím, kdo vyhrál, ale tím, že nikdo nesplnil nejvyšší standardy v řízení rizik. Anthropic, OpenAI a Google DeepMind obsadily první příčky, což samo o sobě nic moc neznamená – jde spíš o to, že zbytek odvětví je výrazně horší. Někteří hráči, konkrétně SpaceXAI, dostali rovnou F.

Co mě na tom zaráží, je kontrast s tím, jak se o bezpečnosti AI dnes mluví. Před třemi lety to bylo téma pro pár výzkumníků a čtenáře LessWrongu, dnes o něm ví prakticky každý, kdo sleduje technologické zprávy. Jenže znalost pojmu neznamená znalost obrany. Většina lidí ví, že „AI safety" existuje jako problém, ale jen málokdo – včetně firem, které modely nasazují – má konkrétní představu, co dělat, když se agent chová nepředvídatelně nebo model při odpovídání halucinuje způsobem, který má reálné důsledky. Tahle mezera mezi povědomím a praktickou obranou je podle mě to nejzajímavější zjištění celého žebříčku.

Zvlášť naléhavé je to ve světle toho, jak rychle se buduje agentní infrastruktura. Oracle právě představil Autonomous AI Database A2A Server, tedy plně spravovanou funkci pro řízenou komunikaci mezi AI agenty napříč organizacemi. NVIDIA zase chystá CPU Vera, které má zrychlit propustnost celých „AI factory" pro agentní zátěže – tedy víceúrovňové workflow kombinující inferenci, nástroje, kód a orchestraci. Jinými slovy: infrastruktura pro autonomní agenty se staví raketovým tempem, zatímco bezpečnostní rámce podle FLI zaostávají za tím, co tahle infrastruktura umožňuje. To je přesně ta kombinace, která mi dělá starosti – ne proto, že by agenti byli sami o sobě nebezpeční, ale proto, že se škálují rychleji, než dokážeme ověřit, jak se chovají v hraničních situacích.

Apropos škálování – zajímavý je i byznysový úhel pohledu. Nomos AI (dřív Norm AI) právě získal 120 milionů dolarů při valuaci 1,2 miliardy na platformu, která zavádí právní procesy přímo do AI agentů. To je přesně ten typ aplikace, kde bezpečnost přestává být akademickou otázkou a stává se otázkou odpovědnosti – kdo nese vinu, když právní agent udělá chybu s reálným dopadem na klienta? Firmy jako Anthropic mají na papíře nejlepší známku, ale i C+ znamená, že ani lídr oboru nemá řízení rizik plně pod kontrolou. Otázka, kterou bych si kladl, není, jestli agentní AI dorazí do právních kanceláří a databázových systémů – to už se děje. Otázka zní, kdo bude platit cenu za to, že jsme infrastrukturu postavili rychleji než bezpečnostní záruky kolem ní.