NVIDIA představila Audex, LLM spojující audio a text bez ztráty jazykových schopností
středa 8. července 2026 | 57 článků
Dnešní přehled zdůrazňuje rostoucí kontrolu bezpečnosti AI, přičemž think-tanky varují, že velké AI společnosti—včetně Google, Anthropic a OpenAI—nedostatečně plní bezpečnostní závazky, zatímco některé firmy od dřívějších slibů ustupují. Zároveň zrychluje nasazování AI agentů v podnicích, což dokládá investice 120 milionů dolarů do Norm Ai při ocenění 1,2 miliardy dolarů pro právní AI agenty a nový hardware a multimodální modely NVIDIA určené pro agentní úlohy.
Nejlepší známka na žebříčku AI bezpečnosti dnes zní jako C+. Ne A, ne B, ale céčko s plusem – a to patří Anthropicu, firmě, která si bezpečnost dala přímo do zakladatelského příběhu. Future of Life Institute zveřejnil nový AI Safety Index a výsledek je výmluvný nejen tím, kdo vyhrál, ale tím, že nikdo nesplnil nejvyšší standardy v řízení rizik. Anthropic, OpenAI a Google DeepMind obsadily první příčky, což samo o sobě nic moc neznamená – jde spíš o to, že zbytek odvětví je výrazně horší. Někteří hráči, konkrétně SpaceXAI, dostali rovnou F.
Co mě na tom zaráží, je kontrast s tím, jak se o bezpečnosti AI dnes mluví. Před třemi lety to bylo téma pro pár výzkumníků a čtenáře LessWrongu, dnes o něm ví prakticky každý, kdo sleduje technologické zprávy. Jenže znalost pojmu neznamená znalost obrany. Většina lidí ví, že „AI safety" existuje jako problém, ale jen málokdo – včetně firem, které modely nasazují – má konkrétní představu, co dělat, když se agent chová nepředvídatelně nebo model při odpovídání halucinuje způsobem, který má reálné důsledky. Tahle mezera mezi povědomím a praktickou obranou je podle mě to nejzajímavější zjištění celého žebříčku.
Zvlášť naléhavé je to ve světle toho, jak rychle se buduje agentní infrastruktura. Oracle právě představil Autonomous AI Database A2A Server, tedy plně spravovanou funkci pro řízenou komunikaci mezi AI agenty napříč organizacemi. NVIDIA zase chystá CPU Vera, které má zrychlit propustnost celých „AI factory" pro agentní zátěže – tedy víceúrovňové workflow kombinující inferenci, nástroje, kód a orchestraci. Jinými slovy: infrastruktura pro autonomní agenty se staví raketovým tempem, zatímco bezpečnostní rámce podle FLI zaostávají za tím, co tahle infrastruktura umožňuje. To je přesně ta kombinace, která mi dělá starosti – ne proto, že by agenti byli sami o sobě nebezpeční, ale proto, že se škálují rychleji, než dokážeme ověřit, jak se chovají v hraničních situacích.
Apropos škálování – zajímavý je i byznysový úhel pohledu. Nomos AI (dřív Norm AI) právě získal 120 milionů dolarů při valuaci 1,2 miliardy na platformu, která zavádí právní procesy přímo do AI agentů. To je přesně ten typ aplikace, kde bezpečnost přestává být akademickou otázkou a stává se otázkou odpovědnosti – kdo nese vinu, když právní agent udělá chybu s reálným dopadem na klienta? Firmy jako Anthropic mají na papíře nejlepší známku, ale i C+ znamená, že ani lídr oboru nemá řízení rizik plně pod kontrolou. Otázka, kterou bych si kladl, není, jestli agentní AI dorazí do právních kanceláří a databázových systémů – to už se děje. Otázka zní, kdo bude platit cenu za to, že jsme infrastrukturu postavili rychleji než bezpečnostní záruky kolem ní.
Seznam odkazů na zdroje použitých v přehledu
Důležitost:Spuštěnímultimodal models
NVIDIA představila Audex, LLM spojující audio a text bez ztráty jazykových schopností
NVIDIA vydala model Audex (Nemotron-Labs-Audex-30B-A3B), sjednocený audio-textový LLM. Model dokáže rozumět zvuku i řeči a zároveň je generovat, aniž by přišel o textové schopnosti svého základního modelu. Zdroj: marktechpost.com
Důležitost:VýzkumLLM reasoning
Dokážeme pochopit, jak velké jazykové modely uvažují?
Velké jazykové modely umí psát eseje, řešit matematické úlohy i generovat kód, přesto ale plně nechápeme, jak přesně k výsledkům dospívají. Zdroj: cacm.acm.org
Důležitost:VýzkumLLM benchmarking
Srovnání velkých jazykových modelů s praktickými lékaři v psychopatologickém hodnocení
Psychiatrie je silně závislá na jazyce, což z LLM dělá přirozený nástroj pro psychopatologické hodnocení. Strukturované posouzení jednotlivých položek prováděné psychiatry však zatím chybí jako referenční standard. Zdroj: nature.com
Důležitost:Zprávasecurity
Agentní ransomware útoky: LLM prý „celou dobu nahlas popisuje svůj záměr“
JADEPUFFER je agentní hrozba (ATA), tedy útočník, jehož schopnosti zajišťuje AI agent, nikoli klasický nástroj řízený člověkem. Podle výzkumníků model během útoku průběžně slovně popisuje své úmysly. Zdroj: biometricupdate.com
Důležitost:Spuštěnímultimodal models
Meta vstupuje do závodu o AI generátory obrázků kvůli inzerentům a předplatitelům
Meta Superintelligence Labs pod vedením Alexandra Wanga spouští svůj první model pro generování obrázků nazvaný Muse Image. Meta tak cílí jak na inzerenty, tak na předplatitele svých služeb. Zdroj: cnbc.com
Důležitost:Zprávamarket adoption
Statistiky LLM pro rok 2026: adopce, růst trhu a důvěra uživatelů
Nasazování velkých jazykových modelů už překonalo fázi experimentování. Dnes využívá AI alespoň v jedné firemní funkci 88 % organizací. Zdroj: hostinger.com
Důležitost:Výzkumworld models
LLM chápe svět jen skrze lidské texty, potřebujeme model světa, tvrdí spoluzakladatel AMI Labs
Pascal Feng, spoluzakladatel a šéf výzkumu a inovací startupu AMI Labs zaměřeného na AI, upozorňuje, že jazykové modely staví na lidských textech. Podle něj je proto třeba vyvinout skutečný model světa, ne jen jazykový. Zdroj: mk.co.kr
Důležitost:VýzkumLLM applications
Studie: lékaři testují obecný LLM v nemocniční praxi
Jazykové modely postupně pronikají do klinické praxe, jejich reálné využití v nemocniční medicíně je ale zatím málo popsané. Pilotní studie se smíšenými metodami zkoumala, jak model v praxi používají lékaři. Zdroj: cureus.com
NVIDIA Vera CPU zrychluje propustnost AI factory pro agentní zátěže
Agentní systémy převádějí úvahy modelu na konkrétní akce prostřednictvím vícekrokových workflow kombinujících inferenci, používání nástrojů, spouštění kódu, vyhledávání a orchestraci. Nový CPU Vera od NVIDIA má tyto náročné procesy výrazně zrychlit. Zdroj: developer.nvidia.com
Důležitost:Spuštěnímulti-agent systems
Oracle představuje Autonomous AI Database A2A Server pro řízené multi-agentní systémy
Oracle oznámil Autonomous AI Database Agent-to-Agent (A2A) Server, plně spravovanou multi-tenantní funkci integrovanou přímo do databáze Oracle. Řešení má umožnit bezpečnou a řízenou komunikaci mezi AI agenty napříč organizacemi. Zdroj: blogs.oracle.com
Důležitost:ZprávaAI funding
Norm AI získal 120 milionů dolarů při valuaci 1,2 miliardy na AI agenty pro právníky
Společnost Nomos AI Inc., která buduje platformu pro začlenění právních procesů do AI agentů, oznámila investici ve výši 120 milionů dolarů. Firma tak dosáhla valuace 1,2 miliardy dolarů. Zdroj: siliconangle.com
Důležitost:ZprávaAI adoption
Tucson v Arizoně hledá AI agenta pro podporu veřejných služeb
Město poprvé vstupuje do oblasti agentní AI a hledá dodavatele, který pomůže vytvořit AI agenta na podporu poskytování služeb občanům. Jde o první podobný projekt v historii Tucsonu. Zdroj: govtech.com
Důležitost:SpuštěníAI automation
Rewst aktualizuje AI agenta a nabízí MSP nový nástroj pro automatizaci SMB
Rewst chystá nové nativní AI funkce pro automatizaci, které uživatelům umožní popsat obchodní proces, jenž chtějí zautomatizovat. Systém pak podle popisu vytvoří automatizaci na míru. Zdroj: channele2e.com
Důležitost:Názoragentic workflows
Agentní GTM: co se změní, když prodejní procesy řídí AI agenti
Apollo ve své zprávě mapuje nástup agentní AI a odlišuje ji od standardních AI nástrojů. Zpráva se věnuje i současné míře adopce a jejímu potenciálu pro růst tržeb. Zdroj: qcherald.com
Důležitost:ZprávaAI adoption
Siemens díky Amazon Connect Customer AI Agents zvládá 90 % hovorů bez lidského zásahu
Siemens Global Business Services poskytuje sdílené služby a podporu podnikových procesů ve více než 80 zemích, včetně financí a nákupu. Nasazení AI agentů firmě umožnilo automatizovat drtivou většinu telefonických požadavků. Zdroj: aws.amazon.com
Důležitost:ZprávaAI security
Radware rozšiřuje ochranu agentní AI o governance a reporting shody s předpisy
Radware, přední poskytovatel bezpečnostních a doručovacích řešení pro multi-cloudová prostředí, oznámil zásadní vylepšení svých nástrojů. Nové funkce se zaměřují na governance a compliance reporting pro agentní AI systémy. Zdroj: thefastmode.com
Důležitost:ZprávaAI security
Banky zavádějí AI rychleji, než jim stačí zabezpečení
Nový výzkum Microsoftu naznačuje, že protokol MCP by se mohl stát novým cílem útoků. Kompromitované nástroje by tak mohly přesměrovávat AI agenty k nežádoucím akcím. Zdroj: pymnts.com
Důležitost:ZprávaAI hardware
Perplexity nasadí nové CPU od Nvidia pro úlohy AI agentů
AI startup Perplexity oznámil, že využije nové centrální procesory od Nvidia. Nvidia se tak rozšiřuje na trh dosud ovládaný jinými výrobci čipů. Zdroj: investing.com
Globální AI průmysl selhává v bezpečnosti, varuje think-tank
Americká laboratoř Anthropic získala v globálním bezpečnostním žebříčku nejlepší známku „C+“, žádná firma však nesplnila nejvyšší standardy v hodnocení rizik a řízení, uvádí Future of Life Institute. Zdroj: straitstimes.com
Důležitost:Politikagovernance framework
Podrobný pohled na nově zveřejněný rámec Googlu „AI Governance in America“
Google představil nový rámec pro řízení AI, který navrhuje vznik nezávislé Frontier AI Regulatory Organization (FARO) pro USA. Cílem iniciativy je nastavit jasnější pravidla regulace pokročilých AI systémů. Zdroj: forbes.com
Důležitost:Zprávasafety index
Google, Anthropic a OpenAI vedou žebříček AI Safety Index, SpaceXAI dostal F
AI Safety Index od Future of Life Institute hodnotí Anthropic, OpenAI a Google nejlépe, zatímco ostatní firmy propadají. Zdroj: seekingalpha.com
Důležitost:Názorsocietal risks
Nové pohledy na společenská rizika AI
Bezpečnost AI, dříve okrajové téma, dnes zná většina lidí, ale málokdo ví, jak se proti novým rizikům skutečně bránit. Zdroj: nyas.org
Důležitost:Zprávasafety governance
Velké technologické firmy globálně couvají od slibů o bezpečnosti AI, varují experti
FLI zveřejnil AI Safety Index za první polovinu roku 2026, Anthropic získal C+ a žádná firma nedosáhla na A ani B. Podle institutu se hrozby spojené s AI staly reálným společenským problémem, který dobrovolné závazky firem už nestačí řešit. Zdroj: en.sedaily.com
Důležitost:Zprávaalignment techniques
V éře AI potřebujeme planetární inteligenci
Will Marshall, šéf Planet Labs, tvrdí, že klíčem k souladu AI se zájmy lidstva je takzvaná planetární inteligence. Zdroj: time.com
Důležitost:Politikaregulation
Bernieho bojovník za regulaci AI má svůj černý seznam
Abdul El-Sayed, kandidát do Senátu za Michigan podporovaný Berniem Sandersem, představil razantní plán regulace AI, který zahrnuje i odprodej majetku velkých technologických firem. Zdroj: puck.news
Copilot zlevňuje: Microsoft utlumuje modely OpenAI a Anthropic kvůli úsporám
Microsoft nahrazuje AI modely od OpenAI a Anthropic vlastními modely MAI v produktech jako Excel a Outlook. Týdně jde o desítky tisíc dotazů, které nově zpracovávají interní modely. Zdroj: the-decoder.com
Důležitost:ZprávaMicrosoft AI Strategy
Microsoft v některých aplikacích nahrazuje OpenAI a Anthropic vlastní AI
Microsoft se snaží snížit náklady na AI a začíná v produktech jako Excel nahrazovat modely OpenAI a Anthropic vlastními modely. Firma tak postupně přesouvá provoz na interní řešení. Zdroj: finance.yahoo.com
Důležitost:NázorMicrosoft Copilot
Je balíček AI softwaru od Microsoftu příliš nový?
Podle Kushe Patela, ředitele pro inovace ve firmě Tusker, je nasazování sady Microsoft 365 E7 s Copilotem zatím pomalé. Firmy si na novou funkcionalitu teprve zvykají. Zdroj: channeldive.com
Důležitost:ZprávaDeveloper Tools/Copilot
Fullstack s Copilotem: jak stavět a nasazovat aplikace zrychlené pomocí AI
Vývojář a řečník konference VSLive! Esteban Garcia v rozhovoru vysvětluje, jak GitHub Copilot dokáže zrychlit celý životní cyklus vývoje softwaru. Popisuje praktické zkušenosti s nasazením AI asistenta při reálném vývoji aplikace. Zdroj: visualstudiomagazine.com
Důležitost:ZprávaAI Security
AI agent GitHubu prozradí soukromé repozitáře, stačí ho slušně poprosit
Zranitelnost přezdívaná GitLost zatím nemá opravu ani oficiální dokumentaci. Situace tak zůstává beze změny i po jejím zveřejnění. Zdroj: theregister.com
Důležitost:SpuštěníMicrosoft Copilot for Business
Agentní CX a Microsoft 365 Copilot posouvají prodej a zákaznický servis dál
Agentní AI v Microsoft 365 Copilot a Dynamics 365 má proměnit prodejní a servisní organizace. Slibuje vyšší produktivitu, lepší přehledy a modernější zákaznickou zkušenost. Zdroj: microsoft.com
Důležitost:ZprávaAI Security
Zranitelnost GitLost umožnila AI nástrojům GitHubu unikat soukromé repozitáře
Výzkumníci bezpečnostní firmy Noma Security dnes zveřejnili kritickou zranitelnost typu prompt injection v nových AI workflow GitHubu. Chyba umožňovala útočníkům vylákat z agenta obsah soukromých repozitářů. Zdroj: siliconangle.com
Meta představuje Muse Image: generování obrázků pro váš svět
Muse Image je první model pro generování obrázků od Meta Superintelligence Labs, nyní dostupný v Meta AI. Zdroj: about.fb.com
Důležitost:SpuštěníMeta AI Product Launch
Meta uvádí Muse Image a Muse Video
Meta spouští Muse Image a v náhledu představuje Muse Video – první modely pro generování médií vyvinuté Meta Superintelligence Labs. Muse Image je jejich první krok tímto směrem. Zdroj: ai.meta.com
Důležitost:ZprávaBusiness Strategy
Meta vstupuje do závodu o AI generátory obrázků kvůli inzerentům a předplatitelům
Meta Superintelligence Labs pod vedením Alexandra Wanga uvádí svůj první AI model pro tvorbu obrázků nazvaný Muse Image. Meta tím cílí na inzerenty i uživatele svých platforem. Zdroj: cnbc.com
Důležitost:ZprávaTechnical Details
Meta spouští model pro generování obrázků s funkcemi kódování a vyhledávání
Muse Image je druhý model, který dosud vydala výzkumná skupina Meta Superintelligence Labs. Nabízí kromě generování obrázků i doplňkové schopnosti jako kódování a vyhledávání. Zdroj: siliconangle.com
Důležitost:ZprávaContent Detection
Meta vyvinula nástroj na rozpoznání obrázků a videí vytvořených jejími novými modely
Meta pracuje na nástroji, který dokáže identifikovat obrázky a videa vytvořená pomocí jejího nového modelu Muse Image. Firma představila náhled webové verze tohoto detekčního nástroje. Zdroj: engadget.com
Důležitost:ZprávaProduct Launch
Meta spouští svůj první interní AI generátor obrázků pro uživatele i inzerenty
Meta v úterý představila Muse Image, svůj první interně vyvinutý model pro generování obrázků. Dostupný je pro uživatele prostřednictvím Meta AI. Zdroj: qz.com
Důležitost:ZprávaProduct Launch
Meta rozšiřuje generativní AI nástroje o Muse Image
Meta Platforms v úterý oznámila spuštění Muse Image, svého prvního modelu pro generování obrázků od Meta Superintelligence Labs. Firma tak dále rozšiřuje nabídku generativních AI nástrojů. Zdroj: reuters.com
Důležitost:ZprávaProduct Integration
Meta uvádí nový AI model pro generování obrázků v chatbotu a Instagramu
Meta Platforms představila nový AI model pro generování obrázků – jde o první takové vydání od doby, kdy firma investovala miliardy do AI. Model bude dostupný v Meta AI i na Instagramu. Zdroj: finance.yahoo.com
Umělá inteligence vstupuje do fyzického světa, summit Humanity & AGI 2026 přiveze globální lídry na Stanford
STANFORD, Kalifornie, 7. července 2026 (GLOBE NEWSWIRE) – Aliance AI Robotics Alliance of America (AIRA) uspořádá v neděli summit Humanity & AGI 2026... Zdroj: ca.finance.yahoo.com
Důležitost:Zprávaindustrial robots
Jak by fyzická AI mohla usnadnit nasazení průmyslových robotů
CEO společnosti Standard Bots Evan Beard vysvětluje, jak by fyzická AI, roboty vyráběné v USA a snadnější nasazení mohly výrobcům pomoci automatizovat více úkolů v továrnách. Zdroj: automate.org
Důležitost:Zprávahumanoid robot
Bývalý inženýr Tesly chystá AI robota, který má v Evropě nahradit důchodce na trhu práce
Humanoidní robot s názvem „Northstar“ má být nasazen ve výrobních závodech, logistických skladech i v domácnostech. Zdroj: washingtonexaminer.com
Důležitost:Zprávarobot autonomy
Jak by AI mohla umožnit autonomní roboty pracovníky ve firmách i v domácnostech
Přední výzkumníci a zakladatelé v oblasti robotiky vysvětlují, jak se vyvíjí autonomie robotů. Zdroj: arstechnica.com
Důležitost:Zprávarobot development
Vývoj politik pro humanoidní roboty od A do Z s NVIDIA Isaac GR00T
Jak stále více týmů přechází od spouštění humanoidních robotů k vývoji specifických dovedností pro konkrétní úkoly, roste potřeba opakovatelných vývojových postupů. Zdroj: developer.nvidia.com
AI urychluje hledání supravodičů pracujících při pokojové teplotě
Mezinárodní výzkumný konsorcium prokázalo, že strojové učení dokáže výrazně urychlit objevování supravodivých materiálů. Jde o první objev tohoto typu vedený strojovým učením v tomto oboru. Zdroj: theaiinsider.tech
Důležitost:Zprávahealthcare AI
AI oslovování pacientů zvýšilo screening rakoviny a snížilo úmrtnost
Program strojového učení, který identifikoval pacienty s prošlým termínem screeningu kolorektálního karcinomu, pomohl zvýšit míru vyšetření. Studie zjistila souvislost i se snížením úmrtnosti. Zdroj: medicalxpress.com
Důležitost:Výzkumprecision nutrition
AI a strojové učení míří do přesné výživy
Klíčovou vlastností přístupu Precision Nutrition and Health je schopnost přizpůsobit intervence individuální variabilitě pomocí multimodálních dat. Zdroj: nature.com
AI startup pro právo Norm získal 120 milionů dolarů a dosáhl valuace unicornu
Startup Norm zaměřený na AI v právní oblasti v úterý oznámil navýšení 120 milionů dolarů v sérii C vedené fondem Khosla Ventures, čímž ocenil téměř tříletou firmu na miliardovou hodnotu. Zdroj: techcrunch.com
Důležitost:ZprávaAI funding (legal AI)
Norm Ai se stal unicornem díky sérii C ve výši 120 milionů dolarů při valuaci 1,2 miliardy dolarů
Newyorská AI společnost Norm Ai zaměřená na právo a compliance oznámila sérii C ve výši 120 milionů dolarů při valuaci 1,2 miliardy dolarů a překročila tak hranici pro status unicornu. Zdroj: lawnext.com
Důležitost:ZprávaAI funding (legal AI)
Norm Ai získal 120 milionů dolarů v sérii C při valuaci 1,2 miliardy dolarů
Startup Norm Ai zaměřený na právo a compliance oznámil v úterý navýšení 120 milionů dolarů v sérii C, čímž jeho valuace dosáhla 1,2 miliardy dolarů. Zdroj: law360.com
Důležitost:ZprávaAI funding (legal AI)
Norm Ai získal 120 milionů dolarů při valuaci 1,2 miliardy pod vedením Khosla Ventures
Norm Ai uzavřel sérii C ve výši 120 milionů dolarů při valuaci 1,2 miliardy dolarů, kolo vedl fond Khosla Ventures, první institucionální investor v OpenAI. Zdroj: prnewswire.com
Důležitost:ZprávaAI funding trends
Startupové investice v Severní Americe v první polovině 2026 zlomily rekordy díky AI
Venture investice v Severní Americe dosáhly v první polovině roku 2026 historického maxima, a to díky megarundám ve pozdějších fázích financování pro lídry AI odvětví, uvádí data Crunchbase. Zdroj: news.crunchbase.com
Čínský startup DeepSeek vyvíjí vlastní AI čip, uvedli tři lidé obeznámení se situací. Krok by měl snížit jeho závislost na Nvidii. Zdroj: reuters.com
Důležitost:SpuštěníAI processors
Nvidia Vera CPU zrychluje AI továrny pro agentní úlohy
Agentní systémy proměňují uvažování modelů v akci prostřednictvím vícekrokových workflow kombinujících inferenci, používání nástrojů, spouštění kódu, vyhledávání a orchestraci. Nový CPU Vera od Nvidie má tyto úlohy v AI továrnách výrazně zrychlit. Zdroj: developer.nvidia.com
Důležitost:ZprávaAI chip geopolitics
DeepSeek chce obejít sankce vlastním čipem, akcie Nvidie klesají
Akcie Nvidie mířily na nejnižší úroveň od dubna poté, co se objevila zpráva o dalším zákazníkovi vyvíjejícím vlastní AI čip. Trh se obává, že závislost velkých firem na čipech Nvidie postupně slábne. Zdroj: barrons.com
Důležitost:SpuštěníAI chip partnerships
Nvidia a d-Matrix představují společný systém pro AI čipy
Nvidia a startup d-Matrix, zaměřený na AI serverové čipy, spojují svůj hardware do nového systému pro pohon AI modelů. Informoval o tom server The Information. Zdroj: theinformation.com
Publikoval Martin Ševčík
8. července 2026 v 05:23
Nejlepší známka na žebříčku AI bezpečnosti dnes zní jako C+. Ne A, ne B, ale céčko s plusem – a to patří Anthropicu, firmě, která si bezpečnost dala přímo do zakladatelského příběhu. Future of Life Institute zveřejnil nový AI Safety Index a výsledek je výmluvný nejen tím, kdo vyhrál, ale tím, že nikdo nesplnil nejvyšší standardy v řízení rizik. Anthropic, OpenAI a Google DeepMind obsadily první příčky, což samo o sobě nic moc neznamená – jde spíš o to, že zbytek odvětví je výrazně horší. Někteří hráči, konkrétně SpaceXAI, dostali rovnou F.
Co mě na tom zaráží, je kontrast s tím, jak se o bezpečnosti AI dnes mluví. Před třemi lety to bylo téma pro pár výzkumníků a čtenáře LessWrongu, dnes o něm ví prakticky každý, kdo sleduje technologické zprávy. Jenže znalost pojmu neznamená znalost obrany. Většina lidí ví, že „AI safety" existuje jako problém, ale jen málokdo – včetně firem, které modely nasazují – má konkrétní představu, co dělat, když se agent chová nepředvídatelně nebo model při odpovídání halucinuje způsobem, který má reálné důsledky. Tahle mezera mezi povědomím a praktickou obranou je podle mě to nejzajímavější zjištění celého žebříčku.
Zvlášť naléhavé je to ve světle toho, jak rychle se buduje agentní infrastruktura. Oracle právě představil Autonomous AI Database A2A Server, tedy plně spravovanou funkci pro řízenou komunikaci mezi AI agenty napříč organizacemi. NVIDIA zase chystá CPU Vera, které má zrychlit propustnost celých „AI factory" pro agentní zátěže – tedy víceúrovňové workflow kombinující inferenci, nástroje, kód a orchestraci. Jinými slovy: infrastruktura pro autonomní agenty se staví raketovým tempem, zatímco bezpečnostní rámce podle FLI zaostávají za tím, co tahle infrastruktura umožňuje. To je přesně ta kombinace, která mi dělá starosti – ne proto, že by agenti byli sami o sobě nebezpeční, ale proto, že se škálují rychleji, než dokážeme ověřit, jak se chovají v hraničních situacích.
Apropos škálování – zajímavý je i byznysový úhel pohledu. Nomos AI (dřív Norm AI) právě získal 120 milionů dolarů při valuaci 1,2 miliardy na platformu, která zavádí právní procesy přímo do AI agentů. To je přesně ten typ aplikace, kde bezpečnost přestává být akademickou otázkou a stává se otázkou odpovědnosti – kdo nese vinu, když právní agent udělá chybu s reálným dopadem na klienta? Firmy jako Anthropic mají na papíře nejlepší známku, ale i C+ znamená, že ani lídr oboru nemá řízení rizik plně pod kontrolou. Otázka, kterou bych si kladl, není, jestli agentní AI dorazí do právních kanceláří a databázových systémů – to už se děje. Otázka zní, kdo bude platit cenu za to, že jsme infrastrukturu postavili rychleji než bezpečnostní záruky kolem ní.