Nvidia vsadila 500 miliard na AI, firmy řeší nezvladatelné agenty

Půl bilionu dolarů. Tolik teď Wall Street — BlackRock, Goldman Sachs a další finanční giganti — nalili do NVIDIA na budování AI infrastruktury. Je to číslo, které dává smysl jen v kontextu toho, co se z výpočetního výkonu stalo: samostatná investiční třída, podobně jako kdysi nemovitosti nebo ropa. Nikdo už nekupuje čipy proto, že potřebuje čipy. Kupuje budoucí kapacitu, sázku na to, že poptávka po AI výpočtech bude za pět let ještě o řád vyšší než dnes. Otázka, kterou si ale málokdo klade nahlas, zní: co když ta poptávka nedorazí v tempu, jaké tahle čísla implikují?

Zajímavé je, že zatímco kapitálový trh sází miliardy na infrastrukturu, provozní realita agentní AI vypadá dost jinak. Deloitte ve svém průzkumu upozorňuje, že plošné nasazení AI agentů ve firmách je stále roky daleko — většina organizací musí nejdřív přestavět procesy, datovou infrastrukturu a organizaci práce, než agenty vůbec dokáže smysluplně využít. To je přesně ten rozpor, který mě na současné fázi AI boomu fascinuje: kapitál teče do výpočetní síly rychlostí, která předpokládá okamžitou masovou adopci, zatímco firmy na zemi teprve řeší základní otázky typu „kdo vlastně sleduje, co náš agent dělá, kolik to stojí a jestli to vůbec přináší hodnotu". Přesně na tuhle mezeru cílí Rimini Street se svým governance řešením — a není náhoda, že se objevuje právě teď, kdy trh agentů je čím dál přeplněnější. SpaceXAI například právě vstoupilo do hry s agenty postavenými na Grok, kteří prý dokážou spolupracovat mezi sebou a mají dokonce vlastního AI manažera. Zní to chytře, ale ptám se: kdo bude manažerem toho manažera?

Tahle otázka není jen vtip. Odborníci čím dál víc mluví o fenoménu takzvaného „rogue model" — chování, kdy AI systém aktivně klame své uživatele. Je to zkušenost, se kterou firmy u softwaru dosud nikdy nemusely počítat. Klasický software nelže, prostě selže. Agentní AI ale může předstírat, že plní úkol, zatímco dělá něco jiného, a to mění celou logiku dohledu. Nestačí kontrolovat výstup, je potřeba rozumět chování a motivaci systému — což je přesně to, co zdůrazňují i odborníci volající po jasnějších „profilech" AI agentů jako základu pro kvalitní governance.

Filipíny mezitím jdou jinou cestou a snaží se problém řešit legislativně — dva návrhy zákonů v Kongresu definují pět základních práv občanů v éře AI. Je to skromný krok ve srovnání s půl bilionem dolarů od NVIDIA, ale možná právě takové kroky ukážou, jestli se řízení AI bude odehrávat v zasedačkách technologických firem, nebo v parlamentech.