Vysoce efektivní LLM modely

Dneska mě nejvíc zaujal příběh, který se na první pohled netýká žádného nového modelu ani miliardové valuace: agent, který prošel úplně všemi testy v testovacím rámci, a stejně ho vypnuli. Autor byl u té revize osobně a popisuje firmu, která na papíře udělala vše správně – metriky, benchmarky, kontrolní seznam splněn. Finanční oddělení ho přesto zabilo. Proč? Protože žádný test neměřil to, co skutečně rozhoduje – důvěru, odpovědnost, kdo nese následky, když agent udělá chybu za sto tisíc dolarů. To je přesně ten druh lekce, která se v technických recenzích ztrácí, ale v byznysu rozhoduje o všem.

Souvisí to s tím, co ukazuje i zpráva Future of Life Institute – žádná z devíti předních AI laboratoří nedostala lepší známku než C+, a co je horší, ty dříve nejlépe hodnocené se zhoršují. Není náhoda, že se to děje ve chvíli, kdy Google s Gemini Enterprise tlačí na kryptografickou identitu agentů a vzniká celý nový obor takzvaných agentic control plane – vrstev, které mají řídit, co agent smí a nesmí udělat. Firmy si totiž uvědomují, že problém není v tom, jestli agent umí splnit úkol. Problém je v tom, že nikdo pořádně neví, jak ho kontrolovat, když se něco pokazí. OpenAI mezitím začíná agenty zpoplatňovat jako produkt, což je logický krok, ale zároveň to zvyšuje tlak – platíte za něco, co zatím nemá jasná bezpečnostní pravidla hry.

A přitom se svět modelů, na kterých tihle agenti běží, žene dál bez ohledu na tyhle otazníky. Grok 4.5 slibuje vylepšení pro programování a psaní, Kimi K3 od Moonshotu s 2,8 bilionu parametrů dokazuje, že čínská AI dohání Západ nejen ve výkonu, ale i v otevřenosti ekosystémů – a to je podle mě důležitější zpráva než samotné číslo parametrů. Otevřené modely mění mocenskou rovnováhu rychleji než uzavřené flagship produkty. Apropos moc a peníze: Anthropic se blíží k IPO s valuací kolem 1,2 bilionu dolarů, což je násobek jeho poslední známé hodnoty. Trh evidentně věří, že Claude a podobné modely budou jádrem firemní infrastruktury na roky dopředu.

Jenže právě proto mi ten příběh o vypnutém agentovi nejde z hlavy. Ant, Tencent, Alibaba a Baidu soupeří o firemní zákazníky s autonomními digitálními pracovníky, Google buduje identitu pro agenty, OpenAI je monetizuje – všichni sázejí na to, že agenti se stanou standardní součástí firem. Ale pokud bezpečnostní hodnocení klesá a firmy samy zjišťují, že testy neměří to podstatné, ptám se: kdo nastaví pravidla dřív, než tahle vlna nasazení dorazí do produkce ve velkém?