Moonshot má LLM o 3T parametrech, agenti se stávají vnitřní hrozbou

Největší model dne je pro mě paradoxně ten nejmíň zajímavý. Moonshot AI uvedla Kim K3.1 Pro, jazykový model se třemi biliony parametrů, který si podle firmy v některých úlohách vede lépe než Claude Opus 5.5 a GPT-6 Astra. Slovo „některých" přitom nese většinu váhy. Dokud nevidím nezávislá měření, beru to jako marketing, a to i v případě, že čísla jsou skutečně dobrá. Mnohem víc mě totiž zajímá, co se děje kolem modelů, tedy to, co s nimi lidé skutečně dělají.

A tady se dostáváme k agentům. Firmy je nasazují čím dál ochotněji, a to s právy, která bychom dřív svěřili jen zkušenému administrátorovi: spouštějí kód, volají nástroje, sahají na přihlašovací údaje a přesouvají data. Přesně tohle popisuje dnešní rozbor o agentech jako nové vnitřní hrozbě. Považuji to za úplně legitimní obavu. Agent, který jedná samostatně a má široká oprávnění, nemusí být zlonamerný, aby způsobil škodu. Stačí, že se splete, nebo že ho někdo šikovně zmanipuluje. Z bezpečnostního hlediska je to zaměstnanec, který nikdy nespí a nikdy se neptá, jestli si je jistý.

Zajímavé je, jak rychle na to trh reaguje z obou stran. Na jedné straně vzniká FAITH, tedy agentní evaluace určená k testování AI agentů, protože bez rozumného měření nemáme jak zjistit, komu vlastně dáváme klíče. Na druhé straně Tipalti představilo AP Agent, který zvládne celý proces účtování závazků, s integrovaným lidským dohledem a novými funkcemi MCP. Stojí za zmínku, že lidský dohled už není dodatek v poznámce pod čarou, ale prodává se jako součást produktu. Myslím, že je to správný směr, protože finance jsou přesně ta oblast, kde si nemůžete dovolit „skoro správně". Apropos, Microsoft na konferenci PPCC 2026 ukázal Work IQ a Dataverse, které mají Copilotu i agentům dát znalost toho, jak vaše firma skutečně funguje. Je to lákavé a zároveň to přesně zapadá do předchozího problému: čím víc agent o firmě ví, tím větší škodu může napáchat.

Možná proto je zajímavý i politický vývoj. Kalifornský státní senátor Josh Becker předložil návrh zákona, který by vývojáře nejvýkonnějších systémů tlačil k financování výzkumu bezpečnosti AI. Nevím, zda návrh projde v nynější podobě, ale směr je jasný: regulátoři přestávají jen sledovat a začínají chtít, aby ti, kdo riziko vytvářejí, platili i za jeho zkoumání.

Kapitál mezitím míří jinam, než by člověk čekal od debat o bezpečnosti. Nvidia spolu s TCV investuje do videostartupu Higgsfield a zároveň v Berlíně rozšířila platformu Isaac pro robotiku, včetně referenčního humanoidního robota. Nvidia tak sedí u všech stolů najednou, od generování videa po fyzické stroje. Pro mě je to připomínka, že AI se stěhuje z obrazovek do skutečného světa, kde chyba agenta už nebude jen špatná faktura.

Otázka, kterou si kladu, zní: až budou agenti běžně ovládat nejen účty, ale i roboty, kdo bude ten, kdo je otestuje dřív, než jim něco svěříme?