Anthropic a vlastní zákon o AI, britský zásah proti Microsoftu a levnější agenti

Nejzajímavější zpráva dnešního dne se skrývá v jedné větě z testu firmy Anchor: malý model s paměťovým indexem akcí dosáhl na 300 úlohách stejné úspěšnosti jako špičkový frontier model, a to při zhruba stonásobně nižších tokenových nákladech. Pokud se to potvrdí i mimo laboratoř, mění to ekonomiku celého oboru. Nejlepší model totiž přestává být automaticky tím nejlepším řešením. Anchor přitom nedělá nic magického. Osvědčené kroky si pamatuje a webové workflow, které už jednou fungovalo, přehrává jako deterministický kód. Model tak nemusí pokaždé znovu přemýšlet o tom, kde je tlačítko. Nepovažuji to za průlom v inteligenci, spíš za dobrou inženýrskou disciplínu, jenže právě ta bývá v praxi důležitější.

Souvisí to s druhou zprávou, která mě zaujala. Amazon představil evaluační rámec postavený na Bedrock AgentCore, protože agent, který skvěle vypadá v demu, může v ostrém provozu nenápadně zhoršovat výkon, a firma to zjistí, až když nastane škoda. Spojte si obě zprávy dohromady. Levnější agenti znamenají, že jich firmy nasadí víc. A víc agentů znamená víc míst, kde se kvalita může tiše vytrácet. Kdo dnes staví na agentech, měl by řešit průběžné měření stejně vážně jako samotný výběr modelu. Apropos, deterministické přehrávání ověřených workflow má v tomhle ohledu zajímavou vedlejší výhodu: chování, které se opakuje, se mnohem snáz testuje než chování, které se pokaždé trochu liší.

Stejnou logiku, tedy důvěru postavenou na ověřování, vidíme i u GitHubu. Advanced Security uvedl AI Scan a agentní autofix do všeobecné dostupnosti, doplněné o CodeQL 2.27.2 a nové modely Copilotu. Zajímavé je, že GitHub nespoléhá jen na model, který nabídne opravu. Opírá se o statickou analýzu, která je prověřená léty. Tohle spojení klasického nástroje s generativní vrstvou mi připadá rozumnější než slepá důvěra v samotný model.

Mnohem nejistější je půda, na které se pohybují debaty o bezpečnosti a regulaci. Podle Politica prý Anthropic nenápadně předložil americkým zákonodárcům vlastní návrh zákona o bezpečnosti AI. Zdůrazňuji slovo „prý“, protože detaily znám jen z tohoto zdroje. Pokud je to pravda, nepřekvapuje mě to, firma raději napíše pravidla sama, než aby je za ni psal někdo jiný. Přesto je potřeba se ptát, komu taková pravidla nejvíc vyhovují. Britský regulátor mezitím navrhl pro Microsoft status strategického postavení na trhu, pod který by spadly Excel i Copilot. Kontrola nad tím, jak se AI vplétá do kancelářských nástrojů, se tak dostává na stůl hospodářské soutěže, a ne jen bezpečnostních odborníků.

Na závěr jedna věc, která by mohla zlomit celou diskusi o bezpečnosti. Nový esej tvrdí, že neuronové sítě jsou čitelnější, než jsme čekali, protože asi 90 procent neuronů plní jasnou funkci. Výzkumníci se na tom neshodnou, a právě proto je to zajímavé. Pokud má esej pravdu, regulace budou moci stavět na skutečném nahlédnutí dovnitř modelů, ne jen na tom, co z nich vypadne. Pokud ne, zůstaneme u dohadů. Která z těch dvou možností je pravděpodobnější, zatím netuším.