Microsoft představil MAI-Base-2, agenti AI čelí zkoušce důvěry

Nejzajímavější zpráva dne není o žádném modelu. Podle průzkumu VentureBeat z letošního září sdílí 17 ze 40 týmů, které tvrdí, že oprávnění AI agentů hlídají, na pozadí dál stejné přihlašovací údaje. Firmy tedy mluví o řízení přístupu a v praxi používají společné heslo, které by v roce 2015 vyvolalo zdvižené obočí i u začínajícího správce. Myslím, že právě tady se láme chleba celé agentní vlny. Schopnosti agentů rostou rychleji, než firmy stíhají budovat základní disciplínu kolem identit.

Zajímavě to zapadá do další zprávy. American Express představil rámec, který zaznamená, co zákazník schválil, ještě než AI nákupní agent cokoli koupí, a ošetřuje i případy, kdy agent překročí zadání. Stojí za zmínku, že tohle není technická hračka. Je to pokus vyřešit otázku, kdo nese odpovědnost, když stroj nakoupí něco, co jste nechtěli. Platební sítě se na takové spory už připravují, protože o zákazníkových záměru musí být možné vést důkaz. Kdo dnes staví agenty pro e-commerce, měl by tuhle logiku zapracovat do architektury dřív, než ho k tomu donutí regulace nebo první velký spor.

Apropos důvěra: průzkum o nasazování agentů přinesl překvapivý údaj, že vedoucí pracovníci z nich mají větší užitek než zaměstnanci, kteří s nimi pracují denně. Řadové pracovníky podle něj brzdí přemíra nástrojů a nedostatek důvěry. Neberu to jako argument, že šéfové jsou chytřejší. Spíš mají jednodušší úlohy, tolerantnější vztah k chybám a nemusí za výstupy ručit tak konkrétně. Pokud vás zajímá, proč podnikové nasazení AI pomalu drhne, hledejte spíš v tomhle rozdílu než ve schopnostech modelů.

Na druhé straně spektra stojí Microsoft s modelem MAI-Base-2, který má 2 bilióny parametrů a podle firmy je výrazně efektivnější než přední open-source alternativy. Tvrzení o efektivitě zatím čtu s obvyklou skepsí, dokud nepřijdou nezávislé testy. Strategicky je ale zajímavé, že Microsoft dál investuje do vlastních základních modelů, i když je pevně svázaný s OpenAI. Je to pojistka, nebo pomalé vyvazování?

Do celého obrazu patří i politika. Anthropic podle Politica nenápadně obchází Capitol Hill s vlastním návrhem zákona o bezpečnosti špičkových modelů a zároveň vede dialog s newyorským comptrollerem o tom, co by existenční rizika AI znamenala pro penzijní fondy, pokud firma vstoupí na burzu. Chápu logiku obou kroků, ale je tu napětí. Firma, která formuje pravidla, jimiž se bude řídit celé odvětví, se současně chystá žádat o peníze veřejné investory. To podle mě zaslouží pozornost, a ne jen jako příběh o lobbingu.

A nakonec drobnost, která prozrazuje tempo. GitHub Copilot i Cursor přinesly za první dva říjnové týdny víc nových funkcí než každý z nich za celé předchozí čtvrtletí. Pro vývojáře je to skvělé, jen se ptám, kdo to všechno stihne ověřovat. Pokud agenti mají přístupová práva, která nikdo pořádně nehlídá, rychlejší vývoj nástrojů problém jen zvětšuje.