Gemini 4 Carbon vychází, banky zavírají dveře cizím AI agentům

Největší otázka dnešního dne se netýká modelů, ale dveří. Pět největších amerických bank, mezi nimi JPMorganChase, Citi, Bank of America, Wells Fargo a Morgan Stanley, brání externím AI agentům v přístupu k účtům zákazníků. Sleduji to s velkým zájmem, protože takový postoj podle mě dlouho nevydrží. Zákazník, který si najme agenta, aby za něj vyřídil rutinu, se nebude ptát, jestli to bance vyhovuje. Půjde tam, kde mu to funguje.

Zajímavé je, že se banky nebrání jen z konzervatismu. Mají pro to rozumný důvod: nikdo zatím pořádně neví, jak takovému agentovi svěřit oprávnění, jak doložit, kdo co udělal, a komu bude patřit odpovědnost, když se něco pokazí. Jenže právě v tom se skrývá obchodní příležitost. Rozbor situace, kdy protistranou banky není člověk, ale agent klienta, správně říká, že governance, oprávnění a auditní stopy se z nutné režie mění v konkurenční výhodu. Banka, která první nabídne bezpečné a dohledatelné rozhraní pro cizí agenty, vyhraje. Ta, která zůstane za zdí, se brzy dozví, že zeď nikoho nezastavila, jen ho poslala ke konkurenci.

Se stejným problémem se potýkají i firmy, které agenty staví. Text o platformě na Amazon Bedrock AgentCore to shrnuje překvapivě upřímně: překážkou při nasazení do produkce obvykle není model ani práce s nástroji, ale všechno kolem nich a koordinace mnoha týmů. Mám to ověřené z vlastní zkušenosti. Chytrý agent je dnes ta snazší část. Obtížné je zajistit, aby bezpečáci, právníci a provoz souhlasili s tím, že ho vůbec pustí ven.

Apropos bezpečnost. Nová funkce Agent Activity zaznamenává každý krok relace agenta, tedy prompty, volání MCP i nástrojů, přístupy pro čtení a zápis a kontakt s citlivými daty. Projekt Quarry zase dává obraně agentů společný jazyk. Útoky na ně se totiž skládají z řady běžných, povolených kroků, které většina dnešních obran přehlédne. Žádný jednotlivý krok není podezřelý, podezřelý je až celek. Stojí za zmínku, že obě novinky míří na stejné místo, na viditelnost. Bez ní nelze agentovi ani důvěřovat, ani ho bránit.

Na tomto pozadí působí Google se svým Gemini 4 Carbon trochu překvapivě. Model s vylepšenou kybernetickou bezpečností a silnými výsledky u složitých programátorských úloh přišel jen dva týdny po předchozím vydání. Takové tempo je samo o sobě zprávou. Pro lidi, kteří nad těmito modely staví, to znamená, že nejistota nespočívá v tom, co model umí, ale v tom, jak často se pod nimi změní půda.

A nakonec pohled mnohem dál. Demis Hassabis se zamýšlí nad tím, zda by AI jednou mohla umožnit programovat samotný fyzický svět, ba i hmotu, podobně jako dnes počítače. Zatím je to spíš úvaha než plán a nechám ji stranou jako zajímavou vizi. Připomíná ale, že otázky, které dnes řešíme u bankovních agentů, tedy kdo smí co udělat a kdo za to ponese odpovědnost, se budou jen zvětšovat, až agenti začnou zasahovat do něčeho hmatatelnějšího než účet. Dokážeme si pravidla napsat dřív, než to bude nutné?