Když AI agenti rezervují, blokují a obchodují — kdo za to vlastně ručí

Nejlepší ilustrace dnešního dne v AI je historka, která zní jako vtip, ale vtip to není: Brian Distelburger si nechal AI agentem zarezervovat stůl v newyorské restauraci 4 Charles, systém Resy jeho účet kvůli podezřelé aktivitě rovnou zabanoval — a napravit to musel zase jiný AI agent. Je to malá, skoro směšná epizoda, ale ukazuje přesně to, co mě na současné vlně "agentic AI" znepokojuje. Nasazujeme agenty do systémů, které nebyly navržené na to, aby s agenty komunikovaly, a pak řešíme kolize záplatami postavenými na dalších agentech.

Ten samý problém se jen v jiném měřítku objevuje v otázce, kterou si klade jeden z dnešních textů: když za vás peníze utratí AI agent schopný víceúrovňového rozhodování, kdo doloží, že jste jeho kroky opravdu schválili? Zní to jako právnická kuriozita, ale je to jádro věci. Binance mezitím spustila Agent OS, platformu, kde mohou agenti přes ChatGPT, Claude nebo Codex reálně obchodovat s kryptoměnami. Kombinace nejasné odpovědnosti za rozhodnutí agenta a přístupu k reálným penězům na volatilním trhu mi přijde jako otevřená pozvánka k problémům, které se vyjasní až ve chvíli, kdy něco selže — a v kryptu selhává vždycky něco.

Není náhoda, že ve stejný den zaznívá i hlas Milese Brundage, bývalého zaměstnance OpenAI, který říká, že obavy lidí uvnitř AI firem ohledně bezpečnosti jsou oprávněné a firmy potřebují skutečné pojistky, ne jen deklarace. Chápu tlak na rychlost — konkurence je nemilosrdná a nikdo nechce být ten, kdo přijde pozdě. Ale právě příklady jako Resy nebo Binance Agent OS ukazují, že mezera mezi tím, co agenti technicky dokážou, a tím, co jsme jako společnost připraveni bezpečně regulovat a auditovat, se nezmenšuje. Roste. Apropos regulace a bezpečnosti — ERA právě otevřela výběrové řízení na čtyři pozice výzkumných manažerů pro programy AI bezpečnosti a biosecurity, uzávěrka je už 28. srpna. Pokud vás tahle oblast zajímá profesně, stojí za pozornost.

Zajímavý kontrapunkt k tomu všemu nabízí šéf Unitree, který tvrdí, že skutečný průlom v humanoidních robotech přijde možná až za deset let kvůli přetrvávajícím problémům s adaptabilitou AI. Je to střízlivý hlas uprostřed odvětví plného slibů o brzké revoluci — a možná právě proto zaslouží pozornost. Stejnou střízlivost bychom se měli naučit aplikovat i na AI agenty, kteří dnes rezervují stoly a zítra mají obchodovat s naším majetkem. Otázka totiž není, jestli agenti umí něco udělat, ale jestli umíme spolehlivě dokázat, že to udělali správně.