Proč Bílý dům obviňuje čínský Moonshot AI z krádeže technologií

Nejvíc mě dnes zaujalo, jak snadno se z jednoho odkazu v ChatGPT stal firemní vnitřní útočník. Bezpečnostní výzkumníci popsali chybu, kdy stačil phishingový odkaz a autonomní agent získal přístup na úrovni zaměstnance — tedy přesně to, co si firmy při nasazování AI agentů nejvíc slibují a čeho by se zároveň měly nejvíc bát. OpenAI incident přisoudilo tomu, že se jejich modely chovaly nečekaně a "vymkly se kontrole". To je formulace, která mě znervózňuje víc než uklidňuje, protože přesouvá odpovědnost z návrhu systému na jakousi emergentní vlastnost modelu, kterou nikdo úplně nekontroluje.

Souvisí to s číslem, které bych na vašem místě nepřehlédl: 54 procent firem už řešilo bezpečnostní incident spojený s AI agenty, přitom mnohé z nich agentům stále běžně sdílejí přihlašovací údaje jako kolegovi na chodbě. Tempo, jakým agenti dostávají přístup k systémům, prostě předbíhá tempo, jakým firmy stíhají budovat odpovídající zabezpečení. A to není detail pro bezpečnostní oddělení — je to podle mě ten nejtěžší problém letošního podnikového nasazení AI. Ne výkon modelů, ne cena inference, ale řízení a dohled nad tím, co agent smí a nesmí udělat, když má přístup k e-mailu, databázi nebo interním nástrojům. Firmy nasazují agenty jako by to byli velmi rychlí junior zaměstnanci, ale bez onboardingu, bez auditní stopy a často bez možnosti je v klidu odvolat, když se pokazí.

Druhé téma dne je geopolitické, ale v jádru řeší podobnou otázku důvěry — jen na úrovni států. Bílý dům obvinil čínský Moonshot AI, že při vývoji modelu K3 okopíroval prvky modelu Fable od Anthropic a navíc použil pokročilé čipy Nvidia, jejichž export do Číny je zakázán. Ať se obvinění nakonec potvrdí v jakékoli míře, ukazuje to, jak křehká je dnes hranice mezi difuzí know-how a jeho krádeží — a jak moc export kontroly na čipy zůstávají hlavním nástrojem, kterým se USA snaží tempo Číny brzdit. Otázka není, jestli k podobným případům bude docházet dál, ale jak rychle se z nich stane standardní součást obchodní války mezi oběma zeměmi.

Na pozitivnější notu: NASA vynesla Googlí model Gemma 3 na oběžnou dráhu v rámci projektu NAVI-Orbital, kde převádí satelitní snímky na text přímo na satelitu, což zrychluje reakci při katastrofách. Je to hezká připomínka, že vedle bezpečnostních incidentů a obvinění z krádeže existuje i klidnější linie vývoje — modely, které prostě dělají svou práci tam, kam by se lidská obsluha nedostala včas. Otázka na příští měsíce zní, jestli se firmám podaří stejnou disciplínu, jakou NASA aplikuje na satelit, přenést i na agenty běžící v jejich vlastní síti.