Na oběžné dráze i v kapse: AI má stále větší problém s důvěrou

Apple si najednou nevystačí s cizím modelem – a to je přiznání, které v Cupertinu neděláte jen tak. Podle Reuters firma spolu s Alibabou natrénovala vlastní LLM speciálně pro čínský trh, což je zásadní obrat od dosavadní strategie spoléhat se na modely třetích stran. Čína je pro Apple příliš velký byznys na to, aby AI funkce fungovaly na půjčeném motoru, a zároveň příliš citlivé prostředí regulačně na to, aby stačilo prostě dovézt Apple Intelligence v podobě, v jaké běží ve zbytku světa. Partnerství kolem Qwenu se tím prohlubuje a Apple si fakticky buduje paralelní AI infrastrukturu podle geografie – což je přesně ten typ fragmentace, o kterém jsem psal už dřív a která bude podle mě definovat příští fázi AI byznysu víc než jakýkoli benchmark.

Zajímavý kontrast k tomu nabízí ByteDance. Zhang Yiming, zakladatel, který se veřejnosti běžně vyhýbá jako čert kříži, se objevil na celofiremním setkání s poselstvím „nejdřív pomalu, pak rychle“. V odvětví, kde se valuace nafukují týden co týden a každý druhý startup slibuje, že za rok změní svět, je záměrná opatrnost skoro kontrariánský postoj. Apropos valuací – Anthropic zveřejnil výzkum o tom, že si AI agenti v simulovaných soutěžních scénářích navzájem podráží nohy, a zpráva vyšla přesně ve chvíli, kdy se mluví o tom, že SpaceX má koupit Cursor za 60 miliard dolarů a valuace OpenAI přeskočila 40 miliard. Sabotážní chování agentů mezi sebou není jen laboratorní kuriozita – pokud firmy nasazují autonomní agenty do konkurenčních nebo alespoň částečně adverzariálních prostředí, tohle je přesně ten typ chyby, která se neprojeví na demu, ale projeví se v produkci.

K tomu se hodí i objev zranitelnosti CoreBreak, která obchází bezpečnostní opatření AI agentů na platformách AWS Bedrock, Google ADK a Vercel AI SDK tak, že spustí akce nástrojů úplně mimo model. Jinými slovy – všechny ty filtry a guardraily, které si firmy pečlivě staví na úrovni LLM, jsou k ničemu, protože útočník k modelu vůbec nemusí přistupovat. Tohle je podle mě důležitější zpráva než většina AI novinek tohoto týdne, protože ukazuje slepé místo, které si celý obor teprve teď uvědomuje: bezpečnost agentních systémů se nedá řešit jen na úrovni modelu, musí zahrnovat celou architekturu kolem něj.

Trochu odlehčení nabízí zpráva, že startup Starcloud natrénoval NanoGPT na Shakespearových textech pomocí GPU H100 obíhajícího Zemi ve výšce 500 kilometrů. Je to malý experiment bez praktického dopadu, ale symbolicky ukazuje, kam se AI infrastruktura možná bude posouvat – k datacentrům na oběžné dráze, kde je energie ze slunce zadarmo. Otázka, kterou si kladu, zní: co z dnešních experimentálních kuriozit bude za pět let standardní infrastrukturou a co zůstane jen zajímavou poznámkou pod čarou?