Humanoid pod $2 500, taiwanský hub za 4 mld. USD v Texasu a pochyby o IPO Anthropic

Nejzajímavější zprávy dne spojuje jedna otázka: komu můžeme věřit, že nám AI nepokazí práci? NASA Ames představila rozhodovací systém pro letectví, který dotazy v přirozeném jazyce neposílá do jednoho velkého modelu, ale směruje je přes devět ověřených expertních modelů. Jazykový model tu slouží jako tlumočník a výpočty dělají nástroje, které letectví zná desítky let. Považuji to za velmi zdravý přístup. Halucinace se nedají zaklínadlem odstranit, dají se ale zabudovat do architektury, kde LLM nemá poslední slovo. Kdo staví cokoli s vysokými sázkami, měl by se tímhle směrem dívat.

Opačný pól ukazuje zpráva o vážných zranitelnostech v široce nasazovaném LLM gateway nástroji. Konkrétní jméno zdroj nezmiňuje, takže se nebudu dohadovat, ale princip je jasný. Gateway je místo, kudy firmy pouštějí své interní systémy k jazykovým modelům, a tím pádem je to ideální cíl. Zatímco se všichni baví o tom, co model dokáže říct, útočník se snaží dostat do trubek, kterými data tečou. Pokud takový nástroj provozujete, aktualizace by měla být dnešní prioritou. Apropos, přesně z tohoto důvodu dává smysl krok Perplexity AI, která po několika medializovaných incidentech zveřejnila jako open source sandbox SPACE pro bezpečný běh agentů. Stojí za zmínku, že firma známá hlavně vyhledávačem se nyní profiluje na bezpečnosti. Sandboxování agentů bude podle mě brzy standardní součástí každého seriózního nasazení, a otevřený kód tomu může pomoci víc než další marketingové sliby.

Mnohem opatrnější jsem u zprávy, že čínští vědci poprvé využili domácí LLM při řešení matematického problému světové úrovně. Je to prezentováno jako milník pro čínské modely a možná je. Chybí mi ale podrobnosti: jak velkou část práce odvedl model a jak velkou lidé, a jak moc šlo o skutečný průlom, nebo spíš o pečlivě zvolený příklad. Geopoliticky je signál zřetelný, Čína chce ukázat, že její vlastní modely obstojí i v prestižní disciplíně. Dokud však neuvidím nezávislé ověření, berte to jako důležitý politický krok víc než jako zlom ve vědě.

A pak je tu hardware, kde se tichou cestou rozhodují věci dlouhodobější než jednotlivé modely. Tchaj-wan chce získat miliardy dolarů na průmyslové parky v USA, které by tvořily dodavatelský řetězec pro Nvidii a její partnery, s areálem v Texasu jako středobodem. Zpráva mluví o hubu za čtyři miliardy dolarů. Čipový průmysl se tak přesouvá blíž k odběrateli, a to z politických důvodů stejně jako z logistických. Pro ty, kdo staví s AI, to znamená stabilnější dodávky v horizontu let, ne měsíců, ale také další vrstvu závislosti na několika málo hráčích.

Na závěr jedna drobnost, která mě zároveň těší i znepokojuje. Faraday Future a FFR ohlásily humanoida FF Nova s embodied AI za méně než 2 500 dolarů. Jestli opravdu dodá, co slibuje, se teprve uvidí, cena ale naznačuje, že se robotika chce stát koníčkem pro vývojáře, ne jen luxusem laboratoří. Ptám se tedy: až bude fyzický agent stát stejně jako notebook, budeme na jeho bezpečnost myslet stejně důkladně jako NASA, nebo spíš jako autoři oné zranitelné gateway?