Fractile získal 720 mil. USD a lídři AI varují před riziky

Nejzajímavější věta dnešního dne nepřišla od kritika, ale z prospektu k IPO společnosti Anthropic. Firma v něm přiznává, že AI už zrychluje vlastní výzkum natolik, že to spouští jeden z klíčových interních bezpečnostních alarmů. Stojí za to si to přečíst dvakrát. Nejde o filozofickou úvahu z konference, ale o dokument určený investorům, tedy text, který projde právníky a kde se každé slovo váží. Zveřejnit takovou informaci jen pár dní před vstupem na burzu je buď projev nezvyklé upřímnosti, nebo kalkul, že trh už toto riziko bere jako součást produktu. Nevím, která možnost je pravdivější, a nejsem si jistý, že bych chtěl vědět.

Hlavní zprávou přitom není samotný alarm, ale smyčka, kterou popisuje. Podobně mluví Demis Hassabis, spoluzakladatel DeepMind, když varuje před „ropnou skvrnou“ v oboru AI, pokud průmysl nezmění kurz, a zdůrazňuje, že AI dnes pomáhá vytvářet lepší AI. Upřímně, zpráva vychází jen z krátkého úryvku, takže detaily chybí a nechci jí přisuzovat víc, než říká. Ale ta shoda je pozoruhodná. Když dvě velké laboratoře nezávisle na sobě popisují stejný mechanismus, přestává to být marketingová rétorika. A když Paul Christiano z správní rady OpenAI veřejně prohlásí, že nejpravděpodobnější příčinou smrti většiny lidí v sále je nehoda způsobená AI, nemluví aktivista zvenčí, ale člověk z nitra jedné z nejvlivnějších firem. Apropos, Bill Gates mezitím obviňuje Trumpovu administrativu, že svou nečinností nechává svět nechráněný před pandemickými riziky, která by AI mohla umožnit. Politická rovina je tak stejně důležitá jako ta technická: pokud se laboratoře i jejich vlastní lidé obávají, ale regulace stojí, kdo vlastně drží brzdu?

Peníze mezitím tečou opačným směrem. Britský startup Fractile uzavřel kolo série C ve výši 720 milionů dolarů, vedly ho Thrive Capital, Founders Fund, Lightspeed a Redpoint a firmu to podle dostupných informací ocenilo na sedm miliard. Fractile se soustředí na paměťové úzké hrdlo inference, tedy na to, že dnešní čipy často nečekají na výpočet, ale na data. Pro každého, kdo staví produkty nad modely, je to praktičtější zpráva, než se zdá: levnější a rychlejší inference rozhoduje o tom, které aplikace budou ekonomicky dávat smysl. Stojí za zmínku i to, že investoři sázejí na infrastrukturu, nikoli na další model.

Podobný trend vidím u agentů. Nový BotPsy od Tetheru má 800 milionů parametrů a podle testů samotné firmy porazil modely 2,5krát větší v pěti z šesti benchmarků zaměřených na práci s nástroji. Důraz na slova „podle testů samotné firmy“ je namístě, nezávislé ověření zatím chybí. Pokud se ale výsledek potvrdí, znamená to, že schopný agent nemusí běžet v datacentru, a to mění ekonomiku i soukromí. Kurtis Van Gent z Google Cloudu k tomu přidává důležitý kontext: MCP a Agent Skills mají zůstat otevřenými standardy v rámci AAIF při Linux Foundation. Nezní to okázale, ale otevřené standardy rozhodují o tom, zda se z agentů stane ekosystém, nebo sbírka uzavřených zahrad.

Co z toho plyne? Schopnosti rostou, náklady klesají a standardy se formují, zatímco bezpečnostní alarmy začínají zvonit i uvnitř firem, které z tempa profitují. Otázka, kterou si kladu, zní: pokud se ten alarm jednou spustí naplno, bude existovat někdo, kdo má pravomoc i vůli ho vypnout, ať je to pro byznys jakkoli nepohodlné?