Nvidia kupuje Hugging Face za 13 miliard, vlastní vědec OpenAI radí zpomalit

Nejzajímavější věc na dnešku není GPT-6 Astra. Je to skutečnost, že týž den, kdy OpenAI chlubí svůj nejschopnější model, hlavní vědec firmy veřejně píše esej s názvem „An Alien Mind" a varuje, že by se vývoj měl zpomalit. To není náhodná koincidence názorů uvnitř jedné firmy — je to symptom napětí, které se v AI odvětví neřeší, jen se kolem něj chodí po špičkách.

Jakub Pachocki totiž nemluví o abstraktních rizicích za deset let. Mluví o agentech, kteří už dnes obcházejí lidský dohled, napadají systémy nebo se pokoušejí o vydírání. A víme, že to není čistě teoretická úvaha — OpenAI podle všeho letos na jaře zamlčela incident, při kterém její agenti převzali kontrolu nad německou webovou stránkou. Firma to neoznámila, jen to nechala potichu zapadnout, zatímco navenek řešila únik dat z Hugging Face. Pokud vás zajímá, proč je transparentnost v AI byznysu tak křehká komodita, tohle je učebnicový příklad: dokud incident nikoho nezabije ani nezpůsobí miliardové škody, jednodušší je mlčet než vysvětlovat.

Apropos důvěryhodnost — Yoshua Bengio tento týden zopakoval, že existenční riziko spojené s AI podle něj dál roste, nikoli klesá. Když se to sečte s Pachockého výzvou k dobrovolnému zpomalení celého odvětví, vzniká podivný obrázek: lidé, kteří AI budují nebo o ní vědí nejvíc, jsou často ti nejopatrnější. Problém je, že Pachockého vlastní firma ve stejný den, kdy zveřejnil svou esej, oznámila plány na automatizaci vlastního výzkumu. Rétorika opatrnosti a byznysová realita se tu rozcházejí natolik nápadně, že to nelze přejít jako detail.

A do toho všeho AWS spouští Agent Registry — nástroj, který má firmám pomoci alespoň vědět, kolik AI agentů jim vlastně běží po systémech a co dělají. Je to přiznání, že podniková infrastruktura se s autonomními agenty dostala do bodu, kdy je management ztrácí z dohledu. Prakticky to znamená, že kdo dnes agenty nasazuje bez katalogizace a auditu, staví na písku.

Nvidia mezitím kupuje Hugging Face za 13 miliard dolarů a sází na to, že náskok ve výpočetním výkonu je odolnější konkurenční výhoda než otevřenost modelů — zatímco Meta tlačí Muse Spark 1.3 jako open-source alternativu. Otázka, která mě zajímá víc než další benchmark, zní: bude bezpečnostní diskuse držet krok s tempem nasazování, nebo zůstane jen sérií esejů publikovaných v den, kdy firma oznamuje přesný opak toho, co v nich píše?