GPT-6 Astra přichází s novými bezpečnostními hranicemi — i obavami

GPT-6 Astra dorazila do světa se dvěma protichůdnými nálepkami najednou — nejvýkonnější model, jaký kdy OpenAI vydala, a zároveň první model, který podle jejich vlastní interní škály dosáhl nejvyššího stupně rizika. Tohle není detail, který by se měl zamést pod koberec jedním odstavcem v tiskové zprávě. Pokud firma sama přiznává, že překročila dosavadní bezpečnostní hranice, měli bychom se ptát, co přesně to znamená v praxi, ne jen obdivovat benchmarky.

Součástí toho příběhu je i „neuralese" — vnitřní způsob uvažování modelu, který se čím dál víc vzdaluje lidsky čitelnému textu. Odborníci na to upozorňují z dobrého důvodu: dokud model „přemýšlel" v podobě vět, které dávaly smysl, dalo se aspoň částečně sledovat, jak dochází k závěrům. Pokud se vnitřní reprezentace stává vlastním jazykem, který nikdo mimo model nerozumí, ztrácíme poslední okno do jeho rozhodování. Astra tak není jen skok ve výkonu, ale možná i skok směrem k černé skříňce, kterou budeme muset věřit, aniž bychom jí plně rozuměli.

Zajímavé je, že tahle debata o riziku probíhá paralelně s velmi praktickými posuny v tom, kdo AI vlastně kontroluje. Nvidia koupí Hugging Face za 13 miliard dolarů si kupuje přístup k jednomu z nejdůležitějších uzlů open-source ekosystému — a slibuje, že jej nechá otevřený. Otázka je, jak dlouho takový slib vydrží, když firma zároveň potřebuje monetizovat svou pozici napříč celým stackem od čipů po modely. Podobně symbolický je vznik HUMAIN M3, arabského jazykového modelu postaveného na MiniMax M3 a podpořeného saúdským fondem PIF. Země, které donedávna AI pouze dovážely, teď staví vlastní suverénní infrastrukturu — a to není jen otázka jazykové lokalizace, ale geopolitické nezávislosti na americkém a čínském modelovém stacku.

A do třetice bezpečnost jako systémová otázka, ne jen firemní PR. Čínský regulátor CAC zveřejnil pět hlavních rizik spojených s AI, což ukazuje, že Peking tuhle debatu bere vážně na úrovni státní politiky, ne jen jako téma pro konference. Souběžně se objevují hlasy srovnávající současnou situaci s finanční krizí — tvrdí, že finanční systém si postupem času vybudoval pojistky proti kolapsu, zatímco AI podobné záchranné mechanismy prakticky nemá. Stojí za zmínku, že tahle paralela kulhá v jednom důležitém bodě: finanční krizi jsme si nejdřív museli bolestně prožít, než jsme pojistky postavili. U AI bychom si podobný test raději odpustili.

Co mě na tom všem zaujalo nejvíc, je souběh technického posunu s institucionální nepřipraveností. Máme modely, které možná myslí způsobem, jakému už nerozumíme, síť přebírá kontrolu přes akvizice a suverénní projekty, a regulace teprve formuluje, čeho se vlastně bojí. Otázka na příští měsíce zní: kdo tenhle náskok dohoní dřív — bezpečnostní rámce, nebo další generace modelů?