Altman varuje před koncentrací moci v AI, 400 vědců žádá závazná pravidla

Sam Altman se tento týden dostal do zajímavé pozice: v jednom rozhovoru přemýšlí, co lidem zbude, až bude AI schopnější než oni, a v druhém varuje před světem, kde veškerou moc drží jediná firma. Mně na tom přijde pozoruhodné, že tu druhou obavu vyslovuje šéf společnosti, která o takové dominanci prokazatelně uvažuje. Nechci mu podsouvat cynismus, ale když muž, který stojí uprostřed závodu, předpovídá „hrozný" scénář, ve kterém vítěz ostatním odřízne zdroje, pak to není jen filozofování. Je to signál, že se o tom v kuloárech mluví zcela vážně. A důležité je to hlavně proto, že diskuse o rekurzivním sebezlepšování a o nové hardwarové řadě OpenAI ukazuje, kde se bude rozhodovat: nad výpočetním výkonem, ne nad chytřejšími prompty.

Přesně na tuhle obavu reaguje zhruba čtyři sta vědců z 34 zemí, kteří žádají závazný mezinárodní orgán dohlížející na pokročilé systémy. Jejich argument je jednoduchý: dobrovolné závazky nestačí. S tím souhlasím, i když jsem skeptický, že se takový orgán podaří zřídit dřív, než se rozložení sil v oboru ustálí. Apropos, všimněte si, jak dobře si tyto dvě zprávy rozumějí. Altman říká, že koncentrace moci je riziko, vědci říkají, že bez pravidel ji nikdo nezastaví. Otázka je, kdo bude ochoten pravidla skutečně vynutit, když se v nich budou střetávat zájmy Washingtonu, Pekingu i Bruselu.

Zajímavější než velká politika je ale podle mě to, co se děje u země. Projekt llm-d vydal verzi 1.0 a míří s open-source inferencí velkých jazykových modelů do produkčního nasazení. Stojí za zmínku, že právě tady se láme chleba pro firmy, které s AI skutečně stavějí. Natrénovat model dokáže jen hrstka hráčů, ale provozovat ho spolehlivě a za rozumné peníze je problém, který řeší každý. Otevřená infrastruktura pro inferenci je tak vlastně tichým protipólem Altmanova scénáře: čím snáze lze modely provozovat mimo ekosystém jedné firmy, tím menší je riziko, že vám někdo odřízne přístup.

Do stejné kategorie praktických novinek patří i Microsoft, který začal postupně zpřístupňovat Copilot Code, agenta pro tvorbu aplikací z popisu v přirozeném jazyce, a Ripple se svým XRPL AI Starter Kitem, jenž umožní agentům platit v XRP a RLUSD přes protokol x402. Obojí je zatím spíš ukázka směru než hotová revoluce, ale ta kombinace mě zaujala. Agent, který umí napsat aplikaci a sám za ni zaplatit infrastrukturu, už není vzdálená představa. Pokud vás zajímá, kde se to zadrhne, tipuji, že u odpovědnosti, ne u technologie.

A odpovědnost je i téma, které se v tom všem snadno ztrácí. Odborníci prošli 900 odpovědí ChatGPT, Gemini a Claude k ohnisku hantaviru a zjistili, že 88,9 % z nich bylo správných nebo převážně správných, zatímco 11,1 % mohlo být zavádějících. Je to dobré číslo, nebo špatné? Pro běžnou otázku je to působivé. Pro zdravotní krizi, kde lidé hledají rady v panice, je desetina potenciálně zavádějících odpovědí důvod k opatrnosti. Možná právě tahle statistika ukazuje, proč o závazných pravidlech nelze mluvit jen v souvislosti s hypotetickými katastrofami, ale i s každodenní spolehlivostí.