OpenAI za 1,25 bilionu dolarů, riziková varování Anthropic a demokraté o AI

Největší zpráva dne není to, že OpenAI získala dalších zhruba 11 miliard dolarů při valuaci 1,25 bilionu. Zajímavější je, co se děje ve stejném týdnu jinde: Anthropic se chystá na burzu a do podkladů pro investory píše, že pokročilá AI může přinést „katastrofická či existenční rizika pro lidstvo". Jedna firma sbírá peníze za ocenění, které se vyrovná největším korporacím světa. Druhá do prospektu otevřeně píše, že její produkt může skončit špatně. To je zvláštní reklama, ale podle mě také docela poctivá.

Berte to s rezervou, protože prospekt je právní dokument. Firmy do něj zapisují rizika i proto, aby se kryly proti budoucím žalobám. Přesto se mi nezdá, že jde jen o formalitu. Jazyk o „globální bezpečnostní hrozbě nejvyšší důležitosti" je na dokument určený investorům nezvykle příkrý. A když ho napíše firma, která na AI vydělává, těžko ho odbyjeme jako alarmismus aktivistů. Stojí za zmínku, že investoři to zjevně nevnímají jako překážku. Peníze proudí dál a valuace rostou, takže trh si riziko pravděpodobně započítává jako cenu za vstup do hry.

Souvisí to i s tím, co se děje ve Washingtonu. Midtermy přivedly do Kongresu pět zastánců bezpečnosti AI, mezi nimi Scotta Wienera, který jako kalifornský státní senátor prosazoval zákony omezující rizika pokročilých modelů. Teď má šanci přenést své nápady na federální úroveň. Apropos, v San Francisku se mezitím sešli Pritzker, Emanuel, Booker a Khanna, tedy možní demokratičtí uchazeči o nominaci v roce 2028, s odborníky na bezpečnost AI. Nemyslím si, že je to náhoda. Regulace AI se z okrajového tématu mění v politickou platformu a firmy by s tím měly počítat dřív, než jim to přijde jako nepříjemné překvapení.

Evropa mezitím dostává návrh, aby vedla globální dohodu o hlášení incidentů s AI, tedy společný rámec pro sdílení informací o selháních. Líbí se mi, že nejde o další zákaz, ale o praktickou infrastrukturu, podobnou té v letectví, kde se z nehod učí celé odvětví. Otázka je, jestli Evropa dokáže dohodu skutečně prosadit, nebo zůstane u dobře míněného návrhu. Jiné než rétorické páky tu zatím nevidím.

Na druhém pólu je NVIDIA, která podle uniklých slajdů Jima Fana představila model GR00T 2. Dokáže prý předpovídat budoucí video i akce současně. Pokud je to pravda, jde o víc než o přírůstek. Robot, který si dokáže „představit", co se stane, než něco udělá, se přibližuje k tomu, co od robotiky skutečně čekáme. Zatím ale máme jen uniklé slajdy, takže bych počkal na nezávislé testy.

Zbývá otázka, která se dnes line všemi těmi zprávami: bude regulace stíhat tempo, jakým roste kapitál? Dnešní čísla zatím nasvědčují tomu, že ne.