Altman o konci záplatování, Hassabis o AGI a skok v používání DeepSeek

Sam Altman řekl něco, co by měl slyšet každý, kdo staví software: záplatování už nestačí. Podle jeho vystoupení na Stanfordu už nevěří, že se dá opravit každá zranitelnost, kterou umělá inteligence najde, a místo toho volá po obranném štítu postaveném na AI. Zní to dramaticky, ale stojí za tím jednoduchá aritmetika. Pokud model dokáže chyby hledat rychleji a levněji, než je lidé stíhají opravovat, vítězí útočník už z principu. A jak se píše v jedné ze zpráv, nová vlna chyb objevených pomocí AI údajně vyřadila z provozu vládní weby. Nemám důvod brát tu informaci jako ověřený fakt, ale směr je zřetelný.

Co mě na tom zajímá nejvíc, je druhotný efekt. Celý model moderního vývoje stojí na předpokladu, že zranitelnost se najde, opraví a nasadí oprava. Pokud tenhle cyklus přestane fungovat, nepůjde jen o bezpečnostní týmy. Změní se, jak píšeme kód, jak dlouho smí běžet stará závislost a kolik důvěry lze vkládat do systémů, které nikdo nestihne průběžně auditovat. Altman je mimochodem v téhle debatě stranou, která AI prodává i se všemi riziky, takže bych jeho výzvu ke „štítu" četl i jako obchodní pozici. Obrana postavená na AI je produkt, který se dá prodat.

Apropos obrana a rizika: Demis Hassabis prý v nedávném rozhovoru výrazně posunul svůj odhad příchodu obecné umělé inteligence, tedy AGI, a podle všeho dřív, než čekal. Stojí za zmínku, že to říká předseda Google DeepMind, ne marketingový řečník. Profil v deníku The Wall Street Journal z 21. října zároveň ukazuje jeho druhou tvář, totiž ambici urychlit vědu a vývoj léků. Sám bych tu vyzdvihl otázku, kterou text otevírá: komu ty přínosy nakonec připadnou? Léky, které vzniknou za zlomek času, jsou skvělá zpráva. Jenže kdo je bude vlastnit a za kolik je poskytne, to je otázka spíš pro ekonomy a politiky než pro inženýry.

Zatímco se řeší velké vize, ekonomika provozu se mezitím tiše posouvá. DeepSeek V4.1-Flash-1017 zpracoval od 19. října do neděle 33,6 bilionu tokenů, o 801 procent víc než dříve, a vyšplhal se na špičku světového žebříčku využití. Číslo je ohromující, ale ptám se, jestli ukazuje kvalitu, nebo hlavně cenu a dostupnost. Já tipuji to druhé. Vývojáři jdou tam, kde je levno, a to je pro západní laboratoře nepříjemná zpráva. Do stejného obrazu zapadá i TokenGate, metoda výzkumníků ze Stanfordu a Berkeley, která má výrazně zlevnit fázi prefill u modelů s dlouhým kontextem. Pro každého, kdo staví aplikace nad dlouhými dokumenty, to může být důležitější než další přírůstek v benchmarcích. IBM zase rozšiřuje správu agentů ve watsonx Orchestrate, protože firmy pomalu zjišťují, že agenty nestačí nasadit, je třeba je i hlídat.

Tak trochu to všechno spojuje jedna otázka. Pokud AI zlevňuje útok, obranu i vědu současně, kdo z toho vyjde nejlépe: ten, kdo je nejchytřejší, nebo ten, kdo je nejrychlejší a nejlevnější?