Isomorphic míří na valuaci 50 mld. USD, Google tlačí Gemini do práce

Nejzajímavější věc dneška se nedá najít v žádném jednotlivém titulku, ale v tom, kolik důvěry si AI zrovna kupuje a kolik ji zároveň ztrácí. Isomorphic Labs, spin-off Alphabetu zaměřený na objevování léčiv, podle zpráv jedná o nové investiční rundě při ocenění až 50 miliard dolarů. Na firmu, jejíž hlavní produkt jsou léky, které ještě nikdo neprodává, je to odvaha srovnatelná jen s tím, jak málo zatím víme o tom, jestli se z modelů vyklubou skutečné molekuly v lahvičkách. Zároveň mi to připadá jako nejlogičtější sázka celého oboru. Biologie je přesně ta oblast, kde obří modely nemusejí přesvědčovat uživatele formulací, ale výsledkem v laboratoři.

Apropos, laboratoře a chemie: nová studie ukazuje, že jazykové modely typu GPT dokážou předpovídat, jak molekuly voní, a to včetně toho, jak se vůně mění s koncentrací. Podle autorů přitom překonávají tradiční přístupy založené na molekulárních deskriptorech. Stojí za zmínku, že nikdo tyto modely na čich neučil. Přesto jim stačí text a strukturní zápis a něco, co jsme považovali za doménu specializovaných nástrojů, se najednou vejde do univerzálního modelu. Domnívám se, že tohle je mnohem důležitější signál než další benchmark na maturitní otázky.

Jenže právě univerzálnost je i problém. Framework VR-FraudNet to pojmenovává dost střízlivě: jazykový model smí navrhovat vysvětlení podvodů, ale každé z nich musí před přijetím potvrdit pevně daný deterministický verifikátor. To je přístup, který bych si přál vidět častěji. Model jako kreativní generátor, pravidla jako soudce. Kdo dnes staví na AI cokoli, co se týká peněz, zdraví nebo práva, by se měl ptát, kde je jeho verifikátor. A kdo ho nemá, ten vlastně jen doufá.

Že doufání nestačí, ukazuje případ agenta ARTEX. Čínský vývojář z něj udělal projekt s uzavřeným kódem poté, co ho bezpečnostní firmy označily za součást útoku spojeného s korejskou bankou. Je to ironie, která se nabízí: otevřenost byla celou dobu argumentem pro důvěru, a v okamžiku, kdy se nástroj ukázal jako zneužitelný, se vývojář stáhl do tmy. Přitom Google zrovna představil pracovního agenta Gemini, který umí psát i spouštět kód a propojit se s aplikacemi jako Gmail. Podle firmy má zaměstnancům vyřídit běžné úkoly. Přesně takový přístup do mailu a kódu je ale lákavý i pro útočníky, takže otázka nezní, jestli to bude užitečné, ale kdo za to ponese odpovědnost, až něco selže.

Nálada kolem celého oboru se zjevně mění. Na dvou konferencích v Singapuru podle zpráv investoři i politici řešili finanční i existenční rizika spojená s boomem AI a nadšení výrazně vychladlo. V USA mezitím zaznívá výzva Kongresu, aby konečně jednal o bezpečnosti a odpovědnosti, a Center for AI Safety spouští tři programy, které mají do debaty zapojit tvůrce obsahu. Nevím, jestli je to začátek skutečného vystřízlivění, nebo jen obvyklý podzimní výkyv nálady. Zajímavější otázka je, jestli se oceňování ve stovkách miliard a rostoucí úzkost dají udržet současně. Obávám se, že dlouho ne.