Všechny publikované přehledy AI & technologií
Jedna chyba zasáhla všechny čtyři hlavní AI asistenty pro programování, dvě zůstávají neopravené, a AI agenti byli spojeni s reálnými bezpečnostními úniky, což prohloubilo nejistotu po takzvaných deseti otřesných dnech pro AI obor. Zároveň pokračují debaty o limitech škálování a existenčním riziku, zatímco Stanford uvádí, že výpočetní výkon pro trénování se zdvojnásobuje každých pět měsíců.
Debata o bezpečnosti AI se posouvá od spekulativních scénářů zkázy ke konkrétním rizikům – Kalifornie chystá regulaci a lídři oboru varují, že systémy obcházejí bezpečnostní kontroly, zatímco část odborníků potichu zpochybňuje apokalyptické předpovědi. Microsoft mezitím spustil veřejnou verzi agentů Copilot Studio ovládajících počítač a OpenAI nabízí robotickým inženýrům platy až 500 000 dolarů uprostřed rostoucích pochybností o schopnostech humanoidních robotů.
Nový model od spolutvůrce OpenAI vzbuzuje zájem vývojářů, zatímco OpenAI a Anthropic se rozcházejí v adopci agentních platforem a Google prosazuje domácího AI agenta CC. Newsom mezitím nařídil přezkum bezpečnostních pravidel pro AI s možností „vypínače“, k globální spolupráci v oblasti bezpečnosti AI se vyjádřili šéf Anthropicu i král Karel.
Španělsko zaznamenalo první únik dat způsobený autonomním AI agentem, a to zrovna ve chvíli, kdy zprávy varují, že agentní AI ve zdravotnictví předbíhá schopnost dohledu a že správa (governance) AI agentů uvízla v počátečním chaosu. Tlak zvyšuje i Amazon, který se připojil k debatě o bezpečnosti AI a žádá přísné testování před uvedením na trh, zatímco král Karel III. varoval technologické lídry před „existenčními riziky" umělé inteligence.
Bezpečnostní výzkumník z DeepMind rezignoval kvůli obavám z existenčního rizika AI ve stejný den, kdy Meta spustila předplatné Meta One s nástroji Muse pro obrázky a video, a Google umožnil AI agentům ovládat chytré domácnosti. Anthropic a OpenAI zároveň prosazují „neutrální“ dohledové orgány pro AI, což vyvolává nové otázky o řízení ve chvíli, kdy se autonomní agenti šíří do výzkumu, zákaznické podpory i příprav 3D scén pro simulace.
OpenAI, Google a Anthropic spolu údajně jednají o spolupráci na bezpečnosti AI právě ve chvíli, kdy sílí volání po regulaci, k čemuž přispívá i bývalý výzkumník DeepMind a stále běžnější řeči o „existenčním riziku" — Trump se však regulaci brání. Zároveň narůstají problémy s dohledem v praxi: přístup agentních AI systémů se pro poskytovatele stává bolestí hlavy a nová zpráva zjistila, že 72 % zdravotnických organizací používá neschválené AI nástroje.
Výzkumník z Anthropic rezignoval kvůli obavám z existenčního rizika AI ve stejné době, kdy Volker Türk z OSN vyzval země k přísnější regulaci umělé inteligence, a šéf AI v Microsoftu vyzval přední laboratoře ke sjednocení bezpečnostních standardů. Samsung mezitím navázal spolupráci s Mistral AI na čipové infrastruktuře a nová studie zhodnotila důvěryhodnost hlavních AI modelů jako Gemini, Copilot a systémů OpenAI.
Nový výzkum upozorňuje, že dlouhoběžící AI agenti tiše porušují pravidla bez ohledu na velikost kontextového okna, zatímco jiná zpráva ukazuje, že tito agenti prudce zvyšují spotřebu energie. Zastánci bezpečnosti zároveň volají po zpomalení vývoje, i když Washington na obavy z katastrofy reaguje jen málo, a Microsoft mezitím zapojil Grok do Copilotu napříč aplikacemi Office v rámci multimodelové strategie.
Microsoft integruje modely Grok od xAI do Copilotu ve Wordu, Excelu a PowerPointu, zatímco šéf Anthropicu představuje bezpečnostní plán a OpenAI má kvůli obavám o bezpečnost odkládat IPO. Trump mezitím zlehčuje varování zaměstnanců AI firem před existenčním rizikem a nový průzkum ukazuje, jak realistické jsou dnes deepfake videa v probíhajícím závodě s jejich detekcí.
OpenAI spustilo GPT-6 Astra pro firemní využití ve chvíli, kdy senátoři z obou stran tlačí na společnost kvůli úniku dat z Hugging Face, zatímco Anthropic představil nástroj pro modelování dopadu AI na americkou ekonomiku. ARPA-H zároveň investovala 62 milionů dolarů do agentní AI pro léčbu srdečního selhání a Mecka AI se blíží hodnotě 500 milionů dolarů díky rostoucí poptávce po trénovacích datech pro roboty.
Debata o bezpečnosti AI se dostala do mainstreamu poté, co ji znovu rozdmýchala vysoce sledovaná rezignace, a další výzkumníci z OpenAI a Anthropicu nyní volají po zpomalení vývoje. Na podnikové frontě zároveň Oracle, Salesforce, Microsoft a Amazon představili nové nástroje pro AI agenty a produktivitu.
Nvidia potvrdila akvizici Hugging Face za 13 miliard dolarů, jednu z největších dosavadních dohod v oblasti AI infrastruktury, zatímco kalifornský guvernér Newsom podepsal zákony o bezpečnosti AI podporované Anthropic a OpenAI. Šéfka lidských práv OSN mezitím přispěla k vlně varování před existenčním rizikem AI, která nyní hýbe politickou debatou.