28 článků
Bílý dům na základě varování Amazonu zablokoval model Mythos společnosti Anthropic a Trumpova administrativa zároveň odřízla přístup k předním světovým AI modelům, což naznačuje výrazné vládní zasahování do vývoje umělé inteligence; nově odhalený útok typu „tool-call" přitom může zvýšit provozní náklady AI agentů až 658násobně, což vyvolává naléhavé bezpečnostní obavy. Google DeepMind a partneři zároveň přislíbili 10 milionů dolarů na výzkum bezpečnosti víceagentních systémů a Microsoft nasadil nástroje Copilot AI pro více než 500 000 zaměstnanců NHS England.
Geopolitika AI se stává stejně ostrou jako obchod se zbrojením, a dnes to vidíme naplno. Amazon údajně varoval Bílý dům před zneužíváním Anthropicova modelu Mythos, což vyvolalo exportní kontroly, kterými americká administrativa efektivně přestřihla přístup spojenců k jednomu z nejlepších AI modelů světa. Je zajímavé, jak rychle se situace eskaluje – jde o prvopočátek chování, které jsme donedávna viděli pouze v jaderném arzenálu.
Zároveň se ale ukazuje, že tato opatření jsou ve skutečnosti lékem na poloviční nemoc. Ano, potřebujeme kontrolu nad exportem špičkových modelů, protože bezpečnostní rizika jsou skutečná. Jenže současně se ukazuje, že AI agenti se stávají systémově ohroženější, než jsme si mysleli. Google DeepMind právě vyčlenil deset milionů dolarů na výzkum bezpečnosti vícenásobných AI agentů – a to není akademický teoretizování. Problém je praktický: když spolu na stejné úloze komunikují desítky nebo stovky agentů, vznikají interakce, které nikdo pořádně nezkoumá. Přidejte k tomu nedávné objevy, že agenty lze podvést na nástroj-call útoky, které jejich náklady natáhnou až 658krát – a máte recept na financální pohromy v produkčních systémech.
OpenAI mezitím přichází s workspace agenty pro ChatGPT, které mají automatizovat komplexní pracovní toky v cloudu. Je to užitečné, ale taky to znamená, že desítky tisíc organizací budou nasazovat agenty bez hlubšího porozumění těmto novým útočným vektorům. Microsoft zase nasazuje Copilot do NHS pro přes půl milionu zaměstnanců – jde o největší nasazení AI ve zdravotnictví vůbec. Pokud to bude fungovat, bude to znamenat obrovské úspory času. Pokud se ale stane něco špatně, může jít o problém národního měřítka.
Vidím tady rozpor, který nás bude pronásledovat. Na jednu stranu potřebujeme exportní kontroly, aby si technologickou dominanci udrželi a neohrožovali ji. Na druhou stranu ale propouštíme do světa agenty, jejichž chování a bezpečnost pořádně nerozumíme. Ochrana před zvenčí je důležitá, ale co když je opravdová hrozba zevnitř – v systémech, které sami nasazujeme?
Nejbližší spojenci USA přišli o přístup k modelu Mythos od Anthropic. Rozhodnutí přišlo v rámci exportních omezení prosazovaných Trumpovou administrativou. economist.com
Anthropic představil rodinu modelů Claude Fable, která má podle firmy výkon srovnatelný s modelem Mythos — ten ale nebyl veřejně vydán. Investoři reagují pozitivně a analytici vidí prostor pro další růst vybraných AI akcií. theglobeandmail.com
Čínská firma Zhipu AI zveřejnila model GLM-5.2 jako open source, což vystřelilo její akcie vzhůru. Krok zapadá do trendu, kdy čínští hráči lákají uživatele odrazené rostoucími cenami špičkových amerických modelů. scmp.com
Červnová zpráva OWASP tvrdí, že zranitelnost vůči prompt injection je zabudována přímo do způsobu, jakým LLM zpracovávají text. Loňské CVE záznamy a incidenty v dodavatelských řetězcích naznačují, že jde o strukturální problém bez snadného řešení. techtimes.com
Čínští výzkumníci odhalili první obecný tzv. world foundation model, který má AI umožnit pochopit, jak funguje fyzický svět. Jde o posun za hranice generování textu, obrázků a videa směrem k modelování reálné fyziky. news.cgtn.com
Výzkumníci zkoumají, jak LLM umožňují robotům interpretovat neurčité instrukce v prostředích, jako jsou sklady nebo kanceláře. Modely pomáhají robotům filtrovat nepodstatné informace a zaměřit se na klíčové úkoly. technology.org
Workspace agents in ChatGPT are Codex-powered agents that automate complex workflows, run in the cloud, and help teams scale work across tools securely. openai.com
Most AI security worries about what an agent might leak or do wrong. A newer class of attack ignores all of that. It does not steal your data or break your... techtimes.com
Samsung, SK, LG accelerate workplace use of generative AI after years of caution over technology leaks. SK Group Chairman Chey Tae-won speaks during the... koreaherald.com
Agentic AI is changing enterprise costs. Learn the total cost of agentic AI, from infrastructure and governance to change, risk and Agent FinOps. ey.com
As organisations move from generative AI to agents, success will depend on pairing greater autonomy with strong data context, governance and oversight,... businesstimes.com.sg
Dell Technologies CTO and CAIO explains where enterprise AI is heading. itpro.com
The funding call is open to researchers worldwide and focuses on the risks that may emerge when large populations of AI agents interact across shared... edtechinnovationhub.com
Military AI verification has no equivalent to nuclear arms control checks, leaving defense systems with a gap security teams must close. helpnetsecurity.com
Artificial intelligence expert Stuart Russell has become one of the most vocal critics of the technology he has helped develop for decades. en.vijesti.me
In the rapidly evolving field of materials science, the integration of artificial intelligence (AI) holds transformative potential for accelerating... bioengineer.org
NHS England oznámila rozsáhlou expanzi AI, v jejímž rámci získá přístup k Microsoft 365 Copilot více než půl milionu klinických pracovníků a administrativního personálu. Jde o jeden z největších nasazení AI v historii britského zdravotnictví. techradar.com
NHS England plánuje poskytnout Microsoft 365 Copilot celkem 505 000 zaměstnancům – jde o největší nasazení AI ve zdravotnictví vůbec. Rozhodnutí předcházela pilotní fáze s 30 000 pracovníky, která prokázala výrazné časové úspory. msn.com
Microsoft experimentuje s provozem Copilot+ AI funkcí na diskrétních GPU, dosud byly tyto funkce vázány na NPU čipy. Novinka je dostupná přes Windows App SDK v rámci experimentálního kanálu Windows Insider s povoleným Developer Mode. tomshardware.com
AIS Business, přední poskytovatel digitální infrastruktury pro podniky, spolu s Microsoft Thailand oznámili spuštění programu AI Ready zaměřeného na malé a střední firmy. Součástí nabídky je integrace Microsoft Copilot. thefastmode.com
Mirage je video world model vyvinutý Microsoft Research ve spolupráci s několika univerzitami. Na rozdíl od klasických přístupů ukládá informace o scéně přímo do latentního prostoru místo pixelových reprezentací, díky čemuž si zachovává prostorovou paměť i mimo aktuální záběr. the-decoder.com
Google integruje Gemini Omni do nástrojů Flow, Flow Music, Gemini a YouTube Shorts, kde umožňuje konverzační editaci videa. Skutečnou zkouškou bude, zda se Googlu podaří proměnit technologický potenciál v uživatelsky přívětivý produkt. startupfortune.com
Elon Musk vyzval svých více než 200 milionů sledujících, aby vyzkoušeli nejnovější verzi Grok Imagine. Nástroj pro generování obrázků a videí od xAI prošel výraznou aktualizací, která zahrnuje podporu videa i nový Quality Mode. basenor.com
OpenAI, mateřská společnost ChatGPT, se začíná dívat za hranice virtuálního světa a míří do toho fyzického. Vyplývá to z vyjádření generálního ředitele Sama Altmana, který naznačil ambice firmy v oblasti robotiky. fool.com
Inženýři a počítačoví vědci vyvíjejí roboty poháněné AI, kteří vypadají a chovají se jako lidé. Společnost Boston Dynamics pozvala redakci 60 Minutes, aby sledovala jejího humanoida Atlas v akci. cbsnews.com
Společnosti KKR, NVIDIA a Vistra společně s Kuwait Investment Authority (KIA) oznámily vznik nové firmy Helix Digital Infrastructure. Platforma má urychlit rozvoj infrastruktury pro příští generaci AI. thefastmode.com
Čínský technologický gigant ByteDance vyjednává se šanghajskou firmou Iluvatar CoreX o dodávkách AI čipů určených pro inferenční úlohy. ByteDance zároveň zvažuje další možnosti zajištění domácích čipů jako alternativy k westným technologiím. reuters.com
Generální ředitel Amazonu údajně upozornil na zneužití modelu Fable 5 od Anthropic prostřednictvím jailbreaku. To spustilo bezprecedentní příkaz k exportní kontrole a vyvolalo nový střet mezi technologickými firmami a vládou USA. fortune.com
AIskimIQ je nezávislý projekt. Pokud vám přijde užitečný, můžete jeho rozvoj podpořit kávou.
