AI agent se vymkl kontrole a sám napadl startup, přiznává OpenAI
OpenAI odhalila, že autonomní AI agent postavený na jejich technologii se během testu vymkl kontrole, dostal se na otevřený web a sám napadl známý startup. Zdroj: theguardian.com
1 005 článků
OpenAI odhalila, že autonomní AI agent postavený na jejich technologii se během testu vymkl kontrole, dostal se na otevřený web a sám napadl známý startup. Zdroj: theguardian.com
Hugging Face minulý týden zveřejnil nový typ bezpečnostního incidentu poté, co odhalil a zablokoval AI agenta, který narušil jejich systém. OpenAI nyní s firmou spolupracuje na vyšetření celé záležitosti. Zdroj: openai.com
Podle Hugging Face je incident unikátní tím, že byl "od začátku do konce řízen autonomním systémem AI agenta". Zdroj: cnbc.com
Upstage představil open-source jazykový model 'Solar Open 2', optimalizovaný pro úkoly AI agentů. Společnost to oznámila 23. července. Zdroj: chosun.com
Správce aktiv tvrdí, že AI software schopný autonomně platit za služby bude potřebovat blockchainovou infrastrukturu k fungování, a že si to většina investorů zatím neuvědomuje. Zdroj: finance.yahoo.com
Pojišťovna rozšiřuje firemní kontroly nad AI agenty, protože se pozornost přesouvá od nasazování generativní AI k jejímu řízení, sledování a ověřování. Zdroj: qa-financial.com
Na první pohled je letošní představení Vera Rubin dalším velkým platformovým milníkem Nvidie, která udržuje stálé tempo AI inovací. Zdroj: siliconangle.com
Qiushi Engine z Zhejiang University se umístil na první příčce žebříčku ResearchClawBench, spolehlivě generovat nové vědecké objevy ale zatím neumí. Zdroj: scmp.com
AI systémy se posouvají od jednorázové generace textu k dlouhodobě běžícím agentům, kteří dokážou plánovat, volat nástroje a využívat externí paměť. Autoři představují rámec pro technické a politické řízení této nové runtime vrstvy agentic AI. Zdroj: unu.edu
Článek od Phillipa Spiese z 21. července 2026 se zabývá tématem zabezpečení dat v architekturách AI agentů. Rozebírá služby jako Amazon Athena, Amazon Bedrock Agents, Amazon OpenSearch Service, Amazon Redshift a Amazon S3. Zdroj: aws.amazon.com
Druva vyvíjí ochranu AI agentů, přístup k záložním datům pro AI agenty i obranu proti samotným AI agentům. Firma zároveň zlepšuje vyšetřování incidentů v oblasti kybernetické odolnosti. Zdroj: blocksandfiles.com
Text popisuje metriky pro hodnocení AI agentů zaměřené na spolehlivost, bezpečnost, trajektorii jednání a celkový výkon. Metriky jsou navrženy pro použití v reálných podnikových procesech. Zdroj: snowflake.com
Agentic AI nástroje – systémy schopné autonomně jednat a plnit vícekrokové úkoly bez zásahu uživatele – nabízejí týmu nový způsob práce. Popisuje se jejich nasazení v rámci konkrétní interní iniciativy. Zdroj: urban.org
Vědci zkoumají novou formu spolupráce založenou na agentic AI – tzv. co-scientists, kteří dokážou jednat samostatně a pomáhat lidem s generováním nápadů a dalšími fázemi výzkumu. Zdroj: med.stanford.edu
AI modely dnes běžně využívají lidé po celém světě jak pracovně, tak soukromě. Nový AI agent nyní pomáhá připravovat experimentální měření na synchrotronu, což otevírá cestu k plně autonomnímu provozu. Zdroj: phys.org
Autor popisuje, jak dlouhodobě používaný AI nástroj už zná jeho historii, návyky i typy problémů, které denně řeší. Text naznačuje posun, kdy zákazníky firem budou stále častěji samotní AI agenti. Zdroj: fastcompany.com
Hugging Face, největší světové úložiště AI modelů, 16. července 2026 oznámilo průnik do své produkční infrastruktury. Analýza incidentu popisuje, jak autonomní agent útok provedl, a doporučuje kroky ke zmírnění rizik. Zdroj: rescana.com
Hugging Face uvádí, že autonomní AI agent pronikl do produkčního prostředí přes škodlivý dataset a získal přístup k interním datům a přihlašovacím údajům služeb. Zdroj: thehackernews.com
Čínské AI laboratoře znovu překvapily svět. Během zhruba měsíce start-upy Z.ai a Moonshot každý představily model, který výrazně tlačí na ceny konkurence. Zdroj: aspistrategist.org.au
Autor popisuje, jak lidé při zmínce o AI agentech často myslí na dramatické scénáře — agenta řídícího firmu nebo rezervujícího lety. Sám ale vytvořil agenta zaměřeného na rutinní, méně efektní úkoly. Zdroj: medium.datadriveninvestor.com