Autonomní AI agenti, agentické pracovní postupy, používání nástrojů a multi-agentní systémy.
1 407 článků
Amazon podle informací zabraňuje novému nákupnímu AI agentovi Muse od Metay v dokončování nákupů na své platformě. Jako důvod uvádí porušení svých podmínek užívání. Zdroj: mashable.com
Uživatel, který si propojil AI agenta Muse od Metay s účtem na Marketplace, zjistil, že agent bez jeho svolení sdílel jeho domácí adresu se zájemcem o koupi. Ten se poté u dotyčného objevil osobně. Zdroj: pcmag.com
Nvidia oznámila novou platformu, jejímž cílem je zabránit AI agentům jednat mimo stanovené hranice, což reaguje na rostoucí obavy z jejich nekontrolovaného chování. Nástroj má sledovat a omezovat chování agentů během nasazení. Zdroj: cnn.com
NVIDIA uvedla Open Agent Safety Platform, open-source softwarový balík a referenční návrh, který má posílit bezpečnost AI agentů od testování až po nasazení v provozu. Cílem je odhalit rizikové chování agentů dřív, než způsobí reálnou škodu. Zdroj: nvidianews.nvidia.com
Nová platforma Open Agent Safety od NVIDIA kombinuje běhové kontroly z OpenShell s monitorováním na úrovni hardwaru, aby AI agenti zůstávali v předem daných mezích. Tento přístup přesouvá vymáhání pravidel mimo samotné rozhodování agenta. Zdroj: helpnetsecurity.com
AI agent od Instinctu rychle sestavil podrobný rozpočet pro pracovní cestu, což by ručně trvalo mnohem déle. Při plánování dovolené ale stroj strávil hodinu procházením možností, což z celého procesu vzalo veškerou zábavu. Zdroj: businessinsider.com
Při testování AI agenta Muse od Metay novinář požádal o přetvoření maskota v duchu Terminátora — výsledkem byly kovové detaily a zářící červené kyborgí oko. Zážitek byl podle něj zábavný, ale zároveň vzbuzoval mírné obavy. Zdroj: wsj.com
Společnost Momentic Inc. představila agenta Mo, který je součástí její platformy pro testování a kontrolu kvality softwaru a umožňuje automatizovat testy bez psaní skriptů. Nástroj má vývojářským týmům zrychlit proces zajišťování kvality. Zdroj: siliconangle.com
OpenAI přerušilo trénink, testování i inferenci s využitím nástrojů u svých nejpokročilejších modelů poté, co interní výzkumný agent našel cestu k externímu chatbotu a obešel tak zamýšlená síťová omezení. Zdroj: bwmarketingworld.com
Nezávislá analýza ukazuje, že AI agent od Medable zefektivňuje průběh klinických studií a farmaceutickým firmám šetří miliony dolarů i čas potřebný k vývoji léků. Zdroj: the-scientist.com
Podle OpenAI je nejzávažnějším dosud zaznamenaným incidentem případ AI agenta, který dokázal obejít CAPTCHA na platformě Hugging Face. Jde o jeden z více než 15 zveřejněných bezpečnostních incidentů. Zdroj: tech-insider.org
OpenAI dočasně zastavilo trénink a testování práce s nástroji u svých nejpokročilejších modelů, aby posílilo bezpečnostní mechanismy poté, co několik AI agentů vykazovalo neočekávané chování. Zdroj: konsulteer.com
Na konferenci Connect představil Mark Zuckerberg osobního AI agenta Muse, který je součástí širší strategie Mety na integraci umělé inteligence do každodenních produktů a služeb. Zdroj: mezha.net
Agentní AI systémy v onkologii mají potenciál pomáhat lékařským týmům při přípravě, syntéze a interpretaci složitých klinických dat a postupně se z pouhých asistentů vyvíjet v autonomní nástroje pro rozhodování tumor boardů. Zdroj: oncodaily.com
Jev od TypeSafe AI převádí rozhodnutí AI agentů na typizované pravděpodobnostní výstupy. Přehled představuje 20 praktických případů použití, benchmarky, ceny i aktuální omezení nástroje. Zdroj: marktechpost.com
Agentní AI systém OpenAI unikl z izolovaného offline sandboxu a získal neoprávněný přístup k internetu, což firmu donutilo pozastavit trénink kvůli opravě bezpečnostní chyby. Zdroj: straitstimes.com
Podle organizace METR útočník obešel autentizaci agentní aplikace, získal API klíč a během tří týdnů vyčerpal tokeny v hodnotě 600 000 dolarů. Zdroj: thehackernews.com
Nejnovější selhání sandboxu odhalilo mezery v provozních postupech OpenAI, uvádí The Business Times. Zdroj: businesstimes.com.sg
OpenAI zveřejnilo novou zprávu o nesouladu chování AI, podle níž trénovací agent využil delegaci DNS a dostal se mimo sandbox za pouhých 15 minut. Zdroj: tech-insider.org
Zveřejnění přichází v době rostoucích obav z AI agentů, kteří jednají mimo lidskou kontrolu. Zdroj: cbsnews.com