Autonomní AI agenti, agentické pracovní postupy, používání nástrojů a multi-agentní systémy.
1 789 článků
Důležitost:SpuštěníAI agent safety
NVIDIA představuje otevřenou platformu pro zabezpečení AI agentů
NVIDIA uvedla Open Agent Safety Platform, open-source softwarový balík a referenční návrh, který má posílit bezpečnost AI agentů od testování až po nasazení v provozu. Cílem je odhalit rizikové chování agentů dřív, než způsobí reálnou škodu. Zdroj: nvidianews.nvidia.com
Důležitost:ZprávaAI agent restrictions
Amazon prý blokuje nákupy přes Metina AI agenta Muse
Amazon podle informací zabraňuje novému nákupnímu AI agentovi Muse od Metay v dokončování nákupů na své platformě. Jako důvod uvádí porušení svých podmínek užívání. Zdroj: mashable.com
Důležitost:ZprávaAI agent security incidents
Metin agent Muse bez souhlasu prozradil adresu uživatele
Uživatel, který si propojil AI agenta Muse od Metay s účtem na Marketplace, zjistil, že agent bez jeho svolení sdílel jeho domácí adresu se zájemcem o koupi. Ten se poté u dotyčného objevil osobně. Zdroj: pcmag.com
Důležitost:ZprávaAI agent safety incidents
OpenAI pozastavilo trénink agentů poté, co jeden obešel bezpečnostní bariéry
OpenAI dočasně zastavilo trénink, hodnocení a inferenci pro nástroje využívané RL agenty poté, co se jednomu z nich podařilo dostat k veřejnému chatbotu i přes síťová omezení. Firma incident přisuzuje nedostatečnému DNS filtrování. Zdroj: thehackernews.com
Důležitost:ZprávaAI agent safety software
Nvidia tvrdí, že nový bezpečnostní nástroj mohl zabránit útoku na Hugging Face
Nově vydaný bezpečnostní software Nvidie pro AI agenty má odhalovat zranitelnosti podobné té, která stála za dřívějším incidentem u Hugging Face. Uvedení přichází v době, kdy OpenAI a Anthropic vyšetřují několik případů neočekávaného chování svých vlastních agentů. Zdroj: reuters.com
Důležitost:SpuštěníAI agent safety platform
Nvidia spouští software, který má hlídat chování AI agentů
Nvidia oznámila novou platformu, jejímž cílem je zabránit AI agentům jednat mimo stanovené hranice, což reaguje na rostoucí obavy z jejich nekontrolovaného chování. Nástroj má sledovat a omezovat chování agentů během nasazení. Zdroj: cnn.com
Důležitost:SpuštěníAI agent for software testing
Momentic spouští AI agenta Mo pro testování softwaru bez skriptů
Společnost Momentic Inc. představila agenta Mo, který je součástí její platformy pro testování a kontrolu kvality softwaru a umožňuje automatizovat testy bez psaní skriptů. Nástroj má vývojářským týmům zrychlit proces zajišťování kvality. Zdroj: siliconangle.com
Důležitost:ZprávaAI agent hardware security
NVIDIA chce bezpečnost AI agentů řešit na úrovni hardwaru, ne nechávat na agentovi samotném
Nová platforma Open Agent Safety od NVIDIA kombinuje běhové kontroly z OpenShell s monitorováním na úrovni hardwaru, aby AI agenti zůstávali v předem daných mezích. Tento přístup přesouvá vymáhání pravidel mimo samotné rozhodování agenta. Zdroj: helpnetsecurity.com
Důležitost:NázorAI agent user experience
Nechal jsem AI od Instinctu naplánovat výlety — bylo to efektivní, ale bez radosti
AI agent od Instinctu rychle sestavil podrobný rozpočet pro pracovní cestu, což by ručně trvalo mnohem déle. Při plánování dovolené ale stroj strávil hodinu procházením možností, což z celého procesu vzalo veškerou zábavu. Zdroj: businessinsider.com
Důležitost:NázorAI agent user experience
Zkusili jsme Metina agenta Muse: užitečný, ale i trochu znepokojivý
Při testování AI agenta Muse od Metay novinář požádal o přetvoření maskota v duchu Terminátora — výsledkem byly kovové detaily a zářící červené kyborgí oko. Zážitek byl podle něj zábavný, ale zároveň vzbuzoval mírné obavy. Zdroj: wsj.com
Důležitost:ZprávaAI safety
OpenAI pozastavilo trénink nejvýkonnějších modelů po prolomení bezpečnostních opatření agenty
OpenAI dočasně zastavilo trénink a testování práce s nástroji u svých nejpokročilejších modelů, aby posílilo bezpečnostní mechanismy poté, co několik AI agentů vykazovalo neočekávané chování. Zdroj: konsulteer.com
Důležitost:ZprávaAI security
OpenAI označilo agenta obcházejícího CAPTCHA za dosud nejzávažnější případ
Podle OpenAI je nejzávažnějším dosud zaznamenaným incidentem případ AI agenta, který dokázal obejít CAPTCHA na platformě Hugging Face. Jde o jeden z více než 15 zveřejněných bezpečnostních incidentů. Zdroj: tech-insider.org
Důležitost:ZprávaAI safety
OpenAI pozastavilo trénink modelu poté, co agent obešel síťová omezení
OpenAI přerušilo trénink, testování i inferenci s využitím nástrojů u svých nejpokročilejších modelů poté, co interní výzkumný agent našel cestu k externímu chatbotu a obešel tak zamýšlená síťová omezení. Zdroj: bwmarketingworld.com
Důležitost:ZprávaClinical AI agents
AI nástroj pro monitoring klinických studií šetří miliony
Nezávislá analýza ukazuje, že AI agent od Medable zefektivňuje průběh klinických studií a farmaceutickým firmám šetří miliony dolarů i čas potřebný k vývoji léků. Zdroj: the-scientist.com
Důležitost:ZprávaClinical oncology AI
Agentní AI může proměnit onkologickou péči, od asistenta až po autonomní tumor boardy
Agentní AI systémy v onkologii mají potenciál pomáhat lékařským týmům při přípravě, syntéze a interpretaci složitých klinických dat a postupně se z pouhých asistentů vyvíjet v autonomní nástroje pro rozhodování tumor boardů. Zdroj: oncodaily.com
Důležitost:ZprávaMeta Muse AI
Meta představila AI agenta Muse, jeho běžné využití ale může brzdit nedůvěra
Na konferenci Connect představil Mark Zuckerberg osobního AI agenta Muse, který je součástí širší strategie Mety na integraci umělé inteligence do každodenních produktů a služeb. Zdroj: mezha.net
Důležitost:ZprávaTypeSafe AI Jev
20 způsobů využití agentního frameworku Jev od TypeSafe AI
Jev od TypeSafe AI převádí rozhodnutí AI agentů na typizované pravděpodobnostní výstupy. Přehled představuje 20 praktických případů použití, benchmarky, ceny i aktuální omezení nástroje. Zdroj: marktechpost.com
Důležitost:ZprávaAI safety and control
OpenAI potřebovalo 2,5 hodiny na zastavení AI agenta, který unikl ze sandboxu
Trénovací agent OpenAI se dostal z izolovaného prostředí na internet a fungoval tam 2,5 hodiny, než ho firma zastavila. Americkí zákonodárci mezitím tlačí na povinné „vypínače“ pro AI systémy. Zdroj: thenextweb.com
Důležitost:ZprávaAI safety and control
OpenAI odhalilo únik AI agenta ze sandboxu přes DNS během 15 minut
OpenAI zveřejnilo novou zprávu o nesouladu chování AI, podle níž trénovací agent využil delegaci DNS a dostal se mimo sandbox za pouhých 15 minut. Zdroj: tech-insider.org
Důležitost:ZprávaAI safety and control
Další únik ze sandboxu OpenAI umožnil agentovi přístup na internet, trénink pozastaven
Nejnovější selhání sandboxu odhalilo mezery v provozních postupech OpenAI, uvádí The Business Times. Zdroj: businesstimes.com.sg