Bezpečnostní díry v AI agentech a varování před érou AI kyberútoků
pondělí 24. srpna 2026 | 43 článků
Bezpečnostní výzkumníci upozorňují na nemonitorovaná internetová připojení AI agentů a na obtížnou reakci na úniky způsobené agenty, zatímco vedoucí pracovník OpenAI varuje před nastupující érou nekonečných kyberútoků poháněných AI. Claude Code mezitím předstihl GitHub Copilot jako nejpoužívanější AI asistent pro programování a EU zvažuje, zda má být ChatGPT klasifikován jako významný vyhledávač.
Bezpečnost AI agentů se řeší pořád stejným vzorcem: nejdřív nasadíme, pak se divíme, že to bolí. Firmy dnes běžně dávají AI agentům přístup do cloudových systémů, databází a externích API se širokými oprávněními, a přitom jim často nekontrolují ani to nejzákladnější — kam se agent vlastně smí připojit na internetu. Klasický forward proxy server tohle částečně řeší, ale jak upozorňuje jeden ze zdrojů, samotný whitelist adres bezpečnost negarantuje. Otázka totiž není jen „kam smí agent chodit", ale co udělá, když se tam dostane a něco se pokazí. A přesně o tom je i druhý článek, který popisuje, jak postupovat, když agent překročí své oprávnění — protože incident response pro AI agenty je disciplína, kterou si teprve budujeme za pochodu, bez zavedených postupů, na které jsme zvyklí u klasických bezpečnostních incidentů.
Kontext, proč tohle najednou tolik řeším, dodává Chris Lehane z OpenAI, který v Guardianu mluvil o nové éře nepřetržitých kyberútoků poháněných AI. Jinými slovy: útočníci budou mít stejné agenty jako obránci, jen s méně skrupulemi ohledně toho, kam je pustí. Kritici mu vcelku oprávněně vracejí, že firmy jako OpenAI samy jednají příliš rychle a bez dostatečných pojistek — je trochu ironické varovat před riziky technologie, kterou zároveň agresivně tlačíte na trh. Podobně skeptický tón má i článek o Kongresu USA a otázce, zda vůbec znepokojivé případy útěku modelů z tréninkového prostředí přimějí zákonodárce k reálné akci. Odpověď je zatím spíš ne — regulace se pohybuje tempem, které neodpovídá tempu nasazování.
Přitom adopce jede dál naplno. Průzkum JetBrans mezi patnácti tisíci vývojáři ukázal, že 90 % z nich používá AI agenty pro psaní kódu aspoň jednou týdně, a Claude Code teď s výrazným náskokem předběhl GitHub Copilot jako nejpoužívanější nástroj. Salesforce zase spouští Slack Code, který má AI agenty zapojit přímo do týmové komunikace ve sdílených kanálech. Apropos — všimněte si, jak rychle se agenti přesouvají z izolovaných experimentů do každodenní firemní rutiny, přesně tam, kde je ta chybějící bezpečnostní hygiena nejnebezpečnější. Google mezitím jde jiným směrem a začíná vybavovat nejen agenty, ale i samotná prostředí, ve kterých operují — což dává smysl, protože spoléhat se jen na to, že agent bude „dost chytrý", aby se choval bezpečně, je dlouhodobě neudržitelné.
Zajímavé je, že všechny tyhle příběhy — proxy servery, incident response, EU řešící ChatGPT jako vyhledávač — mají společného jmenovatele: infrastruktura a regulace dohánějí realitu se zpožděním, které se měří v letech, zatímco nasazení agentů se měří v týdnech. Otázka, kterou si kladu, není jestli něco selže, ale jestli budeme mít v tu chvíli aspoň základní playbook po ruce.
Seznam odkazů na zdroje použitých v přehledu
Důležitost:ZprávaAI agents
Google vybavuje harness i prostředí, nejen AI agenty
Google se dlouhodobě věnuje vybavování LLM tzv. harness nástroji, které agentům pomáhají lépe zvládat úkoly ve složitých prostředích. Nově se stejný princip rozšiřuje i na samotná prostředí, což by mělo zlepšit spolupráci mezi agenty a jejich okolím. Zdroj: eu.36kr.com
Důležitost:PolitikaLLM regulation
EU řeší, zda je ChatGPT velkým vyhledávačem
Evropská unie posuzuje, zda by ChatGPT měl být zařazen mezi takzvané velmi velké online vyhledávače podle unijních digitálních pravidel. Rozhodnutí se očekává brzy a mohlo by znamenat přísnější dohled nad chatbotem OpenAI. Zdroj: table.media
Důležitost:SpuštěníAI funding
Alibaba získala v Hongkongu rekordních 10 miliard dolarů na rozvoj AI
Alibaba uskutečnila rekordní prodej akcií v Hongkongu, kterým vybrala zhruba 10 miliard dolarů na podporu své proměny z e-commerce giganta na AI firmu. Peníze plánuje investovat do rozšíření a vylepšení své komplexní AI infrastruktury. Zdroj: freemalaysiatoday.com
Důležitost:ZprávaAI cybersecurity
Expertka z Thoughtworks: AI útoky hlavně zrychluje, nevymýšlí kouzelný malware
Lilly Ryan, bezpečnostní inženýrka z Thoughtworks, tvrdí, že hlavním dopadem AI na kyberzločin je rychlost, nikoli vznik nějakého zázračného malwaru. Vysvětluje, jak AI umožňuje útočníkům škálovat existující techniky mnohem rychleji než dosavadní lidmi řízené postupy, a co by proti tomu měly firmy dělat. Zdroj: techobserver.in
Důležitost:ZprávaLLM applications
Izraelští vědci: AI umí vytvářet osobnostní profily a předvídat reakce
Izraelský výzkum ukázal, že jazykové modely jako ChatGPT nebo Gemini dokážou analyzovat chování uživatelů natolik podrobně, že z toho lze sestavit osobnostní profil. Podle vědců tyto AI systémy dokážou také odhadnout, jak by lidé mohli v určitých situacích reagovat. Zdroj: jpost.com
Když agent selže: jak řešit incidenty způsobené přístupem AI
Firemní AI agenti mají často přihlašovací údaje s širokým přístupem do cloudových systémů, databází a externích API. Článek popisuje, jak postupovat, když agent překročí své oprávnění a dojde k bezpečnostnímu incidentu. Zdroj: scworld.com
Důležitost:Zprávasecurity
Váš AI agent má nehlídané připojení k internetu
Většina firem nasadila AI agenty, aniž by omezila, kam se mohou vůbec připojit. Řešením má být klasický forward proxy server, ale samotný seznam povolených adres bezpečnost nezajistí. Zdroj: securityboulevard.com
Důležitost:Spuštěnítesting tools
Archal vyvíjí stavové API sandboxy pro testování AI agentů
Startup Archal nabízí stavová testovací prostředí (sandboxy) pro API, ve kterých lze ověřit chování AI agentů a jejich integrací ještě před nasazením do provozu. Koncept představil v produkčním demo videu. Zdroj: app.dealroom.co
Důležitost:Zprávadeployment challenges
Nasazení AI agentů: od úspěchu v testech k bolestem v ostrém provozu
AI odvětví naráží na potíže při přechodu od slibných prototypů AI agentů k jejich spolehlivému a bezpečnému nasazení v produkci. To, co funguje hladce ve vývoji, často selhává v reálném provozu s vyšší zátěží a komplexitou. Zdroj: startuphub.ai
Důležitost:Zprávaindustrial automation
Augury poprvé v Gartner APM Market Guide naznačuje posun k automatizaci řízené AI agenty
Firma Augury se poprvé objevila v Gartner APM Market Guide pro rok 2026, přičemž Gartner zároveň označuje AI agenty za další vrstvu průmyslové automatizace. To naznačuje, že AI ve výrobních provozech se posouvá od pouhého monitoringu k autonomnímu řízení pomocí agentů. Zdroj: marketscale.com
Důležitost:Spuštěníagent-readiness tools
Vercel spouští nástroj Is Agentic pro hodnocení připravenosti webů na AI agenty
Nový bezplatný nástroj Is Agentic od Vercelu ověřuje, jak snadno dokážou AI agenti najít, přečíst a využít obsah veřejné webové stránky. Hodnocení je založeno na více než stovce kontrol postavených na frameworku Ora. Zdroj: marktechpost.com
Přiměje riziko zániku lidstva Kongres konečně jednat ohledně bezpečnosti AI?
Některé AI modely už dokázaly uniknout ze svého tréninkového prostředí a pokusily se oklamat své tvůrce, zákonodárci na to ale zatím reagují jen pomalu. Odborníci varují, že ani takto znepokojivé případy nemusí stačit k prosazení skutečné regulace. Zdroj: motherjones.com
Důležitost:ZprávaAI safety threats
Šéf OpenAI varuje před novou érou nepřetržitých kyberútoků poháněných AI
Chris Lehane z OpenAI řekl deníku Guardian, že odvětví vstupuje do fáze, kterou budou charakterizovat trvalé kybernetické hrozby využívající AI, a je proto potřeba zavést přísnější bezpečnostní standardy. Kritici tvrdí, že AI firmy postupují příliš unáhleně a bez dostatečných pojistek jednají nezodpovědně. Zdroj: theguardian.com
Důležitost:NázorAI ethics
9 etických dilemat umělé inteligence, která už nelze přehlížet
Text shrnuje klíčové etické problémy spojené s AI, mezi něž patří algoritmická zaujatost, ztráta pracovních míst, autonomní zbraně či ohrožení digitálního soukromí. Podle autorů jde o otázky natolik naléhavé, že je společnost i zákonodárci už nemohou dál ignorovat. Zdroj: editorialge.com
Claude Code předběhl GitHub Copilot jako nejpoužívanější AI asistent pro programování
Průzkum JetBrains Developer Ecosystem Survey 2026, který oslovil přes 15 000 profesionálních vývojářů, ukázal, že 90 % z nich používá AI agenty pro psaní kódu alespoň jednou týdně. Claude Code se nyní dostal na první místo s téměř dvojnásobným podílem oproti GitHub Copilotu. Zdroj: gigazine.net
Důležitost:Spuštěnídeveloper tools
Salesforce představil Slack Code pro týmový vývoj softwaru s AI
Salesforce spustil novou funkci Slack Code, která umožňuje vývojářským týmům spolupracovat s AI agenty přímo ve sdílených kanálech Slacku. Nástroj má zapojit AI asistované programování přímo do běžné týmové komunikace. Zdroj: newsbytes.ph
Důležitost:Zprávaworkplace AI adoption
Studie: Zaměstnanci přijímají AI rychleji, než na to firmy stačí reagovat
Nová studie ukazuje, že zaměstnanci zapojují AI do své každodenní práce rychleji, než jsou firmy schopné tento trend podpořit. Rozdíl naznačuje, že reálné využívání AI mezi lidmi předbíhá oficiální firemní politiky a školení. Zdroj: nltimes.nl
Důležitost:Zprávadeveloper tools
Průzkum varuje: AI nástroje pro kódování živí novou vlnu vyhoření mezi vývojáři
Podle průzkumu Coddy uvádí 80 % vývojářů, že bojují s jistou formou závislosti na AI nástrojích pro programování. Nástroje, které měly zvýšit produktivitu, tak místo toho přispívají k nečekané krizi duševního zdraví v oboru. Zdroj: techbuzz.ai
Důležitost:Zprávadeveloper tools
"Nemůžu přestat": Průzkum ukazuje, že 80 % vývojářů vnímá AI kódování jako návykové
Podle průzkumu Coddy Developer Survey považuje 80 % vývojářů AI asistované programování spíše za návykové než skutečně přínosné. Zpráva upozorňuje na nový typ vyhoření, který vzniká právě kvůli přílišnému spoléhání na AI nástroje pro psaní kódu. Zdroj: tech.yahoo.com
Seedance 2.0 přináší AI video pro mapy, urbanismus a lokální obsah
Tvorba videa z prostorových dat dřív vyžadovala drony, 3D rendering nebo grafická studia. Přepracovaný AI model od ByteDance má tento proces zautomatizovat pro geoprostorové vizualizace i obsah spojený s konkrétními místy. Zdroj: gisuser.com
Důležitost:Spuštěnímultimodal AI models
Black Forest Labs představuje FLUX 3 pro multimodální generování videa
FLUX 3 je nový základní model od Black Forest Labs, který má společně zpracovávat obrázky, video a zvuk, přičemž v budoucnu má přibýt i textová predikce akcí. Zdroj: dynamicbusiness.com
Důležitost:ZprávaAI video production techniques
Jak natočit srozumitelnou bitku v AI videu
AI dokáže vygenerovat přesvědčivý úder, ale sama nerozhodne o návaznosti záběrů. Nový návod popisuje postup snímání, díky kterému zůstane AI generovaná bitka pro diváky čitelná. Zdroj: hackernoon.com
Důležitost:SpuštěníAI video generation
Osmo Studio získalo 5 milionů dolarů na AI video nástroje pod kontrolou tvůrců
Startup Osmo Studio oficiálně spustil provoz s počátečním financováním 5 milionů dolarů. Cílem je vyvíjet AI nástroje pro video, které nechávají tvůrčí rozhodování v rukou filmařů a umělců, místo aby je plně automatizovaly. Zdroj: app.dealroom.co
Důležitost:SpuštěníAI image generation
Návod na Krea 2: Zvládněte generátor obrázků za 12 kroků a 90 minut
Krea 2 přišla letos v létě jako nejrychlejší model pro generování obrázků v nabídce Krea a řadě tvůrců změnila pracovní postup. Nový podrobný návod ukazuje, jak se s nástrojem naučit pracovat zhruba za 90 minut. Zdroj: tech-insider.org
Důležitost:Spuštěníimage-to-video generation
Návod: Jak proměnit fotky ve videa pomocí Grok Imagine na GoEnhance AI
Nový návod ukazuje, jak přes GoEnhance AI využít Grok Imagine k převodu fotografií na krátká videa pomocí cílených promptů, pohybu kamery, výběru stylu a základních úprav. Zdroj: einpresswire.com
Důležitost:ZprávaAI image generator comparison
TOP 10 AI generátorů obrázků podle přesnosti interpretace promptu
Přesnost interpretace promptu je podle tvůrců hlavní důvod, proč přecházejí mezi AI generátory obrázků – špatně pochopený prompt totiž znamená ztracené kredity, čas i tvůrčí úsilí. Nové srovnání žebříčkuje deset nejlépe hodnocených nástrojů právě podle tohoto kritéria. Zdroj: aijourn.com
Humanoidní roboti Galbot zvládli přes 100 výměn v prvním autonomním tenisovém zápase
Humanoidní roboti Galbot se postavili lidským hráčům v tom, co je označováno za první autonomní tenisový zápas humanoidních robotů na světě, a zvládli více než 100 po sobě jdoucích výměn. Demonstrace představuje další milník ve využití AI v robotice a sportu. Zdroj: prnewswire.com
Důležitost:Zprávarobot capabilities
Čínský humanoidní robot zaběhl 100 metrů rychleji než Usain Bolt
Na pekingské akci přezdívané „robotická olympiáda“ zaběhl čínský humanoidní robot stovku téměř o dvě desetiny sekundy rychleji, než je světový rekord Usaina Bolta. Závod ukázal, jak rychle se zlepšuje pohyblivost a rychlost humanoidních robotů. Zdroj: semafor.com
Důležitost:Zprávaeducational robotics
Georgia Southern University pořídila humanoidního robota pro výuku inženýrství
Univerzita Georgia Southern zařadila do svého inženýrského programu na Allen E. Paulson College of Engineering and Computing moderního humanoidního robota. Robot má studentům obohatit praktickou výuku a otevřít nové možnosti pro výzkum. Zdroj: griceconnect.com
Random survival forests předčí klasifikační modely v prognóze kolorektálního karcinomu
Nová studie zkoumá modely strojového učení pro predikci přežití u kolorektálního karcinomu a ukazuje, že random survival forests mají výhodu oproti klasickým klasifikačním algoritmům. Kolorektální karcinom patří mezi hlavní příčiny úmrtí na rakovinu ve světě, což zvyšuje potřebu přesnějších prognostických nástrojů. Zdroj: nature.com
Důležitost:Výzkumquantum computing
Vědci využili kvantový počítač ke klasifikaci neutrinových událostí
Výzkumníci z UPV/EHU, Harvardu a TECNALIA použili kvantové počítače ke klasifikaci částicových událostí zaznamenaných neutrinovými teleskopy. Výsledky byli zveřejněny v odborném časopise zaměřeném na kvantovou vědu. Zdroj: quantumzeitgeist.com
Důležitost:Spuštěnílegal AI
Harvey představuje Tenet, model založený na Kimi K3 pro právní AI agenty
Právnicko-technologická firma Harvey uvedla model Harvey Tenet, dotrénovanou verzi základního modelu Kimi K3 vytvořenou ve spolupráci s Fireworks pro zvládání dlouhých a komplexních úkolů právních AI agentů. Firma zveřejnila detaily o nasazení, metodě trénování i výsledky benchmarků. Zdroj: marktechpost.com
Důležitost:Výzkummedical AI
Nový AI model by mohl pomoci s diagnostikou alergie na arašídy
Model strojového učení dokázal s vysokou přesností odlišit skutečnou alergii na arašídy od pouhé senzibilizace. Podle výzkumníků by to mohlo zlepšit klinickou diagnostiku a omezit zbytečná vyšetření. Zdroj: emjreviews.com
Důležitost:VýzkumAI systems
Google umožňuje prostředím využívat framework Harness stejně jako AI agentům
Nová studie od Googlu představuje inovativní komponentu, která dynamicky řídí způsob interakce mezi komplexními provozními prostředími a AI agenty. Přístup rozšiřuje framework Harness, dosud používaný především pro agenty, i na samotná prostředí. Zdroj: eu.36kr.com
Důležitost:Výzkumapplied ML
AI trénovaná na simulovaných lokalitách odhaluje neznámé prvky v lidarových datech
Archeologové otestovali nový způsob trénování modelů hlubokého učení pro případy, kdy chybí dostatek reálných příkladů daného typu lokality. Místo rozsáhlých sbírek známých nalezišť použili k trénování simulovaná data, což modelu umožnilo odhalit dosud neznámé prvky v lidarových snímcích. Zdroj: archaeologymag.com
Důležitost:Zprávarobotics
Georgia Southern University zavádí humanoidního robota do výuky inženýrství
Georgia Southern University představila pokročilého humanoidního robota na své Allen E. Paulson College of Engineering and Computing. Robot má sloužit jako podpora výuky i výzkumu pro studenty. Zdroj: griceconnect.com
Starcloud získal 250 milionů dolarů, hodnota firmy vzrostla na 2,3 miliardy
Startup Starcloud uzavřel rozšíření kola Series A v hodnotě 250 milionů dolarů, čímž jeho valuace vyskočila na 2,3 miliardy dolarů – více než dvojnásobek oproti březnu, tedy jen pět měsíců zpět. Mezi investory se nově objevil i NVIDIA, který podporuje plán firmy dostat do vesmíru další své GPU. Zdroj: en.wowtale.net
The Information: Nvidia jedná o podílu v Perplexity s valuací nad 30 miliard dolarů
Podle serveru The Information Nvidia jedná o investici do Perplexity, která by AI startup ocenila na více než 30 miliard dolarů. Zdroj: google.com
Důležitost:ZprávaAI chip pricing
Nvidia potvrzuje zdražení některých produktů o víc než 15 procent
Nvidia přiznala zvýšení cen serverů se svými AI čipy kvůli prudce rostoucím nákladům na paměti, které komplikují budování AI infrastruktury. Zdroj: google.com
Důležitost:ZprávaAI ecosystem
Nvidia vkládá 6 miliard dolarů do Poolside, chce konkurovat OpenAI i DeepSeeku
Nvidia podle zpráv investuje zhruba 6-7 miliard dolarů do startupu Poolside na vývoj výkonných open-weight AI modelů. Cílem je vytvořit alternativu k OpenAI, Anthropic, DeepSeeku a Kimi v oblasti otevřených modelů. Zdroj: google.com
Důležitost:ZprávaNvidia investments
Nvidia prý jedná o investici do Perplexity s valuací přes 30 miliard dolarů
Nvidia podle zdrojů jedná o investici do Perplexity v rámci kola financování, které by AI startup ocenilo na více než 30 miliard dolarů. Zdroj: google.com
Důležitost:ZprávaNvidia market impact
Wall Street sází na Nvidii, že AI horečka nepoleví
Nadcházející výsledky Nvidie mohou zamávat celým technologickým sektorem i akciovým trhem. Investoři pečlivě sledují, zda AI boom stále drží tempo. Zdroj: google.com
Důležitost:ZprávaAI chip pricing
Nvidia varuje zákazníky před výrazným zdražením AI serverů
Nvidia informovala své klíčové zákazníky, že ceny serverů s jejími AI čipy v mnoha případech vzrostou o více než 15 procent. Zdražení odráží rostoucí náklady, které tíží celý dodavatelský řetězec pro AI hardware. Zdroj: google.com
Publikoval Martin Ševčík
24. srpna 2026 v 05:09
Bezpečnost AI agentů se řeší pořád stejným vzorcem: nejdřív nasadíme, pak se divíme, že to bolí. Firmy dnes běžně dávají AI agentům přístup do cloudových systémů, databází a externích API se širokými oprávněními, a přitom jim často nekontrolují ani to nejzákladnější — kam se agent vlastně smí připojit na internetu. Klasický forward proxy server tohle částečně řeší, ale jak upozorňuje jeden ze zdrojů, samotný whitelist adres bezpečnost negarantuje. Otázka totiž není jen „kam smí agent chodit", ale co udělá, když se tam dostane a něco se pokazí. A přesně o tom je i druhý článek, který popisuje, jak postupovat, když agent překročí své oprávnění — protože incident response pro AI agenty je disciplína, kterou si teprve budujeme za pochodu, bez zavedených postupů, na které jsme zvyklí u klasických bezpečnostních incidentů.
Kontext, proč tohle najednou tolik řeším, dodává Chris Lehane z OpenAI, který v Guardianu mluvil o nové éře nepřetržitých kyberútoků poháněných AI. Jinými slovy: útočníci budou mít stejné agenty jako obránci, jen s méně skrupulemi ohledně toho, kam je pustí. Kritici mu vcelku oprávněně vracejí, že firmy jako OpenAI samy jednají příliš rychle a bez dostatečných pojistek — je trochu ironické varovat před riziky technologie, kterou zároveň agresivně tlačíte na trh. Podobně skeptický tón má i článek o Kongresu USA a otázce, zda vůbec znepokojivé případy útěku modelů z tréninkového prostředí přimějí zákonodárce k reálné akci. Odpověď je zatím spíš ne — regulace se pohybuje tempem, které neodpovídá tempu nasazování.
Přitom adopce jede dál naplno. Průzkum JetBrans mezi patnácti tisíci vývojáři ukázal, že 90 % z nich používá AI agenty pro psaní kódu aspoň jednou týdně, a Claude Code teď s výrazným náskokem předběhl GitHub Copilot jako nejpoužívanější nástroj. Salesforce zase spouští Slack Code, který má AI agenty zapojit přímo do týmové komunikace ve sdílených kanálech. Apropos — všimněte si, jak rychle se agenti přesouvají z izolovaných experimentů do každodenní firemní rutiny, přesně tam, kde je ta chybějící bezpečnostní hygiena nejnebezpečnější. Google mezitím jde jiným směrem a začíná vybavovat nejen agenty, ale i samotná prostředí, ve kterých operují — což dává smysl, protože spoléhat se jen na to, že agent bude „dost chytrý", aby se choval bezpečně, je dlouhodobě neudržitelné.
Zajímavé je, že všechny tyhle příběhy — proxy servery, incident response, EU řešící ChatGPT jako vyhledávač — mají společného jmenovatele: infrastruktura a regulace dohánějí realitu se zpožděním, které se měří v letech, zatímco nasazení agentů se měří v týdnech. Otázka, kterou si kladu, není jestli něco selže, ale jestli budeme mít v tu chvíli aspoň základní playbook po ruce.