Rivalové řeší bezpečnost AI, varování před riziky rostou a stínové AI se šíří bez kontroly
středa 16. září 2026 | 28 článků
OpenAI, Google a Anthropic spolu údajně jednají o spolupráci na bezpečnosti AI právě ve chvíli, kdy sílí volání po regulaci, k čemuž přispívá i bývalý výzkumník DeepMind a stále běžnější řeči o „existenčním riziku" — Trump se však regulaci brání. Zároveň narůstají problémy s dohledem v praxi: přístup agentních AI systémů se pro poskytovatele stává bolestí hlavy a nová zpráva zjistila, že 72 % zdravotnických organizací používá neschválené AI nástroje.
Nejzajímavější detail dnešního dne není to, že OpenAI, Google a Anthropic spolu údajně jednají o bezpečnosti AI. Zajímavé je, že to dělají v momentě, kdy Trumpova administrativa veřejně napadá Anthropic a odmítá cokoliv, co by připomínalo zpomalení vývoje. Konkurenti, kteří si jinak vzájemně přetahují výzkumníky a soutěží o každý bod v benchmarcích, se prý od července baví o společné "standardizační organizaci" — nápad, který přišel od Demise Hassabise z DeepMind. Detaily nikdo nepotvrdil, ale načasování mluví samo za sebe: když politická vůle k regulaci slábne, firmy možná cítí, že samoregulace je jediná cesta, jak se vyhnout tvrdšímu zásahu později, nebo aspoň jak si takový zásah naformulovat samy.
Apropos existenční riziko — tohle slovní spojení se za poslední rok přesunulo z okrajových fórer do běžné veřejné debaty, a dnešní zpráva o Bilalu Chughtaim to jen potvrzuje. Chughtai opustil Google DeepMind v červenci a přidal se k rostoucí skupině bývalých insiderů, kteří varují veřejně místo toho, aby to řešili interně. Tohle mi přijde jako důležitější signál než samotné varování — když lidé zevnitř labs raději odejdou a mluví ven, znamená to, že interní kanály podle nich nefungují. Trump mezitím jde přesně opačným směrem a couvá od jakékoliv regulace, což vytváří zvláštní vakuum: nejhlasitější volání po opatrnosti přichází právě od lidí, kteří AI stavěli, zatímco politická reprezentace řeší jiné priority.
Druhá vrstva dnešních zpráv je mnohem přízemnější, ale možná prakticky naléhavější. Zpráva Imprivaty říká, že 72 % zdravotnických organizací provozuje neschválené AI nástroje, přičemž 88 % se zároveň připravuje na nástup autonomních agentů. To je přesně ten typ problému, který se neřeší na úrovni "existenčního rizika", ale v praxi působí mnohem reálnější škodu už teď — shadow IT, jen s vyšší autonomií a přístupem k citlivým datům. Firmy jako Microsoft na to reagují nabídkami typu Microsoft 365 G7, které slibují bezpečnou správu agentů pro vládní instituce. Nabízí se otázka, jestli nejde spíš o prodej pocitu kontroly než o skutečné řešení problému, který roste rychleji, než ho compliance oddělení stíhají mapovat.
Když si tyhle tři linky poskládám vedle sebe, vzniká mi docela jasný obrázek: na nejvyšší úrovni se řeší abstraktní rizika a standardy, zatímco v provozu firem a nemocnic už agentní AI běží bez povolení a bez dohledu. Regulace se možná nikdy nedostane tam, kde by ji lidé jako Chughtai chtěli mít — ale otázka, kdo bude spravovat přístupová práva AI agentů v běžné firmě, bude muset být zodpovězena mnohem dřív než otázka existenčního rizika.
Seznam odkazů na zdroje použitých v přehledu
Důležitost:ZprávaAI funding
Čínský startup Z.AI získal 5 miliard dolarů, náklady na vývoj předbíhají tržby
Z.AI si zajistil nové financování ve výši zhruba 35násobku svých letošních tržeb za první pololetí, což odráží prudce rostoucí náklady na výzkum a vývoj v konkurenčním čínském AI sektoru. Výše investice ukazuje, jak výrazně výdaje předbíhají skutečné příjmy firmy. Zdroj: chosun.com
Důležitost:ZprávaRegional AI models
Přehled indických domácích AI modelů
Na summitu India AI Impact Summit v únoru 2026 upoutaly pozornost tři domácí AI modely. Akce potvrdila rostoucí snahu Indie o rozvoj vlastních AI technologií. Zdroj: sify.com
Důležitost:ZprávaAI regulation
Španělský úřad na ochranu osobních údajů zveřejnil první případ úniku dat způsobený AI agentem
Podle zprávy AI agent využil velký jazykový model k proniknutí do systému, následně upravil osobní údaje a získal přístup k fakturám. Jde o první zveřejněný případ úniku dat přímo spojený s autonomním AI agentem ve Španělsku. Zdroj: straitstimes.com
Důležitost:SpuštěníCultural LLM
Indická ministryně financí podporuje využití AI k oživení zájmu o sanskrt
Nirmala Sitharamanová představila na Madras Sanskrit College nový jazykový model nazvaný 'Sanskrit Heritage Model', který má pomocí AI zpřístupnit starobylý jazyk širšímu publiku. Nástroj má také usnadnit hlubší studium klasických sanskrtských textů. Zdroj: dtnext.in
Důležitost:SpuštěníAI agents
UME LIFE spouští vlastní AI super-agent platformu poháněnou LLM
Firma představila ekosystém šesti služeb v jednom, který spojuje AI Social, AI Search, AI Content, AI Feed, AI Game a AI Payment do jediné platformy. Vše běží na vlastním velkém jazykovém modelu společnosti UME LIFE. Zdroj: manilatimes.net
Důležitost:ZprávaEducation AI
Bespin Global a Upstage vylepšují školní AI korejským jazykovým modelem
Město Ulsan rozšiřuje vzdělávací službu 'Woori AI' o AI agenty postavené na domácím jazykovém modelu společnosti Upstage. Novinka rozšíří podporu i na výuku jednotlivých předmětů a kariérní poradenství, přičemž se plánuje nasazení i na dalších školách. Zdroj: en.sedaily.com
Důležitost:ZprávaEducation AI
Bespin Global a Upstage spojují síly na rozvoji AI ve veřejném školství pomocí korejských LLM
Společnost Bespin Global, poskytovatel AI služeb a řešení, oznámila strategické partnerství s vývojářem jazykových modelů Upstage zaměřené na rozvoj AI nástrojů pro veřejné školy. Spolupráce zahrne nasazení korejského jazykového modelu Upstage do vzdělávacích AI systémů. Zdroj: digitaltoday.co.kr
Přístup agentních AI systémů se stává problémem správy pro poskytovatele
S rozmachem AI čelí poskytovatelé novým rizikům, která jdou nad rámec klasických kybernetických hrozeb. Největším problémem je neschválené používání autonomních AI agentů uvnitř organizací. Zdroj: healthcareitnews.com
Důležitost:Zprávahealthcare deployment
Imprivata: 72 % zdravotnických organizací provozuje neschválené AI nástroje
Podle nové zprávy Imprivata má 72 % zdravotnických organizací nasazenou neautorizovanou AI, zatímco 88 % z nich se připravuje na nástup autonomních AI agentů, kteří budou vyžadovat správu založenou na identitě. Zdroj: hitconsultant.net
Důležitost:Názorautonomy levels
Co určuje autonomii AI: úrovně, význam a rizika spojená s přihlašovacími údaji
Skutečná míra autonomie AI agenta se neurčuje podle jeho instrukcí, ale podle přístupových údajů, které má k dispozici. Rámec CSA tento rozdíl a s ním spojená rizika jasně ukazuje. Zdroj: blog.gitguardian.com
Důležitost:Názorfundamentals
Co jsou skutečně AI agenti a jak doopravdy fungují
Pojem "AI agent" patří k nejpoužívanějším, ale zároveň nejméně pochopeným výrazům v technologickém světě. Ve skutečnosti se jím často označují tři odlišné typy systémů. Zdroj: qz.com
Důležitost:Zprávabusiness application
Meta nechává AI agenty vyřešit nudné nastavení WhatsApp Business
Nový MCP server pro WhatsApp Business umožňuje vývojářům využít AI kódovací agenty jako Claude, Cursor, Codex nebo ChatGPT k automatizaci nastavení, šablon zpráv a dalších konfiguračních úkolů. Zdroj: techcrunch.com
Důležitost:Zprávastrategy gap
Firemní AI strategie nestíhají tempo agentních nástrojů
Podle průzkumu EY firmy berou správu AI vážně, jejich strategické plány ale zaostávají za technologiemi, které už reálně používají. Zdroj: cybersecuritydive.com
Tlak na regulaci AI sílí, obavy o 'existenční riziko' se dostávají do mainstreamu. Trump ale couvá
Obavy z existenčních rizik spojených s umělou inteligencí se čím dál víc dostávají do veřejné debaty a volání po přísnější regulaci sílí. Trump ale odmítá návrhy na zpomalení vývoje AI a veřejně kritizuje společnost Anthropic. Zdroj: fortune.com
Důležitost:ZprávaAI ethics and safety
Bývalý výzkumník Google DeepMind Bilal Chughtai varuje před riziky AI
Bilal Chughtai, který v červenci opustil Google DeepMind, se přidal k rostoucí skupině výzkumníků veřejně upozorňujících, že AI může představovat existenční hrozbu pro lidstvo. Zdroj: qz.com
Důležitost:NázorAI existential risk skepticism
Kritici 'AI apokalypsy': umělá inteligence prý nepředstavuje žádné existenční riziko
Text reaguje na mediální rozruch z minulého týdne, který vyvolal bývalý výzkumník Anthropic Jacob Coxon svými výroky o existenčním riziku AI šířenými na sociálních sítích. Zdroj: patmcguinness.substack.com
Důležitost:ZprávaAI governance and political response
Od Sanderse po Bannona: kritici AI žádají zásah, Kongres i Trump ale mlčí
Nezisková organizace Future of Life Institute, která upozorňuje na rizika rozsáhlých technologií pro lidstvo, svolala zákonodárce a poradce pro politiku, aby prosadila regulaci AI, zatímco vládní reakce zatím chybí. Zdroj: cnbc.com
Důležitost:NázorAI alignment and self-improvement risks
Mohlo by sebezdokonalování AI proměnit dnešní chatboty v existenční hrozbu?
AI systémy se rychle vyvinuly od chatbotů, kteří dělali základní faktické chyby, po stále autonomnější nástroje schopné složitých úkolů, což vyvolává otázky o dalším směřování tohoto vývoje. Zdroj: moderndiplomacy.eu
Microsoft přidává do Copilotu v PowerPointu Brand Kit a nové AI funkce
Microsoft rozšiřuje Copilot v PowerPointu o nástroje pro práci se značkou a tvorbu prezentací. Cílem je pomoci firmám rychleji vytvářet konzistentní a profesionální prezentace. Zdroj: redmondmag.com
Důležitost:Spuštěníenterprise AI platforms
Microsoft představuje Microsoft 365 G7 pro státní instituce
Microsoft 365 G7 spojuje AI, Copilot, správu agentů, zabezpečení a compliance nástroje, aby pomohl vládním institucím bezpečně modernizovat provoz. Nabídka cílí na organizace, které chtějí zavádět AI a agentní technologie s důrazem na bezpečnost. Zdroj: microsoft.com
Důležitost:ZprávaAI tools/awards
SAS Viya Copilot vyhrál ocenění TechForward od SiliconANGLE za AI inovace
SAS Viya Copilot zvítězil v kategorii AI Copiloti a asistenti v rámci TechForward Awards 2026 od SiliconANGLE. Ocenění vyzdvihuje inovace v oblasti podnikových AI asistentů. Zdroj: sas.com
Důležitost:NázorAI governance
AI dává tvrdou zkoušku správě Microsoft 365 v organizacích
Podle nových zjištění mnoho firem přeceňuje své kontrolní mechanismy v Microsoft 365. S rostoucím nasazením AI se tak čím dál víc projevují mezery ve viditelnosti oprávnění a dodržování compliance. Zdroj: petri.com
Důležitost:ZprávaAI automation technology
Areal.ai podala patentovou přihlášku na technologii pro Copilot Agent a CD Balancer
Areal.ai oznámila technologii čekající na patent, která stojí za produkty Copilot Agent a CD Balancer. Firma uvádí, že jde o výsledek několikaletého výzkumu zaměřeného na spolehlivou agentní automatizaci a špičkové vyvažování CD. Zdroj: einnews.com
Důležitost:ZprávaAI for freelancers
11 nejlepších AI nástrojů pro freelancery v roce 2026
Volba nejlepšího AI nástroje pro freelancery závisí na tom, jakou práci chtějí delegovat. ChatGPT zůstává silnou univerzální volbou, zatímco Claude exceluje především při psaní textů. Zdroj: hostinger.com
Hyundai posouvá strategii fyzické AI díky chytřejšímu robotu Spot
Boston Dynamics představila verzi Spot 5.2, která pomocí AI, kamer a senzorů dokáže samostatně rozpoznávat a řešit problémy v průmyslovém prostředí. Jde o další krok v Hyundai strategii nasazování fyzické AI do reálného provozu. Zdroj: upi.com
OpenAI prý zvažuje kolo financování před IPO s valuací přes 1,2 bilionu dolarů
OpenAI podle zdrojů jednala s investory o novém kole financování, které by tvůrce ChatGPT ocenilo na více než 1,2 bilionu dolarů. Firma by podle očekávání mohla vstoupit na burzu už příští rok. Zdroj: wsj.com
Důležitost:Zprávadata center operations and power efficiency
Od megawattů k tokenům: Jak NVIDIA optimalizuje výkon AI továren
Článek popisuje, jak datacentrum pro AI v Silicon Valley reagovalo na signál od energetické sítě během parného srpnového večera, kdy prudce vzrostla spotřeba na chlazení. Ukazuje přístup NVIDIA k vyvažování spotřeby energie s maximalizací produkce tokenů v AI továrnách. Zdroj: blogs.nvidia.com
OpenAI, Google a Anthropic prý jednají o spolupráci na bezpečnosti AI
Podle zdrojů spolu firmy diskutují o společném postupu v oblasti bezpečnosti AI už od července, kdy Demis Hassabis z Google DeepMind navrhl vznik americké "standardizační organizace" pro celé odvětví. Mluvčí jednání potvrdil, ale bližší detaily nesdělil. Zdroj: cnbc.com
Publikoval Martin Ševčík
16. září 2026 v 05:05
Nejzajímavější detail dnešního dne není to, že OpenAI, Google a Anthropic spolu údajně jednají o bezpečnosti AI. Zajímavé je, že to dělají v momentě, kdy Trumpova administrativa veřejně napadá Anthropic a odmítá cokoliv, co by připomínalo zpomalení vývoje. Konkurenti, kteří si jinak vzájemně přetahují výzkumníky a soutěží o každý bod v benchmarcích, se prý od července baví o společné "standardizační organizaci" — nápad, který přišel od Demise Hassabise z DeepMind. Detaily nikdo nepotvrdil, ale načasování mluví samo za sebe: když politická vůle k regulaci slábne, firmy možná cítí, že samoregulace je jediná cesta, jak se vyhnout tvrdšímu zásahu později, nebo aspoň jak si takový zásah naformulovat samy.
Apropos existenční riziko — tohle slovní spojení se za poslední rok přesunulo z okrajových fórer do běžné veřejné debaty, a dnešní zpráva o Bilalu Chughtaim to jen potvrzuje. Chughtai opustil Google DeepMind v červenci a přidal se k rostoucí skupině bývalých insiderů, kteří varují veřejně místo toho, aby to řešili interně. Tohle mi přijde jako důležitější signál než samotné varování — když lidé zevnitř labs raději odejdou a mluví ven, znamená to, že interní kanály podle nich nefungují. Trump mezitím jde přesně opačným směrem a couvá od jakékoliv regulace, což vytváří zvláštní vakuum: nejhlasitější volání po opatrnosti přichází právě od lidí, kteří AI stavěli, zatímco politická reprezentace řeší jiné priority.
Druhá vrstva dnešních zpráv je mnohem přízemnější, ale možná prakticky naléhavější. Zpráva Imprivaty říká, že 72 % zdravotnických organizací provozuje neschválené AI nástroje, přičemž 88 % se zároveň připravuje na nástup autonomních agentů. To je přesně ten typ problému, který se neřeší na úrovni "existenčního rizika", ale v praxi působí mnohem reálnější škodu už teď — shadow IT, jen s vyšší autonomií a přístupem k citlivým datům. Firmy jako Microsoft na to reagují nabídkami typu Microsoft 365 G7, které slibují bezpečnou správu agentů pro vládní instituce. Nabízí se otázka, jestli nejde spíš o prodej pocitu kontroly než o skutečné řešení problému, který roste rychleji, než ho compliance oddělení stíhají mapovat.
Když si tyhle tři linky poskládám vedle sebe, vzniká mi docela jasný obrázek: na nejvyšší úrovni se řeší abstraktní rizika a standardy, zatímco v provozu firem a nemocnic už agentní AI běží bez povolení a bez dohledu. Regulace se možná nikdy nedostane tam, kde by ji lidé jako Chughtai chtěli mít — ale otázka, kdo bude spravovat přístupová práva AI agentů v běžné firmě, bude muset být zodpovězena mnohem dřív než otázka existenčního rizika.