Trump nařídil rychlejší nasazení AI v armádě a zpravodajských službách
Prezident Donald Trump vydal příkaz k urychlení adopce AI napříč americkou armádou a zpravodajskou komunitou. Cílem je posílit operační schopnosti USA pomocí nejnovějších AI technologií. Zdroj: mychesco.com
Důležitost:ZprávaAI governance/safety policy
Sacks se opřel do Anthropicu za varování před AI o délce 10 000 slov
Bílý dům AI Czar David Sacks veřejně zkritizoval Anthropic po zveřejnění rozsáhlého výzkumného dokumentu o bezpečnosti AI čítajícího přes 10 000 slov. Sacks zpochybnil závěry i tón zprávy. Zdroj: timesofindia.indiatimes.com
Anthropic volá po pauze ve vývoji AI před bilionové IPO
Anthropic varuje, že AI by brzy mohla dosáhnout rekurzivního sebezdokonalování, což hrozí ztrátou lidské kontroly nad výkonnými systémy. Výzva přichází paradoxně v době, kdy se společnost chystá na jedno z největších IPO v historii technologického sektoru. Zdroj: msn.com
Proč Anthropic volá po zpomalení vývoje AI: hrozba rekurzivního sebezdokonalování
Zatímco závod o stále výkonnější AI systémy nabírá na obrátkách, Anthropic vyzývá svět k zamyšlení nad riziky rekurzivního sebezdokonalování. Jde o scénář, kdy AI začne sama sebe vylepšovat způsobem, který lidé přestanou být schopni kontrolovat. Zdroj: tradingview.com
Důležitost:ZprávaAI governance/existential risk
Anthropic šlape na brzdu i plyn zároveň
Anthropic varuje, že pokročilá AI může předběhnout lidský dohled, přičemž firma zároveň zrychluje vlastní růst a zostřuje konkurenční boj. Kritici poukazují na zřejmý rozpor mezi rétoريkou společnosti a jejím skutečným chováním na trhu. Zdroj: americanbazaaronline.com
Důležitost:NázorAI governance/geopolitics
Can China and the U.S. Work Together on Preventing Human Extinction?
Despite intensifying U.S.-China competition in AI, both countries share a strong interest in cooperating on AI safety, as advanced and potentially... Zdroj: chinausfocus.com
Důležitost:ZprávaAI governance/legislation
A bipartisan AI deal gets a brutal reality check
Republicans remain skeptical of a sweeping deal to regulate advanced AI, even as Democrats come under pressure to scuttle anything that blocks state rules... Zdroj: politico.com
Důležitost:NázorAI existential risk
AI Expert Stuart Russell: "What Hitler Did, AI Could Do Faster, Better and More Efficiently"
Renowned AI expert Stuart Russell has become one of the technology's most urgent critics. He argues the dangers of AI have been vastly underestimated. Zdroj: derspiegel.substack.com
Důležitost:ZprávaAI control/existential risk
Anthropic says something unsettling has been happening to Claude
Leading AI firm Anthropic has warned that humans risk losing control over AI systems in the very near future if a concerning trend with its Claude model... Zdroj: aol.com
Důležitost:ZprávaAI policy/governance
The best AI bill yet may not get far
Transformer Weekly: The Obernolte-Trahan AI Act, Trump's executive order, and Anthropic discusses a pause. Zdroj: transformernews.ai
Důležitost:ZprávaAI control/existential risk
Anthropic, The AI Safety And Research Company behind Claude, Warns That Humans Could Lose Control Over AI Systems
Anthropic believes humans could soon lose control over AI altogether. Anthropic is the AI safety and research company behind Claude, which is valued at... Zdroj: afrotech.com
Důležitost:Zprávaexistential risk / governance
Anthropic vyzývá k celosvětovému pozastavení vývoje AI a varuje před samozdokonalováním
Startup oceněný na bilion dolarů varuje, že modely AI se blíží schopnosti zlepšovat se bez lidského zásahu. Anthropic proto vyzývá k globální pauze ve vývoji AI, dokud nebudou tato rizika lépe pochopena. Zdroj: wsj.com
Důležitost:ZprávaAI safety research training
Program MATS Podzim 2026 – stipendium 12 500 USD
Přihlášky do programu MATS Podzim 2026 jsou nyní otevřeny, uzávěrka je 7. června 2026. Jde o 10 až 12týdenní výzkumné stipendium v oblasti AI bezpečnosti. Zdroj: opportunitydesk.org
Důležitost:Zprávagovernance / policy
Zajímají voliče existenční rizika AI? Jedna kandidátka do Senátu si myslí, že ano
Demokratka Mallory McMorrow zveřejnila nezvykle podrobný program zaměřený na AI. Otázkou zůstává, zda jí tato agenda přinese hlasy voličů. Zdroj: transformernews.ai
Důležitost:ZprávaAI biosecurity/governance
OpenAI a Anthropic prosazují sledování DNA pro biozbraně
Přední AI laboratoře vyzývají zákonodárce ke sledování sekvencí syntetické DNA kvůli obavám z zneužití AI v oblasti biosecurity. Zdroj: techbuzz.ai
Důležitost:ZprávaAI safety discourse
Papež si pozval ateistu z Anthropic, aby spolu řešili nebezpečí AI
Při přednesu svého prvního encykliky o rizicích AI seděl vedle papeže Lea XIV. spoluzakladatel Anthropic – miliardář a přesvědčený ateista. Výběr řečníka překvapil mnoho pozorovatelů. Zdroj: fortune.com
Důležitost:Názorexistential risk
Vítejte ve světě strojů: rizika příchodu superinteligence
Přechod k superinteligenci s sebou nese závažná rizika – od ekonomických otřesů až po zneužití v oblastech jako kybernetická bezpečnost nebo biologie. Zdroj: cei.org
Důležitost:PolitikaAI governance
Assessing Trump’s Executive Order on AI Oversight
The much-anticipated presidential order signals a change for an administration that has resisted regulation of artificial intelligence (AI). Zdroj: cfr.org
Důležitost:NázorAI governance
The AI ‘Revolution' is Not a People's Revolution
If this revolution is something happening to us, then nobody is accountable for deciding how it happens, say Vassilis Galanos, Tania Duarte,... Zdroj: techpolicy.press
Důležitost:Zprávaexistential risk/governance
Sanders varuje před existenčním rizikem AI a volá po spolupráci USA s Čínou
Senátor Bernie Sanders se stal jedním z nejhlasitějších kritiků AI ve Washingtonu. Upozorňuje na závažná rizika této technologie a vyzývá k mezinárodní spolupráci mezi USA a Čínou. Zdroj: aol.com