AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 166 článků

Trump nařídil rychlejší nasazení AI v armádě a zpravodajských službách

Prezident Donald Trump vydal příkaz k urychlení adopce AI napříč americkou armádou a zpravodajskou komunitou. Cílem je posílit operační schopnosti USA pomocí nejnovějších AI technologií. Zdroj: mychesco.com

Sacks se opřel do Anthropicu za varování před AI o délce 10 000 slov

Bílý dům AI Czar David Sacks veřejně zkritizoval Anthropic po zveřejnění rozsáhlého výzkumného dokumentu o bezpečnosti AI čítajícího přes 10 000 slov. Sacks zpochybnil závěry i tón zprávy. Zdroj: timesofindia.indiatimes.com

Anthropic volá po pauze ve vývoji AI před bilionové IPO

Anthropic varuje, že AI by brzy mohla dosáhnout rekurzivního sebezdokonalování, což hrozí ztrátou lidské kontroly nad výkonnými systémy. Výzva přichází paradoxně v době, kdy se společnost chystá na jedno z největších IPO v historii technologického sektoru. Zdroj: msn.com

Proč Anthropic volá po zpomalení vývoje AI: hrozba rekurzivního sebezdokonalování

Zatímco závod o stále výkonnější AI systémy nabírá na obrátkách, Anthropic vyzývá svět k zamyšlení nad riziky rekurzivního sebezdokonalování. Jde o scénář, kdy AI začne sama sebe vylepšovat způsobem, který lidé přestanou být schopni kontrolovat. Zdroj: tradingview.com

Anthropic šlape na brzdu i plyn zároveň

Anthropic varuje, že pokročilá AI může předběhnout lidský dohled, přičemž firma zároveň zrychluje vlastní růst a zostřuje konkurenční boj. Kritici poukazují na zřejmý rozpor mezi rétoريkou společnosti a jejím skutečným chováním na trhu. Zdroj: americanbazaaronline.com

Can China and the U.S. Work Together on Preventing Human Extinction?

Despite intensifying U.S.-China competition in AI, both countries share a strong interest in cooperating on AI safety, as advanced and potentially... Zdroj: chinausfocus.com

A bipartisan AI deal gets a brutal reality check

Republicans remain skeptical of a sweeping deal to regulate advanced AI, even as Democrats come under pressure to scuttle anything that blocks state rules... Zdroj: politico.com

AI Expert Stuart Russell: "What Hitler Did, AI Could Do Faster, Better and More Efficiently"

Renowned AI expert Stuart Russell has become one of the technology's most urgent critics. He argues the dangers of AI have been vastly underestimated. Zdroj: derspiegel.substack.com

Anthropic says something unsettling has been happening to Claude

Leading AI firm Anthropic has warned that humans risk losing control over AI systems in the very near future if a concerning trend with its Claude model... Zdroj: aol.com

The best AI bill yet may not get far

Transformer Weekly: The Obernolte-Trahan AI Act, Trump's executive order, and Anthropic discusses a pause. Zdroj: transformernews.ai

Anthropic, The AI Safety And Research Company behind Claude, Warns That Humans Could Lose Control Over AI Systems

Anthropic believes humans could soon lose control over AI altogether. Anthropic is the AI safety and research company behind Claude, which is valued at... Zdroj: afrotech.com

Anthropic vyzývá k celosvětovému pozastavení vývoje AI a varuje před samozdokonalováním

Startup oceněný na bilion dolarů varuje, že modely AI se blíží schopnosti zlepšovat se bez lidského zásahu. Anthropic proto vyzývá k globální pauze ve vývoji AI, dokud nebudou tato rizika lépe pochopena. Zdroj: wsj.com

Program MATS Podzim 2026 – stipendium 12 500 USD

Přihlášky do programu MATS Podzim 2026 jsou nyní otevřeny, uzávěrka je 7. června 2026. Jde o 10 až 12týdenní výzkumné stipendium v oblasti AI bezpečnosti. Zdroj: opportunitydesk.org

Zajímají voliče existenční rizika AI? Jedna kandidátka do Senátu si myslí, že ano

Demokratka Mallory McMorrow zveřejnila nezvykle podrobný program zaměřený na AI. Otázkou zůstává, zda jí tato agenda přinese hlasy voličů. Zdroj: transformernews.ai

OpenAI a Anthropic prosazují sledování DNA pro biozbraně

Přední AI laboratoře vyzývají zákonodárce ke sledování sekvencí syntetické DNA kvůli obavám z zneužití AI v oblasti biosecurity. Zdroj: techbuzz.ai

Papež si pozval ateistu z Anthropic, aby spolu řešili nebezpečí AI

Při přednesu svého prvního encykliky o rizicích AI seděl vedle papeže Lea XIV. spoluzakladatel Anthropic – miliardář a přesvědčený ateista. Výběr řečníka překvapil mnoho pozorovatelů. Zdroj: fortune.com

Vítejte ve světě strojů: rizika příchodu superinteligence

Přechod k superinteligenci s sebou nese závažná rizika – od ekonomických otřesů až po zneužití v oblastech jako kybernetická bezpečnost nebo biologie. Zdroj: cei.org

Assessing Trump’s Executive Order on AI Oversight

The much-anticipated presidential order signals a change for an administration that has resisted regulation of artificial intelligence (AI). Zdroj: cfr.org

The AI ‘Revolution' is Not a People's Revolution

If this revolution is something happening to us, then nobody is accountable for deciding how it happens, say Vassilis Galanos, Tania Duarte,... Zdroj: techpolicy.press

Sanders varuje před existenčním rizikem AI a volá po spolupráci USA s Čínou

Senátor Bernie Sanders se stal jedním z nejhlasitějších kritiků AI ve Washingtonu. Upozorňuje na závažná rizika této technologie a vyzývá k mezinárodní spolupráci mezi USA a Čínou. Zdroj: aol.com