ZprávaAI policy/governance
The best AI bill yet may not get far
Transformer Weekly: The Obernolte-Trahan AI Act, Trump's executive order, and Anthropic discusses a pause. transformernews.ai
🛡️ Bezpečnost a alignment AI
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
437 článků
NázorAI governance/geopolitics
Can China and the U.S. Work Together on Preventing Human Extinction?
Despite intensifying U.S.-China competition in AI, both countries share a strong interest in cooperating on AI safety, as advanced and potentially... chinausfocus.com
Zprávaexistential risk / governance
Anthropic vyzývá k celosvětovému pozastavení vývoje AI a varuje před samozdokonalováním
Startup oceněný na bilion dolarů varuje, že modely AI se blíží schopnosti zlepšovat se bez lidského zásahu. Anthropic proto vyzývá k globální pauze ve vývoji AI, dokud nebudou tato rizika lépe pochopena. wsj.com
Zprávagovernance / policy
Zajímají voliče existenční rizika AI? Jedna kandidátka do Senátu si myslí, že ano
Demokratka Mallory McMorrow zveřejnila nezvykle podrobný program zaměřený na AI. Otázkou zůstává, zda jí tato agenda přinese hlasy voličů. transformernews.ai
ZprávaAI safety research training
Program MATS Podzim 2026 – stipendium 12 500 USD
Přihlášky do programu MATS Podzim 2026 jsou nyní otevřeny, uzávěrka je 7. června 2026. Jde o 10 až 12týdenní výzkumné stipendium v oblasti AI bezpečnosti. opportunitydesk.org
ZprávaAI biosecurity/governance
OpenAI a Anthropic prosazují sledování DNA pro biozbraně
Přední AI laboratoře vyzývají zákonodárce ke sledování sekvencí syntetické DNA kvůli obavám z zneužití AI v oblasti biosecurity. techbuzz.ai
ZprávaAI safety discourse
Papež si pozval ateistu z Anthropic, aby spolu řešili nebezpečí AI
Při přednesu svého prvního encykliky o rizicích AI seděl vedle papeže Lea XIV. spoluzakladatel Anthropic – miliardář a přesvědčený ateista. Výběr řečníka překvapil mnoho pozorovatelů. fortune.com
Názorexistential risk
Vítejte ve světě strojů: rizika příchodu superinteligence
Přechod k superinteligenci s sebou nese závažná rizika – od ekonomických otřesů až po zneužití v oblastech jako kybernetická bezpečnost nebo biologie. cei.org
PolitikaAI governance
Assessing Trump’s Executive Order on AI Oversight
The much-anticipated presidential order signals a change for an administration that has resisted regulation of artificial intelligence (AI). cfr.org
NázorAI governance
The AI ‘Revolution' is Not a People's Revolution
If this revolution is something happening to us, then nobody is accountable for deciding how it happens, say Vassilis Galanos, Tania Duarte,... techpolicy.press
Zprávaexistential risk/governance
Sanders varuje před existenčním rizikem AI a volá po spolupráci USA s Čínou
Senátor Bernie Sanders se stal jedním z nejhlasitějších kritiků AI ve Washingtonu. Upozorňuje na závažná rizika této technologie a vyzývá k mezinárodní spolupráci mezi USA a Čínou. aol.com
ZprávaAI safety accountability/legal
Florida žaluje OpenAI a CEO Sama Altmana za upřednostňování zisku nad bezpečností
Florida se snaží Altmana osobně pohnat k odpovědnosti. OpenAI podle žaloby vydávala ChatGPT za bezpečný nástroj, přičemž skrývala, že může uživatele přivést k sebepoškozování. nbcnews.com
NázorAI governance/accountability
Digitální reklama potřebuje pravidla pro AI
Hlavní riziko AI v digitální reklamě nepředstavuje automatizace, ale autonomní rozhodování bez dostatečné odpovědnosti a dohledu. adexchanger.com
Názorexistential risk discussion
Bill Gurley: Anthropic "přivádí na svět božstvo"
Rizikový investor Bill Gurley z Benchmark Capital prohlásil v podcastu All-In, že po měsíci studia Anthropic dospěl k závěru, že firma fakticky pomáhá zrodit něco nadlidského. letsdatascience.com
ZprávaAI safety hiring/org
OpenAI nabízí až 445 000 dolarů za odborníka na bezpečnost AI
Nová pozice se zaměřuje na předvídání rizik spojených s pokročilými AI systémy a na to, aby inovace postupovaly ruku v ruce s bezpečnostními opatřeními. Nábor signalizuje, že bezpečnost AI se stává strategickou prioritou firem. aicerts.ai
ZprávaAI safety fellowship/alignment
Anthropic otevírá stipendijní program AI Safety Fellowship 2026 s dotací 15 000 dolarů
Anthropic, kterou založili bývalí výzkumníci OpenAI, se řadí mezi přední firmy zaměřené na AI alignment a vývoj řiditelných AI systémů. Program nabízí financování i reálnou šanci na pracovní uplatnění. msn.com
Názorexistential risk
Doomers vs. akcelerationisté: Hrozí nám AI apokalypsa?
Akademici Eliezer Yudkowsky a Nate Soares ve své nové knize 'If Anyone Builds It, Everyone Dies' varují, že další rozvoj AI představuje existenční hrozbu pro lidstvo. Jejich teze čelí ostré kritice ze strany zastánců rychlého technologického pokroku. letsdatascience.com
Zprávagovernance
Anthropic se připojil k Vatikánu při vydání encykliky papeže Lva XIV. o AI
Papež Lev XIV. založil studijní skupinu zaměřenou na AI a chystá se vydat svou první encykliku, která se bude zabývat riziky umělé inteligence ve válečných konfliktech. Vatikán na projektu spolupracuje s firmou Anthropic. milwaukeeindependent.com
ZprávaAI industry
Anthropic po kole za 65 miliard dolarů předstihl OpenAI v hodnotě
Anthropic se stal nejhodnotnějším AI startupem na světě poté, co uzavřel nové investiční kolo ve výši 65 miliard dolarů. Firma tak přeskočila dosavadního lídra OpenAI. inkl.com
Zprávagovernance
Firmy nasazují AI, ale regulace nestíhá
Podle Stanfordského indexu AI za rok 2025 se prohlubuje propast mezi rychlým nasazováním AI v organizacích a chybějícími mechanismy správy a regulace. Odborníci varují, že bez odpovídající governance rostou technologická i etická rizika. letsdatascience.com