Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 152 článků
Důležitost:Výzkuminterpretability
Jak převést černoskříňkové medicínské AI modely do srozumitelné logiky
Vysvětlit globální rozhodovací logiku černoskříňkových AI modelů v medicíně je mimořádně obtížný úkol. Výzkumníci navrhli přístup založený na asociaci tříd, který tuto logiku zpřístupňuje i mimo odborné AI komunity. Zdroj: nature.com
Důležitost:Zprávainterpretability
Manifold learning jako řešení pro interpretovatelnost AI v medicíně
Nástup AI v medicíně slibuje zásadní pokroky v diagnostice i plánování léčby, jenže černoskříňková povaha mnoha modelů brání jejich širokému přijetí. Výzkum zaměřený na manifold learning ukazuje, jak lze tuto interpretovatelnou mezeru systematicky překonat. Zdroj: bioengineer.org
Důležitost:Výzkuminterpretability
Manifold learning překlenuje propast v interpretovatelnosti medicínských AI modelů
Vysvětlitelnost se stává klíčovým požadavkem pro inteligentní zdravotnické přístroje, současné medicínské AI technologie však v této oblasti stále zaostávají. Nový přístup využívající manifold learning na základě asociace tříd nabízí cestu, jak tuto mezeru překonat. Zdroj: nature.com
Důležitost:Názorgovernance
Jak vytěžit maximum z rozhovorů USA a Číny o AI
Jedním z pozoruhodných výsledků návštěvy prezidenta Donalda Trumpa v Číně je, že Peking souhlasil s formálními rozhovory o bezpečnosti AI. Jde o důležitý krok v diplomatickém přístupu k regulaci umělé inteligence na globální úrovni. Zdroj: washingtonpost.com
Důležitost:Zprávagovernance
Generální prokurátorka Vermontu vede iniciativu pro AI a soukromí na internetu
Charity Clark se stane jednou ze dvou státních generálních prokurátorů, kteří povedou vyšetřování otázek spojených s bezpečností internetu a AI. Její angažmá signalizuje rostoucí zájem amerických států o regulaci těchto technologií. Zdroj: msn.com
Důležitost:Názorexistential risk
AI, UBI a hrozba vyhynutí lidstva
Steven Bartlett v samostatných rozhovorech zpovídal tři přední světové experty na AI a byznys. Diskuse se točila kolem dopadů AI na trh práce, univerzálního základního příjmu (UBI) a existenčních rizik spojených s rozvojem technologií. Zdroj: basicincome.org
Důležitost:ZprávaAI safety research
Anthropic otevírá přihlášky do stipendijního programu AI Safety 2026
Anthropic spustil přijímání přihlášek do programu AI Safety Fellows pro rok 2026. Jde o čtyřměsíční plnoúvazkovou výzkumnou příležitost, která startuje v květnu a červenci. Zdroj: msn.com
Důležitost:ZprávaAI safety/governance
Soudní drama kolem největšího rozchodu ve světě AI
Federální soudkyně Yvonne Gonzalez Rogers zahájila poslední den svědectví v obřím sporu mezi Elonem Muskem a OpenAI Sama Altmana. Případ se projednával u okresního soudu v Oaklandu v Kalifornii. Zdroj: msn.com
Důležitost:Zprávagovernance
Anthropic nechce, aby USA pomáhaly Číně s AI
Přestože Anthropic čelí zásadnímu právnímu sporu s americkou vládou, nezabránilo mu to vyjádřit se k tomu, jak by USA měly přistupovat k otázce sdílení AI technologií s Čínou. Zdroj: sherwood.news
Důležitost:ZprávaAI governance/US-China diplomacy
US, China are discussing AI guardrails to safeguard most powerful models, Bessent says
U.S. and Chinese delegations are discussing artificial intelligence guardrails at their Beijing summit and will set up a protocol for best practices to... Zdroj: reuters.com
Důležitost:ZprávaAI governance/US-China diplomacy
The United States and China will start discussing A.I. safety, Bessent says.
The United States and China will discuss guardrails on artificial intelligence, including establishing a protocol for keeping powerful A.I. models out of... Zdroj: nytimes.com
Důležitost:Zprávaexistential risk
Elon Musk says there's 'only a 20% chance of annihilation' with AI
Elon Musk walked through his AI predictions during a Joe Rogan interview and reiterated his concerns about annihilation. Zdroj: aol.com
Důležitost:ZprávaAI safety research/fellowships
Anthropic AI Safety Fellowship 2026: How to apply, $15,000 funding, duration & hiring chances
Anthropic, founded by former OpenAI researchers, has positioned itself as one of the leading firms focused on AI alignment and “steerable” AI systems. Zdroj: businesstoday.in
Důležitost:ZprávaAI alignment/autonomous AI risk
Will AI Go Rogue?
A new study raises concerns about AI's ability to act autonomously, but some analysts view the threat as hypothetical rather than imminent. Zdroj: thedispatch.com
Důležitost:NázorAI safety critique/doomism
The AI Giants’ Doomsaying Is Also a Sales Pitch
Companies like Anthropic regularly warn about the risk and threats posed by artificial intelligence—and then rake in tens of billions of dollars. Zdroj: newrepublic.com
Jaan Tallinn was first persuaded that advanced AI could extinguish humanity over 15 years ago. Since then, the Estonian programmer and Skype co-creator has... Zdroj: time.com
Důležitost:NázorAI governance/US-China
US Must Engage China on AI Safety, Warns Trumponomics
The 'Trumponomics' podcast urges the US to engage China on AI safety, warning that China's rapid AI development poses a critical global risk. Zdroj: startuphub.ai
Důležitost:Zprávaalignment / governance
Former OpenAI Researcher Warns AI Industry Lacks Control Over Systems It Is Racing to Build
Read Time 6 minutes. Tags AI Alignment OpenAI AI Safety Superintelligence Agentic AI Risk Governance Daniel Kokotajlo a former OpenAI researcher who now... Zdroj: vocal.media
Důležitost:ZprávaAI safety / existential risk
Elon Musk and OpenAI leaders face off in court over AI safety concerns
Elon Musk and OpenAI's Sam Altman are embroiled in a trial focusing on AI's risks to humanity, with expert testimony highlighting the dangers of AI... Zdroj: msn.com
Důležitost:Názorgovernance
Experts Say Divergent Definitions Stall Global AI Governance
Newser reports that an opinion piece by Sarosh Nagar and David Eaves, affiliated with **University College London**, argues divergent definitions and... Zdroj: letsdatascience.com