AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 152 článků

Jak převést černoskříňkové medicínské AI modely do srozumitelné logiky

Vysvětlit globální rozhodovací logiku černoskříňkových AI modelů v medicíně je mimořádně obtížný úkol. Výzkumníci navrhli přístup založený na asociaci tříd, který tuto logiku zpřístupňuje i mimo odborné AI komunity. Zdroj: nature.com

Manifold learning jako řešení pro interpretovatelnost AI v medicíně

Nástup AI v medicíně slibuje zásadní pokroky v diagnostice i plánování léčby, jenže černoskříňková povaha mnoha modelů brání jejich širokému přijetí. Výzkum zaměřený na manifold learning ukazuje, jak lze tuto interpretovatelnou mezeru systematicky překonat. Zdroj: bioengineer.org

Manifold learning překlenuje propast v interpretovatelnosti medicínských AI modelů

Vysvětlitelnost se stává klíčovým požadavkem pro inteligentní zdravotnické přístroje, současné medicínské AI technologie však v této oblasti stále zaostávají. Nový přístup využívající manifold learning na základě asociace tříd nabízí cestu, jak tuto mezeru překonat. Zdroj: nature.com

Jak vytěžit maximum z rozhovorů USA a Číny o AI

Jedním z pozoruhodných výsledků návštěvy prezidenta Donalda Trumpa v Číně je, že Peking souhlasil s formálními rozhovory o bezpečnosti AI. Jde o důležitý krok v diplomatickém přístupu k regulaci umělé inteligence na globální úrovni. Zdroj: washingtonpost.com

Generální prokurátorka Vermontu vede iniciativu pro AI a soukromí na internetu

Charity Clark se stane jednou ze dvou státních generálních prokurátorů, kteří povedou vyšetřování otázek spojených s bezpečností internetu a AI. Její angažmá signalizuje rostoucí zájem amerických států o regulaci těchto technologií. Zdroj: msn.com

AI, UBI a hrozba vyhynutí lidstva

Steven Bartlett v samostatných rozhovorech zpovídal tři přední světové experty na AI a byznys. Diskuse se točila kolem dopadů AI na trh práce, univerzálního základního příjmu (UBI) a existenčních rizik spojených s rozvojem technologií. Zdroj: basicincome.org

Anthropic otevírá přihlášky do stipendijního programu AI Safety 2026

Anthropic spustil přijímání přihlášek do programu AI Safety Fellows pro rok 2026. Jde o čtyřměsíční plnoúvazkovou výzkumnou příležitost, která startuje v květnu a červenci. Zdroj: msn.com

Soudní drama kolem největšího rozchodu ve světě AI

Federální soudkyně Yvonne Gonzalez Rogers zahájila poslední den svědectví v obřím sporu mezi Elonem Muskem a OpenAI Sama Altmana. Případ se projednával u okresního soudu v Oaklandu v Kalifornii. Zdroj: msn.com

Anthropic nechce, aby USA pomáhaly Číně s AI

Přestože Anthropic čelí zásadnímu právnímu sporu s americkou vládou, nezabránilo mu to vyjádřit se k tomu, jak by USA měly přistupovat k otázce sdílení AI technologií s Čínou. Zdroj: sherwood.news

US, China are discussing AI guardrails to safeguard most powerful models, Bessent says

U.S. and Chinese delegations are discussing artificial intelligence guardrails at their ​Beijing summit and will set up a protocol for best practices to... Zdroj: reuters.com

The United States and China will start discussing A.I. safety, Bessent says.

The United States and China will discuss guardrails on artificial intelligence, including establishing a protocol for keeping powerful A.I. models out of... Zdroj: nytimes.com

Elon Musk says there's 'only a 20% chance of annihilation' with AI

Elon Musk walked through his AI predictions during a Joe Rogan interview and reiterated his concerns about annihilation. Zdroj: aol.com

Anthropic AI Safety Fellowship 2026: How to apply, $15,000 funding, duration & hiring chances

Anthropic, founded by former OpenAI researchers, has positioned itself as one of the leading firms focused on AI alignment and “steerable” AI systems. Zdroj: businesstoday.in

Will AI Go Rogue?

A new study raises concerns about AI's ability to act autonomously, but some analysts view the threat as hypothetical rather than imminent. Zdroj: thedispatch.com

The AI Giants’ Doomsaying Is Also a Sales Pitch

Companies like Anthropic regularly warn about the risk and threats posed by artificial intelligence—and then rake in tens of billions of dollars. Zdroj: newrepublic.com

Jaan Tallinn

Jaan Tallinn was first persuaded that advanced AI could extinguish humanity over 15 years ago. Since then, the Estonian programmer and Skype co-creator has... Zdroj: time.com

US Must Engage China on AI Safety, Warns Trumponomics

The 'Trumponomics' podcast urges the US to engage China on AI safety, warning that China's rapid AI development poses a critical global risk. Zdroj: startuphub.ai

Former OpenAI Researcher Warns AI Industry Lacks Control Over Systems It Is Racing to Build

Read Time 6 minutes. Tags AI Alignment OpenAI AI Safety Superintelligence Agentic AI Risk Governance Daniel Kokotajlo a former OpenAI researcher who now... Zdroj: vocal.media

Elon Musk and OpenAI leaders face off in court over AI safety concerns

Elon Musk and OpenAI's Sam Altman are embroiled in a trial focusing on AI's risks to humanity, with expert testimony highlighting the dangers of AI... Zdroj: msn.com

Experts Say Divergent Definitions Stall Global AI Governance

Newser reports that an opinion piece by Sarosh Nagar and David Eaves, affiliated with **University College London**, argues divergent definitions and... Zdroj: letsdatascience.com