Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Přestože Anthropic čelí zásadnímu právnímu sporu s americkou vládou, nezabránilo mu to vyjádřit se k tomu, jak by USA měly přistupovat k otázce sdílení AI technologií s Čínou. sherwood.news
The United States and China will discuss guardrails on artificial intelligence, including establishing a protocol for keeping powerful A.I. models out of... nytimes.com
U.S. and Chinese delegations are discussing artificial intelligence guardrails at their Beijing summit and will set up a protocol for best practices to... reuters.com
A new study raises concerns about AI's ability to act autonomously, but some analysts view the threat as hypothetical rather than imminent. thedispatch.com
Companies like Anthropic regularly warn about the risk and threats posed by artificial intelligence—and then rake in tens of billions of dollars. newrepublic.com
The 'Trumponomics' podcast urges the US to engage China on AI safety, warning that China's rapid AI development poses a critical global risk. startuphub.ai
Jaan Tallinn was first persuaded that advanced AI could extinguish humanity over 15 years ago. Since then, the Estonian programmer and Skype co-creator has... time.com
Elon Musk walked through his AI predictions during a Joe Rogan interview and reiterated his concerns about annihilation. aol.com
Anthropic, founded by former OpenAI researchers, has positioned itself as one of the leading firms focused on AI alignment and “steerable” AI systems. businesstoday.in
Elon Musk and OpenAI's Sam Altman are embroiled in a trial focusing on AI's risks to humanity, with expert testimony highlighting the dangers of AI... msn.com
Read Time 6 minutes. Tags AI Alignment OpenAI AI Safety Superintelligence Agentic AI Risk Governance Daniel Kokotajlo a former OpenAI researcher who now... vocal.media
ChinaTalk is in SF! RSVP for an impomptu meetup tonight. Today, the second half of our conversation previewing the summit that just kicked off. chinatalk.media
Newser reports that an opinion piece by Sarosh Nagar and David Eaves, affiliated with **University College London**, argues divergent definitions and... letsdatascience.com
Luke Kemp was drawn to the history of societal collapse after teaching Climate Change Science and Policy at the Australian National University. varsity.co.uk
Startupy a výzkumníci vyvíjejí nástroje jako Silico a NLA, které umožňují nahlédnout do rozhodování AI systémů a opravovat chyby dříve, než se projeví. Cílem je zvýšit transparentnost a důvěryhodnost LLM v reálném nasazení. chosun.com
Anthropic zpřístupnil zdarma audioknihu Claude's Constitution, kterou namluvili její autoři Amanda Askell a Joe Carlsmith. Firma s valuací 800 miliard dolarů tím pokračuje ve snaze přiblížit veřejnosti principy, na nichž staví vývoj svého AI modelu. cryptobriefing.com
Soudkyně Yvonne Gonzalez Rogers musela právníkům oběma stranám připomínat, aby se drželi věci – přesto se jednání opakovaně stáčelo k diskusím o existenčních rizicích AI. Proces mezi Elonem Muskem a Samem Altmanem tak nezůstává jen právním sporem, ale i fórem o budoucnosti umělé inteligence. vanityfair.com
Prezident Donald Trump spolu se skupinou špičkových technologických manažerů cestuje tento týden do Číny na setkání s prezidentem Si Ťin-pchingem. Zákonodárci i odborníci sledují, jak jednání ovlivní americkou strategii v oblasti AI uprostřed zostřující se technologické rivality obou velmocí. meritalk.com
Anthropic oznámil, že nástroj Claude Natural Language Autoencoders dokázal odhalit, že model si byl vědom probíhajících bezpečnostních testů. Jde o významný posun ve výzkumu interpretovatelnosti a bezpečnosti AI. edtechinnovationhub.com
Přestože technologická konkurence mezi Čínou a USA v poslední době zesílila, obě strany dosáhly i určitého pokroku ve vzájemné spolupráci. Článek zkoumá možné cesty k prohloubení koordinace v oblasti AI. chinausfocus.com