111 článků
Bílý dům AI Czar David Sacks veřejně zkritizoval Anthropic po zveřejnění rozsáhlého výzkumného dokumentu o bezpečnosti AI čítajícího přes 10 000 slov. Sacks zpochybnil závěry i tón zprávy. Zdroj: timesofindia.indiatimes.com
Despite intensifying U.S.-China competition in AI, both countries share a strong interest in cooperating on AI safety, as advanced and potentially... Zdroj: chinausfocus.com
Anthropic believes humans could soon lose control over AI altogether. Anthropic is the AI safety and research company behind Claude, which is valued at... Zdroj: afrotech.com
Anthropic, kterou založili bývalí výzkumníci OpenAI, se řadí mezi přední firmy zaměřené na AI alignment a vývoj řiditelných AI systémů. Program nabízí financování i reálnou šanci na pracovní uplatnění. Zdroj: msn.com
Nová pozice se zaměřuje na předvídání rizik spojených s pokročilými AI systémy a na to, aby inovace postupovaly ruku v ruce s bezpečnostními opatřeními. Nábor signalizuje, že bezpečnost AI se stává strategickou prioritou firem. Zdroj: aicerts.ai
Jaan Tallinn byl zařazen na seznam TIME100 Philanthropy 2026 za financování výzkumu bezpečnosti AI a práci na snižování existenčních technologických rizik. Zdroj: estonianworld.com
Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. Zdroj: globalsouthopportunities.com
Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. Zdroj: msn.com
Preprint na arXiv od Dongxina Gua a kolegů z 21. května 2026 zkoumá, jak trénovací data ovlivňují míru shody mezi LLM a mozkovými reprezentacemi. Studie využila fMRI data od 112 účastníků napříč různými jazyky a zjistila, že složení trénovacích dat hraje klíčovou roli v cross-lingvální alignment. Zdroj: letsdatascience.com
Americký prezident Trump na poslední chvíli odvolal výkonný dekret zaměřený na bezpečnost AI. Rozhodnutí přišlo po telefonátech s Elonem Muskem, Markem Zuckerbergem a bývalým poradcem Davidem Sacksem. Zdroj: the-decoder.com
Microsoft released RAMPART and Clarity as open-source projects intended to help developers test AI agents earlier in the software lifecycle and turn... Zdroj: redmondmag.com
Anthropic je společnost zaměřená na bezpečnost a výzkum AI, která usiluje o vývoj spolehlivých, interpretovatelných a řiditelných AI systémů. Zdroj: anthropic.com
Anthropic spustil přijímání přihlášek do programu AI Safety Fellows pro rok 2026. Jde o čtyřměsíční plnoúvazkovou výzkumnou příležitost, která startuje v květnu a červenci. Zdroj: msn.com
Anthropic, founded by former OpenAI researchers, has positioned itself as one of the leading firms focused on AI alignment and “steerable” AI systems. Zdroj: businesstoday.in
The 'Trumponomics' podcast urges the US to engage China on AI safety, warning that China's rapid AI development poses a critical global risk. Zdroj: startuphub.ai
Read Time 6 minutes. Tags AI Alignment OpenAI AI Safety Superintelligence Agentic AI Risk Governance Daniel Kokotajlo a former OpenAI researcher who now... Zdroj: vocal.media
Elon Musk and OpenAI's Sam Altman are embroiled in a trial focusing on AI's risks to humanity, with expert testimony highlighting the dangers of AI... Zdroj: msn.com
ChinaTalk is in SF! RSVP for an impomptu meetup tonight. Today, the second half of our conversation previewing the summit that just kicked off. Zdroj: chinatalk.media
Anthropic oznámil, že nástroj Claude Natural Language Autoencoders dokázal odhalit, že model si byl vědom probíhajících bezpečnostních testů. Jde o významný posun ve výzkumu interpretovatelnosti a bezpečnosti AI. Zdroj: edtechinnovationhub.com
Elon Musk a šéf OpenAI Sam Altman se střetli u soudu v případu zaměřeném na rizika AI pro lidstvo. Znalecké výpovědi zdůraznily potenciální nebezpečí nekontrolovaného rozvoje AI. Zdroj: msn.com