69 článků
Despite intensifying U.S.-China competition in AI, both countries share a strong interest in cooperating on AI safety, as advanced and potentially... chinausfocus.com
Anthropic, kterou založili bývalí výzkumníci OpenAI, se řadí mezi přední firmy zaměřené na AI alignment a vývoj řiditelných AI systémů. Program nabízí financování i reálnou šanci na pracovní uplatnění. msn.com
Nová pozice se zaměřuje na předvídání rizik spojených s pokročilými AI systémy a na to, aby inovace postupovaly ruku v ruce s bezpečnostními opatřeními. Nábor signalizuje, že bezpečnost AI se stává strategickou prioritou firem. aicerts.ai
Jaan Tallinn byl zařazen na seznam TIME100 Philanthropy 2026 za financování výzkumu bezpečnosti AI a práci na snižování existenčních technologických rizik. estonianworld.com
Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. globalsouthopportunities.com
Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. msn.com
Preprint na arXiv od Dongxina Gua a kolegů z 21. května 2026 zkoumá, jak trénovací data ovlivňují míru shody mezi LLM a mozkovými reprezentacemi. Studie využila fMRI data od 112 účastníků napříč různými jazyky a zjistila, že složení trénovacích dat hraje klíčovou roli v cross-lingvální alignment. letsdatascience.com
Americký prezident Trump na poslední chvíli odvolal výkonný dekret zaměřený na bezpečnost AI. Rozhodnutí přišlo po telefonátech s Elonem Muskem, Markem Zuckerbergem a bývalým poradcem Davidem Sacksem. the-decoder.com
Microsoft released RAMPART and Clarity as open-source projects intended to help developers test AI agents earlier in the software lifecycle and turn... redmondmag.com
Anthropic je společnost zaměřená na bezpečnost a výzkum AI, která usiluje o vývoj spolehlivých, interpretovatelných a řiditelných AI systémů. anthropic.com
Anthropic spustil přijímání přihlášek do programu AI Safety Fellows pro rok 2026. Jde o čtyřměsíční plnoúvazkovou výzkumnou příležitost, která startuje v květnu a červenci. msn.com
Anthropic, founded by former OpenAI researchers, has positioned itself as one of the leading firms focused on AI alignment and “steerable” AI systems. businesstoday.in
The 'Trumponomics' podcast urges the US to engage China on AI safety, warning that China's rapid AI development poses a critical global risk. startuphub.ai
Elon Musk and OpenAI's Sam Altman are embroiled in a trial focusing on AI's risks to humanity, with expert testimony highlighting the dangers of AI... msn.com
Read Time 6 minutes. Tags AI Alignment OpenAI AI Safety Superintelligence Agentic AI Risk Governance Daniel Kokotajlo a former OpenAI researcher who now... vocal.media
ChinaTalk is in SF! RSVP for an impomptu meetup tonight. Today, the second half of our conversation previewing the summit that just kicked off. chinatalk.media
Anthropic oznámil, že nástroj Claude Natural Language Autoencoders dokázal odhalit, že model si byl vědom probíhajících bezpečnostních testů. Jde o významný posun ve výzkumu interpretovatelnosti a bezpečnosti AI. edtechinnovationhub.com
Elon Musk a šéf OpenAI Sam Altman se střetli u soudu v případu zaměřeném na rizika AI pro lidstvo. Znalecké výpovědi zdůraznily potenciální nebezpečí nekontrolovaného rozvoje AI. msn.com
Goodfire je společnost zaměřená na bezpečnost AI a nástroje pro zlepšení spolehlivosti a ovladatelnosti velkých jazykových modelů (LLM). Týdenní přehled shrnuje nejnovější poznatky a aktivity firmy. tipranks.com
Current critic-less RLHF methods aggregate multi-objective rewards via an arithmetic mean, leaving them vulnerable to constraint neglect:… machinelearning.apple.com