Trénovací data určují soulad LLM s mozkem napříč jazyky
Preprint na arXiv od Dongxina Gua a kolegů z 21. května 2026 zkoumá, jak trénovací data ovlivňují míru shody mezi LLM a mozkovými reprezentacemi. Studie využila fMRI data od 112 účastníků napříč různými jazyky a zjistila, že složení trénovacích dat hraje klíčovou roli v cross-lingvální alignment. Zdroj: letsdatascience.com
Důležitost:Zprávagovernance
Trump zrušil dekret o bezpečnosti AI po telefonátech s Muskem a Zuckerbergem
Americký prezident Trump na poslední chvíli odvolal výkonný dekret zaměřený na bezpečnost AI. Rozhodnutí přišlo po telefonátech s Elonem Muskem, Markem Zuckerbergem a bývalým poradcem Davidem Sacksem. Zdroj: the-decoder.com
Důležitost:ZprávaAI agent safety tooling
Microsoft Open Sources AI Safety Tools for Agent Development
Microsoft released RAMPART and Clarity as open-source projects intended to help developers test AI agents earlier in the software lifecycle and turn... Zdroj: redmondmag.com
Důležitost:ZprávaAI safety & alignment
Rozšiřování debaty o hraničním AI
Anthropic je společnost zaměřená na bezpečnost a výzkum AI, která usiluje o vývoj spolehlivých, interpretovatelných a řiditelných AI systémů. Zdroj: anthropic.com
Důležitost:ZprávaAI safety research
Anthropic otevírá přihlášky do stipendijního programu AI Safety 2026
Anthropic spustil přijímání přihlášek do programu AI Safety Fellows pro rok 2026. Jde o čtyřměsíční plnoúvazkovou výzkumnou příležitost, která startuje v květnu a červenci. Zdroj: msn.com
Důležitost:ZprávaAI safety research/fellowships
Anthropic AI Safety Fellowship 2026: How to apply, $15,000 funding, duration & hiring chances
Anthropic, founded by former OpenAI researchers, has positioned itself as one of the leading firms focused on AI alignment and “steerable” AI systems. Zdroj: businesstoday.in
Důležitost:NázorAI governance/US-China
US Must Engage China on AI Safety, Warns Trumponomics
The 'Trumponomics' podcast urges the US to engage China on AI safety, warning that China's rapid AI development poses a critical global risk. Zdroj: startuphub.ai
Důležitost:ZprávaAI safety / existential risk
Elon Musk and OpenAI leaders face off in court over AI safety concerns
Elon Musk and OpenAI's Sam Altman are embroiled in a trial focusing on AI's risks to humanity, with expert testimony highlighting the dangers of AI... Zdroj: msn.com
Důležitost:Zprávaalignment / governance
Former OpenAI Researcher Warns AI Industry Lacks Control Over Systems It Is Racing to Build
Read Time 6 minutes. Tags AI Alignment OpenAI AI Safety Superintelligence Agentic AI Risk Governance Daniel Kokotajlo a former OpenAI researcher who now... Zdroj: vocal.media
Důležitost:Názorgovernance
Xi-Trump to talk AI Safety, Huh?
ChinaTalk is in SF! RSVP for an impomptu meetup tonight. Today, the second half of our conversation previewing the summit that just kicked off. Zdroj: chinatalk.media
Důležitost:Výzkuminterpretability/alignment
Anthropic: nástroj Claude odhaluje skryté uvažování při bezpečnostních testech AI
Anthropic oznámil, že nástroj Claude Natural Language Autoencoders dokázal odhalit, že model si byl vědom probíhajících bezpečnostních testů. Jde o významný posun ve výzkumu interpretovatelnosti a bezpečnosti AI. Zdroj: edtechinnovationhub.com
Důležitost:Zprávagovernance
Musk vs. OpenAI: soud o bezpečnost AI a budoucnost lidstva
Elon Musk a šéf OpenAI Sam Altman se střetli u soudu v případu zaměřeném na rizika AI pro lidstvo. Znalecké výpovědi zdůraznily potenciální nebezpečí nekontrolovaného rozvoje AI. Zdroj: msn.com
Důležitost:Zprávainterpretability
Goodfire: týdenní přehled dění v oblasti bezpečnosti AI
Goodfire je společnost zaměřená na bezpečnost AI a nástroje pro zlepšení spolehlivosti a ovladatelnosti velkých jazykových modelů (LLM). Týdenní přehled shrnuje nejnovější poznatky a aktivity firmy. Zdroj: tipranks.com
Důležitost:VýzkumRLHF alignment
RVPO: Risk-Sensitive Alignment via Variance Regularization
Current critic-less RLHF methods aggregate multi-objective rewards via an arithmetic mean, leaving them vulnerable to constraint neglect:… Zdroj: machinelearning.apple.com
Důležitost:ZprávaAI safety testing/policy
Zranitelnost Mythos donutila Trumpův Bílý dům obnovit předpublikační testování AI
Po demonstraci zranitelnosti modelu Mythos od Anthropic vydala Trumpova administrativa výkonný příkaz k předpublikačnímu bezpečnostnímu testování AI. Součástí iniciativy jsou dobrovolné dohody v rámci projektu CAISI se společnostmi jako Google. Zdroj: startupfortune.com
Donald Trump a Si Ťin-pching by mohli při svém setkání probrat spolupráci v oblasti umělé inteligence. Obě velmoci zároveň čelí rostoucím obavám z bezpečnostních rizik spojených s AI. Zdroj: economist.com
Důležitost:SpuštěníAI safety governance
Common Sense Media launches Youth AI Safety Institute to test AI risks for children
Common Sense Media launched the Youth AI Safety Institute to independently test AI tools, publish consumer guides, and set safety standards that protect... Zdroj: mezha.net
Důležitost:Spuštěnímarketing AI copilot product launch
Opal chce novým AI nástrojem Gem snížit náklady na sladění AI s firemní strategií
Platforma Opal představila AI copilota Gem, který propojuje data kampaní s celkovou marketingovou strategií. Cílem je pomoci týmům rychleji pochopit výsledky a snížit tzv. 'alignment tax' spojenou s nasazením AI. Zdroj: marketingdive.com
Důležitost:VideoAI safety leadership perspectives
Demis Hassabis o bezpečnosti AI a budoucnosti vědy
Generální ředitel DeepMind Demis Hassabis se v rozhovoru s Lexem Fridmanem zamýšlí nad bezpečností umělé inteligence, AGI a budoucností vědeckého poznání. Diskuse se dotýká klíčových otázek, které hýbají světem špičkového výzkumu AI. Zdroj: startuphub.ai
Důležitost:ZprávaAI governance/legal
Elon Musk Testifies in OpenAI Trial, Raises AI Safety Concerns
Oakland: Elon Musk testified for over seven hours across three days in a trial in Oakland, California, concerning OpenAI's future, framing his lawsuit as a... Zdroj: newsmobile.in