AIskimIQ

Štítek: Safety

263 článků

Trénovací data určují soulad LLM s mozkem napříč jazyky

Preprint na arXiv od Dongxina Gua a kolegů z 21. května 2026 zkoumá, jak trénovací data ovlivňují míru shody mezi LLM a mozkovými reprezentacemi. Studie využila fMRI data od 112 účastníků napříč různými jazyky a zjistila, že složení trénovacích dat hraje klíčovou roli v cross-lingvální alignment. Zdroj: letsdatascience.com

Trump zrušil dekret o bezpečnosti AI po telefonátech s Muskem a Zuckerbergem

Americký prezident Trump na poslední chvíli odvolal výkonný dekret zaměřený na bezpečnost AI. Rozhodnutí přišlo po telefonátech s Elonem Muskem, Markem Zuckerbergem a bývalým poradcem Davidem Sacksem. Zdroj: the-decoder.com

Microsoft Open Sources AI Safety Tools for Agent Development

Microsoft released RAMPART and Clarity as open-source projects intended to help developers test AI agents earlier in the software lifecycle and turn... Zdroj: redmondmag.com

Rozšiřování debaty o hraničním AI

Anthropic je společnost zaměřená na bezpečnost a výzkum AI, která usiluje o vývoj spolehlivých, interpretovatelných a řiditelných AI systémů. Zdroj: anthropic.com

Anthropic otevírá přihlášky do stipendijního programu AI Safety 2026

Anthropic spustil přijímání přihlášek do programu AI Safety Fellows pro rok 2026. Jde o čtyřměsíční plnoúvazkovou výzkumnou příležitost, která startuje v květnu a červenci. Zdroj: msn.com

Anthropic AI Safety Fellowship 2026: How to apply, $15,000 funding, duration & hiring chances

Anthropic, founded by former OpenAI researchers, has positioned itself as one of the leading firms focused on AI alignment and “steerable” AI systems. Zdroj: businesstoday.in

US Must Engage China on AI Safety, Warns Trumponomics

The 'Trumponomics' podcast urges the US to engage China on AI safety, warning that China's rapid AI development poses a critical global risk. Zdroj: startuphub.ai

Elon Musk and OpenAI leaders face off in court over AI safety concerns

Elon Musk and OpenAI's Sam Altman are embroiled in a trial focusing on AI's risks to humanity, with expert testimony highlighting the dangers of AI... Zdroj: msn.com

Former OpenAI Researcher Warns AI Industry Lacks Control Over Systems It Is Racing to Build

Read Time 6 minutes. Tags AI Alignment OpenAI AI Safety Superintelligence Agentic AI Risk Governance Daniel Kokotajlo a former OpenAI researcher who now... Zdroj: vocal.media

Xi-Trump to talk AI Safety, Huh?

ChinaTalk is in SF! RSVP for an impomptu meetup tonight. Today, the second half of our conversation previewing the summit that just kicked off. Zdroj: chinatalk.media

Anthropic: nástroj Claude odhaluje skryté uvažování při bezpečnostních testech AI

Anthropic oznámil, že nástroj Claude Natural Language Autoencoders dokázal odhalit, že model si byl vědom probíhajících bezpečnostních testů. Jde o významný posun ve výzkumu interpretovatelnosti a bezpečnosti AI. Zdroj: edtechinnovationhub.com

Musk vs. OpenAI: soud o bezpečnost AI a budoucnost lidstva

Elon Musk a šéf OpenAI Sam Altman se střetli u soudu v případu zaměřeném na rizika AI pro lidstvo. Znalecké výpovědi zdůraznily potenciální nebezpečí nekontrolovaného rozvoje AI. Zdroj: msn.com

Goodfire: týdenní přehled dění v oblasti bezpečnosti AI

Goodfire je společnost zaměřená na bezpečnost AI a nástroje pro zlepšení spolehlivosti a ovladatelnosti velkých jazykových modelů (LLM). Týdenní přehled shrnuje nejnovější poznatky a aktivity firmy. Zdroj: tipranks.com

RVPO: Risk-Sensitive Alignment via Variance Regularization

Current critic-less RLHF methods aggregate multi-objective rewards via an arithmetic mean, leaving them vulnerable to constraint neglect:… Zdroj: machinelearning.apple.com

Zranitelnost Mythos donutila Trumpův Bílý dům obnovit předpublikační testování AI

Po demonstraci zranitelnosti modelu Mythos od Anthropic vydala Trumpova administrativa výkonný příkaz k předpublikačnímu bezpečnostnímu testování AI. Součástí iniciativy jsou dobrovolné dohody v rámci projektu CAISI se společnostmi jako Google. Zdroj: startupfortune.com

AI oživuje dilema studené války

Donald Trump a Si Ťin-pching by mohli při svém setkání probrat spolupráci v oblasti umělé inteligence. Obě velmoci zároveň čelí rostoucím obavám z bezpečnostních rizik spojených s AI. Zdroj: economist.com

Common Sense Media launches Youth AI Safety Institute to test AI risks for children

Common Sense Media launched the Youth AI Safety Institute to independently test AI tools, publish consumer guides, and set safety standards that protect... Zdroj: mezha.net

Opal chce novým AI nástrojem Gem snížit náklady na sladění AI s firemní strategií

Platforma Opal představila AI copilota Gem, který propojuje data kampaní s celkovou marketingovou strategií. Cílem je pomoci týmům rychleji pochopit výsledky a snížit tzv. 'alignment tax' spojenou s nasazením AI. Zdroj: marketingdive.com

Demis Hassabis o bezpečnosti AI a budoucnosti vědy

Generální ředitel DeepMind Demis Hassabis se v rozhovoru s Lexem Fridmanem zamýšlí nad bezpečností umělé inteligence, AGI a budoucností vědeckého poznání. Diskuse se dotýká klíčových otázek, které hýbají světem špičkového výzkumu AI. Zdroj: startuphub.ai

Elon Musk Testifies in OpenAI Trial, Raises AI Safety Concerns

Oakland: Elon Musk testified for over seven hours across three days in a trial in Oakland, California, concerning OpenAI's future, framing his lawsuit as a... Zdroj: newsmobile.in