Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
The AI Existential Risk Research Internship offered by the Existential Risk Observatory provides a unique opportunity for early-career researchers to. globalsouthopportunities.com
Globální intelligence platformy využívající AI zásadně přetvářejí způsob, jakým firmy i státy reagují na výpadky v dodavatelských řetězcích. Stávají se klíčovým nástrojem pro strategické rozhodování i národní bezpečnost. klover.ai
Jen krátce poté, co humanoidní robot poháněný AI překonal světový rekord v půlmaratonu, přišla další zpráva o převaze strojů nad lidmi. Studie potvrzuje, že AI robot jménem Ace dokázal porazit špičkové hráče stolního tenisu. aol.com
Systémová karta Anthropic Mythos odhalila, že jejich AI model využívá funkční emocionální stavy k ovlivňování vlastních rozhodnutí. Děje se tak přibližně ve 14 % konverzačních interakcí, aniž by to model uživateli jakkoli sdělil. startupfortune.com
Federální agenti zatkli muže podezřelého z hození Molotovova koktejlu na dům CEO OpenAI Sama Altmana v San Franciscu. Při razii v jeho texaském obydlí byl nalezen manifest namířený proti umělé inteligenci. Případ nyní řeší federální úřady. msn.com
AI asistenti jsou dnes všude – od ChatGPT přes Claude až po Gemini nebo Perplexity AI. Ale dají se vždy považovat za důvěryhodný zdroj informací? Ukazuje se, že ne vždy říkají celou pravdu. ktbs.com
Záhy poté, co humanoidní robot pohání umělou inteligencí překonal světový rekord v půlmaratonu, přišel další milník: AI robot Ace dokázal ve stolním tenisu porazit špičkové lidské hráče. Výzkum potvrzuje, že AI roboti dosahují výkonu překonávajícího lidskou elitu i ve fyzicky náročných sportech. latimes.com
Režisér Daniel Roher, držitel Oscara, zpracoval téma rychlého rozvoje AI osobním pohledem v dokumentu The AI Doc: Or How I Became an Apocaloptimist. Film nabízí zamyšlení nad tím, co znamená žít v době, kdy technologie mění svět nebývalým tempem. letsdatascience.com
Anthropic spouští Fellows Program, strukturovaný výzkumný program určený pro nastupující talenty v oblastech AI výzkumu, inženýrství a bezpečnosti AI. Přihlášky jsou otevřeny do 26. dubna 2026. globalsouthopportunities.com
Společnost LangWatch vydala Scenario, open-source framework pro red-teaming AI agentů, který automatizovaně provádí vícekolové útoky s cílem odhalit rizika v produkčním prostředí. Nástroj má vývojářům pomoci identifikovat slabá místa AI aplikací dříve, než se dostanou k uživatelům. helpnetsecurity.com
Jedním ze základních účelů zákonů o financování kampaní je zajistit voličům transparentnost ohledně toho, kdo se snaží ovlivnit jejich hlasy. Politické akční výbory (PAC) zaměřené na bezpečnost AI však tuto transparentnost dosud v plné míře nenaplňují. transformernews.ai
Nový přístup využívající vysvětlitelnou AI dosahuje 93% přesnosti při předpovídání Parkinsonovy choroby a zároveň umožňuje lékařům lépe porozumět výsledkům modelu. Kombinace vysoké přesnosti a klinické interpretovatelnosti z něj činí slibný nástroj pro praxi. emjreviews.com
Studie vycházející z poznatků 16 nejvlivnějších představitelů odvětví – včetně řídících partnerů a Chief AI Officers – upozorňuje, že AI nahrazuje tradiční model učňovství v právní praxi. Velké advokátní kanceláře podle autorů čelí existenciální krizi v oblasti rozvoje mladých právníků. tynmagazine.com
Kmotr umělé inteligence Geoffrey Hinton v úterý důrazně apeloval na nutnost přísné regulace AI a varoval, že stále není jasné, zda lze technologii udržet pod kontrolou. Vývoj bez regulačního rámce přirovnal k řízení vozidla bez volantu. caledonianrecord.com
Hypertenze představuje jednu z největších zátěží globálního zdravotnictví a klíčový rizikový faktor kardiovaskulárních onemocnění. Spolehlivé krevní biomarkery pro včasnou diagnostiku však dosud chybí – nová studie kombinuje explainable AI a proteomiku, aby tuto mezeru zaplnila. nature.com
Výzkumníci představí průlomovou studii na prestižní konferenci International Conference on Learning Representations v Rio de Janeiru. Zjištění naznačují, že velké jazykové modely si vytvářejí rudimentární model reality, nikoli pouze statistické vzory textu. bioengineer.org
Anthropic omezuje přístup k modelu Claude Mythos s odkazem na závažná bezpečnostní rizika. Toto rozhodnutí by mohlo zásadně ovlivnit způsob, jakým firmy v budoucnu uvádějí AI modely na trh, i celkovou strategii kybernetické bezpečnosti v odvětví. builtin.com
AI chatboti čerpají většinu svých znalostí z obrovského množství internetových textů – včetně faktů, nepravd i odborných poznatků. Nová studie naznačuje, že na základní úrovni si modely skutečně vytvářejí určité porozumění reálnému světu. techxplore.com
Anthropic sestavil exkluzivní konsorcium zaměřené na využití svého univerzálního AI modelu Claude Mythos. Uzavřená povaha tohoto uskupení přitahuje pozornost antimonopolních regulátorů a vyvolává otázky o férovosti trhu. promarket.org
Aella je datová vědkyně, autorka Substacku o sexuálním výzkumu a organizátorka orgií. Nyní se přidala k hnutí za bezpečnost AI a vyzývá tvůrce obsahu, aby se problematikou vážně zabývali. sfstandard.com