Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Jedním ze základních účelů zákonů o financování kampaní je zajistit voličům transparentnost ohledně toho, kdo se snaží ovlivnit jejich hlasy. Politické akční výbory (PAC) zaměřené na bezpečnost AI však tuto transparentnost dosud v plné míře nenaplňují. Zdroj: transformernews.ai
Nový přístup využívající vysvětlitelnou AI dosahuje 93% přesnosti při předpovídání Parkinsonovy choroby a zároveň umožňuje lékařům lépe porozumět výsledkům modelu. Kombinace vysoké přesnosti a klinické interpretovatelnosti z něj činí slibný nástroj pro praxi. Zdroj: emjreviews.com
Záhy poté, co humanoidní robot pohání umělou inteligencí překonal světový rekord v půlmaratonu, přišel další milník: AI robot Ace dokázal ve stolním tenisu porazit špičkové lidské hráče. Výzkum potvrzuje, že AI roboti dosahují výkonu překonávajícího lidskou elitu i ve fyzicky náročných sportech. Zdroj: latimes.com
Režisér Daniel Roher, držitel Oscara, zpracoval téma rychlého rozvoje AI osobním pohledem v dokumentu The AI Doc: Or How I Became an Apocaloptimist. Film nabízí zamyšlení nad tím, co znamená žít v době, kdy technologie mění svět nebývalým tempem. Zdroj: letsdatascience.com
Anthropic spouští Fellows Program, strukturovaný výzkumný program určený pro nastupující talenty v oblastech AI výzkumu, inženýrství a bezpečnosti AI. Přihlášky jsou otevřeny do 26. dubna 2026. Zdroj: globalsouthopportunities.com
Kmotr umělé inteligence Geoffrey Hinton v úterý důrazně apeloval na nutnost přísné regulace AI a varoval, že stále není jasné, zda lze technologii udržet pod kontrolou. Vývoj bez regulačního rámce přirovnal k řízení vozidla bez volantu. Zdroj: caledonianrecord.com
Hypertenze představuje jednu z největších zátěží globálního zdravotnictví a klíčový rizikový faktor kardiovaskulárních onemocnění. Spolehlivé krevní biomarkery pro včasnou diagnostiku však dosud chybí – nová studie kombinuje explainable AI a proteomiku, aby tuto mezeru zaplnila. Zdroj: nature.com
Výzkumníci představí průlomovou studii na prestižní konferenci International Conference on Learning Representations v Rio de Janeiru. Zjištění naznačují, že velké jazykové modely si vytvářejí rudimentární model reality, nikoli pouze statistické vzory textu. Zdroj: bioengineer.org
Anthropic omezuje přístup k modelu Claude Mythos s odkazem na závažná bezpečnostní rizika. Toto rozhodnutí by mohlo zásadně ovlivnit způsob, jakým firmy v budoucnu uvádějí AI modely na trh, i celkovou strategii kybernetické bezpečnosti v odvětví. Zdroj: builtin.com
AI chatboti čerpají většinu svých znalostí z obrovského množství internetových textů – včetně faktů, nepravd i odborných poznatků. Nová studie naznačuje, že na základní úrovni si modely skutečně vytvářejí určité porozumění reálnému světu. Zdroj: techxplore.com
Anthropic sestavil exkluzivní konsorcium zaměřené na využití svého univerzálního AI modelu Claude Mythos. Uzavřená povaha tohoto uskupení přitahuje pozornost antimonopolních regulátorů a vyvolává otázky o férovosti trhu. Zdroj: promarket.org
Aella je datová vědkyně, autorka Substacku o sexuálním výzkumu a organizátorka orgií. Nyní se přidala k hnutí za bezpečnost AI a vyzývá tvůrce obsahu, aby se problematikou vážně zabývali. Zdroj: sfstandard.com
Studie vycházející z poznatků 16 nejvlivnějších představitelů odvětví – včetně řídících partnerů a Chief AI Officers – upozorňuje, že AI nahrazuje tradiční model učňovství v právní praxi. Velké advokátní kanceláře podle autorů čelí existenciální krizi v oblasti rozvoje mladých právníků. Zdroj: tynmagazine.com
Průkopník umělé inteligence Geoffrey Hinton v úterý důrazně vyzval k přísné regulaci AI. Podle něj stále není jasné, zda lze technologii bezpečně zvládat bez závazných pravidel. Zdroj: mykxlg.com
Fyzik a nositel Nobelovy ceny David Gross varoval, že lidstvo čelí přibližně 35letému oknu přežití. Hlavní příčinou jsou podle něj stupňující se jaderná rizika a geopolitická nestabilita. Zdroj: msn.com
Odborník na AI Dr. Roman Yampolskiy upozorňuje, že virální videa s havarujícími roboty nejsou jen nevinná zábava. Tyto závady mohou být podle něj prvními varovnými signály apokalyptických rizik spojených s rozvojem autonomních systémů. Zdroj: aol.com
CEO OpenAI Sam Altman ostře zkritizoval konkurenční Anthropic a označil jejich model Mythos za klamavý marketing postavený na vyvolávání strachu. Výpad znovu rozdmýchal napětí uvnitř odvětví AI, kde soupeření o bezpečnostní kredibilitu graduje. Zdroj: bitcoinworld.co.in
Homeland Security Committee Chair Andrew Garbarino wants more visibility into suspicious queries made to AI chatbots. Zdroj: washingtonpost.com
Groundwater, the backbone of irrigation in semi-arid regions, is facing growing pressure from climate change, overextraction, and rising salinity levels,... Zdroj: devdiscourse.com
As AI capabilities accelerate, the global community faces a reckoning over the safety, ethics, and control of autonomous systems, with major economic... Zdroj: streamlinefeed.co.ke