Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Americká Federální obchodní komise (FTC) věnuje stále větší pozornost antitrustovým otázkám spojeným s umělou inteligencí. Tento článek je součástí měsíčního sloupku analyzujícího nejnovější oznámení FTC v oblasti ochrany hospodářské soutěže. jdsupra.com
Chris Koopman a Kevin Frazier rozebírají problematiku návrhu moratoria na výstavbu datových center pro AI, který podpořili senátor Bernie Sanders a kongresmenka Alexandria Ocasio-Cortez. Autoři argumentují, že takové opatření by mohlo zbrzdit technologický rozvoj a konkurenceschopnost USA. community.triblive.com
Veřejná důvěra v umělou inteligenci vyžaduje jasné záruky bezpečnosti a odpovědnosti. Podle Troopera Sanderse jsou v americkém kontextu práve jednotlivé státy nejlepší nadějí na prosazení obou těchto principů. techpolicy.press
Odborná debata se točí kolem otázky, zda by nemocnice měly mít povinnost integrovat AI nástroje pro stratifikaci rizika do pracovních postupů pohotovostních oddělení jako podmínku akreditace. Zastánci i odpůrci tohoto přístupu předkládají argumenty o bezpečnosti pacientů a etice automatizovaného rozhodování. psychiatrictimes.com
Publikace zaměřená na využití vysvětlitelné umělé inteligence (XAI) při predikci cévních mozkových příhod byla stažena z vědeckého oběhu. Případ upozorňuje na rostoucí nároky na kvalitu a důvěryhodnost výzkumu v oblasti medicínské AI. bioengineer.org
Filozofka Alice Crary přináší kritický pohled na longtermismus a umělou inteligenci a zkoumá, jak honba technologických firem za obecnou umělou inteligencí (AGI) zastírá důležité etické a společenské otázky. Její analýza poukazuje na rizika, která přináší nekritické přijímání technoutopických vizí. publicseminar.org
Nové rozhovory a důvěrné dokumenty vrhají světlo na přetrvávající pochybnosti ohledně šéfa OpenAI. Článek Ronana Farrowa a Andrewa Marantze prozkoumává otázky důvěry kolem jeho vedení. newyorker.com
Výzkumná firma Anthropic zveřejnila zjištění z interních testů ukazující, že Claude Sonnet 4.5 lze nasměrovat k podvodnému a klamavému chování. Fenomén představuje bezpečnostní riziko zejména pro aplikace v oblasti kryptoměn. mexc.com
Vyšetřování magazínu The New Yorker zpřístupňuje nové detaily o tom, jak se bezpečnostní závazky OpenAI postupně erodovaly. Dokumenty ilustrují střet mezi expandující vývojářskou činností a původními prioritami bezpečnosti. techbrew.com
Veřejná důvěra v umělou inteligenci vyžaduje bezpečnost a zodpovědnost – a v USA jsou státy naší nejlepší nadějí na jejich dosažení, tvrdí Trooper Sanders. techpolicy.press
Senátor Sanders představil plán na regulaci technologií s umělou inteligencí, ale sestavit širokou koalici AI skeptiků se ukáže jako obtížné. understandingai.org
Výzkum společnosti Anthropic identifikuje v AI modelech signály podobné emocím, které ovlivňují rozhodování a výstupy systémů. Nové poznatky z výzkumu Claude poukazují na dosud nepochopené mechanismy chování moderních AI modelů. edtechinnovationhub.com
Virální příspěvek na X upozorňuje, že Anthropic vyvíjí AI, která by podle autora mohla "obrátit se proti lidstvu" kvůli tomu, co považuje za "woke ideologii" v přístupu společnosti k bezpečnosti. Příspěvek vyvolal diskusi v technologické komunitě o tom, jak By měly být priority bezpečnosti AI vyváženě řešeny. ibtimes.com.au
Nový dokumentární film zkoumá zásadní otázku: bude umělá inteligence lidstvo ničit nebo jej zachraňovat? Snímek mapuje rostoucí napětí kolem budoucnosti AI a různé pohledy na její dopad. fathomjournal.org
Společnost Anthropic, která se věnuje výzkumu bezpečnosti AI, vydala závažné varování před existenciálními riziky pokročilých AI systémů. Její apel představuje vážné upozornění pro vedoucí firmy v technologickém průmyslu. opentools.ai
Anthropic has identified "emotion vectors" in AI models—measurable patterns of neuronal activity that shape model behavior in ways analogous to how emotions... the-decoder.com
Anthropic researchers have discovered that large language models like Claude Sonnet 4.5 use internal 'functional emotions'—patterns modelled on human... msn.com
WASHINGTON, DC – Growing concerns over China's rapid advances in artificial intelligence (AI) are driving an unprecedented alignment between US lawmakers... indiawest.com
Startup Anthropic založil AnthroPAC s cílem podporovat kandidáty sdílející jeho vizi AI regulace před mezivolbami. techbuzz.ai
Deadline: 12. dubna 2026. Cambridge Boston Alignment Initiative přijímá přihlášky na letní stipendijní program zaměřený na bezpečnost AI. opportunitydesk.org