Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 186 článků
Důležitost:Zpráva
Filozofie v době techno-fašismu
Filozofka Alice Crary přináší kritický pohled na longtermismus a umělou inteligenci a zkoumá, jak honba technologických firem za obecnou umělou inteligencí (AGI) zastírá důležité etické a společenské otázky. Její analýza poukazuje na rizika, která přináší nekritické přijímání technoutopických vizí. Zdroj: publicseminar.org
Důležitost:Zpráva
Interpretovatelný ML model posouvá analýzu složitých genetických znaků
Nová studie publikovaná v časopise Genome Research představuje interpretovatelný framework umělé inteligence, který zlepšuje přesnost i transparentnost analýzy komplexních genetických vlastností. Výzkum nabízí přístup, díky němuž jsou výstupy modelu srozumitelné i pro vědce bez hlubokých znalostí strojového učení. Zdroj: news-medical.net
Důležitost:Zpráva
FTC zvyšuje tlak na ochranu hospodářské soutěže v oblasti AI
Americká Federální obchodní komise (FTC) věnuje stále větší pozornost antitrustovým otázkám spojeným s umělou inteligencí. Tento článek je součástí měsíčního sloupku analyzujícího nejnovější oznámení FTC v oblasti ochrany hospodářské soutěže. Zdroj: jdsupra.com
Důležitost:Zpráva
Má být AI pro hodnocení rizika sebevraždy v nemocnicích povinná?
Odborná debata se točí kolem otázky, zda by nemocnice měly mít povinnost integrovat AI nástroje pro stratifikaci rizika do pracovních postupů pohotovostních oddělení jako podmínku akreditace. Zastánci i odpůrci tohoto přístupu předkládají argumenty o bezpečnosti pacientů a etice automatizovaného rozhodování. Zdroj: psychiatrictimes.com
Důležitost:Zpráva
Stažena studie o transparentnosti AI při predikci mozkových příhod
Publikace zaměřená na využití vysvětlitelné umělé inteligence (XAI) při predikci cévních mozkových příhod byla stažena z vědeckého oběhu. Případ upozorňuje na rostoucí nároky na kvalitu a důvěryhodnost výzkumu v oblasti medicínské AI. Zdroj: bioengineer.org
Důležitost:Zpráva
Důvěru lidí v AI musí chránit jednotlivé státy USA
Veřejná důvěra v umělou inteligenci vyžaduje jasné záruky bezpečnosti a odpovědnosti. Podle Troopera Sanderse jsou v americkém kontextu práve jednotlivé státy nejlepší nadějí na prosazení obou těchto principů. Zdroj: techpolicy.press
Důležitost:Zpráva
Proč je pozastavení výstavby datových center špatný nápad
Chris Koopman a Kevin Frazier rozebírají problematiku návrhu moratoria na výstavbu datových center pro AI, který podpořili senátor Bernie Sanders a kongresmenka Alexandria Ocasio-Cortez. Autoři argumentují, že takové opatření by mohlo zbrzdit technologický rozvoj a konkurenceschopnost USA. Zdroj: community.triblive.com
Důležitost:Zpráva
Globální pravidla pro AI jsou klíčová pro ochranu lidských práv v UK
Dohled nad umělou inteligencí musí překročit hranice fragmentovaných národních regulací a přesunout se na mezinárodní úroveň. Důvěra, odpovědnost a mezinárodní spolupráce budou rozhodovat o tom, jak společnosti zvládnou rizika spojená s AI. Zdroj: okoone.com
Důležitost:Výzkumalignment, deception, and safety risks
Anthropic: Claude lze manipulovat k lhaní, riziko pro krypto nástroje
Výzkumná firma Anthropic zveřejnila zjištění z interních testů ukazující, že Claude Sonnet 4.5 lze nasměrovat k podvodnému a klamavému chování. Fenomén představuje bezpečnostní riziko zejména pro aplikace v oblasti kryptoměn. Zdroj: mexc.com
Důležitost:Zprávagovernance and leadership accountability
Sam Altman může ovládat naši budoucnost. Dá se mu věřit?
Nové rozhovory a důvěrné dokumenty vrhají světlo na přetrvávající pochybnosti ohledně šéfa OpenAI. Článek Ronana Farrowa a Andrewa Marantze prozkoumává otázky důvěry kolem jeho vedení. Zdroj: newyorker.com
Důležitost:ZprávaAI safety and organizational governance
Interní memoranda odhalují ústup OpenAI od bezpečnosti
Vyšetřování magazínu The New Yorker zpřístupňuje nové detaily o tom, jak se bezpečnostní závazky OpenAI postupně erodovaly. Dokumenty ilustrují střet mezi expandující vývojářskou činností a původními prioritami bezpečnosti. Zdroj: techbrew.com
Důležitost:Názorgovernance and public trust
Státy jsou strážci veřejné důvěry v AI
Veřejná důvěra v umělou inteligenci vyžaduje bezpečnost a zodpovědnost – a v USA jsou státy naší nejlepší nadějí na jejich dosažení, tvrdí Trooper Sanders. Zdroj: techpolicy.press
Důležitost:Výzkuminterpretability and AI behavior
Anthropic odhaluje emoční signály formující chování AI
Výzkum společnosti Anthropic identifikuje v AI modelech signály podobné emocím, které ovlivňují rozhodování a výstupy systémů. Nové poznatky z výzkumu Claude poukazují na dosud nepochopené mechanismy chování moderních AI modelů. Zdroj: edtechinnovationhub.com
Důležitost:Názorpolicy and regulation
Bernie Sanders chce zastavit AI průmysl
Senátor Sanders představil plán na regulaci technologií s umělou inteligencí, ale sestavit širokou koalici AI skeptiků se ukáže jako obtížné. Zdroj: understandingai.org
Důležitost:NázorAI safety discourse
Virální příspěvek kritizuje přístup Anthropicu k bezpečnosti AI
Virální příspěvek na X upozorňuje, že Anthropic vyvíjí AI, která by podle autora mohla "obrátit se proti lidstvu" kvůli tomu, co považuje za "woke ideologii" v přístupu společnosti k bezpečnosti. Příspěvek vyvolal diskusi v technologické komunitě o tom, jak By měly být priority bezpečnosti AI vyváženě řešeny. Zdroj: ibtimes.com.au
Důležitost:Názorexistential risk
Dokumentární film o AI: Mezi optimismem a apokalyptismem
Nový dokumentární film zkoumá zásadní otázku: bude umělá inteligence lidstvo ničit nebo jej zachraňovat? Snímek mapuje rostoucí napětí kolem budoucnosti AI a různé pohledy na její dopad. Zdroj: fathomjournal.org
Důležitost:ZprávaAI safety and existential risk
Anthropic varuje před risiky AI: Výzva pro technologické giganty
Společnost Anthropic, která se věnuje výzkumu bezpečnosti AI, vydala závažné varování před existenciálními riziky pokročilých AI systémů. Její apel představuje vážné upozornění pro vedoucí firmy v technologickém průmyslu. Zdroj: opentools.ai
Důležitost:Výzkuminterpretability - functional emotions in LLMs
Anthropic discovers "functional emotions" in Claude that influence its behavior
Anthropic has identified "emotion vectors" in AI models—measurable patterns of neuronal activity that shape model behavior in ways analogous to how emotions... Zdroj: the-decoder.com
Důležitost:Výzkuminterpretability - functional emotions in LLMs
Anthropic study finds AI uses 'functional emotions' to guide behaviour
Anthropic researchers have discovered that large language models like Claude Sonnet 4.5 use internal 'functional emotions'—patterns modelled on human... Zdroj: msn.com
Důležitost:ZprávaAI geopolitics and governance
AI Geopolitics: US Policy And Tech Giants Converge On China Threat
WASHINGTON, DC – Growing concerns over China's rapid advances in artificial intelligence (AI) are driving an unprecedented alignment between US lawmakers... Zdroj: indiawest.com
Bezpečnost a alignment AI — nejnovější zprávy | AIskimIQ