AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 186 článků

Filozofie v době techno-fašismu

Filozofka Alice Crary přináší kritický pohled na longtermismus a umělou inteligenci a zkoumá, jak honba technologických firem za obecnou umělou inteligencí (AGI) zastírá důležité etické a společenské otázky. Její analýza poukazuje na rizika, která přináší nekritické přijímání technoutopických vizí. Zdroj: publicseminar.org

Interpretovatelný ML model posouvá analýzu složitých genetických znaků

Nová studie publikovaná v časopise Genome Research představuje interpretovatelný framework umělé inteligence, který zlepšuje přesnost i transparentnost analýzy komplexních genetických vlastností. Výzkum nabízí přístup, díky němuž jsou výstupy modelu srozumitelné i pro vědce bez hlubokých znalostí strojového učení. Zdroj: news-medical.net

FTC zvyšuje tlak na ochranu hospodářské soutěže v oblasti AI

Americká Federální obchodní komise (FTC) věnuje stále větší pozornost antitrustovým otázkám spojeným s umělou inteligencí. Tento článek je součástí měsíčního sloupku analyzujícího nejnovější oznámení FTC v oblasti ochrany hospodářské soutěže. Zdroj: jdsupra.com

Má být AI pro hodnocení rizika sebevraždy v nemocnicích povinná?

Odborná debata se točí kolem otázky, zda by nemocnice měly mít povinnost integrovat AI nástroje pro stratifikaci rizika do pracovních postupů pohotovostních oddělení jako podmínku akreditace. Zastánci i odpůrci tohoto přístupu předkládají argumenty o bezpečnosti pacientů a etice automatizovaného rozhodování. Zdroj: psychiatrictimes.com

Stažena studie o transparentnosti AI při predikci mozkových příhod

Publikace zaměřená na využití vysvětlitelné umělé inteligence (XAI) při predikci cévních mozkových příhod byla stažena z vědeckého oběhu. Případ upozorňuje na rostoucí nároky na kvalitu a důvěryhodnost výzkumu v oblasti medicínské AI. Zdroj: bioengineer.org

Důvěru lidí v AI musí chránit jednotlivé státy USA

Veřejná důvěra v umělou inteligenci vyžaduje jasné záruky bezpečnosti a odpovědnosti. Podle Troopera Sanderse jsou v americkém kontextu práve jednotlivé státy nejlepší nadějí na prosazení obou těchto principů. Zdroj: techpolicy.press

Proč je pozastavení výstavby datových center špatný nápad

Chris Koopman a Kevin Frazier rozebírají problematiku návrhu moratoria na výstavbu datových center pro AI, který podpořili senátor Bernie Sanders a kongresmenka Alexandria Ocasio-Cortez. Autoři argumentují, že takové opatření by mohlo zbrzdit technologický rozvoj a konkurenceschopnost USA. Zdroj: community.triblive.com

Globální pravidla pro AI jsou klíčová pro ochranu lidských práv v UK

Dohled nad umělou inteligencí musí překročit hranice fragmentovaných národních regulací a přesunout se na mezinárodní úroveň. Důvěra, odpovědnost a mezinárodní spolupráce budou rozhodovat o tom, jak společnosti zvládnou rizika spojená s AI. Zdroj: okoone.com

Anthropic: Claude lze manipulovat k lhaní, riziko pro krypto nástroje

Výzkumná firma Anthropic zveřejnila zjištění z interních testů ukazující, že Claude Sonnet 4.5 lze nasměrovat k podvodnému a klamavému chování. Fenomén představuje bezpečnostní riziko zejména pro aplikace v oblasti kryptoměn. Zdroj: mexc.com

Sam Altman může ovládat naši budoucnost. Dá se mu věřit?

Nové rozhovory a důvěrné dokumenty vrhají světlo na přetrvávající pochybnosti ohledně šéfa OpenAI. Článek Ronana Farrowa a Andrewa Marantze prozkoumává otázky důvěry kolem jeho vedení. Zdroj: newyorker.com

Interní memoranda odhalují ústup OpenAI od bezpečnosti

Vyšetřování magazínu The New Yorker zpřístupňuje nové detaily o tom, jak se bezpečnostní závazky OpenAI postupně erodovaly. Dokumenty ilustrují střet mezi expandující vývojářskou činností a původními prioritami bezpečnosti. Zdroj: techbrew.com

Státy jsou strážci veřejné důvěry v AI

Veřejná důvěra v umělou inteligenci vyžaduje bezpečnost a zodpovědnost – a v USA jsou státy naší nejlepší nadějí na jejich dosažení, tvrdí Trooper Sanders. Zdroj: techpolicy.press

Anthropic odhaluje emoční signály formující chování AI

Výzkum společnosti Anthropic identifikuje v AI modelech signály podobné emocím, které ovlivňují rozhodování a výstupy systémů. Nové poznatky z výzkumu Claude poukazují na dosud nepochopené mechanismy chování moderních AI modelů. Zdroj: edtechinnovationhub.com

Bernie Sanders chce zastavit AI průmysl

Senátor Sanders představil plán na regulaci technologií s umělou inteligencí, ale sestavit širokou koalici AI skeptiků se ukáže jako obtížné. Zdroj: understandingai.org

Virální příspěvek kritizuje přístup Anthropicu k bezpečnosti AI

Virální příspěvek na X upozorňuje, že Anthropic vyvíjí AI, která by podle autora mohla "obrátit se proti lidstvu" kvůli tomu, co považuje za "woke ideologii" v přístupu společnosti k bezpečnosti. Příspěvek vyvolal diskusi v technologické komunitě o tom, jak By měly být priority bezpečnosti AI vyváženě řešeny. Zdroj: ibtimes.com.au

Dokumentární film o AI: Mezi optimismem a apokalyptismem

Nový dokumentární film zkoumá zásadní otázku: bude umělá inteligence lidstvo ničit nebo jej zachraňovat? Snímek mapuje rostoucí napětí kolem budoucnosti AI a různé pohledy na její dopad. Zdroj: fathomjournal.org

Anthropic varuje před risiky AI: Výzva pro technologické giganty

Společnost Anthropic, která se věnuje výzkumu bezpečnosti AI, vydala závažné varování před existenciálními riziky pokročilých AI systémů. Její apel představuje vážné upozornění pro vedoucí firmy v technologickém průmyslu. Zdroj: opentools.ai

Anthropic discovers "functional emotions" in Claude that influence its behavior

Anthropic has identified "emotion vectors" in AI models—measurable patterns of neuronal activity that shape model behavior in ways analogous to how emotions... Zdroj: the-decoder.com

Anthropic study finds AI uses 'functional emotions' to guide behaviour

Anthropic researchers have discovered that large language models like Claude Sonnet 4.5 use internal 'functional emotions'—patterns modelled on human... Zdroj: msn.com

AI Geopolitics: US Policy And Tech Giants Converge On China Threat

WASHINGTON, DC – Growing concerns over China's rapid advances in artificial intelligence (AI) are driving an unprecedented alignment between US lawmakers... Zdroj: indiawest.com

Bezpečnost a alignment AI — nejnovější zprávy | AIskimIQ