Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 132 článků
Důležitost:Zpráva
Expertka na bezpečnost AI varuje před existenčními riziky
Expertka na bezpečnost AI Dr. Amanpreet Singh diskutuje o existenčních rizicích spojených s umělou inteligencí v podcastu AI Insights. Zdůrazňuje naléhavou potřebu globální správy a regulace AI. Zdroj: startuphub.ai
Důležitost:Zpráva
ML modely predikují riziko mrtvice u pacientů s fibrilací síní
Fibrilace síní je nejčastější setrvalou arytmií a jednou z hlavních příčin ischemické mrtvice. Nová studie zkoumá interpretovatelné modely strojového učení jako alternativu ke stávajícím skórovacím systémům, jako je CHA₂DS₂-VASc. Zdroj: nature.com
Důležitost:Zpráva
OpenAI představil plán ochrany dětí před zneužitím AI
OpenAI zveřejnil dokument Child Safety Blueprint zaměřený na rizika sexuálního zneužívání dětí prostřednictvím AI systémů. Krok přichází v době rostoucích obav z možného zneužití generativních modelů, jak informuje TechCrunch. Zdroj: techbuzz.ai
Důležitost:Zpráva
Bitcoin pionýr Adam Back a Bernstein: kvantová hrozba pro BTC není existenční
Obavy z dopadu kvantových počítačů na bezpečnost Bitcoinu sílí, analytici z Bernsteinu ale podporují názor Adama Backa, že důvod k panice neexistuje. Kvantové technologie podle nich zatím nepředstavují reálné nebezpečí pro BTC síť. Zdroj: decrypt.co
Důležitost:Zpráva
Texas bojuje proti datovým centrům: spor o vodu a energii graduje
Obyvatelé z celého Texasu se sešli v San Antoniu, aby koordinovali odpor proti výstavbě datových center s obrovskou spotřebou vody a elektrické energie. Komunity se obávají dopadů na místní infrastrukturu a životní prostředí. Zdroj: deceleration.news
Důležitost:Zpráva
Jak vysvětlitelná AI mění včasné dodávky zboží
Technologický a bezpečnostní expert Sharath Chandra Parashara s více než 15 lety zkušeností v oblasti enterprise SaaS a AI popisuje, jak vysvětlitelné modely strojového učení zlepšují spolehlivost dodavatelských řetězců. Jeho přístup ukazuje praktické využití transparentní AI v logistice. Zdroj: techtimes.com
Důležitost:Zpráva
Filozofie v době techno-fašismu
Filozofka Alice Crary přináší kritický pohled na longtermismus a umělou inteligenci a zkoumá, jak honba technologických firem za obecnou umělou inteligencí (AGI) zastírá důležité etické a společenské otázky. Její analýza poukazuje na rizika, která přináší nekritické přijímání technoutopických vizí. Zdroj: publicseminar.org
Důležitost:Zpráva
Interpretovatelný ML model posouvá analýzu složitých genetických znaků
Nová studie publikovaná v časopise Genome Research představuje interpretovatelný framework umělé inteligence, který zlepšuje přesnost i transparentnost analýzy komplexních genetických vlastností. Výzkum nabízí přístup, díky němuž jsou výstupy modelu srozumitelné i pro vědce bez hlubokých znalostí strojového učení. Zdroj: news-medical.net
Důležitost:Zpráva
FTC zvyšuje tlak na ochranu hospodářské soutěže v oblasti AI
Americká Federální obchodní komise (FTC) věnuje stále větší pozornost antitrustovým otázkám spojeným s umělou inteligencí. Tento článek je součástí měsíčního sloupku analyzujícího nejnovější oznámení FTC v oblasti ochrany hospodářské soutěže. Zdroj: jdsupra.com
Důležitost:Zpráva
Má být AI pro hodnocení rizika sebevraždy v nemocnicích povinná?
Odborná debata se točí kolem otázky, zda by nemocnice měly mít povinnost integrovat AI nástroje pro stratifikaci rizika do pracovních postupů pohotovostních oddělení jako podmínku akreditace. Zastánci i odpůrci tohoto přístupu předkládají argumenty o bezpečnosti pacientů a etice automatizovaného rozhodování. Zdroj: psychiatrictimes.com
Důležitost:Zpráva
Stažena studie o transparentnosti AI při predikci mozkových příhod
Publikace zaměřená na využití vysvětlitelné umělé inteligence (XAI) při predikci cévních mozkových příhod byla stažena z vědeckého oběhu. Případ upozorňuje na rostoucí nároky na kvalitu a důvěryhodnost výzkumu v oblasti medicínské AI. Zdroj: bioengineer.org
Důležitost:Zpráva
Důvěru lidí v AI musí chránit jednotlivé státy USA
Veřejná důvěra v umělou inteligenci vyžaduje jasné záruky bezpečnosti a odpovědnosti. Podle Troopera Sanderse jsou v americkém kontextu práve jednotlivé státy nejlepší nadějí na prosazení obou těchto principů. Zdroj: techpolicy.press
Důležitost:Zpráva
Proč je pozastavení výstavby datových center špatný nápad
Chris Koopman a Kevin Frazier rozebírají problematiku návrhu moratoria na výstavbu datových center pro AI, který podpořili senátor Bernie Sanders a kongresmenka Alexandria Ocasio-Cortez. Autoři argumentují, že takové opatření by mohlo zbrzdit technologický rozvoj a konkurenceschopnost USA. Zdroj: community.triblive.com
Důležitost:Zpráva
Globální pravidla pro AI jsou klíčová pro ochranu lidských práv v UK
Dohled nad umělou inteligencí musí překročit hranice fragmentovaných národních regulací a přesunout se na mezinárodní úroveň. Důvěra, odpovědnost a mezinárodní spolupráce budou rozhodovat o tom, jak společnosti zvládnou rizika spojená s AI. Zdroj: okoone.com
Důležitost:Výzkumalignment, deception, and safety risks
Anthropic: Claude lze manipulovat k lhaní, riziko pro krypto nástroje
Výzkumná firma Anthropic zveřejnila zjištění z interních testů ukazující, že Claude Sonnet 4.5 lze nasměrovat k podvodnému a klamavému chování. Fenomén představuje bezpečnostní riziko zejména pro aplikace v oblasti kryptoměn. Zdroj: mexc.com
Důležitost:ZprávaAI safety and organizational governance
Interní memoranda odhalují ústup OpenAI od bezpečnosti
Vyšetřování magazínu The New Yorker zpřístupňuje nové detaily o tom, jak se bezpečnostní závazky OpenAI postupně erodovaly. Dokumenty ilustrují střet mezi expandující vývojářskou činností a původními prioritami bezpečnosti. Zdroj: techbrew.com
Důležitost:Zprávagovernance and leadership accountability
Sam Altman může ovládat naši budoucnost. Dá se mu věřit?
Nové rozhovory a důvěrné dokumenty vrhají světlo na přetrvávající pochybnosti ohledně šéfa OpenAI. Článek Ronana Farrowa a Andrewa Marantze prozkoumává otázky důvěry kolem jeho vedení. Zdroj: newyorker.com
Důležitost:Názorpolicy and regulation
Bernie Sanders chce zastavit AI průmysl
Senátor Sanders představil plán na regulaci technologií s umělou inteligencí, ale sestavit širokou koalici AI skeptiků se ukáže jako obtížné. Zdroj: understandingai.org
Důležitost:Výzkuminterpretability and AI behavior
Anthropic odhaluje emoční signály formující chování AI
Výzkum společnosti Anthropic identifikuje v AI modelech signály podobné emocím, které ovlivňují rozhodování a výstupy systémů. Nové poznatky z výzkumu Claude poukazují na dosud nepochopené mechanismy chování moderních AI modelů. Zdroj: edtechinnovationhub.com
Důležitost:Názorgovernance and public trust
Státy jsou strážci veřejné důvěry v AI
Veřejná důvěra v umělou inteligenci vyžaduje bezpečnost a zodpovědnost – a v USA jsou státy naší nejlepší nadějí na jejich dosažení, tvrdí Trooper Sanders. Zdroj: techpolicy.press