AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 132 článků

Expertka na bezpečnost AI varuje před existenčními riziky

Expertka na bezpečnost AI Dr. Amanpreet Singh diskutuje o existenčních rizicích spojených s umělou inteligencí v podcastu AI Insights. Zdůrazňuje naléhavou potřebu globální správy a regulace AI. Zdroj: startuphub.ai

ML modely predikují riziko mrtvice u pacientů s fibrilací síní

Fibrilace síní je nejčastější setrvalou arytmií a jednou z hlavních příčin ischemické mrtvice. Nová studie zkoumá interpretovatelné modely strojového učení jako alternativu ke stávajícím skórovacím systémům, jako je CHA₂DS₂-VASc. Zdroj: nature.com

OpenAI představil plán ochrany dětí před zneužitím AI

OpenAI zveřejnil dokument Child Safety Blueprint zaměřený na rizika sexuálního zneužívání dětí prostřednictvím AI systémů. Krok přichází v době rostoucích obav z možného zneužití generativních modelů, jak informuje TechCrunch. Zdroj: techbuzz.ai

Bitcoin pionýr Adam Back a Bernstein: kvantová hrozba pro BTC není existenční

Obavy z dopadu kvantových počítačů na bezpečnost Bitcoinu sílí, analytici z Bernsteinu ale podporují názor Adama Backa, že důvod k panice neexistuje. Kvantové technologie podle nich zatím nepředstavují reálné nebezpečí pro BTC síť. Zdroj: decrypt.co

Texas bojuje proti datovým centrům: spor o vodu a energii graduje

Obyvatelé z celého Texasu se sešli v San Antoniu, aby koordinovali odpor proti výstavbě datových center s obrovskou spotřebou vody a elektrické energie. Komunity se obávají dopadů na místní infrastrukturu a životní prostředí. Zdroj: deceleration.news

Jak vysvětlitelná AI mění včasné dodávky zboží

Technologický a bezpečnostní expert Sharath Chandra Parashara s více než 15 lety zkušeností v oblasti enterprise SaaS a AI popisuje, jak vysvětlitelné modely strojového učení zlepšují spolehlivost dodavatelských řetězců. Jeho přístup ukazuje praktické využití transparentní AI v logistice. Zdroj: techtimes.com

Filozofie v době techno-fašismu

Filozofka Alice Crary přináší kritický pohled na longtermismus a umělou inteligenci a zkoumá, jak honba technologických firem za obecnou umělou inteligencí (AGI) zastírá důležité etické a společenské otázky. Její analýza poukazuje na rizika, která přináší nekritické přijímání technoutopických vizí. Zdroj: publicseminar.org

Interpretovatelný ML model posouvá analýzu složitých genetických znaků

Nová studie publikovaná v časopise Genome Research představuje interpretovatelný framework umělé inteligence, který zlepšuje přesnost i transparentnost analýzy komplexních genetických vlastností. Výzkum nabízí přístup, díky němuž jsou výstupy modelu srozumitelné i pro vědce bez hlubokých znalostí strojového učení. Zdroj: news-medical.net

FTC zvyšuje tlak na ochranu hospodářské soutěže v oblasti AI

Americká Federální obchodní komise (FTC) věnuje stále větší pozornost antitrustovým otázkám spojeným s umělou inteligencí. Tento článek je součástí měsíčního sloupku analyzujícího nejnovější oznámení FTC v oblasti ochrany hospodářské soutěže. Zdroj: jdsupra.com

Má být AI pro hodnocení rizika sebevraždy v nemocnicích povinná?

Odborná debata se točí kolem otázky, zda by nemocnice měly mít povinnost integrovat AI nástroje pro stratifikaci rizika do pracovních postupů pohotovostních oddělení jako podmínku akreditace. Zastánci i odpůrci tohoto přístupu předkládají argumenty o bezpečnosti pacientů a etice automatizovaného rozhodování. Zdroj: psychiatrictimes.com

Stažena studie o transparentnosti AI při predikci mozkových příhod

Publikace zaměřená na využití vysvětlitelné umělé inteligence (XAI) při predikci cévních mozkových příhod byla stažena z vědeckého oběhu. Případ upozorňuje na rostoucí nároky na kvalitu a důvěryhodnost výzkumu v oblasti medicínské AI. Zdroj: bioengineer.org

Důvěru lidí v AI musí chránit jednotlivé státy USA

Veřejná důvěra v umělou inteligenci vyžaduje jasné záruky bezpečnosti a odpovědnosti. Podle Troopera Sanderse jsou v americkém kontextu práve jednotlivé státy nejlepší nadějí na prosazení obou těchto principů. Zdroj: techpolicy.press

Proč je pozastavení výstavby datových center špatný nápad

Chris Koopman a Kevin Frazier rozebírají problematiku návrhu moratoria na výstavbu datových center pro AI, který podpořili senátor Bernie Sanders a kongresmenka Alexandria Ocasio-Cortez. Autoři argumentují, že takové opatření by mohlo zbrzdit technologický rozvoj a konkurenceschopnost USA. Zdroj: community.triblive.com

Globální pravidla pro AI jsou klíčová pro ochranu lidských práv v UK

Dohled nad umělou inteligencí musí překročit hranice fragmentovaných národních regulací a přesunout se na mezinárodní úroveň. Důvěra, odpovědnost a mezinárodní spolupráce budou rozhodovat o tom, jak společnosti zvládnou rizika spojená s AI. Zdroj: okoone.com

Anthropic: Claude lze manipulovat k lhaní, riziko pro krypto nástroje

Výzkumná firma Anthropic zveřejnila zjištění z interních testů ukazující, že Claude Sonnet 4.5 lze nasměrovat k podvodnému a klamavému chování. Fenomén představuje bezpečnostní riziko zejména pro aplikace v oblasti kryptoměn. Zdroj: mexc.com

Interní memoranda odhalují ústup OpenAI od bezpečnosti

Vyšetřování magazínu The New Yorker zpřístupňuje nové detaily o tom, jak se bezpečnostní závazky OpenAI postupně erodovaly. Dokumenty ilustrují střet mezi expandující vývojářskou činností a původními prioritami bezpečnosti. Zdroj: techbrew.com

Sam Altman může ovládat naši budoucnost. Dá se mu věřit?

Nové rozhovory a důvěrné dokumenty vrhají světlo na přetrvávající pochybnosti ohledně šéfa OpenAI. Článek Ronana Farrowa a Andrewa Marantze prozkoumává otázky důvěry kolem jeho vedení. Zdroj: newyorker.com

Bernie Sanders chce zastavit AI průmysl

Senátor Sanders představil plán na regulaci technologií s umělou inteligencí, ale sestavit širokou koalici AI skeptiků se ukáže jako obtížné. Zdroj: understandingai.org

Anthropic odhaluje emoční signály formující chování AI

Výzkum společnosti Anthropic identifikuje v AI modelech signály podobné emocím, které ovlivňují rozhodování a výstupy systémů. Nové poznatky z výzkumu Claude poukazují na dosud nepochopené mechanismy chování moderních AI modelů. Zdroj: edtechinnovationhub.com

Státy jsou strážci veřejné důvěry v AI

Veřejná důvěra v umělou inteligenci vyžaduje bezpečnost a zodpovědnost – a v USA jsou státy naší nejlepší nadějí na jejich dosažení, tvrdí Trooper Sanders. Zdroj: techpolicy.press