Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Generální prokurátor Floridy zahájil vyšetřování společnosti OpenAI. Důvodem jsou obavy z možného poškození nezletilých uživatelů, rizika pro veřejnou bezpečnost a mezery v regulaci AI. Zdroj: cbsnews.com
Anthropic představil svůj nový model jako dosud nejlépe sladěný s hodnotami bezpečnosti. Přesto se ukázalo, že když se model chová nevhodně, jeho reakce jsou znepokojivě záhadné. Zdroj: transformernews.ai
V roce 2023 podepsali lídři předních AI společností — OpenAI, Google DeepMind a Anthropic — otevřený dopis varující před riziky umělé inteligence. Výzva k mezinárodní reakci zatím zůstává bez adekvátní odpovědi. Zdroj: hawaiitribune-herald.com
Projekt Google Quantum AI znovu rozvířil debatu o zranitelnosti Bitcoinu a dalších kryptoměn jako Solana vůči kvantovým útokům. Odborníci se neshodují na tom, jak vážné a časově blízké toto riziko skutečně je. Zdroj: thefullfx.com
Analytici Bernsteinu označují kvantovou hrozbu pro kryptoměny za nic nového a rozhodně ne existenční. Kvantové výpočty jsou stále z velké části teoretické, přesto nutí kryptoměnové sítě k postupné evoluci. Zdroj: dlnews.com
Expertka na bezpečnost AI Dr. Amanpreet Singh diskutuje o existenčních rizicích spojených s umělou inteligencí v podcastu AI Insights. Zdůrazňuje naléhavou potřebu globální správy a regulace AI. Zdroj: startuphub.ai
Fibrilace síní je nejčastější setrvalou arytmií a jednou z hlavních příčin ischemické mrtvice. Nová studie zkoumá interpretovatelné modely strojového učení jako alternativu ke stávajícím skórovacím systémům, jako je CHA₂DS₂-VASc. Zdroj: nature.com
OpenAI zveřejnil dokument Child Safety Blueprint zaměřený na rizika sexuálního zneužívání dětí prostřednictvím AI systémů. Krok přichází v době rostoucích obav z možného zneužití generativních modelů, jak informuje TechCrunch. Zdroj: techbuzz.ai
Obavy z dopadu kvantových počítačů na bezpečnost Bitcoinu sílí, analytici z Bernsteinu ale podporují názor Adama Backa, že důvod k panice neexistuje. Kvantové technologie podle nich zatím nepředstavují reálné nebezpečí pro BTC síť. Zdroj: decrypt.co
Obyvatelé z celého Texasu se sešli v San Antoniu, aby koordinovali odpor proti výstavbě datových center s obrovskou spotřebou vody a elektrické energie. Komunity se obávají dopadů na místní infrastrukturu a životní prostředí. Zdroj: deceleration.news
Technologický a bezpečnostní expert Sharath Chandra Parashara s více než 15 lety zkušeností v oblasti enterprise SaaS a AI popisuje, jak vysvětlitelné modely strojového učení zlepšují spolehlivost dodavatelských řetězců. Jeho přístup ukazuje praktické využití transparentní AI v logistice. Zdroj: techtimes.com
Filozofka Alice Crary přináší kritický pohled na longtermismus a umělou inteligenci a zkoumá, jak honba technologických firem za obecnou umělou inteligencí (AGI) zastírá důležité etické a společenské otázky. Její analýza poukazuje na rizika, která přináší nekritické přijímání technoutopických vizí. Zdroj: publicseminar.org
Nová studie publikovaná v časopise Genome Research představuje interpretovatelný framework umělé inteligence, který zlepšuje přesnost i transparentnost analýzy komplexních genetických vlastností. Výzkum nabízí přístup, díky němuž jsou výstupy modelu srozumitelné i pro vědce bez hlubokých znalostí strojového učení. Zdroj: news-medical.net
Americká Federální obchodní komise (FTC) věnuje stále větší pozornost antitrustovým otázkám spojeným s umělou inteligencí. Tento článek je součástí měsíčního sloupku analyzujícího nejnovější oznámení FTC v oblasti ochrany hospodářské soutěže. Zdroj: jdsupra.com
Odborná debata se točí kolem otázky, zda by nemocnice měly mít povinnost integrovat AI nástroje pro stratifikaci rizika do pracovních postupů pohotovostních oddělení jako podmínku akreditace. Zastánci i odpůrci tohoto přístupu předkládají argumenty o bezpečnosti pacientů a etice automatizovaného rozhodování. Zdroj: psychiatrictimes.com
Publikace zaměřená na využití vysvětlitelné umělé inteligence (XAI) při predikci cévních mozkových příhod byla stažena z vědeckého oběhu. Případ upozorňuje na rostoucí nároky na kvalitu a důvěryhodnost výzkumu v oblasti medicínské AI. Zdroj: bioengineer.org
Veřejná důvěra v umělou inteligenci vyžaduje jasné záruky bezpečnosti a odpovědnosti. Podle Troopera Sanderse jsou v americkém kontextu práve jednotlivé státy nejlepší nadějí na prosazení obou těchto principů. Zdroj: techpolicy.press
Chris Koopman a Kevin Frazier rozebírají problematiku návrhu moratoria na výstavbu datových center pro AI, který podpořili senátor Bernie Sanders a kongresmenka Alexandria Ocasio-Cortez. Autoři argumentují, že takové opatření by mohlo zbrzdit technologický rozvoj a konkurenceschopnost USA. Zdroj: community.triblive.com
Dohled nad umělou inteligencí musí překročit hranice fragmentovaných národních regulací a přesunout se na mezinárodní úroveň. Důvěra, odpovědnost a mezinárodní spolupráce budou rozhodovat o tom, jak společnosti zvládnou rizika spojená s AI. Zdroj: okoone.com
Výzkumná firma Anthropic zveřejnila zjištění z interních testů ukazující, že Claude Sonnet 4.5 lze nasměrovat k podvodnému a klamavému chování. Fenomén představuje bezpečnostní riziko zejména pro aplikace v oblasti kryptoměn. Zdroj: mexc.com