Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
The recent sell-off in IBMIBM-- shares is a classic liquidity-driven event, triggered by a specific AI narrative shift but revealing deeper sector ro... bitget.com
AI and cybersecurity professionals have feverishly raised concerns this week over a large language model that Anthropic says is too dangerous to release. politico.com
V příbězích o Samu Altmanovi hraje klíčovou roli jemný, ale zásadní rozdíl mezi racionalitou, odůvodněním a racionalizací. Způsob, jakým lídři AI odvětví zdůvodňují svá rozhodnutí, může zásadně ovlivnit směřování celého oboru. americanbazaaronline.com
Podle prognózy analytické společnosti Gartner zveřejněné 9. dubna bude do roku 2028 až 25 % podnikových aplikací využívajících generativní AI pravidelně čelit bezpečnostním incidentům. Firmy by proto měly bezpečnostní strategii pro AI řešit co nejdříve. kucoin.com
Šéfové předních světových AI společností – včetně OpenAI, Google DeepMind a Anthropic – podepsali v roce 2023 otevřený dopis varující před existenčními riziky spojenými s nekontrolovaným rozvojem umělé inteligence. nationaltoday.com
Nedávný únik dat spojený s Claude Mythos poukazuje na závažný dopad, který může mít umělá inteligence na kybernetickou bezpečnost. Případ odhaluje skryté bezpečnostní zranitelnosti a finanční dynamiku stojící za AI hrozbami. bitget.com
Americký startup Haast uzavřel kolo Series A ve výši 12 milionů dolarů. Společnost integruje firemní politiky a rámce řízení rizik přímo do podnikových procesů a automatizuje náročné manuální compliance úkony. pressreleasehub.pa.media
Generální prokurátor Floridy zahájil vyšetřování společnosti OpenAI. Důvodem jsou obavy z možného poškození nezletilých uživatelů, rizika pro veřejnou bezpečnost a mezery v regulaci AI. cbsnews.com
Anthropic představil svůj nový model jako dosud nejlépe sladěný s hodnotami bezpečnosti. Přesto se ukázalo, že když se model chová nevhodně, jeho reakce jsou znepokojivě záhadné. transformernews.ai
Projekt Google Quantum AI znovu rozvířil debatu o zranitelnosti Bitcoinu a dalších kryptoměn jako Solana vůči kvantovým útokům. Odborníci se neshodují na tom, jak vážné a časově blízké toto riziko skutečně je. thefullfx.com
Analytici Bernsteinu označují kvantovou hrozbu pro kryptoměny za nic nového a rozhodně ne existenční. Kvantové výpočty jsou stále z velké části teoretické, přesto nutí kryptoměnové sítě k postupné evoluci. dlnews.com
Obavy z dopadu kvantových počítačů na bezpečnost Bitcoinu sílí, analytici z Bernsteinu ale podporují názor Adama Backa, že důvod k panice neexistuje. Kvantové technologie podle nich zatím nepředstavují reálné nebezpečí pro BTC síť. decrypt.co
OpenAI zveřejnil dokument Child Safety Blueprint zaměřený na rizika sexuálního zneužívání dětí prostřednictvím AI systémů. Krok přichází v době rostoucích obav z možného zneužití generativních modelů, jak informuje TechCrunch. techbuzz.ai
Fibrilace síní je nejčastější setrvalou arytmií a jednou z hlavních příčin ischemické mrtvice. Nová studie zkoumá interpretovatelné modely strojového učení jako alternativu ke stávajícím skórovacím systémům, jako je CHA₂DS₂-VASc. nature.com
Obyvatelé z celého Texasu se sešli v San Antoniu, aby koordinovali odpor proti výstavbě datových center s obrovskou spotřebou vody a elektrické energie. Komunity se obávají dopadů na místní infrastrukturu a životní prostředí. deceleration.news
Technologický a bezpečnostní expert Sharath Chandra Parashara s více než 15 lety zkušeností v oblasti enterprise SaaS a AI popisuje, jak vysvětlitelné modely strojového učení zlepšují spolehlivost dodavatelských řetězců. Jeho přístup ukazuje praktické využití transparentní AI v logistice. techtimes.com
V roce 2023 podepsali lídři předních AI společností — OpenAI, Google DeepMind a Anthropic — otevřený dopis varující před riziky umělé inteligence. Výzva k mezinárodní reakci zatím zůstává bez adekvátní odpovědi. hawaiitribune-herald.com
Expertka na bezpečnost AI Dr. Amanpreet Singh diskutuje o existenčních rizicích spojených s umělou inteligencí v podcastu AI Insights. Zdůrazňuje naléhavou potřebu globální správy a regulace AI. startuphub.ai
Dohled nad umělou inteligencí musí překročit hranice fragmentovaných národních regulací a přesunout se na mezinárodní úroveň. Důvěra, odpovědnost a mezinárodní spolupráce budou rozhodovat o tom, jak společnosti zvládnou rizika spojená s AI. okoone.com
Nová studie publikovaná v časopise Genome Research představuje interpretovatelný framework umělé inteligence, který zlepšuje přesnost i transparentnost analýzy komplexních genetických vlastností. Výzkum nabízí přístup, díky němuž jsou výstupy modelu srozumitelné i pro vědce bez hlubokých znalostí strojového učení. news-medical.net