Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Donald Trump a Si Ťin-pching by mohli při svém setkání probrat spolupráci v oblasti umělé inteligence. Obě velmoci zároveň čelí rostoucím obavám z bezpečnostních rizik spojených s AI. economist.com
Po demonstraci zranitelnosti modelu Mythos od Anthropic vydala Trumpova administrativa výkonný příkaz k předpublikačnímu bezpečnostnímu testování AI. Součástí iniciativy jsou dobrovolné dohody v rámci projektu CAISI se společnostmi jako Google. startupfortune.com
Kybernetická rizika spojená s AI modelem Mythos od Anthropic probudila Washington k nutnosti regulace umělé inteligence. Administrativa přehodnotila svůj dřívější odpor vůči dohledu nad AI. fortune.com
Laboratoř zaměřená na ochranu dětí chystá systém nezávislého testování AI nástrojů inspirovaný nárazovými testy automobilů. Crash testy vozidel zavedené v polovině 90. let přiměly výrobce ke změnám, které zachránily tisíce životů – podobný tlak má nyní zamířit na vývojáře AI. msn.com
Filosof Émile P. Torres tvrdí, že Silicon Valley prostupují techno-utopické ideologie, které fungují jako jakési sekulární náboženství. Jak AI 'doomsayers', tak 'akceleracionisté' sdílejí podle něj quasi-náboženské přesvědčení o budoucnosti technologií. religionnews.com
Pátý den soudního sporu Elona Muska proti OpenAI soudce zkrátil svědectví AI experta Stuarta Russella poté, co rozhodl, že otázka existenčního rizika AI není pro případ relevantní. Russellova výpověď byla přitom jednou z nejlépe honorovaných v celém procesu. msn.com
Podobně jako nezávislé crash testy automobilů od poloviny 90. let zachránily tisíce životů, chce nová laboratoř zavést obdobný systém hodnocení bezpečnosti AI nástrojů. Cílem je motivovat vývojáře k odpovědnějšímu přístupu k ochraně dětí online. cnn.com
New research shows that AI and machine learning models can be made to look fair and neutral in their interpretability outputs while continuing to produce... knowledge.wharton.upenn.edu
Common Sense Media launched the Youth AI Safety Institute to independently test AI tools, publish consumer guides, and set safety standards that protect... mezha.net
Until Anthropic's Mythos model triggered alarm bells, the Trump administration labelled efforts to put guardrails around artificial intelligence as “woke. smh.com.au
By Clare Duffy, CNN. New York — Since independent vehicle crash testing began in the mid-1990s, automakers have been incentivized to make safety changes... eastbaytimes.com
Stuart Russell, dlouholetý výzkumník AI a jediný odborný svědek Elona Muska v soudním sporu s OpenAI, varuje před nekontrolovaným vývojem umělé inteligence. Podle něj musí vlády přísněji regulovat přední AI laboratoře, aby nedošlo k nebezpečným závodům o AGI. techcrunch.com
Elon Musk vypovídal na federálním soudním procesu v Oaklandu vedeném proti OpenAI a před porotou prohlásil, že umělá inteligence by nás mohla všechny zahubить. Musk dlouhodobě upozorňuje na existenční rizika spojená s nekontrolovaným vývojem AI. letsdatascience.com
Online monitoring anti-AI obsahu odhaluje rostoucí frustraci veřejnosti z vnímané lhostejnosti firem a vlád k dopadům umělé inteligence na lidský život. Tato nespokojenost se stále častěji projevuje výhrůžkami násilím a organizovaným odporem vůči výstavbě datových center. thesoufancenter.org
Senátor Bernie Sanders se ohradil proti názoru, že zapojení Číny do globálních jednání o AI bezpečnosti představuje hrozbu. Prohlásil, že existenční rizika umělé inteligence jsou natolik závažná, že si vyžadují celosvětovou součinnost bez ohledu na politické rozpory. msn.com
Senátor Bernie Sanders vyzval v pondělí k mezinárodní spolupráci v oblasti bezpečnosti umělé inteligence. Podle něj existenční rizika spojená s AI převažují nad geopolitickou rivalitou a spolupráce s Čínou by neměla být považována za hrozbu. benzinga.com
Jensen Huang se důrazně ohrazuje proti narůstající alarmistické rétorice kolem umělé inteligence. Technologické leadery varuje, aby si dávali pozor na přehnaně apokalyptické předpovědi a tzv. komplex boha. tekedia.com
Elon Musk strávil hodiny ve svědečném křesle, kde tvrdil, že OpenAI se odklonilo od svých neziskových kořenů. Zároveň obhajoval vlastní ambice v oblasti AI a varoval před existenčními riziky spojenými s vývojem technologie. indianexpress.com
Generální ředitel DeepMind Demis Hassabis se v rozhovoru s Lexem Fridmanem zamýšlí nad bezpečností umělé inteligence, AGI a budoucností vědeckého poznání. Diskuse se dotýká klíčových otázek, které hýbají světem špičkového výzkumu AI. startuphub.ai
Nvidia CEO Jensen Huang has publicly criticized existential AI risk warnings from leaders including Anthropic's Dario Amodei, arguing that apocalyptic. startupfortune.com