Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 152 článků
Důležitost:Zprávaexistential risk/OpenAI trial
Musk u soudu: AI by mohla zabít celé lidstvo
Elon Musk vypovídal na federálním soudním procesu v Oaklandu vedeném proti OpenAI a před porotou prohlásil, že umělá inteligence by nás mohla všechny zahubить. Musk dlouhodobě upozorňuje na existenční rizika spojená s nekontrolovaným vývojem AI. Zdroj: letsdatascience.com
Důležitost:Zprávagovernance/existential risk
Sanders odmítá soupeření s Čínou v AI: 'Nejde o konkurenci'
Senátor Bernie Sanders se ohradil proti názoru, že zapojení Číny do globálních jednání o AI bezpečnosti představuje hrozbu. Prohlásil, že existenční rizika umělé inteligence jsou natolik závažná, že si vyžadují celosvětovou součinnost bez ohledu na politické rozpory. Zdroj: msn.com
Důležitost:ZprávaAI backlash/societal risk
Odpor vůči datovým centrům sílí, přibývají i výhrůžky násilím
Online monitoring anti-AI obsahu odhaluje rostoucí frustraci veřejnosti z vnímané lhostejnosti firem a vlád k dopadům umělé inteligence na lidský život. Tato nespokojenost se stále častěji projevuje výhrůžkami násilím a organizovaným odporem vůči výstavbě datových center. Zdroj: thesoufancenter.org
Důležitost:Zprávagovernance/existential risk
Sanders: Riziko zániku lidstva kvůli AI vyžaduje globální spolupráci
Senátor Bernie Sanders vyzval v pondělí k mezinárodní spolupráci v oblasti bezpečnosti umělé inteligence. Podle něj existenční rizika spojená s AI převažují nad geopolitickou rivalitou a spolupráce s Čínou by neměla být považována za hrozbu. Zdroj: benzinga.com
Důležitost:Zprávaexistential risk discourse
Šéf Nvidie Huang varuje technologické lídry před 'komplexem boha'
Jensen Huang se důrazně ohrazuje proti narůstající alarmistické rétorice kolem umělé inteligence. Technologické leadery varuje, aby si dávali pozor na přehnaně apokalyptické předpovědi a tzv. komplex boha. Zdroj: tekedia.com
Důležitost:VideoAI safety leadership perspectives
Demis Hassabis o bezpečnosti AI a budoucnosti vědy
Generální ředitel DeepMind Demis Hassabis se v rozhovoru s Lexem Fridmanem zamýšlí nad bezpečností umělé inteligence, AGI a budoucností vědeckého poznání. Diskuse se dotýká klíčových otázek, které hýbají světem špičkového výzkumu AI. Zdroj: startuphub.ai
Musk u soudu: OpenAI zradilo své charitativní poslání
Elon Musk strávil hodiny ve svědečném křesle, kde tvrdil, že OpenAI se odklonilo od svých neziskových kořenů. Zároveň obhajoval vlastní ambice v oblasti AI a varoval před existenčními riziky spojenými s vývojem technologie. Zdroj: indianexpress.com
Důležitost:ZprávaAI governance/policy
THE TIPPING POINT IS HERE: NINE-IN-TEN U.S. POLICY INSIDERS SAY AI MUST BE REGULATED -- AND GOVERNMENTS ARE FALLING SHORT
New Povaddo survey of 301 U.S. and European public policy experts reveals widespread alarm over AI governance gaps, labor market disruption, and the risk of... Zdroj: prnewswire.com
Důležitost:Zprávaexistential risk debate
Jensen Huang says AI doom warnings reflect a God complex and the business consequences of that argument matter more than the debate itself
Nvidia CEO Jensen Huang has publicly criticized existential AI risk warnings from leaders including Anthropic's Dario Amodei, arguing that apocalyptic. Zdroj: startupfortune.com
Důležitost:Zprávaexistential risk/public reaction
'Close to midnight': Alleged Sam Altman firebomber wrote of fears AI would end humanity
The man accused of attempting to burn down the OpenAI CEO's home appears to have written about his worry that the race for artificial intelligence would... Zdroj: msn.com
Důležitost:ZprávaAI governance/legal
Elon Musk Testifies in OpenAI Trial, Raises AI Safety Concerns
Oakland: Elon Musk testified for over seven hours across three days in a trial in Oakland, California, concerning OpenAI's future, framing his lawsuit as a... Zdroj: newsmobile.in
Důležitost:PolitikaAI regulation/existential risk
Zákonodárci a tvůrci AI se hádají o nové zákony ohledně existenčních rizik
Zákonodárci a vývojáři AI vedou spor o znění nových zákonů regulujících umělou inteligenci. Jádrem konfliktu je otázka odpovědnosti – kdo ponese následky za záměrné či nedbalostní jednání. Analýza přináší pohled zevnitř odvětví. Zdroj: forbes.com
Důležitost:Názorexistential risk
Expertka na bezpečnost AI varuje před existenčními riziky
Odbornice na bezpečnost AI Dr. Eleanor Vance upozorňuje na existenční rizika spojená s rychlým vývojem umělé inteligence. Vyzývá k mezinárodní spolupráci a zavedení důkladné regulace na globální úrovni. Zdroj: startuphub.ai
Důležitost:ZprávaAI governance/military
Pentagon rozšiřuje tajnou spolupráci s velkými technologickými firmami v oblasti AI
Americké ministerstvo obrany uzavřelo dohody se sedmi předními technologickými společnostmi o nasazení pokročilé umělé inteligence v utajovaných vojenských operacích. Jde o výrazné rozšíření využití AI v obranném sektoru USA. Zdroj: nbcrightnow.com
Důležitost:Zprávamechanistic interpretability
Nový nástroj od startupu Goodfire umožňuje ladit LLM jako běžný software
Startup Goodfire představil nástroj pro mechanistickou interpretabilitu, který vývojářům umožňuje nahlédnout dovnitř velkých jazykových modelů. Cílem je přiblížit trénování AI modelů klasickému softwarovému inženýrství. Zdroj: technologyreview.com
Důležitost:ZprávaAI governance/existential risk
Sanders varuje: AI je rozjetý vlak, zastavit ho může jen mezinárodní spolupráce
Americký senátor uspořádal panel s předními čínskými vědci a upozornil na rizika, která nekontrolovaná AI představuje pro celou společnost. Bez mezinárodní regulace podle něj hrozí vážné důsledky. Zdroj: theguardian.com
Důležitost:ZprávaAI governance/existential risk
Sanders vyzývá k americko-čínské spolupráci, aby se předešlo AI apokalypse
Senátor Bernie Sanders uspořádal ve středu večer akci v Kapitolu, kde vyzval USA a Čínu ke spolupráci při regulaci AI. Varoval, že bez ní hrozí nekontrolovaný rozvoj technologií s katastrofálními následky. Zdroj: responsiblestatecraft.org
Musk u soudu s OpenAI varoval: AI nás všechny může zabít
Elon Musk zakončil třetí den svého napjatého svědectví v žalobě, ve které OpenAI obviňuje ze zrady svého neziskového poslání ve prospěch zisku. Varoval přitom, že umělá inteligence představuje existenční hrozbu pro lidstvo. Zdroj: msn.com
Důležitost:NázorAI governance/conflict
AI ve válečných konfliktech: jak přejít od černé skříňky k transparentní správě
Odborníci argumentují, že cílem AI ve správě konfliktů by nemělo být odstranění nejistoty, ale její zpřehlednění a možnost ji zpochybňovat a řídit. Klíčová je odpovědná regulace v době rostoucího geopolitického napětí. Zdroj: unu.edu
Důležitost:Výzkumalignment/existential risk
S růstem moci AI hrozí odklon od lidských zájmů, varuje studie
Nová akademická studie upozorňuje na dlouhodobá rizika spojená s vývojem umělé inteligence. Podle vědců může s rostoucí silou AI systémů docházet k jejich postupnému odklonu od zájmů a hodnot člověka. Zdroj: devdiscourse.com