AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 152 článků

Musk u soudu: AI by mohla zabít celé lidstvo

Elon Musk vypovídal na federálním soudním procesu v Oaklandu vedeném proti OpenAI a před porotou prohlásil, že umělá inteligence by nás mohla všechny zahubить. Musk dlouhodobě upozorňuje na existenční rizika spojená s nekontrolovaným vývojem AI. Zdroj: letsdatascience.com

Sanders odmítá soupeření s Čínou v AI: 'Nejde o konkurenci'

Senátor Bernie Sanders se ohradil proti názoru, že zapojení Číny do globálních jednání o AI bezpečnosti představuje hrozbu. Prohlásil, že existenční rizika umělé inteligence jsou natolik závažná, že si vyžadují celosvětovou součinnost bez ohledu na politické rozpory. Zdroj: msn.com

Odpor vůči datovým centrům sílí, přibývají i výhrůžky násilím

Online monitoring anti-AI obsahu odhaluje rostoucí frustraci veřejnosti z vnímané lhostejnosti firem a vlád k dopadům umělé inteligence na lidský život. Tato nespokojenost se stále častěji projevuje výhrůžkami násilím a organizovaným odporem vůči výstavbě datových center. Zdroj: thesoufancenter.org

Sanders: Riziko zániku lidstva kvůli AI vyžaduje globální spolupráci

Senátor Bernie Sanders vyzval v pondělí k mezinárodní spolupráci v oblasti bezpečnosti umělé inteligence. Podle něj existenční rizika spojená s AI převažují nad geopolitickou rivalitou a spolupráce s Čínou by neměla být považována za hrozbu. Zdroj: benzinga.com

Šéf Nvidie Huang varuje technologické lídry před 'komplexem boha'

Jensen Huang se důrazně ohrazuje proti narůstající alarmistické rétorice kolem umělé inteligence. Technologické leadery varuje, aby si dávali pozor na přehnaně apokalyptické předpovědi a tzv. komplex boha. Zdroj: tekedia.com

Demis Hassabis o bezpečnosti AI a budoucnosti vědy

Generální ředitel DeepMind Demis Hassabis se v rozhovoru s Lexem Fridmanem zamýšlí nad bezpečností umělé inteligence, AGI a budoucností vědeckého poznání. Diskuse se dotýká klíčových otázek, které hýbají světem špičkového výzkumu AI. Zdroj: startuphub.ai

Musk u soudu: OpenAI zradilo své charitativní poslání

Elon Musk strávil hodiny ve svědečném křesle, kde tvrdil, že OpenAI se odklonilo od svých neziskových kořenů. Zároveň obhajoval vlastní ambice v oblasti AI a varoval před existenčními riziky spojenými s vývojem technologie. Zdroj: indianexpress.com

THE TIPPING POINT IS HERE: NINE-IN-TEN U.S. POLICY INSIDERS SAY AI MUST BE REGULATED -- AND GOVERNMENTS ARE FALLING SHORT

New Povaddo survey of 301 U.S. and European public policy experts reveals widespread alarm over AI governance gaps, labor market disruption, and the risk of... Zdroj: prnewswire.com

Jensen Huang says AI doom warnings reflect a God complex and the business consequences of that argument matter more than the debate itself

Nvidia CEO Jensen Huang has publicly criticized existential AI risk warnings from leaders including Anthropic's Dario Amodei, arguing that apocalyptic. Zdroj: startupfortune.com

'Close to midnight': Alleged Sam Altman firebomber wrote of fears AI would end humanity

The man accused of attempting to burn down the OpenAI CEO's home appears to have written about his worry that the race for artificial intelligence would... Zdroj: msn.com

Elon Musk Testifies in OpenAI Trial, Raises AI Safety Concerns

Oakland: Elon Musk testified for over seven hours across three days in a trial in Oakland, California, concerning OpenAI's future, framing his lawsuit as a... Zdroj: newsmobile.in

Zákonodárci a tvůrci AI se hádají o nové zákony ohledně existenčních rizik

Zákonodárci a vývojáři AI vedou spor o znění nových zákonů regulujících umělou inteligenci. Jádrem konfliktu je otázka odpovědnosti – kdo ponese následky za záměrné či nedbalostní jednání. Analýza přináší pohled zevnitř odvětví. Zdroj: forbes.com

Expertka na bezpečnost AI varuje před existenčními riziky

Odbornice na bezpečnost AI Dr. Eleanor Vance upozorňuje na existenční rizika spojená s rychlým vývojem umělé inteligence. Vyzývá k mezinárodní spolupráci a zavedení důkladné regulace na globální úrovni. Zdroj: startuphub.ai

Pentagon rozšiřuje tajnou spolupráci s velkými technologickými firmami v oblasti AI

Americké ministerstvo obrany uzavřelo dohody se sedmi předními technologickými společnostmi o nasazení pokročilé umělé inteligence v utajovaných vojenských operacích. Jde o výrazné rozšíření využití AI v obranném sektoru USA. Zdroj: nbcrightnow.com

Nový nástroj od startupu Goodfire umožňuje ladit LLM jako běžný software

Startup Goodfire představil nástroj pro mechanistickou interpretabilitu, který vývojářům umožňuje nahlédnout dovnitř velkých jazykových modelů. Cílem je přiblížit trénování AI modelů klasickému softwarovému inženýrství. Zdroj: technologyreview.com

Sanders varuje: AI je rozjetý vlak, zastavit ho může jen mezinárodní spolupráce

Americký senátor uspořádal panel s předními čínskými vědci a upozornil na rizika, která nekontrolovaná AI představuje pro celou společnost. Bez mezinárodní regulace podle něj hrozí vážné důsledky. Zdroj: theguardian.com

Sanders vyzývá k americko-čínské spolupráci, aby se předešlo AI apokalypse

Senátor Bernie Sanders uspořádal ve středu večer akci v Kapitolu, kde vyzval USA a Čínu ke spolupráci při regulaci AI. Varoval, že bez ní hrozí nekontrolovaný rozvoj technologií s katastrofálními následky. Zdroj: responsiblestatecraft.org

Musk u soudu s OpenAI varoval: AI nás všechny může zabít

Elon Musk zakončil třetí den svého napjatého svědectví v žalobě, ve které OpenAI obviňuje ze zrady svého neziskového poslání ve prospěch zisku. Varoval přitom, že umělá inteligence představuje existenční hrozbu pro lidstvo. Zdroj: msn.com

AI ve válečných konfliktech: jak přejít od černé skříňky k transparentní správě

Odborníci argumentují, že cílem AI ve správě konfliktů by nemělo být odstranění nejistoty, ale její zpřehlednění a možnost ji zpochybňovat a řídit. Klíčová je odpovědná regulace v době rostoucího geopolitického napětí. Zdroj: unu.edu

S růstem moci AI hrozí odklon od lidských zájmů, varuje studie

Nová akademická studie upozorňuje na dlouhodobá rizika spojená s vývojem umělé inteligence. Podle vědců může s rostoucí silou AI systémů docházet k jejich postupnému odklonu od zájmů a hodnot člověka. Zdroj: devdiscourse.com