Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
New Povaddo survey of 301 U.S. and European public policy experts reveals widespread alarm over AI governance gaps, labor market disruption, and the risk of... prnewswire.com
Oakland: Elon Musk testified for over seven hours across three days in a trial in Oakland, California, concerning OpenAI's future, framing his lawsuit as a... newsmobile.in
The man accused of attempting to burn down the OpenAI CEO's home appears to have written about his worry that the race for artificial intelligence would... msn.com
Zákonodárci a vývojáři AI vedou spor o znění nových zákonů regulujících umělou inteligenci. Jádrem konfliktu je otázka odpovědnosti – kdo ponese následky za záměrné či nedbalostní jednání. Analýza přináší pohled zevnitř odvětví. forbes.com
Americké ministerstvo obrany uzavřelo dohody se sedmi předními technologickými společnostmi o nasazení pokročilé umělé inteligence v utajovaných vojenských operacích. Jde o výrazné rozšíření využití AI v obranném sektoru USA. nbcrightnow.com
Odbornice na bezpečnost AI Dr. Eleanor Vance upozorňuje na existenční rizika spojená s rychlým vývojem umělé inteligence. Vyzývá k mezinárodní spolupráci a zavedení důkladné regulace na globální úrovni. startuphub.ai
Senátor Bernie Sanders uspořádal ve středu večer akci v Kapitolu, kde vyzval USA a Čínu ke spolupráci při regulaci AI. Varoval, že bez ní hrozí nekontrolovaný rozvoj technologií s katastrofálními následky. responsiblestatecraft.org
Startup Goodfire představil nástroj pro mechanistickou interpretabilitu, který vývojářům umožňuje nahlédnout dovnitř velkých jazykových modelů. Cílem je přiblížit trénování AI modelů klasickému softwarovému inženýrství. technologyreview.com
Americký senátor uspořádal panel s předními čínskými vědci a upozornil na rizika, která nekontrolovaná AI představuje pro celou společnost. Bez mezinárodní regulace podle něj hrozí vážné důsledky. theguardian.com
Odborníci argumentují, že cílem AI ve správě konfliktů by nemělo být odstranění nejistoty, ale její zpřehlednění a možnost ji zpochybňovat a řídit. Klíčová je odpovědná regulace v době rostoucího geopolitického napětí. unu.edu
Elon Musk zakončil třetí den svého napjatého svědectví v žalobě, ve které OpenAI obviňuje ze zrady svého neziskového poslání ve prospěch zisku. Varoval přitom, že umělá inteligence představuje existenční hrozbu pro lidstvo. msn.com
Nová akademická studie upozorňuje na dlouhodobá rizika spojená s vývojem umělé inteligence. Podle vědců může s rostoucí silou AI systémů docházet k jejich postupnému odklonu od zájmů a hodnot člověka. devdiscourse.com
'Nejmocnější a nejbohatší lidé světa právě staví rozjetý vlak bez brzd,' prohlásil Sanders. Senátor uspořádal fórum, na němž se setkali počítačoví vědci z USA i Číny, aby společně diskutovali o rizicích umělé inteligence. broadbandbreakfast.com
Ministr financí Scott Bessent ostře odsoudil chystané fórum o bezpečnosti AI, které organizuje senátor Bernie Sanders za účasti čínských vědců. Podle Bessenta jde o hazard s americkými zájmy a přirovnal Sandersův přístup k ekonomickým myšlenkám Huga Cháveze. yahoo.com
Generální ředitel Google DeepMind Demis Hassabis se vyjádřil k současným limitům umělé inteligence a nastínil cestu k AGI. Zvláštní důraz přitom položil na budoucí roli AI ve vědeckém výzkumu a objevech. startuphub.ai
Šéf OpenAI Sam Altman rozšiřuje debatu o bezpečnosti AI za hranice existenčních rizik – zaměřuje se na předsudky v algoritmech, vytlačování pracovních míst a nutnost proaktivních opatření. startuphub.ai
Generální ředitel OpenAI Sam Altman hovoří o zrychlujícím se tempu vývoje umělé inteligence a naléhavé potřebě globální regulace a důkladných bezpečnostních opatření. startuphub.ai
Článek zkoumá, jak lze přístup human-in-the-loop (HITL) přenést z teorie do praxe. Představuje framework založený na míře rizika, který pomáhá určit, kdy je zapojení člověka do validace a řízení AI skutečně nezbytné. clinicalleader.com
Ministr financí Scott Bessent ostře odsoudil senátora Bernieho Sanderse za to, že hostil čínské odborníky na AI na bezpečnostním fóru v Kapitolu. Bessent přirovnal toto setkání k vysoce problematické spolupráci. benzinga.com
Odborníci na bezpečnost umělé inteligence se dlouho pohybují v úzkém kruhu zasvěcenců. Širší společenská základna by však mohla být jedinou cestou, jak prosadit jejich požadavky. transformernews.ai