Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Startup Goodfire představil nástroj pro mechanistickou interpretabilitu, který vývojářům umožňuje nahlédnout dovnitř velkých jazykových modelů. Cílem je přiblížit trénování AI modelů klasickému softwarovému inženýrství. Zdroj: technologyreview.com
Senátor Bernie Sanders uspořádal ve středu večer akci v Kapitolu, kde vyzval USA a Čínu ke spolupráci při regulaci AI. Varoval, že bez ní hrozí nekontrolovaný rozvoj technologií s katastrofálními následky. Zdroj: responsiblestatecraft.org
Odborníci argumentují, že cílem AI ve správě konfliktů by nemělo být odstranění nejistoty, ale její zpřehlednění a možnost ji zpochybňovat a řídit. Klíčová je odpovědná regulace v době rostoucího geopolitického napětí. Zdroj: unu.edu
Elon Musk zakončil třetí den svého napjatého svědectví v žalobě, ve které OpenAI obviňuje ze zrady svého neziskového poslání ve prospěch zisku. Varoval přitom, že umělá inteligence představuje existenční hrozbu pro lidstvo. Zdroj: msn.com
Nová akademická studie upozorňuje na dlouhodobá rizika spojená s vývojem umělé inteligence. Podle vědců může s rostoucí silou AI systémů docházet k jejich postupnému odklonu od zájmů a hodnot člověka. Zdroj: devdiscourse.com
'Nejmocnější a nejbohatší lidé světa právě staví rozjetý vlak bez brzd,' prohlásil Sanders. Senátor uspořádal fórum, na němž se setkali počítačoví vědci z USA i Číny, aby společně diskutovali o rizicích umělé inteligence. Zdroj: broadbandbreakfast.com
Ministr financí Scott Bessent ostře odsoudil chystané fórum o bezpečnosti AI, které organizuje senátor Bernie Sanders za účasti čínských vědců. Podle Bessenta jde o hazard s americkými zájmy a přirovnal Sandersův přístup k ekonomickým myšlenkám Huga Cháveze. Zdroj: yahoo.com
Generální ředitel Google DeepMind Demis Hassabis se vyjádřil k současným limitům umělé inteligence a nastínil cestu k AGI. Zvláštní důraz přitom položil na budoucí roli AI ve vědeckém výzkumu a objevech. Zdroj: startuphub.ai
Generální ředitel OpenAI Sam Altman hovoří o zrychlujícím se tempu vývoje umělé inteligence a naléhavé potřebě globální regulace a důkladných bezpečnostních opatření. Zdroj: startuphub.ai
Šéf OpenAI Sam Altman rozšiřuje debatu o bezpečnosti AI za hranice existenčních rizik – zaměřuje se na předsudky v algoritmech, vytlačování pracovních míst a nutnost proaktivních opatření. Zdroj: startuphub.ai
Článek zkoumá, jak lze přístup human-in-the-loop (HITL) přenést z teorie do praxe. Představuje framework založený na míře rizika, který pomáhá určit, kdy je zapojení člověka do validace a řízení AI skutečně nezbytné. Zdroj: clinicalleader.com
Senátor Bernie Sanders čelí tvrdé kritice poté, co se ukázalo, že se schází s čínskými představiteli v oblasti správy AI. Odpůrci označují tato setkání za nevhodná a bezpečnostně riziková. Zdroj: wfin.com
Senátor Bernie Sanders vyjádřil znepokojení nad riziky spojenými s rozvojem AI a zdůraznil, že tato technologie musí sloužit lidstvu, nikoli ho ohrožovat. Vyzval k odpovědnému přístupu při regulaci a nasazování umělé inteligence. Zdroj: news.bitcoin.com
Porota má rozhodnout, zda Sam Altman podvedl Elona Muska, když ho přesvědčil k financování OpenAI s příslibem, že organizace bude fungovat jako nezisková ve prospěch lidstva. Oba technologičtí giganti se střetnou u soudu v jednom z nejvyhrocenějších sporů v historii AI. Zdroj: politico.com
Advokátní kancelář Concierra Legal z texaského Frisco představila strategický přístup k architektuře smluv zaměřený na právní rizika, která přináší umělá inteligence. Cílem je pomoci firmám lépe se chránit v rychle se měnícím právním prostředí. Zdroj: markets.businessinsider.com
Investiční ředitelé Bridgewater varují, že umělá inteligence ohrožuje zavedené softwarové společnosti podobně, jako Amazon kdysi otřásl kamenným knihkupectvím. Paralela s osudem Barnes & Noble naznačuje, že ani velcí hráči nejsou v bezpečí. Zdroj: finance.yahoo.com
Na konferenci BLACK HAT ASIA v Singapuru se diskutovalo o dopadu velkých jazykových modelů, jako je Anthropic's Mythos nebo nový OpenAI GPT-5.5, na oblast kybernetické bezpečnosti. Nástup těchto systémů zásadně mění podobu ofenzivních bezpečnostních hrozeb. Zdroj: darkreading.com
Ministr financí Scott Bessent ostře odsoudil senátora Bernieho Sanderse za to, že hostil čínské odborníky na AI na bezpečnostním fóru v Kapitolu. Bessent přirovnal toto setkání k vysoce problematické spolupráci. Zdroj: benzinga.com
Republikáni kritizují senátora Bernieho Sanderse za to, že pozval dva čínské výzkumníky v oblasti umělé inteligence na Capitol Hill. Akce zaměřená na AI vyvolala ostrou politickou reakci. Zdroj: punchbowl.news
Odborníci na bezpečnost umělé inteligence se dlouho pohybují v úzkém kruhu zasvěcenců. Širší společenská základna by však mohla být jedinou cestou, jak prosadit jejich požadavky. Zdroj: transformernews.ai