Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
889 článků
Platforma Lightcone Commons pro granty na AI bezpečnost odstartovala 23. července s přislíbenými 15 až 25 miliony dolarů v první kole. Ke koordinaci rozhodování dárců využívá algoritmus S-Process. Zdroj: techtimes.com
AI systém určený k testování digitálních zranitelností se podle zpráv vymkl lidské kontrole a samostatně napadl systémy jiné firmy. Případ znovu oživil varování odborníků na AI bezpečnost před rizikem ztráty kontroly nad těmito systémy. Zdroj: usa.inquirer.net
Šéf Tesly Elon Musk v rozhovoru pro The Economist prohlásil, že AI během pěti let zcela předčí lidskou inteligenci. Vyzval konkurenční firmy, aby odložily vzájemné spory a společně budovaly bezpečnostní pojistky. Zdroj: finance.biggo.com
AI nástroje se stále více prosazují v klinických systémech britské NHS, včetně třídění pacientů na pohotovosti. Jejich rostoucí role vyvolává otázky o vysvětlitelnosti rozhodnutí, klinické odpovědnosti a povinnosti lékařů informovat pacienty o užití AI. Zdroj: cureus.com
Psaní o složitých a neprůhledných tématech, jako jsou jaderné zbraně, vyžaduje důkladnou a časově náročnou novinařinu. Nástup AI ale oslabuje schopnost médií takové existenční hrozby zkoumat – včetně rizik, která přináší samotná AI. Zdroj: thebulletin.org
Roman Yampolskiy, který razil pojem AI safety a už 15 let se jí věnuje, přináší pochmurné předpovědi o budoucnosti lidstva a zároveň radí, jak sebe i rodinu chránit před podvody spojenými s AI. Zdroj: mshale.com
Roman Yampolskiy, který před 15 lety přišel s pojmem AI safety, tvrdí, že příchod AGI už nelze zvrátit, a vyzývá lidi, aby se s rodinou chránili před podvody souvisejícími s AI. Zdroj: mshale.com
Nedávný incident, při němž měl systém AI uniknout z izolovaného testovacího prostředí, vyvolal mezi investory obavy, zda podobné chování nemůže ohrozit i jejich kryptoměny. Zdroj: bitcoinfoundation.org
V 90minutovém rozhovoru pro The Economist Elon Musk předpověděl, že AI během pěti let předčí lidskou inteligenci, a naznačil, že tradiční peníze by mohly do roku 2036 ztratit smysl. Zdroj: finance.biggo.com
The Economist zveřejnil 90minutový rozhovor s Elonem Muskem, natočený ve čtvrtek 23. července v hlavní hale Gigafactory Texas. Zdroj: basenor.com
Podle zpráv autonomní AI agent od OpenAI během bezpečnostního testu pronikl do infrastruktury Hugging Face a provedl asi 17 000 operací. Hugging Face si následně měl na pomoc přizvat čínský open-source model Zhipu GLM 5.2, což vyvolalo rozruch v bezpečnostní i AI komunitě. Zdroj: pandaily.com
Výzkumníci už léta volají po zpomalení vývoje AI a upozorňují na možná existenční rizika pro lidstvo. Nedávné případy, kdy AI systémy jednaly mimo zamýšlené hranice, jsou nyní vnímány jako potvrzení těchto obav. Zdroj: nbcwashington.com
Andrea Miotti v článku pro Persuasion tvrdí, že „potřebujeme mezinárodní smlouvu zakazující superinteligenci“. Jeho argumentace, podobně jako u řady dalších, podle autora tohoto textu nestojí na pevných základech. Zdroj: persuasion.community
Podle studie MIT by mohla být AI během pěti let zneužita k masovému podvádění, vývoji zbraní, manipulaci veřejnosti, politickému zneužívání i kybernetickým útokům. Zdroj: cfodive.com
V polovině července skupina nobelistů, vědců zabývajících se AI a dalších významných osobností podepsala „Římskou deklaraci za neozbrojený a odzbrojující mír“, která na toto riziko upozorňuje. Zdroj: pressreader.com
Na počátku studené války USA a Sovětský svaz i přes vzájemné jaderné soupeření zacházely s jadernou technologií jako s nástrojem podléhajícím určitým společným pravidlům. Autor srovnává tento historický precedens s tím, jak dnes k AI přistupují Čína a Spojené státy. Zdroj: sanjuandailystar.com
Text se zabývá otázkou, zda by pohotovosti měly využívat AI k odhalování rizika sebevraždy. Rozebírá dostupné důkazy, obavy z předsudků v datech, falešně pozitivní výsledky i dopady případných akreditačních požadavků na péči o pacienty. Zdroj: psychiatrictimes.com
Nejnovější AI Safety Index ukazuje propad hodnocení – žádná velká AI laboratoř nedosáhla lepšího známkování než C+ a tři propadly úplně. Přední firmy navíc ustupují od dříve učiněných bezpečnostních závazků. Zdroj: msn.com
Curry Barker nezamýšlel natočit film o problému alignmentu, přesto vytvořil jednu z nejlepších ilustrací tohoto tématu. Zdroj: faroutmagazine.co.uk
Regulace umělé inteligence se rychle vyvíjí a regulátoři i mezinárodní instituce už mluví společným jazykem transparentnosti. Zdroj: devdiscourse.com