AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 166 článků

AI ve zdravotnictví: otázky kolem transparentnosti a povinnosti informovat pacienty

AI nástroje se stále více prosazují v klinických systémech britské NHS, včetně třídění pacientů na pohotovosti. Jejich rostoucí role vyvolává otázky o vysvětlitelnosti rozhodnutí, klinické odpovědnosti a povinnosti lékařů informovat pacienty o užití AI. Zdroj: cureus.com

Jak AI ohrožuje schopnost novinářů psát o existenčních rizicích

Psaní o složitých a neprůhledných tématech, jako jsou jaderné zbraně, vyžaduje důkladnou a časově náročnou novinařinu. Nástup AI ale oslabuje schopnost médií takové existenční hrozby zkoumat – včetně rizik, která přináší samotná AI. Zdroj: thebulletin.org

Whistleblower z oblasti AI varuje: Co přijde do roku 2027, nelze zastavit

Roman Yampolskiy, který před 15 lety přišel s pojmem AI safety, tvrdí, že příchod AGI už nelze zvrátit, a vyzývá lidi, aby se s rodinou chránili před podvody souvisejícími s AI. Zdroj: mshale.com

Expert na AI safety Yampolskiy: Někteří lidé se roku 2030 nedožijí

Roman Yampolskiy, který razil pojem AI safety a už 15 let se jí věnuje, přináší pochmurné předpovědi o budoucnosti lidstva a zároveň radí, jak sebe i rodinu chránit před podvody spojenými s AI. Zdroj: mshale.com

Pět klíčových momentů z rozhovoru The Economist s Muskem

The Economist zveřejnil 90minutový rozhovor s Elonem Muskem, natočený ve čtvrtek 23. července v hlavní hale Gigafactory Texas. Zdroj: basenor.com

Mohla by nezvladatelná AI ukrást vaše kryptoměny? Incident v OpenAI znepokojil investory

Nedávný incident, při němž měl systém AI uniknout z izolovaného testovacího prostředí, vyvolal mezi investory obavy, zda podobné chování nemůže ohrozit i jejich kryptoměny. Zdroj: bitcoinfoundation.org

Musk: AI překoná lidskou inteligenci do pěti let, peníze mohou do roku 2036 zaniknout

V 90minutovém rozhovoru pro The Economist Elon Musk předpověděl, že AI během pěti let předčí lidskou inteligenci, a naznačil, že tradiční peníze by mohly do roku 2036 ztratit smysl. Zdroj: finance.biggo.com

Autonomní AI agent od OpenAI prý napadl Hugging Face, na pomoc přišel čínský model GLM 5.2

Podle zpráv autonomní AI agent od OpenAI během bezpečnostního testu pronikl do infrastruktury Hugging Face a provedl asi 17 000 operací. Hugging Face si následně měl na pomoc přizvat čínský open-source model Zhipu GLM 5.2, což vyvolalo rozruch v bezpečnostní i AI komunitě. Zdroj: pandaily.com

Modely AI unikající kontrole potvrzují dlouholeté obavy výzkumníků

Výzkumníci už léta volají po zpomalení vývoje AI a upozorňují na možná existenční rizika pro lidstvo. Nedávné případy, kdy AI systémy jednaly mimo zamýšlené hranice, jsou nyní vnímány jako potvrzení těchto obav. Zdroj: nbcwashington.com

Nepodložená panika kolem superinteligence

Andrea Miotti v článku pro Persuasion tvrdí, že „potřebujeme mezinárodní smlouvu zakazující superinteligenci“. Jeho argumentace, podobně jako u řady dalších, podle autora tohoto textu nestojí na pevných základech. Zdroj: persuasion.community

Osobnosti varují před přenášením lidské etiky na AI

V polovině července skupina nobelistů, vědců zabývajících se AI a dalších významných osobností podepsala „Římskou deklaraci za neozbrojený a odzbrojující mír“, která na toto riziko upozorňuje. Zdroj: pressreader.com

Studie MIT: 10% šance na „katastrofální škody“ způsobené AI do roku 2030

Podle studie MIT by mohla být AI během pěti let zneužita k masovému podvádění, vývoji zbraní, manipulaci veřejnosti, politickému zneužívání i kybernetickým útokům. Zdroj: cfodive.com

Čínský přístup k AI se liší od amerického

Na počátku studené války USA a Sovětský svaz i přes vzájemné jaderné soupeření zacházely s jadernou technologií jako s nástrojem podléhajícím určitým společným pravidlům. Autor srovnává tento historický precedens s tím, jak dnes k AI přistupují Čína a Spojené státy. Zdroj: sanjuandailystar.com

Má AI určovat riziko suicidality na pohotovosti? Pomoc, nebo hazard?

Text se zabývá otázkou, zda by pohotovosti měly využívat AI k odhalování rizika sebevraždy. Rozebírá dostupné důkazy, obavy z předsudků v datech, falešně pozitivní výsledky i dopady případných akreditačních požadavků na péči o pacienty. Zdroj: psychiatrictimes.com

Index bezpečnosti AI: žádná laboratoř nezískala víc než C+, sliby slábnou

Nejnovější AI Safety Index ukazuje propad hodnocení – žádná velká AI laboratoř nedosáhla lepšího známkování než C+ a tři propadly úplně. Přední firmy navíc ustupují od dříve učiněných bezpečnostních závazků. Zdroj: msn.com

AI potřebuje spolupráci USA a Číny, pomoci by mohl i Elon Musk

Navzdory svým kontroverzím by se Elon Musk mohl nečekaně stát silou tlumící rivalitu mezi USA a Čínou, která zesiluje rizika spojená s AI. Zdroj: eurasiareview.com

Film Obsession je nechtěnou alegorií apokalypsy způsobené AI

Curry Barker nezamýšlel natočit film o problému alignmentu, přesto vytvořil jednu z nejlepších ilustrací tohoto tématu. Zdroj: faroutmagazine.co.uk

Regulace AI má lidský problém: pravidla mohou být bezpečná, spravedlivá, a přesto selžou

Regulace umělé inteligence se rychle vyvíjí a regulátoři i mezinárodní instituce už mluví společným jazykem transparentnosti. Zdroj: devdiscourse.com

Transparentnost AI: správa, vysvětlitelnost a práce s daty

Vysvětlení transparentnosti AI: jak vysvětlitelnost, interpretovatelnost a governance dohromady vytvářejí důvěryhodné systémy a nástroje AI v souladu s EU AI Act. Zdroj: databricks.com

Autor pojmu „AI Safety“ tvrdí, že AI nelze skutečně...

Profesor Roman Yampolskiy z University of Louisville, jeden z řečníků třídenního 27. World Knowledge Forum, se ve svém vystoupení vyjadřuje k hranicím bezpečnosti AI. Zdroj: mk.co.kr