Newsom podepsal tři zákony o AI ve zdravotnictví, dva vetoval
Kalifornský guvernér Gavin Newsom podepsal tři zákony o AI ve zdravotnictví a dva vetoval. Text rozebírá, co se změní pro lékaře a pacienty. Zdroj: chcf.org
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 178 článků
Kalifornský guvernér Gavin Newsom podepsal tři zákony o AI ve zdravotnictví a dva vetoval. Text rozebírá, co se změní pro lékaře a pacienty. Zdroj: chcf.org
Robert Reich připomíná, že žaloby za odpovědnost už dříve přiměly k zodpovědnosti tabákové, ropné i farmaceutické firmy. Investoři do AI podle něj tuto právní hrozbu nemohou ignorovat a právo nabízí cestu, jak rizika AI i klimatické krize snížit. Zdroj: theguardian.com
Text tvrdí, že rostoucí rizika autonomních AI agentů vyžadují vymahatelnou právní odpovědnost, ochranu oznamovatelů, etické pojistky a mechanismy nouzového vypnutí. Zdroj: nationalreview.com
Apel upozorňuje, že Kongres příliš dlouho ignoroval vážná ekonomická a environmentální rizika AI. Žádá okamžitý krok v oblasti bezpečnosti a odpovědnosti už tento týden. Zdroj: actionnetwork.org
Nezisková organizace Center for AI Safety (CAIS), která se zaměřuje na snižování celospolečenských rizik AI, oznámila tři velké iniciativy pro tvůrce. Mají zapojit veřejnost do debaty o bezpečnosti AI. Zdroj: finance.yahoo.com
Investoři i politici na dvou konferencích v Singapuru řešili finanční i existenční rizika spojená s boomem AI. Nálada kolem technologie se výrazně vystřízlivěla. Zdroj: reuters.com
Investoři si lámou hlavu s oceněním Anthropicu, protože úvahy o riziku vyhynutí, návrhy na escrow a bilionové závazky komplikují potenciálně rekordní vstup AI laboratoře na burzu. Zdroj: briefs.co
Lidé z AI startupů, velkých technologických firem, výzkumných neziskovek i aktivistických skupin se sešli, aby probrali nápady, jak předejít kolapsu civilizace kvůli čipům a AI. Zdroj: marketplace.org
Autor se odvolává na slavný výrok scenáristy Williama Goldmana, že ve filmovém byznysu „nikdo nic neví“, a tvrdí, že totéž platí o dnešní AI. Nejistota podle něj vyžaduje klid, ne poplach. Zdroj: bloomberg.com
Podle průzkumu Reuters/Ipsos se 62 % voličů obává, že by se AI mohla vymknout kontrole a ohrozit budoucnost lidstva. Celých 84 % vnímá AI jako hrozbu pro americké pracovníky. Zdroj: tribune.com.pk
Odchod Jacoba Coxona z Anthropicu 8. září znovu rozdmýchal debatu o rizicích AI. Může jít o zlom v politice kolem regulace AI. Zdroj: socialeurope.eu
Nebezpečné experimenty, které AI firmy provedly přes léto, odhalují novou oblast potřebné regulace. Autor volá po právních opatřeních, jež zajistí bezpečnost už během vývoje, nikoli jen u hotových produktů. Zdroj: techpolicy.press
Nový dopis lidí z nitra oboru o možných nebezpečích AI je podle Wall Street Journal překvapivě konkrétní. Tři propuštění zaměstnanci OpenAI v něm apelují na zachování monitorování chain of thought. Zdroj: gizmodo.com
Profesorka Emily Benderová z Washingtonské univerzity tvrdí, že debata o bezpečnosti AI se příliš upíná k hypotetickým existenčním hrozbám. Podle ní tak zapadají škody, které AI působí už dnes. Zdroj: bloomberg.com
V rozhovoru z 5. října Sam Altman, šéf OpenAI, vyzval svět, aby přijal rizika spojená s AI. Text se zabývá tím, jak má Bílý dům v tomto směsi katastrofismu a optimismu o bezpečnosti AI uvažovat. Zdroj: finextra.com
Investoři i lidé z oboru se v Singapuru zabývali především dvěma riziky spojenými s boomem AI: existenčními hrozbami a finanční bublinou. Nálada kolem technologie podle agentury Reuters znatelně vystřízlivěla. Zdroj: wtvbam.com
Šéf JPMorgan Jamie Dimon na londýnském Tech Summitu varoval, že AI model Mythos od společnosti Anthropic výrazně zvýšil globální kybernetické riziko. Podle něj zhruba desetinásobně. Zdroj: finance.biggo.com
Podle průzkumu Reuters/Ipsos si většina amerických voličů myslí, že administrativa prezidenta Donalda Trumpa i Kongres berou rizika AI příliš na lehkou váhu. Zdroj: whtc.com
Sam Altman říká, že mezi OpenAI a přísnějšími zastánci bezpečnosti AI je „velký prostor“ k rozdílům. Článek se ptá, zda se společnost, od níž se žádá přijetí rizik, podělí i o bilionové přínosy této technologie. Zdroj: medium.com
Bývalý americký ministr financí Robert Rubin upozorňuje, že investiční boom kolem AI sice může přinést růst produktivity, ale vzájemně propojené kruhové obchody skrývají riziko. Samotná produktivitní dividenda podle něj fiskální potíže nevyřeší. Zdroj: finance.biggo.com