AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 178 článků

Newsom podepsal tři zákony o AI ve zdravotnictví, dva vetoval

Kalifornský guvernér Gavin Newsom podepsal tři zákony o AI ve zdravotnictví a dva vetoval. Text rozebírá, co se změní pro lékaře a pacienty. Zdroj: chcf.org

Reich: žaloby mohou zkrotit rizika AI a klimatu jako dříve tabákový průmysl

Robert Reich připomíná, že žaloby za odpovědnost už dříve přiměly k zodpovědnosti tabákové, ropné i farmaceutické firmy. Investoři do AI podle něj tuto právní hrozbu nemohou ignorovat a právo nabízí cestu, jak rizika AI i klimatické krize snížit. Zdroj: theguardian.com

Komentář: autonomní AI agenti potřebují právní odpovědnost a nouzové vypnutí

Text tvrdí, že rostoucí rizika autonomních AI agentů vyžadují vymahatelnou právní odpovědnost, ochranu oznamovatelů, etické pojistky a mechanismy nouzového vypnutí. Zdroj: nationalreview.com

Výzva Kongresu: AI vyžaduje okamžitá opatření v oblasti bezpečnosti a odpovědnosti

Apel upozorňuje, že Kongres příliš dlouho ignoroval vážná ekonomická a environmentální rizika AI. Žádá okamžitý krok v oblasti bezpečnosti a odpovědnosti už tento týden. Zdroj: actionnetwork.org

Center for AI Safety spouští tři programy pro tvůrce obsahu o bezpečnosti AI

Nezisková organizace Center for AI Safety (CAIS), která se zaměřuje na snižování celospolečenských rizik AI, oznámila tři velké iniciativy pro tvůrce. Mají zapojit veřejnost do debaty o bezpečnosti AI. Zdroj: finance.yahoo.com

Existenční rizika a obavy z bubliny zchladily nadšení pro AI na konferencích v Singapuru

Investoři i politici na dvou konferencích v Singapuru řešili finanční i existenční rizika spojená s boomem AI. Nálada kolem technologie se výrazně vystřízlivěla. Zdroj: reuters.com

Jak investoři oceňují existenční riziko při možném IPO společnosti Anthropic

Investoři si lámou hlavu s oceněním Anthropicu, protože úvahy o riziku vyhynutí, návrhy na escrow a bilionové závazky komplikují potenciálně rekordní vstup AI laboratoře na burzu. Zdroj: briefs.co

V San Franciscu se konal piknik o rizicích AI

Lidé z AI startupů, velkých technologických firem, výzkumných neziskovek i aktivistických skupin se sešli, aby probrali nápady, jak předejít kolapsu civilizace kvůli čipům a AI. Zdroj: marketplace.org

Rizika AI nejsou důvodem k panice, tvrdí komentář

Autor se odvolává na slavný výrok scenáristy Williama Goldmana, že ve filmovém byznysu „nikdo nic neví“, a tvrdí, že totéž platí o dnešní AI. Nejistota podle něj vyžaduje klid, ne poplach. Zdroj: bloomberg.com

Průzkum Reuters/Ipsos: většina Američanů si myslí, že Trump a Kongres podceňují rizika AI

Podle průzkumu Reuters/Ipsos se 62 % voličů obává, že by se AI mohla vymknout kontrole a ohrozit budoucnost lidstva. Celých 84 % vnímá AI jako hrozbu pro americké pracovníky. Zdroj: tribune.com.pk

Voliči chtějí regulaci AI kvůli pracovním místům, nejen kvůli bezpečnosti

Odchod Jacoba Coxona z Anthropicu 8. září znovu rozdmýchal debatu o rizicích AI. Může jít o zlom v politice kolem regulace AI. Zdroj: socialeurope.eu

Je čas regulovat samotný proces vývoje AI

Nebezpečné experimenty, které AI firmy provedly přes léto, odhalují novou oblast potřebné regulace. Autor volá po právních opatřeních, jež zajistí bezpečnost už během vývoje, nikoli jen u hotových produktů. Zdroj: techpolicy.press

Tři propuštění zaměstnanci OpenAI žádají zachování monitorování chain of thought

Nový dopis lidí z nitra oboru o možných nebezpečích AI je podle Wall Street Journal překvapivě konkrétní. Tři propuštění zaměstnanci OpenAI v něm apelují na zachování monitorování chain of thought. Zdroj: gizmodo.com

Emily Benderová: Existenční riziko AI je vykonstruované

Profesorka Emily Benderová z Washingtonské univerzity tvrdí, že debata o bezpečnosti AI se příliš upíná k hypotetickým existenčním hrozbám. Podle ní tak zapadají škody, které AI působí už dnes. Zdroj: bloomberg.com

„Apokaloptimismus“: Jak má Bílý dům přistupovat k bezpečnosti AI

V rozhovoru z 5. října Sam Altman, šéf OpenAI, vyzval svět, aby přijal rizika spojená s AI. Text se zabývá tím, jak má Bílý dům v tomto směsi katastrofismu a optimismu o bezpečnosti AI uvažovat. Zdroj: finextra.com

Obavy z existenčních hrozeb a bubliny tlumí nadšení pro AI na fórech v Singapuru

Investoři i lidé z oboru se v Singapuru zabývali především dvěma riziky spojenými s boomem AI: existenčními hrozbami a finanční bublinou. Nálada kolem technologie podle agentury Reuters znatelně vystřízlivěla. Zdroj: wtvbam.com

Jamie Dimon: Model Mythos od Anthropic zvýšil kybernetické riziko desetinásobně

Šéf JPMorgan Jamie Dimon na londýnském Tech Summitu varoval, že AI model Mythos od společnosti Anthropic výrazně zvýšil globální kybernetické riziko. Podle něj zhruba desetinásobně. Zdroj: finance.biggo.com

Průzkum Reuters/Ipsos: Většina Američanů si myslí, že Trump a Kongres riziko AI podceňují

Podle průzkumu Reuters/Ipsos si většina amerických voličů myslí, že administrativa prezidenta Donalda Trumpa i Kongres berou rizika AI příliš na lehkou váhu. Zdroj: whtc.com

Altman: Rizika AI musíme přijmout. Podělíme se ale i o bilionové zisky?

Sam Altman říká, že mezi OpenAI a přísnějšími zastánci bezpečnosti AI je „velký prostor“ k rozdílům. Článek se ptá, zda se společnost, od níž se žádá přijetí rizik, podělí i o bilionové přínosy této technologie. Zdroj: medium.com

Rubin varuje: Kruhové financování AI může spustit řetězové bankroty

Bývalý americký ministr financí Robert Rubin upozorňuje, že investiční boom kolem AI sice může přinést růst produktivity, ale vzájemně propojené kruhové obchody skrývají riziko. Samotná produktivitní dividenda podle něj fiskální potíže nevyřeší. Zdroj: finance.biggo.com