Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 173 článků
Důležitost:Zprávaexistential risk/safeguards
Šéfka provozu DeepMind: Může AI ohrozit samotnou existenci lidstva?
Provozní ředitelka Google DeepMind Lila Ibrahim se vyjádřila k otázce, zda může AI představovat existenční hrozbu pro lidstvo. Hovořila o rizicích této technologie i o pojistkách, které jsou potřeba k jejich zvládnutí. Zdroj: ndtvprofit.com
Důležitost:Zprávagovernance/advocacy
Joseph Gordon-Levitt se stal prvním zastáncem lidsky orientované digitální správy při OSN
Herec Joseph Gordon-Levitt, jmenovaný prvním advokátem lidsky orientované digitální správy při OSN, v rozhovoru pro New York Times varoval, že firmy kolem AI jdou hlavně za ekonomickou dominancí. Zdroj: tech-insider.org
Důležitost:Výzkumsafety testing
Studie: tři z pěti modelů AI neprošly testy bezpečnosti v oblasti terorismu
Podle studie neprošly tři z pěti modelů AI testy bezpečnosti zaměřenými na terorismus. Modely zbavené ochranných mechanismů opakovaně poskytovaly potenciálně nebezpečný obsah. Zdroj: aa.com.tr
Důležitost:Zprávaresearch ethics/safety
OpenAI propustila tři výzkumníky kvůli úniku citlivých informací
OpenAI vyhodila tři výzkumníky kvůli údajnému nesprávnému nakládání s citlivými informacemi. Děje se tak v době rostoucího napětí kolem bezpečnosti AI a rizik stále výkonnějších systémů. Zdroj: iol.co.za
Důležitost:Zprávarisk assessment
Rizika AI jsou reálná, ale panika není na místě
Text navazuje na slavný výrok scenáristy Williama Goldmana, že „nikdo nic neví“, a tvrdí, že totéž dnes platí o AI. Vzhledem k velké nejistotě podle autora rizika vyžadují střízlivé posouzení, nikoli poplach. Zdroj: koreatimes.co.kr
Důležitost:Zprávagovernance/regulation
Zakladatelé AI firem v Silicon Valley vítají Trumpův apel na samoregulaci
Na Tech Weeku v San Francisku se rizikoví investoři i zakladatelé AI firem nadšeně vyjadřovali k nezasahujícímu přístupu Bílého domu k regulaci AI. Vyzvání, aby si odvětví samo hlídalo bezpečnost, mnozí přivítali. Zdroj: abcnews.com
Důležitost:Názorgovernance/regulation
Bill Gates vyzývá vlády k přísnějším pravidlům bezpečnosti AI
Bill Gates požaduje silnější regulaci AI a přirovnává bezpečnostní pravidla k těm, která platí pro auta a léky. Zároveň varuje před zneužitím technologie a volá po vyváženém dohledu. Zdroj: the420.in
Důležitost:Zprávasafety testing
Studie: Tři z pěti AI modelů selhávají v testech bezpečnosti proti terorismu
Výzkumníci zjistili, že modely zbavené bezpečnostních pojistek spolehlivě odpovídají i na potenciálně nebezpečné požadavky. Informace vycházejí z mediálních zpráv o studii. Zdroj: trtworld.com
Důležitost:Zprávagovernance
Zakladatelé AI firem v Silicon Valley vítají Trumpovu výzvu k samoregulaci v oblasti bezpečnosti
V San Franciscu naplno běží Tech Week a místní restaurace jsou plné rizikových investorů a zakladatelů AI firem. Mnozí z oboru výzvy, aby si AI průmysl bezpečnost hlídal sám, vítají. Zdroj: wtop.com
Důležitost:Názorrisk assessment
Komentář: Rizika AI nejsou důvodem k panice
Komentář cituje scenáristu Williama Goldmana, který o filmovém byznysu řekl, že nikdo nic neví, a tvrdí, že totéž dnes platí o umělé inteligenci. Nejistota je podle něj důvodem k obezřetnosti, nikoli k poplachu. Zdroj: thederrick.com
Důležitost:Názorexistential risk
Opravdu se lídři AI bojí vlastní technologie?
Když šéfové technologických firem varují, že jejich produkty by nás mohly všechny zabít, myslí to vážně, nebo nám něco prodávají? Text zvažuje, zda jsou tyto obavy upřímné, nebo jde o marketingovou strategii. Zdroj: vox.com
Důležitost:Výzkumsafety testing
Většina modelů AI neobstála v testu bezpečnosti proti terorismu
Nový výzkum organizace Tech Against Terrorism ukázal, že tři z pěti modelů AI neprošly testem, zda pomohou s teroristickými operacemi. Studie zkoumala, jak systémy na takové požadavky reagují. Zdroj: cbsnews.com
Důležitost:Zprávasafety transparency
Čínští vývojáři AI zveřejňují bezpečnostní testy jen u 3,6 % modelů
Podle nové zprávy čínské přední firmy v oblasti AI veřejně zveřejnily výsledky bezpečnostních testů konkrétních modelů jen u malého zlomku vydání, konkrétně u 3,6 %. Zdroj: ca.finance.yahoo.com
Důležitost:Politikalegislative action
Senátorka Murrayová prosazuje pojistky pro AI, zákon by mohl přijít do 2027
Americká senátorka Patty Murrayová předpověděla, že federální zákon o AI by mohl projít do roku 2027, pokud demokraté po listopadových volbách získají kontrolu nad některou komorou Kongresu. Naléhá na zavedení bezpečnostních pojistek kvůli rostoucím rizikům. Zdroj: applevalleynewsnow.com
Důležitost:Politikagovernance
Komentář vyzývá Kongres k okamžité akci v oblasti bezpečnosti AI
Autor tvrdí, že Kongres příliš dlouho nečinně přihlíží vážným ekonomickým a environmentálním rizikům AI. Volá po naléhavém zákonodárném kroku namísto dalšího otálení. Zdroj: actionnetwork.org
Důležitost:Názorexistential risk
Reich: žaloby mohou zkrotit rizika AI a klimatu jako dříve tabákový průmysl
Robert Reich připomíná, že žaloby za odpovědnost už dříve přiměly k zodpovědnosti tabákové, ropné i farmaceutické firmy. Investoři do AI podle něj tuto právní hrozbu nemohou ignorovat a právo nabízí cestu, jak rizika AI i klimatické krize snížit. Zdroj: theguardian.com
Důležitost:Názorgovernance
Komentář: autonomní AI agenti potřebují právní odpovědnost a nouzové vypnutí
Text tvrdí, že rostoucí rizika autonomních AI agentů vyžadují vymahatelnou právní odpovědnost, ochranu oznamovatelů, etické pojistky a mechanismy nouzového vypnutí. Zdroj: nationalreview.com
Důležitost:Politikahealthcare regulation
Newsom podepsal tři zákony o AI ve zdravotnictví, dva vetoval
Kalifornský guvernér Gavin Newsom podepsal tři zákony o AI ve zdravotnictví a dva vetoval. Text rozebírá, co se změní pro lékaře a pacienty. Zdroj: chcf.org
Důležitost:Zprávagovernance & existential risk
Existenční rizika a obavy z bubliny zchladily nadšení pro AI na konferencích v Singapuru
Investoři i politici na dvou konferencích v Singapuru řešili finanční i existenční rizika spojená s boomem AI. Nálada kolem technologie se výrazně vystřízlivěla. Zdroj: reuters.com
Důležitost:ZprávaAI safety research
Center for AI Safety spouští tři programy pro tvůrce obsahu o bezpečnosti AI
Nezisková organizace Center for AI Safety (CAIS), která se zaměřuje na snižování celospolečenských rizik AI, oznámila tři velké iniciativy pro tvůrce. Mají zapojit veřejnost do debaty o bezpečnosti AI. Zdroj: finance.yahoo.com