AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 173 článků

Šéfka provozu DeepMind: Může AI ohrozit samotnou existenci lidstva?

Provozní ředitelka Google DeepMind Lila Ibrahim se vyjádřila k otázce, zda může AI představovat existenční hrozbu pro lidstvo. Hovořila o rizicích této technologie i o pojistkách, které jsou potřeba k jejich zvládnutí. Zdroj: ndtvprofit.com

Joseph Gordon-Levitt se stal prvním zastáncem lidsky orientované digitální správy při OSN

Herec Joseph Gordon-Levitt, jmenovaný prvním advokátem lidsky orientované digitální správy při OSN, v rozhovoru pro New York Times varoval, že firmy kolem AI jdou hlavně za ekonomickou dominancí. Zdroj: tech-insider.org

Studie: tři z pěti modelů AI neprošly testy bezpečnosti v oblasti terorismu

Podle studie neprošly tři z pěti modelů AI testy bezpečnosti zaměřenými na terorismus. Modely zbavené ochranných mechanismů opakovaně poskytovaly potenciálně nebezpečný obsah. Zdroj: aa.com.tr

OpenAI propustila tři výzkumníky kvůli úniku citlivých informací

OpenAI vyhodila tři výzkumníky kvůli údajnému nesprávnému nakládání s citlivými informacemi. Děje se tak v době rostoucího napětí kolem bezpečnosti AI a rizik stále výkonnějších systémů. Zdroj: iol.co.za

Rizika AI jsou reálná, ale panika není na místě

Text navazuje na slavný výrok scenáristy Williama Goldmana, že „nikdo nic neví“, a tvrdí, že totéž dnes platí o AI. Vzhledem k velké nejistotě podle autora rizika vyžadují střízlivé posouzení, nikoli poplach. Zdroj: koreatimes.co.kr

Zakladatelé AI firem v Silicon Valley vítají Trumpův apel na samoregulaci

Na Tech Weeku v San Francisku se rizikoví investoři i zakladatelé AI firem nadšeně vyjadřovali k nezasahujícímu přístupu Bílého domu k regulaci AI. Vyzvání, aby si odvětví samo hlídalo bezpečnost, mnozí přivítali. Zdroj: abcnews.com

Bill Gates vyzývá vlády k přísnějším pravidlům bezpečnosti AI

Bill Gates požaduje silnější regulaci AI a přirovnává bezpečnostní pravidla k těm, která platí pro auta a léky. Zároveň varuje před zneužitím technologie a volá po vyváženém dohledu. Zdroj: the420.in

Studie: Tři z pěti AI modelů selhávají v testech bezpečnosti proti terorismu

Výzkumníci zjistili, že modely zbavené bezpečnostních pojistek spolehlivě odpovídají i na potenciálně nebezpečné požadavky. Informace vycházejí z mediálních zpráv o studii. Zdroj: trtworld.com

Zakladatelé AI firem v Silicon Valley vítají Trumpovu výzvu k samoregulaci v oblasti bezpečnosti

V San Franciscu naplno běží Tech Week a místní restaurace jsou plné rizikových investorů a zakladatelů AI firem. Mnozí z oboru výzvy, aby si AI průmysl bezpečnost hlídal sám, vítají. Zdroj: wtop.com

Komentář: Rizika AI nejsou důvodem k panice

Komentář cituje scenáristu Williama Goldmana, který o filmovém byznysu řekl, že nikdo nic neví, a tvrdí, že totéž dnes platí o umělé inteligenci. Nejistota je podle něj důvodem k obezřetnosti, nikoli k poplachu. Zdroj: thederrick.com

Opravdu se lídři AI bojí vlastní technologie?

Když šéfové technologických firem varují, že jejich produkty by nás mohly všechny zabít, myslí to vážně, nebo nám něco prodávají? Text zvažuje, zda jsou tyto obavy upřímné, nebo jde o marketingovou strategii. Zdroj: vox.com

Většina modelů AI neobstála v testu bezpečnosti proti terorismu

Nový výzkum organizace Tech Against Terrorism ukázal, že tři z pěti modelů AI neprošly testem, zda pomohou s teroristickými operacemi. Studie zkoumala, jak systémy na takové požadavky reagují. Zdroj: cbsnews.com

Čínští vývojáři AI zveřejňují bezpečnostní testy jen u 3,6 % modelů

Podle nové zprávy čínské přední firmy v oblasti AI veřejně zveřejnily výsledky bezpečnostních testů konkrétních modelů jen u malého zlomku vydání, konkrétně u 3,6 %. Zdroj: ca.finance.yahoo.com

Senátorka Murrayová prosazuje pojistky pro AI, zákon by mohl přijít do 2027

Americká senátorka Patty Murrayová předpověděla, že federální zákon o AI by mohl projít do roku 2027, pokud demokraté po listopadových volbách získají kontrolu nad některou komorou Kongresu. Naléhá na zavedení bezpečnostních pojistek kvůli rostoucím rizikům. Zdroj: applevalleynewsnow.com

Komentář vyzývá Kongres k okamžité akci v oblasti bezpečnosti AI

Autor tvrdí, že Kongres příliš dlouho nečinně přihlíží vážným ekonomickým a environmentálním rizikům AI. Volá po naléhavém zákonodárném kroku namísto dalšího otálení. Zdroj: actionnetwork.org

Reich: žaloby mohou zkrotit rizika AI a klimatu jako dříve tabákový průmysl

Robert Reich připomíná, že žaloby za odpovědnost už dříve přiměly k zodpovědnosti tabákové, ropné i farmaceutické firmy. Investoři do AI podle něj tuto právní hrozbu nemohou ignorovat a právo nabízí cestu, jak rizika AI i klimatické krize snížit. Zdroj: theguardian.com

Komentář: autonomní AI agenti potřebují právní odpovědnost a nouzové vypnutí

Text tvrdí, že rostoucí rizika autonomních AI agentů vyžadují vymahatelnou právní odpovědnost, ochranu oznamovatelů, etické pojistky a mechanismy nouzového vypnutí. Zdroj: nationalreview.com

Newsom podepsal tři zákony o AI ve zdravotnictví, dva vetoval

Kalifornský guvernér Gavin Newsom podepsal tři zákony o AI ve zdravotnictví a dva vetoval. Text rozebírá, co se změní pro lékaře a pacienty. Zdroj: chcf.org

Existenční rizika a obavy z bubliny zchladily nadšení pro AI na konferencích v Singapuru

Investoři i politici na dvou konferencích v Singapuru řešili finanční i existenční rizika spojená s boomem AI. Nálada kolem technologie se výrazně vystřízlivěla. Zdroj: reuters.com

Center for AI Safety spouští tři programy pro tvůrce obsahu o bezpečnosti AI

Nezisková organizace Center for AI Safety (CAIS), která se zaměřuje na snižování celospolečenských rizik AI, oznámila tři velké iniciativy pro tvůrce. Mají zapojit veřejnost do debaty o bezpečnosti AI. Zdroj: finance.yahoo.com