AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 173 článků

Anthropic prý lobbuje vlastní zákon o bezpečnosti AI u amerických zákonodárců

Podle Politica Anthropic nenápadně předložil americkým zákonodárcům vlastní návrh zákona o bezpečnosti AI. Dokument obsahuje plán, jak regulovat bezpečnost a zabezpečení umělé inteligence. Zdroj: finance.yahoo.com

Blíží se průlom v interpretovatelnosti AI? Nový esej rozděluje výzkumníky

Nový esej tvrdí, že neuronové sítě mohou být mnohem čitelnější, než se předpokládalo, protože asi 90 procent neuronů plní jasnou funkci. Pokud by to platilo, šlo by o velkou zprávu pro celý obor, výzkumníci jsou ale v názoru nejednotní. Zdroj: the-decoder.com

YC Paper Club: Jak přemýšlet o bezpečnosti AI s Clarkem Barrettem ze Stanfordu

Clark Barrett, profesor informatiky na Stanfordu a spoluředitel Stanford Center for AI Safety, tvrdí, že kombinace formální verifikace a AI je nejslibnější cestou k bezpečné AI. Své názory rozebírá v epizodě Y Combinator Startup Podcast. Zdroj: finance.biggo.com

Trump: 'Nezabíjejte zlatou husu' – varování před AI označil za podvod

Trump odmítl varování lídrů AI jako podvod, zatímco rostou obavy z existenčních rizik. Viceprezident JD Vance označil tato varování za "trojského koně". Zdroj: abcnews.com

Trump označil varování před AI za 'HOAX', Nasdaq klesl o 0,9 %

Trump označil varování před existenčními riziky AI za podvod poté, co Altman a Amodei vyzvali ke zpomalení tempa vývoje AI. Nasdaq podle zprávy po této události oslabil o 0,9 %. Zdroj: tech-insider.org

Anthropic tajně lobbuje za vlastní zákon o bezpečnosti AI

Zástupci Anthropic podle Politica nenápadně oslovují zákonodárce na Capitol Hill s návrhem zákona. Ten by upravoval bezpečnost a zabezpečení špičkových AI modelů. Zdroj: ca.finance.yahoo.com

Anthropic před IPO: mohou rizika AI ohrozit penzijní úspory?

Anthropic a newyorský comptroller zahájili dialog o 'existenčních rizicích' spojených s AI. Debata otevírá otázku, co by tato rizika mohla znamenat pro penzijní fondy a spořící investory, pokud firma vstoupí na burzu. Zdroj: marketwatch.com

Anthropic pustí outsidery dovnitř kvůli obavám z nekontrolované AI

Anthropic umožní externím subjektům nahlédnout do svého fungování uprostřed rostoucích obav z nekontrolovatelných AI systémů. Elon Musk uvedl, že SpaceX 'pravděpodobně udělá totéž', jak sílí volání po větší transparentnosti. Zdroj: uk.finance.yahoo.com

Esej: zánik lidstva nehrozí, je to jen prodejní tah

Autor tvrdí, že katastrofické předpovědi o konci lidstva šíří ti, kdo na nich chtějí něco vydělat. Podle textu nás ve skutečnosti čeká nejmagičtější éra v dějinách lidstva. Zdroj: fortune.com

Proti-regulační AI super PAC naráží, bezpečnostní skupiny sílí

Pro-AI super PAC Leading the Future naráží na voliče, kteří požadují regulaci AI. Naopak politické výbory zaměřené na bezpečnost AI získávají na síle. Zdroj: transformernews.ai

Newyorský comptroller Levine vyzývá Anthropic k pozastavení IPO

V dopise řediteli Dariovi Amodeiovi newyorský comptroller Mark Levine žádá Anthropic, aby pozastavil plánovanou veřejnou nabídku akcií. Dopis je součástí rostoucího tlaku na přísnější kontrolu toho, jak firma informuje o rizicích AI. Zdroj: valueedgeadvisors.com

Levine tlačí na Anthropic: odložte IPO a věnujte se bezpečnosti AI

Newyorský kontrolor Mark Levine vyzývá Anthropic, aby odložila vstup na burzu a svou energii soustředila na otázky bezpečnosti AI. Zdroj: pymnts.com

Levine žádá Anthropic o odklad IPO kvůli obavám o bezpečnost

Newyorský kontrolor Mark Levine vyzval společnost Anthropic, aby pozastavila své plány na vstup na burzu. Odkazuje na řadu bezpečnostních obav, které AI provázejí. Zdroj: crainsnewyork.com

Huang z Nvidie chce dialog USA–Čína o „potenciálně nebezpečné“ AI

Šéf Nvidie Jensen Huang pro CNBC uvedl, že firma „rozhodně musí“ s čínskými AI společnostmi spolupracovat na sledování rizik. AI označil za potenciálně nebezpečnou. Zdroj: cnbc.com

Huang vítá „správné otázky“ papeže Lva XIV. o rizicích AI

Šéf Nvidie Jensen Huang reagoval na kritiku papeže Lva XIV. ohledně bezpečnosti a správy AI. Papežovy otázky označil za nezbytné. Zdroj: timesofindia.indiatimes.com

Proč sliby o bezpečnosti od předních AI laboratoří kyberbezpečnost nezachrání

Komentář upozorňuje, že kyberbezpečnostní odvětví i celý svět se nechaly pohltit debatou o bezpečnosti AI. Zpochybňuje, zda sliby vývojářů špičkových modelů skutečně dokážou zajistit ochranu. Zdroj: scworld.com

Komentář: Veřejné nabídky AI firem by se měly odložit

AI společnosti samy investory varují, že špičkové systémy mohou představovat katastrofická či dokonce existenční rizika. Autor se domnívá, že by vlády měly zavést licenční režim. Zdroj: johnmenadue.com

Palantir se stává alternativou pro AI Pentagonu poté, co jeho CTO odmítl bezpečnostní alarmismus

Palantir Technologies na sebe upoutal pozornost, když jeho CTO veřejně zkritizoval extrémní narativy o bezpečnosti AI i regulatorní přístup Silicon Valley. Zdroj: simplywall.st

Nvidia věnuje Británii 250 milionů dolarů na výzkum bezpečnosti AI

Americký výrobce čipů Nvidia poskytne Británii v následujících pěti letech výpočetní kapacity v hodnotě 250 milionů dolarů. Peníze poputují na výzkum bezpečnosti AI a posílí ambice země stát se centrem tohoto oboru. Zdroj: insurancejournal.com

Kamala Harris volá po mezinárodních standardech pro AI

Harrisová žádá globální standardy bezpečnosti AI a varuje, že čas na jednání se krátí. Vyzývá USA a Čínu ke spolupráci navzdory strategickému soupeření. Zdroj: kfiam640.iheart.com