Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 173 článků
Důležitost:Zprávagovernance
Anthropic prý lobbuje vlastní zákon o bezpečnosti AI u amerických zákonodárců
Podle Politica Anthropic nenápadně předložil americkým zákonodárcům vlastní návrh zákona o bezpečnosti AI. Dokument obsahuje plán, jak regulovat bezpečnost a zabezpečení umělé inteligence. Zdroj: finance.yahoo.com
Důležitost:Zprávainterpretability
Blíží se průlom v interpretovatelnosti AI? Nový esej rozděluje výzkumníky
Nový esej tvrdí, že neuronové sítě mohou být mnohem čitelnější, než se předpokládalo, protože asi 90 procent neuronů plní jasnou funkci. Pokud by to platilo, šlo by o velkou zprávu pro celý obor, výzkumníci jsou ale v názoru nejednotní. Zdroj: the-decoder.com
Důležitost:Názorsafety research
YC Paper Club: Jak přemýšlet o bezpečnosti AI s Clarkem Barrettem ze Stanfordu
Clark Barrett, profesor informatiky na Stanfordu a spoluředitel Stanford Center for AI Safety, tvrdí, že kombinace formální verifikace a AI je nejslibnější cestou k bezpečné AI. Své názory rozebírá v epizodě Y Combinator Startup Podcast. Zdroj: finance.biggo.com
Důležitost:Zprávagovernance
Trump: 'Nezabíjejte zlatou husu' – varování před AI označil za podvod
Trump odmítl varování lídrů AI jako podvod, zatímco rostou obavy z existenčních rizik. Viceprezident JD Vance označil tato varování za "trojského koně". Zdroj: abcnews.com
Důležitost:Zprávagovernance
Trump označil varování před AI za 'HOAX', Nasdaq klesl o 0,9 %
Trump označil varování před existenčními riziky AI za podvod poté, co Altman a Amodei vyzvali ke zpomalení tempa vývoje AI. Nasdaq podle zprávy po této události oslabil o 0,9 %. Zdroj: tech-insider.org
Důležitost:Zprávagovernance
Anthropic tajně lobbuje za vlastní zákon o bezpečnosti AI
Zástupci Anthropic podle Politica nenápadně oslovují zákonodárce na Capitol Hill s návrhem zákona. Ten by upravoval bezpečnost a zabezpečení špičkových AI modelů. Zdroj: ca.finance.yahoo.com
Důležitost:Zprávagovernance
Anthropic před IPO: mohou rizika AI ohrozit penzijní úspory?
Anthropic a newyorský comptroller zahájili dialog o 'existenčních rizicích' spojených s AI. Debata otevírá otázku, co by tato rizika mohla znamenat pro penzijní fondy a spořící investory, pokud firma vstoupí na burzu. Zdroj: marketwatch.com
Důležitost:Zprávainterpretability
Anthropic pustí outsidery dovnitř kvůli obavám z nekontrolované AI
Anthropic umožní externím subjektům nahlédnout do svého fungování uprostřed rostoucích obav z nekontrolovatelných AI systémů. Elon Musk uvedl, že SpaceX 'pravděpodobně udělá totéž', jak sílí volání po větší transparentnosti. Zdroj: uk.finance.yahoo.com
Důležitost:Názorexistential risk
Esej: zánik lidstva nehrozí, je to jen prodejní tah
Autor tvrdí, že katastrofické předpovědi o konci lidstva šíří ti, kdo na nich chtějí něco vydělat. Podle textu nás ve skutečnosti čeká nejmagičtější éra v dějinách lidstva. Zdroj: fortune.com
Důležitost:Zprávagovernance
Proti-regulační AI super PAC naráží, bezpečnostní skupiny sílí
Pro-AI super PAC Leading the Future naráží na voliče, kteří požadují regulaci AI. Naopak politické výbory zaměřené na bezpečnost AI získávají na síle. Zdroj: transformernews.ai
Důležitost:Zprávagovernance
Newyorský comptroller Levine vyzývá Anthropic k pozastavení IPO
V dopise řediteli Dariovi Amodeiovi newyorský comptroller Mark Levine žádá Anthropic, aby pozastavil plánovanou veřejnou nabídku akcií. Dopis je součástí rostoucího tlaku na přísnější kontrolu toho, jak firma informuje o rizicích AI. Zdroj: valueedgeadvisors.com
Důležitost:Zprávagovernance
Levine tlačí na Anthropic: odložte IPO a věnujte se bezpečnosti AI
Newyorský kontrolor Mark Levine vyzývá Anthropic, aby odložila vstup na burzu a svou energii soustředila na otázky bezpečnosti AI. Zdroj: pymnts.com
Důležitost:Zprávagovernance
Levine žádá Anthropic o odklad IPO kvůli obavám o bezpečnost
Newyorský kontrolor Mark Levine vyzval společnost Anthropic, aby pozastavila své plány na vstup na burzu. Odkazuje na řadu bezpečnostních obav, které AI provázejí. Zdroj: crainsnewyork.com
Důležitost:Zprávagovernance
Huang z Nvidie chce dialog USA–Čína o „potenciálně nebezpečné“ AI
Šéf Nvidie Jensen Huang pro CNBC uvedl, že firma „rozhodně musí“ s čínskými AI společnostmi spolupracovat na sledování rizik. AI označil za potenciálně nebezpečnou. Zdroj: cnbc.com
Důležitost:Zprávagovernance
Huang vítá „správné otázky“ papeže Lva XIV. o rizicích AI
Šéf Nvidie Jensen Huang reagoval na kritiku papeže Lva XIV. ohledně bezpečnosti a správy AI. Papežovy otázky označil za nezbytné. Zdroj: timesofindia.indiatimes.com
Důležitost:Názorinterpretability
Proč sliby o bezpečnosti od předních AI laboratoří kyberbezpečnost nezachrání
Komentář upozorňuje, že kyberbezpečnostní odvětví i celý svět se nechaly pohltit debatou o bezpečnosti AI. Zpochybňuje, zda sliby vývojářů špičkových modelů skutečně dokážou zajistit ochranu. Zdroj: scworld.com
Důležitost:Názorgovernance
Komentář: Veřejné nabídky AI firem by se měly odložit
AI společnosti samy investory varují, že špičkové systémy mohou představovat katastrofická či dokonce existenční rizika. Autor se domnívá, že by vlády měly zavést licenční režim. Zdroj: johnmenadue.com
Důležitost:Zprávagovernance
Palantir se stává alternativou pro AI Pentagonu poté, co jeho CTO odmítl bezpečnostní alarmismus
Palantir Technologies na sebe upoutal pozornost, když jeho CTO veřejně zkritizoval extrémní narativy o bezpečnosti AI i regulatorní přístup Silicon Valley. Zdroj: simplywall.st
Důležitost:Zprávafunding
Nvidia věnuje Británii 250 milionů dolarů na výzkum bezpečnosti AI
Americký výrobce čipů Nvidia poskytne Británii v následujících pěti letech výpočetní kapacity v hodnotě 250 milionů dolarů. Peníze poputují na výzkum bezpečnosti AI a posílí ambice země stát se centrem tohoto oboru. Zdroj: insurancejournal.com
Důležitost:Zprávainternational standards
Kamala Harris volá po mezinárodních standardech pro AI
Harrisová žádá globální standardy bezpečnosti AI a varuje, že čas na jednání se krátí. Vyzývá USA a Čínu ke spolupráci navzdory strategickému soupeření. Zdroj: kfiam640.iheart.com