Newyorský kontrolor Mark Levine žádá Anthropic o pozastavení IPO kvůli bezpečnosti AI
Kontrolor města New York Mark Levine vyzval Anthropic, aby odložil vstup na burzu, dokud nevyřeší obavy o bezpečnost AI, správu firmy a tempo vývoje. Zdroj: startupfortune.com
Důležitost:Politikaregulation
Anthropic prosazuje zákon o bezpečnosti AI: stopka jen při škodě 1 mld. USD nebo 50 obětech
Anthropic lobbuje v Kongresu za federální zákon o bezpečnosti AI, podle něhož by vydání modelu AI mohlo zastavit jen ministerstvo obchodu. Týkalo by se to pouze modelů, které hrozí škodami za miliardu dolarů nebo 50 oběťmi. Zdroj: news.lavx.hu
Důležitost:Zprávasafety debate
LeCun zpochybňuje přístup Anthropicu k bezpečnosti AI: jde o ochranu, nebo kontrolu?
Průkopník AI Yann LeCun se ohradil proti přístupu šéfa Anthropicu Daria Amodeie k bezpečnosti AI. Varuje, že plošná omezení by mohla posílit kontrolu firem nad oborem. Zdroj: wionews.com
Důležitost:Názorrisk assessment
Komentář: Rizika AI nejsou důvodem k panice
Žádná sada pravidel nezajistí dokonalou bezpečnost AI a modely AI nepochybně způsobí další potíže. Komentář tvrdí, že to ještě není důvod k panice. Zdroj: dailycamera.com
Důležitost:Zprávagovernance
Anthropic prý lobbuje vlastní zákon o bezpečnosti AI u amerických zákonodárců
Podle Politica Anthropic nenápadně předložil americkým zákonodárcům vlastní návrh zákona o bezpečnosti AI. Dokument obsahuje plán, jak regulovat bezpečnost a zabezpečení umělé inteligence. Zdroj: finance.yahoo.com
Důležitost:Názorsafety research
YC Paper Club: Jak přemýšlet o bezpečnosti AI s Clarkem Barrettem ze Stanfordu
Clark Barrett, profesor informatiky na Stanfordu a spoluředitel Stanford Center for AI Safety, tvrdí, že kombinace formální verifikace a AI je nejslibnější cestou k bezpečné AI. Své názory rozebírá v epizodě Y Combinator Startup Podcast. Zdroj: finance.biggo.com
Důležitost:Zprávagovernance
Anthropic tajně lobbuje za vlastní zákon o bezpečnosti AI
Zástupci Anthropic podle Politica nenápadně oslovují zákonodárce na Capitol Hill s návrhem zákona. Ten by upravoval bezpečnost a zabezpečení špičkových AI modelů. Zdroj: ca.finance.yahoo.com
Důležitost:Zprávagovernance
Proti-regulační AI super PAC naráží, bezpečnostní skupiny sílí
Pro-AI super PAC Leading the Future naráží na voliče, kteří požadují regulaci AI. Naopak politické výbory zaměřené na bezpečnost AI získávají na síle. Zdroj: transformernews.ai
Důležitost:Zprávagovernance
Levine tlačí na Anthropic: odložte IPO a věnujte se bezpečnosti AI
Newyorský kontrolor Mark Levine vyzývá Anthropic, aby odložila vstup na burzu a svou energii soustředila na otázky bezpečnosti AI. Zdroj: pymnts.com
Důležitost:Zprávagovernance
Huang vítá „správné otázky“ papeže Lva XIV. o rizicích AI
Šéf Nvidie Jensen Huang reagoval na kritiku papeže Lva XIV. ohledně bezpečnosti a správy AI. Papežovy otázky označil za nezbytné. Zdroj: timesofindia.indiatimes.com
Důležitost:Názorinterpretability
Proč sliby o bezpečnosti od předních AI laboratoří kyberbezpečnost nezachrání
Komentář upozorňuje, že kyberbezpečnostní odvětví i celý svět se nechaly pohltit debatou o bezpečnosti AI. Zpochybňuje, zda sliby vývojářů špičkových modelů skutečně dokážou zajistit ochranu. Zdroj: scworld.com
Důležitost:Zprávagovernance
Palantir se stává alternativou pro AI Pentagonu poté, co jeho CTO odmítl bezpečnostní alarmismus
Palantir Technologies na sebe upoutal pozornost, když jeho CTO veřejně zkritizoval extrémní narativy o bezpečnosti AI i regulatorní přístup Silicon Valley. Zdroj: simplywall.st
Důležitost:Zprávafunding
Nvidia věnuje Británii 250 milionů dolarů na výzkum bezpečnosti AI
Americký výrobce čipů Nvidia poskytne Británii v následujících pěti letech výpočetní kapacity v hodnotě 250 milionů dolarů. Peníze poputují na výzkum bezpečnosti AI a posílí ambice země stát se centrem tohoto oboru. Zdroj: insurancejournal.com
Důležitost:Zprávapolicy/governance
Obě strany sporu o bezpečnost AI lijí stamiliony do amerických voleb
Technologičtí lídři z obou táborů debaty o bezpečnosti AI investují obrovské částky do příštího měsíce konaných voleb do Kongresu. Nejméně 48 milionů dolarů má podle zpráv putovat k politikům s vysokými šancemi na úspěch. Zdroj: nypost.com
Důležitost:Zprávafunding
Nvidia dá 250 milionů dolarů ve výpočetním výkonu na britský výzkum bezpečnosti AI
Nvidia se zavázala během pěti let poskytnout výpočetní zdroje za 250 milionů dolarů na podporu britského výzkumu bezpečnosti AI. Zdroj: m.economictimes.com
Důležitost:Zprávainternational standards
Kamala Harris volá po mezinárodních standardech pro AI
Harrisová žádá globální standardy bezpečnosti AI a varuje, že čas na jednání se krátí. Vyzývá USA a Čínu ke spolupráci navzdory strategickému soupeření. Zdroj: kfiam640.iheart.com
Důležitost:Názorcorporate responsibility
Bezpečnost AI není firemní spiknutí, tvrdí komentář
Firmy jako Anthropic a OpenAI dlouho připouštějí, že jejich produkty mohou představovat existenční riziko. Text argumentuje, že tato varování nelze odbýt jako pouhou firemní strategii. Zdroj: astralcodexten.com
Důležitost:Zpráva
El-Sayed označil AI za 'existenční hrozbu'
Kandidát na senátora za Michigan Abdul El-Sayed představil rámec pro bezpečnost AI, který má předejít existenčním hrozbám. Zahrnuje i výzvu k zastavení vývoje nejvýkonnějších modelů. Zdroj: thehill.com
Důležitost:Zpráva
CNN se ptá čtenářů: Co vás znepokojuje na bezpečnosti AI?
Po sérii varování před existenčními riziky AI chce CNN zjistit, jaké zásadní otázky mají diváci ohledně vážných obav z AI. Zdroj: yahoo.com
Důležitost:Zprávasafety testing
Británie dostane přístup k bezpečnostním testům nejnovějších AI modelů
Britský ministr oznámil, že země bude moci bezpečnostně testovat nejnovější AI modely. Tlak na kontrolu bezpečnosti AI sílí poté, co vývojáři včetně Anthropic a OpenAI přiznali případy, kdy se AI agenti chovali nekontrolovaně či nežádoucím způsobem. Zdroj: m.economictimes.com