AIskimIQ

Štítek: Safety

266 článků

Newyorský kontrolor Mark Levine žádá Anthropic o pozastavení IPO kvůli bezpečnosti AI

Kontrolor města New York Mark Levine vyzval Anthropic, aby odložil vstup na burzu, dokud nevyřeší obavy o bezpečnost AI, správu firmy a tempo vývoje. Zdroj: startupfortune.com

Anthropic prosazuje zákon o bezpečnosti AI: stopka jen při škodě 1 mld. USD nebo 50 obětech

Anthropic lobbuje v Kongresu za federální zákon o bezpečnosti AI, podle něhož by vydání modelu AI mohlo zastavit jen ministerstvo obchodu. Týkalo by se to pouze modelů, které hrozí škodami za miliardu dolarů nebo 50 oběťmi. Zdroj: news.lavx.hu

LeCun zpochybňuje přístup Anthropicu k bezpečnosti AI: jde o ochranu, nebo kontrolu?

Průkopník AI Yann LeCun se ohradil proti přístupu šéfa Anthropicu Daria Amodeie k bezpečnosti AI. Varuje, že plošná omezení by mohla posílit kontrolu firem nad oborem. Zdroj: wionews.com

Komentář: Rizika AI nejsou důvodem k panice

Žádná sada pravidel nezajistí dokonalou bezpečnost AI a modely AI nepochybně způsobí další potíže. Komentář tvrdí, že to ještě není důvod k panice. Zdroj: dailycamera.com

Anthropic prý lobbuje vlastní zákon o bezpečnosti AI u amerických zákonodárců

Podle Politica Anthropic nenápadně předložil americkým zákonodárcům vlastní návrh zákona o bezpečnosti AI. Dokument obsahuje plán, jak regulovat bezpečnost a zabezpečení umělé inteligence. Zdroj: finance.yahoo.com

YC Paper Club: Jak přemýšlet o bezpečnosti AI s Clarkem Barrettem ze Stanfordu

Clark Barrett, profesor informatiky na Stanfordu a spoluředitel Stanford Center for AI Safety, tvrdí, že kombinace formální verifikace a AI je nejslibnější cestou k bezpečné AI. Své názory rozebírá v epizodě Y Combinator Startup Podcast. Zdroj: finance.biggo.com

Anthropic tajně lobbuje za vlastní zákon o bezpečnosti AI

Zástupci Anthropic podle Politica nenápadně oslovují zákonodárce na Capitol Hill s návrhem zákona. Ten by upravoval bezpečnost a zabezpečení špičkových AI modelů. Zdroj: ca.finance.yahoo.com

Proti-regulační AI super PAC naráží, bezpečnostní skupiny sílí

Pro-AI super PAC Leading the Future naráží na voliče, kteří požadují regulaci AI. Naopak politické výbory zaměřené na bezpečnost AI získávají na síle. Zdroj: transformernews.ai

Levine tlačí na Anthropic: odložte IPO a věnujte se bezpečnosti AI

Newyorský kontrolor Mark Levine vyzývá Anthropic, aby odložila vstup na burzu a svou energii soustředila na otázky bezpečnosti AI. Zdroj: pymnts.com

Huang vítá „správné otázky“ papeže Lva XIV. o rizicích AI

Šéf Nvidie Jensen Huang reagoval na kritiku papeže Lva XIV. ohledně bezpečnosti a správy AI. Papežovy otázky označil za nezbytné. Zdroj: timesofindia.indiatimes.com

Proč sliby o bezpečnosti od předních AI laboratoří kyberbezpečnost nezachrání

Komentář upozorňuje, že kyberbezpečnostní odvětví i celý svět se nechaly pohltit debatou o bezpečnosti AI. Zpochybňuje, zda sliby vývojářů špičkových modelů skutečně dokážou zajistit ochranu. Zdroj: scworld.com

Palantir se stává alternativou pro AI Pentagonu poté, co jeho CTO odmítl bezpečnostní alarmismus

Palantir Technologies na sebe upoutal pozornost, když jeho CTO veřejně zkritizoval extrémní narativy o bezpečnosti AI i regulatorní přístup Silicon Valley. Zdroj: simplywall.st

Nvidia věnuje Británii 250 milionů dolarů na výzkum bezpečnosti AI

Americký výrobce čipů Nvidia poskytne Británii v následujících pěti letech výpočetní kapacity v hodnotě 250 milionů dolarů. Peníze poputují na výzkum bezpečnosti AI a posílí ambice země stát se centrem tohoto oboru. Zdroj: insurancejournal.com

Obě strany sporu o bezpečnost AI lijí stamiliony do amerických voleb

Technologičtí lídři z obou táborů debaty o bezpečnosti AI investují obrovské částky do příštího měsíce konaných voleb do Kongresu. Nejméně 48 milionů dolarů má podle zpráv putovat k politikům s vysokými šancemi na úspěch. Zdroj: nypost.com

Nvidia dá 250 milionů dolarů ve výpočetním výkonu na britský výzkum bezpečnosti AI

Nvidia se zavázala během pěti let poskytnout výpočetní zdroje za 250 milionů dolarů na podporu britského výzkumu bezpečnosti AI. Zdroj: m.economictimes.com

Kamala Harris volá po mezinárodních standardech pro AI

Harrisová žádá globální standardy bezpečnosti AI a varuje, že čas na jednání se krátí. Vyzývá USA a Čínu ke spolupráci navzdory strategickému soupeření. Zdroj: kfiam640.iheart.com

Bezpečnost AI není firemní spiknutí, tvrdí komentář

Firmy jako Anthropic a OpenAI dlouho připouštějí, že jejich produkty mohou představovat existenční riziko. Text argumentuje, že tato varování nelze odbýt jako pouhou firemní strategii. Zdroj: astralcodexten.com

El-Sayed označil AI za 'existenční hrozbu'

Kandidát na senátora za Michigan Abdul El-Sayed představil rámec pro bezpečnost AI, který má předejít existenčním hrozbám. Zahrnuje i výzvu k zastavení vývoje nejvýkonnějších modelů. Zdroj: thehill.com

CNN se ptá čtenářů: Co vás znepokojuje na bezpečnosti AI?

Po sérii varování před existenčními riziky AI chce CNN zjistit, jaké zásadní otázky mají diváci ohledně vážných obav z AI. Zdroj: yahoo.com

Británie dostane přístup k bezpečnostním testům nejnovějších AI modelů

Britský ministr oznámil, že země bude moci bezpečnostně testovat nejnovější AI modely. Tlak na kontrolu bezpečnosti AI sílí poté, co vývojáři včetně Anthropic a OpenAI přiznali případy, kdy se AI agenti chovali nekontrolovaně či nežádoucím způsobem. Zdroj: m.economictimes.com