Huang vítá „správné otázky“ papeže Lva XIV. o rizicích AI
Šéf Nvidie Jensen Huang reagoval na kritiku papeže Lva XIV. ohledně bezpečnosti a správy AI. Papežovy otázky označil za nezbytné. Zdroj: timesofindia.indiatimes.com
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 178 článků
Šéf Nvidie Jensen Huang reagoval na kritiku papeže Lva XIV. ohledně bezpečnosti a správy AI. Papežovy otázky označil za nezbytné. Zdroj: timesofindia.indiatimes.com
Komentář upozorňuje, že kyberbezpečnostní odvětví i celý svět se nechaly pohltit debatou o bezpečnosti AI. Zpochybňuje, zda sliby vývojářů špičkových modelů skutečně dokážou zajistit ochranu. Zdroj: scworld.com
AI společnosti samy investory varují, že špičkové systémy mohou představovat katastrofická či dokonce existenční rizika. Autor se domnívá, že by vlády měly zavést licenční režim. Zdroj: johnmenadue.com
Vědci požadují, aby byly AI modely s kybernetickými schopnostmi fyzicky izolovány od sítí. Navrhují také mezinárodní orgán, který by evidoval každé selhání izolace. Zdroj: technology.org
Harrisová žádá globální standardy bezpečnosti AI a varuje, že čas na jednání se krátí. Vyzývá USA a Čínu ke spolupráci navzdory strategickému soupeření. Zdroj: kfiam640.iheart.com
Nvidia se zavázala během pěti let poskytnout výpočetní zdroje za 250 milionů dolarů na podporu britského výzkumu bezpečnosti AI. Zdroj: m.economictimes.com
Technologičtí lídři z obou táborů debaty o bezpečnosti AI investují obrovské částky do příštího měsíce konaných voleb do Kongresu. Nejméně 48 milionů dolarů má podle zpráv putovat k politikům s vysokými šancemi na úspěch. Zdroj: nypost.com
Americký výrobce čipů Nvidia poskytne Británii v následujících pěti letech výpočetní kapacity v hodnotě 250 milionů dolarů. Peníze poputují na výzkum bezpečnosti AI a posílí ambice země stát se centrem tohoto oboru. Zdroj: insurancejournal.com
Firmy jako Anthropic a OpenAI dlouho připouštějí, že jejich produkty mohou představovat existenční riziko. Text argumentuje, že tato varování nelze odbýt jako pouhou firemní strategii. Zdroj: astralcodexten.com
Abdul El-Sayed zveřejnil plán, který by výrazně omezil vývoj AI a zavedl pojistky proti nejhorším důsledkům technologie. Jeho soupeř Mike Rogers zdaleka tak daleko nezašel. Zdroj: mlive.com
Abdul El-Sayed z Michiganu je prvním demokratem v klíčovém senátním souboji, který veřejně žádá pozastavení vývoje umělé inteligence. Zdroj: nytimes.com
Na středečním setkání s potenciálními investory Anthropic představil tržby za třetí čtvrtletí před možným IPO. Podle Reuters se řešily i limity „myšlení“ modelů a postoj firmy k riziku vyhynutí. Zdroj: wkzo.com
Pionýr AI Andrew Ng, spoluzakladatel Google Brain, odmítá obavy, že by AI mohla vyhubit lidstvo. Technologickým firmám vyčítá, že si vymýšlejí bezpečnostní argumenty, aby potlačily konkurenci. Zdroj: nypost.com
Po sérii varování před existenčními riziky AI chce CNN zjistit, jaké zásadní otázky mají diváci ohledně vážných obav z AI. Zdroj: yahoo.com
Na závěrečné Q&A v Moscone Center organizátor swyx oznámil, že konference AI Engineer World's Fair se po roce 2026 přestane rozrůstat. Ročník 2027 bude jiný. Zdroj: finance.biggo.com
Kandidát na senátora za Michigan Abdul El-Sayed představil rámec pro bezpečnost AI, který má předejít existenčním hrozbám. Zahrnuje i výzvu k zastavení vývoje nejvýkonnějších modelů. Zdroj: thehill.com
Provozní ředitelka Google DeepMind Lila Ibrahim hovoří o existenčních rizicích AI, bezpečnostních rámcích a externím hodnocení. Zdůrazňuje potřebu globální spolupráce při regulaci. Zdroj: ndtvprofit.com
Prezident Microsoftu Brad Smith vyzval ke globálním bezpečnostním pravidlům, která by mj. ukládala informovat oběti narušení způsobených nekontrolovatelnými AI agenty. Požaduje také nouzové vypnutí. Zdroj: freemalaysiatoday.com
Britský ministr oznámil, že země bude moci bezpečnostně testovat nejnovější AI modely. Tlak na kontrolu bezpečnosti AI sílí poté, co vývojáři včetně Anthropic a OpenAI přiznali případy, kdy se AI agenti chovali nekontrolovaně či nežádoucím způsobem. Zdroj: m.economictimes.com
Autor cituje slavný výrok scenáristy Williama Goldmana o filmovém byznysu, že 'nikdo nic neví', a tvrdí, že totéž platí dnes o umělé inteligenci. Nejistota kolem rizik AI by podle něj neměla vést k panice. Zdroj: koreatimes.co.kr