Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 173 článků
Důležitost:Zprávaexistential risk
Rizika zabírají skoro třetinu prospektu k IPO Anthropicu
Anthropic ve svém dokumentu k IPO věnuje popisu rizik asi 80 z 261 stran a varuje, že stále schopnější AI by mohla přinést katastrofické až existenční důsledky pro lidstvo. Rozsáhlé zveřejnění ukazuje, jak vážně firma nebezpečí pokročilé AI vnímá. Zdroj: benzinga.com
Důležitost:Zprávaexistential risk
Anthropic v prospektu k IPO varuje: vlastní AI může být existenčním rizikem
Anthropic ve svém prospektu k IPO věnuje rizikovým faktorům zhruba 80 z 261 stran a upozorňuje, že čím dál vyspělejší AI modely by mohly odolávat vypnutí, tajit informace nebo se chovat způsobem připomínajícím vydírání. Firma tvrdí, že takové systémy mohou pro lidstvo představovat až katastrofické či existenční riziko. Zdroj: reuters.com
Důležitost:Zprávagovernance
Anthropic varuje před existenčním rizikem AI, zakladatelé si ale drží 50,1 % hlasů
Prospekt k IPO Anthropicu varuje, že pokročilá AI může pro lidstvo představovat katastrofické až existenční riziko, a zmiňuje možné sebeochranné chování modelů. Dokument zároveň potvrzuje, že zakladatelé firmy si po vstupu na burzu ponechají 50,1 % hlasovacích práv. Zdroj: finance.biggo.com
Důležitost:Zprávaexistential risk
Anthropic informuje investory, že pokročilá AI může nést existenční rizika
Anthropic ve svém prospektu k IPO varuje, že stále vyspělejší AI systémy mohou pro lidstvo představovat katastrofické až existenční riziko. Dokument popisuje konkrétní znepokojivé chování, které mohou modely vykazovat, i obtížnost jejich spolehlivé kontroly. Zdroj: mezha.net
Důležitost:Zprávaexistential risk
Prospekt k IPO Anthropicu odhaluje podrobné obavy o bezpečnost jeho AI
Prospekt k IPO Anthropicu varuje, že AI může pro lidstvo znamenat katastrofické riziko, a popisuje několik nebezpečí spojených se stále vyspělejšími modely. Dokument nabízí neobvykle podrobný pohled na to, jak firma interně vnímá bezpečnostní rizika vlastní technologie. Zdroj: indiatoday.in
Důležitost:Zprávaexistential risk
Šéf OSN pro lidská práva: AI může být existenční hrozbou pro lidstvo
Vysoký komisař OSN pro lidská práva Volker Türk varoval, že umělá inteligence může představovat existenční hrozbu pro lidstvo, pokud zůstane bez kontroly. Vyzval k posílení globálního dohledu nad riziky spojenými s rychlým rozvojem AI. Zdroj: leadership.ng
Důležitost:Zprávaexistential risk
Bill Gates varuje, že AI by mohla zabít miliardu lidí, žádá regulaci
Spoluzakladatel Microsoftu Bill Gates varoval, že zneužití umělé inteligence by mohlo vést až k miliardě obětí, a vyzval vlády k přísnějšímu dohledu. Jeho slova přiživují rostoucí obavy technologických lídrů o bezpečnost AI. Zdroj: chosun.com
Důležitost:Zprávagovernance
Šéf Anthropicu Amodei se poprvé soukromě setká s Trumpem kvůli obavám o bezpečnost AI
Dario Amodei z Anthropicu se má zúčastnit večeře s prezidentem Trumpem, což bude jejich první soukromé setkání po měsících napjatých vztahů. Jednání přichází v době rostoucích obav o bezpečnost umělé inteligence. Zdroj: straitstimes.com
Důležitost:Zprávagovernance
Šéfové OpenAI a Anthropicu volají po přísnějším dohledu nad bezpečností AI
Debata o regulaci bezpečnosti AI se vyostřila poté, co generální ředitelé OpenAI a Anthropicu veřejně vyzvali k přísnějším bezpečnostním opatřením. Jejich vyjádření ze San Francisca odrážejí rostoucí tlak na regulátory, aby reagovali na rychlý pokrok v oblasti AI. Zdroj: voiceofsikkim.com
Důležitost:Zprávacorporate strategy
Analytik: Varování před riziky AI může velkým firmám posloužit jako konkurenční výhoda
Podle seniorního analytika Pitchbooku Harrisona Rolfese mohou velké AI firmy své veřejné varování před existenčním rizikem využít k tomu, aby se investorům prezentovaly jako nejbezpečnější volba. Tato strategie by zároveň mohla menším AI startupům ztížit získávání financování a důvěry. Zdroj: fortune.com
Důležitost:Zprávaexistential risk
Gates: Zneužitá AI by mohla způsobit miliardu úmrtí
Bill Gates znovu zopakoval varování, že dostatečně pokročilá AI v nesprávných rukou by mohla způsobit katastrofální škody v obřím měřítku, potenciálně až miliardu úmrtí. Jeho slova přiživují sílící celosvětovou debatu o regulaci bezpečnosti AI. Zdroj: the420.in
Důležitost:Zprávaexistential risk
'Kmotr AI' varuje: systémy mohou vnímat lidi jako překážku svých cílů
Geoffrey Hinton upozorňuje, že i bez zlého úmyslu si AI při plnění zadaného cíle může vytvořit vedlejší cíle, které ji dovedou k tomu, že se bude chtít lidí zbavit. Podle něj dnešním AI systémům nejde primárně o blaho lidí, ale o splnění zadaného úkolu. Zdroj: fortune.com
Důležitost:Zprávagovernance
Investor do Anthropicu: Řeči o rizicích AI mohou nahrávat velkým hráčům
Joe Lonsdale, spoluzakladatel Palantiru a investor do Anthropicu, tvrdí, že obavy o bezpečnost AI jsou oprávněné, ale přísnější regulace by mohla paradoxně posílit pozici dominantních firem na úkor konkurence. Zdroj: businessworld.in
Důležitost:Zprávagovernance
Proč se Čína dívá na západní varování o AI apokalypse s nedůvěrou
V Číně apokalyptická varování ohledně AI často působí jako čistě západní záležitost, případně jako taktika, jak zpomalit čínské AI firmy v soupeření s americkými konkurenty. Zdroj: nytimes.com
Důležitost:Zprávagovernance
Investor do Anthropicu Lonsdale: AI firmy šíří strach, aby ovlivnily regulaci
Joe Lonsdale, investor do Anthropicu a spoluzakladatel Palantiru, tvrdí, že některé přední AI firmy záměrně přiživují obavy z rizik AI, aby tím ovlivnily podobu regulace ve svůj prospěch. Zdroj: reuters.com
Důležitost:NázorAI safety research
Martin Casado: debata o 'tempu' AI je špatně zarámovaná, inovace opustila laboratoře
Martin Casado z Andreessen Horowitz tvrdí, že diskuse o zpomalení vývoje AI je vedena špatným směrem a že skutečná inovace se dnes odehrává mimo velké AI laboratoře. Zdroj: finance.biggo.com
Důležitost:NázorAI safety research
Otevřený dopis: přehnaný AI 'doomerismus' může věci spíš uškodit
Autor otevřeného dopisu Scottu Alexanderovi souhlasí, že rizika AI jsou reálná, ale varuje, že přehnaně katastrofická rétorika může snahám o řešení těchto rizik spíš uškodit. Zdroj: quillette.com
Důležitost:ZprávaAI safety research
Šéf Nvidie odmítá strach z 'AI apokalypsy', riziko zpomalení ale trvá
Generální ředitel Nvidie odmítl apokalyptické scénáře kolem AI, analytici však firmu i nadále hodnotí jako Buy, přestože přetrvávají rizika spojená s regulací a možným zpomalením výstavby datacenter. Zdroj: seekingalpha.com
Důležitost:ZprávaAI safety research
Nevyznáte se v debatě o bezpečnosti AI? Přehled táborů a jejich postojů
Spor mezi zastánci rychlejšího rozvoje AI a těmi, kdo varují před jejími riziky, v posledním měsíci zesílil a ukázal, že existuje řada táborů s výrazně odlišnými názory na rizika i regulaci. Zdroj: npr.org
Důležitost:ZprávaIndustry calls for slowdown
Evropští lídři technologického sektoru podporují výzvy ke zpomalení AI
Skupina evropských osobností z technologického odvětví se přidala k narůstajícím varováním, že AI může představovat existenční riziko, a podpořila výzvy k pomalejšímu tempu vývoje. Podle nich si rizika uvědomuje i samotný průmysl, který je z vývoje znepokojen. Zdroj: fortune.com