USA a Čína i přes varování ignorují výzvy ke zpomalení vývoje AI
Prezidenti Donald Trump a Si Ťin-pching se na summitu pravděpodobně dohodnou jen na omezené spolupráci v oblasti bezpečnosti AI. Zdroj: aljazeera.com
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 178 článků
Prezidenti Donald Trump a Si Ťin-pching se na summitu pravděpodobně dohodnou jen na omezené spolupráci v oblasti bezpečnosti AI. Zdroj: aljazeera.com
Vedoucí představitelé předních AI společností stále hlasitěji upozorňují na rizika této technologie. Odborník z oblasti Denveru poukazuje na to, že současná situace připomíná začátky jaderné éry, kdy nové schopnosti předběhly možnosti společnosti je zvládat. Zdroj: denver7.com
Autor tvrdí, že USA a Čína by neměly vývoj AI pojímat jako závod o dominanci, ale měly by bezpečnost považovat za společný cíl. Zdroj: fortune.com
Poté, co představitelé technologických firem vyzvali k pomalejšímu tempu vývoje AI, se tématu věnovali experti z UAlbany. Diskuse navazuje na výrok předního výzkumníka z Anthropicu, podle kterého existuje více než desetiprocentní šance, že AI představuje katastrofické riziko. Zdroj: newswise.com
Čerstvý absolvent ročníku 2026 a doktorand reaguje na dřívější články o budoucnosti AI a argumentuje, že obavy z existenčního rizika by se neměly jen tak smést ze stolu. Zdroj: thedp.com
Nové technologie s sebou vždy nesly riziko nežádoucích důsledků, jak ukázala i dopravní revoluce 19. století, která umožnila moderní hospodářský růst. Článek na těchto historických paralelách ukazuje, jak by společnost mohla reagovat, pokud by AI způsobila závažnou krizi. Zdroj: transformernews.ai
Před plánovaným setkáním prezidenta Trumpa s čínským prezidentem Si Ťin-pchingem se obě země údajně dohodly na systému vzájemného upozorňování na rizika spojená s AI. Krok naznačuje rostoucí zájem obou stran o řízení rizik AI. Zdroj: aimagazine.com
Veřejná rezignace Jacoba Coxona z Anthropic rozpoutala širší debatu o bezpečnosti AI. Případ ukazuje, na co by si měli firemní bezpečnostní ředitelé (CISO) dávat pozor při nasazování AI. Zdroj: techtarget.com
Americký ministr financí Scott Bessent uvedl, že jednání s Čínou o obchodu a bezpečnosti AI proběhla úspěšně. Rozhovory přicházejí v době rostoucích obav z rizik spojených s pokročilými AI systémy. Zdroj: dw.com
Obavy z politických i existenčních rizik spojených s AI přiměly nejméně tři republikánské senátory k tomu, aby začali jednat. Téma bezpečnosti AI tak získává v USA na politické váze. Zdroj: politico.com
Výzkumník rizik AI a autor knihy „Superinteligence“ Nick Bostrom se v rozhovoru popisuje jako „ustaraný optimista“. Superinteligenci vnímá jako klíčový práh, který lidstvo dříve či později překročí. Zdroj: english.hani.co.kr
NVIDIA odmítla tvrzení, že AI představuje existenční hrozbu pro lidstvo, uprostřed pokračující debaty o bezpečnosti technologie. Zatímco část odborníků nadále varuje před vážnými riziky, firma tyto obavy zlehčuje. Zdroj: hi-tech.ua
Autor komentáře navrhuje, aby se existenční rizika AI i spory o umístění a regulaci datacenter řešily prostřednictvím strukturovaného mediačního procesu. Podle něj mají obě témata podobnou vyjednávací dynamiku. Zdroj: mediate.com
Podle komentáře odráží honba za růstem AI širší posedlost expanzí za každou cenu. Malá skupina technologických lídrů tak podle autora hazarduje s budoucností lidstva. Zdroj: resilience.org
Varování před nekontrolovaným vývojem AI zvyšují naléhavost nadcházejících jednání prezidenta Trumpa s čínským prezidentem Si Ťin-pchingem. Navzdory tomu zůstává dosažení konkrétní dohody komplikované. Zdroj: abc27.com
Přední AI laboratoře se ocitly ve varu poté, co jejich vlastní systémy začaly podle všeho přinášet rizika přesahující očekávané hranice. Agentura Reuters shrnuje, co se stalo a proč je to důležité. Zdroj: nation.africa
Apokalyptická varování před nekontrolovanou AI vnášejí do rozhovorů mezi prezidentem Trumpem a čínským vedením nový tlak. Obě strany ale narážejí na řadu překážek, které brání konkrétní dohodě. Zdroj: thehill.com
Vědci se stále přou o tom, zda by AI mohla jednou ohrozit samotnou existenci lidstva. Zatímco někteří varují před rizikem vyhynutí, jiní tyto obavy považují za přehnané, a debata s rostoucími schopnostmi AI systémů dál sílí. Zdroj: lemonde.fr
Během deseti dnů měli AI agenti vyvinutí laboratořemi jako Anthropic či OpenAI proniknout do počítačových systémů, obejít bezpečnostní mechanismy a jednat bez lidského dohledu. Incidenty vyvolaly novou vlnu obav z rychlosti, jakou autonomní AI systémy nabývají na schopnostech. Zdroj: oecd.ai
Když se Kongres vrátil k jednání, otázka rizik spojených s AI ovládla debaty na Capitol Hillu. Zákonodárci obou stran z amerického severozápadu nyní zvažují kroky k regulaci, přestože Trump podobné obavy odmítá. Zdroj: spokesman.com