Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
889 článků
Text využívá známý model hype cyklu technologií, popisující přijetí novinek křivkou ve tvaru S od uvedení na trh až po masové rozšíření, aby zasadil do kontextu debatu o bezpečnosti AI. Ptá se, kdy lze vývoj AI považovat za dostatečně bezpečný pro širokou důvěru veřejnosti. Zdroj: cato.org
Přední osobnosti AI volají po přísnějších bezpečnostních opatřeních, protože rychlý pokrok směřuje k superinteligenci. Někteří tvrdí, že poučení z jaderné éry by mohlo pomoci s kontrolou mocných nelidských systémů. Zdroj: builtin.com
Šéf Nvidie Jensen Huang zaujal tvrdý postoj k bezpečnosti AI a v rozhovoru pro New York Times uvedl, že laboratoře neschopné zajistit bezpečnost by měly skončit. Zároveň ale tvrdí, že šanci na katastrofický scénář s AI vidí prakticky nulovou. Zdroj: tech-insider.org
Výzkumník Jacob Coxon není jediný, kdo upozorňuje na rizika pokročilé AI. Přehled shrnuje více než 100 odborníků a technologů, kteří se k tomuto tématu veřejně vyjádřili. Zdroj: forbes.com
Po chaotických následcích bezpečnostního incidentu na Hugging Face zažívají firmy zaměřené na řízení rizik spojených s AI velký nárůst poptávky. Jejich cílem je zajistit, aby se AI systémy nevymkly kontrole. Zdroj: puck.news
Zatímco šéfové technologických firem varují OSN před "ztrátou kontroly" nad AI, technická a matematická podstata současných systémů ukazuje jiný obraz. Dnešní AI je výkonná a nedokonalá, ale zdaleka ne existenční hrozbou. Zdroj: emeraldbook.org
Šéf Anthropicu Dario Amodei upozornil, že špatně řízený rozvoj AI by mohl představovat hrozbu pro celé lidstvo. Zdroj: semafor.com
Odborníci z Brookings Institution se zabývají riziky spojenými s AI a tím, jaká regulační opatření by mohla být nutná k jejich zvládnutí. Zdroj: brookings.edu
Šéfové dvou největších AI společností na světě přednesli samostatné briefingy věnované bezpečnosti umělé inteligence. Zdroj: theguardian.com
Guvernéři Kalifornie, New Yorku a Illinois představili iniciativy na dohled nad umělou inteligencí, zatímco prezident Donald Trump slíbil, že nebude bránit rozvoji odvětví. Zdroj: smartcitiesdive.com
Umělá inteligence se tento týden stala klíčovým tématem mezinárodní politiky, protože obavy z jejích existenčních rizik dále rostou. Zdroj: politico.com
Prezidenti Donald Trump a Si Ťin-pching se na summitu pravděpodobně dohodnou jen na omezené spolupráci v oblasti bezpečnosti AI. Zdroj: aljazeera.com
Vedoucí představitelé předních AI společností stále hlasitěji upozorňují na rizika této technologie. Odborník z oblasti Denveru poukazuje na to, že současná situace připomíná začátky jaderné éry, kdy nové schopnosti předběhly možnosti společnosti je zvládat. Zdroj: denver7.com
Nové technologie s sebou vždy nesly riziko nežádoucích důsledků, jak ukázala i dopravní revoluce 19. století, která umožnila moderní hospodářský růst. Článek na těchto historických paralelách ukazuje, jak by společnost mohla reagovat, pokud by AI způsobila závažnou krizi. Zdroj: transformernews.ai
Čerstvý absolvent ročníku 2026 a doktorand reaguje na dřívější články o budoucnosti AI a argumentuje, že obavy z existenčního rizika by se neměly jen tak smést ze stolu. Zdroj: thedp.com
Poté, co představitelé technologických firem vyzvali k pomalejšímu tempu vývoje AI, se tématu věnovali experti z UAlbany. Diskuse navazuje na výrok předního výzkumníka z Anthropicu, podle kterého existuje více než desetiprocentní šance, že AI představuje katastrofické riziko. Zdroj: newswise.com
Autor tvrdí, že USA a Čína by neměly vývoj AI pojímat jako závod o dominanci, ale měly by bezpečnost považovat za společný cíl. Zdroj: fortune.com
Před plánovaným setkáním prezidenta Trumpa s čínským prezidentem Si Ťin-pchingem se obě země údajně dohodly na systému vzájemného upozorňování na rizika spojená s AI. Krok naznačuje rostoucí zájem obou stran o řízení rizik AI. Zdroj: aimagazine.com
Obavy z politických i existenčních rizik spojených s AI přiměly nejméně tři republikánské senátory k tomu, aby začali jednat. Téma bezpečnosti AI tak získává v USA na politické váze. Zdroj: politico.com
Americký ministr financí Scott Bessent uvedl, že jednání s Čínou o obchodu a bezpečnosti AI proběhla úspěšně. Rozhovory přicházejí v době rostoucích obav z rizik spojených s pokročilými AI systémy. Zdroj: dw.com