Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
437 článků
Anthropic lobbuje ve Washingtonu za zrušení zákazu svého nejnovějšího AI modelu. Téma existenčních rizik AI přitom rezonuje i mimo politické kulisy. morningbrew.com
Eric Zielinski, ředitel bezpečnosti informací společnosti Jumpmind, vystoupí na konferenci FIRST Annual Conference 2026 s přednáškou o řízení rizik spojených s interpretovatelností AI. Představí nový open-source framework určený k lepšímu porozumění chování AI systémů. businesswire.com
Startup oceněný na bilion dolarů varuje, že modely AI se blíží schopnosti zlepšovat se bez lidského zásahu. Anthropic vyzývá ke koordinovanému celosvětovému zastavení vývoje, dokud nebudou tato rizika zvládnuta. tovima.com
Nová studie upozorňuje, že současné zákony v USA, Velké Británii ani EU nejsou připraveny na fyzické škody způsobené AI roboty. Vědci proto požadují zavedení nezávislých bezpečnostních vrstev, které nelze obejít. studyfinds.com
Výrok šéfa OpenAI Sama Altmana se stal citátem dne a znovu rozvířil debatu o jeho přístupu k bezpečnosti AI. Altman sice dlouhodobě veřejně prohlašuje, že bezpečnost AI je zásadní priorita, jeho slova ale vyznívají přinejmenším rozporuplně. techradar.com
Military AI verification has no equivalent to nuclear arms control checks, leaving defense systems with a gap security teams must close. helpnetsecurity.com
The funding call is open to researchers worldwide and focuses on the risks that may emerge when large populations of AI agents interact across shared... edtechinnovationhub.com
Artificial intelligence expert Stuart Russell has become one of the most vocal critics of the technology he has helped develop for decades. en.vijesti.me
In the rapidly evolving field of materials science, the integration of artificial intelligence (AI) holds transformative potential for accelerating... bioengineer.org
The directive would even bar Anthropic's own foreign employees from using Fable and Mythos. Anthropic called the government position "a misunderstanding". fortune.com
Anthropic's Fable AI was shut down following a U.S. government directive limiting access to U.S. nationals, exposing growing tensions between AI safety and... forbes.com
Sam Altman co-signed an AI extinction warning in May 2023. By June 2025, he was writing of a 'gentle singularity.' Here is how his public position on AGI... startuphub.ai
The Nobel laureate and 'Godfather of AI' sees math as just another game for machines to master, drawing parallels to chess and Go. cryptobriefing.com
The $1 trillion startup warns that artificial-intelligence models are nearing the capability to improve without human intervention. msn.com
While we still can't explain how AI works, algorithms are rapidly learning what makes us tick. And the gap is widening. singularityhub.com
The authors contend that contemporary efforts to render AI systems interpretable rest on a mistake: reification, the process of treating abstractions and... theideasletter.org
Jaron Lanier, VR pioneer and Microsoft Research scientist, argued that AI's real danger is not machines gaining consciousness but humans adapting themselves... letsdatascience.com
Anthropic's IPO governance model prioritizes mission control, LTBT authority, hyperscaler dependency, non-dilutive compute financing, and shareholder... klover.ai
Během jediného týdne vědci upravili lidská embrya a Anthropic přiznal, že AI urychluje vlastní vývoj. Obě události by mohly zásadně změnit samotnou podstatu lidství. vox.com
Connor Leahy, CEO společnosti Conjecture, varuje, že pokročilé AI systémy destabilizují společnost a ohrozí lidstvo dříve, než budou demokratické vlády schopny adekvátně reagovat. abhs.in