Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Náboženské přesvědčení dokáže účinně formovat lidské chování – a právě to by mohlo zajímat vývojáře AI. Autor navrhuje, aby se AI laboratoře inspirovaly tím, jak náboženství ovlivňuje jednání svých následovníků. Zdroj: washingtonpost.com
Anthropic lobbuje ve Washingtonu za zrušení zákazu svého nejnovějšího AI modelu. Téma existenčních rizik AI přitom rezonuje i mimo politické kulisy. Zdroj: morningbrew.com
Startup oceněný na bilion dolarů varuje, že modely AI se blíží schopnosti zlepšovat se bez lidského zásahu. Anthropic vyzývá ke koordinovanému celosvětovému zastavení vývoje, dokud nebudou tato rizika zvládnuta. Zdroj: tovima.com
Výrok šéfa OpenAI Sama Altmana se stal citátem dne a znovu rozvířil debatu o jeho přístupu k bezpečnosti AI. Altman sice dlouhodobě veřejně prohlašuje, že bezpečnost AI je zásadní priorita, jeho slova ale vyznívají přinejmenším rozporuplně. Zdroj: techradar.com
Nová studie upozorňuje, že současné zákony v USA, Velké Británii ani EU nejsou připraveny na fyzické škody způsobené AI roboty. Vědci proto požadují zavedení nezávislých bezpečnostních vrstev, které nelze obejít. Zdroj: studyfinds.com
The funding call is open to researchers worldwide and focuses on the risks that may emerge when large populations of AI agents interact across shared... Zdroj: edtechinnovationhub.com
Military AI verification has no equivalent to nuclear arms control checks, leaving defense systems with a gap security teams must close. Zdroj: helpnetsecurity.com
In the rapidly evolving field of materials science, the integration of artificial intelligence (AI) holds transformative potential for accelerating... Zdroj: bioengineer.org
Artificial intelligence expert Stuart Russell has become one of the most vocal critics of the technology he has helped develop for decades. Zdroj: en.vijesti.me
The directive would even bar Anthropic's own foreign employees from using Fable and Mythos. Anthropic called the government position "a misunderstanding". Zdroj: fortune.com
Anthropic's Fable AI was shut down following a U.S. government directive limiting access to U.S. nationals, exposing growing tensions between AI safety and... Zdroj: forbes.com
The Nobel laureate and 'Godfather of AI' sees math as just another game for machines to master, drawing parallels to chess and Go. Zdroj: cryptobriefing.com
Sam Altman co-signed an AI extinction warning in May 2023. By June 2025, he was writing of a 'gentle singularity.' Here is how his public position on AGI... Zdroj: startuphub.ai
The $1 trillion startup warns that artificial-intelligence models are nearing the capability to improve without human intervention. Zdroj: msn.com
The authors contend that contemporary efforts to render AI systems interpretable rest on a mistake: reification, the process of treating abstractions and... Zdroj: theideasletter.org
While we still can't explain how AI works, algorithms are rapidly learning what makes us tick. And the gap is widening. Zdroj: singularityhub.com
Anthropic's IPO governance model prioritizes mission control, LTBT authority, hyperscaler dependency, non-dilutive compute financing, and shareholder... Zdroj: klover.ai
Jaron Lanier, VR pioneer and Microsoft Research scientist, argued that AI's real danger is not machines gaining consciousness but humans adapting themselves... Zdroj: letsdatascience.com
Anthropic spustil model Claude Fable 5 pro veřejnost, zatímco výkonnější Mythos Preview zůstává s omezeným přístupem. CEO Dario Amodei přitom varuje před destabilizačními riziky spojenými s rozvojem AI. Zdroj: cryptobriefing.com
Během jediného týdne vědci upravili lidská embrya a Anthropic přiznal, že AI urychluje vlastní vývoj. Obě události by mohly zásadně změnit samotnou podstatu lidství. Zdroj: vox.com