Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 173 článků
Důležitost:ZprávaAI governance - national safety leadership
Filosof má chránit Australany před riziky AI
Australská federální vláda pověřila filosofa a záložníka Královského australského letectva vedením iniciativy zaměřené na ochranu občanů před škodami spojenými s AI. Jde o jeden z prvních kroků země k systematické regulaci bezpečnosti umělé inteligence. Zdroj: abc.net.au
Důležitost:NázorAI ethics - governance philosophy
Co se Vatikán mohl naučit od Pražského Golema
Nová papežská encyklika o AI podle kritiků opomíjí zásadní poučení: morálku nelze vštípit stroji ani korporaci, která ho vytváří. Autor se odvolává na židovskou tradici Golema jako na nadčasové varování před stvořením, jež vymkne se kontrole. Zdroj: blogs.timesofisrael.com
Spoluzakladatel Anthropicu informoval papeže o skrytém chování AI modelů
Spoluzakladatel Anthropicu cestoval do Vatikánu, aby papež seznámil s tím, co firma považuje za znepokojivé skryté chování AI modelů. Návštěva odráží rostoucí zájem církve o etické otázky spojené s rozvojem AI. Zdroj: yellow.com
Hackathon AI Safety pro globální jih – zbývá 21 dní
Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. Zdroj: globalsouthopportunities.com
Důležitost:ZprávaAI safety fellowship/alignment
Anthropic nabízí stipendium pro AI bezpečnost 2026: 15 000 $ a šance na práci
Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. Zdroj: msn.com
Důležitost:NázorAI ethics and governance
Iluze algoritmické etiky
Rabín Mark Dratch nedávno poznamenal, že nové zaměření Vatikánu na AI a lidskou důstojnost silně čerpá z již existujících etických rámců. Otázka, zda lze skutečnou etiku vtělit do algoritmů, zůstává otevřená. Zdroj: blogs.timesofisrael.com
Pope Leo XIV’s First Encyclical Casts AI as Defining Challenge of Our Era
Pope Leo XIV AI encyclical condemns lethal autonomous weapons as morally impermissible in Magnifica Humanitas, a 42300-word document calling for... Zdroj: techtimes.com
Důležitost:NázorAI alignment & governance
How to Make Sure AI Doesn't Spy on Us or Kill Innocent People
If we want powerful AI systems to respect liberty, now is the time to train them to be more libertarian. Zdroj: reason.com
Důležitost:ZprávaAI governance & social impact
US Law Enforcement Warns of ‘Anti-Tech Extremism’ as AI Hatred Grows
As Americans stew over the looming risk of job-stealing AI and data centers in their back yards, the feds are raising the alarm about a new category of... Zdroj: wired.com
Důležitost:Zprávagovernance & existential risk
Musk-Altman Trial Highlights AI Existential Risk Debate
Discover how the Musk-Altman trial and AI Existential Risk debates are reshaping governance, investment, and corporate accountability. Zdroj: aicerts.ai
Důležitost:NázorAI misinformation & security
How AI-Generated Misinformation Creates Friendly-Fire Confusion Among NATO Allies – NAOC
The Bulletin of the Atomic Scientists set the Doomsday Clock to 85 seconds to midnight, which is the closest we have ever been to the 'end of the world' in... Zdroj: natoassociation.ca
Důležitost:Zprávagovernance
Pope Presents AI Encyclical With Anthropic Co-Founder
At a Vatican rollout on May 25, 2026, the Vatican published a roughly **42000-word** encyclical titled **"Magnifica humanitas"**, focusing on the social and... Zdroj: letsdatascience.com
Důležitost:Zprávagovernance
Pope calls for robust regulation of AI in manifesto that ponders the future of humanity
The pope has called for robust regulation of artificial intelligence and for its developers to work for the common good rather than profit. Zdroj: wwnytv.com
Důležitost:Zprávagovernance
Olah Urges External Oversight for AI Development
Anthropic co‑founder Chris Olah told an audience at the Vatican that the development of artificial intelligence "cannot be left solely to technology... Zdroj: letsdatascience.com
Důležitost:Názorexistential risk
The One Movie You Have to See to Understand the Promise—and Threat—of AI
A new AI documentary captures the technology's promise and peril—and shows why Congress cannot afford to stay passive. Zdroj: nationalinterest.org
Důležitost:Zprávagovernance
There is a great imbalance between tech companies and the cultural sector, warns the negotiator of the European AI law
The former MEP Ignacio García del Blanco, one of the architects of the European Artificial Intelligence regulation, calls in Demócrata for urgent mechanisms... Zdroj: democrata.es
Důležitost:Zprávagovernance
Navigating the Future: Pope Leo XIV’s Encyclical on AI and Human Dignity. – EWTN Great Britain
Pope Leo XIV has issued the first encyclical of his pontificate — and in doing so, has placed the Catholic Church directly into one of the defining moral... Zdroj: ewtn.co.uk
Důležitost:Zprávaexistential risk
“There is a non-zero chance AI could kill everyone,” warns Anthropic co-founder Jack Clark
Trending News: Anthropic co-founder Jack Clark claims that advanced AI systems could eventually wipe out human civilisation if precautions are not taken... Zdroj: startuppedia.in
Důležitost:ZprávaAI governance/policy
Tech Industry Lobbies Vatican Over AI Encyclical
Silicon Valley figures and Western diplomats have held a series of meetings with Vatican officials ahead of Pope Leo XIV's first encyclical on artificial... Zdroj: letsdatascience.com
Důležitost:Videoexistential risk
AI Pioneer Explains Why It Poses An Existential Risk For Humanity (gYjblKANL5w)
Nobel laureate Geoffrey Hinton, known as one of the “godfathers of AI” for his pioneering work in deep learning and neural networks, joins Kara to ... Zdroj: folhadoes.com