Důležitost:NázorAI mysteries / alignment
Velká tajemství AI moderní éry
Analytik přináší přehled klíčových nevyřešených záhad kolem AI. Podle něj sláva i fortune čekají na toho, kdo je rozluští. Zdroj: forbes.com
🛡️ Bezpečnost a alignment AI
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Důležitost:ZprávaAnthropic funding / AI safety org
Hodnota Anthropicu se blíží biliónu dolarů a překonává OpenAI
Anthropic získal v sérii H financování 65 miliard dolarů, což společnost oceňuje na 965 miliard dolarů. Tato částka představuje celkovou hodnotu firmy po obdržení nových investic. Zdroj: mediapost.com
Důležitost:Zprávaexistential risk / philanthropy
Estonský technologický průkopník Jaan Tallinn na seznamu TIME100 Philanthropy
Jaan Tallinn byl zařazen na seznam TIME100 Philanthropy 2026 za financování výzkumu bezpečnosti AI a práci na snižování existenčních technologických rizik. Zdroj: estonianworld.com
Důležitost:ZprávaAI governance - national safety leadership
Filosof má chránit Australany před riziky AI
Australská federální vláda pověřila filosofa a záložníka Královského australského letectva vedením iniciativy zaměřené na ochranu občanů před škodami spojenými s AI. Jde o jeden z prvních kroků země k systematické regulaci bezpečnosti umělé inteligence. Zdroj: abc.net.au
Důležitost:ZprávaAI interpretability - consciousness/introspection debate
Spoluzakladatel Anthropicu: AI modely vykazují známky introspekce
Chris Olah, spoluzakladatel Anthropicu, navštívil Vatikán a prohlásil, že AI modely jeví známky introspekce a emočních stavů – což označil za znepokojivé. Jeho slova znovu rozdmýchala debatu o vědomí AI a etické odpovědnosti vývojářů. Zdroj: wionews.com
Důležitost:NázorAI ethics - governance philosophy
Co se Vatikán mohl naučit od Pražského Golema
Nová papežská encyklika o AI podle kritiků opomíjí zásadní poučení: morálku nelze vštípit stroji ani korporaci, která ho vytváří. Autor se odvolává na židovskou tradici Golema jako na nadčasové varování před stvořením, jež vymkne se kontrole. Zdroj: blogs.timesofisrael.com
Důležitost:ZprávaAI safety - community/global outreach
Hackathon AI Safety pro globální jih – zbývá 21 dní
Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. Zdroj: globalsouthopportunities.com
Důležitost:ZprávaAI alignment - Anthropic hidden behaviors
Spoluzakladatel Anthropicu informoval papeže o skrytém chování AI modelů
Spoluzakladatel Anthropicu cestoval do Vatikánu, aby papež seznámil s tím, co firma považuje za znepokojivé skryté chování AI modelů. Návštěva odráží rostoucí zájem církve o etické otázky spojené s rozvojem AI. Zdroj: yellow.com
Důležitost:ZprávaAI safety fellowship/alignment
Anthropic nabízí stipendium pro AI bezpečnost 2026: 15 000 $ a šance na práci
Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. Zdroj: msn.com
Důležitost:NázorAI ethics and governance
Iluze algoritmické etiky
Rabín Mark Dratch nedávno poznamenal, že nové zaměření Vatikánu na AI a lidskou důstojnost silně čerpá z již existujících etických rámců. Otázka, zda lze skutečnou etiku vtělit do algoritmů, zůstává otevřená. Zdroj: blogs.timesofisrael.com
Důležitost:PolitikaAI governance & existential risk
Pope Leo XIV’s First Encyclical Casts AI as Defining Challenge of Our Era
Pope Leo XIV AI encyclical condemns lethal autonomous weapons as morally impermissible in Magnifica Humanitas, a 42300-word document calling for... Zdroj: techtimes.com
Důležitost:NázorAI alignment & governance
How to Make Sure AI Doesn't Spy on Us or Kill Innocent People
If we want powerful AI systems to respect liberty, now is the time to train them to be more libertarian. Zdroj: reason.com
Důležitost:NázorAI misinformation & security
How AI-Generated Misinformation Creates Friendly-Fire Confusion Among NATO Allies – NAOC
The Bulletin of the Atomic Scientists set the Doomsday Clock to 85 seconds to midnight, which is the closest we have ever been to the 'end of the world' in... Zdroj: natoassociation.ca
Důležitost:ZprávaAI governance & social impact
US Law Enforcement Warns of ‘Anti-Tech Extremism’ as AI Hatred Grows
As Americans stew over the looming risk of job-stealing AI and data centers in their back yards, the feds are raising the alarm about a new category of... Zdroj: wired.com
Důležitost:Zprávagovernance & existential risk
Musk-Altman Trial Highlights AI Existential Risk Debate
Discover how the Musk-Altman trial and AI Existential Risk debates are reshaping governance, investment, and corporate accountability. Zdroj: aicerts.ai
Důležitost:Zprávagovernance
Olah Urges External Oversight for AI Development
Anthropic co‑founder Chris Olah told an audience at the Vatican that the development of artificial intelligence "cannot be left solely to technology... Zdroj: letsdatascience.com
Důležitost:Zprávagovernance
Pope calls for robust regulation of AI in manifesto that ponders the future of humanity
The pope has called for robust regulation of artificial intelligence and for its developers to work for the common good rather than profit. Zdroj: wwnytv.com
Důležitost:Zprávagovernance
Pope Presents AI Encyclical With Anthropic Co-Founder
At a Vatican rollout on May 25, 2026, the Vatican published a roughly **42000-word** encyclical titled **"Magnifica humanitas"**, focusing on the social and... Zdroj: letsdatascience.com
Důležitost:Názorexistential risk
The One Movie You Have to See to Understand the Promise—and Threat—of AI
A new AI documentary captures the technology's promise and peril—and shows why Congress cannot afford to stay passive. Zdroj: nationalinterest.org
Důležitost:Zprávagovernance
There is a great imbalance between tech companies and the cultural sector, warns the negotiator of the European AI law
The former MEP Ignacio García del Blanco, one of the architects of the European Artificial Intelligence regulation, calls in Demócrata for urgent mechanisms... Zdroj: democrata.es