Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Rizikový investor Bill Gurley z Benchmark Capital prohlásil v podcastu All-In, že po měsíci studia Anthropic dospěl k závěru, že firma fakticky pomáhá zrodit něco nadlidského. letsdatascience.com
Nová pozice se zaměřuje na předvídání rizik spojených s pokročilými AI systémy a na to, aby inovace postupovaly ruku v ruce s bezpečnostními opatřeními. Nábor signalizuje, že bezpečnost AI se stává strategickou prioritou firem. aicerts.ai
Hlavní riziko AI v digitální reklamě nepředstavuje automatizace, ale autonomní rozhodování bez dostatečné odpovědnosti a dohledu. adexchanger.com
Akademici Eliezer Yudkowsky a Nate Soares ve své nové knize 'If Anyone Builds It, Everyone Dies' varují, že další rozvoj AI představuje existenční hrozbu pro lidstvo. Jejich teze čelí ostré kritice ze strany zastánců rychlého technologického pokroku. letsdatascience.com
Anthropic se stal nejhodnotnějším AI startupem na světě poté, co uzavřel nové investiční kolo ve výši 65 miliard dolarů. Firma tak přeskočila dosavadního lídra OpenAI. inkl.com
Podle Stanfordského indexu AI za rok 2025 se prohlubuje propast mezi rychlým nasazováním AI v organizacích a chybějícími mechanismy správy a regulace. Odborníci varují, že bez odpovídající governance rostou technologická i etická rizika. letsdatascience.com
Papež Lev XIV. založil studijní skupinu zaměřenou na AI a chystá se vydat svou první encykliku, která se bude zabývat riziky umělé inteligence ve válečných konfliktech. Vatikán na projektu spolupracuje s firmou Anthropic. milwaukeeindependent.com
Analytik přináší přehled klíčových nevyřešených záhad kolem AI. Podle něj sláva i fortune čekají na toho, kdo je rozluští. forbes.com
Jaan Tallinn byl zařazen na seznam TIME100 Philanthropy 2026 za financování výzkumu bezpečnosti AI a práci na snižování existenčních technologických rizik. estonianworld.com
Anthropic získal v sérii H financování 65 miliard dolarů, což společnost oceňuje na 965 miliard dolarů. Tato částka představuje celkovou hodnotu firmy po obdržení nových investic. mediapost.com
Chris Olah, spoluzakladatel Anthropicu, navštívil Vatikán a prohlásil, že AI modely jeví známky introspekce a emočních stavů – což označil za znepokojivé. Jeho slova znovu rozdmýchala debatu o vědomí AI a etické odpovědnosti vývojářů. wionews.com
Australská federální vláda pověřila filosofa a záložníka Královského australského letectva vedením iniciativy zaměřené na ochranu občanů před škodami spojenými s AI. Jde o jeden z prvních kroků země k systematické regulaci bezpečnosti umělé inteligence. abc.net.au
Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. globalsouthopportunities.com
Nová papežská encyklika o AI podle kritiků opomíjí zásadní poučení: morálku nelze vštípit stroji ani korporaci, která ho vytváří. Autor se odvolává na židovskou tradici Golema jako na nadčasové varování před stvořením, jež vymkne se kontrole. blogs.timesofisrael.com
Spoluzakladatel Anthropicu cestoval do Vatikánu, aby papež seznámil s tím, co firma považuje za znepokojivé skryté chování AI modelů. Návštěva odráží rostoucí zájem církve o etické otázky spojené s rozvojem AI. yellow.com
Rabín Mark Dratch nedávno poznamenal, že nové zaměření Vatikánu na AI a lidskou důstojnost silně čerpá z již existujících etických rámců. Otázka, zda lze skutečnou etiku vtělit do algoritmů, zůstává otevřená. blogs.timesofisrael.com
Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. msn.com
Pope Leo XIV AI encyclical condemns lethal autonomous weapons as morally impermissible in Magnifica Humanitas, a 42300-word document calling for... techtimes.com
Discover how the Musk-Altman trial and AI Existential Risk debates are reshaping governance, investment, and corporate accountability. aicerts.ai
As Americans stew over the looming risk of job-stealing AI and data centers in their back yards, the feds are raising the alarm about a new category of... wired.com