Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 166 článků
Důležitost:ZprávaAI safety accountability/legal
Florida žaluje OpenAI a CEO Sama Altmana za upřednostňování zisku nad bezpečností
Florida se snaží Altmana osobně pohnat k odpovědnosti. OpenAI podle žaloby vydávala ChatGPT za bezpečný nástroj, přičemž skrývala, že může uživatele přivést k sebepoškozování. Zdroj: nbcnews.com
Důležitost:ZprávaAI safety hiring/org
OpenAI nabízí až 445 000 dolarů za odborníka na bezpečnost AI
Nová pozice se zaměřuje na předvídání rizik spojených s pokročilými AI systémy a na to, aby inovace postupovaly ruku v ruce s bezpečnostními opatřeními. Nábor signalizuje, že bezpečnost AI se stává strategickou prioritou firem. Zdroj: aicerts.ai
Důležitost:Názorexistential risk discussion
Bill Gurley: Anthropic "přivádí na svět božstvo"
Rizikový investor Bill Gurley z Benchmark Capital prohlásil v podcastu All-In, že po měsíci studia Anthropic dospěl k závěru, že firma fakticky pomáhá zrodit něco nadlidského. Zdroj: letsdatascience.com
Důležitost:NázorAI governance/accountability
Digitální reklama potřebuje pravidla pro AI
Hlavní riziko AI v digitální reklamě nepředstavuje automatizace, ale autonomní rozhodování bez dostatečné odpovědnosti a dohledu. Zdroj: adexchanger.com
Důležitost:ZprávaAI safety fellowship/alignment
Anthropic otevírá stipendijní program AI Safety Fellowship 2026 s dotací 15 000 dolarů
Anthropic, kterou založili bývalí výzkumníci OpenAI, se řadí mezi přední firmy zaměřené na AI alignment a vývoj řiditelných AI systémů. Program nabízí financování i reálnou šanci na pracovní uplatnění. Zdroj: msn.com
Důležitost:Názorexistential risk
Doomers vs. akcelerationisté: Hrozí nám AI apokalypsa?
Akademici Eliezer Yudkowsky a Nate Soares ve své nové knize 'If Anyone Builds It, Everyone Dies' varují, že další rozvoj AI představuje existenční hrozbu pro lidstvo. Jejich teze čelí ostré kritice ze strany zastánců rychlého technologického pokroku. Zdroj: letsdatascience.com
Důležitost:Zprávagovernance
Firmy nasazují AI, ale regulace nestíhá
Podle Stanfordského indexu AI za rok 2025 se prohlubuje propast mezi rychlým nasazováním AI v organizacích a chybějícími mechanismy správy a regulace. Odborníci varují, že bez odpovídající governance rostou technologická i etická rizika. Zdroj: letsdatascience.com
Důležitost:Zprávagovernance
Anthropic se připojil k Vatikánu při vydání encykliky papeže Lva XIV. o AI
Papež Lev XIV. založil studijní skupinu zaměřenou na AI a chystá se vydat svou první encykliku, která se bude zabývat riziky umělé inteligence ve válečných konfliktech. Vatikán na projektu spolupracuje s firmou Anthropic. Zdroj: milwaukeeindependent.com
Důležitost:ZprávaAI industry
Anthropic po kole za 65 miliard dolarů předstihl OpenAI v hodnotě
Anthropic se stal nejhodnotnějším AI startupem na světě poté, co uzavřel nové investiční kolo ve výši 65 miliard dolarů. Firma tak přeskočila dosavadního lídra OpenAI. Zdroj: inkl.com
Důležitost:ZprávaAnthropic funding / AI safety org
Hodnota Anthropicu se blíží biliónu dolarů a překonává OpenAI
Anthropic získal v sérii H financování 65 miliard dolarů, což společnost oceňuje na 965 miliard dolarů. Tato částka představuje celkovou hodnotu firmy po obdržení nových investic. Zdroj: mediapost.com
Důležitost:Zprávaexistential risk / philanthropy
Estonský technologický průkopník Jaan Tallinn na seznamu TIME100 Philanthropy
Jaan Tallinn byl zařazen na seznam TIME100 Philanthropy 2026 za financování výzkumu bezpečnosti AI a práci na snižování existenčních technologických rizik. Zdroj: estonianworld.com
Důležitost:NázorAI mysteries / alignment
Velká tajemství AI moderní éry
Analytik přináší přehled klíčových nevyřešených záhad kolem AI. Podle něj sláva i fortune čekají na toho, kdo je rozluští. Zdroj: forbes.com
Spoluzakladatel Anthropicu: AI modely vykazují známky introspekce
Chris Olah, spoluzakladatel Anthropicu, navštívil Vatikán a prohlásil, že AI modely jeví známky introspekce a emočních stavů – což označil za znepokojivé. Jeho slova znovu rozdmýchala debatu o vědomí AI a etické odpovědnosti vývojářů. Zdroj: wionews.com
Důležitost:ZprávaAI governance - national safety leadership
Filosof má chránit Australany před riziky AI
Australská federální vláda pověřila filosofa a záložníka Královského australského letectva vedením iniciativy zaměřené na ochranu občanů před škodami spojenými s AI. Jde o jeden z prvních kroků země k systematické regulaci bezpečnosti umělé inteligence. Zdroj: abc.net.au
Důležitost:NázorAI ethics - governance philosophy
Co se Vatikán mohl naučit od Pražského Golema
Nová papežská encyklika o AI podle kritiků opomíjí zásadní poučení: morálku nelze vštípit stroji ani korporaci, která ho vytváří. Autor se odvolává na židovskou tradici Golema jako na nadčasové varování před stvořením, jež vymkne se kontrole. Zdroj: blogs.timesofisrael.com
Spoluzakladatel Anthropicu informoval papeže o skrytém chování AI modelů
Spoluzakladatel Anthropicu cestoval do Vatikánu, aby papež seznámil s tím, co firma považuje za znepokojivé skryté chování AI modelů. Návštěva odráží rostoucí zájem církve o etické otázky spojené s rozvojem AI. Zdroj: yellow.com
Hackathon AI Safety pro globální jih – zbývá 21 dní
Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. Zdroj: globalsouthopportunities.com
Důležitost:ZprávaAI safety fellowship/alignment
Anthropic nabízí stipendium pro AI bezpečnost 2026: 15 000 $ a šance na práci
Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. Zdroj: msn.com
Důležitost:NázorAI ethics and governance
Iluze algoritmické etiky
Rabín Mark Dratch nedávno poznamenal, že nové zaměření Vatikánu na AI a lidskou důstojnost silně čerpá z již existujících etických rámců. Otázka, zda lze skutečnou etiku vtělit do algoritmů, zůstává otevřená. Zdroj: blogs.timesofisrael.com
Pope Leo XIV’s First Encyclical Casts AI as Defining Challenge of Our Era
Pope Leo XIV AI encyclical condemns lethal autonomous weapons as morally impermissible in Magnifica Humanitas, a 42300-word document calling for... Zdroj: techtimes.com