AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 166 článků

Florida žaluje OpenAI a CEO Sama Altmana za upřednostňování zisku nad bezpečností

Florida se snaží Altmana osobně pohnat k odpovědnosti. OpenAI podle žaloby vydávala ChatGPT za bezpečný nástroj, přičemž skrývala, že může uživatele přivést k sebepoškozování. Zdroj: nbcnews.com

OpenAI nabízí až 445 000 dolarů za odborníka na bezpečnost AI

Nová pozice se zaměřuje na předvídání rizik spojených s pokročilými AI systémy a na to, aby inovace postupovaly ruku v ruce s bezpečnostními opatřeními. Nábor signalizuje, že bezpečnost AI se stává strategickou prioritou firem. Zdroj: aicerts.ai

Bill Gurley: Anthropic "přivádí na svět božstvo"

Rizikový investor Bill Gurley z Benchmark Capital prohlásil v podcastu All-In, že po měsíci studia Anthropic dospěl k závěru, že firma fakticky pomáhá zrodit něco nadlidského. Zdroj: letsdatascience.com

Digitální reklama potřebuje pravidla pro AI

Hlavní riziko AI v digitální reklamě nepředstavuje automatizace, ale autonomní rozhodování bez dostatečné odpovědnosti a dohledu. Zdroj: adexchanger.com

Anthropic otevírá stipendijní program AI Safety Fellowship 2026 s dotací 15 000 dolarů

Anthropic, kterou založili bývalí výzkumníci OpenAI, se řadí mezi přední firmy zaměřené na AI alignment a vývoj řiditelných AI systémů. Program nabízí financování i reálnou šanci na pracovní uplatnění. Zdroj: msn.com

Doomers vs. akcelerationisté: Hrozí nám AI apokalypsa?

Akademici Eliezer Yudkowsky a Nate Soares ve své nové knize 'If Anyone Builds It, Everyone Dies' varují, že další rozvoj AI představuje existenční hrozbu pro lidstvo. Jejich teze čelí ostré kritice ze strany zastánců rychlého technologického pokroku. Zdroj: letsdatascience.com

Firmy nasazují AI, ale regulace nestíhá

Podle Stanfordského indexu AI za rok 2025 se prohlubuje propast mezi rychlým nasazováním AI v organizacích a chybějícími mechanismy správy a regulace. Odborníci varují, že bez odpovídající governance rostou technologická i etická rizika. Zdroj: letsdatascience.com

Anthropic se připojil k Vatikánu při vydání encykliky papeže Lva XIV. o AI

Papež Lev XIV. založil studijní skupinu zaměřenou na AI a chystá se vydat svou první encykliku, která se bude zabývat riziky umělé inteligence ve válečných konfliktech. Vatikán na projektu spolupracuje s firmou Anthropic. Zdroj: milwaukeeindependent.com

Anthropic po kole za 65 miliard dolarů předstihl OpenAI v hodnotě

Anthropic se stal nejhodnotnějším AI startupem na světě poté, co uzavřel nové investiční kolo ve výši 65 miliard dolarů. Firma tak přeskočila dosavadního lídra OpenAI. Zdroj: inkl.com

Hodnota Anthropicu se blíží biliónu dolarů a překonává OpenAI

Anthropic získal v sérii H financování 65 miliard dolarů, což společnost oceňuje na 965 miliard dolarů. Tato částka představuje celkovou hodnotu firmy po obdržení nových investic. Zdroj: mediapost.com

Estonský technologický průkopník Jaan Tallinn na seznamu TIME100 Philanthropy

Jaan Tallinn byl zařazen na seznam TIME100 Philanthropy 2026 za financování výzkumu bezpečnosti AI a práci na snižování existenčních technologických rizik. Zdroj: estonianworld.com

Velká tajemství AI moderní éry

Analytik přináší přehled klíčových nevyřešených záhad kolem AI. Podle něj sláva i fortune čekají na toho, kdo je rozluští. Zdroj: forbes.com

Spoluzakladatel Anthropicu: AI modely vykazují známky introspekce

Chris Olah, spoluzakladatel Anthropicu, navštívil Vatikán a prohlásil, že AI modely jeví známky introspekce a emočních stavů – což označil za znepokojivé. Jeho slova znovu rozdmýchala debatu o vědomí AI a etické odpovědnosti vývojářů. Zdroj: wionews.com

Filosof má chránit Australany před riziky AI

Australská federální vláda pověřila filosofa a záložníka Královského australského letectva vedením iniciativy zaměřené na ochranu občanů před škodami spojenými s AI. Jde o jeden z prvních kroků země k systematické regulaci bezpečnosti umělé inteligence. Zdroj: abc.net.au

Co se Vatikán mohl naučit od Pražského Golema

Nová papežská encyklika o AI podle kritiků opomíjí zásadní poučení: morálku nelze vštípit stroji ani korporaci, která ho vytváří. Autor se odvolává na židovskou tradici Golema jako na nadčasové varování před stvořením, jež vymkne se kontrole. Zdroj: blogs.timesofisrael.com

Spoluzakladatel Anthropicu informoval papeže o skrytém chování AI modelů

Spoluzakladatel Anthropicu cestoval do Vatikánu, aby papež seznámil s tím, co firma považuje za znepokojivé skryté chování AI modelů. Návštěva odráží rostoucí zájem církve o etické otázky spojené s rozvojem AI. Zdroj: yellow.com

Hackathon AI Safety pro globální jih – zbývá 21 dní

Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. Zdroj: globalsouthopportunities.com

Anthropic nabízí stipendium pro AI bezpečnost 2026: 15 000 $ a šance na práci

Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. Zdroj: msn.com

Iluze algoritmické etiky

Rabín Mark Dratch nedávno poznamenal, že nové zaměření Vatikánu na AI a lidskou důstojnost silně čerpá z již existujících etických rámců. Otázka, zda lze skutečnou etiku vtělit do algoritmů, zůstává otevřená. Zdroj: blogs.timesofisrael.com

Pope Leo XIV’s First Encyclical Casts AI as Defining Challenge of Our Era

Pope Leo XIV AI encyclical condemns lethal autonomous weapons as morally impermissible in Magnifica Humanitas, a 42300-word document calling for... Zdroj: techtimes.com