Důležitost:Názorexistential risk
Interview – Andrea Miotti
Andrea Miotti, founder and CEO of ControlAI, discusses researching AI, superinterlligence, the X-risk thesis and mitigating AI risks. Zdroj: e-ir.info
🛡️ Bezpečnost a alignment AI
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Důležitost:Názoralignment
Why alignment can’t stay on the sidelines of AI adoption
As global AI spending tops $2.5 trillion this year, many companies still aren't seeing meaningful returns. With rising pressure to justify investments,... Zdroj: fastcompany.com
Důležitost:ZprávaAI safety
If AI robots can be tricked into ‘going rogue’, what are the implications?
Dr Fazl Barez of the University of Oxford explores AI's potential to go rogue and the long-term ramifications for users and creators. Zdroj: siliconrepublic.com
Důležitost:ZprávaAI safety/harm — product liability
Mom sues OpenAI over daughter’s suicide — alleging ChatGPT ‘encouraged her darkest thoughts’
"Not once did OpenAI alert a crisis provider. Not once did OpenAI notify Alice's family. Not once did OpenAI's supposed safety systems intervene to save her... Zdroj: aol.com
Důležitost:NázorAI existential risk discourse
Inside the well-funded AI doom machine — and who is benefiting from it
"You have this huge ecosystem pushing AI doomerism with zero regard for the consequences," Nathan Leamer, executive director of Build American AI,... Zdroj: aol.com
Důležitost:PolitikaAI governance — Senate hearing
Maryland Senator On The Future Of AI: Tech ‘Cannot Just Be Happening’ To Families
Senator Angela Alsobrooks (D-Md. ) took part in a Senate committee hearing Thursday focused on the expanding role of artificial intelligence in the United... Zdroj: aol.com
Důležitost:Zprávaalignment techniques
Google chce využít AI k hlídání samotné AI
Léta se debata o existenčních rizicích AI točila kolem jediného filozofického cíle: alignmentu. Google nyní představuje plán, jak pomocí samotné AI kontrolovat a omezovat chování jiných AI systémů. Zdroj: the420.in
Důležitost:PolitikaAI governance/export policy
Trump: Anthropic už nepředstavuje bezpečnostní hrozbu
Americký prezident Donald Trump prohlásil, že Anthropic přestal být považován za bezpečnostní riziko poté, co společnost splnila americká pravidla pro export AI. Krok přichází v době rostoucího dohledu USA nad šířením pokročilých AI technologií do zahraničí. Zdroj: mexc.com
Důležitost:VideoAI governance and societal impact
Vzestup a střízlivění AI: debata k odkazu Isaaca Asimova 2026
AI přetváří každou oblast moderního života – od vědeckých objevů a kreativní tvorby až po národní bezpečnost a správu dat. Výroční debata Isaac Asimov Memorial se letos zaměřila na důsledky tohoto rychlého rozvoje. Zdroj: mshale.com
Důležitost:VideoAI safety/governance/frontier research
Spoluzakladatel Anthropic a přední ekonom o výzkumu na hranici AI
AI v současnosti přináší řadu otázek – od dopadů na trh práce a společnost až po závažnější existenciální témata. Spoluzakladatel Anthropic a přední ekonom diskutují o tom, jak probíhá výzkum na samé hranici možností současné AI. Zdroj: bloomberg.com
Důležitost:Zprávaexistential risk
Roman Yampolskiy varuje před existenčním rizikem AI pro lidstvo
Server VladTV zveřejnil 19. června 2026 článek s titulkem tvrdícím, že AI má 99,9% šanci vyhladit lidstvo. Součástí je exkluzivní rozhovor s odborníkem na bezpečnost AI Romanem Yampolskiym, který dlouhodobě upozorňuje na krajní rizika spojená s rozvojem AI. Zdroj: letsdatascience.com
Důležitost:Názorinterpretability / Anthropic research critique
Svůdnost čitelného AI: Anthropic umí číst aktivace, ale je to věrný obraz?
Nová studie Anthropicu o modelu Claude umožňuje číst vnitřní aktivace AI – jenže čitelnost ještě neznamená věrnost skutečnému fungování modelu. Právě v tomto rozdílu tkví to nejzajímavější z celé analýzy. Zdroj: medium.datadriveninvestor.com
Důležitost:Výzkuminterpretability
Je polysémantičnost cestou vpřed pro pochopení AI?
Výzkumníci v oblasti AI označují polysémantičnost za jednu z největších překážek při snaze porozumět fungování neuronových sítí. Jde o jev, kdy jednotlivé neurony reagují na více nesouvisejících konceptů zároveň. Zdroj: hackernoon.com
Důležitost:NázorAI regulation
Trumpova administrativa zvolila nejhorší způsob regulace AI
Trumpova administrativa přinutila Anthropic stáhnout nový AI model Fable kvůli obavám o kybernetickou bezpečnost. Odborníci ale varují, že takový ad hoc přístup není správnou cestou k regulaci AI. Zdroj: vox.com
Důležitost:Politikafrontier AI regulation
Gottheimer chystá zákon o hodnocení rizik pokročilých AI modelů
Kongresman Josh Gottheimer prosazuje povinné vládní přezkumy pokročilých AI modelů. Jako hlavní rizika frontier systémů uvádí kybernetickou bezpečnost a možné zneužití k vývoji biologických zbraní. Zdroj: cryptobriefing.com
Důležitost:Zprávaanti-technology extremism
Tichá eskalace: násilí namířené proti technologiím sílí
Nová analýza mapuje rostoucí trend extremismu zaměřeného proti technologiím, včetně útoků na datová centra a žhářského útoku na dům Sama Altmana. Experti varují, že tento fenomén si zaslouží mnohem větší pozornost. Zdroj: gnet-research.org
Důležitost:Názorgovernance
Za reprezentativnější správu AI
Kris Rose, hostující fellow na Georgetown McCourt School of Public Policy a lídr AI transformace v IBM, se zamýšlí nad tím, jak zajistit širší zastoupení různých skupin při utváření AI politik a správy. Zdroj: techpolicy.press
Důležitost:Politikaexistential risk
Proč zakázat superinteligentní AI dřív, než bude pozdě
Britská technologická suverenita podle autora závisí na zákazu superinteligence a zachování lidské kontroly nad AI. Autor vychází z vlastních zkušeností z let strávených ve státní správě. Zdroj: my.rusi.org
Důležitost:ZprávaAI safety
AI expert se přidal k týmu prosazujícímu vydání nejnovějších modelů
Přední výzkumník v oblasti bezpečnosti AI, který varoval před existenčními riziky, nyní podporuje zveřejňování pokročilých modelů. Jeho postoj odráží širší posun v přístupu ke bezpečnosti AI. Zdroj: cryptobriefing.com
Důležitost:Spuštěníinterpretability
CISO Jumpmind představí nový open-source framework pro interpretovatelnost AI
Eric Zielinski, ředitel bezpečnosti informací společnosti Jumpmind, vystoupí na konferenci FIRST Annual Conference 2026 s přednáškou o řízení rizik spojených s interpretovatelností AI. Představí nový open-source framework určený k lepšímu porozumění chování AI systémů. Zdroj: businesswire.com