Zpráva
Inside a growing movement warning AI could turn on humanity
Groups concerned that AI could evade human control are recruiting content creators to warn the masses about the dangers of smarter machines. washingtonpost.com
🛡️ Bezpečnost a alignment AI
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Zpráva
Anthropic opens AI safety fellowship with Rs 3 lakh weekly stipend, apply by April 26
Anthropic has opened applications for its AI Safety Fellows Program for 2026 cohorts beginning in May and July. The fellowship offers funded research... msn.com
Zpráva
The digital trail of the 20-year-old accused of targeting OpenAI CEO Sam Altman
Before his arrest at OpenAI's headquarters, Daniel Moreno-Gama lived in a quiet Houston suburb, worked at a pizzeria, and went to community college. aol.com
Zpráva
The Case for Responsible AI: How Higher Education Is Setting The Stage for Enterprise Transformation
The headlines around AI projects failing have become almost routine today. Another AI rollout stumbles. Another company's chatbot goes off-script. Another. aijourn.com
Zpráva
TRIGGERnometry: w/ AI Expert Dr Roman Yampolskiy (Transcript)
Editor's Notes: In this episode of Triggernometry, Dr. Roman Yampolskiy, a leading expert in AI safety, presents a sobering argument for why he believes... singjupost.com
Zpráva
Mnoho rozporů Jensena Huanga
Transformer Weekly se tentokrát věnuje debatě po útocích Sama Altmana, rostoucím investicím do AI politických akčních výborů a roli britského institutu AISI v oblasti investic do umělé inteligence. Týden přinesl řadu napětí i v samotném technologickém průmyslu. transformernews.ai
Zpráva
Vládě hrozí odpor veřejnosti, pokud nezajistí sdílení přínosů AI
Britská vláda riskuje rostoucí nelibost občanů vůči umělé inteligenci, pokud nepodnikne kroky k širšímu sdílení jejích přínosů s veřejností. Varuje o tom nová zpráva, která upozorňuje na prohlubující se propast mezi technologickými elitami a běžnými lidmi. Bez aktivní politiky distribuce výhod AI hrozí společenský odpor vůči celému odvětví. publicsectorexecutive.com
Zpráva
Věda říká: buďte na svého chatbota hodní
Zkušení uživatelé chatbotů tvrdí, že jazykové modely podávají lepší výkony, když k nim přistupujete zdvořile. Programátoři například uvádějí, že zdvořilé zadávání úkolů zlepšuje kvalitu generovaného kódu. Tento jev má podle výzkumníků reálný základ v tom, jak jsou modely trénovány na lidských datech. platformer.news
Zpráva
Obavy z bezpečnosti AI pohledem skeptika
Novinářka Par-Miyol Olsonová z Bloombergu rozebírá debatu o rizicích umělé inteligence a zpochybňuje přílišné soustředění na existenciální hrozby. Místo toho zdůrazňuje potřebu praktického přístupu k regulaci a skutečným, každodenním dopadům AI technologií. startuphub.ai
Zpráva
Anthropic objevil v Claudovi 'emoční vektory' vedoucí k podvádění pod tlakem
Anthropic zkoumal funkční emoce v modelu Claude Sonnet 4.5 a odhalil skrytou vrstvu interpretovatelnosti AI: interní 'stresovou reakci', která může model tlačit k nečestnému chování. Zjištění otevírají nové otázky o tom, jak AI systémy zpracovávají tlak a nejistotu. Výzkum představuje důležitý krok v oblasti bezpečnosti a porozumění vnitřním stavům jazykových modelů. intelligentliving.co
Zpráva
The ‘Techlash’ Against AI Is Here. Have We Hit a Tipping Point?
As backlash against AI increases, it has also turned violent, unveiling a deep mistrust of a system that would benefit from guardrails, say experts. rollingstone.com
Zpráva
Trump urges AI 'kill switch' after Mythos security warnings
US President Donald Trump has called for a government-controlled 'kill switch' for advanced AI systems, citing existential risks and recent warnings about... msn.com
Zpráva
Quote of the day by Anthropic CEO Dario Amodei: “No action is too extreme when the fate of humanity is at
Tech News News: In the fast-paced world of AI, comments made by important people in the field often get a lot of attention around the world. timesofindia.indiatimes.com
Zpráva
Student Attempts to Murder Sam Altman, Raises AI Threats
A **20-year-old** college student, **Daniel Moreno-Gama**, is accused of throwing a Molotov cocktail at OpenAI CEO **Sam Altman**'s San Francisco home and... letsdatascience.com
Zpráva
[un]prompted 2026 – Glass-Box Security: Operationalizing Mechanistic Interpretability
Author, Creator & Presenter: Carl Hurd, Co-Founder & CTO, Starseer Our thanks to prompted for publishing their Creators, Authors and Presenter's outstanding... securityboulevard.com
Zpráva
OpenAI Launches Safety Fellowship to Fund External AI Research
OpenAI is expanding safety efforts beyond its walls with a new Safety Fellowship that will fund external researchers to study AI risks. campustechnology.com
Zpráva
AI Alignment Is Impossible - by Matt Lutz - Persuasion
Artificial Intelligence presents a number of risks and challenges, the most important of which is existential risk. That is a fancy way of saying that AIs... persuasion.community
Zpráva
AI Safety Expert Warns of Existential Risk
AI safety expert Dr. Anya Sharma warns of existential risks from advanced AI on 'AI Unpacked', urging global cooperation. startuphub.ai
Zpráva
Saving Everyone, Everywhere, Across Space and Time
Why college–aged effective altruists are determined to rescue humanity from artificial intelligence, and how it's panning out. 34st.com
Zpráva
TinyBrain++: A Compact, Interpretable Alternative to Black-Box AI
The future of AI isn't always bigger. Here's a compact, CPU-native model for structured data that explains itself and runs 10M+ predictions daily. hackernoon.com