AIskimIQ

Štítek: Safety

263 článků

Expertka na bezpečnost AI varuje před existenčními riziky

Odbornice na bezpečnost AI Dr. Eleanor Vance upozorňuje na existenční rizika spojená s rychlým vývojem umělé inteligence. Vyzývá k mezinárodní spolupráci a zavedení důkladné regulace na globální úrovni. Zdroj: startuphub.ai

Goodfire představil nástroj, který odhaluje vnitřek LLM už při trénování

Startupová společnost Goodfire ze San Francisca vydala 30. dubna nástroj Silico – platformu pro mechanistickou interpretovatelnost, která výzkumníkům umožňuje zkoumat a upravovat velké jazykové modely přímo během trénování. Jde o přelom pro oblast bezpečnosti AI, protože dosud bylo možné modely analyzovat až po jejich dokončení. Zdroj: startupfortune.com

Bessent zkritizoval Sanderse za pozvání čínských vědců na fórum o AI

Ministr financí Scott Bessent ostře odsoudil chystané fórum o bezpečnosti AI, které organizuje senátor Bernie Sanders za účasti čínských vědců. Podle Bessenta jde o hazard s americkými zájmy a přirovnal Sandersův přístup k ekonomickým myšlenkám Huga Cháveze. Zdroj: yahoo.com

Altman: Bezpečnost AI není jen o existenčních hrozbách

Šéf OpenAI Sam Altman rozšiřuje debatu o bezpečnosti AI za hranice existenčních rizik – zaměřuje se na předsudky v algoritmech, vytlačování pracovních míst a nutnost proaktivních opatření. Zdroj: startuphub.ai

Hnutí za bezpečnost AI potřebuje obyčejné lidi

Odborníci na bezpečnost umělé inteligence se dlouho pohybují v úzkém kruhu zasvěcenců. Širší společenská základna by však mohla být jedinou cestou, jak prosadit jejich požadavky. Zdroj: transformernews.ai

PAC zaměřené na bezpečnost AI by měly přiznat, kdo je financuje

Jedním ze základních účelů zákonů o financování kampaní je zajistit voličům transparentnost ohledně toho, kdo se snaží ovlivnit jejich hlasy. Politické akční výbory (PAC) zaměřené na bezpečnost AI však tuto transparentnost dosud v plné míře nenaplňují. Zdroj: transformernews.ai

Anthropic otevřel přihlášky do Fellows Program – deadline 26. dubna 2026

Anthropic spouští Fellows Program, strukturovaný výzkumný program určený pro nastupující talenty v oblastech AI výzkumu, inženýrství a bezpečnosti AI. Přihlášky jsou otevřeny do 26. dubna 2026. Zdroj: globalsouthopportunities.com

Sexuální výzkumnice Aella chce, aby tvůrci čelili AI apokalypse

Aella je datová vědkyně, autorka Substacku o sexuálním výzkumu a organizátorka orgií. Nyní se přidala k hnutí za bezpečnost AI a vyzývá tvůrce obsahu, aby se problematikou vážně zabývali. Zdroj: sfstandard.com

TRIGGERnometry: w/ AI Expert Dr Roman Yampolskiy (Transcript)

Editor's Notes: In this episode of Triggernometry, Dr. Roman Yampolskiy, a leading expert in AI safety, presents a sobering argument for why he believes... Zdroj: singjupost.com

Anthropic opens AI safety fellowship with Rs 3 lakh weekly stipend, apply by April 26

Anthropic has opened applications for its AI Safety Fellows Program for 2026 cohorts beginning in May and July. The fellowship offers funded research... Zdroj: msn.com

Obavy z bezpečnosti AI pohledem skeptika

Novinářka Par-Miyol Olsonová z Bloombergu rozebírá debatu o rizicích umělé inteligence a zpochybňuje přílišné soustředění na existenciální hrozby. Místo toho zdůrazňuje potřebu praktického přístupu k regulaci a skutečným, každodenním dopadům AI technologií. Zdroj: startuphub.ai

AI Alignment Is Impossible - by Matt Lutz - Persuasion

Artificial Intelligence presents a number of risks and challenges, the most important of which is existential risk. That is a fancy way of saying that AIs... Zdroj: persuasion.community

AI Safety Expert Warns of Existential Risk

AI safety expert Dr. Anya Sharma warns of existential risks from advanced AI on 'AI Unpacked', urging global cooperation. Zdroj: startuphub.ai

Hluboký ponor do fází trénování, zarovnání a nasazení moderních LLM

Trénování moderního velkého jazykového modelu není jednorázový krok, ale pečlivě řízený proces, který přeměňuje surová data ve spolehlivý a zarovnaný systém. Článek technicky rozebírá jednotlivé fáze tohoto pipeline – od předtrénování přes RLHF až po nasazení do produkce. Zdroj: marktechpost.com

Sam Altman terčem násilných útoků kvůli obavám z umělé inteligence

Dům šéfa OpenAI byl v průběhu jednoho týdne napaden dvakrát, přičemž útoky jsou spojovány s rostoucími obavami části veřejnosti ohledně bezpečnosti AI. Incidenty ukazují, jak se společenská tenze kolem umělé inteligence mění v konkrétní hrozbu. Zdroj: techbuzz.ai

Výzkumníci využívají LLM ke škálování dohledu nad AI

Stále rychlejší vývoj velkých jazykových modelů přináší dvě zásadní otázky pro výzkum zarovnání AI. Jednou z klíčových oblastí je využití samotných LLM k zajištění škálovatelného dohledu nad jejich vlastním chováním. Zdroj: anthropic.com

AI & Tech Brief: Radical activists and AI safety

Not a subscriber? Sign up here to get this newsletter in your inbox. AI safety advocates and industry groups are casting blame on each other as the nation... Zdroj: washingtonpost.com

Škálování řízených agentů: Oddělení mozku od rukou

Anthropic je společnost zaměřená na bezpečnost a výzkum umělé inteligence, jejímž cílem je budovat spolehlivé, interpretovatelné a řiditelné AI systémy. Článek se zabývá architektonickým přístupem k oddělení rozhodovací logiky od výkonných nástrojů u managed agentů. Zdroj: anthropic.com

Expertka na bezpečnost AI varuje před existenčními riziky

Expertka na bezpečnost AI Dr. Amanpreet Singh diskutuje o existenčních rizicích spojených s umělou inteligencí v podcastu AI Insights. Zdůrazňuje naléhavou potřebu globální správy a regulace AI. Zdroj: startuphub.ai

Virální příspěvek kritizuje přístup Anthropicu k bezpečnosti AI

Virální příspěvek na X upozorňuje, že Anthropic vyvíjí AI, která by podle autora mohla "obrátit se proti lidstvu" kvůli tomu, co považuje za "woke ideologii" v přístupu společnosti k bezpečnosti. Příspěvek vyvolal diskusi v technologické komunitě o tom, jak By měly být priority bezpečnosti AI vyváženě řešeny. Zdroj: ibtimes.com.au