69 článků
Donald Trump a Si Ťin-pching by mohli při svém setkání probrat spolupráci v oblasti umělé inteligence. Obě velmoci zároveň čelí rostoucím obavám z bezpečnostních rizik spojených s AI. economist.com
Po demonstraci zranitelnosti modelu Mythos od Anthropic vydala Trumpova administrativa výkonný příkaz k předpublikačnímu bezpečnostnímu testování AI. Součástí iniciativy jsou dobrovolné dohody v rámci projektu CAISI se společnostmi jako Google. startupfortune.com
Common Sense Media launched the Youth AI Safety Institute to independently test AI tools, publish consumer guides, and set safety standards that protect... mezha.net
Platforma Opal představila AI copilota Gem, který propojuje data kampaní s celkovou marketingovou strategií. Cílem je pomoci týmům rychleji pochopit výsledky a snížit tzv. 'alignment tax' spojenou s nasazením AI. marketingdive.com
Generální ředitel DeepMind Demis Hassabis se v rozhovoru s Lexem Fridmanem zamýšlí nad bezpečností umělé inteligence, AGI a budoucností vědeckého poznání. Diskuse se dotýká klíčových otázek, které hýbají světem špičkového výzkumu AI. startuphub.ai
Oakland: Elon Musk testified for over seven hours across three days in a trial in Oakland, California, concerning OpenAI's future, framing his lawsuit as a... newsmobile.in
Odbornice na bezpečnost AI Dr. Eleanor Vance upozorňuje na existenční rizika spojená s rychlým vývojem umělé inteligence. Vyzývá k mezinárodní spolupráci a zavedení důkladné regulace na globální úrovni. startuphub.ai
Startupová společnost Goodfire ze San Francisca vydala 30. dubna nástroj Silico – platformu pro mechanistickou interpretovatelnost, která výzkumníkům umožňuje zkoumat a upravovat velké jazykové modely přímo během trénování. Jde o přelom pro oblast bezpečnosti AI, protože dosud bylo možné modely analyzovat až po jejich dokončení. startupfortune.com
Ministr financí Scott Bessent ostře odsoudil chystané fórum o bezpečnosti AI, které organizuje senátor Bernie Sanders za účasti čínských vědců. Podle Bessenta jde o hazard s americkými zájmy a přirovnal Sandersův přístup k ekonomickým myšlenkám Huga Cháveze. yahoo.com
Šéf OpenAI Sam Altman rozšiřuje debatu o bezpečnosti AI za hranice existenčních rizik – zaměřuje se na předsudky v algoritmech, vytlačování pracovních míst a nutnost proaktivních opatření. startuphub.ai
Odborníci na bezpečnost umělé inteligence se dlouho pohybují v úzkém kruhu zasvěcenců. Širší společenská základna by však mohla být jedinou cestou, jak prosadit jejich požadavky. transformernews.ai
Jedním ze základních účelů zákonů o financování kampaní je zajistit voličům transparentnost ohledně toho, kdo se snaží ovlivnit jejich hlasy. Politické akční výbory (PAC) zaměřené na bezpečnost AI však tuto transparentnost dosud v plné míře nenaplňují. transformernews.ai
Anthropic spouští Fellows Program, strukturovaný výzkumný program určený pro nastupující talenty v oblastech AI výzkumu, inženýrství a bezpečnosti AI. Přihlášky jsou otevřeny do 26. dubna 2026. globalsouthopportunities.com
Aella je datová vědkyně, autorka Substacku o sexuálním výzkumu a organizátorka orgií. Nyní se přidala k hnutí za bezpečnost AI a vyzývá tvůrce obsahu, aby se problematikou vážně zabývali. sfstandard.com
Editor's Notes: In this episode of Triggernometry, Dr. Roman Yampolskiy, a leading expert in AI safety, presents a sobering argument for why he believes... singjupost.com
Anthropic has opened applications for its AI Safety Fellows Program for 2026 cohorts beginning in May and July. The fellowship offers funded research... msn.com
Novinářka Par-Miyol Olsonová z Bloombergu rozebírá debatu o rizicích umělé inteligence a zpochybňuje přílišné soustředění na existenciální hrozby. Místo toho zdůrazňuje potřebu praktického přístupu k regulaci a skutečným, každodenním dopadům AI technologií. startuphub.ai
Artificial Intelligence presents a number of risks and challenges, the most important of which is existential risk. That is a fancy way of saying that AIs... persuasion.community
AI safety expert Dr. Anya Sharma warns of existential risks from advanced AI on 'AI Unpacked', urging global cooperation. startuphub.ai
Trénování moderního velkého jazykového modelu není jednorázový krok, ale pečlivě řízený proces, který přeměňuje surová data ve spolehlivý a zarovnaný systém. Článek technicky rozebírá jednotlivé fáze tohoto pipeline – od předtrénování přes RLHF až po nasazení do produkce. marktechpost.com