AIskimIQ

Štítek: Safety

263 článků

Why alignment can’t stay on the sidelines of AI adoption

As global AI spending tops $2.5 trillion this year, many companies still aren't seeing meaningful returns. With rising pressure to justify investments,... Zdroj: fastcompany.com

Google chce využít AI k hlídání samotné AI

Léta se debata o existenčních rizicích AI točila kolem jediného filozofického cíle: alignmentu. Google nyní představuje plán, jak pomocí samotné AI kontrolovat a omezovat chování jiných AI systémů. Zdroj: the420.in

Roman Yampolskiy varuje před existenčním rizikem AI pro lidstvo

Server VladTV zveřejnil 19. června 2026 článek s titulkem tvrdícím, že AI má 99,9% šanci vyhladit lidstvo. Součástí je exkluzivní rozhovor s odborníkem na bezpečnost AI Romanem Yampolskiym, který dlouhodobě upozorňuje na krajní rizika spojená s rozvojem AI. Zdroj: letsdatascience.com

RL přináší plošné zlepšení souladu modelů napříč benchmarky

Příspěvek na LessWrong z 18. června 2026 popisuje výsledky výzkumu, který využívá RL aplikované na realistické scénáře zaměřené na alignment AI systémů. Studie ukazuje, že tento přístup přináší měřitelné zisky napříč různými benchmarky hodnotícími bezpečnost a spolehlivost modelů. Zdroj: letsdatascience.com

Agentické kódování a návrat k odbornosti

Anthropic je společnost zaměřená na bezpečnost a výzkum AI, jejímž cílem je budovat spolehlivé, interpretovatelné a řiditelné AI systémy. Zdroj: anthropic.com

AI expert se přidal k týmu prosazujícímu vydání nejnovějších modelů

Přední výzkumník v oblasti bezpečnosti AI, který varoval před existenčními riziky, nyní podporuje zveřejňování pokročilých modelů. Jeho postoj odráží širší posun v přístupu ke bezpečnosti AI. Zdroj: cryptobriefing.com

Altman: AI pravděpodobně povede ke konci světa, ale mezitím vzniknou skvělé firmy

Výrok šéfa OpenAI Sama Altmana se stal citátem dne a znovu rozvířil debatu o jeho přístupu k bezpečnosti AI. Altman sice dlouhodobě veřejně prohlašuje, že bezpečnost AI je zásadní priorita, jeho slova ale vyznívají přinejmenším rozporuplně. Zdroj: techradar.com

Varování Amazonu přimělo Bílý dům zablokovat model Mythos od Anthropic

Generální ředitel Amazonu údajně upozornil na zneužití modelu Fable 5 od Anthropic prostřednictvím jailbreaku. To spustilo bezprecedentní příkaz k exportní kontrole a vyvolalo nový střet mezi technologickými firmami a vládou USA. Zdroj: fortune.com

Google DeepMind and partners put $10M behind multi-agent AI safety research

The funding call is open to researchers worldwide and focuses on the risks that may emerge when large populations of AI agents interact across shared... Zdroj: edtechinnovationhub.com

Anthropic's Fable Lockdown Raises New Questions About AI Regulation

Anthropic's Fable AI was shut down following a U.S. government directive limiting access to U.S. nationals, exposing growing tensions between AI safety and... Zdroj: forbes.com

TCS sází na Anthropicův Claude pro regulovaná odvětví

Tata Consultancy Services (TCS) uzavírá strategické partnerství s Anthropic, aby přinesla pokročilé LLM do vysoce regulovaných odvětví. Spolupráce cílí na nasazení Claude v oblastech, kde jsou kladeny přísné požadavky na bezpečnost a shodu. Zdroj: startuphub.ai

Anthropic připravuje půdu pro AI agenty v biologii

Anthropic je společnost zaměřená na bezpečnost a výzkum AI, která usiluje o vývoj spolehlivých, interpretovatelných a řiditelných AI systémů. Jejím dlouhodobým cílem je nasazení AI agentů v oblasti biologického výzkumu. Zdroj: anthropic.com

Sacks se opřel do Anthropicu za varování před AI o délce 10 000 slov

Bílý dům AI Czar David Sacks veřejně zkritizoval Anthropic po zveřejnění rozsáhlého výzkumného dokumentu o bezpečnosti AI čítajícího přes 10 000 slov. Sacks zpochybnil závěry i tón zprávy. Zdroj: timesofindia.indiatimes.com

Anthropic, The AI Safety And Research Company behind Claude, Warns That Humans Could Lose Control Over AI Systems

Anthropic believes humans could soon lose control over AI altogether. Anthropic is the AI safety and research company behind Claude, which is valued at... Zdroj: afrotech.com

Can China and the U.S. Work Together on Preventing Human Extinction?

Despite intensifying U.S.-China competition in AI, both countries share a strong interest in cooperating on AI safety, as advanced and potentially... Zdroj: chinausfocus.com

Anthropic otevírá stipendijní program AI Safety Fellowship 2026 s dotací 15 000 dolarů

Anthropic, kterou založili bývalí výzkumníci OpenAI, se řadí mezi přední firmy zaměřené na AI alignment a vývoj řiditelných AI systémů. Program nabízí financování i reálnou šanci na pracovní uplatnění. Zdroj: msn.com

OpenAI nabízí až 445 000 dolarů za odborníka na bezpečnost AI

Nová pozice se zaměřuje na předvídání rizik spojených s pokročilými AI systémy a na to, aby inovace postupovaly ruku v ruce s bezpečnostními opatřeními. Nábor signalizuje, že bezpečnost AI se stává strategickou prioritou firem. Zdroj: aicerts.ai

Estonský technologický průkopník Jaan Tallinn na seznamu TIME100 Philanthropy

Jaan Tallinn byl zařazen na seznam TIME100 Philanthropy 2026 za financování výzkumu bezpečnosti AI a práci na snižování existenčních technologických rizik. Zdroj: estonianworld.com

Hackathon AI Safety pro globální jih – zbývá 21 dní

Apart Research ve spolupráci se Schmidt Sciences vyhlásil Global South AI Safety Hackathon, regionální iniciativu s cílem rozšířit zapojení do výzkumu bezpečnosti AI za hranice tradičních technologických center. Přihlášky je nutné podat do stanoveného termínu. Zdroj: globalsouthopportunities.com

Anthropic nabízí stipendium pro AI bezpečnost 2026: 15 000 $ a šance na práci

Anthropic, který založili bývalí výzkumníci z OpenAI, patří mezi přední firmy zaměřené na AI alignment a tzv. řiditelné AI systémy. Stipendijní program pro rok 2026 nabízí financování ve výši 15 000 $ a může otevřít dveře k plnému pracovnímu místu. Zdroj: msn.com