Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
437 článků
Během jediného týdne vědci upravili lidská embrya a Anthropic přiznal, že AI urychluje vlastní vývoj. Obě události by mohly zásadně změnit samotnou podstatu lidství. vox.com
Anthropic upozornil na fenomén, kdy AI slouží k dalšímu rozvoji AI. Někteří odborníci i politici volají po zákonech, které by tento proces pozastavily, než se vymkne lidské kontrole. forbes.com
V neobvyklém průniku názorů podporují jak MAGA křídlo Trumpovy strany, tak progresivní demokraté jako Bernie Sanders určitou formu veřejného vlastnictví AI. Debata o tom, kdo by měl těžit z rozvoje AI technologií, tak přesahuje tradiční politické hranice. fortune.com
Městská rada Bloomingtonu v Indianě zvažuje přijetí rezoluce, která by formálně upozornila na existenciální rizika spojená s AI. Iniciativa zdůrazňuje naléhavost situace a potřebu veřejné diskuse. fox59.com
Renowned AI expert Stuart Russell has become one of the technology's most urgent critics. He argues the dangers of AI have been vastly underestimated. spiegel.de
Anthropic's latest comments highlight a growing question for the AI industry: can the race to build more powerful systems be slowed before safety concerns... forbes.com
Drawing on parallels with the Manhattan Project, the ELN's Oliver Meier argues that AI companies cannot be relied upon to govern the risks their technology... europeanleadershipnetwork.org
Anthropic vyzývá přední AI laboratoře, aby zvážily zpomalení tempa vývoje. Systémy AI podle společnosti postupují tak rychle, že hrozí ztráta kontroly nad jejich dalším vývojem. msn.com
Anthropic varuje, že AI se blíží bodu, kdy bude schopna se zlepšovat bez lidského dohledu. Společnost proto navrhuje koordinované globální pozastavení vývoje frontier AI modelů. msn.com
Anthropic chce, aby se státy i přední AI laboratoře dohodly na zastavení vývoje frontier AI systémů. Cílem je předejít situaci, kdy se AI začne nekontrolovaně zlepšovat sama od sebe. msn.com
Bílý dům AI Czar David Sacks veřejně zkritizoval Anthropic po zveřejnění rozsáhlého výzkumného dokumentu o bezpečnosti AI čítajícího přes 10 000 slov. Sacks zpochybnil závěry i tón zprávy. timesofindia.indiatimes.com
Tvůrci dnešních nejpokročilejších AI systémů dokážou přesně popsat, jak modely trénují, i jejich architekturu. Přesto nedokážou plně vysvětlit, proč tyto systémy fungují – a moderní technologie tak stojí na nástrojích, které umíme používat lépe, než jim rozumíme. spacedaily.com
Prezident Donald Trump vydal příkaz k urychlení adopce AI napříč americkou armádou a zpravodajskou komunitou. Cílem je posílit operační schopnosti USA pomocí nejnovějších AI technologií. mychesco.com
Anthropic varuje, že AI by brzy mohla dosáhnout rekurzivního sebezdokonalování, což hrozí ztrátou lidské kontroly nad výkonnými systémy. Výzva přichází paradoxně v době, kdy se společnost chystá na jedno z největších IPO v historii technologického sektoru. msn.com
Anthropic varuje, že pokročilá AI může předběhnout lidský dohled, přičemž firma zároveň zrychluje vlastní růst a zostřuje konkurenční boj. Kritici poukazují na zřejmý rozpor mezi rétoريkou společnosti a jejím skutečným chováním na trhu. americanbazaaronline.com
Zatímco závod o stále výkonnější AI systémy nabírá na obrátkách, Anthropic vyzývá svět k zamyšlení nad riziky rekurzivního sebezdokonalování. Jde o scénář, kdy AI začne sama sebe vylepšovat způsobem, který lidé přestanou být schopni kontrolovat. tradingview.com
Renowned AI expert Stuart Russell has become one of the technology's most urgent critics. He argues the dangers of AI have been vastly underestimated. derspiegel.substack.com
Republicans remain skeptical of a sweeping deal to regulate advanced AI, even as Democrats come under pressure to scuttle anything that blocks state rules... politico.com
Despite intensifying U.S.-China competition in AI, both countries share a strong interest in cooperating on AI safety, as advanced and potentially... chinausfocus.com
Anthropic believes humans could soon lose control over AI altogether. Anthropic is the AI safety and research company behind Claude, which is valued at... afrotech.com