AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 159 článků

Anthropic vede žebříček bezpečnosti AI pro rok 2026, na áčko ale nedosáhl nikdo

Americký startup Anthropic předstihl konkurenci a získal nejvyšší hodnocení v pololetním žebříčku bezpečnosti založeném na veřejně dostupných datech. Žádná z hodnocených AI firem si přitom nepolepšila na známku lepší než C+. Zdroj: mitsloanme.com

Představujeme Plán A

Text s podtitulem „A jako Amerika“ upozorňuje, že nikdo nemá skutečný plán pro případ, že se AI ukáže jako reálná zásadní síla. Návrhy sice existují, ale žádný z nich zatím nestačí. Zdroj: astralcodexten.com

Mánie růstu žene nebezpečný rozvoj AI i její existenční rizika

Riziko spojené s AI je podle autora vrcholem mánie růstu, kdy hrstka technologických elit hazarduje s budoucností lidstva. Dělají to bez našeho souhlasu a bez odpovědnosti. Zdroj: resilience.org

Bezpečnost a inovace se u agentní AI vzájemně doplňují

Budoucnost, kdy spolu budou komunikovat AI agenti, je na dohled. Podle Anshumana Chhabry, odborného asistenta na USF, jde o oblast, kde bezpečnost a inovace nejsou v rozporu, ale jdou ruku v ruce. Zdroj: usf.edu

Boj proti datovým centrům pro AI je důležitý, ale je jen začátkem

AI firmy chtějí získat hodnotu, kterou vytvářejí celá odvětví. Podle autorů Bruce Schneiera a Nathana E. Sanderse je právě tato koncentrace bohatství a moci největším rizikem pro společnost. Zdroj: theguardian.com

Co může filozofie nabídnout v éře umělé inteligence?

S blížícím se příchodem obecné umělé inteligence (AGI) vyvstává otázka, zda jsou technologické firmy skutečně schopné čelit jejím morálním, politickým a společenským důsledkům. Zdroj: eu.36kr.com

Zpráva o bezpečnosti AI je studená sprcha pro celý obor – u nejtěžšího testu neuspěl nikdo

Americká AI laboratoř Anthropic se umístila na prvním místě nového globálního žebříčku bezpečnosti AI, zpráva zveřejněná v úterý ale upozorňuje, že celý obor má vážné nedostatky. Ani nejlépe hodnocené firmy si podle autorů nevedly dobře v nejnáročnějších testech. Zdroj: malaymail.com

Globální hodnocení bezpečnosti AI propadá: nejlepší výsledek sotva na trojku

Future of Life Institute (FLI) zveřejnil svůj AI Safety Index za první polovinu roku 2026 a výsledky jsou tristní. Mezi devíti hlavními globálními AI firmami nikdo nedosáhl skutečně dobrého hodnocení. Zdroj: finance.biggo.com

Google, Anthropic a OpenAI vedou žebříček AI Safety Index, SpaceXAI dostal F

AI Safety Index od Future of Life Institute hodnotí Anthropic, OpenAI a Google nejlépe, zatímco ostatní firmy propadají. Zdroj: seekingalpha.com

Podrobný pohled na nově zveřejněný rámec Googlu „AI Governance in America“

Google představil nový rámec pro řízení AI, který navrhuje vznik nezávislé Frontier AI Regulatory Organization (FARO) pro USA. Cílem iniciativy je nastavit jasnější pravidla regulace pokročilých AI systémů. Zdroj: forbes.com

Velké technologické firmy globálně couvají od slibů o bezpečnosti AI, varují experti

FLI zveřejnil AI Safety Index za první polovinu roku 2026, Anthropic získal C+ a žádná firma nedosáhla na A ani B. Podle institutu se hrozby spojené s AI staly reálným společenským problémem, který dobrovolné závazky firem už nestačí řešit. Zdroj: en.sedaily.com

Globální AI průmysl selhává v bezpečnosti, varuje think-tank

Americká laboratoř Anthropic získala v globálním bezpečnostním žebříčku nejlepší známku „C+“, žádná firma však nesplnila nejvyšší standardy v hodnocení rizik a řízení, uvádí Future of Life Institute. Zdroj: straitstimes.com

Nové pohledy na společenská rizika AI

Bezpečnost AI, dříve okrajové téma, dnes zná většina lidí, ale málokdo ví, jak se proti novým rizikům skutečně bránit. Zdroj: nyas.org

V éře AI potřebujeme planetární inteligenci

Will Marshall, šéf Planet Labs, tvrdí, že klíčem k souladu AI se zájmy lidstva je takzvaná planetární inteligence. Zdroj: time.com

Bernieho bojovník za regulaci AI má svůj černý seznam

Abdul El-Sayed, kandidát do Senátu za Michigan podporovaný Berniem Sandersem, představil razantní plán regulace AI, který zahrnuje i odprodej majetku velkých technologických firem. Zdroj: puck.news

Expert na AI bezpečnost Yampolskiy: šance na vyhubení lidstva je 99,9 %

Co když se nejvýznamnější technologický objev v historii lidstva ukáže být zároveň jeho posledním vynálezem? Právě touto otázkou se zabývá expert na AI bezpečnost Roman Yampolskiy. Zdroj: theaiinsider.tech

J-Lens dává Claude monitorovatelnou mysl a mění interpretovatelnost v konkurenční výhodu Anthropicu

Nový interpretační výzkum Anthropicu ukazuje, že Claude přemýšlí dřív, než promluví. Sledování jeho vnitřních myšlenkových procesů by se mohlo stát klíčovým nástrojem pro compliance. Zdroj: fourweekmba.com

Anthropic odhaluje „J-lens“: tichý vnitřní prostor v Claude připomínající teorii vědomí

Nový výzkum Anthropicu odhalil skrytý vnitřní „globální pracovní prostor“ v Claude, který se podobá lidskému vědomému zpracování informací. Zjištění vyvolává zásadní otázky ohledně vědomí u AI. Zdroj: venturebeat.com

Jak mohou inženýrské týmy budovat odpovědnější AI systémy

Článek nabízí praktické inženýrské přístupy k odpovědné AI, včetně governance, řešení zkreslení, vysvětlitelnosti, ochrany soukromí, automatizačního zkreslení a lidského dohledu. Zdroj: hackernoon.com

Otevřený dopis: Překročila AI už bod „singularity“?

Signatáři dopisu tvrdí, že varování bylo dost a rizika spojená s AI se rychle stávají zjevnými. Zdroj: tcbmag.com