AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 138 článků

Představujeme Plán A

Text s podtitulem „A jako Amerika“ upozorňuje, že nikdo nemá skutečný plán pro případ, že se AI ukáže jako reálná zásadní síla. Návrhy sice existují, ale žádný z nich zatím nestačí. Zdroj: astralcodexten.com

Co může filozofie nabídnout v éře umělé inteligence?

S blížícím se příchodem obecné umělé inteligence (AGI) vyvstává otázka, zda jsou technologické firmy skutečně schopné čelit jejím morálním, politickým a společenským důsledkům. Zdroj: eu.36kr.com

Boj proti datovým centrům pro AI je důležitý, ale je jen začátkem

AI firmy chtějí získat hodnotu, kterou vytvářejí celá odvětví. Podle autorů Bruce Schneiera a Nathana E. Sanderse je právě tato koncentrace bohatství a moci největším rizikem pro společnost. Zdroj: theguardian.com

Mánie růstu žene nebezpečný rozvoj AI i její existenční rizika

Riziko spojené s AI je podle autora vrcholem mánie růstu, kdy hrstka technologických elit hazarduje s budoucností lidstva. Dělají to bez našeho souhlasu a bez odpovědnosti. Zdroj: resilience.org

Bezpečnost a inovace se u agentní AI vzájemně doplňují

Budoucnost, kdy spolu budou komunikovat AI agenti, je na dohled. Podle Anshumana Chhabry, odborného asistenta na USF, jde o oblast, kde bezpečnost a inovace nejsou v rozporu, ale jdou ruku v ruce. Zdroj: usf.edu

Zpráva o bezpečnosti AI je studená sprcha pro celý obor – u nejtěžšího testu neuspěl nikdo

Americká AI laboratoř Anthropic se umístila na prvním místě nového globálního žebříčku bezpečnosti AI, zpráva zveřejněná v úterý ale upozorňuje, že celý obor má vážné nedostatky. Ani nejlépe hodnocené firmy si podle autorů nevedly dobře v nejnáročnějších testech. Zdroj: malaymail.com

Globální hodnocení bezpečnosti AI propadá: nejlepší výsledek sotva na trojku

Future of Life Institute (FLI) zveřejnil svůj AI Safety Index za první polovinu roku 2026 a výsledky jsou tristní. Mezi devíti hlavními globálními AI firmami nikdo nedosáhl skutečně dobrého hodnocení. Zdroj: finance.biggo.com

Google, Anthropic a OpenAI vedou žebříček AI Safety Index, SpaceXAI dostal F

AI Safety Index od Future of Life Institute hodnotí Anthropic, OpenAI a Google nejlépe, zatímco ostatní firmy propadají. Zdroj: seekingalpha.com

Globální AI průmysl selhává v bezpečnosti, varuje think-tank

Americká laboratoř Anthropic získala v globálním bezpečnostním žebříčku nejlepší známku „C+“, žádná firma však nesplnila nejvyšší standardy v hodnocení rizik a řízení, uvádí Future of Life Institute. Zdroj: straitstimes.com

Nové pohledy na společenská rizika AI

Bezpečnost AI, dříve okrajové téma, dnes zná většina lidí, ale málokdo ví, jak se proti novým rizikům skutečně bránit. Zdroj: nyas.org

Podrobný pohled na nově zveřejněný rámec Googlu „AI Governance in America“

Google představil nový rámec pro řízení AI, který navrhuje vznik nezávislé Frontier AI Regulatory Organization (FARO) pro USA. Cílem iniciativy je nastavit jasnější pravidla regulace pokročilých AI systémů. Zdroj: forbes.com

Velké technologické firmy globálně couvají od slibů o bezpečnosti AI, varují experti

FLI zveřejnil AI Safety Index za první polovinu roku 2026, Anthropic získal C+ a žádná firma nedosáhla na A ani B. Podle institutu se hrozby spojené s AI staly reálným společenským problémem, který dobrovolné závazky firem už nestačí řešit. Zdroj: en.sedaily.com

Bernieho bojovník za regulaci AI má svůj černý seznam

Abdul El-Sayed, kandidát do Senátu za Michigan podporovaný Berniem Sandersem, představil razantní plán regulace AI, který zahrnuje i odprodej majetku velkých technologických firem. Zdroj: puck.news

V éře AI potřebujeme planetární inteligenci

Will Marshall, šéf Planet Labs, tvrdí, že klíčem k souladu AI se zájmy lidstva je takzvaná planetární inteligence. Zdroj: time.com

Anthropic odhaluje „J-lens“: tichý vnitřní prostor v Claude připomínající teorii vědomí

Nový výzkum Anthropicu odhalil skrytý vnitřní „globální pracovní prostor“ v Claude, který se podobá lidskému vědomému zpracování informací. Zjištění vyvolává zásadní otázky ohledně vědomí u AI. Zdroj: venturebeat.com

J-Lens dává Claude monitorovatelnou mysl a mění interpretovatelnost v konkurenční výhodu Anthropicu

Nový interpretační výzkum Anthropicu ukazuje, že Claude přemýšlí dřív, než promluví. Sledování jeho vnitřních myšlenkových procesů by se mohlo stát klíčovým nástrojem pro compliance. Zdroj: fourweekmba.com

Expert na AI bezpečnost Yampolskiy: šance na vyhubení lidstva je 99,9 %

Co když se nejvýznamnější technologický objev v historii lidstva ukáže být zároveň jeho posledním vynálezem? Právě touto otázkou se zabývá expert na AI bezpečnost Roman Yampolskiy. Zdroj: theaiinsider.tech

NÁZOR: Světová válka o AI

Od Oppenheimera po Anthropic – jak se závod o stále chytřejší AI stal novými závody ve zbrojení a proč se nikdo neshodne na tom, jak ho zastavit. Zdroj: kyivpost.com

Otevřený dopis: Překročila AI už bod „singularity“?

Signatáři dopisu tvrdí, že varování bylo dost a rizika spojená s AI se rychle stávají zjevnými. Zdroj: tcbmag.com

Méně apokalyptické rétoriky může pomoci zmírnit násilí namířené proti technologiím

Video ukazuje sérii výroků osobností z technologického průmyslu, mezi nimi i tvrzení typu „znám lidi, kteří se zabývají riziky AI a sami nečekají...“. Autoři varují, že přehnaně apokalyptický tón může přiživovat protitechnologické násilí. Zdroj: techpolicy.press