Představujeme Plán A
Text s podtitulem „A jako Amerika“ upozorňuje, že nikdo nemá skutečný plán pro případ, že se AI ukáže jako reálná zásadní síla. Návrhy sice existují, ale žádný z nich zatím nestačí. Zdroj: astralcodexten.com
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 138 článků
Text s podtitulem „A jako Amerika“ upozorňuje, že nikdo nemá skutečný plán pro případ, že se AI ukáže jako reálná zásadní síla. Návrhy sice existují, ale žádný z nich zatím nestačí. Zdroj: astralcodexten.com
S blížícím se příchodem obecné umělé inteligence (AGI) vyvstává otázka, zda jsou technologické firmy skutečně schopné čelit jejím morálním, politickým a společenským důsledkům. Zdroj: eu.36kr.com
AI firmy chtějí získat hodnotu, kterou vytvářejí celá odvětví. Podle autorů Bruce Schneiera a Nathana E. Sanderse je právě tato koncentrace bohatství a moci největším rizikem pro společnost. Zdroj: theguardian.com
Riziko spojené s AI je podle autora vrcholem mánie růstu, kdy hrstka technologických elit hazarduje s budoucností lidstva. Dělají to bez našeho souhlasu a bez odpovědnosti. Zdroj: resilience.org
Budoucnost, kdy spolu budou komunikovat AI agenti, je na dohled. Podle Anshumana Chhabry, odborného asistenta na USF, jde o oblast, kde bezpečnost a inovace nejsou v rozporu, ale jdou ruku v ruce. Zdroj: usf.edu
Americká AI laboratoř Anthropic se umístila na prvním místě nového globálního žebříčku bezpečnosti AI, zpráva zveřejněná v úterý ale upozorňuje, že celý obor má vážné nedostatky. Ani nejlépe hodnocené firmy si podle autorů nevedly dobře v nejnáročnějších testech. Zdroj: malaymail.com
Future of Life Institute (FLI) zveřejnil svůj AI Safety Index za první polovinu roku 2026 a výsledky jsou tristní. Mezi devíti hlavními globálními AI firmami nikdo nedosáhl skutečně dobrého hodnocení. Zdroj: finance.biggo.com
AI Safety Index od Future of Life Institute hodnotí Anthropic, OpenAI a Google nejlépe, zatímco ostatní firmy propadají. Zdroj: seekingalpha.com
Americká laboratoř Anthropic získala v globálním bezpečnostním žebříčku nejlepší známku „C+“, žádná firma však nesplnila nejvyšší standardy v hodnocení rizik a řízení, uvádí Future of Life Institute. Zdroj: straitstimes.com
Bezpečnost AI, dříve okrajové téma, dnes zná většina lidí, ale málokdo ví, jak se proti novým rizikům skutečně bránit. Zdroj: nyas.org
Google představil nový rámec pro řízení AI, který navrhuje vznik nezávislé Frontier AI Regulatory Organization (FARO) pro USA. Cílem iniciativy je nastavit jasnější pravidla regulace pokročilých AI systémů. Zdroj: forbes.com
FLI zveřejnil AI Safety Index za první polovinu roku 2026, Anthropic získal C+ a žádná firma nedosáhla na A ani B. Podle institutu se hrozby spojené s AI staly reálným společenským problémem, který dobrovolné závazky firem už nestačí řešit. Zdroj: en.sedaily.com
Abdul El-Sayed, kandidát do Senátu za Michigan podporovaný Berniem Sandersem, představil razantní plán regulace AI, který zahrnuje i odprodej majetku velkých technologických firem. Zdroj: puck.news
Will Marshall, šéf Planet Labs, tvrdí, že klíčem k souladu AI se zájmy lidstva je takzvaná planetární inteligence. Zdroj: time.com
Nový výzkum Anthropicu odhalil skrytý vnitřní „globální pracovní prostor“ v Claude, který se podobá lidskému vědomému zpracování informací. Zjištění vyvolává zásadní otázky ohledně vědomí u AI. Zdroj: venturebeat.com
Nový interpretační výzkum Anthropicu ukazuje, že Claude přemýšlí dřív, než promluví. Sledování jeho vnitřních myšlenkových procesů by se mohlo stát klíčovým nástrojem pro compliance. Zdroj: fourweekmba.com
Co když se nejvýznamnější technologický objev v historii lidstva ukáže být zároveň jeho posledním vynálezem? Právě touto otázkou se zabývá expert na AI bezpečnost Roman Yampolskiy. Zdroj: theaiinsider.tech
Od Oppenheimera po Anthropic – jak se závod o stále chytřejší AI stal novými závody ve zbrojení a proč se nikdo neshodne na tom, jak ho zastavit. Zdroj: kyivpost.com
Signatáři dopisu tvrdí, že varování bylo dost a rizika spojená s AI se rychle stávají zjevnými. Zdroj: tcbmag.com
Video ukazuje sérii výroků osobností z technologického průmyslu, mezi nimi i tvrzení typu „znám lidi, kteří se zabývají riziky AI a sami nečekají...“. Autoři varují, že přehnaně apokalyptický tón může přiživovat protitechnologické násilí. Zdroj: techpolicy.press