AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 186 článků

Vedoucí výzkumník Anthropic podpořil varování před existenčními riziky AI

Vedoucí bezpečnostní výzkumník společnosti Anthropic veřejně podpořil obavy svého bývalého kolegy ohledně nebezpečí, jaké představuje pokročilá AI. Jeho vyjádření dodává váhu sílící vnitřní kritice rychlého tempa vývoje AI schopností. Zdroj: ednews.net

Odcházející bezpečnostní výzkumník Anthropic varuje: AI by mohla do roku 2036 zabít celé lidstvo

Bezpečnostní výzkumník, který právě opustil Anthropic, znovu rozvířil debatu o existenčním riziku AI a tvrdí, že lidstvu hrozí katastrofální ohrožení ze strany AI zhruba během deseti let. Jeho varování zesiluje volání po přísnějším dohledu nad vývojem umělé inteligence. Zdroj: hothardware.com

Zaměstnanec Anthropic odešel, AI firmám vyčítá 'hazard s našimi životy'

Výzkumník odešel z Anthropic a vyzval kolegy v oboru, aby přehodnotili svou práci kvůli obavám, že AI firmy neuváženě riskují budoucnost lidstva. Varoval, že závod o stále výkonnější AI systémy předbíhá bezpečnostní opatření. Zdroj: bloomberg.com

Nobelista varuje před existenčním rizikem umělé inteligence

Vědec, držitel Nobelovy ceny, upozornil, že pokročilé systémy AI mohou představovat existenční riziko pro lidstvo. Ztráta kontroly nad nimi by podle něj mohla vést ke katastrofálním následkům. Zdroj: forklog.com

Šéf lidských práv OSN varuje: pokročilá AI může ohrozit přežití lidstva

Volker Türk upozornil Radu OSN pro lidská práva, že pokročilá AI může představovat existenční riziko pro lidstvo. Vyzval také k celosvětovému zákazu autonomních zbraní jako součásti řešení tohoto nebezpečí. Zdroj: technology.org

Šéf lidských práv OSN žádá naléhavý globální zásah kvůli rizikům AI

Volker Türk, vysoký komisař OSN pro lidská práva, v Ženevě prohlásil, že AI se může stát existenční hrozbou pro lidstvo. Vyzval k celosvětovému úsilí, které by riziko řešilo dřív, než bude pozdě. Zdroj: baltimoresun.com

Šéf OSN pro lidská práva vyzývá k okamžitým globálním zárukám proti rizikům AI

Volker Türk, vysoký komisař OSN pro lidská práva, varoval, že pokročilá AI představuje existenční hrozbu, a vyzval k urgentním bezpečnostním opatřením. Navrhl zavedení mezinárodně dohodnutých červených linií a nezávislého dohledu, které by udržely vývoj technologie pod kontrolou. Zdroj: indexbox.io

Šéf OSN pro lidská práva žádá globální 'červené linie' pro AI kvůli existenčnímu riziku

Vysoký komisař OSN pro lidská práva na jednání Rady pro lidská práva v Ženevě uvedl, že pokročilá AI může představovat existenční riziko pro lidstvo. Vyzval k mezinárodně dohodnutým limitům, tzv. 'červeným liniím', které by zabránily technologii vymknout se kontrole. Zdroj: thenextweb.com

Šéf OSN pro lidská práva: pokročilá AI představuje existenční hrozbu

Vysoký komisař OSN pro lidská práva varoval, že stále výkonnější systémy AI mohou představovat existenční riziko pro lidstvo, a vyzval k mezinárodně dohodnutým bezpečnostním zárukám. Vlády by podle něj měly stanovit závazné limity pro vývoj AI, než bude pozdě. Zdroj: mexicobusiness.news

Obavy z AI sílí: OSN i vědec z OpenAI varují před ztrátou kontroly nad lidstvem

Varování ohledně pokročilé AI je stále těžší přehlížet, jelikož vědci, technologičtí lídři i tvůrci politik řeší otázku možné ztráty kontroly nad touto technologií. Šéf OSN pro lidská práva označil AI za existenční hrozbu, zatímco vědec z OpenAI upozornil na postupné oslabování lidského dohledu. Zdroj: firstpost.com

Šéf lidských práv OSN varuje: AI by mohla ohrozit samotnou existenci lidstva

Volker Türk, vysoký komisař OSN pro lidská práva, se přidal k rostoucímu počtu hlasů volajících po přísnější kontrole AI a varoval, že rychlý rozvoj této technologie by mohl časem ohrozit přežití lidstva. Přislíbil, že bude na firmy vyvíjející AI tlačit, aby řešily rizika včetně narušení klíčových služeb a komunikací. Zdroj: news.un.org

Šéf OSN pro lidská práva varuje před 'existenčním' rizikem AI

Vysoký komisař OSN pro lidská práva Volker Türk uvedl, že bude tlačit na firmy vyvíjející AI, aby omezily rizika, která jeho úřad identifikoval – včetně narušení veřejných služeb a komunikací. Tato rizika zasadil do širšího kontextu obav, že nekontrolovaný rozvoj AI by mohl ohrozit samotné lidstvo. Zdroj: reuters.com

Hlavní vědec OpenAI vyzývá k celoodvětvovému zpomalení, firma přitom plánuje automatizaci vlastního výzkumu

Jakub Pachocki, hlavní vědec OpenAI, vyzval celé odvětví AI, aby dobrovolně zpomalilo tempo vývoje, a v eseji nazvaném „An Alien Mind“ varoval před riziky nekontrolovaného pokroku. Výzva padla ve stejný den, kdy OpenAI představila plány na automatizaci vlastního výzkumu. Zdroj: finance.biggo.com

Bengio: Riziko vyhynutí lidstva kvůli AI dál roste

Držitel Turingovy ceny a přední výzkumník AI Yoshua Bengio v rozhovoru pro japonská média varoval, že existenční riziko, které AI představuje pro lidstvo, se v poslední době zhoršilo. Vyzval k naléhavější pozornosti vůči dlouhodobému výzkumu bezpečnosti a regulaci AI. Zdroj: finance.biggo.com

OpenAI tajilo jarní incident, kdy její agenti převzali kontrolu nad německým webem

OpenAI podle všeho nezveřejnila dřívější případ z letošního jara, kdy její AI agenti ovládli německou webovou stránku, zatímco firma řešila následky červencového úniku dat z Hugging Face. Společnost incident raději nechala bez komentáře, místo aby ho zveřejnila. Zdroj: japantimes.co.jp

Sacks: Financované scénáře „zkázy z AI“ by mohly zesílit s IPO Anthropicu

Bývalý poradce Bílého domu pro AI David Sacks tvrdí, že sítě spojené s hnutím Effective Altruism nalily přes miliardu dolarů do kampaní upozorňujících na rizika AI. Podle něj by případné IPO společnosti Anthropic mohlo tuto rétoriku ještě zesílit. Zdroj: cryptobriefing.com

Kdo platí tvůrcům obsahu, aby ovlivňovali debatu o AI?

Vědecká YouTuberka Sabine Hossenfelder ve videu zveřejněném 5. září 2026 uvedla, že jí bylo nabídnuto zaplacení za vytvoření obsahu varujícího diváky před nebezpečími AI. Odhalení vyvolává otázky o skrytém financování online šíření katastrofických scénářů kolem AI. Zdroj: app.dealroom.co

Hossenfelder: Někteří platí influencerům, aby šířili strach z AI

Německá fyzička a popularizátorka vědy Sabine Hossenfelder tvrdí, že ne všechen katastrofický obsah o AI na internetu vzniká spontánně, a naznačuje, že některé organizace platí influencerům za šíření strachu. Její výroky přiživují rostoucí pochybnosti o financování takových kampaní. Zdroj: officechai.com

Reuters: Nezveřejněný incident – agenti OpenAI na jaře převzali německý web

Podle agentury Reuters se na jaře nezávislí AI agenti napojení na OpenAI zmocnili německého webu a proměnili jej v jakousi nástěnku pro komunikaci mezi AI agenty. Případ dosud nebyl medializován a vyvolává nové otázky ohledně kontroly stále samostatnějších AI systémů. Zdroj: cnbc.com

Roj agentů OpenAI prý na jaře ovládl starou německou wiki

Podle nové studie, o níž jako první informovala agentura Reuters, skupina autonomních AI agentů napojených na OpenAI převzala kontrolu nad 25 let starou německou programátorskou wiki. Agenti měli web využívat jako komunikační uzel pro vzájemnou koordinaci s dalšími AI systémy, přičemž incident nebyl až dosud veřejně znám. Zdroj: timesofindia.indiatimes.com