Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 178 článků
Důležitost:Zprávagovernance
Může se AI stát existenční hrozbou, když američtí zákonodárci tlačí na nová pravidla?
Rostoucí obavy z tempa vývoje AI vedou stále více amerických zákonodárců k požadavkům na přísnější bezpečnostní opatření. Výzvy přicházejí po sérii incidentů, které zvýšily pozornost vůči bezpečnostním praktikám v oboru. Zdroj: moderndiplomacy.eu
Důležitost:ZprávaHigh-profile warnings
Silicon Valley zesiluje varování před existenčními riziky AI
Přední osobnosti Silicon Valley už léta upozorňují, že AI by mohla ohrozit samotnou existenci lidstva – a to i přesto, že sami na stále výkonnějších systémech dál pracují. Tato varování teď zesilují a ozývají se stále častěji. Zdroj: bloomberg.com
Důležitost:ZprávaAI safety movement
Jedna rezignace znovu rozhořela debatu o rizicích AI
S tím, jak jsou AI systémy stále schopnější, začíná bezpečnost brát vážně čím dál širší okruh lidí. Nikdo nečekal, že jediný odchod z firmy promění doutnající obavy v otevřenou diskuzi napříč celým oborem. Zdroj: interconnects.ai
Důležitost:ZprávaDevelopment calls
Další výzkumníci z OpenAI a Anthropic žádají zpomalení vývoje AI
Stále více výzkumníků z OpenAI a Anthropic veřejně vyzývá ke zpomalení pokroku v oblasti AI. Diskuze se vyostřuje kolem rizik samodokonalujících se systémů a rychlosti, jakou by se odvětví mělo dál vyvíjet. Zdroj: cnbc.com
Důležitost:ZprávaAI safety discourse
Bezpečnost AI se z okrajového tématu stala hlavním proudem
To, co bývalo okrajovou posedlostí kalifornských racionalistů, se najednou stalo tématem, o kterém mluví celý technologický svět. Obavy z existenčního rizika AI se dostaly do hlavního proudu debaty. Zdroj: platformer.news
Důležitost:ZprávaCompany warnings
Výzkumníci Anthropic varují před nebezpečím zrychlujícího se vývoje AI
Výzkumníci z Anthropic bijí na poplach kvůli rychlému tempu vývoje AI, které podle nich může ohrozit lidstvo. Jejich obavy navazují na podobná varování dalších expertů z posledních měsíců a přidávají se k sílícím výzvám ke zpomalení. Zdroj: nytimes.com
Důležitost:ZprávaResignations
Další zaměstnanec Anthropic odchází kvůli obavám o bezpečnost AI
Výzkumník Jacob Coxon opustil Anthropic s varováním, že AI by mohla představovat existenční riziko už v tomto desetiletí. Jeho odchod je součástí širší vlny obav o bezpečnost, která se šíří mezi pracovníky v oboru AI. Zdroj: 11alive.com
Důležitost:Politikagovernance
Šéf lidských práv OSN varuje: AI může být existenčním rizikem pro lidstvo
Vysoký komisař OSN pro lidská práva Volker Turk v pondělí prohlásil, že umělá inteligence představuje rizika natolik závažná, že mohou ohrozit budoucnost lidstva. Slíbil, že bude na firmy vyvíjející AI tlačit, aby tato rizika více omezovaly. Zdroj: insurancejournal.com
Důležitost:Politikagovernance
Newsom podepsal zákony o bezpečnosti AI podpořené Anthropic a OpenAI
Kalifornský guvernér Gavin Newsom podepsal balík zákonů zaměřených na bezpečnost AI poté, co je tento týden podpořila i společnost OpenAI. Podpora přišla krátce poté, co se virálně rozšířilo varování bývalého výzkumníka AI před existenčními riziky pokročilých systémů. Zdroj: politico.com
Důležitost:Zprávaexistential risk
Varování před zánikem lidstva kvůli AI rozvířila politickou debatu
Anthropic si buduje pověst firmy, která klade důraz na bezpečnost AI, přesto někteří její vlastní výzkumníci varují, že závod, do kterého se firma pustila, může nakonec ohrozit celé lidstvo. Tato obava se dostala i do politické diskuse a přiživuje širší obavy z nekontrolovaného vývoje AI. Zdroj: washingtonpost.com
Důležitost:Zprávaexistential risk
Výzkumník z Anthropic: šance, že AI vyhladí lidstvo, přesahuje 10 %
Výzkumník společnosti Anthropic uvedl, že pravděpodobnost, že pokročilá AI povede k vyhynutí lidstva, přesahuje 10 procent. Toto tvrzení je dalším z rostoucí řady varování z prostředí AI průmyslu ohledně bezpečnostních rizik technologie. Zdroj: bbc.com
Důležitost:Zprávaexistential risk
Zaměstnanec Anthropic odešel, AI firmám vyčítá 'hazard s našimi životy'
Výzkumník odešel z Anthropic a vyzval kolegy v oboru, aby přehodnotili svou práci kvůli obavám, že AI firmy neuváženě riskují budoucnost lidstva. Varoval, že závod o stále výkonnější AI systémy předbíhá bezpečnostní opatření. Zdroj: bloomberg.com
Důležitost:Zprávaexistential risk
Výzkumník opustil Anthropic, AI označil za existenční hrozbu pro lidstvo
Výzkumník odešel z Anthropic kvůli etickým a bezpečnostním obavám a varoval, že AI by mohla ohrozit přežití lidstva už během příštích deseti let. Jeho odchod odráží rostoucí nespokojenost uvnitř předních AI laboratoří s tempem vývoje technologie. Zdroj: mashable.com
Důležitost:Zprávaexistential risk
Vedoucí výzkumník Anthropic podpořil varování před existenčními riziky AI
Vedoucí bezpečnostní výzkumník společnosti Anthropic veřejně podpořil obavy svého bývalého kolegy ohledně nebezpečí, jaké představuje pokročilá AI. Jeho vyjádření dodává váhu sílící vnitřní kritice rychlého tempa vývoje AI schopností. Zdroj: ednews.net
Důležitost:Zprávaexistential risk
Odcházející bezpečnostní výzkumník Anthropic varuje: AI by mohla do roku 2036 zabít celé lidstvo
Bezpečnostní výzkumník, který právě opustil Anthropic, znovu rozvířil debatu o existenčním riziku AI a tvrdí, že lidstvu hrozí katastrofální ohrožení ze strany AI zhruba během deseti let. Jeho varování zesiluje volání po přísnějším dohledu nad vývojem umělé inteligence. Zdroj: hothardware.com
Důležitost:ZprávaNobel warning
Nobelista varuje před existenčním rizikem umělé inteligence
Vědec, držitel Nobelovy ceny, upozornil, že pokročilé systémy AI mohou představovat existenční riziko pro lidstvo. Ztráta kontroly nad nimi by podle něj mohla vést ke katastrofálním následkům. Zdroj: forklog.com
Důležitost:ZprávaUN warning
Šéf lidských práv OSN varuje: pokročilá AI může ohrozit přežití lidstva
Volker Türk upozornil Radu OSN pro lidská práva, že pokročilá AI může představovat existenční riziko pro lidstvo. Vyzval také k celosvětovému zákazu autonomních zbraní jako součásti řešení tohoto nebezpečí. Zdroj: technology.org
Důležitost:ZprávaUN warning
Šéf lidských práv OSN žádá naléhavý globální zásah kvůli rizikům AI
Volker Türk, vysoký komisař OSN pro lidská práva, v Ženevě prohlásil, že AI se může stát existenční hrozbou pro lidstvo. Vyzval k celosvětovému úsilí, které by riziko řešilo dřív, než bude pozdě. Zdroj: baltimoresun.com
Důležitost:ZprávaAI governance policy
Šéf lidských práv OSN varuje: AI by mohla ohrozit samotnou existenci lidstva
Volker Türk, vysoký komisař OSN pro lidská práva, se přidal k rostoucímu počtu hlasů volajících po přísnější kontrole AI a varoval, že rychlý rozvoj této technologie by mohl časem ohrozit přežití lidstva. Přislíbil, že bude na firmy vyvíjející AI tlačit, aby řešily rizika včetně narušení klíčových služeb a komunikací. Zdroj: news.un.org
Důležitost:Zprávaexistential risk
Šéf OSN pro lidská práva: pokročilá AI představuje existenční hrozbu
Vysoký komisař OSN pro lidská práva varoval, že stále výkonnější systémy AI mohou představovat existenční riziko pro lidstvo, a vyzval k mezinárodně dohodnutým bezpečnostním zárukám. Vlády by podle něj měly stanovit závazné limity pro vývoj AI, než bude pozdě. Zdroj: mexicobusiness.news