AIskimIQ

Štítek: Safety

263 článků

Bill Gates varuje, že AI by mohla zabít miliardu lidí, žádá regulaci

Spoluzakladatel Microsoftu Bill Gates varoval, že zneužití umělé inteligence by mohlo vést až k miliardě obětí, a vyzval vlády k přísnějšímu dohledu. Jeho slova přiživují rostoucí obavy technologických lídrů o bezpečnost AI. Zdroj: chosun.com

AI agenti odhalují bezpečnostní mezeru mezi čtením dat a jejich úpravou

Debaty o bezpečnosti AI se obvykle točí kolem samotného modelu – jestli je zarovnaný, odolný vůči jailbreaku nebo jestli nehalucinuje. Rostoucím rizikem je ale propast mezi tím, k jakým datům mají AI agenti přístup, a tím, jaké systémy mohou skutečně měnit. Zdroj: venturebeat.com

Investor do Anthropicu: Řeči o rizicích AI mohou nahrávat velkým hráčům

Joe Lonsdale, spoluzakladatel Palantiru a investor do Anthropicu, tvrdí, že obavy o bezpečnost AI jsou oprávněné, ale přísnější regulace by mohla paradoxně posílit pozici dominantních firem na úkor konkurence. Zdroj: businessworld.in

Proč se Čína dívá na západní varování o AI apokalypse s nedůvěrou

V Číně apokalyptická varování ohledně AI často působí jako čistě západní záležitost, případně jako taktika, jak zpomalit čínské AI firmy v soupeření s americkými konkurenty. Zdroj: nytimes.com

Nevyznáte se v debatě o bezpečnosti AI? Přehled táborů a jejich postojů

Spor mezi zastánci rychlejšího rozvoje AI a těmi, kdo varují před jejími riziky, v posledním měsíci zesílil a ukázal, že existuje řada táborů s výrazně odlišnými názory na rizika i regulaci. Zdroj: npr.org

Šéf OSN varuje před globálním závodem ke dnu v bezpečnosti AI

Generální tajemník OSN vyzval státy soupeřící ve vývoji AI ke spolupráci místo slevování z bezpečnostních standardů. Zdůraznil, že svět si nemůže dovolit, aby země kvůli udržení náskoku obětovaly bezpečnost AI. Zdroj: jamaica-gleaner.com

Komentář: Zda AI uškodí lidstvu, ukáže až čas

Komentář se vrací k nedávným znepokojivým výrokům o bezpečnosti AI, mimo jiné od Evana Hubingera, výzkumníka bezpečnosti ve společnosti Anthropic, tvůrci Claude. Autor tvrdí, že je stále příliš brzy na to, aby bylo možné říct, zda AI lidstvu nakonec uškodí. Zdroj: tennessean.com

AI a bezpečnost: kolik opatrnosti je skutečně dost?

Text využívá známý model hype cyklu technologií, popisující přijetí novinek křivkou ve tvaru S od uvedení na trh až po masové rozšíření, aby zasadil do kontextu debatu o bezpečnosti AI. Ptá se, kdy lze vývoj AI považovat za dostatečně bezpečný pro širokou důvěru veřejnosti. Zdroj: cato.org

Huang: Nebezpečné AI laboratoře by se měly zavřít, riziko zkázy je nulové

Šéf Nvidie Jensen Huang zaujal tvrdý postoj k bezpečnosti AI a v rozhovoru pro New York Times uvedl, že laboratoře neschopné zajistit bezpečnost by měly skončit. Zároveň ale tvrdí, že šanci na katastrofický scénář s AI vidí prakticky nulovou. Zdroj: tech-insider.org

Altman z OpenAI a Amodei z Anthropicu vystoupili před Radou bezpečnosti OSN

Šéfové dvou největších AI společností na světě přednesli samostatné briefingy věnované bezpečnosti umělé inteligence. Zdroj: theguardian.com

Bezpečnost AI se dostává do centra mezinárodní pozornosti

Umělá inteligence se tento týden stala klíčovým tématem mezinárodní politiky, protože obavy z jejích existenčních rizik dále rostou. Zdroj: politico.com

USA a Čína i přes varování ignorují výzvy ke zpomalení vývoje AI

Prezidenti Donald Trump a Si Ťin-pching se na summitu pravděpodobně dohodnou jen na omezené spolupráci v oblasti bezpečnosti AI. Zdroj: aljazeera.com

Voliči si všímají rizik AI, přidávají se i republikánští senátoři

Obavy z politických i existenčních rizik spojených s AI přiměly nejméně tři republikánské senátory k tomu, aby začali jednat. Téma bezpečnosti AI tak získává v USA na politické váze. Zdroj: politico.com

USA a Čína chystají mechanismus pro varování v oblasti bezpečnosti AI

Před plánovaným setkáním prezidenta Trumpa s čínským prezidentem Si Ťin-pchingem se obě země údajně dohodly na systému vzájemného upozorňování na rizika spojená s AI. Krok naznačuje rostoucí zájem obou stran o řízení rizik AI. Zdroj: aimagazine.com

Co kauza kolem bezpečnosti AI v Anthropic znamená pro firemní CISO

Veřejná rezignace Jacoba Coxona z Anthropic rozpoutala širší debatu o bezpečnosti AI. Případ ukazuje, na co by si měli firemní bezpečnostní ředitelé (CISO) dávat pozor při nasazování AI. Zdroj: techtarget.com

USA a Čína jednají o mechanismu bezpečnosti AI vedle obchodních rozhovorů

Americký ministr financí Scott Bessent uvedl, že jednání s Čínou o obchodu a bezpečnosti AI proběhla úspěšně. Rozhovory přicházejí v době rostoucích obav z rizik spojených s pokročilými AI systémy. Zdroj: dw.com

Šéf Nvidie Jensen Huang se stává Trumpovým hlavním spojencem v debatě o bezpečnosti AI

Jako šéf nejhodnotnější firmy světa a výrobce čipů, na kterém stojí boom AI, si Jensen Huang vydobyl významný vliv u prezidenta Trumpa. Jeho postoj z něj dělá protiváhu hlasům varujícím před riziky AI. Zdroj: cnbc.com

Užitečný pomocník, nebo hrozba pro soukromí? Meta Muse vyvolává otázky kolem dat

AI agent Muse od Mety čelí kritice za to, jak agresivně od uživatelů vyžaduje osobní údaje. Kontroverze přichází i přesto, že Mark Zuckerberg dál obhajuje přístup firmy k bezpečnosti AI. Zdroj: firstpost.com

Bývalý šéf Redditu rozdělil riziko AI na dvě kategorie — a investoři sázejí na obě

Bývalý CEO Redditu Yishan Wong tvrdí, že debaty o bezpečnosti AI zbytečně míchají existenční riziko se zneužitím technologie, přičemž rizikový kapitál investuje do řešení obou problémů. Zdroj: forbes.com

Král Karel se zapojil do debaty o bezpečnosti AI

Král Karel jednal se zástupci NVIDIA, Google DeepMind a Anthropicu o bezpečnosti umělé inteligence. Setkání přišlo ve chvíli, kdy OpenAI zveřejnilo znepokojivé poznatky o vychýlení chování svých modelů. Zdroj: aimagazine.com