Bill Gates varuje, že AI by mohla zabít miliardu lidí, žádá regulaci
Spoluzakladatel Microsoftu Bill Gates varoval, že zneužití umělé inteligence by mohlo vést až k miliardě obětí, a vyzval vlády k přísnějšímu dohledu. Jeho slova přiživují rostoucí obavy technologických lídrů o bezpečnost AI. Zdroj: chosun.com
Důležitost:ZprávaLLM security
AI agenti odhalují bezpečnostní mezeru mezi čtením dat a jejich úpravou
Debaty o bezpečnosti AI se obvykle točí kolem samotného modelu – jestli je zarovnaný, odolný vůči jailbreaku nebo jestli nehalucinuje. Rostoucím rizikem je ale propast mezi tím, k jakým datům mají AI agenti přístup, a tím, jaké systémy mohou skutečně měnit. Zdroj: venturebeat.com
Důležitost:Zprávagovernance
Investor do Anthropicu: Řeči o rizicích AI mohou nahrávat velkým hráčům
Joe Lonsdale, spoluzakladatel Palantiru a investor do Anthropicu, tvrdí, že obavy o bezpečnost AI jsou oprávněné, ale přísnější regulace by mohla paradoxně posílit pozici dominantních firem na úkor konkurence. Zdroj: businessworld.in
Důležitost:Zprávagovernance
Proč se Čína dívá na západní varování o AI apokalypse s nedůvěrou
V Číně apokalyptická varování ohledně AI často působí jako čistě západní záležitost, případně jako taktika, jak zpomalit čínské AI firmy v soupeření s americkými konkurenty. Zdroj: nytimes.com
Důležitost:ZprávaAI safety research
Nevyznáte se v debatě o bezpečnosti AI? Přehled táborů a jejich postojů
Spor mezi zastánci rychlejšího rozvoje AI a těmi, kdo varují před jejími riziky, v posledním měsíci zesílil a ukázal, že existuje řada táborů s výrazně odlišnými názory na rizika i regulaci. Zdroj: npr.org
Důležitost:ZprávaGlobal governance
Šéf OSN varuje před globálním závodem ke dnu v bezpečnosti AI
Generální tajemník OSN vyzval státy soupeřící ve vývoji AI ke spolupráci místo slevování z bezpečnostních standardů. Zdůraznil, že svět si nemůže dovolit, aby země kvůli udržení náskoku obětovaly bezpečnost AI. Zdroj: jamaica-gleaner.com
Důležitost:NázorAI safety risks
Komentář: Zda AI uškodí lidstvu, ukáže až čas
Komentář se vrací k nedávným znepokojivým výrokům o bezpečnosti AI, mimo jiné od Evana Hubingera, výzkumníka bezpečnosti ve společnosti Anthropic, tvůrci Claude. Autor tvrdí, že je stále příliš brzy na to, aby bylo možné říct, zda AI lidstvu nakonec uškodí. Zdroj: tennessean.com
Důležitost:NázorAI safety thresholds
AI a bezpečnost: kolik opatrnosti je skutečně dost?
Text využívá známý model hype cyklu technologií, popisující přijetí novinek křivkou ve tvaru S od uvedení na trh až po masové rozšíření, aby zasadil do kontextu debatu o bezpečnosti AI. Ptá se, kdy lze vývoj AI považovat za dostatečně bezpečný pro širokou důvěru veřejnosti. Zdroj: cato.org
Důležitost:Zprávasafety
Huang: Nebezpečné AI laboratoře by se měly zavřít, riziko zkázy je nulové
Šéf Nvidie Jensen Huang zaujal tvrdý postoj k bezpečnosti AI a v rozhovoru pro New York Times uvedl, že laboratoře neschopné zajistit bezpečnost by měly skončit. Zároveň ale tvrdí, že šanci na katastrofický scénář s AI vidí prakticky nulovou. Zdroj: tech-insider.org
Důležitost:Zprávagovernance/policy
Altman z OpenAI a Amodei z Anthropicu vystoupili před Radou bezpečnosti OSN
Šéfové dvou největších AI společností na světě přednesli samostatné briefingy věnované bezpečnosti umělé inteligence. Zdroj: theguardian.com
Důležitost:Zprávagovernance/policy
Bezpečnost AI se dostává do centra mezinárodní pozornosti
Umělá inteligence se tento týden stala klíčovým tématem mezinárodní politiky, protože obavy z jejích existenčních rizik dále rostou. Zdroj: politico.com
Důležitost:Zprávagovernance/policy
USA a Čína i přes varování ignorují výzvy ke zpomalení vývoje AI
Prezidenti Donald Trump a Si Ťin-pching se na summitu pravděpodobně dohodnou jen na omezené spolupráci v oblasti bezpečnosti AI. Zdroj: aljazeera.com
Důležitost:Zprávagovernance
Voliči si všímají rizik AI, přidávají se i republikánští senátoři
Obavy z politických i existenčních rizik spojených s AI přiměly nejméně tři republikánské senátory k tomu, aby začali jednat. Téma bezpečnosti AI tak získává v USA na politické váze. Zdroj: politico.com
Důležitost:Zprávagovernance/international
USA a Čína chystají mechanismus pro varování v oblasti bezpečnosti AI
Před plánovaným setkáním prezidenta Trumpa s čínským prezidentem Si Ťin-pchingem se obě země údajně dohodly na systému vzájemného upozorňování na rizika spojená s AI. Krok naznačuje rostoucí zájem obou stran o řízení rizik AI. Zdroj: aimagazine.com
Důležitost:Zprávaenterprise implications
Co kauza kolem bezpečnosti AI v Anthropic znamená pro firemní CISO
Veřejná rezignace Jacoba Coxona z Anthropic rozpoutala širší debatu o bezpečnosti AI. Případ ukazuje, na co by si měli firemní bezpečnostní ředitelé (CISO) dávat pozor při nasazování AI. Zdroj: techtarget.com
Důležitost:Zprávagovernance/international
USA a Čína jednají o mechanismu bezpečnosti AI vedle obchodních rozhovorů
Americký ministr financí Scott Bessent uvedl, že jednání s Čínou o obchodu a bezpečnosti AI proběhla úspěšně. Rozhovory přicházejí v době rostoucích obav z rizik spojených s pokročilými AI systémy. Zdroj: dw.com
Důležitost:Zprávapolicy influence
Šéf Nvidie Jensen Huang se stává Trumpovým hlavním spojencem v debatě o bezpečnosti AI
Jako šéf nejhodnotnější firmy světa a výrobce čipů, na kterém stojí boom AI, si Jensen Huang vydobyl významný vliv u prezidenta Trumpa. Jeho postoj z něj dělá protiváhu hlasům varujícím před riziky AI. Zdroj: cnbc.com
Důležitost:ZprávaPrivacy concerns
Užitečný pomocník, nebo hrozba pro soukromí? Meta Muse vyvolává otázky kolem dat
AI agent Muse od Mety čelí kritice za to, jak agresivně od uživatelů vyžaduje osobní údaje. Kontroverze přichází i přesto, že Mark Zuckerberg dál obhajuje přístup firmy k bezpečnosti AI. Zdroj: firstpost.com
Důležitost:NázorAI risk categorization and funding
Bývalý šéf Redditu rozdělil riziko AI na dvě kategorie — a investoři sázejí na obě
Bývalý CEO Redditu Yishan Wong tvrdí, že debaty o bezpečnosti AI zbytečně míchají existenční riziko se zneužitím technologie, přičemž rizikový kapitál investuje do řešení obou problémů. Zdroj: forbes.com
Důležitost:Zprávaroyal engagement & misalignment
Král Karel se zapojil do debaty o bezpečnosti AI
Král Karel jednal se zástupci NVIDIA, Google DeepMind a Anthropicu o bezpečnosti umělé inteligence. Setkání přišlo ve chvíli, kdy OpenAI zveřejnilo znepokojivé poznatky o vychýlení chování svých modelů. Zdroj: aimagazine.com