Důležitost:Zprávagovernance/policy
USA a Čína i přes varování ignorují výzvy ke zpomalení vývoje AI
Prezidenti Donald Trump a Si Ťin-pching se na summitu pravděpodobně dohodnou jen na omezené spolupráci v oblasti bezpečnosti AI. Zdroj: aljazeera.com
Štítek: Safety
173 článků
Důležitost:Zprávagovernance/policy
Bezpečnost AI se dostává do centra mezinárodní pozornosti
Umělá inteligence se tento týden stala klíčovým tématem mezinárodní politiky, protože obavy z jejích existenčních rizik dále rostou. Zdroj: politico.com
Důležitost:Zprávagovernance/international
USA a Čína chystají mechanismus pro varování v oblasti bezpečnosti AI
Před plánovaným setkáním prezidenta Trumpa s čínským prezidentem Si Ťin-pchingem se obě země údajně dohodly na systému vzájemného upozorňování na rizika spojená s AI. Krok naznačuje rostoucí zájem obou stran o řízení rizik AI. Zdroj: aimagazine.com
Důležitost:Zprávagovernance
Voliči si všímají rizik AI, přidávají se i republikánští senátoři
Obavy z politických i existenčních rizik spojených s AI přiměly nejméně tři republikánské senátory k tomu, aby začali jednat. Téma bezpečnosti AI tak získává v USA na politické váze. Zdroj: politico.com
Důležitost:Zprávaenterprise implications
Co kauza kolem bezpečnosti AI v Anthropic znamená pro firemní CISO
Veřejná rezignace Jacoba Coxona z Anthropic rozpoutala širší debatu o bezpečnosti AI. Případ ukazuje, na co by si měli firemní bezpečnostní ředitelé (CISO) dávat pozor při nasazování AI. Zdroj: techtarget.com
Důležitost:Zprávagovernance/international
USA a Čína jednají o mechanismu bezpečnosti AI vedle obchodních rozhovorů
Americký ministr financí Scott Bessent uvedl, že jednání s Čínou o obchodu a bezpečnosti AI proběhla úspěšně. Rozhovory přicházejí v době rostoucích obav z rizik spojených s pokročilými AI systémy. Zdroj: dw.com
Důležitost:Zprávapolicy influence
Šéf Nvidie Jensen Huang se stává Trumpovým hlavním spojencem v debatě o bezpečnosti AI
Jako šéf nejhodnotnější firmy světa a výrobce čipů, na kterém stojí boom AI, si Jensen Huang vydobyl významný vliv u prezidenta Trumpa. Jeho postoj z něj dělá protiváhu hlasům varujícím před riziky AI. Zdroj: cnbc.com
Důležitost:ZprávaPrivacy concerns
Užitečný pomocník, nebo hrozba pro soukromí? Meta Muse vyvolává otázky kolem dat
AI agent Muse od Mety čelí kritice za to, jak agresivně od uživatelů vyžaduje osobní údaje. Kontroverze přichází i přesto, že Mark Zuckerberg dál obhajuje přístup firmy k bezpečnosti AI. Zdroj: firstpost.com
Důležitost:NázorAI risk categorization and funding
Bývalý šéf Redditu rozdělil riziko AI na dvě kategorie — a investoři sázejí na obě
Bývalý CEO Redditu Yishan Wong tvrdí, že debaty o bezpečnosti AI zbytečně míchají existenční riziko se zneužitím technologie, přičemž rizikový kapitál investuje do řešení obou problémů. Zdroj: forbes.com
Důležitost:Politikagovernment regulation
Newsom nařídil prověřit pravidla pro AI, uvažuje i o „vypínači“
Kalifornský guvernér podepsal exekutivní příkaz, který má prošetřit možnosti nové regulace AI. Krok přichází v době, kdy v USA sílí obavy z potenciálních existenčních rizik této technologie. Zdroj: politico.com
Důležitost:Zprávaroyal engagement & misalignment
Král Karel se zapojil do debaty o bezpečnosti AI
Král Karel jednal se zástupci NVIDIA, Google DeepMind a Anthropicu o bezpečnosti umělé inteligence. Setkání přišlo ve chvíli, kdy OpenAI zveřejnilo znepokojivé poznatky o vychýlení chování svých modelů. Zdroj: aimagazine.com
Důležitost:ZprávaAI safety and governance
Amazon se zapojil do debaty o bezpečnosti AI, žádá přísné testování před uvolněním modelů
Amazon veřejně vyjádřil svůj postoj k bezpečnosti AI a uvedl, že laboratoře by měly modely zveřejňovat až po důkladném otestování a ověření jejich bezpečnosti. Tento krok přišel ve chvíli, kdy král Karel III. varoval před existenčními riziky, pokud by se AI dostala do nesprávných rukou. Zdroj: sightmagazine.com.au
Důležitost:ZprávaAI safety and existential risk
Král Karel varoval na summitu, že AI může představovat 'existenční nebezpečí'
Britský panovník na nedávném summitu přímo oslovil představitele Nvidia a OpenAI s obavami ohledně bezpečnosti AI. Zdůraznil potřebu důsledného dohledu v době, kdy se technologie rychle vyvíjí. Zdroj: techbuzz.ai
Důležitost:ZprávaAI safety standards
OpenAI, Google a Anthropic prý jednají o spolupráci na bezpečnosti AI
Podle zdrojů spolu firmy diskutují o společném postupu v oblasti bezpečnosti AI už od července, kdy Demis Hassabis z Google DeepMind navrhl vznik americké "standardizační organizace" pro celé odvětví. Mluvčí jednání potvrdil, ale bližší detaily nesdělil. Zdroj: cnbc.com
Důležitost:Zprávaresearcher perspective
Výzkumník z Anthropic odešel kvůli obavám o bezpečnost AI, varuje před existenčním rizikem
Jacob Coxon opustil společnost Anthropic a upozornil, že nekontrolovaný vývoj pokročilé AI může představovat existenční hrozbu pro lidstvo. Jeho odchod znovu rozproudil celosvětovou debatu o bezpečnosti AI. Zdroj: indiatoday.in
Důležitost:Zprávaglobal debate
Obavy o bezpečnost AI a výzvy k pozastavení vývoje rozpoutávají celosvětovou diskuzi
Rozsáhlá reportáž mapuje rostoucí obavy o bezpečnost AI, včetně varování před rizikem vyhynutí lidstva a sílících výzev k dočasnému pozastavení vývoje kvůli přísnější regulaci. Zdroj: indiatoday.in
Důležitost:ZprávaAI industry development
Anthropic míří na Nasdaq s IPO uprostřed debat o bezpečnosti AI
Anthropic si údajně vybral burzu Nasdaq pro plánovaný vstup na burzu, který by se mohl uskutečnit v říjnu s odhadovaným oceněním kolem 2 bilionů dolarů. Zdroj: finance.biggo.com
Důležitost:Zprávasafety governance
Šéf Anthropicu přišel s tříbodovým bezpečnostním plánem, varuje před existenčním rizikem
Dario Amodei zveřejnil tříbodový bezpečnostní plán pro AI, ve kterém varuje, že nekontrolovatelní AI agenti by během půl roku mohli ovládnout internet. Návrh přichází v době, kdy výzkumníci stále hlasitěji upozorňují na rychlost vývoje umělé inteligence. Zdroj: northeasttimes.com
Důležitost:Zprávabusiness impact
OpenAI kvůli obavám o bezpečnost AI odkládá IPO na dobu po roce 2026
Šéf OpenAI Sam Altman oznámil, že firma v roce 2026 nevstoupí na burzu, a jako důvod uvedl nevyřešené otázky bezpečnosti AI. Rozhodnutí naznačuje, že OpenAI chce mít víc času na řešení rizik, než se vystaví tlaku veřejných trhů. Zdroj: devdiscourse.com
Důležitost:Zprávagovernance
Senátoři z obou stran žádají OpenAI o vysvětlení úniku dat u Hugging Face
Američtí zákonodárci znepokojení riziky spojenými s pokročilými AI produkty požádali OpenAI o podrobnosti k bezpečnostnímu incidentu týkajícímu se Hugging Face. Dvoustranický dotaz odráží rostoucí obavy Washingtonu o dohled nad bezpečností AI. Zdroj: pbs.org