AIskimIQ

Štítek: Safety

266 článků

20 let zkoumám rizika AI. Blížíme se ke katastrofě, varuje expert

Roman Yampolskiy vysvětluje, proč superinteligenci nelze udržet pod kontrolou a proč se propast mezi schopnostmi AI a jejich bezpečností stále prohlubuje. Zdroj: mshale.com

Bezpečnostní známky pro AI: Žádná laboratoř nemá lepší než C+, nejlepší se zhoršují

Index Future of Life Institute za léto 2026 ohodnotil devět předních AI laboratoří a žádná nezískala hodnocení lepší než C+. Zpráva navíc upozorňuje, že i dříve nejlépe hodnocené laboratoře si v bezpečnosti pohoršují. Zdroj: techtimes.com

Nejdůležitější slova v bitvě o AI

V bitvě o regulaci AI – od Washingtonu po Silicon Valley – se jeden pojem stal nečekaně kontroverzním: „bezpečnost AI“. Zdroj: politico.com

Globální řízení AI: Zeng volá po celosvětové platformě pro překonání digitální propasti

Zeng Yi z Renmin University of China v rozhovoru zdůraznil naléhavou potřebu celosvětové platformy zaměřené na hodnocení bezpečnosti AI. Taková platforma by podle něj pomohla překlenout propast mezi zeměmi v přístupu k digitálním technologiím a AI. Zdroj: news.cgtn.com

Boom bohatství z AI rozproudil debatu o budoucnosti filantropie

Vstupy OpenAI a Anthropic na burzu vytvoří nové miliardáře ochotné financovat bezpečnost AI a globální dobročinné projekty. Zdroj: detroitnews.com

Anthropic výrazně rozšiřuje nábor kvůli rizikům bezpečnosti AI

Anthropic bude v roce 2026 najímat stovky lidí na pozice v oblasti AI safety a bezpečnosti, včetně nových fellowship programů. CEO Dario Amodei přitom varuje před riziky spojenými s lidským dohledem nad AI systémy. Zdroj: cryptobriefing.com

Čína připravuje bezpečnostní benchmark pro AI kvůli rizikům velkých modelů

Státem vedená iniciativa má řešit problémy jako únik dat a halucinace generativních modelů. Peking se tak přidává k celosvětové snaze zpřísnit dohled nad AI. Zdroj: scmp.com

Buterin: Skutečným rizikem AI není superinteligence, ale kontrola nad ní

Spoluzakladatel Ethereum Vitalik Buterin posouvá debatu o bezpečnosti AI jiným směrem. Podle něj největší nebezpečí nepředstavují superinteligentní stroje, ale koncentrace moci nad nimi v rukou úzké skupiny lidí. Zdroj: finance.biggo.com

MIT a IBM promítají kvantové unitární operátory do latentního prostoru jazykových modelů

Výzkumníci z MIT-IBM Computing Research Lab a IBM Quantum vyvinuli multimodální rámec, který mapuje kvantové unitární operátory do latentního prostoru jazykových modelů pro syntézu obvodů. Zdroj: quantumcomputingreport.com

Anthropic vede žebříček bezpečnosti AI, přesto dostal jen C+

Nejlépe hodnocená AI firma získala v posledním AI Safety Indexu od Future of Life Institute pouze známku C+. Zpráva uvádí, že velké AI společnosti v poslední době polevily ve svých bezpečnostních závazcích. Zdroj: bankinfosecurity.com

Anthropic vede žebříček bezpečnosti AI pro rok 2026, na áčko ale nedosáhl nikdo

Americký startup Anthropic předstihl konkurenci a získal nejvyšší hodnocení v pololetním žebříčku bezpečnosti založeném na veřejně dostupných datech. Žádná z hodnocených AI firem si přitom nepolepšila na známku lepší než C+. Zdroj: mitsloanme.com

Globální hodnocení bezpečnosti AI propadá: nejlepší výsledek sotva na trojku

Future of Life Institute (FLI) zveřejnil svůj AI Safety Index za první polovinu roku 2026 a výsledky jsou tristní. Mezi devíti hlavními globálními AI firmami nikdo nedosáhl skutečně dobrého hodnocení. Zdroj: finance.biggo.com

Zpráva o bezpečnosti AI je studená sprcha pro celý obor – u nejtěžšího testu neuspěl nikdo

Americká AI laboratoř Anthropic se umístila na prvním místě nového globálního žebříčku bezpečnosti AI, zpráva zveřejněná v úterý ale upozorňuje, že celý obor má vážné nedostatky. Ani nejlépe hodnocené firmy si podle autorů nevedly dobře v nejnáročnějších testech. Zdroj: malaymail.com

Velké technologické firmy globálně couvají od slibů o bezpečnosti AI, varují experti

FLI zveřejnil AI Safety Index za první polovinu roku 2026, Anthropic získal C+ a žádná firma nedosáhla na A ani B. Podle institutu se hrozby spojené s AI staly reálným společenským problémem, který dobrovolné závazky firem už nestačí řešit. Zdroj: en.sedaily.com

Nové pohledy na společenská rizika AI

Bezpečnost AI, dříve okrajové téma, dnes zná většina lidí, ale málokdo ví, jak se proti novým rizikům skutečně bránit. Zdroj: nyas.org

Google, Anthropic a OpenAI vedou žebříček AI Safety Index, SpaceXAI dostal F

AI Safety Index od Future of Life Institute hodnotí Anthropic, OpenAI a Google nejlépe, zatímco ostatní firmy propadají. Zdroj: seekingalpha.com

Expert na AI bezpečnost Yampolskiy: šance na vyhubení lidstva je 99,9 %

Co když se nejvýznamnější technologický objev v historii lidstva ukáže být zároveň jeho posledním vynálezem? Právě touto otázkou se zabývá expert na AI bezpečnost Roman Yampolskiy. Zdroj: theaiinsider.tech

Průvodce umělou inteligencí: Vše, co potřebujete vědět

Firemní AI už běží v produkci, ale architektura, datová strategie a správa dat stále nestačí tempu vývoje. Průvodce mapuje, jak se AI systémy budují a nasazují v praxi. Zdroj: mshale.com

Altman navrhuje mezinárodní rámec bezpečnosti AI podle vzoru MAAE

Sam Altman přišel s návrhem mezinárodního fóra pro bezpečnost AI vedeného USA, které by fungovalo podobně jako Mezinárodní agentura pro atomovou energii. Návrh má potenciální dopady na vývojáře, kryptotrhy i token WLD. Zdroj: cryptobriefing.com

Anthropic najal ekonoma, který považuje 33% šanci na vyhynutí lidstva za přijatelnou

Ze všech velkých hráčů v oblasti AI je Anthropic ten, který nejvíce varuje před existenčními riziky – zároveň je ale také nejvíce zaměřený na bezpečnost AI. Nový ekonom ve svých pracích naznačuje, že třetinová pravděpodobnost zániku lidstva může být za určitých okolností akceptovatelná. Zdroj: futurism.com