Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 138 článků
Důležitost:Zprávainterpretability
Anthropic zavádí vodoznaky pro obsah z Claude i mimo EU
Anthropic oznámil, že bude do obsahu vytvořeného modely Claude přidávat digitální vodoznaky, a to v souvislosti se spuštěním nových modelů v Evropské unii. Změna má dopad i na uživatele mimo Evropu. Zdroj: nbcrightnow.com
Důležitost:PolitikaAI rights policy
Filipíny chtějí zákonem zakotvit práva občanů v éře AI
Dva návrhy zákonů projednávané filipínským Kongresem, House Bills 2827 a 3195, definují pět základních práv, která by měla chránit občany v souvislosti s rozšiřováním AI. Text, na kterém se podílel i Edsel F. Tupaz, se věnuje tomu, jak tyto principy převést do reálné praxe. Zdroj: mb.com.ph
Důležitost:NázorAI risk scenarios
Když se AI vymkne kontrole
Odborníci se zabývají riziky spojenými s pokročilými AI systémy, které se mohou chovat nepředvídatelně. Řeč je také o tom, jak náročné je udržet nad nimi kontrolu. Zdroj: goodmenproject.com
Expert na AI varuje: superinteligence by mohla znamenat konec lidstva
Výzkumník v oblasti AI v rozhovoru tvrdí, že vznik nekontrolované superinteligence by lidstvo nepřežilo. Diskuse je součástí videoseriálu, který předplatitelům nabízí podrobný a nezávislý pohled na téma. Zdroj: mshale.com
Důležitost:Výzkumexplainable AI in medicine
Nový AI model chce odhalit otřes mozku dřív, než se projeví příznaky
Vědci vyvinuli hybridní model hlubokého učení, který kombinuje více typů dat a umožňuje přesnější a včasnější odhad rizika otřesu mozku. Řešení má nahradit dosavadní diagnostiku, která trpí subjektivním posuzováním a pozdním nástupem příznaků. Zdroj: nature.com
Důležitost:ZprávaAI existential risk
"Už jsme prohráli," tvrdí expert na bezpečnost AI Roman Yampolskiy
V novém rozhovoru výzkumník Dr. Roman Yampolskiy varuje, že lidstvo možná už ztratilo šanci udržet pokročilou AI pod kontrolou. Rozhovor odvysílal nezávislý pořad Triggernometry, který funguje díky podpoře svých sponzorů. Zdroj: mshale.com
Důležitost:Zprávainterpretability
Vědci nahlédli do AI modelů a odhalili skryté vazby na čínská data
Nová technika interpretovatelnosti umožnila výzkumníkům extrahovat skryté stopy uvažování z AI modelů a odhalit dosud neznámé vazby na čínské zdroje trénovacích dat. Objev je významným krokem k odhalení vnitřního fungování AI, dosud vnímaného jako černá skříňka. Zdroj: techbuzz.ai
Důležitost:Zprávaalignment/interpretability
Co výzkum 'J-space' od Anthropic říká o budoucnosti AI
Nejnovější průlom Anthropic v oblasti interpretovatelnosti umožňuje nahlédnout do 'myšlení' velkých jazykových modelů a poznat, kdy jim lze věřit. Poznatky by mohly změnit způsob, jakým se AI systémy trénují a hodnotí. Zdroj: ibm.com
Důležitost:NázorAI governance
Skutečná výzva, kterou AI klade na lídry, není technická
Debata o rizicích AI se soustředí především na zarovnání modelů, interpretovatelnost a regulační rámce. Podle autora ale tyto technické otázky přehlížejí hlubší, osobní proměnu, kterou musí lídři projít. Zdroj: aijourn.com
Důležitost:ZprávaAI governance (financial)
Proč AI modely zůstávají pro banky černou skříňkou
Banky se ve stále větší míře spoléhají na komplexní AI modely, jejich vysvětlitelnost má ale své hranice. Analýza se zaměřuje na rizika modelů, požadavky regulátorů a s tím spojené výzvy v oblasti řízení. Zdroj: globalbankingandfinance.com
Důležitost:Zprávagovernance
Sanders tvrdě napadl AI firmy kvůli bezpečnostním slibům, které tiše opustily
Senátor Bernie Sanders poslal ostré písemné varování šéfům předních AI firem včetně OpenAI, což je jeden z nejtvrdších kroků Kongresu vůči odvětví. Dopis poukazuje na bezpečnostní závazky, které firmy podle všeho potichu opustily. Zdroj: techtimes.com
Důležitost:Zprávainterpretability
Trh s vysvětlitelnou AI má do roku 2036 vzrůst na 25 miliard dolarů
Trh s vysvětlitelnou AI, oceňovaný v roce 2026 na 4 miliardy dolarů, by měl růst tempem 20,1 % ročně a do roku 2036 dosáhnout 25 miliard dolarů. Mezi klíčové hráče tohoto růstu patří IBM a Microsoft. Zdroj: futuremarketinsights.com
Důležitost:Zprávagovernance
Zuckerberg: Moc musí zůstat v rukou lidí, ne AI
Šéf Metay Mark Zuckerberg představil svou vizi vývoje superinteligence, v níž zdůrazňuje posílení jednotlivce, vyvážené rozdělení moci a zachování lidské kontroly nad AI systémy. Zdroj: storyboard18.com
Důležitost:Politikagovernance
Australský premiér vyzývá k vážnému řešení rizik AI
Premiér Jižní Austrálie Peter Malinauskas varoval, že umělá inteligence představuje reálné riziko pro společnost, a vyzval k přísnějšímu dohledu. Jeho slova zazněla v souvislosti s rozsáhlým vyšetřováním regulace AI. Zdroj: canberratimes.com.au
Důležitost:Zprávaalignment
Barclays popisuje testování AI agentů a mechanismy nouzového vypnutí
V první části dvoudílné série QA Financial popisuje, jak Barclays připravuje autonomní AI agenty na nasazení v praxi, s důrazem na testování, monitoring a takzvané kill switche. Zdroj: qa-financial.com
Důležitost:Videoexistential risk
Nové video se ptá, zda může AI ohrozit přežití lidstva
Nová videodiskuze se věnuje jedné z nejdiskutovanějších otázek v technologiích – zda může umělá inteligence nakonec ohrozit přežití lidstva. Jde o první pokus tvůrců o tento formát videa a žádají diváky o zpětnou vazbu. Zdroj: mshale.com
Důležitost:Zprávaexistential risk
Šéfka AI bezpečnosti DeepMind: Riziko zániku není nulové, řešme ale současné škody
Lila Ibrahim, která má v Google DeepMind na starosti připravenost na AI, v rozhovoru vyvolala rozruch, když připustila, že riziko vyhynutí lidstva kvůli AI není nulové. Zároveň ale zdůraznila, že pozornost by se měla soustředit hlavně na reálné škody, které AI systémy způsobují už dnes. Zdroj: thecooldown.com
Důležitost:Zprávagovernance
Šéf Anthropicu Dario Amodei varuje: AI se vyvíjí rychleji, než si lidé uvědomují
Generální ředitel Anthropicu Dario Amodei ve veřejném vystoupení otevřeně přiznal, že vývoj AI postupuje rychleji, než si většina lidí myslí. Vyzval k větší informovanosti veřejnosti o tomto rychlém pokroku a jeho možných rizicích. Zdroj: mshale.com
Důležitost:Názorexistential risk
Výzkumník AI bezpečnosti: 99,9% šance, že superinteligence zničí lidstvo do roku 2030
Dr. Roman Yampolskiy, výzkumník zabývající se bezpečností AI, tvrdí, že lidstvo se rychle blíží bodu, kdy by superinteligentní AI mohla představovat existenční hrozbu, a uvádí extrémně vysokou pravděpodobnost katastrofy do roku 2030. Podle něj by pokročilá AI mohla být posledním velkým vynálezem lidstva. Zdroj: mshale.com
Důležitost:Názorexistential risk
Bostromova Superinteligence po deseti letech: jak obstála varování v době AI boomu
Kniha Nicka Bostroma Superintelligence z roku 2014 varovala před riziky nekontrolované AI, která by mohla převýšit lidskou inteligenci. O deset let později, uprostřed současného boomu AI, se odborníci vrací k tomu, nakolik se jeho předpovědi naplnily. Zdroj: medium.com