Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Firma tvrdí, že objevila nové okno do toho, jak její modely dospívají k odpovědím. O tématu jsme mluvili se seniorním editorem Willem Douglasem Heavenem. Zdroj: technologyreview.com
Padesát let po debatě o rekombinantní DNA v Cambridge nabízí tehdejší model veřejného dohledu poučení pro dnešní správu AI. Zdroj: observer.com
Stovky ekonomů vyzývají k okamžitým krokům řešícím potenciální dopad AI na ekonomiku. V otevřeném dopise zveřejněném v pondělí varují, že AI by mohla... Zdroj: timeswv.com
Giganti jako Anthropic a OpenAI obvinili Čínu z krádeže jejich technologie prostřednictvím nelegálních útoků typu „distilace“ – znepokojivého trendu, který... Zdroj: nypost.com
Nejvážnější zkouška životaschopnosti open source AI dosud probíhá právě teď. Zdroj: interconnects.ai
Esej napsaná spolu s Nathanem E. Sandersem, původně vyšla v The Guardian. Odpor vůči datovým centrům pro AI se stal jedním z hlavních témat v USA. Zdroj: securityboulevard.com
Jak AI, kybernetická bezpečnost a další nové technologie mění rizika i tvorbu hodnoty, představenstva přehodnocují, zda tradiční struktura výborů ještě stačí. Zdroj: directorsandboards.com
Spoluzakladatel Ethereum Vitalik Buterin posouvá debatu o bezpečnosti AI jiným směrem. Podle něj největší nebezpečí nepředstavují superinteligentní stroje, ale koncentrace moci nad nimi v rukou úzké skupiny lidí. Zdroj: finance.biggo.com
V Ženevě se 6. a 7. července konal první Global Dialogue on AI Governance. Indii na něm zastupovala státní ministryně zahraničí Kirti Vardhan Singh. Zdroj: ndtv.com
Přesnost SHAP atribuce je pro regulovanou AI špatnou metrikou. Alternativou je σ_SHAP, tedy variance napříč K rotovanými referenčními vzorky, kterou lze při auditu skutečně obhájit. Zdroj: hackernoon.com
Šéf bezpečnosti Johannes Heidecke odchází 24. července, OpenAI začleňuje bezpečnostní týmy pod výzkumnou viceprezidentku Miu Glaese. Jde už o šestou obměnu na této pozici za poslední dva roky. Zdroj: techtimes.com
V podcastu Nikhila Kamatha People by WTF varoval šéf Anthropicu Dario Amodei před rychlým nástupem umělé inteligence. Své varování adresoval mimo jiné Naomi Osace a přirovnal současný vývoj k blížící se tsunami. Zdroj: mshale.com
Autor glosuje myšlenku přiznávání práv robotům a přirovnává ji k fantazii o otroctví. Text vyšel u příležitosti jeho vystoupení na Idler Festivalu v Londýně, kde zpochybňuje bublinu kolem AI. Zdroj: doctorow.medium.com
Zakladatel konference AI Engineer swyx tvrdí, že jedinou udržitelnou strategií pro AI startupy je zaměřit se na konkrétní problém zákazníka místo sázky na samotný model. Jen tak podle něj přežijí neustálé upgrady velkých laboratoří vyvíjejících frontier modely. Zdroj: finance.biggo.com
Tři experti se připojí k pracovní skupině Federálního rezervního systému pro produktivitu a pracovní místa. Jejich úkolem bude radit ohledně dopadů AI na trh práce. Zdroj: cybernews.com
Nejlépe hodnocená AI firma získala v posledním AI Safety Indexu od Future of Life Institute pouze známku C+. Zpráva uvádí, že velké AI společnosti v poslední době polevily ve svých bezpečnostních závazcích. Zdroj: bankinfosecurity.com
Americká laboratoř Anthropic dosáhla nejvyššího skóre v pololetním bezpečnostním žebříčku, celosvětově však odvětví podle zprávy nedokáže čelit "existenčním" hrozbám spojeným s AI. Zdroj: english.aawsat.com
Neurosymbolické přístupy by mohly řešit dlouhodobé limity biomedicínské AI tím, že spojují učení z dat s explicitními znalostními pravidly. Zdroj: nature.com
Americký startup Anthropic předstihl konkurenci a získal nejvyšší hodnocení v pololetním žebříčku bezpečnosti založeném na veřejně dostupných datech. Žádná z hodnocených AI firem si přitom nepolepšila na známku lepší než C+. Zdroj: mitsloanme.com
AI firmy chtějí získat hodnotu, kterou vytvářejí celá odvětví. Podle autorů Bruce Schneiera a Nathana E. Sanderse je právě tato koncentrace bohatství a moci největším rizikem pro společnost. Zdroj: theguardian.com