Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Skrytá válka miliardářů kolem AI. Všimli jste si, že se vaše sociální sítě náhle zaplnily děsivým obsahem o existenčním riziku AI? Text naznačuje koordinovanou kampaň za tímto trendem. Zdroj: mshale.com
V bitvě o regulaci AI – od Washingtonu po Silicon Valley – se jeden pojem stal nečekaně kontroverzním: „bezpečnost AI“. Zdroj: politico.com
Zeng Yi z Renmin University of China v rozhovoru zdůraznil naléhavou potřebu celosvětové platformy zaměřené na hodnocení bezpečnosti AI. Taková platforma by podle něj pomohla překlenout propast mezi zeměmi v přístupu k digitálním technologiím a AI. Zdroj: news.cgtn.com
Odborníci i veřejnost se obávají rostoucích rizik spojených s umělou inteligencí a potřeby ji regulovat. Podle autora jsou nutná vymahatelná pravidla, která zajistí odpovědné využívání AI. Zdroj: naplesnews.com
Rada pro finanční stabilitu (FSB) zveřejnila 10. června 2026 konzultační zprávu nazvanou „Osvědčené postupy pro...“. Dokument řeší, co tento krok znamená a proč je nyní důležitý. Zdroj: perkinscoie.com
Umělá inteligence se stává novým závodem ve zbrojení a aby se neopakovaly chyby minulosti, mohla by pomoci razantní unifikace soupeřících modelů. Návrh počítá s uspořádáním inspirovaným principem „jeden stát, dva systémy“. Zdroj: chinausfocus.com
Madhulika Srikumar a Vinh Nguyen píší, že monitoring, který by dokázal odhalit selhání AI agentů, chybí. Jeho vybudování ve velkém měřítku přináší reálné výzvy. Zdroj: techpolicy.press
Vstupy OpenAI a Anthropic na burzu vytvoří nové miliardáře ochotné financovat bezpečnost AI a globální dobročinné projekty. Zdroj: detroitnews.com
CEO společnosti Goodfire Eric Ho vysvětluje neuronovou geometrii, interpretovatelnost modelů a omezování halucinací. Podle něj mohou AI modely uvažovat spíše ve tvarech než ve slovech. Zdroj: theneurondaily.com
Anthropic bude v roce 2026 najímat stovky lidí na pozice v oblasti AI safety a bezpečnosti, včetně nových fellowship programů. CEO Dario Amodei přitom varuje před riziky spojenými s lidským dohledem nad AI systémy. Zdroj: cryptobriefing.com
Sam Altman, Mark Zuckerberg, Jensen Huang a další lídři v oblasti AI směřují miliardy dolarů do bezpečnosti, vědy a projektů veřejného prospěchu. Snaží se tak reagovat na potenciální dopady technologie, kterou sami pomáhají budovat. Zdroj: observer.com
Reklama Anthropic během mistrovství světa varuje, že AI by mohla ukončit civilizaci, zároveň ale vyzývá diváky, aby důvěřovali Claude. Firemní přístup k bezpečnosti přitom podle kritiků zůstává plný rozporů. Zdroj: tech.yahoo.com
Článek se zabývá tím, že v historii péče o duševní zdraví byli trpící lidé často léčeni bez hlubšího porozumění vlastnímu stavu. Autoři zkoumají, jak by AI mohla tento přístup proměnit prostřednictvím větší transparentnosti. Zdroj: ojs.aaai.org
Podle Charlese Jonese, profesora ekonomie na Stanford Graduate School of Business, by vznik nadlidské umělé inteligence mohl vést ke dvěma nejhorším scénářům. Jones se snaží tato rizika kvantifikovat ekonomickými nástroji. Zdroj: forbesindia.com
Yoshua Bengio, podobně jako mnozí z nás počátkem roku 2023, experimentoval s ChatGPT a byl ohromen jeho schopnostmi. Fascinace se u něj rychle změnila v obavy, které ho přivedly k založení iniciativy zaměřené na bezpečnost AI. Zdroj: thelogic.co
Odborný asistent MIT Pat Pataranutaporn popisuje nové rozhraní, které běžným uživatelům umožňuje nahlédnout do neuronové sítě AI ještě předtím, než chatbot odpoví. Cílem je zvýšit porozumění tomu, jak modely uvažují. Zdroj: news.mit.edu
Od 14. do 16. července 2026 se ve Vatikánu koná summit věnovaný rizikům AI a jaderných technologií. Zúčastní se ho přes 200 akademiků, inovátorů a nositelů Nobelovy ceny. Zdroj: eurasiareview.com
Demis Hassabis navrhuje vznik nového regulačního orgánu s pravomocí zastavit nebezpečné AI modely. Zdroj: techbuzz.ai
Americké právnické fakulty horečně nastavují pravidla pro AI – University of Chicago Law School před pár dny zveřejnila svou strategii, včetně plánu zakázat notebooky. Zdroj: techtimes.com
Varování v oblasti vnitřní bezpečnosti málokdy přichází jako jasný signál. Například během velké veřejné akce mohou kyberobránci zaznamenat neobvyklé pokusy o přístup a další nejasné indicie současně. Zdroj: hstoday.us