Zprávagovernance
Spor o AI na pravici
Přístup Bílého domu k vývoji AI se dlouhodobě vyznačuje opozicí vůči jakékoliv významné regulaci technologického průmyslu. politico.com
🛡️ Bezpečnost a alignment AI
Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Názorgovernance
AI hrozba se blíží, a nejsme připraveni
Vláda potřebuje právní pravomoc k okamžitému vypnutí nebezpečného AI systému v případě krizové situace. progressive.org
Výzkuminterpretability
Emoční koncepty a jejich role v velkých jazykových modelech
Anthropic zveřejnila výzkum zaměřený na interpretovatelnost, který zkoumá, jak velké jazykové modely zpracovávají a reprezentují emoční koncepty. anthropic.com
Zprávagovernance and risk
Agentní AI: větší schopnosti, větší rizika
Analýza právních rizik a výzev spojených s rychlým rozšířením agentních AI systémů a měnící se globální regulační krajinou. reuters.com
Zprávagovernance and policy
Trump administration se odvolá proti rozhodnutí chránícímu Anthropic
Trumpova administrativa napadá soudní rozhodnutí, které zabránilo federální vládě v trestných opatřeních proti společnosti Anthropic v průběhu sporu o AI. tribdem.com
ZprávaAI governance and political coalitions
Hrozba AI sjednocuje Silicon Valley se Sanders a miliardáři
Hnutí podporované miliardáři ze Silicon Valley a populisté jako Bernie Sanders se sjednocují v boji proti katastrofě související s umělou inteligencí. Obě skupiny se však potýkají s překonáním svých hlubokých rozdílů při hledání společného řešení. politico.com
Výzkuminterpretability application
Interpretovatelná AI zlepšuje diagnostiku kardiovaskulárních onemocnění
Vědci Hasan a Dhrubo představili inovativní přístup s interpretovatelnou umělou inteligencí, který má potenciál transformovat diagnostiku kardiovaskulárních onemocnění. Nový systém slibuje zvýšenou přesnost a lepší pochopení lékařských rozhodnutí. bioengineer.org
ZprávaAI safety and security incident
Únik kódu Claude: Anthropic odhalila zdroje kvůli chybě
Zdrojový kód AI chatbota Claude od Anthropic unikl následkem chyby při balení, což šokuje AI průmysl. Experti varují před riziky pro bezpečnost a budoucí vývoj umělé inteligence. sundayguardianlive.com
ZprávaAI safety and security incident
Anthropic si uvědomil kritičnost ochrany autorských práv
Zdrojový kód chatbota Claude od Anthropic unikl kvůli "lidské chybě, ne bezpečnostnímu selhání", což vyvracela tvrzení společnosti o bezpečnosti a důvěryhodnosti. Incident vyvolal otázky ohledně bezpečnostních postupů v AI odvětví. startupdaily.net
ZprávaAI governance
Překonání deadlocku v regulaci AI
Mezinárodní governance AI čelí riziku selhání. Rychlé geopolitické změny, slabost institucí a asymetrie mezi veřejným a soukromým sektorem ohrožují dohody na globální regulaci umělé inteligence. chathamhouse.org
Zprávaexistential risk
Kritici AI jsou stále hlasitější
Demonstranti v San Francisku vyzývají k pozastavení vývoje AI a upozorňují na existenciální rizika. Obávají se, že superinteligence by mohla lidstvu ublížit. enterpriseai.economictimes.indiatimes.com
ZprávaAI safety/existential risk
Hlasy kritizující AI se zvedají
Odborníci vyzývají k pozastavení vývoje AI systémů kvůli významným rizikům, včetně existenční hrozby. Swathi Moorthy zkoumá rozmanité postoje mezi experty na toto téma. m.economictimes.com
ZprávaAI governance/policy
AI a Tech: Předpověď velkého AI dealu
Vyjednávání o národním rámci pro AI budou dlouhodobá záležitost. Pokud ještě nejste odběratelem, přihlaste se k odběru tohoto newsletteru. washingtonpost.com
ZprávaAI safety advocacy
Protestující požadují zastavení vývoje AI
Zhruba 200 protestujících vyšlo 21. března do ulic San Francisca směrem k sídlům OpenAI, Anthropic a xAI s požadavkem na pozastavení vývoje hraničních AI systémů. letsdatascience.com
PolitikaAI governance
Ministerstvo financí spouští iniciativu AI
Federální představitelé spouštějí novou veřejno-soukromou iniciativu zaměřenou na posílení amerického finančního systému v éře umělé inteligence. mychesco.com
Zprávaexistential risk and whistleblowing
Bývalý výzkumný pracovník OpenAI varuje: AI může ohrozit lidstvo do 5 let
Daniel Kokotajlo, bývalý výzkumný pracovník OpenAI a současný oznamovatel, varoval, že umělá inteligence by mohla představovat existenciální hrozbu pro lidstvo. Kokotajlo vyjádřil obavy z rychlého vývoje AI schopností a nedostatečných bezpečnostních opatření. newsbytesapp.com
ZprávaAI governance and corporate accountability
Meta prohrála v soudě: hrozba pro výzkum AI a bezpečnost
Meta utrpěla dvě soudní porážky v různých případech, v nichž se společnosti vytýkalo, že věděla o škodách svých produktů. Rozhodnutí vzbudila obavy ohledně budoucího výzkumu AI a odpovědnosti společnosti za bezpečnost spotřebitelů. cnbc.com
ZprávaAI transparency and interpretability in financial systems
AI systémy proti praní peněz mohou skrývat skutečná rizika
Umělá inteligence v oblasti AML (anti-money laundering) zvyšuje efektivitu, ale zároveň může maskovat bezpečnostní rizika a vést k chybám. Odborníci upozorňují na problémy s transparencí, falešně negativními výsledky a přílišným spoléháním se na automatizaci. etedge-insights.com
Zprávagovernance and policy
Přínosy i škody AI se v roce 2024 výrazně zvýšily
V průběhu roku 2024 technologické společnosti urychlily vývoj AI, což mělo dopad na trhy a vyvolalo aktivitu regulátorů. Růst benefitů AI jde ruku v ruce s rostoucími obavami z jejího negativního dopadu. aol.com
Názorexistential risk and governance
5 otázek pro Maxe Tegmarka
Max Tegmark je fyzik z MIT, který se věnuje výzkumu AI jako součást Institutu pro umělou inteligenci a základní interakce. Rozhovor se zabývá jeho pohledem na vývoj AI a budoucnost technologie. politico.com