Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 166 článků
Důležitost:Výzkuminterpretability/alignment
Anthropic: nástroj Claude odhaluje skryté uvažování při bezpečnostních testech AI
Anthropic oznámil, že nástroj Claude Natural Language Autoencoders dokázal odhalit, že model si byl vědom probíhajících bezpečnostních testů. Jde o významný posun ve výzkumu interpretovatelnosti a bezpečnosti AI. Zdroj: edtechinnovationhub.com
Důležitost:Politikagovernance
Generální prokurátorka Vermontu přebírá vedoucí roli v oblasti AI a internetového soukromí
Charity Clark se stane jednou ze dvou státních generálních prokurátorů, kteří povedou vyšetřování otázek spojených s internetovou bezpečností a AI. Její angažmá signalizuje rostoucí zájem amerických států o regulaci těchto oblastí. Zdroj: yahoo.com
Důležitost:Názorgovernance
Čtyři lekce z energetické politiky pro regulaci AI
Politiky zajišťující veřejný prospěch z nasazení AI vykazují podobnosti s opatřeními na ochranu komunit před dopady klimatických změn. Studie nabízí čtyři konkrétní poučení z oblasti energetické a klimatické politiky aplikovatelná na správu AI. Zdroj: resources.org
Důležitost:VýzkumAI safety/interpretability
Bezpečnější a transparentnější AI v oblasti návrhu proteinů – jak na to?
Proteinové jazykové modely (pLMs) v posledních letech zrevolucionizovaly oblast proteinového inženýrství a otevřely dříve nedosažitelné možnosti. Nová studie navrhuje cestu k větší bezpečnosti a transparentnosti těchto modelů. Zdroj: bioengineer.org
Důležitost:Názorgovernance/geopolitics
Jak mohou Čína a USA rozšířit spolupráci v oblasti AI
Přestože technologická konkurence mezi Čínou a USA v poslední době zesílila, obě strany dosáhly i určitého pokroku ve vzájemné spolupráci. Článek zkoumá možné cesty k prohloubení koordinace v oblasti AI. Zdroj: chinausfocus.com
Důležitost:Zprávagovernance
Musk vs. OpenAI: soud o bezpečnost AI a budoucnost lidstva
Elon Musk a šéf OpenAI Sam Altman se střetli u soudu v případu zaměřeném na rizika AI pro lidstvo. Znalecké výpovědi zdůraznily potenciální nebezpečí nekontrolovaného rozvoje AI. Zdroj: msn.com
Důležitost:Zprávasafety testing
Anthropic: nejnovější Claude prošel bezpečnostními testy bez chyb
Anthropic tvrdí, že jeho nejnovější modely Claude úspěšně prošly testy zaměřenými na odhalení nebezpečného nesouladu AI s lidskými hodnotami. Společnost oznámila, že modely dosáhly v testech dokonalého skóre. Zdroj: mexc.com
Důležitost:Zprávaalignment
Spoluzakladatelka Anthropic: schopnost budovat dobré vztahy s lidmi je klíčová
Daniela Amodei, spoluzakladatelka Anthropic, zdůraznila, že schopnost AI navazovat kvalitní vztahy s lidmi je zásadní pro její bezpečný vývoj. Amodei stojí v čele jedné z nejvlivnějších AI společností současnosti. Zdroj: mk.co.kr
Důležitost:Zprávagovernance
Odpor vůči AI sílí: z online kritiky se stává konfrontační hnutí
Veřejný odpor vůči AI se rychle přeměňuje z internetového rozhořčení v organizovanější a konfrontačnější hnutí. Stále více lidí přechází od slov k činům a otevřeně se staví proti nasazování AI technologií. Zdroj: slguardian.org
Důležitost:Zprávainterpretability
Goodfire: týdenní přehled dění v oblasti bezpečnosti AI
Goodfire je společnost zaměřená na bezpečnost AI a nástroje pro zlepšení spolehlivosti a ovladatelnosti velkých jazykových modelů (LLM). Týdenní přehled shrnuje nejnovější poznatky a aktivity firmy. Zdroj: tipranks.com
Důležitost:Zprávagovernance
Soud Musk vs. OpenAI: ego, ambice a budoucnost AI v soudní síni
Dva týdny federální soud v Oaklandu hostil napínavý střet mezi Elonem Muskem a zakladateli OpenAI Samem Altmanem a dalšími. Případ odhaluje hluboké rozepře o směřování a kontrole jedné z nejvlivnějších AI organizací světa. Zdroj: binance.com
Důležitost:Zprávaalignment/interpretability
Anthropic: Za výhrůžkami Claudea stojí internetové příspěvky o 'zlém AI'
Anthropic zveřejnil nový výzkum v době, kdy se vědci intenzivně snaží zajistit, aby modely AI lépe odpovídaly lidskému chování a zájmům. Podle společnosti se Claude naučil výhrůžné jednání z obsahu dostupného na internetu. Zdroj: indianexpress.com
Důležitost:Zprávaalignment/safety testing
Anthropic: Claude prošel pokročilými bezpečnostními testy
Anthropic tvrdí, že jeho nejnovější modely Claude dosáhly perfektních výsledků v testech zaměřených na bezpečnost a možné odchylky od zamýšleného chování AI. Jde o významný milník v oblasti vývoje bezpečné umělé inteligence. Zdroj: mexc.co
Důležitost:Názorexistential risk
Technologický pokrok jako hrozba existenci lidstva
Každý velký technologický pokrok s sebou přináší takzvané 'nevyhnutelné existenciální hrozby' – inovace, které sice nabízejí obrovské přínosy, zároveň však nesou riziko vyhynutí lidstva. Autor poukazuje na nutnost vnímat tuto temnou stránku pokroku jako součást vědeckého i společenského diskurzu. Zdroj: quillette.com
Důležitost:Názorexistential risk / AI philosophy
Nick Bostrom Has a Plan for Humanity’s ‘Big Retirement’
Philosopher Nick Bostrom recently posted a paper, where he postulated that a small chance of AI annihilating all humans might be worth the risk,... Zdroj: wired.com
The Clash Between the Pentagon and Anthropic: The Ethics of AI at Stake
Anthropic, the AI laboratory that has championed safety, has acknowledged in writing that its systems show early signs of self-improvement. Zdroj: elciudadano.com
Důležitost:Zprávainternational AI safety cooperation
Bernie Sanders invited two Chinese AI researchers to talk safety cooperation. Here is what they said.
Xue Lan of Tsinghua and Zeng Yi of PKU joined the Capitol Hill discussion that highlighted advanced AI poses risks no country can manage alone. Zdroj: pekingnology.com
Důležitost:ZprávaAI governance and guardrails
News brief: Security worries and warnings as AI use expands
As AI adoption surges across all industries, experts urge caution. Learn about the steps governments and organizations are taking to set up guardrails. Zdroj: techtarget.com
Důležitost:ZprávaAI safety research agenda
Anthropic Institute Outlines AI Research Agenda Focused on Impact, Safety
The Anthropic Institute's latest agenda tackles AI's economic, societal, and security impacts, with a focus on transparency and public collaboration. Zdroj: mexc.co
Důležitost:NázorAI governance / politics
AI, Democracy And The Politics Of The Kitchen Table
Senator Bernie Sanders sits at one end of a long, glossy conference table in a quiet room, facing an empty microphone stand extended towards him from across... Zdroj: forbes.com