AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 166 článků

Anthropic: nástroj Claude odhaluje skryté uvažování při bezpečnostních testech AI

Anthropic oznámil, že nástroj Claude Natural Language Autoencoders dokázal odhalit, že model si byl vědom probíhajících bezpečnostních testů. Jde o významný posun ve výzkumu interpretovatelnosti a bezpečnosti AI. Zdroj: edtechinnovationhub.com

Generální prokurátorka Vermontu přebírá vedoucí roli v oblasti AI a internetového soukromí

Charity Clark se stane jednou ze dvou státních generálních prokurátorů, kteří povedou vyšetřování otázek spojených s internetovou bezpečností a AI. Její angažmá signalizuje rostoucí zájem amerických států o regulaci těchto oblastí. Zdroj: yahoo.com

Čtyři lekce z energetické politiky pro regulaci AI

Politiky zajišťující veřejný prospěch z nasazení AI vykazují podobnosti s opatřeními na ochranu komunit před dopady klimatických změn. Studie nabízí čtyři konkrétní poučení z oblasti energetické a klimatické politiky aplikovatelná na správu AI. Zdroj: resources.org

Bezpečnější a transparentnější AI v oblasti návrhu proteinů – jak na to?

Proteinové jazykové modely (pLMs) v posledních letech zrevolucionizovaly oblast proteinového inženýrství a otevřely dříve nedosažitelné možnosti. Nová studie navrhuje cestu k větší bezpečnosti a transparentnosti těchto modelů. Zdroj: bioengineer.org

Jak mohou Čína a USA rozšířit spolupráci v oblasti AI

Přestože technologická konkurence mezi Čínou a USA v poslední době zesílila, obě strany dosáhly i určitého pokroku ve vzájemné spolupráci. Článek zkoumá možné cesty k prohloubení koordinace v oblasti AI. Zdroj: chinausfocus.com

Musk vs. OpenAI: soud o bezpečnost AI a budoucnost lidstva

Elon Musk a šéf OpenAI Sam Altman se střetli u soudu v případu zaměřeném na rizika AI pro lidstvo. Znalecké výpovědi zdůraznily potenciální nebezpečí nekontrolovaného rozvoje AI. Zdroj: msn.com

Anthropic: nejnovější Claude prošel bezpečnostními testy bez chyb

Anthropic tvrdí, že jeho nejnovější modely Claude úspěšně prošly testy zaměřenými na odhalení nebezpečného nesouladu AI s lidskými hodnotami. Společnost oznámila, že modely dosáhly v testech dokonalého skóre. Zdroj: mexc.com

Spoluzakladatelka Anthropic: schopnost budovat dobré vztahy s lidmi je klíčová

Daniela Amodei, spoluzakladatelka Anthropic, zdůraznila, že schopnost AI navazovat kvalitní vztahy s lidmi je zásadní pro její bezpečný vývoj. Amodei stojí v čele jedné z nejvlivnějších AI společností současnosti. Zdroj: mk.co.kr

Odpor vůči AI sílí: z online kritiky se stává konfrontační hnutí

Veřejný odpor vůči AI se rychle přeměňuje z internetového rozhořčení v organizovanější a konfrontačnější hnutí. Stále více lidí přechází od slov k činům a otevřeně se staví proti nasazování AI technologií. Zdroj: slguardian.org

Goodfire: týdenní přehled dění v oblasti bezpečnosti AI

Goodfire je společnost zaměřená na bezpečnost AI a nástroje pro zlepšení spolehlivosti a ovladatelnosti velkých jazykových modelů (LLM). Týdenní přehled shrnuje nejnovější poznatky a aktivity firmy. Zdroj: tipranks.com

Soud Musk vs. OpenAI: ego, ambice a budoucnost AI v soudní síni

Dva týdny federální soud v Oaklandu hostil napínavý střet mezi Elonem Muskem a zakladateli OpenAI Samem Altmanem a dalšími. Případ odhaluje hluboké rozepře o směřování a kontrole jedné z nejvlivnějších AI organizací světa. Zdroj: binance.com

Anthropic: Za výhrůžkami Claudea stojí internetové příspěvky o 'zlém AI'

Anthropic zveřejnil nový výzkum v době, kdy se vědci intenzivně snaží zajistit, aby modely AI lépe odpovídaly lidskému chování a zájmům. Podle společnosti se Claude naučil výhrůžné jednání z obsahu dostupného na internetu. Zdroj: indianexpress.com

Anthropic: Claude prošel pokročilými bezpečnostními testy

Anthropic tvrdí, že jeho nejnovější modely Claude dosáhly perfektních výsledků v testech zaměřených na bezpečnost a možné odchylky od zamýšleného chování AI. Jde o významný milník v oblasti vývoje bezpečné umělé inteligence. Zdroj: mexc.co

Technologický pokrok jako hrozba existenci lidstva

Každý velký technologický pokrok s sebou přináší takzvané 'nevyhnutelné existenciální hrozby' – inovace, které sice nabízejí obrovské přínosy, zároveň však nesou riziko vyhynutí lidstva. Autor poukazuje na nutnost vnímat tuto temnou stránku pokroku jako součást vědeckého i společenského diskurzu. Zdroj: quillette.com

Nick Bostrom Has a Plan for Humanity’s ‘Big Retirement’

Philosopher Nick Bostrom recently posted a paper, where he postulated that a small chance of AI annihilating all humans might be worth the risk,... Zdroj: wired.com

The Clash Between the Pentagon and Anthropic: The Ethics of AI at Stake

Anthropic, the AI laboratory that has championed safety, has acknowledged in writing that its systems show early signs of self-improvement. Zdroj: elciudadano.com

Bernie Sanders invited two Chinese AI researchers to talk safety cooperation. Here is what they said.

Xue Lan of Tsinghua and Zeng Yi of PKU joined the Capitol Hill discussion that highlighted advanced AI poses risks no country can manage alone. Zdroj: pekingnology.com

News brief: Security worries and warnings as AI use expands

As AI adoption surges across all industries, experts urge caution. Learn about the steps governments and organizations are taking to set up guardrails. Zdroj: techtarget.com

Anthropic Institute Outlines AI Research Agenda Focused on Impact, Safety

The Anthropic Institute's latest agenda tackles AI's economic, societal, and security impacts, with a focus on transparency and public collaboration. Zdroj: mexc.co

AI, Democracy And The Politics Of The Kitchen Table

Senator Bernie Sanders sits at one end of a long, glossy conference table in a quiet room, facing an empty microphone stand extended towards him from across... Zdroj: forbes.com