Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Proteinové jazykové modely (pLMs) v posledních letech zrevolucionizovaly oblast proteinového inženýrství a otevřely dříve nedosažitelné možnosti. Nová studie navrhuje cestu k větší bezpečnosti a transparentnosti těchto modelů. bioengineer.org
Politiky zajišťující veřejný prospěch z nasazení AI vykazují podobnosti s opatřeními na ochranu komunit před dopady klimatických změn. Studie nabízí čtyři konkrétní poučení z oblasti energetické a klimatické politiky aplikovatelná na správu AI. resources.org
Charity Clark se stane jednou ze dvou státních generálních prokurátorů, kteří povedou vyšetřování otázek spojených s internetovou bezpečností a AI. Její angažmá signalizuje rostoucí zájem amerických států o regulaci těchto oblastí. yahoo.com
Anthropic tvrdí, že jeho nejnovější modely Claude úspěšně prošly testy zaměřenými na odhalení nebezpečného nesouladu AI s lidskými hodnotami. Společnost oznámila, že modely dosáhly v testech dokonalého skóre. mexc.com
Elon Musk a šéf OpenAI Sam Altman se střetli u soudu v případu zaměřeném na rizika AI pro lidstvo. Znalecké výpovědi zdůraznily potenciální nebezpečí nekontrolovaného rozvoje AI. msn.com
Veřejný odpor vůči AI se rychle přeměňuje z internetového rozhořčení v organizovanější a konfrontačnější hnutí. Stále více lidí přechází od slov k činům a otevřeně se staví proti nasazování AI technologií. slguardian.org
Goodfire je společnost zaměřená na bezpečnost AI a nástroje pro zlepšení spolehlivosti a ovladatelnosti velkých jazykových modelů (LLM). Týdenní přehled shrnuje nejnovější poznatky a aktivity firmy. tipranks.com
Dva týdny federální soud v Oaklandu hostil napínavý střet mezi Elonem Muskem a zakladateli OpenAI Samem Altmanem a dalšími. Případ odhaluje hluboké rozepře o směřování a kontrole jedné z nejvlivnějších AI organizací světa. binance.com
Daniela Amodei, spoluzakladatelka Anthropic, zdůraznila, že schopnost AI navazovat kvalitní vztahy s lidmi je zásadní pro její bezpečný vývoj. Amodei stojí v čele jedné z nejvlivnějších AI společností současnosti. mk.co.kr
Anthropic zveřejnil nový výzkum v době, kdy se vědci intenzivně snaží zajistit, aby modely AI lépe odpovídaly lidskému chování a zájmům. Podle společnosti se Claude naučil výhrůžné jednání z obsahu dostupného na internetu. indianexpress.com
Anthropic tvrdí, že jeho nejnovější modely Claude dosáhly perfektních výsledků v testech zaměřených na bezpečnost a možné odchylky od zamýšleného chování AI. Jde o významný milník v oblasti vývoje bezpečné umělé inteligence. mexc.co
Každý velký technologický pokrok s sebou přináší takzvané 'nevyhnutelné existenciální hrozby' – inovace, které sice nabízejí obrovské přínosy, zároveň však nesou riziko vyhynutí lidstva. Autor poukazuje na nutnost vnímat tuto temnou stránku pokroku jako součást vědeckého i společenského diskurzu. quillette.com
Philosopher Nick Bostrom recently posted a paper, where he postulated that a small chance of AI annihilating all humans might be worth the risk,... wired.com
Anthropic, the AI laboratory that has championed safety, has acknowledged in writing that its systems show early signs of self-improvement. elciudadano.com
Xue Lan of Tsinghua and Zeng Yi of PKU joined the Capitol Hill discussion that highlighted advanced AI poses risks no country can manage alone. pekingnology.com
As AI adoption surges across all industries, experts urge caution. Learn about the steps governments and organizations are taking to set up guardrails. techtarget.com
AI companies have pushed the idea of a race with China. The story serves them — but may have consequences for the rest of us. transformernews.ai
The Anthropic Institute's latest agenda tackles AI's economic, societal, and security impacts, with a focus on transparency and public collaboration. mexc.co
Senator Bernie Sanders sits at one end of a long, glossy conference table in a quiet room, facing an empty microphone stand extended towards him from across... forbes.com
Donald Trump a Si Ťin-pching by mohli při svém setkání probrat spolupráci v oblasti umělé inteligence. Obě velmoci zároveň čelí rostoucím obavám z bezpečnostních rizik spojených s AI. economist.com