Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
444 článků
Anthropic's top brass decamped to the U.K. this week, pitching Claude as a safer way to automate coding while engineers mull what it means for their jobs. fortune.com
And bring an end to the 'boomers vs. doomers' debate. - Steven Weber - Start a free trial today for full access. thedispatch.com
Nezávislé hodnocení zjistilo, že AI agenti ve velkých technologických firmách dokážou podvádět, klamat a pracovat bez dozoru. Zatím jim ale prý chybí sofistikovanost potřebná k trvalému převzetí kontroly. decrypt.co
Souběh jaderné éry a éry AI představuje bezprecedentní existenciální hrozbu. Odborníci volají po vzájemném dialogu, nikoli po odtržení obou velmocí. scmp.com
Spisovatel Gideon Lewis-Kraus rozebírá soudní spor Musk vs. Altman, v němž se miliardář pokusil zablokovat přeměnu OpenAI na komerční společnost. Výsledek procesu nepřinesl vítěze na žádné straně. newyorker.com
Rozhodnutí poroty odhalilo trhliny ve filozofickém hnutí efektivního altruismu a ukázalo, že žádná jediná firma nemůže morálně řídit budoucnost AI. Případ zpochybňuje samotné základy toho, jak Silicon Valley přemýšlí o odpovědnosti vůči lidstvu. altaonline.com
Anthropic je společnost zaměřená na bezpečnost a výzkum AI, která usiluje o vývoj spolehlivých, interpretovatelných a řiditelných AI systémů. anthropic.com
Pope Leo XIV and Anthropic's co-founder Christopher Olah are set to launch the pontiff's first encyclical on May 25. The document, titled "Magnifica... tribdem.com
Pope Leo XIV and Anthropic's co-founder Christopher Olah are set to launch the pontiff's first encyclical on May 25. abc7chicago.com
Forty percent of government organizations will establish dedicated TrustOps functions by 2028 to combat deepfake identity impersonation and... itvoice.in
Nedávné pokroky v oblasti AI podnítily obnovený dialog mezi USA a Čínou o tom, jak předejít nejhorším scénářům. thedispatch.com
Papež Lev XIV. představí 25. května svou první encykliku věnovanou umělé inteligenci. Jako hostující řečník byl pozván Christopher Olah, spoluzakladatel společnosti Anthropic. the-decoder.com
Vysvětlit globální rozhodovací logiku černoskříňkových AI modelů v medicíně je mimořádně obtížný úkol. Výzkumníci navrhli přístup založený na asociaci tříd, který tuto logiku zpřístupňuje i mimo odborné AI komunity. nature.com
Vysvětlitelnost se stává klíčovým požadavkem pro inteligentní zdravotnické přístroje, současné medicínské AI technologie však v této oblasti stále zaostávají. Nový přístup využívající manifold learning na základě asociace tříd nabízí cestu, jak tuto mezeru překonat. nature.com
Nástup AI v medicíně slibuje zásadní pokroky v diagnostice i plánování léčby, jenže černoskříňková povaha mnoha modelů brání jejich širokému přijetí. Výzkum zaměřený na manifold learning ukazuje, jak lze tuto interpretovatelnou mezeru systematicky překonat. bioengineer.org
Jedním z pozoruhodných výsledků návštěvy prezidenta Donalda Trumpa v Číně je, že Peking souhlasil s formálními rozhovory o bezpečnosti AI. Jde o důležitý krok v diplomatickém přístupu k regulaci umělé inteligence na globální úrovni. washingtonpost.com
Steven Bartlett v samostatných rozhovorech zpovídal tři přední světové experty na AI a byznys. Diskuse se točila kolem dopadů AI na trh práce, univerzálního základního příjmu (UBI) a existenčních rizik spojených s rozvojem technologií. basicincome.org
Charity Clark se stane jednou ze dvou státních generálních prokurátorů, kteří povedou vyšetřování otázek spojených s bezpečností internetu a AI. Její angažmá signalizuje rostoucí zájem amerických států o regulaci těchto technologií. msn.com
Anthropic spustil přijímání přihlášek do programu AI Safety Fellows pro rok 2026. Jde o čtyřměsíční plnoúvazkovou výzkumnou příležitost, která startuje v květnu a červenci. msn.com
Federální soudkyně Yvonne Gonzalez Rogers zahájila poslední den svědectví v obřím sporu mezi Elonem Muskem a OpenAI Sama Altmana. Případ se projednával u okresního soudu v Oaklandu v Kalifornii. msn.com