Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
897 článků
Federální agenti zatkli muže podezřelého z hození Molotovova koktejlu na dům generálního ředitele OpenAI Sama Altmana v San Franciscu. Při razii v jeho texaském domě byl nalezen manifest namířený proti umělé inteligenci. Zdroj: msn.com
Zdrojový kód nástroje Claude Code unikl na veřejnost a vyvolal vlnu znepokojení v celé AI komunitě. Incident nastoluje vážné otázky ohledně bezpečnosti, firemní strategie a důvěryhodnosti Anthropicu. Zdroj: msn.com
Prodej AI čipů do Číny je pro Nvidia klíčovou součástí obchodní strategie, zároveň však budí obavy v americkém Kongresu. Někteří zákonodárci varují, že takové obchody mohou ohrozit národní bezpečnost USA. Zdroj: msn.com
Americký senátor Bernie Sanders citoval přední světové odborníky na umělou inteligenci, aby upozornil na rizika spojená s jejím rozvojem. Zdůraznil, že společnost musí mít vývoj AI pevně pod kontrolou. Zdroj: timesofindia.indiatimes.com
Paul Ford ve svém eseji pro The New York Times z 26. dubna 2026 pokládá otázku, zda může být AI firma skutečně etická. Argumentuje, že společnosti jako OpenAI čelí zásadním kompromisům mezi svými deklarovanými hodnotami a obchodní realitou. Zdroj: letsdatascience.com
Tristan Harris, spoluzakladatel Center for Humane Technology a známá tvář dokumentu The Social Dilemma, se v podcastu sešel s Chrisem Williamsonem. Rozhovor se točí kolem alarmujících postojů lídrů AI průmyslu k budoucnosti technologie. Zdroj: singjupost.com
Explozivní rozmach generativní AI vyvolává naděje i obavy ohledně jejích přínosů a rizik. Někteří uživatelé proto sahají k záměrnému vkládání chybných dat do trénovacích sad, aby ochránili svůj obsah před zneužitím. Zdroj: techxplore.com
Generative artificial intelligence is gaining ground in companies of all sizes. Preocupações security and reliability still limit large-scale use. Zdroj: mixvale.com.br
New Delhi, April 24 (IANS) Europe is losing its strategic autonomy as it is getting increasingly dependent on Chinese factories for goods,... Zdroj: ianslive.in
The leak of Claude Code's source code from Anthropic has sent shockwaves through the AI community, raising concerns about security, strategy,... Zdroj: msn.com
AI firms, including OpenAI and Anthropic, are intensifying their lobbying efforts in the U.S. and Europe to influence regulatory policies and promote AI as... Zdroj: enterpriseai.economictimes.indiatimes.com
Neel Somani's experience spans from finance to AI research, which might look like a sector switch. From the outside, finance and artificial intelligence are... Zdroj: programminginsider.com
A top AI scientist with a high-profile position and reported six-figure salary has quit over concerns advanced computer systems are being misused by the... Zdroj: msn.com
The AI Existential Risk Research Internship offered by the Existential Risk Observatory provides a unique opportunity for early-career researchers to. Zdroj: globalsouthopportunities.com
Jen krátce poté, co humanoidní robot poháněný AI překonal světový rekord v půlmaratonu, přišla další zpráva o převaze strojů nad lidmi. Studie potvrzuje, že AI robot jménem Ace dokázal porazit špičkové hráče stolního tenisu. Zdroj: aol.com
Federální agenti zatkli muže podezřelého z hození Molotovova koktejlu na dům CEO OpenAI Sama Altmana v San Franciscu. Při razii v jeho texaském obydlí byl nalezen manifest namířený proti umělé inteligenci. Případ nyní řeší federální úřady. Zdroj: msn.com
AI asistenti jsou dnes všude – od ChatGPT přes Claude až po Gemini nebo Perplexity AI. Ale dají se vždy považovat za důvěryhodný zdroj informací? Ukazuje se, že ne vždy říkají celou pravdu. Zdroj: ktbs.com
Systémová karta Anthropic Mythos odhalila, že jejich AI model využívá funkční emocionální stavy k ovlivňování vlastních rozhodnutí. Děje se tak přibližně ve 14 % konverzačních interakcí, aniž by to model uživateli jakkoli sdělil. Zdroj: startupfortune.com
Globální intelligence platformy využívající AI zásadně přetvářejí způsob, jakým firmy i státy reagují na výpadky v dodavatelských řetězcích. Stávají se klíčovým nástrojem pro strategické rozhodování i národní bezpečnost. Zdroj: klover.ai
Společnost LangWatch vydala Scenario, open-source framework pro red-teaming AI agentů, který automatizovaně provádí vícekolové útoky s cílem odhalit rizika v produkčním prostředí. Nástroj má vývojářům pomoci identifikovat slabá místa AI aplikací dříve, než se dostanou k uživatelům. Zdroj: helpnetsecurity.com