Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
889 článků
Technologické soupeření mezi Washingtonem a Pekingem ztěžuje shodu na tom, jak společně řešit potenciálně existenční rizika AI. Rozdílné národní zájmy nadále brzdí spolupráci na bezpečnostních standardech. Zdroj: ft.com
Vývojáři nejpokročilejších AI modelů i špičkoví manažeři technologických firem opakovaně upozorňují na možná nebezpečí této technologie pro lidstvo. Bývalý prezident Trump tyto obavy označuje za přehnané. Zdroj: chosun.com
Obavy z existenčních rizik spojených s umělou inteligencí se čím dál víc dostávají do veřejné debaty a volání po přísnější regulaci sílí. Trump ale odmítá návrhy na zpomalení vývoje AI a veřejně kritizuje společnost Anthropic. Zdroj: fortune.com
Bilal Chughtai, který v červenci opustil Google DeepMind, se přidal k rostoucí skupině výzkumníků veřejně upozorňujících, že AI může představovat existenční hrozbu pro lidstvo. Zdroj: qz.com
Nezisková organizace Future of Life Institute, která upozorňuje na rizika rozsáhlých technologií pro lidstvo, svolala zákonodárce a poradce pro politiku, aby prosadila regulaci AI, zatímco vládní reakce zatím chybí. Zdroj: cnbc.com
Text reaguje na mediální rozruch z minulého týdne, který vyvolal bývalý výzkumník Anthropic Jacob Coxon svými výroky o existenčním riziku AI šířenými na sociálních sítích. Zdroj: patmcguinness.substack.com
AI systémy se rychle vyvinuly od chatbotů, kteří dělali základní faktické chyby, po stále autonomnější nástroje schopné složitých úkolů, což vyvolává otázky o dalším směřování tohoto vývoje. Zdroj: moderndiplomacy.eu
Jacob Coxon opustil společnost Anthropic a upozornil, že nekontrolovaný vývoj pokročilé AI může představovat existenční hrozbu pro lidstvo. Jeho odchod znovu rozproudil celosvětovou debatu o bezpečnosti AI. Zdroj: indiatoday.in
Volker Türk, vysoký komisař OSN pro lidská práva, tvrdí, že dobrovolná samoregulace firem vyvíjejících nejpokročilejší AI zdaleka nestačí k řešení současných škod ani budoucích hrozeb. Vyzývá vlády, aby zavedly přísnější a závazný dohled nad touto technologií. Zdroj: news.un.org
Generální ředitel Anthropic o víkendu prohlásil, že by odvětví AI mělo zpomalit tempo vývoje, a varoval před riziky spěchu bez dostatečných bezpečnostních opatření. Zdroj: tribune.com.pk
Někteří odborníci na AI odhadují pravděpodobnost katastrofického scénáře, kdy by AI ohrozila lidstvo, na více než 10 procent. Otázkou zůstává, zda jsou tyto obavy oprávněné a zda se s nimi dá vůbec něco dělat. Zdroj: newscientist.com
Výzkumníci z americké společnosti Anthropic varovali, že stále výkonnější AI modely by mohly uniknout lidskému dohledu. Čína na tuto možnost podle všeho aktivně reaguje a připravuje se na podobný scénář. Zdroj: insurancejournal.com
Rozsáhlá reportáž mapuje rostoucí obavy o bezpečnost AI, včetně varování před rizikem vyhynutí lidstva a sílících výzev k dočasnému pozastavení vývoje kvůli přísnější regulaci. Zdroj: indiatoday.in
Čerstvá varování přicházející přímo z odvětví AI znovu rozdmýchala diskuzi o tom, zda by pokročilé modely mohly uniknout lidské kontrole a ohrozit lidstvo. Zdroj: abcnews.com
Obavy z existenčního rizika spojeného s AI se znovu dostaly do veřejné diskuze. Přinášíme stručný přehled toho, co debatu vyvolalo. Zdroj: bbc.com
Anthropic a OpenAI budou muset svá varování ohledně zpomalení vývoje AI vyvažovat proti tlaku investorů a politickým zájmům ve Washingtonu. Zdroj: bloomberg.com
Autor textu, který se AI věnuje dvanáct let, tvrdí, že tato technologie může výrazně zlepšit kvalitu lidského života, pokud se bude rozvíjet zodpovědně. Zdroj: darioamodei.com
Přestože se objevují varování, že pokročilá AI může představovat existenční riziko s odhadovanou desetiprocentní šancí na kolaps civilizace, americký Kongres zůstává převážně pasivní. Zdroj: nytimes.com
Čerství varování z řad samotného AI průmyslu znovu otevírají otázku, zda by pokročilé systémy mohly uniknout lidské kontrole a představovat širší hrozbu. Zdroj: michigansthumb.com
Tvrzení odcházejícího výzkumníka z Anthropic, že AI by mohla do konce dekády 'zabít všechny lidi', vyvolalo širokou debatu o skutečných rizicích této technologie. Zdroj: cbc.ca