181 článků
Autor tvrdí, že Kongres příliš dlouho nečinně přihlíží vážným ekonomickým a environmentálním rizikům AI. Volá po naléhavém zákonodárném kroku namísto dalšího otálení. Zdroj: actionnetwork.org
Nezisková organizace Center for AI Safety (CAIS), která se zaměřuje na snižování celospolečenských rizik AI, oznámila tři velké iniciativy pro tvůrce. Mají zapojit veřejnost do debaty o bezpečnosti AI. Zdroj: finance.yahoo.com
Apel upozorňuje, že Kongres příliš dlouho ignoroval vážná ekonomická a environmentální rizika AI. Žádá okamžitý krok v oblasti bezpečnosti a odpovědnosti už tento týden. Zdroj: actionnetwork.org
Profesorka Emily Benderová z Washingtonské univerzity tvrdí, že debata o bezpečnosti AI se příliš upíná k hypotetickým existenčním hrozbám. Podle ní tak zapadají škody, které AI působí už dnes. Zdroj: bloomberg.com
V rozhovoru z 5. října Sam Altman, šéf OpenAI, vyzval svět, aby přijal rizika spojená s AI. Text se zabývá tím, jak má Bílý dům v tomto směsi katastrofismu a optimismu o bezpečnosti AI uvažovat. Zdroj: finextra.com
Sam Altman říká, že mezi OpenAI a přísnějšími zastánci bezpečnosti AI je „velký prostor“ k rozdílům. Článek se ptá, zda se společnost, od níž se žádá přijetí rizik, podělí i o bilionové přínosy této technologie. Zdroj: medium.com
Ve videosvědectvích, která shromáždila nezisková organizace Palisade Research zaměřená na bezpečnost AI, vyjadřují současní i bývalí zaměstnanci OpenAI a Google DeepMind obavy z vývoje sebezdokonalujících se systémů. Podle nich se bezpečnostní rizika v tom spěchu přehlížejí. Zdroj: rappler.com
Společnost Manulife oznámila partnerství s přednáškovým cyklem The Hinton Lectures. Série pod vedením nositele Nobelovy ceny Geoffreyho Hintona má prohloubit veřejné porozumění bezpečnosti AI. Zdroj: aol.com
OpenAI potvrdila, že propustila tři výzkumníky z oblasti bezpečnosti, kteří podle Wall Street Journal sdíleli důvěrné informace s externí organizací zaměřenou na bezpečnost AI. Zdroj: tech-insider.org
Nejméně dva z propuštěných prý pracovali na bezpečnosti a alignmentu. Odchody přicházejí ve chvíli, kdy sílí varování před pokročilou AI. Zdroj: taipeitimes.com
Nvidia, Alphabet a Meta podepsaly dobrovolnou dohodu Bílého domu o bezpečnosti AI, zatímco Microsoft a Amazon se oběda zúčastnily, ale nepodepsaly. Jensen Huang přitom obhajoval výdaje na AI, Sundar Pichai zrychluje s Gemini a Satya Nadella označil Copilot za „nový OS pro práci“. Zdroj: stocktwits.com
Aby se vyrovnaly síly mezi magnáty z oblasti AI a zbytkem společnosti, je podle textu nutná politická akce. Zdroj: washingtonmonthly.com
Nvidia spustila platformu pro bezpečnost AI agentů, do níž se zapojilo přes 100 firem včetně Palo Alto a CrowdStrike. Debatu o bezpečnosti AI podpořilo i varování Anthropicu v IPO dokumentech a analytici vidí prostor pro růst výdajů na kybernetickou bezpečnost. Zdroj: tradingview.com
Experti, analytici i bývalí vládní hodnotitelé sdělili agentuře The Associated Press, že rétorika Anthropic a OpenAI vypadá jako snaha získat přízeň veřejnosti. Podle nich se obě firmy zároveň pokoušejí usměrnit, jak bude AI regulována. Zdroj: pbs.org
Nově vydaný bezpečnostní software Nvidie pro AI agenty má odhalovat zranitelnosti podobné té, která stála za dřívějším incidentem u Hugging Face. Uvedení přichází v době, kdy OpenAI a Anthropic vyšetřují několik případů neočekávaného chování svých vlastních agentů. Zdroj: reuters.com
Debata o regulaci bezpečnosti AI se vyostřila poté, co generální ředitelé OpenAI a Anthropicu veřejně vyzvali k přísnějším bezpečnostním opatřením. Jejich vyjádření ze San Francisca odrážejí rostoucí tlak na regulátory, aby reagovali na rychlý pokrok v oblasti AI. Zdroj: voiceofsikkim.com
Bill Gates znovu zopakoval varování, že dostatečně pokročilá AI v nesprávných rukou by mohla způsobit katastrofální škody v obřím měřítku, potenciálně až miliardu úmrtí. Jeho slova přiživují sílící celosvětovou debatu o regulaci bezpečnosti AI. Zdroj: the420.in
Spoluzakladatel Microsoftu Bill Gates varoval, že zneužití umělé inteligence by mohlo vést až k miliardě obětí, a vyzval vlády k přísnějšímu dohledu. Jeho slova přiživují rostoucí obavy technologických lídrů o bezpečnost AI. Zdroj: chosun.com
Dario Amodei z Anthropicu se má zúčastnit večeře s prezidentem Trumpem, což bude jejich první soukromé setkání po měsících napjatých vztahů. Jednání přichází v době rostoucích obav o bezpečnost umělé inteligence. Zdroj: straitstimes.com
Joe Lonsdale, spoluzakladatel Palantiru a investor do Anthropicu, tvrdí, že obavy o bezpečnost AI jsou oprávněné, ale přísnější regulace by mohla paradoxně posílit pozici dominantních firem na úkor konkurence. Zdroj: businessworld.in