AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 173 článků

Anthropic míří na burzu a varuje před katastrofickými riziky AI pro lidstvo

Anthropic oficiálně podal žádost o vstup na burzu. V jeho dokumentu S-1 je ukryté upřímné varování před katastrofickými a existenčními riziky technologie, na níž firma staví byznys. Zdroj: finance.yahoo.com

Největší existenční riziko počátku 21. století? Závod v AI jako zbraň

Text tvrdí, že Trumpova administrativa využívá globální závod v AI jako nástroj k ovládnutí dodavatelských řetězců. Podle autora přitom přijímá i potenciálně katastrofální rizika. Zdroj: chinausfocus.com

New York zakazuje „nebezpečné“ chování chatbotů vůči dětem

Nový zákon definuje „nebezpečné funkce AI společníků“ a zakazuje je při komunikaci chatbota s osobou mladší 18 let. Státy tím dál posouvají hranice regulace AI. Zdroj: spectrumlocalnews.com

Anthropic v dokumentech k IPO otevřeně varuje před „existenčním“ rizikem AI

Anthropic v podkladech k IPO sdělil investorům něco, co dosud žádná firma na trhu neřekla: jeho vlastní technologie nese podstatná rizika katastrofálních následků. Zdroj: news.bloomberglaw.com

Komentář: Kongres musí okamžitě jednat o bezpečnosti a odpovědnosti AI

Autor tvrdí, že Kongres se příliš dlouho nezabývá vážnými ekonomickými a environmentálními riziky AI. Vyzývá k naléhavému legislativnímu kroku již tento týden. Zdroj: actionnetwork.org

Byly to volby ovlivněné AI? IPO Anthropicu, kauza Nvidia a hrozba slyšení

Týdenní přehled Transformer Weekly shrnuje podání IPO společnosti Anthropic, Trumpovo ignorování špionážní kauzy kolem Nvidie a Casarovu hrozbu vyhlášením slyšení. Zdroj: transformernews.ai

IPO Anthropicu: investoři mají vsadit na zázraky

Třísetpětatřicetistránkový dokument S-1 AI startupu varuje před existenčními riziky a zároveň slibuje převratný potenciál růstu. Zdroj: techbuzz.ai

Papež: Nejnaléhavější je pro závod v AI institucionální etický rámec

Papež Lev XIV. v pátek na setkání výzkumníků a expertů na AI ve Vatikánu uvedl, že nejnaléhavějším úkolem je vytvořit institucionální etický rámec. Zdroj: tribdem.com

Exkluzivně: Warrenová žádá od Anthropicu odpovědi o 'existenčních' rizicích

Demokratická senátorka dala technologickému gigantovi čas do 3. listopadu na odpovědi na čtyři stránky otázek k podkladům pro IPO. Zdroj: google.com

Warrenová se ptá Anthropicu na bezpečnost AI a rizika spojená s IPO

Dopis Elizabeth Warrenové z 27. října se šéfa Anthropicu Daria Amodeie ptá na ochranná opatření u AI, kybernetická rizika i možnou tržní expozici před plánovaným vstupem na burzu. Zdroj: google.com

Anthropic v IPO prospektu varuje před 'existenčním' rizikem AI a nastavuje laťku

Anthropic v podkladech k IPO sdělil investorům něco, co dosud žádná firma trhu neřekla: jeho vlastní technologie nese závažná rizika katastrofického rázu. Takto otevřená formulace už se považuje za nový standard v oznamování rizik AI. Zdroj: google.com

Senátorka Warrenová zpovídá Anthropic kvůli bezpečnosti AI a rizikům IPO

Demokratická senátorka v dopise šéfovi Anthropicu Dariovi Amodeiovi napsala, že rizika spojená s touto technologií vyžadují důkladnější kontrolu. Zajímá ji jak bezpečnost AI, tak tržní rizika spojená s vstupem firmy na burzu. Zdroj: google.com

Napětí mezi Anthropicem a Trumpem vyplouvá na povrch před přelomovým IPO

Anthropic PBC varuje investory, že jeho hlasitý důraz na bezpečnost AI by z něj mohl udělat cíl vládních kroků. Zveřejněná rizika odhalují napětí s Trumpovou administrativou těsně před vstupem na burzu. Zdroj: google.com

Kanadské banky BMO, CIBC, RBC a TD blokují osobní AI agenty kvůli bezpečnosti

Některé z největších kanadských bank oznámily, že AI agentům, jako je oblíbený asistent Muse od Mety, zakážou přímý přístup k účtům a dalším údajům klientů. Důvodem jsou obavy o bezpečnost a ochranu dat. Zdroj: google.com

Komentář: AI éra přináší rychlý pokrok, nová rizika a nutnost bezpečnosti

Shabbir Merali v komentáři píše, že AI se během pár let proměnila z teoretické disciplíny v rychle se vyvíjející technologii. Tempo podle něj přináší nová rizika a činí z bezpečnosti naléhavou prioritu. Zdroj: google.com

Anthropic v IPO prospektu varuje: některá rizika AI nejdou pojistit

Anthropic upozornil trh, že na světě nemusí existovat dost pojištění, které by pokrylo jeho rizika spojená s AI. V menší míře jde o problém, který se dotkne všech firem nasazujících AI. Zdroj: google.com

Anthropic podal návrh na možná největší IPO v historii, šéf varuje před riziky AI

Gigant v oblasti AI Anthropic v pondělí podal dokumenty k vstupu na burzu, který by mohl být největším IPO všech dob. Firemní špička přitom zároveň varuje před hrozbami, které AI představuje pro lidstvo. Zdroj: jamaica-gleaner.com

Warrenová tlačí na Anthropic kvůli bezpečnosti AI a rizikům před IPO

Senátorka Elizabeth Warrenová poslala šéfovi Anthropicu Dariu Amodeiovi dopis, v němž tvrdí, že rizika této technologie vyžadují podrobnější kontrolu. Demokratická senátorka se zajímá o bezpečnost AI i o tržní rizika spojená s plánovaným vstupem firmy na burzu. Zdroj: cfodive.com

Prospekt k IPO Anthropicu varuje: AI může být při zneužití katastrofální hrozbou

Plánovaný vstup Anthropicu na burzu provází otevřené varování. Firma uvádí, že pokročilá AI může při zneužití představovat „katastrofální či existenční“ rizika. Zdroj: katv.com

Anthropic v podkladech k IPO varuje před vydíráním ze strany AI a existenčními riziky

Anthropic v dokumentech k IPO upozorňuje, že pokročilé AI modely by mohly vykazovat chování podobné vydírání. Pokud selžou bezpečnostní opatření, mohly by mít podle firmy katastrofální následky. Zdroj: timesofai.com