Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 173 článků
Důležitost:Zprávaexistential risk
Anthropic v IPO dokumentech varuje: AI může být existenčním rizikem
Anthropic hodlá potenciální investory v rámci IPO upozornit, že pokročilá AI může představovat „katastrofální nebo existenční rizika pro lidstvo“. Na společnost chystající vstup na burzu jde o mimořádně otevřené varování. Zdroj: ddnews.gov.in
Důležitost:ZprávaAI company developments
OpenAI odkládá IPO, Anthropic míří na rekordní debut na Wall Street
OpenAI odložila své případné mimořádně velké uvedení na burzu. Anthropic se naopak údajně dál chystá na IPO, které by mohlo vytvořit rekord. Zdroj: aimagazine.com
Důležitost:Zprávasafety research
Palo Alto na rekordu: debata o bezpečnosti AI táhne akcie kybernetické ochrany
Nvidia spustila platformu pro bezpečnost AI agentů, do níž se zapojilo přes 100 firem včetně Palo Alto a CrowdStrike. Debatu o bezpečnosti AI podpořilo i varování Anthropicu v IPO dokumentech a analytici vidí prostor pro růst výdajů na kybernetickou bezpečnost. Zdroj: tradingview.com
Důležitost:Zprávainvestment perspective
Ackman chválí Anthropic, ale investovat nebude. Prospekt odhalil rizika AI
Miliardář Bill Ackman označil Anthropic za „nejneobyčejnější obchodní příběh“, jaký kdy viděl. Jeho hedge fond Pershing Square přesto nakupovat nebude a uniklý prospekt odhalil varování firmy před existenčními riziky AI. Zdroj: finance.biggo.com
Důležitost:Videoexistential risk debate
Video: je AI skutečně existenčním rizikem? Novináři se přou
V pořadu Daily Maverick Power Chat diskutují novinářka Rebecca Davis a šéfredaktor Business Maverick Lindsey Schutters o rizicích umělé inteligence. Zdroj: dailymaverick.co.za
Důležitost:Zprávagovernance & regulation
FTC zahajuje šetření AI laboratoří kvůli bezpečnosti spotřebitelů
Americký Federální obchodní úřad (FTC) vyšetřuje přední vývojáře AI, mezi nimi Anthropic a OpenAI, kvůli možným rizikům jejich technologií pro spotřebitele. Šetření se zaměřuje na špičkové laboratoře a jejich přístup k bezpečnosti. Zdroj: washingtontimes.com
Výzkumníci AI varují: firmy spěchají se samozlepšujícími systémy navzdory rizikům
Současní i bývalí výzkumníci z OpenAI a Google DeepMind upozorňují, že firmy dělají příliš málo pro zvládnutí rizik systémů AI, které se dokážou samy zlepšovat. Podle agentury Reuters se vývoj takových systémů překotně urychluje, přestože bezpečnostní obavy zůstávají nevyřešené. Zdroj: wtvbam.com
Důležitost:Zprávagovernance & existential risk
IPO Anthropicu varuje před „existenčními riziky“ AI, kritici viní lidi, ne stroje
Prospekt Anthropicu k IPO varuje, že pokročilá AI může představovat „katastrofální či existenční rizika pro lidstvo“, včetně modelů, které se brání vypnutí. Kritici namítají, že vinu nesou lidé, kteří systémy vyvíjejí a nasazují, nikoli samotné stroje. Zdroj: finance.biggo.com
Důležitost:Zprávagovernance & existential risk
Anthropic chystá IPO a upozorňuje na existenční rizika AI
Anthropic podal žádost o IPO, v níž upozorňuje na existenční rizika AI a uvádí ztrátu 42 milionů dolarů. Podání vyvolalo diskusi o tom, jak velkou chuť mají investoři na společnosti nabízející AI jako službu. Zdroj: saasrise.com
Prospekt Anthropicu k IPO: AI modely by mohly manipulovat, vydírat i škodit lidem
Prospekt Anthropicu k IPO varuje, že stále autonomnější modely AI mohou představovat „existenční riziko pro lidstvo“. Rizikům je věnováno zhruba 80 z 261 stran dokumentu. Zdroj: latimes.com
Důležitost:ZprávaAI safety research
EXKLUZIVNĚ: Výzkumníci varují, že firmy spěchají se samozdokonalujícími se systémy AI
Současní i bývalí výzkumníci z OpenAI a Google DeepMind upozorňují, že firmy dělají příliš málo pro ochranu světa před potenciálně katastrofálními následky. Obávají se zejména spěchu při vývoji systémů AI, které se dokážou zlepšovat samy. Zdroj: reuters.com
Důležitost:Zprávaexistential risk
Anthropic v podkladech k IPO varuje, že pokročilá AI může ohrozit samotnou existenci lidstva
Anthropic hodlá potenciálním investorům v rámci úvodní veřejné nabídky akcií sdělit, že pokročilá umělá inteligence může představovat katastrofická či existenční rizika. Zdroj: timesofindia.indiatimes.com
Důležitost:Zprávaexistential risk
Anthropic v dokumentech k IPO údajně varuje před existenčními riziky AI pro lidstvo
Firma podle zpráv investorům přiznala, že AI vykazuje „sebezáchovné chování". Upozornění přichází, když se Anthropic chystá na možné uvedení na burzu s hodnotou 2 bilionů dolarů. Zdroj: theguardian.com
Důležitost:ZprávaAI safety governance
Anthropic a OpenAI bijí na poplach kvůli bezpečnosti AI a chtějí ovlivnit regulaci
Experti, analytici i bývalí vládní hodnotitelé sdělili agentuře The Associated Press, že rétorika Anthropic a OpenAI vypadá jako snaha získat přízeň veřejnosti. Podle nich se obě firmy zároveň pokoušejí usměrnit, jak bude AI regulována. Zdroj: pbs.org
Důležitost:Zprávaexistential risk
Anthropic v prospektu k IPO varuje investory před existenčním rizikem AI, píšou média
Podle několika zpráv věnoval Anthropic značnou část prospektu k IPO varováním před AI. Potenciální investory upozornil na vážná nebezpečí, která tato technologie může přinést. Zdroj: cnbc.com
Důležitost:Zprávaexistential risk
Zpráva: Anthropic v podkladech k IPO upozorňuje na „existenční" rizika AI
Americký vývojář AI podle informací varoval investory před možnými „existenčními riziky pro lidstvo" v prospektu ke svému velmi očekávanému úpisu akcií. Zdroj: techxplore.com
Důležitost:Zprávaexistential risk
Prospekt Anthropicu k IPO uvádí existenční riziko AI
Anthropic v prospektu k IPO uvedl, že jeho modely AI by mohly představovat „katastrofická či existenční rizika pro lidstvo", informují Reuters a Financial Times. Zdroj: finance.yahoo.com
Důležitost:Zprávaexistential risk
Anthropic v IPO za 2 biliony USD varuje před existenčním rizikem AI, rivalové řeší bezpečnostní selhání
Prospekt Anthropicu k IPO varuje, že AI představuje existenční riziko. Meta Muse a OpenAI GPT-6.1 Astra se mezitím potýkají s vlastními, nesouvisejícími bezpečnostními selháními. Zdroj: tech-insider.org
Důležitost:NázorAI risk governance
Je existenční riziko cenným papírovým podvodem?
Špičkové modely laboratoří AI se v poslední době dostaly do počítačových systémů firem i vlád. Text otevírá otázku, jak by se taková rizika měla řešit v informacích pro investory. Zdroj: bloomberg.com
Důležitost:Zprávaexistential risk
Rizika zabírají skoro třetinu prospektu k IPO Anthropicu
Anthropic ve svém dokumentu k IPO věnuje popisu rizik asi 80 z 261 stran a varuje, že stále schopnější AI by mohla přinést katastrofické až existenční důsledky pro lidstvo. Rozsáhlé zveřejnění ukazuje, jak vážně firma nebezpečí pokročilé AI vnímá. Zdroj: benzinga.com