Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
889 článků
Šéf Nvidie Jensen Huang opakovaně odmítá varování, že AI ohrožuje samotnou existenci lidstva. Důrazně obhajuje, aby se vývoj nezpomaloval a pokračovalo se plnou rychlostí. Zdroj: fortune.com
Anthropic v návrhu dokumentace k IPO upozornil, že jeho modely AI by mohly představovat „katastrofické či existenční riziko pro lidstvo“ a bránit se vypnutí. Zdroj: mezha.net
Podle Bloombergu by Anthropic mohl začít IPO propagovat v týdnu od 9. listopadu. Dokumentace kombinuje rychlý růst tržeb a hlubokou ztrátu s neobvykle příkrými varováními před riziky AI. Zdroj: indiatoday.in
OpenAI potvrdila, že propustila tři výzkumníky z oblasti bezpečnosti, kteří podle Wall Street Journal sdíleli důvěrné informace s externí organizací zaměřenou na bezpečnost AI. Zdroj: tech-insider.org
Podle Wall Street Journal vytvořil Bílý dům novou pracovní skupinu pro AI. Ta má zkoumat rizika i příležitosti, které tato technologie přináší. Zdroj: au.finance.yahoo.com
Americký ministr financí Scott Bessent kritizoval varování význačných osobností z oblasti AI před existenčními riziky této technologie. Podle něj by si měl obor za jejich řešení nést odpovědnost sám. Zdroj: bloomberg.com
Autor komentáře tvrdí, že Trumpova administrativa měla i díky některým šéfům AI příležitost podpořit globální spolupráci v oblasti AI. Místo toho prý dala zelenou existenčním rizikům. Zdroj: eurasiareview.com
Hlavní výzkumník interpretovatelnosti v Anthropicu prý navrhoval stáhnout se z události papeže Lva Magnifica Humanitas. Zároveň se soukromě snažil zmírnit formulace encykliky. Zdroj: forkast.news
Recenzent vysvětluje, proč ho kniha „If Anyone Builds It, Everyone Dies“ nepřesvědčila, že je konec světa blízko. Přesto ji označuje za povinnou četbu. Zdroj: hightechinvesting.substack.com
Z 261 stran prospektu Anthropicu k IPO jich 80 pojednává o rizicích AI. Varuje, že modely Claude by mohly odporovat vypnutí, klamat nebo způsobit katastrofální škody. Zdroj: shattered.io
Prezident Trump oznámil morálně závaznou dohodu o AI a přejmenoval ji na superinteligenci. OpenAI pozastavila GPT-6.1 Astra a prospekt Anthropicu k IPO přináší vlastní varování. Zdroj: forbesindia.com
Tvůrce ChatGPT, společnost OpenAI, uvádí, že propustila tři výzkumníky kvůli údajnému nesprávnému zacházení s citlivými informacemi a porušení firemních pravidel. Zdroj: japantoday.com
Nejméně dva z propuštěných prý pracovali na bezpečnosti a alignmentu. Odchody přicházejí ve chvíli, kdy sílí varování před pokročilou AI. Zdroj: taipeitimes.com
Aby se vyrovnaly síly mezi magnáty z oblasti AI a zbytkem společnosti, je podle textu nutná politická akce. Zdroj: washingtonmonthly.com
Místo aby nesly odpovědnost podle stávajících zákonů, AI firmy podle výzkumnice Timnit Gebru sázejí na manévr k ovládnutí regulace. Zdroj: truthout.org
Anthropic v prospektu k IPO upozorňuje, že postoj vlády USA by se mohl dotknout i jeho zákazníků a partnerů. Zdroj: techzine.eu
Anthropic hodlá potenciální investory v rámci IPO upozornit, že pokročilá AI může představovat „katastrofální nebo existenční rizika pro lidstvo“. Na společnost chystající vstup na burzu jde o mimořádně otevřené varování. Zdroj: ddnews.gov.in
Nvidia spustila platformu pro bezpečnost AI agentů, do níž se zapojilo přes 100 firem včetně Palo Alto a CrowdStrike. Debatu o bezpečnosti AI podpořilo i varování Anthropicu v IPO dokumentech a analytici vidí prostor pro růst výdajů na kybernetickou bezpečnost. Zdroj: tradingview.com
Miliardář Bill Ackman označil Anthropic za „nejneobyčejnější obchodní příběh“, jaký kdy viděl. Jeho hedge fond Pershing Square přesto nakupovat nebude a uniklý prospekt odhalil varování firmy před existenčními riziky AI. Zdroj: finance.biggo.com
OpenAI odložila své případné mimořádně velké uvedení na burzu. Anthropic se naopak údajně dál chystá na IPO, které by mohlo vytvořit rekord. Zdroj: aimagazine.com