Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
1 178 článků
Důležitost:ZprávaAI governance and commercialization tensions
Anthropic vstoupil na burzu s hodnotou 1,75 bilionu dolarů, napětí mezi bezpečností a ziskem sílí
AI startup Anthropic, známý chatbotem Claude, debutoval na Wall Street s tržní hodnotou 1,75 bilionu dolarů. Vstup na burzu uzavírá období raketického růstu a zároveň zvýrazňuje napětí mezi bezpečnostní misí firmy a jejími komerčními ambicemi. Zdroj: google.com
Důležitost:NázorCommunity concerns and reactions
Komunita kolem AI safety je čím dál znepokojenější. Je to oprávněné?
Jeden z členů komunity zabývající se bezpečností AI popisuje, že cítí strach, smutek i hněv. Výrok odráží rostoucí obavy v oboru ohledně směřování vývoje AI. Zdroj: google.com
Důležitost:ZprávaCompany controversies and safety positioning
Od sporu s Pentagonem po žalobu kvůli autorským právům: 5 kontroverzí kolem Anthropicu
Anthropic se v stále přeplněnějším AI odvětví prezentuje jako bezpečnostně orientovaná alternativa a značku postavil na odpovědné AI. Kontroverze od sporu s Pentagonem přes žalobu kvůli autorským právům až po obecné obavy o bezpečnost však tuto image podrobují zkoušce. Zdroj: google.com
Důležitost:ZprávaIPO and market concerns
Anthropic zahájil obchodování na Nasdaqu uprostřed obav z dopadů AI
Anthropic ve čtvrtek zahájil obchodování na burze Nasdaq a okamžitě se zařadil mezi nejhodnotnější veřejně obchodované firmy světa. Debut přichází uprostřed obav z ekonomických otřesů a bezpečnostních rizik AI. Zdroj: google.com
Důležitost:ZprávaCompany developments
Rekordní IPO Anthropicu uzavírá pět let raketického růstu plných rozporů
Pouhých pět let před překonáním rekordu v objemu největší veřejné nabídky akcií v historii začínal Anthropic jako startup ze Silicon Valley, který založili lidé odešlí z dřívějšího působiště. Jeho závratný vzestup provází řada rozporů. Zdroj: abcnews.com
Důležitost:Zprávagovernance
Anthropic debutoval na Nasdaqu jako jedna z nejhodnotnějších veřejných firem světa
Akcie Anthropicu se ve čtvrtek začaly obchodovat na Nasdaqu a firma se okamžitě zařadila mezi nejhodnotnější veřejně obchodované společnosti. Debut přichází uprostřed obav z ekonomických otřesů a bezpečnostních rizik AI. Zdroj: google.com
Důležitost:Zprávaexistential risk
Altman na DealBook Summitu varuje před existenčními riziky AI
Sam Altman na konferenci DealBook Summit uvedl, že závod ve vývoji AI je nebezpečný. Zpochybnil také přístup Anthropicu k bezpečnosti a vyzval celý sektor k větší opatrnosti. Zdroj: google.com
Důležitost:Názorsafety
Esej: proč je „p(doom)“ chybný způsob, jak diskutovat o bezpečnosti AI
Nástup široce použitelných LLM od předních AI firem vyvolal rozsáhlou, sama sebe živící debatu o bezpečnosti. Text kritizuje oblíbené odhady „p(doom)“ jako nevhodný rámec této diskuse. Zdroj: thebreakthrough.org
Důležitost:Videosuperintelligence
Bostrom o superinteligenci, delším životě a „hluboké utopii“ (a16z)
Filozof Nick Bostrom, autor knihy Superintelligence, tvrdí, že argumenty pro rychlý vývoj superinteligence jsou silnější než argumenty pro jeho pozastavení. Rozhovor pro a16z se věnuje i prodlužování života a jeho konceptu „hluboké utopie“. Zdroj: google.com
Důležitost:Zprávasafety
Altman: přistupovat k příštím čtyřem letům AI jako k těm minulým „by bylo velmi špatné“
Zakladatel OpenAI Sam Altman v rozhovoru řekl, že by bylo velmi špatné, kdyby svět i vývojáři AI přistupovali k příštím čtyřem letům stejně jako k předchozím čtyřem. Jeho slova podtrhují volání po opatrnějším postupu. Zdroj: google.com
Důležitost:Zprávaexistential risk
Žít 1 400 let? Podle Nicka Bostroma by v tom mohla pomoci AI
Bývalý oxfordský profesor Nick Bostrom tvrdí, že superinteligentní AI by mohla přinést průlom v boji proti stárnutí. Lidé by se podle něj mohli dožívat více než tisíce let. Zdroj: businessinsider.com
Důležitost:Zprávagovernance
Co by investoři měli zvážit před IPO Anthropicu
Adam Irwin ze společnosti Heligan Group upozorňuje na rizika, která by investoři měli před IPO Anthropicu zohlednit. Jde o bezpečnost AI, vojenské využití i správu a řízení firmy. Zdroj: google.com
Důležitost:ZprávaAI safety warnings
Altman: Opakovat dalších čtyři roky vývoje AI jako těch minulých by bylo velmi špatné
V rozhovoru s Andrewem Rossem Sorkinem zakladatel OpenAI Sam Altman varoval, že pokud svět i firmy vyvíjející AI přistoupí k nadcházejícím čtyřem letům stejně jako k předchozím čtyřem, dopadlo by to velmi špatně. Informoval o tom The New York Times. Zdroj: google.com
Důležitost:ZprávaExistential risk warnings
Altman na DealBooku: Závod v AI je riskantní, odvětví potřebuje větší opatrnost
Sam Altman na summitu DealBook varoval, že konkurenční závod ve vývoji AI s sebou nese vážná rizika. Zpochybnil také bezpečnostní tvrzení společnosti Anthropic a vyzval k větší obezřetnosti v celém odvětví. Zdroj: google.com
Důležitost:NázorAI safety debates
Komentář: Proč je 'p(doom)' špatný nástroj pro debatu o bezpečnosti AI
Autor tvrdí, že p(doom), zkratka pro odhad pravděpodobnosti katastrofy způsobené AI, je pro diskusi nevhodný. Text reaguje na rekurzivní debatu o bezpečnosti, kterou odstartoval vznik široce použitelných velkých jazykových modelů u předních AI firem. Zdroj: google.com
Důležitost:ZprávaCompany safety focus
Proč Anthropic tak zdůrazňuje existenciální rizika AI
Příběh vzniku Anthropicu je základem jeho nabídky založené na bezpečnosti: skupina idealistických výzkumníků odešla z OpenAI, aby postavila firmu kolem bezpečnosti. Článek zkoumá, proč zůstávají existenciální rizika tak zásadní součástí její identity i marketingu. Zdroj: google.com
Důležitost:ZprávaIndustry warnings
Vlna varování zevnitř oboru znovu rozdmýchala debatu o nebezpečí AI pro lidstvo
Nová varování od lidí z AI průmyslu oživila dlouhotrvající debatu o tom, zda by pokročilá AI mohla uniknout lidské kontrole. Diskuse se opět točí kolem toho, jak reálné riziko pro lidstvo ve skutečnosti je. Zdroj: google.com
Důležitost:PolitikaAI governance
Demokraté žádají transparentnost před úvodem Anthropicu za bilion dolarů
Skupina volených představitelů z pěti států vedená demokraty tlačí na Anthropic, aby sladil svá varování před katastrofickými riziky AI s plány na vstup na burzu. Transparentnost označují za 'naprosté minimum' před debutem oceňovaným zhruba na bilion dolarů. Zdroj: google.com
Podle analytiků Pei Sai Fana a Willieho Shi Jianzhenga přitáhlo větší pozornost než samotné ocenění jedno prohlášení v rizikových upozorněních k IPO společnosti Anthropic. Ptají se, zda touha po technologické převaze nepřebíjí obavy o bezpečnost. Zdroj: google.com
Důležitost:Zprávaexistential risk
Vlna varování zevnitř oboru znovu rozdmýchala debatu o nebezpečí AI pro lidstvo
Nová varování z prostředí samotného AI průmyslu oživila dlouhotrvající spor o to, zda by pokročilá AI mohla uniknout lidské kontrole. Diskuse o jejích rizicích pro lidstvo se tak znovu rozhořela. Zdroj: milwaukeeindependent.com