Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
880 článků
V Číně apokalyptická varování ohledně AI často působí jako čistě západní záležitost, případně jako taktika, jak zpomalit čínské AI firmy v soupeření s americkými konkurenty. Zdroj: nytimes.com
Joe Lonsdale, investor do Anthropicu a spoluzakladatel Palantiru, tvrdí, že některé přední AI firmy záměrně přiživují obavy z rizik AI, aby tím ovlivnily podobu regulace ve svůj prospěch. Zdroj: reuters.com
Spor mezi zastánci rychlejšího rozvoje AI a těmi, kdo varují před jejími riziky, v posledním měsíci zesílil a ukázal, že existuje řada táborů s výrazně odlišnými názory na rizika i regulaci. Zdroj: npr.org
Autor otevřeného dopisu Scottu Alexanderovi souhlasí, že rizika AI jsou reálná, ale varuje, že přehnaně katastrofická rétorika může snahám o řešení těchto rizik spíš uškodit. Zdroj: quillette.com
Martin Casado z Andreessen Horowitz tvrdí, že diskuse o zpomalení vývoje AI je vedena špatným směrem a že skutečná inovace se dnes odehrává mimo velké AI laboratoře. Zdroj: finance.biggo.com
Generální ředitel Nvidie odmítl apokalyptické scénáře kolem AI, analytici však firmu i nadále hodnotí jako Buy, přestože přetrvávají rizika spojená s regulací a možným zpomalením výstavby datacenter. Zdroj: seekingalpha.com
Skupina evropských osobností z technologického odvětví se přidala k narůstajícím varováním, že AI může představovat existenční riziko, a podpořila výzvy k pomalejšímu tempu vývoje. Podle nich si rizika uvědomuje i samotný průmysl, který je z vývoje znepokojen. Zdroj: fortune.com
Generální tajemník OSN vyzval státy soupeřící ve vývoji AI ke spolupráci místo slevování z bezpečnostních standardů. Zdůraznil, že svět si nemůže dovolit, aby země kvůli udržení náskoku obětovaly bezpečnost AI. Zdroj: jamaica-gleaner.com
Britský výzkumník AI Jacob Coxon vyvolal rozruch, když odešel ze společnosti Anthropic a ve veřejném prohlášení uvedl, že AI představuje vážná rizika. Komentář vyzývá, aby jeho varování nebyla brána jako pouhá spekulativní fikce. Zdroj: orlandosentinel.com
Komentář se vrací k nedávným znepokojivým výrokům o bezpečnosti AI, mimo jiné od Evana Hubingera, výzkumníka bezpečnosti ve společnosti Anthropic, tvůrci Claude. Autor tvrdí, že je stále příliš brzy na to, aby bylo možné říct, zda AI lidstvu nakonec uškodí. Zdroj: tennessean.com
Text využívá známý model hype cyklu technologií, popisující přijetí novinek křivkou ve tvaru S od uvedení na trh až po masové rozšíření, aby zasadil do kontextu debatu o bezpečnosti AI. Ptá se, kdy lze vývoj AI považovat za dostatečně bezpečný pro širokou důvěru veřejnosti. Zdroj: cato.org
Nové obavy vznesené přímo zevnitř odvětví AI oživily dlouhotrvající diskuzi o potenciálních rizicích této technologie pro lidstvo. Podle zprávy jde o další kapitolu debaty, která se v posledních letech opakovaně vrací. Zdroj: vernonreporter.com
Šéf Nvidie Jensen Huang zaujal tvrdý postoj k bezpečnosti AI a v rozhovoru pro New York Times uvedl, že laboratoře neschopné zajistit bezpečnost by měly skončit. Zároveň ale tvrdí, že šanci na katastrofický scénář s AI vidí prakticky nulovou. Zdroj: tech-insider.org
Přední osobnosti AI volají po přísnějších bezpečnostních opatřeních, protože rychlý pokrok směřuje k superinteligenci. Někteří tvrdí, že poučení z jaderné éry by mohlo pomoci s kontrolou mocných nelidských systémů. Zdroj: builtin.com
Po chaotických následcích bezpečnostního incidentu na Hugging Face zažívají firmy zaměřené na řízení rizik spojených s AI velký nárůst poptávky. Jejich cílem je zajistit, aby se AI systémy nevymkly kontrole. Zdroj: puck.news
Výzkumník Jacob Coxon není jediný, kdo upozorňuje na rizika pokročilé AI. Přehled shrnuje více než 100 odborníků a technologů, kteří se k tomuto tématu veřejně vyjádřili. Zdroj: forbes.com
Zatímco šéfové technologických firem varují OSN před "ztrátou kontroly" nad AI, technická a matematická podstata současných systémů ukazuje jiný obraz. Dnešní AI je výkonná a nedokonalá, ale zdaleka ne existenční hrozbou. Zdroj: emeraldbook.org
Šéf Anthropicu Dario Amodei upozornil, že špatně řízený rozvoj AI by mohl představovat hrozbu pro celé lidstvo. Zdroj: semafor.com
Šéfové dvou největších AI společností na světě přednesli samostatné briefingy věnované bezpečnosti umělé inteligence. Zdroj: theguardian.com
Odborníci z Brookings Institution se zabývají riziky spojenými s AI a tím, jaká regulační opatření by mohla být nutná k jejich zvládnutí. Zdroj: brookings.edu