Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.
437 článků
S tím, jak AI systémy nabývají na síle, řeší tvůrci politik po celém světě obtížnou otázku: jak podpořit inovace a zároveň zajistit bezpečnost. Nová studie naznačuje, že konkurenční tlak může firmy svádět k upřednostňování rychlosti před odpovědným vývojem. techxplore.com
Fine-tuning umožňuje přizpůsobit obecný LLM konkrétnímu úkolu pomocí cíleného tréninku na vybraných příkladech. Nová analýza ukazuje, že bezpečnostní fine-tuning může nechtěně zanést skryté slabiny, které útočníci dokážou zneužít k obcházení ochran. blogs.cisco.com
Diplomatická prohlášení o tom, že AI musí prospívat celému lidstvu, jsou snadno vyslovitelná, avšak těžko vymahatelná. Místo dalších nezávazných deklarací je podle autorů potřeba budovat konkrétní institucionální a technickou architekturu pro správu AI. techpolicy.press
Trumpova administrativa zpřísňuje kontrolu nad vydáváním špičkových AI modelů, což podle kritiků vytváří krizi s existenčními důsledky pro celý AI průmysl. Problém se netýká jen jednotlivých firem, ale může zásadně zpomalit inovace v celém sektoru. theaiinsider.tech
Xiaoming Liu se ve své přehledové studii zaměřuje na to, jak transparentnost a interpretovatelnost AI zlepšují důvěryhodnost systémů v kritických aplikacích. Zavádění principů explainable AI podle něj hraje klíčovou roli při ochraně soukromí uživatelů. manilatimes.net
Papež Lev XIV. prohlásil, že každý algoritmus v sobě nese etické volby zakotvené už v jeho návrhu, měřeních a klasifikacích. Vyzval k důrazu na lidskou důstojnost a odpovědnost při vývoji AI systémů. dallasexpress.com
Společnost Anthropic, která se zaměřuje na vývoj bezpečných a interpretovatelných AI systémů, vypsala pozici výzkumného inženýra specializovaného na právní stát a regulaci AI. Firma patří mezi přední hráče v oblasti odpovědného rozvoje AI. globalsouthopportunities.com
Absolventi filozofie dlouho čelili vtipům, že jejich titul k ničemu neslouží. Ve světě AI však firmy stále častěji hledají právě lidi s filozofickým vzděláním, kteří pomáhají řešit etické otázky spojené s vývojem inteligentních systémů. thetimes.com
Sdružení ASEAN má vlastní směrnice pro oblast AI, jejich dodržování a vymáhání však závisí na vůli a kapacitách jednotlivých členských států. Filipíny tak zatím nemají jednotný regulační rámec. technology.inquirer.net
OpenAI provedlo jeden z nejrychlejších regulatorních obratů v historii AI. Méně než 24 hodin poté, co souhlasilo s postupným vydáváním nových modelů na popud Trumpovy administrativy, GPT-5 přesto vypustilo do světa. techbuzz.ai
Zásadní zpráva Univerzity v Cambridge upozorňuje, že frontier AI modely se vyvíjejí rychleji, než stačí vznikat ochranná opatření. Hrozí mimo jiné nárůst kyberútoků a dezinformačních kampaní. aa.com.tr
Univerzita v Cambridge varuje, že vývoj AI předbíhá bezpečnostní opatření a otevírá dveře zneužití ze strany kriminálníků i státních aktérů. Odborníci volají po rychlejší reakci regulátorů. turkiyetoday.com
Odborník na bezpečnost AI Dr. Roman Yampolskiy v rozhovoru pro VladTV prohlásil, že pravděpodobnost, že AI ohrozí existenci lidstva, odhaduje na 99,9 %. Jde o jeden z nejradikálnějších výroků v dosavadní debatě o AI rizicích. letsdatascience.com
Security Think Tank magazínu Computer Weekly se zabývá tím, zda frontier AI model Claude od Anthropicu představuje přínos, nebo překážku pro odolnost podnikového prostředí. Bezpečnostní ředitelé by měli vyžadovat důkladné testování před nasazením. computerweekly.com
Článek mapuje aktuální diskusi o existenčních hrozbách spojených s AI, mimo jiné v návaznosti na summit AI Safety Summit v Bletchley. Názory odborníků se různí, shoda na míře rizika zatím chybí. msn.com
Nezisková organizace ControlAI informuje zákonodárce o rizicích spojených se superinteligencí. Cílem je upozornit na potenciální nebezpečí, která mohou nastat s vývojem pokročilých AI systémů. washingtonpost.com
AI alignment možná nezávisí jen na tom, jak umělou inteligenci kontrolujeme, ale také na tom, jak ji učíme a socializujeme. Autor Tim Ventura navrhuje přistupovat k myslím, které vytváříme, s ohledem na jejich výchovu a soužití s lidmi. medium.com
Společnosti vyvíjející výkonné AI systémy volají po tom, aby se společnost podílela na jejich správě. Jenže nejzásadnější rozhodnutí – zda vůbec tyto systémy stavět – už bylo učiněno bez veřejné debaty. vox.com
V demokratických primárkách o křeslo v Poslanecké sněmovně USA se střetávají dvě frakce z prostředí AI průmyslu. Výsledek voleb může naznačit, jaký politický vliv si technologický sektor dokáže prosadit. tribdem.com
Anthropic's Dario Amodei warned his AI model, Mythos, was so powerful it posed serious threats. Then the government stepped in and Anthropic shut it down. aol.com