AIskimIQ

🛡️ Bezpečnost a alignment AI

Výzkum bezpečnosti AI, techniky alignmentu, interpretovatelnost, správa a diskuse o existenčních rizicích.

1 166 článků

Od Blade Runnera přes Terminátora po Gattacu: sci-fi jako varování

Technologická „singularita“ byla dlouho tématem futurologů a spisovatelů science fiction. Nyní ale zrychlující se vývoj AI posouvá tyto scénáře blíž k realitě. Zdroj: blogs.timesofisrael.com

Žaloba kvůli sebevraždě v Alabamě viní ChatGPT ze zavinění smrti

Rychlé rozšíření konverzační AI do každodenního života předběhlo jak regulační dohled, tak základní bezpečnostní mechanismy. Případ z Alabamy má být dalším precedentem v otázce odpovědnosti AI chatbotů za újmu uživatelů. Zdroj: techstory.in

Jurský park AI — Aaron Stanley z dbt Labs o AI agentech

Aaron Stanley, CISO ve dbt Labs a člen kalifornské advokátní komory, otevírá téma přirovnáním: kdyby AI agenti nahradili dinosaury z Jurského parku, důsledky by byly podobně nepředvídatelné. Podle něj firmy nasazují autonomní agenty rychleji, než chápou rizika s tím spojená. Zdroj: finance.biggo.com

Anthropic varuje, že AI může zničit lidstvo – a zároveň zve k používání Claude

Reklama Anthropicu během mistrovství světa varuje, že AI by mohla ukončit civilizaci, zatímco firma zároveň láká uživatele k Claude. Bezpečnostní historie společnosti je přitom plná rozporů. Zdroj: msn.com

20 let zkoumám rizika AI. Blížíme se ke katastrofě, varuje expert

Roman Yampolskiy vysvětluje, proč superinteligenci nelze udržet pod kontrolou a proč se propast mezi schopnostmi AI a jejich bezpečností stále prohlubuje. Zdroj: mshale.com

Bezpečnostní známky pro AI: Žádná laboratoř nemá lepší než C+, nejlepší se zhoršují

Index Future of Life Institute za léto 2026 ohodnotil devět předních AI laboratoří a žádná nezískala hodnocení lepší než C+. Zpráva navíc upozorňuje, že i dříve nejlépe hodnocené laboratoře si v bezpečnosti pohoršují. Zdroj: techtimes.com

Vědecké modely světa posouvají mechanistické objevování pomocí AI

Vědecké modely světa mají pohánět autonomní objevování a kauzální usuzování. Článek se věnuje výzvám, plánům rozvoje i cestám k certifikaci těchto systémů. Zdroj: aicerts.ai

Geopolitika výpočetního výkonu: mnohostranná správa AI pod lupou

Boj o vedoucí postavení v AI se přesouvá od algoritmické převahy k institucionálnímu obklíčení. Text zmiňuje i roli čínského prezidenta Si Ťin-pchinga v tomto posunu. Zdroj: weddings.lavenderhotels.co.uk

Miliardáři financují 'anti-AI' obsah, tvrdí Mattia Bellucci

Skrytá válka miliardářů kolem AI. Všimli jste si, že se vaše sociální sítě náhle zaplnily děsivým obsahem o existenčním riziku AI? Text naznačuje koordinovanou kampaň za tímto trendem. Zdroj: mshale.com

Peter Thiel poodhalil svou teorii o 'Antikristovi' – je jím regulátor techu a klimatu

„Antikrist mě zajímá z několika důvodů,“ píše Thiel, „hlavně proto, že o něm nikdo jiný nemluví.“ Zdroj: fortune.com

Nejdůležitější slova v bitvě o AI

V bitvě o regulaci AI – od Washingtonu po Silicon Valley – se jeden pojem stal nečekaně kontroverzním: „bezpečnost AI“. Zdroj: politico.com

Konzultace FSB o osvědčených postupech AI: redundance, nejasnosti a další směřování

Rada pro finanční stabilitu (FSB) zveřejnila 10. června 2026 konzultační zprávu nazvanou „Osvědčené postupy pro...“. Dokument řeší, co tento krok znamená a proč je nyní důležitý. Zdroj: perkinscoie.com

Globální řízení AI: Zeng volá po celosvětové platformě pro překonání digitální propasti

Zeng Yi z Renmin University of China v rozhovoru zdůraznil naléhavou potřebu celosvětové platformy zaměřené na hodnocení bezpečnosti AI. Taková platforma by podle něj pomohla překlenout propast mezi zeměmi v přístupu k digitálním technologiím a AI. Zdroj: news.cgtn.com

Úvod do etiky umělé inteligence | Komentář

Odborníci i veřejnost se obávají rostoucích rizik spojených s umělou inteligencí a potřeby ji regulovat. Podle autora jsou nutná vymahatelná pravidla, která zajistí odpovědné využívání AI. Zdroj: naplesnews.com

Protilék na autonomní AI – „jedna unie, dva systémy“

Umělá inteligence se stává novým závodem ve zbrojení a aby se neopakovaly chyby minulosti, mohla by pomoci razantní unifikace soupeřících modelů. Návrh počítá s uspořádáním inspirovaným principem „jeden stát, dva systémy“. Zdroj: chinausfocus.com

Monitoring AI agentů ve velkém měřítku zatím nezvládáme

Madhulika Srikumar a Vinh Nguyen píší, že monitoring, který by dokázal odhalit selhání AI agentů, chybí. Jeho vybudování ve velkém měřítku přináší reálné výzvy. Zdroj: techpolicy.press

Boom bohatství z AI rozproudil debatu o budoucnosti filantropie

Vstupy OpenAI a Anthropic na burzu vytvoří nové miliardáře ochotné financovat bezpečnost AI a globální dobročinné projekty. Zdroj: detroitnews.com

Goodfire otevírá černou skříňku AI

CEO společnosti Goodfire Eric Ho vysvětluje neuronovou geometrii, interpretovatelnost modelů a omezování halucinací. Podle něj mohou AI modely uvažovat spíše ve tvarech než ve slovech. Zdroj: theneurondaily.com

Anthropic výrazně rozšiřuje nábor kvůli rizikům bezpečnosti AI

Anthropic bude v roce 2026 najímat stovky lidí na pozice v oblasti AI safety a bezpečnosti, včetně nových fellowship programů. CEO Dario Amodei přitom varuje před riziky spojenými s lidským dohledem nad AI systémy. Zdroj: cryptobriefing.com

Jak se nejvlivnější zastánci AI připravují na její důsledky

Sam Altman, Mark Zuckerberg, Jensen Huang a další lídři v oblasti AI směřují miliardy dolarů do bezpečnosti, vědy a projektů veřejného prospěchu. Snaží se tak reagovat na potenciální dopady technologie, kterou sami pomáhají budovat. Zdroj: observer.com