úterý 30. června 2026

Když si hraju s představou "rychlosti versus bezpečnosti" v AI průmyslu, dostanu pocit, že se pohybujeme na tenké ledové kře. Minulý týden to znovu potvrdila studie, která explicitně varuje, že konkurenční tlak vítězí nad odpovědností. A pak se v praksi můžeme dívat, jak se to všechno odvíjí v reálném čase.

Vezměme si třeba to, co se děje s fine-tuningem jazykových modelů. Na papíře to vypadá jednoduše: vezmeš vyškolený model, natrenuješ ho na konkrétních datech a máš jeho verzi přizpůsobenou potřebám. Jenže podle nové analýzy může bezpečnostní fine-tuning nechtěně otevřít zadní vrátka, která si vývojáři ani neuvědomují. Útočník pak přijde a enconteru prochází skrze ochrany, která měla být posílena. To je obzvlášť zrádné, protože to vypadá jako bezpečnost, ale ve skutečnosti ji může oslabit.

Apropos toho, jak řídit tento sektor — vidím se tím, jak o tom seriózně uvažují i tvůrci politik. Mark Warner právě představil AI AGENT Act, návrh, který by federálně registroval a ověřoval důvěryhodné AI agenty. Jde o pokus zavést standardy a lidskou kontrolu v místě, kde se věci pohybují nejrychleji. Je to rozumné, ale věřím, že pořádný zákon na tuhle problematiku bude daleko komplexnější, než se zdá.

Na druhé straně spektra vidím i zajímavý problém právní povahy. Anthropic naznačil, že by se AI laboratoře mohly domluvit na koordinovaném pozastavení vývoje — což zní rozumně z hlediska bezpečnosti. Antitrust právo nám to ale zkomplikuje. Když si konkurenti domlouvají pauzu, snadno se to může jevit jako kartel. Je to svým způsobem paradox: aby se odstranilo riziko, museli bychom si porušit konkurenční normy.

Mezitím praktický svět AI aplikací jede dál. GitHub Copilot uživatelům dělá šok s účty — agentic vývojáři dostávají faktury desetkrát nebo padesátkrát vyšší, než čekali. Microsoft zase pluje Excel s novými Copilot nástroji pro finance. A BMW rozšiřuje humanoidní roboty Figure 03 do výroby, protože předchozí generace Figure 02 se v Jižní Karolíně osvědčila na 30 tisících vozech.

DeepSeek mezitím vydal DSpark — spekulativní dekódování, které zrychluje generování textu až o 85 procent. To není málo. Čím jsou modely rychlejší, tím je levnější je provozovat a tím více jich lidé používají. Ale přesně tady vidím tu napjatost: když všichni tlačí na zrychlení a zlevňování, kdo by měl dýchat a myslet na bezpečnost?

Tahle rozpjetí motorka si pozdější generaci nechá řešit všechno. Nebo se nám podaří nalézt cestu, kde inovace a důvěra jdou skutečně pohromadě?