Výzkum: LLM jako ChatGPT upřednostňují západní morální hodnoty

Google včera odložil spuštění Gemini 3.5 Pro, protože model nedosahoval interních cílů v generování kódu, a trh na to zareagoval bez milosti – akcie Alphabetu spadly o čtyři procenta. Zajímavé na tom není ani tak to zpoždění samo, jako důvod za ním. Ještě před rokem by nikoho nepřekvapilo, že model má slabiny v matematice nebo v dlouhém kontextu. Dnes je právě schopnost psát kód tou metrikou, podle které se vlajkové modely poměřují především, protože právě tam se rozhoduje o byznysu s vývojářskými nástroji. Google si zjevně řekl, že je lepší přijít pozdě než přijít s modelem, který prohraje srovnávací testy proti Claude nebo Groku hned první den.

A konkurence v tomto směru nespí. xAI mezitím představilo Grok 4.5, které Elon Musk označuje za svůj nejsilnější model vůbec, s důrazem na programování a agentní úlohy. Sledovat, jak firmy jedna za druhou cílí primárně na coding agenty, mi potvrzuje, že se těžiště vývoje LLM přesunulo od "chytrého chatbota" k "systému, který za mě sám odvede vícekrokovou práci". Coding agenti dnes už neplní jen roli chytré nápovědy v editoru, ale samostatně plánují, testují a opravují vlastní chyby. To je kvalitativně jiná disciplína než generování jednoho úryvku kódu na dotaz, a právě proto se v ní láme chleba.

Jenže s rostoucí samostatností agentů roste i otázka, kdo a jak je hlídá. Průzkum mezi 107 firmami ukázal, že 54 procent z nich už řešilo bezpečnostní incident spojený s AI agentem, a přesto si agenti běžně dál sdílejí přihlašovací údaje, místo aby měli vlastní, izolovanou identitu. Souvisí s tím i experiment, kdy někdo dal AI agentovi přístup ke svým heslům přes 1Password pro Claude – řešení je to bezpečnější než hesla napsaná do promptu, ale rizika nemizí, jen se přesouvají jinam. Princip nejmenších oprávnění, o kterém se teď hodně mluví, zní jako samozřejmost, ale v praxi znamená přebudovat celou architekturu přístupů tak, aby agent nikdy neměl víc pravomocí, než potřebuje pro konkrétní úkol. Problém je, že nástroje na to teprve vznikají, zatímco agenti se do produkčních systémů nasazují už teď.

Podobně chybí i schopnost tyto agenty ve velkém sledovat a odhalovat, kdy něco selhalo – na to upozorňují Madhulika Srikumar a Vinh Nguyen, když píší, že monitoring agentního chování v reálném měřítku prostě zatím nemáme vyřešený. Spojuje to tři zdánlivě nesouvisející zprávy dneška do jednoho obrazu: honba za výkonnějšími coding agenty běží rychleji než infrastruktura, která by je udržela na uzdě. A pokud k tomu přidáme zjištění, že tytéž modely navíc systematicky promítají západní morální hodnoty do svých odpovědí bez ohledu na kulturní kontext uživatele, je jasné, že otázka "co agent umí" přestává být tou nejdůležitější. Mnohem naléhavější je otázka, kdo skutečně ví, co agent v tu chvíli dělá – a jestli to vůbec chtěl.