Severokorejští AI hackeři, vzestup DeepSeek a dohled nad AI agenty

Severokorejští hackeři si teď stavějí vlastní jazykové modely a upřímně, to je zpráva, která by měla znervóznit víc lidí, než kolik jich zatím zaznamenalo. Podle nové zprávy skupina spojovaná s Pchjongjangem nashromáždila software a nástroje na bázi LLM, které mají automatizovat zpracování odcizených dat a rozšíření útoků. Konkrétně skupina Kimsuky, napojená na severokorejskou rozvědku, si podle jiné zprávy spustila lokálně provozovaný model zaměřený na útoky proti jihokorejským cílům. Lokální nasazení není detail – znamená to, že se skupina vyhýbá kontrolám, které komerční poskytovatelé modelů běžně uplatňují, a získává nástroj, který nikdo zvenčí nemůže vypnout ani monitorovat. AI defenzivní bezpečnost se poslední dva roky prezentuje jako závod se zločinci, ale tohle je první jasný signál, že státem sponzorovaní aktéři už mají vlastní produkční infrastrukturu, ne jen přístup k ChatGPT přes VPN.

Zajímavé je, že podobný „udělej si vlastní model" trend vidíme i v úplně jiném kontextu. Korejská univerzita UNIST představila architekturu GMoE, mixture-of-experts přístup, který dokáže zmenšit jazykové modely až o 63 % při zachování výkonu. To je přesně ten typ výzkumu, který dělá nasazení AI levnějším a dostupnějším – a právě proto je to dvojsečná zbraň. Stejná efektivita, která umožní menší firmě provozovat vlastní model bez drahé infrastruktury, umožní i hackerské skupině udělat totéž. Demokratizace AI nemá morální kompas, jde jí jen o snížení nákladů. Apropos nákladů – DeepSeek R1 se dál tlačí do popředí jako bezplatná alternativa, která podle prvních srovnání konkuruje nejlepším modelům OpenAI, a Čína zároveň zdarma uvolnila open-source nástroj pro screening vzácných genetických nemocí. Stejná země, stejný týden, dva úplně odlišné příběhy o tom, k čemu se levné a otevřené modely dají použít.

Na firemní straně mezitím vidíme, jak rychle se AI agenti stěhují z pilotních projektů do reálného provozu – Salesforce hlásí, že se jejich nasazení za 14 měsíců téměř ztrojnásobilo. Jenže s tím roste i otázka, kterou si podniky často pokládají až poté, co se něco pokazí: kdo vlastně agenty hlídá? Bez jasné odpovědnosti a řízení přístupu se z nástroje na zvýšení produktivity snadno stane díra v zabezpečení, a to platí stejně pro firmu nasazující chatbota do CRM jako pro stát bránící se kyberútokům. Meta do téhle agentní záplavy přidává Muse Code, levnější konkurenta Claude a Codexu, který v benchmarcích zaostává, ale cenou útočí na masový trh.

Spojuje to jedna věc – schopnost stavět a provozovat vlastní modely levně a lokálně se šíří rychleji než schopnost je efektivně kontrolovat. Otázka, kterou si dnes musí položit každá bezpečnostní i produktová strategie, nezní, jestli AI agenty nasadit, ale kdo přesně ponese odpovědnost, když se pokazí.