AI agenti dostávají chytré brýle, nástroje pro prodejce — i první únik dat

Zajímavé je, jak se v jednom týdnu sešly dvě naprosto odlišné vize toho, k čemu má AI vlastně sloužit. Zuckerberg na konferenci Connect ukázal brýle s agentem jménem Muse a mluvil o „osobní superintelligenci" pro každého – zatímco Altman s Amodeim seděli v Radě bezpečnosti OSN a vysvětlovali, proč by špatně řízený vývoj mohl ohrozit celé lidstvo. Obojí se odehrálo prakticky současně a obojí je bráno smrtelně vážně. To samo o sobě něco vypovídá o schizofrenii, ve které se obor momentálně nachází.

Meta svou sázku na nositelnou AI nemyslí jako marketingový doplněk – je to jasná strategie, jak dostat agenty co nejblíž tělu uživatele, doslova na obličej. Muse má fungovat jako průvodce reálným světem, ovládaný i gesty ruky, a Zuckerberg při představení otevřeně odmítl katastrofické scénáře, které se kolem AI tradičně omílají. Problém je, že kritici neupozorňují na sci-fi hrozby, ale na něco mnohem přízemnějšího: kamery a mikrofony na hlavě jednoho člověka nevyhnutelně nahrávají i lidi kolem něj, kteří se k ničemu nepřihlásili. Soukromí okolí uživatele je tu vedlejší škoda, o které se mluví málo.

A pak je tu incident ze Španělska, který bych bral jako první opravdu konkrétní varovný signál za poslední měsíce – tamní úřady nahlásily, co považují za první únik osobních dat způsobený autonomním AI agentem. Zatímco Amazon paralelně spouští agentní nástroje pro prodejce na svém tržišti a automatizuje tak čím dál větší část e-commerce, právě takové případy ukazují, kde se teorie o rizicích potkává s praxí. Agenti dostávají přístup k datům, systémům a rozhodování bez toho, aby existovala jasná odpovědnost za jejich chyby. Regulace zatím tento typ selhání prakticky nepokrývá.

Proto mi diskuze na Brookings Institution o tom, zda existenční hrozba AI je reálná a jestli ji regulace vůbec dokáže zastavit, přijde relevantnější, než by se zdálo z názvu. Nejde jen o hypotetické scénáře superinteligence z hlavního proudu, o kterých mluvil Amodei před OSN. Jde o mnohem bližší otázku: kdo odpovídá za škodu, kterou způsobí agent nasazený firmou bez adekvátního dohledu? Zatím na ni nemá jasnou odpověď nikdo – ani regulátoři, ani firmy, které agenty do světa posílají v čím dál větším počtu.