Dlhé roky sme žili v presvedčení, že digitálne obchody ako Apple App Store a Google Play sú bezpečnými prístavmi. Vnímame ich ako prísne strážené priestory, kde editory a bezpečnostné algoritmy filtrujú nebezpečný či vulgárny obsah dávno predtým, než by sa mohol dostať na obrazovky našich smartfónov. Najnovšia analýza organizácie Tech Transparency Project (TTP) však tento mýtus o bezpečnosti drasticky búra. Upozorňuje na ňu server Digital Trends.
Realita je oveľa temnejšia. Oba dominantné obchody sú doslova zamorené desiatkami aplikácií využívajúcich umelú inteligenciu na takzvanú „nudifikáciu“. Nejde o pokútne nástroje z temných zákutí internetu, ale o voľne dostupné programy, ktoré umožňujú komukoľvek vziať nevinnú fotografiu oblečenej osoby a digitálne ju vyzliecť bez jej vedomia či súhlasu.
Grok je len špičkou ľadovca
Diskusia o tejto zvrátenej technológii sa rozhorela už začiatkom roka, keď sa pod paľbu kritiky dostal Elon Musk a jeho AI model Grok, ktorý na sociálnej sieti X generoval podobne sexualizovaný obsah.
Kým Grok slúžil ako bleskozvod pre verejné pohoršenie, v tichosti sa na pozadí odohrával oveľa masovejší problém. Investigatíva TTP ukázala, že stačí do vyhľadávania v mobilnom obchode zadať jednoduché kľúčové slová ako „undress“ (vyzliecť) alebo „nudify“ a systém vám okamžite ponúkne dlhý zoznam softvéru navrhnutého špecificky na tvorbu nedobrovoľnej pornografie. Dostupnosť týchto nástrojov je desivá a bariéra vstupu prakticky neexistuje.
Biznis s ponížením
Rozsah tohto priemyslu vyráža dych a dokazuje, že nejde o prácu pár izolovaných vývojárov. Dáta hovoria jasnou rečou. Tieto aplikácie zaznamenali kumulatívne viac ako 700 miliónov stiahnutí.
Ešte znepokojujúcejší je finančný aspekt. Odhaduje sa, že generovali tržby na úrovni 117 miliónov dolárov. Tu sa dostávame k mimoriadne nepríjemnej pravde o technologických gigantoch. Keďže Apple aj Google si zvyčajne účtujú províziu z nákupov v aplikáciách a predplatného, v praxi to znamená, že priamo profitujú z tvorby a šírenia zneužívajúceho sexuálneho obsahu.
Zakaždým, keď niekto zaplatí za digitálne „vyzlečenie“ spolužiačky, kolegyne či náhodnej ženy z internetu, najväčšie technologické firmy sveta si z tohto aktu pripíšu svoj podiel na zisku.
Hromadné ničenie súkromia
Ľudská cena za túto technologickú benevolenciu je nevyčísliteľná. Tieto nástroje menia bežné fotografie na zbraň. Selfie z Instagramu, fotka z ročenky alebo momentka z dovolenky môžu byť v priebehu sekúnd prekrútené na explicitný materiál, ktorý slúži na obťažovanie, ponižovanie alebo vydieranie obetí.
Ľudskoprávne organizácie už roky bijú na poplach a varujú, že „AI nudifikácia“ je formou sexuálneho násilia, ktoré disproporčne cieli na ženy a, čo je najdesivejšie, veľmi často aj na neplnoleté osoby. Psychologický dopad na obeť, ktorá vidí svoje telo v pornografickom kontexte, hoci sa ničoho takého nezúčastnila, je devastujúci.
Prečo zákazy nefungujú?
Vynára sa otázka, prečo sú tieto aplikácie stále dostupné, keď majú Apple aj Google na papieri prísne pravidlá zakazujúce pornografiu a vykorisťujúci obsah. Problémom je zlyhávajúce vymáhanie.
Celá situácia pripomína nekonečnú hru na mačku a myš. Keď vyjde na povrch mediálne známa kauza, obchody možno zmažú zopár konkrétnych aplikácií. Vývojári však reagujú okamžite. Mierne upravia logo, zmenia názov, no kód nechajú takmer totožný a o týždeň sú späť online.
Automatizované kontrolné systémy zjavne nestíhajú držať krok s rýchlym vývojom generatívnej umelej inteligencie. Z toho celkom jasne vyplýva, že prítomnosť aplikácie v „oficiálnom“ obchode už dávno nie je garanciou jej etickosti či bezpečnosti.
Kým nezasiahnu regulátori alebo kým firmy neuprednostnia bezpečnosť pred províziami, naše digitálne identity zostávajú zraniteľné.
