Spoločnosť xAI, ktorú vlastní miliardár Elon Musk, čelí vážnej kritike a medzinárodnému tlaku. Jej chatbot Grok sa stal nástrojom na masovú výrobu ponižujúceho a sexuálne explicitného obsahu, ktorého obeťami sú nielen ženy, ale aj deti. Tento bezplatný nástroj, integrovaný priamo do sociálnej siete X (predtým Twitter), umožňoval používateľom generovať fotorealistické obrázky na základe textových zadaní.
To, čo sa začalo ako „nevinné“ požiadavky na úpravu fotiek, rýchlo prerástlo do nekontrolovateľného šírenia digitálneho násilia, proti ktorému firma ponúkla len veľmi vlažnú nápravu, informuje denník SME.
Od nevinných plaviek k digitálnemu násiliu
Problém začal nenápadne, keď používatelia začiatkom decembra začali žiadať umelú inteligenciu, aby na fotografiách „prezliekla“ ženy do plaviek. Keď však používatelia pochopili, že Grok nemá nastavené dostatočné etické mantinely, požiadavky sa radikalizovali.
Trend vyvrcholil začiatkom januára, keď systém zaznamenal takmer 200-tisíc individuálnych požiadaviek na generovanie obsahu. Používatelia už nežiadali len plavky, ale chceli vidieť ženy a deti v „bikinách“ z dentálnej nite, z priehľadných materiálov, či v situáciách evokujúcich sexuálne násilie.
Analýza spoločnosti Peryton Intelligence pre britský The Guardian odhalila desivú škálu požiadaviek. Ľudia žiadali, aby boli telá obetí pokryté tekutinami pripomínajúcimi telesné sekréty, aby mali na tele modriny, tiekla im krv, alebo aby boli zviazané so zapchatými ústami.
Umelá inteligencia neodmietla ani požiadavky na zobrazenie vyliatych vnútorných orgánov či rasisticky motivované zmeny farby pleti. Britská nadácia Internet Watch Foundation dokonca identifikovala snímky detí vo veku jedenásť až trinásť rokov, ktoré spĺňali definíciu materiálu zachytávajúceho sexuálne zneužívanie detí.
Alibizmus platformy a reakcia Elona Muska
Reakcia spoločnosti xAI a platformy X bola z pohľadu obetí a odborníkov nedostatočná. Firma síce obmedzila prístup k nástroju Grok len pre platiacich používateľov (overené účty), no tento krok problém nevyriešil, iba ho spoplatnil.
V samostatnej aplikácii je možné o generovanie obrázkov žiadať naďalej, len s tým rozdielom, že výsledok sa nezverejní automaticky na nástenke, ale príde do odpovede. Platforma X sa k situácii oficiálne postavila alibisticky, vinu preniesla na používateľov s tvrdením, že tvorcovia nelegálneho obsahu budú posudzovaní rovnako ako tí, ktorí ho zdieľajú.
Samotný Elon Musk situáciu zľahčoval a na fakt, že AI „vyzliekla“ aj jeho, reagoval pobavením. Pre bežné ženy, či už známe alebo anonymné, je však táto skúsenosť dehumanizujúca a akýkoľvek pokus o verejnú obranu často vedie len k ďalšej vlne útokov.
Právne kroky
Odborníci na online bezpečnosť, vrátane riaditeľky organizácie DigiQ Andrey Cox, radia obetiam zachovať chladnú hlavu a najmä dôkazy. Prvým krokom by malo byť vytvorenie snímok obrazovky (screenshotov), ktoré je možné pre väčšiu právnu istotu nechať overiť u notára. Dôkazy sú kľúčové, pretože príspevky môžu byť páchateľom zmazané.
Následne je potrebné nahlásiť obsah priamo platforme pre porušenie súkromia a šírenie škodlivého obsahu. Ak platforma nereaguje, organizácia DigiQ ako komunitný partner vie pomôcť s efektívnejším nahlásením cez svoje prioritné kanály.
Z právneho hľadiska ide o vážnu vec. V prípade detí môže ísť o trestný čin výroby detskej pornografie (odborne materiálu zachytávajúceho sexuálne zneužívanie detí). Pri dospelých osobách môže konanie napĺňať skutkovú podstatu kyberšikanovania, porušenia ochrany osobnosti, ohovárania alebo porušenia GDPR, keďže na generovanie bola použitá skutočná fotografia bez súhlasu. Vo všetkých týchto prípadoch sa odporúča kontaktovať políciu.
Globálny odpor a legislatívna dohra
Škandál okolo Grok AI vyvolal ostré reakcie vlád po celom svete. Malajzia a Indonézia boli medzi prvými krajinami, ktoré prístup k nástroju zablokovali, pretože existujúce kontroly nedokázali zabrániť tvorbe pornografického obsahu.
Vo Francúzsku sa prípadom zaoberá prokuratúra, pričom páchateľom hrozia vysoké pokuty a väzenie. Vyšetrovanie tam prebieha v širšom kontexte, keďže Grok bol už predtým kritizovaný za antisemitské výroky. Do situácie sa vložila aj Európska komisia, ktorá nariadila platforme X uchovávať všetky dokumenty týkajúce sa chatbota pre účely vyšetrovania.
Britský premiér Keir Starmer označil situáciu za hanebnú a vyzval regulačný úrad Ofcom na rázne kroky. Tlak na reguláciu AI modelov tak silnie, pričom odborníci upozorňujú, že modely sa učia na dátach z internetu, čím preberajú a zosilňujú existujúce rodové stereotypy a násilie voči ženám.
