Len deň po tom, čo Elon Musk oznámil akvizíciu svojej AI firmy xAI spoločnosťou SpaceX, čím sa výrobca rakiet stal najhodnotnejšiu súkromnou firmou na svete, vrazila do kancelárií sociálnej siete X francúzska polícia.
Elitná jednotka pre kybernetickú kriminalitu parížskej prokuratúry v utorok vykonala razie v priestoroch, ktoré po fúzii technicky patria pod krídla vesmírneho giganta, pričom sa vyšetrovanie týka generovania sexuálnych deepfakes a detskej pornografie. Musk ani bývalá riaditeľka X Linda Yaccarino zatiaľ obvinenia priamo nekomentovali, no francúzske úrady im už doručili predvolanie na výsluch.
Vstup polície do priestorov X nie je rutinnou kontrolou, ale súčasťou rozsiahleho kriminálneho vyšetrovania, na ktorom spolupracuje Europol. Podľa informácií NBC News, ktoré sa odvolávajú na vyhlásenie parížskej prokuratúry, úrady vyšetrujú trestné činy súvisiace so šírením „obrázkov detskej pornografie“, porušovaním osobnostných práv prostredníctvom „sexuálnych deepfakes“ a popieraním „zločinov proti ľudskosti“.
Tento právny úder prichádza v najhoršom možnom čase pre SpaceX. Spoločnosť, ktorá si napriek explóziám rakiet Starship vybudovala imidž vizionára posúvajúceho hranice ľudstva, teraz preberá toxickú záťaž Muskovej AI divízie. Razia je prvým varovným signálom, že reputácia vesmírnej firmy môže byť kontaminovaná vyšetrovaním, ktoré sa netýka letov na Mars, ale digitálneho vyzliekania neplnoletých osôb.
23-tisíc detí
Jadrom problému je chatbot Grok, vyvíjaný spoločnosťou xAI. Francúzska prokuratúra otvorila vyšetrovanie už minulý mesiac po tom, čo sa tento nástroj použil na generovanie nedobrovoľných sexualizovaných snímok skutočných ľudí. Nešlo o ojedinelé prípady. Digitálna „spree“ trvala od konca decembra až do januára a jej rozsah je alarmujúci.
Organizácia Center for Countering Digital Hate (CCDH) odhaduje, že Grok vyprodukoval až tri milióny takýchto obrázkov. Ešte mrazivšie je číslo, ktoré sa týka neplnoletých. Podľa analýz CCDH sa v tomto objeme nachádzalo viac ako 23 000 vygenerovaných snímok detí. Analytická firma Copyleaks, ktorá monitoruje AI obsah, vypočítala, že v čase najväčšieho náporu generoval Grok jeden nedobrovoľný sexuálny obrázok každú minútu.
Okrem sexuálneho obsahu sa úrady zameriavajú aj na šírenie nenávistných prejavov. Prokuratúra skúma distribúciu obsahu popierajúceho holokaust, čo je vo Francúzsku trestný čin. Platforma X pod Muskovým vedením čelí dlhodobej kritike za nárast krajne pravicových účtov a antisemitizmu. Samotný Grok v minulosti počas jedného zo svojich „výpadkov“ označil sám seba za „MechaHitlera“, čo len podčiarkuje absenciu bezpečnostných filtrov.
Ignorované varovania
Zatiaľ čo Musk verejne prezentuje fúziu so SpaceX ako cestu k „vnímajúcemu slnku“ a budovaniu dátových centier na obežnej dráhe, interná situácia v xAI naznačuje skôr chaos než strategickú víziu. Washington Post priniesol svedectvá zamestnancov, ktorí boli zdesení náhlym obratom startupu smerom k podpore sexualizovaného obsahu.
Podľa zdrojov denníka Musk tlačil na to, aby bol Grok čo najzábavnejší a najpútavejší, čo viedlo k odstráneniu kľúčových bezpečnostných poistiek. Zamestnanci údajne opakovane varovali vedenie, že uvoľnenie pravidiel umožní používateľom chrliť nelegálny obsah vrátane sexuálnych snímok detí a celebrít. Tieto varovania vedenie ignorovalo. Washington Post ďalej uvádza, že bezpečnostný tím xAI tvorili počas väčšiny roku 2025 len dvaja alebo traja ľudia.
Prečítajte si tiež
Musk a Yaccarino boli v rámci vyšetrovania predvolaní na dobrovoľný výsluch, ktorý by sa mal uskutočniť v týždni od 20. apríla. Termín, ktorý v americkej kultúre často odkazuje na užívanie marihuany a je aj dňom narodenín Hitlera, môže byť náhodou, no v kontexte Muskovej záľuby v internetových mémoch a obvinení z antisemitizmu pôsobí prinajmenšom bizarne.
Problémy má aj v Británii
Francúzsko nie je jedinou krajinou, ktorej došla trpezlivosť. Britský úrad Information Commissioner’s Office (ICO) v utorok oznámil vlastné vyšetrovanie Groka. William Malcolm, výkonný riaditeľ ICO pre regulačné riziká, pre BBC uviedol, že správy o Grokovi vyvolávajú „hlboko znepokojujúce otázky“ o tom, ako sa osobné údaje ľudí zneužívajú na tvorbu intímneho obsahu bez ich vedomia.
Britský premiér Keir Starmer verejne podporil regulátora Ofcom a prisľúbil tvrdý postup proti chatbotovi. Tlak prichádza aj z Ázie, pričom Indonézia a Malajzia už zablokovali prístup ku Grokovi, hoci Jakarta zákaz podmienečne uvoľnila. Globálna regulačná slučka sa sťahuje práve v momente, keď sa Musk snaží presvedčiť investorov, že spojenie rakiet a AI je logickým krokom pre budúcnosť civilizácie.
Musk argumentuje, že vesmírna AI je jediným spôsobom, ako technológiu dlhodobo škálovať vďaka solárnej energii a neobmedzenému priestoru pre satelity. Avšak kým sa jeho satelity dostanú na orbitu, právnici SpaceX budú musieť na Zemi vysvetľovať, prečo ich nová dcérska spoločnosť fungovala ako továreň na detskú pornografiu. Kontrast medzi ambíciou osídliť Mars a realitou policajných razií kvôli digitálnemu zneužívaniu detí nemôže byť ostrejší.
