Spoločnosť OpenAI oficiálne zablokovala sieť podozrivých čínskych účtov, ktoré zneužívali ChatGPT na ovplyvňovanie verejnej debaty o amerických dátových centrách a clách. Kampane s názvami Data Center Bandwagon a Tech and Tariffs generovali príspevky, komentáre a karikatúry, ktorých cieľom bolo prehĺbiť politické rozdiely a vyvolať napätie v Spojených štátoch. Do prípadu sa vložili aj poprední republikáni, ktorí požiadali nového riaditeľa FBI Kasha Patela o hĺbkové vyšetrovanie.
Moderné nástroje generatívnej umelej inteligencie sa postupne stávajú efektívnou zbraňou. Zahraniční aktéri sa ich pomocou snažia nahlodávať dôveru v demokratické inštitúcie. Americká spoločnosť OpenAI oznámila, že identifikovala a okamžite zablokovala sériu podozrivých účtov, ktoré sú preukázateľne prepojené na organizované vplyvové kampane z Číny.
Tieto fiktívne profily zneužívali možnosti ChatGPT na to, aby zasahovali do citlivých vnútropolitických tém v Spojených štátoch. Čínski operátori sa zamerali najmä na narastajúci odpor miestnych komunít voči budovaniu nových dátových centier a taktiež na tému colných sadzieb na zahraničný dovoz, ktoré zaviedol prezident Donald Trump.
Spomenuté dve koordinované kampane dostali od bezpečnostných analytikov interné kódové označenia „Data Center Bandwagon“ a „Tech and Tariffs“. Ich hlavným cieľom bolo generovať obrovské množstvo online príspevkov, krátkych komentárov a politických karikatúr, ktoré mali rozdeliť americkú spoločnosť v citlivých politických otázkach, píše TechRadar.
Oficiálne vyhlásenie OpenAI jasne hovorí o tom, že hlavným zámerom Číny bolo prehĺbiť už existujúce spoločenské priepasti, a to umelým zvyšovaním online angažovanosti pomocou príspevkov, ktoré vygeneroval ChatGPT. Bezpečnostní experti však dodávajú, že tieto pokusy dopadli neúspešne, takže kampaniam sa na internete nepodarilo získať žiadnu hlbšiu trakciu či väčšiu podporu.
Parazitujú na reálnych problémoch
Analýza operácie ukázala, že zahraniční dezinformátori zvolili veľmi premyslenú taktiku. Negatívne dopady masívnej výstavby dátových centier na lokálne komunity či dodatočné finančné náklady uvalené na koncových spotrebiteľov kvôli colným baréram sú reálne témy, ktoré polarizujú (nielen) americkú spoločnosť už dlhú dobu.
Čína si teda vymyslela tieto témy nevymyslela z vlastnej hlavy. Namiesto toho boli kampane nastavené tak, aby poukázal na vážnosť existujúcich problémov a rozšírili ich medzi špecifickými online skupinami na sociálnych sieťach, predovšetkým na platforme X (bývalý Twitter). Hovorca OpenAI v tejto súvislosti pre Axios potvrdil, že ide o vôbec prvý zdokumentovaný prípad, kedy boli AI modely od OpenAI reálne zneužité v rámci takejto čínskej zahraničnej kampane.
Predstavitelia OpenAI vo svojej správe uviedli, že za kampaňou zameranou proti dátovým centrám stál konkrétny zmluvný dodávateľ čínskej vlády. Tento subjekt zdieľal príspevky, ktoré cielene čerpali z legitímnych obáv obyvateľov ohľadom obmedzenej kapacity elektrických sietí a prudkého rastu cien elektriny. Príspevky boli presne mierené na online skupiny, kde sa v danom čase diskutovalo o výstavbe veľkých serverových fariem.
Politická karta
Odhalenie, že Čína využíva umelú inteligenciu na parazitovanie na citlivých politických otázkach, taktiež tak trochu dodalo kredibilitu tvrdeniam z radov Republikánskej strany. Viacerí poprední republikánski politici totiž nedávno hrdo vyhlasovali, že celé hnutie, ktoré vyjadruje odpor voči dátovým centrám, je v skutočnosti len rozsiahlou operáciou riadenou priamo z Pekingu.
Analytici však upozorňujú, že odhalenie čínskej propagandy nezmaže reálne škody. Tieto projekty majú totiž citeľný negatívny dopad na každodenný život ľudí v Spojených štátoch.
Napätie na politickej scéne v USA kvôli tejto téme naberá na obrátkach. Skupina vplyvných republikánskych zákonodarcov pred malou chvíľou oficiálne vyzvala nového riaditeľa Federálneho úradu pre vyšetrovanie (FBI) Kasha Patela, aby urýchlene a do hĺbky vyšetril celé pozadie odporu v krajine. Vo svojej oficiálnej žiadosti, ktorú adresoval, šéfovi FBI Kashovi Patelovi poslanci priamo upozorňujú na to, že rastúci odpor verejnosti je tajne financovaný a poháňaný Čínou.
Ako hlavný dôkaz pre túto tériu republikáni používajú podozrivo podobné slovné spojenia a frázy v rétorike jednotlivých protestných skupín. Poukazovanie na nadmernú spotrebu vody, limity prenosovej sústavy, netransparentnosť v schvaľovacích procesoch miestnych úradov či neúmerné zaťaženie účtov za komunálne služby vraj má tak podobné jazykové znaky a štruktúru, že to v žiadnom prípade nemôže byť náhoda.
Zahraniční aktéri skrátka zistili, že nemusia prichádzať s novými klamstvami. Stačí, ak zoberú reálne obavy amerických občanov a pomocou automatizovaných chatbotov ako ChatGPT ich začnú šíriť medzi širšie vrstvy ľudí. Týmto spôsobom dokážu vytvoriť dokonalú ilúziu masového odporu a de facto ochromiť investície do digitálnej ekonomiky.
OpenAI potvrdila, že ich bezpečnostné tímy budú naďalej monitorovať akékoľvek anomálie v správaní účtov a okamžite zasiahnu proti akýmkoľvek ďalším pokusom o štátom sponzorované zneužívanie ich modelov či iných technológií.
