ChatGPT patrí k najpoužívanejšiemu chatbotovi na svete, ktorého poháňa generatívna umelá inteligencia. Neustále zdokonaľuje svoje schopnosti a pre používateľov sa stáva viac nápomocným. Výhody AI, žiaľ, zneužívajú aj hackeri alebo rôzni podvodníci. Spoločnosť OpenAI preto reaguje a zablokovala viacero účtov.
Ako uvádza server TechRadar, spoločnosť OpenAI zablokovala účty, ktoré používali ChatGPT na škodlivé účely. Odhalili sa viaceré dezinformačné a sledovacie kampane, pričom aktéri využívali AI na to, aby ubližovali iným.
OpenAI zablokoval používateľov
Spoločnosť OpenAI potvrdila, že nedávno identifikovala a zablokovala skupinu účtov, ktoré boli zapojené do škodlivých kampaní. Konkrétne išlo o kampane pod označením „Peer Review“ a „Sponsored Discontent“, pričom stopy vedú do Číny. Spoločnosť uviedla, že používatelia sa snažili použiť modely vytvorené OpenAI a ďalšou americkou AI firmou na sledovaciu operáciu a generovanie protiamerických článkov. Tieto aktivity boli vyhodnotené, ako hrubé porušenie pravidiel používania, a firma preto konkrétne účty zablokovala.
Umelá inteligencia, žiaľ, podporila nárast dezinformácií a pre aktérov dezinformačných kampaní sa stáva užitočným nástrojom. Vďaka AI vedia efektívne narúšať priebehy legitímnych volieb alebo podkopávať demokraciu v nestabilných či politicky rozdelených krajinách.
AI zneužitá na škodlivé kampane
Kampaň „Peer Review“ zneužívala ChatGPT na generovanie podrobných opisov, ktoré boli v súlade s obchodnými prezentáciami. Táto kampaň sa týkala sociálno-mediálneho nástroja na monitorovanie, o ktorom aktéri tvrdili, že ho použili na poskytovanie správ v reálnom čase o protestoch na Západe. Nástroj údajne zneužili čínske bezpečnostné služby. Aktéri použili ChatGPT na úpravu a ladenie kódu a generovanie propagačných materiálov pre podozrivé AI nástroje na monitorovanie sociálnych médií.
Účty, ktoré boli použité v rámci druhej kampane „Sponsored Discontent“, generovali komentáre v angličtine a spravodajské články v španielčine. Primárne využívali protiamerickú rétoriku, pričom pravdepodobným cieľom aktérov bolo vyvolať nespokojnosť v Latinskej Amerike, konkrétne v Peru, Mexiku a Ekvádore.
Podľa informácií serveru TechRadar toto nie je ojedinelý prípad a už v minulosti boli identifikovaní aktéri podporovaní čínskym štátom pri používaní taktík zvaných „spamouflage“ na šírenie dezinformácií. Len nedávno – koncom roka 2024 – bola odhalená čínska kampaň zameraná na amerických voličov, ktorá zahŕňala tisíce obrázkov a videí vygenerovaných pomocou AI. Väčšinou išlo o nekvalitný materiál s nepravdivými informáciami. Účty, ktoré AI zneužívajú, nie sú nevystopovateľné. A teda ChatGPT použijete v rozpore s podmienkami používania, OpenAI vám môže účet neodkladne a bez predchádzajúce upozornenia zrušiť.
