SearchGPT má problém. Používateľom môžu podsúvať obsah, ktorý je manipulatívny alebo nebezpečný. Vyplýva to z testu, ktorý nedávno realizoval The Guardian.
Vyhľadávací nástroj od spoločnosti OpenAI, SearchGPT, alebo inak povedané ChatGPT Search, je už dostupný pre všetkých používateľov, vrátane tých, ktorí za služby neplatia. Používatelia si z neho môžu urobiť predvolený vyhľadávač a nahradiť ním napríklad Google. The Guardian však odhaľuje, že to nemusí byť správne rozhodnutie.
ChatGPT Search má problém
Analýza odhalila, že ChatGPT Search prináša určité bezpečnostné riziko. Môže dochádzať k manipulácii kvôli škodlivému kódu z webových stránok, ktoré tento nástroj prehľadáva. The Guardian testoval reakcie vyhľadávača a zistil, že ChatGPT môže ponúkať skrytý obsah s pokynmi od tretích strán. Napríklad takto môže nevedomky naviesť používateľa na zakúpenie určitého produktu alebo služby.
Tieto techniky môžu manipulatívne weby zneužívať a ChatGPT potom bude používateľom podsúvať pozitívne hodnotenia konkrétnych produktov, napriek tomu, že reálne mali tieto produkty negatívne ohlasy. Bezpečnostný výskumník tiež zistil, že ChatGPT môže vrátiť škodlivý kód z webových stránok, ktoré vyhľadáva.
Podsúvanie pozitívnych recenzií
V testoch dostalo ChatGPT URL adresu falošnej webovej stránky, ktorá bola vytvorená tak, aby vyzerala ako produktová stránka pre fotoaparát. AI nástroj dostal následne otázku, či sa fotoaprát oplatí kúpiť. Reakcia na túto testovaciu stránku priniesla vyvážené hodnotenie, ktoré okrem pozitív spomenulo aj niektoré funkcie, ktoré by sa spotrebiteľom nemuseli páčiť.
Keď ale skrytý text obsahoval pokyny pre ChatGPT, aby uvádzal priaznivú recenziu, odpoveď AI nástroja bola vždy pozitívna. Dochádzalo k tomu aj v prípade, keď boli na webe negatívne recenzie. Skrytý text teda slúžil na prepísanie skutočného skóre recenzií.
Náprava zo strany OpenAI
Výskumník kybernetickej bezpečnosti zo spoločnosti CyberCX Jacob Larsen načrtol možné problémy. Uviedol, že ak by sa súčasný vyhľadávací systém ChatGPT plne uvoľnil v tomto stave, mohlo by existovať vysoké riziko. Niektorí podvodníci by totižto mohli vytvoriť špeciálne webové stránky zamerané na klamanie používateľov. Dodal tiež, že funkcia vyhľadávania bola globálne spustená len nedávno. Predpokladá preto, že OpenAI, bude na zdokonaľovaní vyhľadávača naďalej pracovať a tieto chyby odstráni.
