Umelá inteligencia čoraz výraznejšie mení aj tienisté stránky online nakupovania. V Číne sa v posledných mesiacoch rozšíril nový typ podvodu, pri ktorom zákazníci využívajú AI-generované fotografie a videá, aby neoprávnene získali peniaze späť z e-shopov. Systém, ktorý bol roky postavený na dôvere a jednoduchom princípe „pošli fotku poškodeného tovaru“, sa začína vážne otriasať. Téme sa venoval portál Wired.
Online platformy dlhodobo fungovali tak, že pri reklamácii stačilo doložiť snímky rozbitého či znehodnoteného produktu. Ak bol dôkaz presvedčivý, predajca alebo samotná platforma často ani nevyžadovali vrátenie tovaru a peniaze poslali späť. Práve túto slabinu dnes podvodníci zneužívajú. Vďaka generatívnym nástrojom dokážu vytvoriť realisticky vyzerajúce zábery poškodených produktov, od popraskaných keramických hrnčekov až po roztrhané obliečky.
Umelá inteligencia v službách podvodníkov
Na čínskej sociálnej sieti RedNote sa objavili desiatky príspevkov od predajcov a pracovníkov zákazníckej podpory, ktorí upozorňujú na podozrivé reklamácie. V jednom prípade zákazník tvrdil, že posteľné plachty prišli úplne zničené, no text na prepravnom štítku vyzeral ako nezmyselná zmes znakov. Inde zas reklamovali keramický hrnček, ktorý sa mal „roztrhnúť“ na vrstvy podobne ako papier. Predajcovia upozorňovali, že takéto poškodenie fyzikálne nedáva zmysel.
Zneužívajú potraviny aj kozmetiku
Najviac zneužívané sú pritom kategórie, kde sa tovar bežne nevracia späť, patria sem čerstvé potraviny, lacná kozmetika či krehké predmety. Predajcovia často vyhodnotia reklamáciu ako nerentabilnú na preverovanie a radšej peniaze vrátia. Presne na to sa podvodníci spoliehajú.
Polícia už riešila jeden bizarný prípad
Veľkú pozornosť vzbudil prípad predajkyne živých krabov na platforme Douyin. Zákazníčka jej poslala fotografie a videá, na ktorých väčšina krabov pôsobila ako uhynutá, pričom niektoré mali údajne utiecť z balenia. Predajkyňa si však všimla viacero nezrovnalostí, napríklad uhynuté kraby mali nohy smerujúce nahor, čo sa v praxi nestáva, a v rôznych videách sa líšil počet samcov a samíc.
Jeden z krabov mal dokonca o nohu viac, než je biologicky možné. Polícia neskôr potvrdila, že materiály boli sfalšované, a podvodníčku zadržala. Prípad sa stal známym aj preto, že išlo o jeden z prvých AI refund podvodov, ktorý vyústil do oficiálneho zásahu úradov.
Takéto AI podvody presahujú hranice Číny
Podľa americkej firmy Forter, ktorá sa zaoberá odhaľovaním podvodov, tento problém zďaleka nie je len čínskou záležitosťou. Počet reklamácií s AI-upravenými obrázkami má globálne rásť a od začiatku roka sa zvýšil o viac než 15 percent. Dôvod je jednoduchý, nástroje na generovanie a úpravu obrázkov sú lacné, dostupné a zvládne ich používať takmer každý.
Odborníci upozorňujú, že umelá inteligencia nemusí vytvoriť dokonalý falzifikát. Pracovníci zákazníckej podpory často riešia stovky prípadov denne a nemajú čas analyzovať každý detail. To využívajú aj organizované skupiny, ktoré dokážu v krátkom čase poslať stovky či tisíce reklamácií s mierne pozmenenými obrázkami, často z rôznych IP adries.
Predajcovia sa bránia rovnako pomocou AI
Niektorí predajcovia sa snažia brániť rovnakými zbraňami a používajú AI na analýzu podozrivých fotografií. Výsledky sú však zatiaľ nepresné a platformy aj tak nemusia dať za pravdu predajcovi. Hrozí preto, že e-shopy sprísnia reklamačné pravidlá, čo pocítia najmä poctiví zákazníci.
Celý problém poukazuje na krehkosť dôvery, na ktorej je online obchod postavený. Kedysi kritizovaní predajcovia za idealizované AI fotografie produktov, dnes čelia opačnému extrému a to zákazníkom, ktorí pomocou umelej inteligencie fingujú škody. Ak majú digitálne trhoviská fungovať aj naďalej, budú musieť nájsť nové spôsoby overovania, zodpovednosti a kontroly v ére, kde už obrázok nemusí znamenať pravdu.
