Meta v rámci komunikačnej platformy Messenger testuje nové bezpečnostné funkcie, ktorých cieľom je poskytnúť používateľom spoľahlivejšiu ochranu pred podvodmi, falošnými identitami a manipulatívnymi správami. Pre túto lepšiu úroveň ochrany však treba obetovať časť súkromia. Aby ju totiž Facebook dokázal poskytnúť, potrebuje získať prístup k našim správam.
Nebude ho však vyžadovať vždy. Ako vysvetľuje Help Net Security, základná detekcia podvodov totiž prebieha priamo v zariadení používateľa a Meta tvrdí, že v tejto fáze nečíta obsah správ na svojich serveroch. Až keď systém vyhodnotí konverzáciu ako podozrivú, používateľ dostane upozornenie a môže sa rozhodnúť, či pošle časť správ na podrobnejšiu AI analýzu v cloude.
Ako to presne funguje
Mechanizmus je skladá z dvoch vrstiev. Prvá vrstva funguje lokálne v zariadení a sleduje signály, ktoré môžu naznačovať podvodné správanie. Môže ísť napríklad kontakt od neznámeho účtu, zvláštny štýl konverzácie, podozrivé odkazy alebo typické znaky sociálneho inžinierstva. Ak sa takýto signál objaví, Messenger zobrazí varovanie, že konverzácia môže obsahovať znaky podvodu, a používateľovi odporučí zvýšenú opatrnosť.
Druhá vrstva je čisto dobrovoľná. Ak chce používateľ získať detailnejší posudok, môže poslať posledné správy z konverzácie na kontrolu spoločnosti Meta. AI následne vyhodnotí obsah, vysvetlí, prečo ide o potenciálne riziko, a odporučí ďalšie kroky. Medzi riešeniami figuruje napríklad blokovanie, nahlásenie účtu alebo ukončenie komunikácie.
Práve táto druhá fáza je dôvodom, prečo sa hovorí, že Facebook bude „čítať čety“. Technicky to platí, ale len pre tie správy, ktoré používateľ pošle na analýzu dobrovoľne.
Čo to znamená pre súkromie
Najcitlivejšou otázkou je súkromie, a to najmä preto, že Messenger v poslednom období presadzoval koncové šifrovanie ako veľký bezpečnostný posun.
Meta tvrdí, že základná detekcia podvodov funguje na zariadení, takže čet zostáva šifrovaný a firma ho v tejto fáze neposúva na svoje servery. Ak však používateľ potvrdí odoslanie nedávnych správ na AI preskúmanie, tieto konkrétne správy už koncovým šifrovaním chránené nebudú, pretože ich Facebook musí dešifrovať a analyzovať.
Nejde teda o plošné monitorovanie všetkých konverzácií v reálnom čase. Ide o model „najprv zariadenie, potom dobrovoľný cloud“, ktorý má spojiť bezpečnostné upozornenia s minimálnym zásahom do súkromia. Aj tak však zostáva otázka, či používatelia budú presne rozumieť tomu, kedy ešte ich čet zostáva plne súkromný a kedy už časť konverzácie poskytujú gigantovi na analýzu.
Podvody na Messengeri sú príliš časté
Odvážny krok Mety, hoc aj na úkor obety na súkromí používateľov, sa dá pochopiť. Podvody sú totiž na Messengeri až príliš všedné. Od falošných romantických profilov cez napodobňovanie rodiny a priateľov až po správy od údajnej technickej podpory alebo kuriérskych spoločností, Messenger to všetko má (a viac).
Podvodníci sa pritom často nesnažia obeť presvedčiť jedným nápadným útokom, ale budujú dôveru postupne, čo je dôvod, prečo jednoduchá filtrácia podozrivých odkazov už nestačí.
Neprehliadnite
Meta navyše uvádza, že podvodníci sa pokúšajú obchádzať klasické detekčné systémy tým, že najprv nepôsobia škodlivo a nekalé správanie rozvinú až po nadviazaní kontaktu. Práve preto firma stavila na kombináciu behaviorálnych signálov, analýzy textu, obrázkov a širšieho kontextu konverzácie.
Podľa Help Net Security majú nové systémy rozpoznávať aj falošné identity celebrít, verejných osobností či značiek a takisto odkazy vedúce na weby napodobňujúce legitímne stránky.
Skôr posun, než novinka
V tejto súvislosti treba podotknúť, že Messenger už v minulosti využíval strojové učenie na rozpoznávanie podvodníkov, no systém bol zameraný najmä na správanie účtov, nie na analýzu konkrétnych správ.
Ako píše TNW, už v roku 2020 Facebook zaviedol upozornenia na podozrivé profily a účty vydávajúce sa za niekoho iného, pričom platforma vtedy zdôrazňovala, že funkcia nevyžaduje čítanie samotných četov.
Nový systém však pridáva dodatočné funkcionality. Nielenže upozorní na podozrivý účet, ale umožní aj obsahovú AI analýzu časti konverzácie, ak s tým používateľ súhlasí. Z jeho strany si teda vyžaduje viac kooperácie.
Ochrana sa rozširuje aj na WhatsApp
Nové bezpečnostné prvky pritom nie sú obmedzené len na Messenger. Meta paralelne zavádza ochrany aj vo WhatsAppe, kde chce predchádzať podvodom pri prepájaní účtu na ďalšie zariadenia.
Používateľ dostane upozornenie, ak behaviorálne signály naznačujú, že požiadavka na prepojenie zariadenia môže byť podvodná, pričom upozornenie zobrazí aj informáciu o pôvode požiadavky. Ide o reakciu na častý trik, pri ktorom podvodník obeť presvedčí, aby naskenovala QR kód alebo navštívila stránku a zadala svoje číslo, čím mu prakticky odovzdá plnú kontrolu nad účtom.
Meta zároveň uvádza, že pri boji proti podvodom spolupracuje s priemyselnými partnermi aj políciou a na základe informácií od vyšetrovateľov deaktivovala viac ako 150-tisíc účtov napojených na podvodné centrá v juhovýchodnej Ázii.
Môže za to aj umelá inteligencia
Nová funkcia je čiastočne kontroverzná, no dôležité je, že zrejme bude náramne užitočná. Dôvod pritom netreba hľadať ďaleko. Stačí sa pozrieť na nástroje, ktoré mnohí z nás používajú na dennej báze. Samozrejme, hovoríme o AI.
Generatívna umelá inteligencia zlepšila jazyk podvodných správ, odstránila typické pravopisné chyby a umožnila rýchlejšie vytváranie dôveryhodne pôsobiacich profilov či obrázkov. Z tohto pohľadu teda dáva zmysel, že Facebook siaha po AI aj na obranu.
