To, že umelá inteligencia dokáže nielen pomáhať, ale aj veľmi škodiť, nie je žiadnym tajomstvom. Často si ale neuvedomujeme, ako veľmi temná tá odvrátená strana technológie naozaj je. A že je temná. Počet podvodov, ktoré konštruuje AI, výrazne rastie. A žiaľ, okrem počtu rastie aj ich sofistikovanosť, čo znamená, že im dokáže naletieť stále viac a viac ľudí.
Nie je to tak dávno, čo si príprava presvedčivého kybernetického útoku vyžadovala hodiny manuálnej práce, vyhľadávania a štúdia konkrétnej obete. Útočníci museli pracne spájať informácie, spoznať pracovné prostredie cieľa a napísať text tak, aby nevzbudil podozrenie gramatickými chybami či nesprávnym tónom.
Nástup umelej inteligencie však potrebu namáhavého rešeršu prakticky eliminoval. Moderné jazykové modely a automatizované nástroje zmenili individuálny a pracný podvod na masovú záležitosť. Presnosť útokov pritom paradoxne narástla.
Dokonalé digitálne profilovanie
V dnešnej dobe už hrozba nespočíva v jedinom úniku prihlasovacích údajov alebo v jednej nabúranej databáze. Kyberzločinci dokážu veľmi efektívne spájať rôznorodé typy informácií z viacerých nezávislých zdrojov. Napríklad školská e-mailová adresa získaná z jedného bezpečnostného incidentu sa poľahky prepojí s telefónnym číslom z úplne inej databázy, pracovnou históriou z profesijných sociálnych sietí a s verejnými príspevkami na internete.
Umelá inteligencia dokáže tieto rozdrobené dáta v priebehu sekúnd preanalyzovať a vytvoriť z nich mimoriadne detailný profil obete. Algoritmy následne vygenerujú správu presne v jazyku, štýle a tóne, aký zodpovedá pracovnému či súkromnému prostrediu danej osoby, vysvetľuje Mária Krahulecová, spoluzakladateľka Qubit Conference, podľa spravodajského portálu agentúry TASR. Výsledný profil navyše neukladá podklady len na písomný phishing, ale vytvára perfektnú základňu aj pre telefonické podvody, klonovanie hlasu alebo tvorbu deepfake videí.
To všetko sú nástroje, s ktorými mnohí bežní ľudia stále nie sú dostatočne oboznámení. A do istej miery je to hra o čas. Tieto typy útokov sú totiž zo dňa na deň premyslenejšie, sofisitikovanejšie, zákernejšie, a teda všeobecne nebezpečnejšie.
Rozhoduje načasovanie a dôvera, nie dokonalosť textu
Zaujímavosťou je, že na to, aby bol útok úspešný, dokonca AI de facto ani nemusí vygenerovať zložitý scenár. Ide o takzvaný spear phishing. Príkladom môže byť situácia, keď sa útočník v krátkej správe vydáva za generálneho riaditeľa firmy a žiada zamestnanca o zaslanie telefónneho čísla s požiadavkou presunúť ďalšiu komunikáciu na aplikáciu WhatsApp.
Úspech takejto správy nezávisí od sofistikovanosti. Aj veľmi jednoduchá, ba až primitívna požiadavka dokáže cieľ oklamal, ak prichádza v správnom momente a zneužíva meno nadriadeného, učiteľa alebo inej osoby, ktorej daný človek plne dôveruje (apel na autoritu). Informácie, ktoré sa na prvý pohľad zdajú ako bezvýznamné, naberajú po kombinácii s inými dátami obrovskú silu.
Treba sa vzdelávať a náležite chrániť
Odborníci na kybernetickú bezpečnosť odporúčajú pri takýchto incidentoch zachovať chladnú hlavu, no zároveň žiadnu hrozbu nepodceňovať. Pri prevencii je dôležité sledovať špecifické varovné signály, ktorých zvyčajne býva hneď niekoľko:
- zbystriť pri správach, ktoré vytvárajú umelý časový tlak a urgentnosť,
- spozornieť pri požiadavkách na presun konverzácie na inú komunikačnú platformu alebo pri žiadostiach o zaslanie súkromného telefónneho čísla,
- nikdy neotvárať nečakané prílohy a neklikať na odkazy v podozrivých e-mailoch,
- každú neobvyklú požiadavku od kolegu, manažéra či inštitúcie si vždy overiť druhým, nezávislým komunikačným kanálom (napríklad priamym telefonátom).
Problém to však nie je len pre bežných ľudí, ale aj pre firmy a organizácie. Práveže sa dá povedať, že pri tých je hrozba ešte väčšia, keďže z nich dokážu útočníci pri úspešnom podvode získať nielen viac dát, ale aj viac peňazí. Smutným faktom je, že napriek tomu mnohé firmy ochranu svojich systémov zásadne podceňujú.
Dnes sa už nemôžu spoliehať výhradne na technické zabezpečenie svojich systémov a serverov. Rovnako dôležitá je príprava samotných zamestnancov na fakt, že útočníci dokážu veľmi presvedčivo napodobniť reálnu osobu z ich okolia.
Pravdou je, že hoci žijeme v ére, kedy technológie naberajú čoraz viac zodpovednosti a významu, jednou z najdôležitejších obranných línií celého bezpečnostného systému naďalej zostávajú ľudia. Zároveň však predstavujú aj ten najzraniteľnejší prvok. Zvyšovanie povedomia o kybernetických hrozbách a neustále vzdelávanie sú preto absolútne kľúčovým nástrojom v boji proti automatizovaným podvodom, v podnikovej aj súkromnej sfére.
