Modely generatívnej umelej inteligencie (AI) vznikli preto, aby pomáhali ľuďom. Žiaľ, nie vždy je tomu tak. Nie dlho po tom, čo na svet prišiel miliónmi obľúbený ChatGPT, vznikla jeho záškodnícka kópia s názvom WormGPT, ktorej cieľom je pomôcť vykonávať protizákonné aktivity, ako je napríklad kradnutie citlivých dát. A žiaľ, nie je jediný svojho druhu.
Ako píše server BleepingComputer, po novom vzniká ďalší záškodnícky AI četbot. Nesie názov FraudGPT a je určený podvodníkom, hackerom a spamerom. A to nie je všetko. Údajne je v procese vývoja minimálne ešte jeden takýto systém. Ten sa má inšpirovať platformou Bard od Google.
WormGPT a FraudGPT vznikli pod rukami jednej a tej istej osoby, ktorá má v úmysle vyškoliť AI na realizovanie škodlivých útokov, ako je napríklad phishing. Jej ďalším zameraním má byť využívanie zraniteľností systémov a vytváranie škodlivého malvéru. FraudGPT vznikol 25. júla, pričom v temných zákutiach internetu ho inzeroval človek vystupujúci pod prezývkou CanadianKingpin12.
AI čerpá znalosti z darkwebu
Výskumníci kyberbezpečnostnej firmy SlashNext v rámci vyšetrovania situácie zistili, že CanadianKingpin12 aktívne cvičí nové AI systém za použitia súborov získaných z dark webu alebo na základe dát z iných jazykových modelov.
Práve on (či ona) má stáť za vývojom zmieneného systému založeného na platforme Bard od Google. Vraj ponesie názov DarkBART. Výskumníci taktiež zistili, že táto osoba mala mať prístup aj k jazykovému modelu DarkBERT, ktorý bol vyvinutý juhokórejskými odborníkmi za účelom potláčania kyberzločineckej aktivity.
DarkBERT je k dispozícii výhradne pre akademikov, pričom na autorizáciu sú používané e-mailové adresy. Pre skúsených hackerov však toto nie je dostatočne silný ochranný systém. Spoločnosť SlashNext tvrdí, že útočníci dokážu získať prístup k e-mailovým adresám akademikov za približne 3 doláre (2,73 eura).
Konkrétne má byť škodlivá verzia DarkBERT špecializovaná na:
- Vytváranie sofistikovaných phishingových kampaní s cieľom získať heslá a platobné údaje;
- Vykonávanie pokročilých útokov s cieľom získať citlivé informácie alebo neoprávnený prístup do systémov a sietí;
- Využívanie zraniteľností počítačových systémov, softvéru a sietí;
- Vytváranie a šírenie škodlivého softvéru;
- Využívanie zraniteľností s cieľom nadobudnúť finančný zisk alebo narušiť fungovanie systémov.
Výskumníkom sa dokonca podarilo spojiť s autorom tohto systému, pričom zistili, že DarkBART aj „prerobený“ DarkBERT budú mať neustály prístup k internetu a integráciu so službou Google Lens.
Neprehliadnite
Počet útokov stúpa a zrejme aj stúpať bude
Vznik takýchto AI modelov so sebou prináša obrovské bezpečnostné riziká. Dokážu totiž výrazne uľahčiť realizáciu kybernetických útokov aj menej skúseným či začínajúcim podvodníkom, čo môže viesť k vyššej frekventovanosti týchto útokov. A čím je útokov viac, tým je vyššia šanca ich úspechu.
A dotknúť sa to môže aj Slovákov. Kybernetické podvody ani u nás nie sú žiadnou novinkou. Podľa nedávnej správy bezpečnostnej spoločnosti Eset počet kyberútokov na Slovensku stúpa. V prvom polroku útočníci najčastejšie volili phishing a sextortion, teda vydieranie cez hrozby zverejnenia kompromitujúceho obsahu o obeti.
