Technologickí giganti nasadzujú AI vo veľkom, a to hlavne kvôli tomu, že im má zefektívniť niektoré procesy (hlavne zákaznícku odporu) a ušetriť milióny na nákladoch. Jedným z nich je aj Meta, ktorá umelú inteligenciu tlačí v podstate všade, kde je to možné. Dokonca už potvrdila prepúšťanie tisícov zamestnancov práve v prospech umelej inteligencie. A teraz rieši ďalší škandál.
Prevalil sa na internete. Konkrétne sa ukázalo, že hackeri dokážu veľmi jednoducho prevziať kontrolu nad cudzími Instagram účtami. Ako presne? Jednoducho o to „pekne požiadajú“ chatbota Meta AI. Téme sa venuje server Android Authority.
Čo je však ešte horšie, oficiálne vyhlásenia Mety o riešení situácie sa zdajú byť prinajmenšom zavádzajúce. Podľa zistení bezpečnostných expertov a samotných hackerov totiž firma namiesto skutočnej opravy iba schovala jedno tlačidlo v aplikácii.
Ako sa dá hacknúť účet cez Meta AI?
Celý problém stojí v podstate na tom, že Meta vložila do svojho AI asistenta príliš veľkú dôveru. Hackeri zistili, že prostredníctvom sofistikovaného smerovania príkazov (prompt injection) dokážu chatbota celkom ľahko zmanipulovať. Stačilo mu poslať špecificky naformulovanú textovú správu a AI asistent bez dodatočného overenia zmenil e-mailovú adresu spojenú s akýmkoľvek vybraným Instagram profilom.
Útočníkom sa takto podarilo ukradnúť obrovské množstvo vysokoprofilových účtov, najmä tých so vzácnymi, krátkymi používateľskými menami, ktoré majú obrovskú hodnotu na čiernom trhu. Áno, aj s týmto sa obchoduje. Konkrétne ide o takzvané OG Handles.
Viceprezident Mety pre komunikáciu, Andy Stone, síce vyhlásil, že „problém bol vyriešený a zasiahnuté účty zabezpečujú“, no nasledujúce dni ukázali trochu iný scenár. Krádeže profilov totiž veselo pokračujú ďalej.
Nepomôže ani dvojfaktorové overenie
Obeťami, ako sme spomenuli, nie sú ani tak menšie kontá. Na zozname sú aj celkom známe mená z technologického sveta. Pokiaľ sledujete dianie v tomto priestore, asi ste už počuli o vývojárke a reverznej inžinierke Jane Manchun Wong, ktorá je v komunite vysoko rešpektovaná pre odhaľovanie skrytého kódu v aplikáciách. Sama potvrdila, že prišla o svoj sekundárny účet. Útočníci dokázali obísť aj fakt, že mala aktívne dvojfaktorové overenie (2FA). Krátko nato jej bez jej vedomia hackeri zmenili heslo aj na hlavnom profile.
Pod jej príspevkami na sociálnych sieťach o tejto problematike sa takmer okamžite nahromadili desiatky komentárov od ďalších používateľov, ktorí potvrdzujú rovnakú skúsenosť.
Aby tej absurdnosti nebolo málo, hack zasiahol aj samotnú Esther Crawford, bývalú produktovú riaditeľku v Twitteri (dnes X) a súčasnú produktovú riaditeľku priamo v spoločnosti Meta. Aj jej Instagram účet padol za obeť rovnakému AI útoku.
Andy Stone opäť reagoval tým, že spoločnosť zasiahnuté kontá zabezpečila, pričom niektorí používatelia môžu dostať výzvy na resetovanie hesla či zodpovedanie bezpečnostných otázok. No keďže je to takmer tá istá rétorika, ktorú spomenul predtým (a ktorá sa ukázala byť tak trochu klamstvom), komunita mu už neverí.
Opravu odflákli
Ak ale Meta zakročila, prečo útoky stále pokračujú? Pravda, Meta zakročila. Zakročila však najlenivejším spôsobom, akým mohla. Na bezpečnostnom Telegram kanále Bugify Vault sa objavila informácia, že tá oprava spočívala len v tom, že z vizuálneho prostredia aplikácie (frontendu) odstránili tlačidlo „Získať podporu“ (Get Support).
Týmto krokom síce gigant znemožnil jednoduchý prístup k umelej inteligencii, no len bežným používateľom. Samotné API rozhranie pre Meta AI zostalo na pozadí (backende) úplne nedotknuté, teda otvorené. Skúsenejší hackeri tak iba vymenili klikanie v aplikácii za automatizované skripty a botov. Cez ne naďalej priamo komunikujú s API rozhraním Meta AI a kradnú účty v podstate rovnako ako doteraz.
