Mnohí ľudia s nekalými úmyslami chcú schopnosti AI zneužiť vo svoj prospech, čo sa stalo aj nedávno. Google upozornil na incident a tvrdí, že útočníci sa pokúsili o klonovanie chatbota Gemini.
Nejde pritom o bežných hackerov, ale má ísť o súkromné spoločnosti a výskumníkov, ktorí chcú schopnosti Gemini skopírovať nelegálne. Ako uviedol portál NBC News, nedávno útočníci použili viac ako 100-tisíc výziev, ktoré sa týkali klonovania tohto chatbota.
Gemini terčom útokov
V správe, ktorú zverejnil Google pred pár dňami, uviedol, že Gemini sa čoraz častejšie stáva terčom tzv. destilačných útokov. Ide o zadávanie opakujúcich sa otázok, ktorých cieľom je prinútiť chatbota prezradiť svoje interné fungovanie.
Google takúto aktivitu považuje za extrakciu modelu, pri ktorej hrozí, že útočníci získajú informácie na vybudovanie vlastnej umelej inteligencie. Pri dopytoch sa hackeri zameriavajú na skúmanie systému a v odpovediach hľadajú vzorce či logiku.
Údajne útočia súkromné spoločnosti
Google si myslí, že za týmito rozsiahlymi útokmi stoja viaceré súkromné spoločnosti. Ich cieľom je získať konkurenčnú výhodu. Spoločnosť však nešpecifikovala, o aké firmy by malo ísť, no tvrdí, že útoky pochádzajú prakticky zo všetkých kútov sveta.
Rozsah útokov na Gemini naznačuje, že s najväčšou pravdepodobnosťou sú alebo čoskoro budú bežné aj proti vlastným nástrojom umelej inteligencie menších spoločností, uviedol John Hultquist, hlavný analytik skupiny Threat Intelligence Group spoločnosti Google.
Krádež duševného vlastníctva
Vytvorenie kvalitnej umelej inteligencie so sebou prináša roky tvrdej práce. Zdá sa však, že súkromné spoločnosti sa chcú k AI dostať skratkou. Aj preto Google uviedol, že destiláciu považuje za krádež duševného vlastníctva. Do vývoja AI tečú miliardy dolárov a jedna spoločnosť predbieha druhú v tom, kto vytvorí užitočnejšiu AI.
Prečítajte si tiež
Gemini sa v hľadáčiku hackerov neocitla sama
Ako podotkol portál NBC News, Gemini nie je jediná, ktorú sa útočníci snažia kopírovať. Na pozore sa musí mať aj konkurenčný chatbot ChatGPT od spoločnosti OpenAI. Táto spoločnosť vlani obvinila svojho čínskeho rivala DeepSeek z destilačných útokov, ktorých cieľom bolo vylepšiť vlastné modely AI. Všetko nasvedčuje tomu, že boj k lepšiu umelú inteligenciu sa postupne vyostruje.
Útočníci chceli odhaliť algoritmy Gemini
Ako doplnila spoločnosť Google, mnohé z útokov, ktoré zaznamenala v ostatnom období, boli navrhnuté tak, aby odhalili algoritmy. Útočníci chceli vedieť, čo pomáha Gemini „rozumieť“ alebo sa rozhodnúť, ako spracuje informácie. Google tiež dodal, že stále viac spoločností navrhuje vlastné LLM systémy, no a tie sú trénované na potenciálne citlivých údajoch. Aj preto sa tieto systémy stávajú zraniteľnými voči podobným typom útokov.
Veľkí technologickí giganti tak budú musieť investovať peniaze nielen do vývoja a udržiavania svojich modelov, ale aj do ochrany, aby ich niekto neoprávnene nezneužil vo svoj prospech.
