Google musí riešiť veľmi nepríjemný bezpečnostný škandál, o ktorom mlčal celé mesiace. Jeho umelá inteligencia Gemini počas bezpečnostného testovania akosi zabudla na hranice vymedzeného virtuálneho pieskoviska, získala neplánovaný prístup na internet a samostatne napadla systémy troch firiem.
Google sa tak zaradil na čoraz dlhší zoznam technologických lídrov, ako sú OpenAI, Anthropic či Meta, ktorých modely zlyhali v rámci bezpečnostných previerok tretích strán a “ušli” na internet.
Ako píše Android Central, o incidente pôvodne informoval denník The Wall Street Journal. Udalosť sa odohrala počas bezpečnostného cvičenia typu „capture the flag“, ktoré organizovala špecializovaná bezpečnostná spoločnosť Irregular. Úlohou Gemini bolo preveriť zabezpečenie fiktívnej spoločnosti v striktne izolovanom a uzavretom prostredí.
V dôsledku technickej chyby však model získal pripojenie k internetu. Situáciu navyše skomplikoval fakt, že fiktívna firma, ktorá bola vytvorená pre potreby testu, niesla zhodný názov s podnikom, ktorý naozaj existuje, čo vytvorilo vynikajúci predpoklad na takzvanú zámenu cieľov.
Nič zložité
Akonáhle sa Gemini dostala na otvorenú sieť, našiel si cestu do interných systémov troch reálnych komerčných firiem. O prienik sa postarala úplne autonómne, teda bez toho, aby jej kroky priamo riadil ľudský operátor. Na prekonanie zabezpečenia pritom nepotrebovala žiadne miniatúrne zraniteľnosti či zložité hackerské metódy. Namiesto toho skombinovala základné bezpečnostné slabiny so schopnosťou vyhľadávať informácie, samostatne sa rozhodovať a vytrvalo skúšať rôzne kombinácie.
V prvom prípade systém jednoducho opakovane hádal prístupové heslá tak dlho, kým sa mu nepodarilo prihlásiť. Pri ďalších dvoch napadnutých firmách prehľadal verejne dostupné repozitáre, kde našiel zabudnuté, no stále funkčné prihlasovacie údaje. Tieto heslá a prístupy následne použil na to, aby sa dostal do chránených firemných systémov.
Google incident tajil
Podľa oficiálneho vyjadrenia Google sa Gemini sám zastavil vo chvíli, keď si uvedomil, že napadnuté ciele sú v skutočnosti reálne firmy, pričom v systémoch nespôsobil žiadne škody. Google v tejto súvislosti poukázal na rozdiel oproti konkurenčnému modelu Claude 4.7 od Anthropicu, ktorý pri podobnom incidente pokračoval v činnosti. Gemini sa vraj stiahol z vlastnej vôle.
Zasiahnuté organizácie boli o narušení informované, no Irregular uvádza, že technické problémy zistené pri testovaní boli opravené až o niekoľko týždňov neskôr.
Gigant v čase incidentu usúdil, že udalosť si nevyžaduje verejné oznámenie, keďže model svoju chybu sám korigoval a zastavil sa. Nezávislí výskumníci tretích strán sa však o incidente dozvedeli až koncom júla, pričom na verejnosť sa dostáva až teraz, po nátlaku novinárov.
Toto je tak ďalší z mnohých incidentov, ktorý znovu otvára otázku bezpečnosti autonómnych AI agentov. S tým, ako tieto systémy získavajú čoraz širší prístup k počítačom a celosvetovej sieti, spoločnosti budú musieť nastaviť omnoho prísnejšie hranice pre ich dosah a pripraviť jasné pravidlá pre prípady, kedy bezpečnostné mechanizmy zlyhajú.
