Nová štúdia analytickej spoločnosti Gartner varuje organizácie pred používaním prehliadačov s umelou inteligenciou (AI). Takéto prehliadače údajne predstavujú v súčasnosti príliš vysoké bezpečnostné riziko. V správe od analytikov sa konštatuje, že predvolené nastavenia týchto prehliadačov uprednostňujú používateľskú skúsenosť pred bezpečnosťou. Téme sa venoval portál The Register.
Analytici zadefinovali prehliadače s AI. Patria k nim napríklad Comet od spoločnosti Perplexity alebo ChatGPT Atlas od OpenAI. Zároveň objasnili, prečo ich považujú za rizikové.
Nebezpečné prehliadače s AI
Za sporné označili bezpečnostní analytici najmä dve funkcie týchto nástrojov. Patria k nim tieto.
- Bočný panel s AI: Ponúka používateľom funkcie ako sumarizácia, vyhľadávanie, preklad a interakcia s webovým obsahom prostredníctvom cloudových AI služieb poskytovaných vývojárom prehliadača.
- Funkcia agentových transakcií: Umožňuje prehliadaču samostatne sa pohybovať po webových stránkach, vykonávať interakcie a dokončovať úlohy, čo je obzvlášť rizikové v rámci overených webových relácií.
Gartner varuje, že bočné panely AI spôsobujú, že citlivé používateľské dáta (vrátane aktívneho obsahu webu, histórie prehliadania a otvorených kariet) sa často odosielajú do cloudového back-endu AI. To výrazne zvyšuje riziko úniku dát, ak nie sú bezpečnostné a súkromné nastavenia cielene posilnené a centrálne spravované.
Riziká schopností agentov
Obavy analytikov sa stupňujú v súvislosti so schopnosťami niektorých takzvaných agentných prehliadačov. Agent dokáže vykonávať niektoré úkony namiesto používateľa, čím mu šetrí čas. Tie sú ale náchylné na:
- Nepriame akcie agentov vyvolané vložením promptu.
- Chybné akcie spôsobené nepresným uvažovaním.
- Strata a zneužitie poverení, ak sa AI prehliadač nechá oklamať a autonómne prejde na phishingovú stránku.
Analytici zároveň upozorňujú na možné zneužitie zo strany zamestnancov, ktorí by mohli byť v pokušení nechať prehliadače s AI automatizovať povinné, opakujúce sa a menej zaujímavé úlohy. Uvádzajú napríklad, že by agent mohol absolvovať povinné školenia v oblasti kybernetickej bezpečnosti za zamestnanca.
Problém najmä v podnikoch
Ďalšími scenármi zneužitia je vystavenie agentov interným nástrojom pre obstarávanie. Tu by chyby v LLM (veľkých jazykových modeloch) mohli spôsobiť, že organizácie nakúpia nechcené alebo nepotrebné položky. Analytici uvádzajú príklady, ako je vyplnenie formulára nesprávnymi informáciami, objednanie nevhodných kancelárskych potrieb alebo rezervácia nesprávneho letu.
Ako zmierniť riziko prehliadačov s AI?
Gartner navrhuje dve hlavné riešenia. Organizácia môže najprv posúdiť back-endové AI služby poháňajúce prehliadač, aby zistila, či ich bezpečnostné opatrenia predstavujú prijateľné riziko. Ak je back-end schválený, je nevyhnutné oboznámiť používateľov, že všetko, čo prezerajú, sa môže odoslať do back-endu AI. Zamestnanci musia byť poučení, aby nenechali aktívne vysoko citlivé údaje na karte prehliadača, keď používajú bočný panel AI na sumarizáciu alebo iné autonómne akcie.
Ak sa však back-endová AI vyhodnotí ako príliš riskantná, Gartner odporúča používateľom zablokovať sťahovanie a inštaláciu týchto prehliadačov. Pre zmiernenie rizika by mali organizácie zabezpečiť, aby agenti nemohli používať e-mail, čo by obmedzilo ich akčné možnosti. Rovnako odporúča nastaviť prehliadače tak, aby neuchovávali žiadne dáta.
Analytici zdôrazňujú, že používanie prehliadačov s AI bez predchádzajúceho posúdenia rizík je príliš nebezpečné. Varovanie sa týka zatiaľ len firiem a inštitúcií, ale podobne aj citlivé údaje bežných používateľov môžu byť v ohrození.
