Inteligentné okuliare Meta Ray-Ban si získali milióny fanúšikov po celom svete, a to vďaka širokému spektru možností, ktoré prináša kombinácia hands-free technológie a umelej inteligencie. V pozadí sa však deje niečo strašidelné, o čom mnohí užívatelia ani len netušia. Ako upozorňuje server 9to5Mac, videozáznamy zachytené okuliarmi majú byť odosielané na manuálne spracovanie k subdodávateľom spoločnosti Meta, ktorí pôsobia v Keni. Problémom je, že tento obsah zahŕňa aj citlivé materiály, od záberov ľudí na toalete a pri sexe až po informácie o bankových kartách. Pôvodne na to upozornil švédsky magazín Svenska Dagbladet.
Pracovníci spoločnosti Sama, spomenutého kenského subdodávateľa, ktorú Svenska Dagbladet kontaktoval, opisujú svoju prácu ako hlboko znepokojujúcu. Ako píše gigazine.net, jeden z anotátorov priamo uviedol, že “vidia všetko”. Priznal, že videl záznamy nahých partnerov a intímnych chvíľ, pričom dotknuté osoby nemali potuchy, že sú nahrávané. Dokonca dodal, že ak by sa zverejnila čo i len časť obsahu, ktorý sa k nim dostáva každý deň, vznikol by obrovský škandál.
Ako okuliare zbierajú videá?
Meta Ray-Ban zachytávajú video dvomi spôsobmi. Prvý je asi každému jasný: používateľ stlačí tlačidlo a zaháji tak nahrávanie. Druhým spôsobom je AI funkcia, ktorá používateľovi odpovedá na otázky o tom, čo práve vidí. Je pritom všeobecne známe, že AI spracovanie prebieha na serveroch Mety, čo si (logicky) vyžaduje odosielanie záznamu.
Problém podľa zistení spočíva v tom, že záznamy sa posielajú na ľudskú kontrolu nielen pri využívaní AI funkcie, ale zrejme aj pri bežnom, respektíve manuálnom nahrávaní. Aby toho nebolo málo, je stále nejasné, ako dlho tieto okuliare po položení otázky pokračujú v odosielaní záberov na servery. Je to 5 sekúnd? 10 sekúnd? 30 sekúnd? Nikto nevie. A práve absencia transparentnosti je podľa autorov správy jedným z najväčších problémov celého systému.
Algoritmy zlyhávajú, filtre nefungujú
Podľa vyjadrení bývalých zamestnancov by citlivý obsah v zásade nemal byť posielaný na ľudskú kontrolu. A keď už, tak spoločnosť disponuje algoritmami, ktoré dokážu automaticky rozpoznať a zablokovať chúlostivé materiály ešte pred tým, ako sa dostanú k ľudskému anotátorovi.
Prax je však iná. Algoritmus na rozmazávanie tvárí a tiel zlyháva pri slabom osvetlení, takže kenskí pracovníci často vidia úplne všetko.
Portál dig-watch zároveň upozorňuje, že táto kauza nie je prvým varovným signálom. BBC ešte minulý rok informovala o prípade, kedy okuliare Meta zachytili ženu bez jej súhlasu, čo rozpútalo širšiu debatu o estetike nositeľných kamier. V roku 2024 zase dvaja študenti Harvardskej univerzity demonštrovali, ako možno pomocou okuliarov a AI nástrojov v reálnom čase identifikovať ľudí na ulici, vrátane ich mien, adries a telefónnych čísel, píše Forbes.
Neprehliadnite
Podmienky sú nezrozumiteľné
Keď Svenska Dagbladet požiadal Metu o bližšie vysvetlenie fungovania zariadenia, spoločnosť ukázala prstom na svoje podmienky používania a zásady ochrany súkromia. V tých stojí formulácia, že “v niektorých prípadoch Meta preskúma vaše interakcie s AI, vrátane obsahu vašich konverzácií, pričom toto preskúmanie môže byť automatické alebo manuálne (ľudské).” Je to veľa slov, ktoré však v podstate nedávajú zmysel, keďže vôbec nevysvetľujú skutočný rozsah zdieľania dát.
Podmienky sú tak podľa odborníkov vágne a neposkytujú odpovede na viacero základných otázok, napríklad ako dlho Meta záznamy uchováva, kto k nim má prístup a aké záruky existujú voči ich zneužitiu. Ani kenská Sama na otázky v tomto ohľade neodpovedala.
Postavenie GDPR
Problém sa potom ešte väčšmi prehlbuje, ak do rovnice zahrnieme aj európsku legislatívu. Experti upozorňujú, že prenos osobných údajov vrátane videozáznamov do tretích krajín, akou je práve Keňa, podlieha prísnym požiadavkám GDPR. Európske nariadenie o ochrane osobných údajov jasne vyžaduje, aby krajina prijímajúca dáta zaručovala primeranú úroveň ochrany. Podozrenie, že Sama tieto podmienky nespĺňa, je veľmi silné.
Portál kictanet.or.ke zároveň poukazuje na ešte jeden faktor, a to ten, že samotní kenskí pracovníci, ktorí sú každý deň vystavení cudzím intímnym záberom, pracujú bez adekvátnej psychologickej podpory a pod prísnymi doložkami o mlčanlivosti, ktoré im bránia o svojich skúsenostiach hovoriť s okolitým svetom.
S predajom rastie riziko
Napokon treba zdôrazniť, že ide o problém, ktorého vážnosť stúpa spolu s tým, ako okuliare Meta Ray-Ban naberajú na popularite a generujú vyššie predaje. Pre lepšie porozumenie, predaj okuliarov v roku 2025 zaznamenal trojnásobný nárast, teda na 7 miliónov kusov.
Logicky, čím viac ľudí tieto okuliare nosí, tým väčší objem citlivých záberov putuje na servery Mety a odtiaľ pravdepodobne k anotátorom v Keni.
