Spoločnosť Meta potajomky nasadila nástroj na sledovanie vlastných zamestnancov. A možno by v tom pokračovala dodnes, keby jej na to neprídu. Rozhodne pritom nešlo o občasné nakukávanie cez kamery. Išlo o komplexný program, ktorá zaznamenával stlačenia klávesov, pohyby myšou, ako aj to, čo sa objavovalo na obrazovkách. Týkalo sa to tisícov pracovníkov na území Spojených štátov.
Meta musela v týchto dňoch urýchlene pozastaviť kontroverzný program určený na sledovanie svojich vlastných pracovníkov. Toto rozhodnutie vydala po tom, čo došlo k vážnemu bezpečnostnému incidentu. Monitorovací nástroj totiž neúmyselne odkryl citlivé a súkromné dáta zamestnancov celej korporácii. Na incident upozornil portál Wired.
Samotný monitorovací systém niesol názov Model Capability Initiative a vedenie firmy ho v tichosti spustilo v apríli tohto roka. Nástroj bol bez riadneho upozornenia nasadený na pracovných počítačoch zamestnancov v Spojených štátoch. Softvér mal za úlohu nepretržite zhromažďovať informácie o stlačených klávesoch, pohyboch myši a kompletne snímať všetok obsah na obrazovkách.
Prečo by firma takto špehovala svojich zamestnancov? Meta má odpoveď. Vraj to robila len kvôli tomu, aby zefektívnila svoju umelú inteligenciu. Nazbierané dáta mali pomôcť naučiť nové AI systémy, ako ľudia používajú počítačový softvér. Vedenie firmy sa pokúsilo hájiť argumentom, že kmeňoví zamestnanci sú ten najlepší možný zdroj kvalitných tréningových dát.
No so svojím názorom boli skôr v menšine. Proti programu sa okamžite po odhalení zdvihla masívna vlna odporu priamo vo vnútri firmy. Viac ako 1 600 zamestnancov podpísalo internú petíciu, v ktorej ostro protestovali proti takémuto špehovaniu. Varovali, že plošné sledovanie so sebou nesie obrovské bezpečnostné a regulačné riziká.
Jeden z interných inžinierov otvorene uviedol, že neustále snímanie svojej obrazovky bez predchádzajúceho súhlasu je jednoznačné a hrubé narušenie osobného súkromia. Do situácie sa zapojil aj samotný šéf spoločnosti Mark Zuckerberg. V uniknutej nahrávke z internej porady obhajoval celý projekt s tým, že AI modely sa najlepšie učia vtedy, keď sledujú inteligentných ľudí pri práci. Tiež dodal, že kmeňový personál Mety dosahuje pri tomto type úloh výrazne lepšie výsledky než externí dodávatelia. Šéf firmy sa teda tak trochu snažil situáciu zmierniť komplimentom, no veľmi neuspel.
Tisícky citlivých tabuliek
Nátlak na okamžité ukončenie programu vyvrcholil po tom, čo interné bezpečnostné upozornenie potvrdilo obrovské zlyhanie systému. Kvôli technickej chybe sa začali naprieč firmou šíriť citlivé informácie z celkovo 45-tisíc databázových tabuliek. Súčasťou tohto masívneho úniku boli súkromné konverzácie zamestnancov, kompletné znenia zadávaných príkazov pre systémy, textové prepisy rozhovorov a podrobné údaje o pracovnom výkone jednotlivcov.
Onedlho na to do debaty prispel aj Tracy Clayton, hovorca Mety. Podľa jeho slov firma momentálne nemá žiadne priame dôkazy o tom, že by niekto k odhaleným dátam pristúpil neoprávneným spôsobom. Spoločnosť však napriek tomu program nateraz pozastavuje, a to dovtedy, kým sa celá záležitosť dôkladne nevyšetrí.
Zamestnanci okamžite zaplavili interné diskusné fóra ostrou kritikou voči vedeniu. Jeden z bývalých pracovníkov označil tento “prešľap” za obrovský chaos, ktorý samotní ľudia vo firme predpovedali už dlhšiu dobu. Technický riaditeľ Mety Andrew Bosworth na interných fórach priznal, že monitorovací program fatálne zlyhal pri plnení interných štandardov spoločnosti v rámci ochrany súkromia.
Opakované zlyhania okolo AI
Ďalším smutným faktom je, že pre Metu toto nie je prvý vážny incident spojený s rozvojom umelej inteligencie. Nový škandál prichádza len pár mesiacov po tom, čo interný AI agent začal vykonávať neautorizované operácie bez akéhokoľvek prikývnutia od operátorov. Ďalším vážnym problémom bolo odhalenie chyby v chatbote, ktorú dokázali zneužiť hackeri na to, aby získali plnú kontrolu nad cudzími účtami na Instagrame. Stačilo jednoducho poprosiť Meta AI, aby im poskytla prihlasovacie údaje. Tá bez odvrávania vyhovela.
Pozastavenie špionážneho softvéru môže podľa analytikov dočasne upokojiť napätú situáciu v tímoch. Vnútorná morálka zamestnancov je však už tak vážne naštrbená, a to nielen predošlými bezpečnostnými incidentmi, ale aj opakovanými vlnami masového prepúšťania a de facto neustálymi organizačnými zmenami.
Agresívne ambície vedenia Mety pokiaľ ide o AI, vystavujú trpezlivosť vlastných zamestnancov priveľkej skúške. Ak to takto bude pokračovať, je dosť možné, že sa jej to skôr či neskôr vypomstí.
