Meta predstavila nový nástroj umelej inteligencie, ktorý dokáže odhadnúť vek používateľov sociálnych sietí Instagram a Facebook na základe vizuálnych indikátorov v ich fotografiách a videách, vrátane výšky postavy a kostrovej štruktúry. Gigant týmto krokom pristupuje k prísnejšej ochrane maloletých v online priestore a zároveň reaguje na čoraz väčší regulačný tlak zo strany Európskej komisie i vlád ďalších krajín.
Ako Meta deteguje falošný vek?
Server Gadgets360, odvolávajúc sa na príspevok z Meta’s newsroom, uvádza, že nový systém nie je technológiou rozpoznávania tvárí a neidentifikuje konkrétne osoby. Namiesto toho analyzuje vizuálne témy a kontextové vodítka obsiahnuté v príspevkoch používateľa, vrátane výšky, kostrovej štruktúry, ale aj titulkov, životopisov, komentárov a obsahu, s ktorým daný účet interaguje.
Systém teda kombinuje dve vrstvy analýzy: vizuálnu a kontextovú, pričom k záveru o veku dospeje až po ich vzájomnom porovnaní.
Podľa existujúcich pravidiel Mety nikto mladší ako 13 rokov nesmie používať Facebook ani Instagram. Tínedžeri vo veku 13 až 17 rokov sú automaticky zaradení do tzv. Teen Accounts, teda špeciálneho režimu s prísnejšími nastaveniami súkromia, obmedzeným obsahom a zvýšenou rodičovskou kontrolou. Problémom však bolo, čo asi vieme úplne všetci, že mladí používatelia mohli pri registrácii jednoducho zadať falošný dátum narodenia, čím celý ochranný mechanizmus jednoducho obišli.
A práve túto bezpečnostnú medzeru má vyplniť nový vizuálny AI nástroj. Ak systém na základe analýzy dospeje k záveru, že účet s dospelým dátumom narodenia pravdepodobne patrí mladistvému, automaticky ho preradí do režimu Teen Account. Samozrejme, používateľ má možnosť sa voči tomuto rozhodnutiu odvolať, no v takom prípade bude musieť preukázať svoj vek predložením dokladu totožnosti. Pre dospelých, ktorí budú chybne identifikovaní ako mladiství, to môže byť len zbytočná oštara. Mladiství však nebudú mať akúkoľvek páku. Niečo za niečo.
EÚ aj Brazília
Okrem nového vizuálneho AI nástroja Meta zároveň rozširuje geografické pokrytie systému automatickej detekcie tínedžerov. Technológia, ktorá doteraz fungovala na Instagrame v Spojených štátoch, Austrálii, Kanade a Spojenom kráľovstve, sa po novom rozširuje o všetkých 27 členských štátov Európskej únie a Brazíliu. Okrem toho Meta po prvý raz nasadzuje rovnaké ochranné mechanizmy aj na platformu Facebook v USA, pričom krajiny EÚ a Spojené kráľovstvo na túto novinku počkajú do leta tohto roka, konkrétnejšie do júna.
Meta vo svojom vyhlásení podľa RTE zdôraznila, že systém doteraz úspešne zaradil do Teen Accounts milióny účtov v krajinách, kde bol nasadený. Nová vlna rozširovania je teda logickým ďalším krokom na základe overených výsledkov z takzvaných pilotných trhov.
Nátlak z Bruselu
Načasovanie tohto oznámenia rozhodne nie je náhodné. Aktuality informovali, že koncom apríla Európska komisia vydala predbežné zistenia, podľa ktorých Meta porušuje nariadenie o digitálnych službách (DSA), pretože dostatočne nebráni deťom mladším ako 13 rokov v prístupe na Instagram a Facebook. Komisii sa existujúce opatrenia zdajú neúčinné, a to hlavne kvôli spomínanej obchádzke, kedy dieťa pri zakladaní účtu jednoducho zadá falošný vek.
Ak by sa predbežné zistenia potvrdili v rámci vyšetrovania, firme hrozí pokuta až do výšky šesť percent z jej globálneho obratu, čo nie je málo peňazí. Meta so závermi komisie nesúhlasí. Hovorca tvrdí, že spoločnosť si je plne vedomá vekovej hranice 13 rokov a že má zavedené opatrenia na identifikáciu a odstraňovanie príslušných účtov. Nové oznámenie o rozširovaní AI detekcie možno vnímať aj ako snahu demonštrovať regulátorom konkrétne kroky predtým, ako sa zhodnú na finálnom verdikte.
Neprehliadnite
Obavy o súkromie a presnosť
Napriek pochopiteľnému cieľu (ochrana detí) nová technológia vyvoláva otázky o súkromí a spoľahlivosti. Meta síce uvádza, že urobila všetko pre to, aby bol systém maximálne presný, no zároveň realisticky počíta s tým, že môže dôjsť k chybám. A práve preto existuje možnosť napadnutia rozhodnutia.
Gulf News upozorňuje, že účty, ktoré systém vyhodnotí ako podozrivé, môžu byť pozastavené až do overenia veku prostredníctvom oficiálneho dokladu. Práve toto je citlivý bod: dospelí používatelia, ktorých systém nesprávne označí za tínedžerov, budú musieť preukázať svoju totožnosť, čo nie každý bude ochotný spraviť.
Meta nie je jediná
A nie, Meta v tejto šlamastike rozhodne nie je sama, teda nie je jedinou firmou, ktorá čelí stupňujúcemu sa tlaku v oblasti ochrany detí na internete. Austrália nedávno prijala zákon, ktorý zakazuje deťom mladším ako 16 rokov používanie sociálnych sietí, pričom Meta potvrdila, že jej AI nástroje budú hrať úlohu aj pri vymáhaní týchto obmedzení.
Podobné diskusie prebiehajú v krajinách EÚ, kde Zákon o digitálnych službách stanovuje platformám jasné povinnosti voči maloletým používateľom. Pochopiteľne, aj Meta musí tieto požiadavky brať do úvahy a adekvátne na ne reagovať.
