Meta oznámila ďalší veľký projekt, ktorý sa priamo dotkne v podstate všetkých používateľov jej služieb, predovšetkým sociálnych sietí Facebook a Instagram. Konkrétne potvrdila postupný predoch na pokročilé AI systémy, ktorých úlohou bude moderovať obsah na týchto platformách. Gigant zároveň potvrdil, že postupne obmedzí spoluprácu s externými dodávateľmi, ktorí doteraz zabezpečovali veľkú časť tejto práce, píše TechCrunch.
Táto zmena prichádza v čase, keď Meta čelí zvýšenému tlaku zo strany regulátorov aj súdov. A zároveň aj v čase, keď sa pokúša maximálne využiť obrovské investície do umelej inteligencie aj v rámci vlastných prevádzkových procesov.
Čo tieto systémy dokážu
Pokročilé AI systémy, ktoré Meta plánuje nasadiť, sú podľa vlastných slov spoločnosti podstatne efektívnejšie ako kombinovaná práca ľudských tímov a súčasných automatizovaných nástrojov.
V raných testoch dokázali odhaliť rovno dvakrát viac obsahu s nevhodným sexuálnym v porovnaní s ľudskými recenzentmi. Zvládli to pritom pri omnoho nižšej chybovosti. Tá klesla o viac ako 60 percent. Systémy sú tiež schopné identifikovať a blokovať falošné účty, ktoré sa vydávajú za celebrity a iné verejne známe osobnosti, čo je v mnohých prípadoch neškodné, no zároveň sa takto nezriedka realizujú zákerné útoky a podvody s cieľom okradnúť ľudí o dáta, peniaze alebo oboje naraz.
A keď už sme spomenuli podvody, Meta uvádza, že v tejto oblasti jej nové AI systémy dokážu zachytiť a zároveň neutralizovať okolo 5 000 pokusov o phishing, a to každý jeden deň. Ide o prípady, keď sa útočníci snažia oklamať používateľov a vylákať od nich prihlasovacie údaje.
Okrem toho je v ich právomoci rozpoznať podozrivé signály, akými sú prihlásenie z novej lokality, zmena hesla či náhle úpravy profilu, a na ich základe blokovať kradnutie účtov skôr, ako k nemu dôjde. CNBC v tejto súvislosti uvádza, že Meta historicky využívala na základnú moderáciu externých dodávateľov ako Accenture, Concentrix či Teleperformance. No ako sme spomenuli, keďže už má na to vlastné nástroje, a to zjavne celkom efektívne, očakáva sa, že tieto spolupráce budú v dôsledku prechodu na AI riešenia postupne obmedzované.
Znamená to koniec ľudských moderátorov?
Meta však zároveň zdôrazňuje, že prechod na AI neznamená úplné vypustenie ľudského faktora z procesu moderovania, čo je určite potešujúca správa. Umelá inteligencia, hoci v poslednom období zaznamenala neuveriteľný pokrok, stále nie je dokonalá.
Ľudskí experti budú naďalej zodpovední za návrh, trénovanie, dohľad a hodnotenie AI systémov. Živý úsudok tak zostane kľúčový pri tých najzložitejších a najvýznamnejších rozhodnutiach, napríklad pri odvolaniach voči vypnutiu účtov alebo pri prípadoch, ktoré sú postúpené orgánom činným v trestnom konaní.
AI bude preberať len tie typy práce, ktoré sú pre ľudí príliš časovo náročné alebo tie, ktoré technológia jednoducho zvládne rýchlejšie a efektívnejšie. Pôjde o opakované preverovanie grafického obsahu, sledovanie taktík rýchlo sa meniacich aktérov v oblasti nelegálneho predaja drog, ale aj reakcie na udalosti v reálnom čase, kde je rýchlosť reakcie rozhodujúci faktor.
Neprehliadnite
Ako vysvetlila Meta v príspevku na svojom blogu, cieľom je, aby technológia robila to, čo vie robiť najlepšie, a ľudskí moderátori sa mohli sústrediť na rozhodnutia, kde je ich úsudok skutočne nenahraditeľný. Portál RTE dôrazne pripomína, že celý prechod neprebehne naraz, ale sa bude odohrávať v priebehu niekoľkých rokov. Pôjde teda o postupný a dôkladne kontrolovaný proces, čo sa pri škále zmeny dá pochopiť.
Nový AI asistent pre užívateľov
Spolu so zmenami v moderovaní Meta oznámila aj spustenie AI podporného asistenta, ktorý je od štvrtka dostupný globálne v aplikáciách Facebook a Instagram pre iOS aj Android, ako aj v centre pomoci na desktopovej verzii oboch platforiem.
Asistent poskytuje nepretržitú podporu 24 hodín denne, 7 dní v týždni a pomáha riešiť bežné problémy, na ktoré používateľ môže naraziť, ako napríklad nahlasovanie podvodov, podvodných účtov alebo nevhodného obsahu, správu nastavení súkromia, zmenu hesla, prípadne zistenie dôvodu, prečo bol určitý obsah odstránený.
Podľa Bloombergu ide o súčasť širšej stratégie Mety, ktorá chce využiť AI nielen na zefektívnenie interných procesov, ale aj na zlepšenie užívateľskej skúsenosti priamo v jej produktoch. Nový asistent zároveň reaguje na dlhodobé sťažnosti používateľov, ktorí mali problém dostať sa k ľudskej podpore pri riešení problémov s účtom. AI asistent by mal dokázať vyriešiť väčšinu bežných prípadov promptne, respektíve okamžite.
Meta sa posúva vpred
Meta začiatkom minulého roka ukončila spoluprácu s nezávislými fact-checkermi a nahradila ju modelom Community Notes, systémom podobným tomu, ktorý používa platforma X (predtým Twitter) Elona Muska, kde samotní používatelia pridávajú kontextové poznámky k potenciálne zavádzajúcim príspevkom.
Generálny riaditeľ spoločnosti Mark Zuckerberg vtedy vyhlásil, že fact-checkeri boli „príliš politicky zaujatí“ a že nastal čas vrátiť sa ku koreňom slobodného prejavu. Ako informovala BBC, Meta zároveň uvoľnila pravidlá pre tematické oblasti, ktoré považuje za súčasť bežnej verejnej diskusie.
Tento posun bol v médiách aj akademickej sfére ostro kritizovaný. Výskumníci organizácie ISD, ktorá sa zaoberá digitálnymi hrozbami, upozornili, že Community Notes trpí vážnym systémovým paradoxom: práve vlastnosti, vďaka ktorým je transparentný a dôveryhodný, obmedzujú jeho účinnosť pri potláčaní polarizujúceho obsahu s vysokým dosahom.
Nové AI systémy pre presadzovanie “nových” pravidiel pritom prichádzajú v čase, keď Meta čelí viacerým žalobám kvôli ochrane detí a mladých používateľov na svojich platformách. Bude teda musieť riadne preukázať, že jej nová metodika v rámci moderovania funguje. A zrejme to je dôvod, prečo bude nasadenie AI trvať roky, nie týždne či mesiace. Všetko jednoducho musí byť tip-top.
Zmena na trhu práce
Rozhodnutie znížiť závislosť od externých dodávateľov však má aj pracovnoprávny rozmer. Tisíce moderátorov obsahu, ktorí pracujú pre firmy ako Accenture, Concentrix a Teleperformance, vykonávajú psychicky náročnú prácu za relatívne nízke mzdy. No stále je to práca, ktorá živí mnohé rodiny. A žiaľ, práve títo pracovníci sú teraz potenciálne ohrození automatizáciou.
Meta zatiaľ nezverejnila konkrétne čísla, koľko externých pracovných miest si prechod na AI vyžiada. No keďže bude prechod postupný, je šanca, že uvedené firmy budú schopné priebežne presunúť zamestnancov na iné pozície, aby ich nemuseli okamžite vyhodiť. Znovu ale treba pripomenúť, že počas nasledujúcich rokov budú interné AI systémy nasadzované len tam, kde preukázateľne prekonajú súčasné metódy. V konečnom dôsledku tak nemusí prísť o prácu nikto, hoci to môže byť príliš optimistický scenár.
