Keď sa povie slovo “Meta”, väčšine sa okamžite vybaví Facebook, Instagram a WhatsApp. Určite sa však nájde aj nemálo takých, ktorým prídu na rozum početné kontroverzie, hlavne čo sa týka prístupu k súkromiu používateľov či nových funkcií na jej platformách. V posledných dňoch však spravila rozhodnutie, za ktorú ju treba pochváliť. Hoci to nepovedala na plné ústa, uznala chybu a odstránila funkcionalitu, ktorá všetkým poriadne liezla na nervy. A čo je ešte prekvapujúcejšie, ide o AI funkcionalitu.
Išlo o nástroj, ktorý spoločnosť predstavila len začiatkom minulého týždňa v rámci balíka ďalších AI vylepšení. A v čom bol problém? Nástroj umožňoval ľuďom upravovať a pretvárať fotografie. Samozrejme, to by samo osebe problém nebol, no skutočnosť, že takto bolo možné upravovať fotografie zo všetkých verejných účtov, už áno.
Podľa oficiálneho vyjadrenia Mety táto novinka jednoducho „minula cieľ“ a po masívnej vlne kritiky sa rozhodla, že ju vyradí z prevádzky, píše TechCrunch. Pre používateľov, ktorí si úzkostlivo strážia svoje online súkromie, je to mimoriadne dôležité víťazstvo. Zdá sa byť malé, no v skutočnosti je to naopak. O tom ale viac trochu neskôr.
Pre lepší kontext, celý škandál sa začal predstavením nového generátora obrázkov s názvom Muse Image. Za týmto modelom stojí špecializovaná divízia Meta Superintelligence Labs, ktorá sa zameriava na vývoj pokročilej umelej inteligencie. Meta pri vydaní vehementne propagovala funkciu, vďaka ktorej mohli používatelia generovať nové vizuály tak, že v príkazoch jednoducho označili verejné instagramové účty, z ktorých chceli čerpať vizuálnu predlohu.
Čerešničkou na torte bolo, že systém nebol navrhnutý tak, aby pôvodného majiteľa fotiek akokoľvek upozornil na to, že jeho tvár či zábery slúžia ako palivo pre niečiu AI tvorbu. Reakcia verejnosti bola okamžitá a plná hnevu, pričom viaceré tech portály okamžite vydali návody, ako si túto funkciu v nastaveniach preventívne zablokovať.
Strach zo zneužitia
To, čoho sa ľudia báli najviac, bolo riziko nekalého zneužitia. A úprimne, tieto obavy boli absolútne opodstatnené. Odkedy sa umelá inteligencia masovo integrovala do sociálnych sietí, čelíme nekontrolovateľnému trendu deepfake obsahu a upravovania fotografií bez súhlasu dotknutých osôb.
Hoci sa platformy snažia nasadzovať rôzne bezpečnostné bariéry, tie v praxi opakovane zlyhávajú. Pri nástroji od Mety bolo viac než jasné, že by sa stal zbraňou pre internetových trollov a záškodníkov. Tlak na jej zrušenie preto neprišiel len od bežných ľudí, ale aj od vplyvných talentových agentúr, vrátane giganta CAA, ktorý zastupuje známe celebrity a umelcov.
Užitočný nástroj, ktorý sa vymkol kontrole
Meta nakoniec tlaku verejnosti podľahla v rekordne krátkom čase a v piatok vydala oficiálne vyhlásenie na svojom blogu, v ktorom potvrdila definitívny koniec tohto experimentu. Spoločnosť v ňom obhajuje svoje pôvodné zámery s tým, že chcela ľuďom priniesť užitočný kreatívny nástroj a zároveň im dať plnú kontrolu nad tým, či môže byť ich verejný obsah takto využívaný.
Spätná väzba od komunity však bola natoľko nepriateľská, že vývojári museli zaradiť spiatočku. Hoci stále čakáme na dodatočné detaily a hlbšie vysvetlenie priamo od hovorcov Mety, jedno je isté. Táto rýchla stopka ukazuje, že ani najväčšie sociálne siete si dnes nemôžu dovoliť úplne ignorovať hlasy volajúce po ochrane súkromia a autorských práv.
A v tom sa dostávame k tomu širšiemu efektu, ktorý sme spomenuli na začiatku tohto článku. AI dnes hýbe svetom, nakoľko predstavuje obrovský potenciál. Dokáže zjednodušiť či dokonca úplne zrušiť rutinné úlohy, optimalizovať náročné procesy, šetriť čas aj peniaze. To všetko sú super veci, no treba si uvedomiť, že AI je niečo ako oheň. Dobrý sluha, ale zlý pán.
AI treba kontrolovať a regulovať. Firmy, vrátane sociálnych sietí, to síce vedia, no často sa to rozhodnú prehliadať. Nasadzujú AI vo veľkom len s jednou vidinou, a to vidinou zisku, čo je chyba. Mnohé z nich stále žijú v domnienke, že čím viac AI, tým lepšie. Postupne sa ale začína u verejnosti formovať akýsi odboj, ktorý žiada, aby sa giganti so šírením AI čo najskôr ukľudnili a pridávali ju len tam, kde má naozaj prínos, teda kde nemôže škodiť.
Sťažnosti používateľov na nový nástroj od Mety je jasný dôkaz toho, že ľudia majú v tomto smere určené hranice. A keď ich nejaká firma prekročí, príde reakcia. Meta sa popálila, čo je aj dobre, pretože to môže znamenať, že do budúcna bude pri takýchto experimentoch oveľa opatrnejšia a ohľaduplnejšia voči tomu, čo si každý musí na internete strážiť najviac, teda súkromiu a bezpečiu. A pevne veríme, že tento jej posledný výstrelok bude jasným odstrašujúcim príkladom aj pre konkurenčné firmy, ktoré plánovali či plánujú niečo podobné.
