Meta v poslednom období rieši de facto jeden škandál za druhým. A teraz sa k nim pridáva ďalší. Do centra pozornosti odbornej verejnosti aj používateľov sa po novom dostal nástroj Muse Image, ktorý dokáže generovať obrázky s využitím fotiek, ktoré majú ľudia verejne zavesené na svojich profiloch. Nielenže je tento nástroj priamo od Mety, ale na čerpanie z vašich fotiek nepotrebuje váš priamy súhlas, píše BBC.
Tento softvér patrí do kategórie generátorov, ktoré dokážu vytvoriť hotový obraz iba na základe jednoduchého textového promptu. Problémom však je, že táto umelá inteligencia dokáže do novo vytvorených obrázkov zakomponovať tváre reálnych ľudí. Ako sme spomenuli, využíva na to fotografie iných používateľov bez toho, aby ich o tom vopred akokoľvek informovala. Nástroj je momentálne dostupný pre používateľov v Spojených štátoch, a to prostredníctvom samostatnej aplikácie Meta AI, webového prehliadača. Tiež je integrovaný vo WhatsAppe či Instagram Stories.
Nikto nechápe, čo si Zuckerberg predstavoval
Pochopiteľne, reakcia obhajcov súkromia na seba nenechala dlho čakať. Donald Campbell z neziskovej organizácie Foxglove, ktorá sa zaoberá spravodlivosťou v technologickej sfére, označil novinku za recept na katastrofu. Upozornil, že len za uplynulý rok sme boli svedkami celej plejády škôd, ktoré spôsobili upravené AI obrázky, ktoré vznikli bez súhlasu dotknutých osôb. Podľa jeho slov je takmer nemožné pochopiť, ako Mark Zuckerberg, šéf Mety, dospel k názoru, že uľahčenie tohto procesu je dobrý nápad.
K problematike sa vyjadrila aj organizácia Privacy International. Tá tvrdí, že ide o najnovší dôkaz toho, ako AI firmy vnímajú obrázky a osobné dáta ľudí len ako surovinu na bezohľadné vykorisťovanie. Aj na sieti X sa hromadia kritické príspevky od nahnevaných ľudí. Tí označujú zaťahovanie nič netušiacich používateľov do vygenerovaných fotiek bez ich súhlasu za nebezpečný zásah do súkromia.
Regulátori zrejme sprísnia dohľad
Vzhľadom na to, ako veľmi kontroverzná je nová funkcia Mety, je vysoká pravdepodobnosť, že sa bude “tešiť” zvýšenej pozornosti zo strany štátnych úradov, respektíve regulačných orgánov. Obavy z AI obrázkov sa postupne kopia, a to nielen v súvislosti s príliš benevolentným prístupom niektorých gigantov, ale aj v súvislosti s tým, že samotné AI modely dokážu čoraz častejšie generovať obrázky na nerozoznanie od skutočných fotiek.
Konkrétne britský regulačný úrad Ofcom už v tejto súvislosti vyšetruje konkurenčnú sociálnu sieť X. Toto vyšetrovanie sa týka úlohy AI modelu Grok pri vytváraní a zdieľaní umelo upravených fotografií reálnych ľudí bez ich súhlasu, teda de facto toho istého, čím sa po novom previnila Meta.
Tá sa bráni tým, že pre používateľov pripravila nastavenie, ktoré je úplne oddelené od bežných ovládacích prvkov súkromia účtu. To používateľom dovoľuje odmietnuť používanie ich fotiek, a to aj v prípade, že majú nastavený profil ako verejný. Ak tak chcú urobiť, musia otvoriť menu nastavení, následne prejsť do sekcie Zdieľanie a opätovné použitie. Tam je potrebné úplne vypnúť možnosť, ktorá povoľuje ľuďom používať obsah na Instagrame a s funkciami AI od spoločnosti Meta.
Tieto voľby sa zobrazujú výhradne majiteľom verejných účtov. Pokiaľ máte svoj profil nastavený ako súkromný, vaše fotografie systém automaticky nedovoľuje zdieľať, a teda ani zneužívať.
Čoskoro aj inde
Trh s textovo-obrazovými generátormi je dnes plný konkurencie. Meta teda vstupuje do celkom náročného prostredia. Spôsob, akým dokáže využiť dáta z Instagramu, je však pre ňu niečo ako eso v rukáve. Testy softvéru ukazujú, že Muse AI dokáže na povel vytvoriť napríklad realistickú fotku používateľa, ako sedí za volantom auta. Gigant v oficiálnom blogu uviedol, že nástroj využíva pokročilé logické uvažovanie. Vďaka tomu dokáže pochopiť aj komplexné zadania a hladko zmiešať viacero fotografií do výsledných výtvorov, a to ešte k tomu v celkom vysokej kvalite. Tie sa dajú následne stiahnuť a zdieľať kdekoľvek na internete.
Používatelia majú k dispozícii aj rôzne predvoľby a navrhované textové zadania ako inšpiráciu. Úpravy je možné dokonca načrtnúť priamo na samotné obrázky. No hoci je tento nástroj na každodenné bežné používanie úplne zadarmo, Meta myslí aj na biznis. Pre náročnejších používateľov, ktorí vyžadujú rozsiahlejšie generovanie či úpravy, sprístupní dodatočnú kapacitu cez platený balíček.
Zároveň dodala, že Muse Image čoskoro dorazí aj na Facebook a do Messengeru. Nástroj navyše dostane aj samostatnú verziu, ktorú budú môcť využívať inzerenti v reklamách. A aby toho nebolo málo, podľa zákulisných informácií je už v tejto chvíli v aktívnom vývoji aj pokročilá verzia zameraná na generovanie videí.
