S nástupom pokročilých editorov na úpravu fotiek, ktorým v nejednom prípade napomáha umelá inteligencia (AI), sa internetom čoraz častejšie šíria strojovo upravené fotografie s cieľom klamať a zavádzať ľudí. Samozrejme, toto je ten najextrémnejší prípad zneužitia modernej technológie. To však nič nemení na tom, že je ho potrebné adresovať. A presne niečo také chce po novom robiť aj Google, píše portál Živě.cz.
Prejsť na:
Jedným zo spôsobov, akými možno chrániť originálny obsah, je vodoznak. Vodoznak svedčí o originalite fotografie, pričom takýto obsah je veľmi náročné skopírovať, upraviť a zneužiť. Nehovoríme pritom o tradičnej forme vodoznaku, akou sú nápisy či logá prekrývajúce obrázok alebo fotografiu. Hovoríme o vodoznaku, ktorý ľudské oko nemá šancu spozorovať.
Google vyvinul SynthID
Môže sa to zdať neuveriteľné, ale aj takéto „neviditeľné“ vodoznaky dokážu obsah chrániť pred vonkajším zásahom v podobe zmeny kompozície či orezania. Na niečom takom teraz pracuje DeepMind, dcérska firma Google. Vyvinula totiž technológiu s názvom SynthID. Poňať ju možno ako nástroj na vytváranie vodoznakov a identifikáciu obrázkov vygenerovaných umelou inteligenciou. Táto technológia vkladá tzv. digitálny vodoznak priamo do pixelov obrázka, vďaka čomu ho nemožno zbadať ľudským okom.
DeepMind upozorňuje, že technológia nie je dokonalá, a teda nemusí odhaliť všetok obsah, s ktorým bolo nejak manipulované, a to najmä v prípade, ak ide o manipuláciu na extrémnej úrovni. Tvrdí však, že umožňuje ľuďom a organizáciám zodpovedne pracovať s obsahom generovaným umelou inteligenciou. „Tento nástroj by sa mohol vyvíjať aj popri iných modeloch a modalitách umelej inteligencie, ako sú napríklad zvuk, video a text,“ uvádza DeepMind na svojom webe.
Technológia sa už používa
Google už túto technológiu integroval do svojho cloudového generátora fotografií Imagen. Verí, že v budúcnosti sa označovanie generovaných fotiek stane bežnou praxou. V takejto budúcnosti by všetky umelo vytvorené obrázky obsahovali neviditeľný vodoznak, ktorý by dokazoval, že daný obrázok vznikol pod rukami AI.
Ako už bolo spomenuté, tento vodoznak nie je spozorovateľný ľudským okom. Na jeho identifikáciu bude potrebný AI dekóder, ktorý by mal byť pre používateľov voľne dostupný. Časom by sa mohol integrovať priamo do niektorých popredných služieb, vrátane sociálnych sietí.
Budúcnosť bez zákerných klamstiev
Samozrejme, cesta k takejto budúcnosti je dlhá, a teda rozhodne potrvá nejaký čas, kým sa k nej dostaneme. Je však potešujúce vidieť, že si Google uvedomuje riziká, ktoré so sebou prináša neustále rozvíjajúca sa umelá inteligencia. Predsa len už sme sa mohli stretnúť s prípadmi, kedy ľudia vydávali umelo vytvorené obrázky za skutočné. A keďže neobsahovali žiadny vodoznak, ľudia nemali možnosť spoľahlivo odhaliť, že išlo o podvody.
Dúfajme, že SynthID naplní svoj potenciál a aspoň trochu obmedzí šírenie falošných obrázkov na internete.
