Meta chystá nástroj, ktorý odhalí, že video vygenerovala umelá inteligencia. Nástroj dostal meno Video Seal a do videí generovaných AI bude pridávať neviditeľný vodoznak. O téme informoval portál Neowin.
Videá generované umelou inteligenciou sú na vzostupe, aj preto veľké spoločnosti pristupujú ku krokom, ktoré majú tieto videá odlišovať od ostatných. Nedávno OpenAI predstavilo svoj nástroj na generovanie videa z textu pod názvom Sora. Ten je aktuálne dostupný len pre platiacich používateľov ChatGPT Plus a Pro. V budúcnosti sa ale ráta s nasadením pre všetkých.
Meta odhalí video vygenerované AI
Keďže trh s videami, ktoré generuje umelá inteligencia, rastie, časom bude náročné odlíšiť reálne videá od tých umelo vytvorených. Spoločnosť Meta preto prichádza s nástrojom, ktorý pomôže videá odlíšiť. Nástroj na vytváranie vodoznakov Meta Video Seal aplikuje do videa vygenerovaného AI neviditeľný vodoznak. Do videa sa zároveň bude vkladať tak, aby neovplyvnil jeho výsledný vzhľad.
Video Seal môže k videám pripojiť aj krátku správu, ktorá odhalí zdroj videa. Meta uvádza, že nový nástroj je výnimočný. Dokáže totižto odolať bežným úpravám videa vrátane algoritmov rozmazania, orezania alebo kompresie. Ak aj používateľ uskutoční tieto úpravy, vodoznak vo videu zostane, čo pomôže overiť jeho pravosť a zdroj.
Demo nástroja je už k dispozícii
Meta nový nástroj zdieľa v rámci povolenej licencie spolu s výskumným dokumentom, školením a zdrojovým kódom. K dispozícii je aj interaktívne demo, ktoré si môže vyskúšať ktokoľvek. Meta uvádza, že „zatiaľ čo nástroje umelej inteligencie môžu pomôcť zblížiť svet, je dôležité, aby sme implementovali bezpečnostné opatrenia na zmiernenie rizík napodobňovania, manipulácie a iných foriem zneužitia, ktoré môžu podkopať ich výhody.“ Pomocou nového nástroja Video Seal sa Meta snaží zabrániť zneužívaniu umelej inteligencie na šírenie falošného obsahu a nepravdivých informácií.
