Obsah vytvorený umelou inteligenciou už v Európskej únii nemôže fungovať úplne bez pravidiel. Od augusta platí nová časť AI Actu, ktorá rieši chatboty, syntetické obrázky, videá, hlas aj text. V niektorých prípadoch musí používateľ jasne vedieť, že komunikuje so strojom alebo že materiál nevznikol prirodzeným spôsobom.
Nové povinnosti začali platiť 2. augusta 2026 a týkajú sa aj služieb a firiem pôsobiacich na Slovensku. Vychádzajú z článku 50 európskeho AI Actu, ktorý sa zameriava na transparentnosť pri systémoch umelej inteligencie.
Európska komisia medzitým zverejnila aj podrobné usmernenia a dokončila Kódex postupov pre transparentnosť AI obsahu. Kódex je dobrovoľný, samotné zákonné povinnosti však dobrovoľné nie sú. Firma, ktorá sa ku kódexu nepridá, musí vedieť preukázať, že pravidlá spĺňa iným porovnateľným spôsobom.
AI obsah dostane skrytú stopu
Jedna z najväčších zmien sa odohráva priamo na úrovni AI systémov. Poskytovatelia nástrojov, ktoré vytvárajú alebo výrazne upravujú text, zvuk, obrázky či video, musia zabezpečiť, aby sa ich výstupy dali rozpoznať ako syntetické alebo strojovo upravené. Nemusí pritom ísť iba o veľký viditeľný nápis „vytvorené AI“. Informácia môže byť uložená priamo v súbore pomocou metadát, digitálneho vodoznaku alebo iného strojovo čitateľného riešenia.
Zmyslom je, aby platformy, vyhľadávače alebo nástroje na overovanie obsahu dokázali automaticky zistiť, že fotografia, video alebo iný materiál vznikol pomocou umelej inteligencie. Európska komisia zároveň počíta s tým, že použité označenie musí byť čo najodolnejšie voči odstráneniu alebo jednoduchým úpravám súboru. Pre staršie AI systémy existuje obmedzená prechodná lehota. Ak boli uvedené na trh ešte pred 2. augustom 2026, pri technickom označovaní výstupov dostali čas na prispôsobenie do 2. decembra 2026.
Deepfake sa už nemá tváriť ako realita
Ešte prísnejšie pravidlá platia pri realisticky upravených videách, fotografiách alebo zvukových nahrávkach. Ak AI vytvorí alebo zmanipuluje materiál tak, že môže pôsobiť ako autentický záznam skutočnej osoby, udalosti alebo miesta, jeho umelý pôvod treba zverejniť. Typickým príkladom sú videá, v ktorých politik alebo známa osoba údajne vysloví vetu, ktorú nikdy nepovedala. Podobné technológie sa používajú aj pri podvodoch s napodobneným hlasom či tvárou.
Pri umeleckom, satirickom alebo fiktívnom obsahu môže byť spôsob označenia miernejší, aby zbytočne nenarúšal samotné dielo. Povinnosť transparentnosti však úplne nezmizne.
Pravidlá sa týkajú aj textov a chatbotov
AI Act rieši aj systémy, ktoré priamo komunikujú s človekom. Chatbot alebo virtuálny asistent musí používateľa informovať, že komunikuje s umelou inteligenciou, pokiaľ to už nie je úplne zrejmé zo samotného kontextu. Osobitná povinnosť sa týka aj textov vytvorených alebo upravených AI, ktoré majú informovať verejnosť o témach verejného záujmu. Ani tu však neplatí jednoduché pravidlo, podľa ktorého musí byť každý článok napísaný s pomocou AI automaticky označený.
Ak text prešiel ľudskou kontrolou alebo redakčným procesom a za jeho zverejnenie nesie konkrétna osoba alebo organizácia redakčnú zodpovednosť, povinnosť označenia sa naň nemusí vzťahovať. EÚ tým odlišuje automaticky generovaný obsah od materiálu, ktorý síce vznikol s pomocou AI, no za výsledok zodpovedá človek.
Pokuty sa môžu vyšplhať do miliónov
Pravidlá neplatia iba pre firmy so sídlom v Európskej únii. Ak zahraničný poskytovateľ ponúka svoj AI systém na európskom trhu, musí rešpektovať rovnaké povinnosti. Pri porušení povinností podľa článku 50 patrí medzi možné sankcie administratívna pokuta až 15 miliónov eur alebo 3 percentá celosvetového ročného obratu firmy. Pri malých a stredných podnikoch sa uplatňuje miernejší princíp a rozhodujúca je nižšia z príslušných hraníc.
