Stačí jedna fotografia zo sociálnej siete a niekoľko sekúnd, aby umelá inteligencia vytvorila falošný intímny záber človeka, ktorý s tým nikdy nesúhlasil. Európska únia sa teraz chystá proti takýmto nástrojom zasiahnuť priamo cez nový súbor pravidiel známy ako AI Act. Zmena však nebude iba o aplikáciách, ktoré ľudí virtuálne „vyzliekajú“.
Európsky parlament 16. júna definitívne schválil úpravu pravidiel, ktorých výsledkom bude sprísnenie ochrany pred sexuálnymi deepfake zábermi, zároveň však firmám poskytne viac času na zavedenie pravidiel pre vysokorizikové systémy umelej inteligencie.
Aplikácie, ktoré ľudí vyzliekajú, dostanú stopku
Nový zákaz sa týka AI systémov, ktoré z fotografií, videí alebo zvukových záznamov vytvárajú sexuálne explicitný či intímny obsah pripomínajúci identifikovateľného človeka bez jeho súhlasu.
Typickým príkladom sú takzvané nudify aplikácie. Používateľ do nich vloží obyčajnú fotografiu oblečeného človeka a nástroj vytvorí realisticky pôsobiaci falošný nahý záber. Obeťou môže byť celebrita, spolužiačka, kolegyňa aj úplne náhodná osoba zo sociálnej siete.
Zákaz sa vzťahuje aj na AI systémy určené na vytváranie materiálov zobrazujúcich sexuálne zneužívanie detí. Prevádzkovatelia nebudú môcť takéto nástroje uviesť na európsky trh, pokiaľ nebudú obsahovať dostatočné technické ochrany zabraňujúce ich zneužitiu.
EÚ automaticky nezakáže každý generátor obrázkov schopný vytvoriť ľudskú postavu. Nástroje ako ChatGPT, Gemini či ďalšie generátory môžu pokračovať, ak majú funkčné obmedzenia, ktoré používateľovi nedovolia vytvárať intímne zábery konkrétnych ľudí bez ich súhlasu.
Čo sa mení pre AI nástroj, ktorý používate?
Vyberte typ služby a okamžite uvidíte, či jej hrozí zákaz, nové označovanie alebo iba neskorší termín pravidiel.
ChatGPT, Gemini, Claude ani Copilot nezmiznú
Pre bežného používateľa sa služba zo dňa na deň nevypne. Prevádzkovatelia však dostanú nové povinnosti pri označovaní obsahu a blokovaní zakázaných výstupov.
ChatGPT ani Gemini nezmiznú
Bežných používateľov sa najviac dotkne povinnosť označovať obsah vytvorený umelou inteligenciou. Od 2. decembra 2026 majú byť AI obrázky, videá, zvukové záznamy aj texty označené strojovo čitateľným spôsobom.
Neznamená to, že každý obrázok z ChatGPT alebo Gemini dostane cez polovicu obrazovky veľký nápis „vytvorila AI“. Označenie bude technické a ukryté napríklad v metadátach, digitálnom podpise alebo neviditeľnom vodoznaku, ktorý dokáže prečítať len kompatibilný systém.
Cieľom je uľahčiť odhaľovanie deepfake videí, podvodných nahrávok hlasu, zmanipulovaných fotografií či automaticky generovaných textov. Ak by ste sa snažili takýto vodoznak všimnúť sami, asi by ste nepochodili. Čítať ich budú vedieť najmä systémy veľkých digitálnych platforiem.
Prísne pravidlá pre banky či nemocnice sa odkladajú
Zmena AI Actu nie je iba sprísnením. EÚ zároveň výrazne odkladá povinnosti pre takzvané vysokorizikové systémy, pretože viaceré technické normy a praktické návody stále nie sú pripravené.
Samostatné AI systémy používané napríklad pri prijímaní zamestnancov, posudzovaní žiadostí o úver, vzdelávaní, biometrii, ochrane kritickej infraštruktúry alebo práci polície budú musieť spĺňať nové požiadavky až od 2. decembra 2027.
Pri umelej inteligencii zabudovanej do regulovaných produktov ako bezpečnostný prvok sa termín posúva ešte viac, a to až na 2. augusta 2028. Týkať sa to môže napríklad zdravotníckych zariadení, vybraných hračiek či ďalších produktov podliehajúcich osobitným bezpečnostným pravidlám.
Pokuta môže dosiahnuť desiatky miliónov eur
AI Act už pri porušení zakázaných praktík počíta s najvyššou kategóriou sankcií. Podľa oficiálneho prehľadu Európskej komisie môže pokuta dosiahnuť až 35 miliónov eur alebo 7 % celosvetového ročného obratu firmy, podľa toho, ktorá hodnota je vyššia.
Pri malých a stredných podnikoch sa naopak použije nižšia z týchto dvoch hraníc. O konkrétnej sankcii majú rozhodovať príslušné orgány podľa závažnosti, dĺžky porušenia, počtu poškodených ľudí a miery spolupráce firmy.
Europarlament už úpravu schválil, no pred jej nadobudnutím účinnosti zostáva formálne hlasovanie Rady EÚ a zverejnenie v Úradnom vestníku. Prevádzkovatelia dotknutých AI systémov sa majú novým zákazom a označovaniu obsahu prispôsobiť najneskôr do 2. decembra 2026.
