Európska únia (EÚ) oficiálne zakročila proti umelej inteligencii (AI). Európska rada totiž schválila kľúčovú legislatívu, ktorá cieli na harmonizáciu pravidiel týkajúcich sa AI. Známa je ako Akt o umelej inteligencii. Princíp je celkom jednoduchý – čím viac rizika bude technológia predstavovať pre spoločnosť, tým prísnejšie budú pravidlá. Európska rada o legislatíve informuje priamo na svojom webe.
Ide o vôbec prvý takýto krok voči AI, pričom EÚ dúfa, že nastaví globálny štandard pre jej reguláciu. Cieľom je posilniť jej vývoj spôsobom, ktorý je bezpečný a dôveryhodný naprieč všetkými členskými štátmi, a to ako v rámci súkromného, tak aj v rámci verejného sektora. Zároveň je cieľom zaistiť, že technológia dodržiava základné občianske práva.
Je dôležité poznamenať, že legislatíva nechce úsilia v oblasti umelej inteligencie oslabiť či zničiť. Skôr chce zabezpečiť, aby jej vývoj a aj následné používanie dodržiavalo akési zdravé medze. V tomto smere treba spomenúť, že zákon taktiež cieli na stimulovanie investícií a inovácií v rámci AI.
Kategórie podľa rizika
Legislatíva kategorizuje rôzne typy umelej inteligencie, pričom odlišujúcim faktorom je riziko. Na systémy AI, ktoré predstavujú len malé riziko, by sa mali vzťahovať len mierne pravidlá týkajúce sa transparentnosti, zatiaľ čo vysoko rizikové systémy by mali podliehať rozsiahlejšiemu súboru požiadaviek.
Systémy, ktoré budú mať čo dočinenia s kognitívnou behaviorálnou manipuláciou a sociálnym skórovaním, budú na území EÚ úplne zakázané. Ich riziko sa totiž považuje za neprijateľne vysoké.
Zákon taktiež zakazuje používanie AI na prediktívny policajný dohľad na báze profilovania, ako aj systémy, ktoré využívajú biometrické údaje na kategorizáciu ľudí podľa špecifických kritérií, ako je rasa, náboženstvo či sexuálna orientácia.
V súvislosti s novu legislatívou vznikli štyri nové úrady, ktoré budú dohliadať na to, či sa všetky uložené pravidlá náležite dodržiavajú. Týmito úradmi sú:
- Úrad pre AI
- Vedecký panel nezávislých expertov
- Rada o AI
- Poradenské fórum pre zainteresované strany
Čo sa stane, keď dôjde k porušeniu pravidiel?
V prípade, že dôjde k porušeniu pravidiel, môžu byť od previnilého subjektu vymáhané pokuty. Ich výška bude určovaná buď to v percentách z ročného obratu za predchádzajúci finančný rok, alebo vo vopred stanovenej výške. Záležať bude na tom, ktorá čiastka bude vyššia. Pri malých a stredných podnikoch budú prípadné pokuty nižšie.
Neprehliadnite
Legislatíva stanovuje povinnosť posúdenia vplyvu na základné práva každého nového systému AI, ktorý bude uznaný ako vysoko rizikový. Taktiež ukladá povinnosť zvýšenej transparentnosti v rámci vývoja a používania takýchto systémov. Okrem toho budú musieť byť zaregistrované vo vyhradenej databáze EÚ.
Pokiaľ ide o inovácie, Akt o umelej inteligencii stanovuje právny rámec, ktorý podporuje inovácie a regulačné vzdelávanie založené na dôkazoch. Umožniť by sa malo aj testovanie inovačných systémov AI v reálnych podmienkach.
