1. augusta nadobudol účinnosť zákon Európskej únie o umelej inteligencii (AI Act), čo predstavuje prvý legislatívny pokus regulovať rozvíjajúcu sa technológiu umelej inteligencie. Táto legislatíva prináša prísne sankcie pre spoločnosti, ktoré jej ustanovenia porušia.
Ciele a rozsah zákona
Zákon o AI, ktorý navrhla Európska komisia ešte v roku 2020, sa zameriava na kontrolu modelov umelej inteligencie, najmä tých, ktoré predstavujú „systémové“ riziká. Pokrýva široké spektrum aplikácií, vrátane generatívnych technológií ako ChatGPT od OpenAI a Google Gemini, s cieľom zmierniť riziká a chrániť práva používateľov.
Európsky úrad pre umelú inteligenciu, zriadený v roku 2024, bude dohliadať na monitorovanie a hodnotenie modelov AI, aby zabezpečil ich súlad s novým rámcom. Zákon zavádza rizikový prístup, ktorý prispôsobí regulácie úrovni rizika, ktoré každá aplikácia predstavuje pre spoločnosť.
Požiadavky a obmedzenia
Vysoko rizikové aplikácie, ako sú autonómne vozidlá, medicínske zariadenia, systémy rozhodovania o úveroch, hodnotenie vzdelávania a systémy vzdialenej biometrickej identifikácie, budú musieť dodržiavať prísne požiadavky. Tie zahŕňajú pravidelné sledovanie aktivity, používanie vysokokvalitných tréningových dát na zníženie zaujatosti, dôkladné hodnotenie rizík a ich zmiernenie, a transparentnosť dokumentácie modelu pre potreby hodnotenia súladu.
Systémy, ktoré ohrozujú základné práva, porušujú súkromie alebo vedú k diskriminačným výsledkom, sú definované ako „neprijateľné“ riziká a budú zakázané.
Firmy riskujú pokuty v miliónoch
Zákon ovplyvní veľké technologické spoločnosti, ako sú Microsoft, Meta, Google a Amazon, dokonca aj tie, ktoré nespadajú priamo pod dohľad EÚ. Ak sa rozhodnú ignorovať tieto pravidlá, riskujú obmedzený prístup k údajom a infraštruktúre potrebnej na tréning ich modelov.
Spoločnostiam hrozia vysoké pokuty vo výške 1,5 % až 7 % z ich globálnych ročných príjmov, čo je viac ako pokuty podľa nariadenia GDPR. Sankcie sa budú odvíjať od veľkosti spoločnosti a závažnosti porušenia.
Budúcnosť regulácie AI
Hoci väčšina ustanovení zákona nadobudne účinnosť až v roku 2026, obmedzenia pre všeobecnú AI sa začnú uplatňovať už o 12 mesiacov. Verejné a komerčné systémy ako ChatGPT a Gemini budú mať 36-mesačné prechodné obdobie na prispôsobenie sa novým pravidlám.
Neprehliadnite
Tento odvážny krok zo strany EÚ môže slúžiť ako precedens pre ďalšie krajiny. Zákon o AI má potenciál zásadne premeniť prostredie umelej inteligencie a nastaviť nové štandardy pre bezpečné a etické využitie tejto technológie.
