Umelá inteligencia sa stala pevnou súčasťou našich životov. Pomáha nám v práci, zabáva nás, no čoraz častejšie rozhoduje aj o vážnych veciach. Práve preto prichádza Európska únia s novými ucelenými pravidlami. Legislatíva známa ako AI Act má za úlohu udržať moderné technológie v bezpečných medziach. Cieľom pritom nie je pridusiť inovácie, ale nastaviť férové prostredie, v ktorom majú ľudské práva a bezpečnosť prednosť pred nekontrolovaným algoritmom.
Bič na algoritmy
Pri väčšine bežných AI modelov a scenárov, akými s nimi narábame, nehrozí vážne riziko. Problém však nastáva vtedy, keď umelá inteligencia začne rozhodovať o ľudských osudoch a nikto presne nevie vysvetliť, ako dospela k danému výsledku.
Stačí si predstaviť situáciu pri pracovnom pohovore alebo pri posudzovaní žiadosti o štátnu podporu. Ak vás systém vyradí bez jasného dôvodu, len ťažko sa budete brániť voči diskriminácii. Staré zákony na tieto situácie jednoducho nestačili, a preto Brusel rozdelil technológie do štyroch kategórií podľa toho, aké veľké riziko predstavujú pre spoločnosť.
Úplná stopka pre nebezpečné praktiky
Niektoré spôsoby využitia AI označila európska legislatíva za neprijateľné riziko. Tieto systémy dostali okamžitú červenú. Zákaz platí napríklad pre manipuláciu s ľudským vedomím, zneužívanie zraniteľnosti ľudí či systémy na sociálne hodnotenie občanov. Stopku dostalo aj predpovedanie trestnej činnosti jednotlivcov, plošné sťahovanie fotiek z webu a bezpečnostných kamier na tvorbu databáz tvárí, rozpoznávanie emócií v práci a v školách či biometrické škatuľkovanie ľudí na základe chránených znakov.
Zároveň platí prísny zákaz sledovania a identifikácie ľudí na verejných miestach v reálnom čase na policajné účely. Tieto pravidlá pritom platia už od februára 2025. Na prelome rokov navyše pribudol zákaz aplikácií, ktoré bez súhlasu generujú intímny obsah či obnažujú ľudí, a rovnako nástrojov na vytváranie materiálov, ktoré zachytávajú zneužívanie detí.
Prísny dohľad nad rizikovými systémami
Do kategórie vysokého rizika spadajú nástroje, ktoré priamo ovplyvňujú naše zdravie, bezpečnosť alebo základné práva. Reč je o algoritmoch v kritickej doprave, pri chirurgických robotoch, no patrí sem aj softvér na triedenie životopisov uchádzačov o prácu či automatické vyhodnocovanie školských skúšok. Rovnako sem patrí posudzovanie žiadostí o úver v bankách, dodatočné biometrické vyhľadávanie podozrivých osôb, hodnotenie dôkazov na polícii, spracovanie vízových žiadostí či nástroje, ktoré pomáhajú pri súdnych rozhodnutiach.
Od decembra 2027 budú musieť tieto technológie predtým, ako vstúpia na trh, splniť striktné podmienky. Autori budú musieť dokázať kvalitné a nediskriminačné trénovacie dáta, zabezpečiť detailné logovanie aktivít a predložiť kompletnú technickú dokumentáciu. Systémy musia byť maximálne bezpečné a presné, no hlavne nad nimi musí stále stáť živý človek, ktorý dohliada na to, aby všetko fungovalo v súlade s nastaveným pravidlami.
Koniec tajnostkárstva
Osobitnú skupinu tvoria nástroje, pri ktorých hrozí strata transparentnosti. Keď sa budete rozprávať s četbotom, musíte vopred vedieť, že na druhej strane nesedí človek, ale stroj. Poskytovatelia generatívnej AI navyše musia označiť umelo vytvorený obsah tak, aby bol ľahko rozpoznateľný. Jasné a viditeľné označenie dostanú predovšetkým deepfake videá a texty, ktoré informujú verejnosť o dôležitých spoločenských témach.
Pravidlá týkajúce sa transparentnosti začínajú platiť v priebehu tohto mesiaca. Naopak, systémy s minimálnym či nulovým rizikom nemusia riešiť žiadne nové povinnosti. Ide o drvivú väčšinu technológií, s ktorými sa bežne stretávame, ako sú bežné videohry alebo antispamové filtre v e-mailoch.
Pravidlá pre veľké modely
Zákon napokon nezabúda ani na veľké všeobecné modely, ktoré slúžia ako základ pre ďalšie aplikácie. Ich pravidlá, týkajúce sa najmä autorských práv a transparentnosti, platia od augusta minulého roka. Ak takýto obrovský model nesie systémové riziko pre celú spoločnosť, jeho tvorcovia musia toto nebezpečenstvo dôkladne sledovať a aktívne tlmiť.
Aby firmy zvládli celý prechod na nové pravidlá bez chaosu, Európska komisia spustila dobrovoľnú iniciatívu AI Pakt spolu so špecializovanou podpornou službou. Po uvedení softvéru na trh budú na poriadok dohliadať kontrolné úrady, pričom tvorcovia aj prevádzkovatelia majú povinnosť okamžite nahlásiť každú vážnu poruchu či incident.
