Od 2. augusta vstúpili do platnosti nové povinnosti, ktoré sa priamo týkajú používania nástrojov umelej inteligencie. Vychádzajú z európskeho nariadenia známeho ako AI Act. Hlavným zámerom tejto legislatívy je zabezpečiť, aby používatelia a zákazníci vždy presne vedeli, kedy komunikujú s automatizovaným systémom alebo kedy sa pozerajú obsah, ktorý vytvoril či upravil AI model.
Tieto zmeny sa priamo dotýkajú aj slovenských online obchodov. Ako vysvetľuje Mária Auxtová, Country Lead pre Slovensko zo spoločnosti Shoptet, e-shopy dnes AI bežne využívajú na komunikáciu so zákazníkmi (cez chatbotov či voicebotov), ako aj na generovanie textov, produktových obrázkov a videí.
Nová úprava sa okrem e-shopov vzťahuje aj na médiá a ďalších tvorcov obsahu, ktorí vystupujú na internete. Prísnejšie pravidlá platia najmä pre takzvaný deepfake obsah, ktorý dokáže presvedčivo napodobniť realitu.
AI obsah musí byť riadne označený
Základným princípom nových pravidiel je zabrániť daným subjektom v zavádzaní zákazníkov. Pri využití chatbota musí byť kupujúci hneď od začiatku informovaný, že vedie rozhovor s umelou inteligenciou. Rovnaká povinnosť pritom platí aj pre vizuálny materiál. Ak e-shop použije fotografiu alebo video vytvorené pomocou AI, ktoré pôsobí realisticky a zákazník by si ho mohol pomýliť so skutočnosťou, musí byť takýto obsah jasne označený.
Čoraz viac bežným príkladom z praxe je využitie AI modelky, ktorá na prvý pohľad vyzerá ako skutočná, živá žena. Ak niektorý online obchod propaguje produkt prostredníctvom takejto umelo vytvorenej postavy, musí ho doplniť o príslušný oznam, ktorý je viditeľný hneď pri prvom zverejnení. Formát označenia môže byť rôzny, napríklad vo forme textu „Vytvorené pomocou AI“ v rohu snímky.
Európska komisia zároveň pripravila tri voľne dostupné ikony určené na takéto označovanie. Obchody si musia dať pozor aj pri prípadnom orezávaní či úprave formátu, aby upozornenie zostalo stále dobre čitateľné. V budúcnosti by sa tak už nemalo stávať, že e-shopy budú predávať kozmetiku či výživové doplnky pomocou fiktívnych modeliek, teda aspoň nie bez vedomia zákazníka.
Pre texty a redakčnú kontrolu platí voľnejší režim
Pokiaľ ide textový obsah, tu nové pravidlá poskytujú o čosi viac voľnosti. Povinnosť označovať texty generované umelou inteligenciou sa vzťahuje predovšetkým na obsah, ktorý sa zaoberá témami verejného záujmu. Konkrétne v prostredí e-shopov môže ísť o blogové články venované zdraviu alebo aktuálnemu hospodárskemu vývoju, ako je napríklad rast cien energií. Ani v týchto prípadoch však označenie nie je potrebné, pokiaľ generovaný text pred publikovaním prešiel redakčnou kontrolou a úpravou. Samozrejme, reč je o kontrole zo strany živého človeka.
Všeobecne cieľom nariadenia AI Act nie je obmedzovať či komplikovať používanie moderných technológií, ale vniesť do digitálneho prostredia viac transparentnosti. Brusel nám chce jednoducho pomôcť v tom, aby sme vedeli lepšie rozlíšiť, čo je “umelina” a čo realita. Auxtová preto e-shopom aj iným podnikom odporúča, aby si urobili dôsledný prehľad všetkých používaných AI nástrojov a preverili, ktoré z nových zákonných povinností sa ich priamo týkajú.
