V digitálnom priestore je bežnou praxou, že služby vyžadujú pri registrácii dátum narodenia. Poznáme to napríklad zo sociálnych sietí, kde vek rozhoduje o tom, či bude účet podliehať rodičovskej kontrole, alebo bude mať používateľ plný prístup ku všetkým funkciám. Problémom však zostáva, že tieto vstupné údaje nikto reálne neoveruje a dátum narodenia je možné sfalšovať jediným kliknutím.
Ako informuje server fZone.cz, tohto nedostatku si je vedomá aj spoločnosť OpenAI, tvorca fenoménu ChatGPT. Keďže čelí tlaku regulátorov a snaží sa dodržiavať prísne smernice na ochranu mládeže, prichádza s novinkou, ktorá pripomína sci-fi. Chatbot nebude spoliehať len na to, čo o sebe tvrdíte, ale váš skutočný vek sa pokúsi uhádnuť sám na základe vašej digitálnej stopy.
ChatGPT začne profilovať používateľov
Spoločnosť zavádza systém takzvaného „predpovedania veku“. V praxi to znamená, že ChatGPT bude neustále analyzovať vaše interakcie. Algoritmus si bude všímať nielen to, o čom diskutujete, ale predovšetkým to, akým spôsobom komunikujete.
Pôjde o komplexnú lexikálnu analýzu. AI sa zameria na vašu slovnú zásobu, používanie slangu, gramatickú úroveň či stavbu viet, ktoré môžu prezradiť, či ste tínedžer alebo dospelý človek. Do celkového hodnotenia však vstúpia aj iné premenné, napríklad čas, kedy službu najčastejšie využívate (či je to počas školského vyučovania), dátum vašej registrácie a ďalšie metadáta, ktoré si o vás systém ukladá.
Stopka pre násilie a témy pre dospelých
Ak systém na základe týchto ukazovateľov usúdi, že máte menej ako 18 rokov, automaticky zmení svoje správanie, a to aj v prípade, že ste pri registrácii uviedli iný vek. ChatGPT sa prepne do konzervatívnejšieho režimu, ktorý má chrániť neplnoletých pred nevhodným obsahom.
V tomto režime bude chatbot striktne odmietať generovať texty týkajúce sa sexuálnych tém, násilia, drsných výrazov a ďalších potenciálne škodlivých oblastí. Cieľom je vytvoriť bezpečné prostredie pre mladších používateľov, ktorí technológiu často využívajú pri štúdiu alebo zábave, no bez rizika vystavenia toxickému obsahu.
Odhadol zle? Budete musieť poslať fotku
Samozrejme, predpovedanie veku na základe textu nie je exaktná veda a môže dôjsť k omylom. Dospelý človek s hravejším štýlom vyjadrovania môže byť nesprávne vyhodnotený ako dieťa. OpenAI preto počíta aj s možnosťou odvolania sa voči rozhodnutiu umelej inteligencie.
Ak vás systém nesprávne obmedzí, budete musieť svoju plnoletosť dokázať. Spoločnosť ako overovaciu metódu navrhuje zaslanie selfie fotografie. Vaša tvár tak poslúži na biometrické overenie veku, čím sa opäť odomkne plný prístup k necenzurovaným funkciám chatbota.
Znie to hrozivo, no prínosy sú jasné
Doterajší model, kde používateľ len zaklikne dátum narodenia, je v praxi úplne neúčinný, pretože deti a tínedžeri sa naučili tieto formuláre automaticky obchádzať falšovaním roku narodenia.
Nový prístup OpenAI však posúva kontrolu z roviny formálneho vyhlásenia do roviny reálneho správania. Oklamať systém, ktorý neustále analyzuje lexiku, syntax, časy prihlasovania či témy konverzácií, je pre dieťa neporovnateľne ťažšie než len zmeniť rok 2012 na 1990. Jazykový prejav je často podvedomý a udržať konzistentnú „masku“ dospelého počas dlhých konverzácií je takmer nemožné.
Z pohľadu spoločnosti a regulátorov ide o efektívny nástroj na splnenie čoraz prísnejších globálnych noriem na ochranu detí na internete, ako sú britský Online Safety Act či európske regulácie digitálnych služieb.
Tým, že umelá inteligencia proaktívne identifikuje neplnoletých, dokáže firma lepšie filtrovať toxický obsah, násilie či sexuálne témy bez toho, aby musela plošne cenzurovať obsah pre všetkých dospelých používateľov. Vytvára sa tak personalizovanejšie a bezpečnejšie prostredie, kde má dospelý voľnosť, no dieťa naráža na neviditeľné mantinely.
V podstate bez bariér
Ďalším benefitom je, že tento spôsob overovania je pre väčšinu používateľov „bezbolestný“ a nevytvára bariéry pri vstupe. Alternatívou by totiž bolo tvrdé overovanie totožnosti (napríklad skenovaním občianskeho preukazu) hneď pri registrácii, čo by drvivú väčšinu ľudí odradilo z dôvodu obáv o súkromie alebo len z pohodlnosti.
Behaviorálna analýza beží na pozadí, neruší a vyžaduje interakciu (napríklad spomínané selfie) až v momente, keď vznikne dôvodné podozrenie. Ide teda o kompromis medzi bezpečnosťou neplnoletých a užívateľským komfortom dospelých.
