Character.AI je medzi tínedžermi mimoriadne populárna služba, ktorá využíva umelú inteligenciu. V minulosti ju sprevádzali viaceré škandály a na krku mám aj žaloby od rodičov. Spoločnosť Character.AI obvinili, že postavy generované umelou inteligenciou navádzajú deti na nebezpečné konanie. Aj v súvislosti s týmto teraz spoločnosť zavádza nové bezpečnostné opatrenie, ktoré má ochrániť práve maloletých.
Ako uvádza portál The Verge, Character.AI teraz môže rodičom prezradiť, s ktorými robotmi sa ich dieťa rozpráva. Obsah rozhovoru však zostane utajený.
Character.AI pridáva bezpečnostnú funkciu
Chatbot Character.AI pridáva novú funkciu „Parental Insights“, ktorá umožní tínedžerom posielať týždenné správy o používaní chatbotov na e-mailovú adresu rodičov. Spoločnosť uviedla, že táto správa bude obsahovať priemerný čas strávený četovaním s umelou inteligenciou. Zráta sa tu čas strávený na webe aj v mobilnej aplikácii. Správa taktiež bude obsahovať zoznam postáv, s ktorým dieťa najčastejšie komunikovalo či akýmkoľvek iným spôsobom interagovalo. Oznámenie tiež odhalí, koľko času tínedžer strávil rozhovormi s každou z postáv.
Spoločnosť zavádza tieto opatrenia v snahe riešiť obavy týkajúce sa bezpečnosti neplnoletých používateľov. Rodičia môžu mať vďaka tomu prehľad, či ich potomok netrávi až príliš veľa času vo virtuálnom svete. Taktiež môžu mať prehľad o tom, či sa ich dieťa nestretáva s nevhodným obsahom počas četovania, pričom samotný obsah rozhovorov má však zostať tajný.
Rodič nepotrebuje účet
Aby mohol rodič kontrolovať svoje dieťa, respektíve mal prehľad o jeho aktivitách, nemusí mať vytvorený používateľský účet na platforme Character.AI. Ide o voliteľnú možnosť. Všetko môže vybaviť jeho dieťa a to tak, že v nastaveniach platformy povolí posielanie týždenných správ, pričom sem uvedie e-mailovú adresu rodiča. Spoločnosť zdôraznila, že ide o prehľad aktivít tínedžerov a nie o úplný denník záznamov. Takže ako sme už uviedli, obsah konverzácií nebude s rodičmi zdieľaný. Platforma zakazuje registráciu deťom, ktoré majú menej ako 13 rokov v USA alebo menej ako 16 rokov v Európe. Deti sú však vynaliezavé a tieto vekové obmedzenia vedia obísť.
AI platforma čelí kritike
Ako sme naznačili, táto AI platforma čelí kritike zo strany rodičov aj niektorých odborníkov, ktorí sa obávajú o zdravie detí a tínedžerov. Preto od minulého roka Character.AI zavádza nové bezpečnostné opatrenia, ktoré majú ochrániť neplnoletých. Platforma umožňuje používateľom vytvárať a prispôsobovať chatboty, s ktorými interagujú alebo ich verejne zdieľajú. Platforma sa dostala do sporu aj so súdmi, ktoré tvrdia, že deťom podsúva mimoriadne nebezpečný a nevhodný obsah. Spoločnosť sa bráni a tvrdí, že systém prepracovala. Údajne používateľov, ktorí majú menej ako 18 rokov, presunula na iný model AI, ktorý je vyškolený tak, aby sa vyhol citlivému výstupu. Spoločnosť tiež pridala upozornenia, ktoré používateľovi pripomenú, že roboti nie sú skutoční ľudia.
