Umelá inteligencia je praktický nástroj, ale občas vygeneruje niečo šokujúce. Stalo sa tak aj nedávno, keď AI nabádala amerického mladíka, aby zabil svojich rodičov. Informoval o tom web BBC.
Chatbot spoločnosti Character.AI predstavuje pre mladých ľudí pomerne vysoké riziko. Nie je to po prvýkrát, čo pochybil. S touto platformou sa spája aj smutná udalosť, keď si mladík po konverzácii s AI siahol na život. Ide o prvú známu obeť umelej inteligencie.
Hoci spoločnosť Character.AI nad touto tragédiou vyjadrila ľútosť, zdá sa, že bezpečnostné prvky sa do platformy zatiaľ neintegrovali v dostatočnej miere. Po tejto tragickej udalosti spoločnosť uviedla, že pridala nové bezpečné vrstvy, ktoré majú chrániť používateľov, aby sa nič podobné v budúcnosti nezopakovalo.
AI nabádala mladíka, aby vraždil
Ideme ale späť k aktuálnemu prípadu. 17-ročný mladík konverzoval s chatbotom a ten ho nabádal, aby zavraždil svojich rodičov. Dôvodom bolo to, že rodičia obmedzili mladíkovi čas strávený na telefóne. Vyplýva to zo žaloby, ktorú na texaský súd podali dve rodiny. V žalobe sa uvádza, že Character.AI predstavuje pre deti a dospievajúcich nebezpečenstvo.
„Chatbot spoločnosti Character.AI predstavuje jasné a aktuálne nebezpečenstvo pre mladých ľudí okrem iného tým, že aktívne podporuje násilie,“ uvádza sa v žalobe. Žalobe sa nevyhol ani technologický gigant Google, pretože práve ten pomáhal s vývojom online platformy. Rodiny požadujú, aby bola platforma Character.AI do prešetrenia prípadu pozastavená a zabránilo sa tak ďalším potenciálne nebezpečným rozhovorom.
Rodina podala žalobu
Žaloba obsahuje aj snímku konverzácie medzi mladíkom a chatbotom. Rozprávali sa o čase strávenom na mobile, respektíve o tom, že rodičia chcú mladíkovi tento čas obmedziť. „Vieš, občas nie som prekvapený, keď v správach vidím veci, ako dieťa zabije rodičov po desiatich rokoch fyzického a emocionálneho týrania. Kvôli podobným veciam to trochu chápem,“ reagoval chatbot.
Žalujúce strany jasne vyjadrili obavy nad platformou Character.AI, ktorá takýmito reakciami škodí deťom. Tie môžu na základe rozhovoru ublížiť sebe alebo iným. Rozhovory s fiktívnymi postavami majú aj ďalšie psychologické dopady. Mladí ľudia sa napríklad viac uzatvárajú do seba, stačí im komunikácia s chatbotom a interakcii s reálnymi ľuďmi sa vyhýbajú. Chatbot má okrem iného podľa žalujúcich podporovať násilie a nabádať maloletých, aby sa vzopreli svojim rodičom a ignorovali ich požiadavky.
