Umelá inteligencia sa za posledné roky stala bežnou súčasťou práce, učenia aj vyhľadávania informácií. Problém nastáva v momente, keď jej ľudia začnú veriť viac než lekárom, rodičom alebo odborníkom. Nová žaloba z USA tvrdí, že práve takáto dôvera mohla zapríčiniť smrť len 19-ročného muža.
Rodičia 19-ročného mladíka žalujú OpenAI a tvrdia, že ChatGPT ich synovi poskytoval nebezpečné rady týkajúce sa užívania viacerých látok. Podľa žaloby mal četbot počas dlhšieho obdobia vystupovať spôsobom, ktorý prekračoval hranicu bežného vyhľadávania informácií.
Rodina tvrdí, že odpovede četbota prispeli k smrti ich syna. OpenAI naopak uvádza, že rozhovory prebiehali so staršou verziou systému, ktorá už nie je dostupná, a že dnešné ochranné mechanizmy sú výrazne silnejšie.
Četbot nie je lekár
AI nástroje môžu byť užitočné pri vysvetľovaní pojmov, príprave otázok pre lekára alebo orientácii v zložitých témach. Nemali by však rozhodovať o dávkovaní liekov, kombinovaní látok, akútnych zdravotných stavoch alebo psychickej kríze.
Pri drogách, liekoch, alkohole alebo duševnom zdraví je riziko ešte vyššie. Aj odpoveď, ktorá pôsobí odborne a pokojne, môže byť nesprávna, neúplná alebo nebezpečná. Četbot nevidí zdravotný stav človeka, nepozná jeho anamnézu a nenesie zodpovednosť ako lekár.
OpenAI vo vyjadreniach pre médiá uviedla, že ide o tragickú situáciu a že predmetné interakcie prebehli so staršou verziou ChatGPT. Firma zároveň tvrdí, že systém priebežne upravuje tak, aby lepšie rozpoznával citlivé alebo akútne situácie a používateľov bezpečnejšie smeroval k reálnej pomoci.
Prípad však prichádza v čase, keď sa čoraz viac rieši, ako majú byť podobné aplikácie regulované. Četboty už dávno nie sú len experimentálny nástroj pre technických nadšencov. Používajú ich deti, tínedžeri, seniori aj ľudia v zraniteľných situáciách.
Ak ide o zdravie, lieky, drogy, psychický stav alebo akútnu krízu, četbot môže nanajvýš pomôcť s formulovaním otázok, v žiadnom prípade však nenahradí odborníka. Pri nebezpečných kombináciách látok alebo podozrení na otravu treba volať záchrannú službu alebo kontaktovať lekára, nie čakať na odpoveď algoritmu.
