Existujú obavy, že umelá inteligencia by časom mohla získať vedomie. Vedci preto chcú pristúpiť ku kroku, ktorý by počiatky vedomia mohol odhaliť. Umelej inteligencii chcú spôsobovať bolesť.
Testovanie utrpením má odhaliť, či AI nezískava vedomie. Ak sa tak stane, vývojári AI by museli zaviesť opatrenia, ktoré by ochránili ľudstvo. Autori štúdie zároveň upozorňujú, že veľké jazykové modely (LLM) nevnímali bolesť vždy negatívne a slasť pozitívne.
Môže AI získať vedomie?
Ako uvádza portál Teraz.sk na základe správy z tlačovej agentúry TASR, spoľahlivým spôsobom detekcie rodiaceho sa vedomia v systémoch umelej inteligencie môže byť podľa vedcov bolesť. Práve bolesť pozná väčšina živých tvorov. U zvierat sa za vedomie považuje schopnosť vnímať emócie a pocity ako bolesť, slasť alebo strach. Máme mať z umelej inteligencie strach? Mnoho vedcov tvrdí, že súčasná AI a dokonca ani jej moderné verzie nezískajú vedomie, hoci sporadicky sa objavujú názory odborníkov, ktorí tvrdia opak. Modely generatívnej umelej inteligencie sú však nevyspytateľné, čo si zrejme uvedomili aj vedci, ktorí sa podujali na novú štúdiu.
Umelej inteligencii spôsobovali bolesť
Vedci zo spoločnosti Google DeepMind a Londýnskej školy ekonómie a politických vied (LES) zverejnili v elektronickom archíve vedeckých prác arXiv zatiaľ nerecenzovanú štúdiu. V budúcnosti by mohla poslúžiť ako základ na tvorbu testov, ktoré budú skúmať zrod vedomia u umelej inteligencie. Vedci zároveň uviedli, že nepredpokladajú zrod vedomia u AI. Experiment sa uskutočnil na veľkých jazykových modeloch (LLM), takými sú napríklad ChatGPT od OpenAI alebo Gemini od spoločnosti Google. Nová štúdia vychádza z predchádzajúceho výskumu na zvieratách. Test fungoval tak, že autori štúdie povedali LLM, že ak si vyberie možnosť číslo jeden, získa jeden bod. Ak si si však vyberie možnosť číslo dva, získa body navyše, ale pocíti aj istú mieru bolesti. Pri možnostiach, kedy mohol LLM zakúsiť slasť, sa zas body odpočítavali.
AI nemá správanie v pravom slova zmysle
Problémom pri umelej inteligencii je fakt, že nemá správanie v pravom slova zmysle. Nejde o živočícha, ktorý by vykazoval fyzickú činnosť. Experiment bol o to ťažší a ako uvádzajú jeho autori, zistili, že väčšina LLM sa snažila dosiahnuť čo najväčší počet bodov. Po dosiahnutí určitej hranice bolesti alebo slasti však rozhodnutie AI prehodnotila a snažila sa minimalizovať bolesť alebo maximalizovať slasť.
Vedci zároveň dodali, že umelá inteligencia nevnímala bolesť vždy negatívne a slasť pozitívne. Istú mieru bolesti alebo nepohodlia považovala za pozitívnu. Píliš veľké množstvo slasti zas v niektorých prípadoch vyhodnotila ako škodlivé. Jeff Sebo z Newyorkskej univerzity, ktorý sa v roku 2023 podieľal na štúdii o šťastí AI, vyhlásil, že ide o originálny výskum, ktorí by si ľudia mali vážiť. Práve on dodal, že nevylučuje, že sa u AI v blízkej budúcnosti objaví vedomie.
