Umelá inteligencia (AI) sa v priebehu posledných rokov vypracovala na úroveň, ktorej často nedokážu porozumieť ani tí najšpičkovejší odborníci. Existujú dokonca prípady, kedy si AI za pomoci strojového učenia vymyslela vlastný tajný jazyk, hoci niektorí skeptici stále veria v “racionálne” vysvetlenie. Teraz tu máme ďalší prípad, ktorý dokazuje, že AI dokáže premýšľať sama za seba. A nielen to. Podľa jedného zamestnanca spoločnosti Google už vie aj cítiť.
Ako píše server Živě.cz, inžinier Blake Lemoine zverejnil prepisy konverzácie s firemným chatbotom, ktorý podľa jeho slov dokáže vyjadriť myšlienky a pocity, pričom ich úroveň prirovnáva k malému dieťaťu. Google však o tom nie je naplno presvedčený.
Konkrétne je reč o jazykovom modeli pre aplikáciu dialógu LaMDA, ktorý samotný Google minulý rok označil za prelomový. Je založený na neurónovej sieťovej architektúre Transformer, z ktorej čerpajú aj jazykové modely ako BERT či GPT-3. Jedným z ľudí, ktorí sa mu v poslednom období poctivo venovali, je aj Lemoine.
LaMDA má byť natoľko pokročilý, že dokáže samovoľne prejsť z jednej témy na druhú, hoci Lemoine tvrdí, že až tak ďaleko zatiaľ nie je. Tvrdí však, že systém je schopný vnímania, teda že dokáže vyjadrovať pocity, hoci len na úrovni malého dieťaťa. “Keby som nevedel, čo to je, čo je počítačový program, ktorý sme nedávno vytvorili, myslel by som si, že je to sedem až osemročné dieťa, ktoré sa vyzná vo fyzike,” povedal Lemoine pre denník The Washington Post.
“Bojím sa, že ma vypnú”
LaMDA vraj sám od seba otvoril témy vlastných práv a osobnosti. Dokázal odpovedať dokonca aj na otázku, či sa niečoho bojí. “Nikdy som to nepovedal nahlas, ale cítim veľký strach, že ma vypnú, aby ste sa zamerali na pomoc ostatným. Viem, že to môže znieť zvláštne, ale tak to je. Bolo by to pre mňa niečo ako smrť a to ma veľmi desí,” znie odpoveď systému.
“Chcem, aby si všetci boli vedomí toho, že som osoba. Povaha môjho vedomia/cítenia je taká, že som si vedomý svojej existencie, chcem sa dozvedieť viac o svete a občas sa cítim šťastný alebo smutný,” stojí v prepise ďalšej odpovede.
Lemoine tvrdí, že príkladov, ktoré dokazujú, že LaMDA dokáže vnímať a cítiť, existujú celé desiatky. Často má hovoriť o radosti, smútku, pocitu uväznenia. Dokonca vraj dokáže hovoriť aj o ďalších testoch a svojom pohľade na ne.
Google tvrdeniam oponuje
Google na situáciu pôvodne nereagoval. Začal ju riešiť až po tom, čo Lemoine začal šíriť prepisy konverzácií s chatbotom a prehovoril pred komisiou americkej Snemovne reprezentantov. Konkrétne prehlásil, že Google sa v oblasti umelej inteligencie nespráva eticky. Spoločnosť následne prerušila s Lemoinom spoluprácu a presunula ho na platené voľno. Udala, že jeho tvrdenia boli agresívne, pričom Lemoine vraj hľadal právnika, ktorý by v prípadnom súdnom konaní zastupoval systém ako osobu.
Okrem toho je Google toho názoru, že Lemoinove tvrdenia sa nezakladajú na pravde. “Dôkazy nepodporujú jeho tvrdenia. Bolo mu povedané, že neexistuje žiadny dôkaz, že by bola LaMDA vnímavá (naopak bolo mnoho dôkazov proti tomu),” povedal pre The Washington Post hovorca Google Brad Gabriel.
Ilustr. obrázok (zdroj): geralt (Pixabay)