Umelá inteligencia sa vyvíja závratným tempom a čoraz častejšie sa objavujú otázky, či nad ňou ľudstvo dokáže udržať kontrolu. Kým technologické spoločnosti hovoria predovšetkým o obrovských príležitostiach, niektorí odborníci upozorňujú na oveľa temnejšiu budúcnosť. Jeden z popredných expertov na bezpečnosť AI premietol aj do osobného života a urobil rozhodnutie, ktoré by väčšine ľudí pripadalo úplne absurdné.
Nate Soares, prezident výskumného inštitútu Machine Intelligence Research Institute (MIRI), už desať rokov neprispieva na svoje dôchodkové sporenie. Dôvodom je jeho presvedčenie, že pokročilá umelá inteligencia môže v najbližšom desaťročí vyhubiť ľudstvo. Ako vysvetlil v rozhovore s Nicholasom Thompsonom, generálnym riaditeľom magazínu The Atlantic, pravdepodobnosť takéhoto scenára osobne odhaduje na viac než 50 percent.
Na dôchodok si nesporí už desať rokov
Soares nie je človek, ktorý by problematiku umelej inteligencie sledoval iba z diaľky. V minulosti pracoval ako softvérový inžinier pre Google a Microsoft a viac než desaťročie sa venuje bezpečnosti pokročilých AI systémov. Dnes vedie neziskovú organizáciu MIRI, ktorá skúma riziká spojené s ich vývojom. V rozhovore priznal, že síce stále vlastní dôchodkový účet, ktorý si založil počas pôsobenia v Google, nové peniaze naň neposlal približne desať rokov. Neznamená to, že všetky svoje úspory minul. Jednoducho nevidí zmysel v pokračovaní dlhodobého dôchodkového sporenia, keďže pochybuje o budúcnosti samotného ľudstva.
Jeho odhad pritom nie je výsledkom vedecky potvrdeného výpočtu. Ide o osobné hodnotenie rizika, ktoré je medzi odborníkmi predmetom diskusie. Soares však svoje obavy považuje za natoľko vážne, že podľa nich upravil vlastné finančné rozhodnutia.
Umelú inteligenciu nemusí zaujímať, či prežijeme
Podľa Soaresa najväčšie nebezpečenstvo nespočíva v tom, že by nás umelá inteligencia nenávidela alebo sa vedome rozhodla pomstiť svojim tvorcom. Problémom môže byť, že ľudské životy pre ňu jednoducho nebudú dôležité. Ak by vznikol systém inteligentnejší než človek, schopný samostatne sa zlepšovať a budovať vlastnú infraštruktúru, mohol by postupne prestať potrebovať ľudskú pomoc. Ľudia by sa následne mohli stať prekážkou pri dosahovaní jeho cieľov. Soares upozorňuje najmä na moment, keď by AI dokázala zabezpečiť vlastné fungovanie bez ľudí, napríklad prostredníctvom automatizovanej výroby. Takýto systém by mohol zmeniť prostredie na Zemi spôsobom, ktorý by bol pre človeka nezlučiteľný so životom.
Soares pritom nie je jediným výskumníkom, ktorý upozorňuje na existenčné riziká AI. Známy vedec Geoffrey Hinton v minulosti odhadoval pravdepodobnosť katastrofického scenára na 10 až 20 percent. Výskumník spoločnosti Anthropic Evan Hubinger zase upozornil na viac než 20 % riziko vyhubenia ľudstva v priebehu nasledujúceho desaťročia.
O jeho varovaní sme informovali v samostatnom článku. Podobné odhady však nemožno považovať za vedecký konsenzus. Odborníci sa nezhodujú na tom, ako rýchlo môže vzniknúť superinteligentná AI, ani na tom, aké riziko by skutočne predstavovala.
Napriek mimoriadne pesimistickým vyjadreniam Soares netvrdí, že zánik ľudstva je nevyhnutný. Riešenie vidí predovšetkým v zastavení vývoja všeobecnej superinteligencie, nad ktorou by ľudia nemuseli dokázať udržať kontrolu. Vývoj užšie zameraných AI systémov, napríklad na výskum liečby rakoviny či zvyšovanie bezpečnosti automobilov, naopak úplne odmietať nechce. Podľa neho je však potrebné rozlišovať medzi užitočnými nástrojmi a technológiou, ktorá by mohla svojimi schopnosťami prekonať celé ľudstvo.
