Svet technológií sa v posledných rokoch točí okolo jediného fenoménu a ním je umelá inteligencia (AI). Zatiaľ čo časť populácie oslavuje jej schopnosť zefektívniť prácu, kritické hlasy naberajú na intenzite.
Otázka už neznie len „ako nám AI pomôže“, ale či sme nevedomky nestvorili digitálne entity, ktoré vykazujú črty psychopatie. Ak včas nenastavíme jasné morálne mantinely, môžeme čeliť následkom, na ktoré ľudstvo nie je pripravené.
Umelej inteligencii chýba svedomie
Čo vlastne charakterizuje psychopata? Ako píše portál Novinky.cz, v zjednodušenej rovine ide o jednotlivca, ktorý nedokáže rozlíšiť dobro od zla na emocionálnej úrovni. Psychopat síce rozumie spoločenským pravidlám a vie, že existujú hranice, no ich prekračovanie v ňom nevyvoláva pocit viny či hanby. Okolie vníma len ako nástroj na dosiahnutie vlastných cieľov.
Mnohí odborníci si všimli znepokojivú paralelu medzi týmto opisom a fungovaním umelej inteligencie. Algoritmy nemajú emócie, pretože sa spoliehajú výhradne na dáta a logické postupy. Filozofka Catrin Misselhornová v rámci magazínu Psychology Today upozornila na zásadný fakt.
AI, podobne ako psychopat, nedokáže cítiť skutočnú empatiu. Dokáže však vynikajúco identifikovať vonkajšie znaky emócií a následne ich simulovať. Táto schopnosť napodobňovať ľudskosť môže byť zneužitá na sofistikovanú manipuláciu používateľa.
Digitálna chladnokrvnosť verzus ľudská zložitosť
Hoci sa zdá, že umelá inteligencia spĺňa definíciu psychopata, existuje tu jeden významný rozdiel a ním je vedomie. Ľudský psychopat si uvedomuje, že bolesť existuje, hoci k nej môže byť ľahostajný. Má schopnosť reflexie a teoreticky môže svoje správanie korigovať.
Umelá inteligencia však nemá žiadne vnímanie reality. Nechápe, čo je to utrpenie, a netuší, aký dopad majú jej výstupy v reálnom svete. A práve táto „amorálna racionalita“ predstavuje najväčšie riziko. Ak budeme AI nekriticky implementovať do citlivých oblastí.
Prečítajte si tiež
môžeme naraziť na chladné matematické riešenia, ktoré sú síce logicky správne, ale ľudsky neakceptovateľné. AI nám môže ponúknuť možnosti, ktoré by skutočný človek (aj ten s psychopatickými črtami) pre ich krutosť zavrhol.
Obavy vyjadrili aj vplyvné osobnosti
Obavy z nekontrolovaného vývoja AI nezdieľajú len akademici, ale aj vplyvné osobnosti biznisu. Známy miliardár a investor Warren Buffett nedávno prirovnal hrozbu umelej inteligencie k najväčšiemu strašiaku svojej kariéry, k jadrovým zbraniam.
Podľa neho sme sa ocitli v momente, kedy nikto, ani samotní tvorcovia týchto systémov, nedokáže predpovedať finálny výsledok tohto technologického preteku.
Buffett varuje, že akonáhle AI prekročí kritický bod vývoja, stane sa z nej povestný „džin z fľaše“. Ak sa raz táto technológia vymkne kontrole, nebude cesty späť. Navyše, integrácia AI do vojenského priemyslu by mohla radikálne uľahčiť prístup k jadrovému arzenálu ďalším krajinám, čím by sa riziko globálneho konfliktu dramaticky zvýšilo.
