Výkonný riaditeľ Tesly, Elon Musk, je medzi niekoľkými ďalšími osobnosťami a výskumníkmi, ktorí podpísali otvorený list smerovaný OSN, s požiadavkou regulovať vojenské zbrane poháňané umelou inteligenciou.
V liste od inštitútu Future of Life vyjadruje 116 podpisov svoje obavy s tým, že by OSN mala vytvoriť akúsi ochranu, ktorá by zabránila eskalácii vo vývoji a používaní takýchto zbraní. Tá by sa teda týkala vojenských zariadení, ktoré využívajú umelú inteligenciu pre zameranie cieľa, na ktorý zaútočiť alebo sa mu naopak vyhnúť.
Pred čím tento list varuje a prečo
Hrozí, že tieto smrteľné autonómne zbrane sa stanú treťou vojenskou revolúciou. Akonáhle budú vytvorené, umožnia bojovať proti ozbrojeným konfliktom na omnoho väčšej škále ako kedykoľvek predtým, v časových rozsahoch rýchlejších než je človek schopný pochopiť. Môžu to byť zbrane teroru, kedy ich budú teroristi využívať proti nevinnému obyvateľstvu alebo zbrane hacknuté tak, aby sa správali veľmi nežiaduco. Nemáme mnoho času konať. Keď bude Pandorina skrinka otvorená, bude veľmi ťažké znova ju zavrieť. Vyzývame preto vysoké zmluvné strany, aby našli spôsob, ako nás ochrániť pred všetkými týmito nebezpečenstvami.
Ďalší, ktorí tento list podpísali, boli aj Mustafa Suleyman, zakladateľ DeepMind, Yoshua Bengio od Element AI, ale aj zakladateľ Bayesian Logic, Stuart Russell.
Už to nie je len v sci-fi filmoch
Zatiaľ čo väčšina súčasného odporu proti vývoju umelej inteligencie sa sústredila na jeho teoreticky dlhodobé dôsledky, AI zbrane sú momentálnou realitou. Nesmieme zabúdať na to, že na rozdiel od iných potencionálnych možností AI, ktoré stále zostávajú v oblasti sci-fi, sú autonómne zbrojné systémy na začiatku vývoja. Univerzita podporovaná inštitútom Future of Life poukázala, že AI bola postupne využívaná v súčasných aplikáciách, ako napríklad v zbraňovom systéme dronov, ktoré môžu nezávisle analyzovať prostredie a zaútočiť, keď vidia špecifický cieľ.
If you're not concerned about AI safety, you should be. Vastly more risk than North Korea. pic.twitter.com/2z0tiid0lc
— Elon Musk (@elonmusk) August 12, 2017
Ľudia, ktorí podpísali list teda tvrdia, že zvýšená účinnosť vojenských zariadení na báze AI by mohla viesť k tomu, že vojna bude pre civilistov značne nebezpečnejšia. A ako vieme, Elon Musk je dlhodobým zástancom regulácie AI ako takej.