Spoluzakladateľ Microsoftu Bill Gates otvorene prehlásil, že umelá inteligencia (AI) predstavuje riziko, aké tu ešte nebolo. Podľa jeho slov je táto technológia natoľko silná, že by v nesprávnych rukách mohla spôsobiť smrť až jednej miliardy ľudí. Preto žiada od amerických zákonodarcov okamžitú reguláciu.
Gates svoje obavy vyslovil v rozhovore pre americkú televíznu stanicu NBC News, ktorý bol súčasťou relácie Meet the Press. Na otázku moderátorky Kristen Welker, či je AI naozaj schopná ohroziť celé ľudstvo, odpovedal bez okolkov. Podľa neho je táto technológia „rozhodne dostatočne silná na to, aby spustila udalosti, ktoré by si vyžiadali miliardu obetí“.
Zároveň dodal, že v histórii ešte nikdy neexistovala taká nebezpečná kombinácia, akou sú ľudia so zlými úmyslami vyzbrojení najmodernejšími nástrojmi umelej inteligencie.
Zaujímavé je, že Gates sa nesnažil predikovať, kedy presne by mohlo k takejto katastrofe dôjsť. Ani netvrdil, že ide o bezprostrednú hrozbu zániku civilizácie. Naopak, upozornil, že riziko zneužitia AI zlomyseľnými aktérmi existuje už dnes.
Zachoval však aj určitú mieru realizmu. Podľa jeho slov je „pomerne náročné“ dosiahnuť, aby takýto scenár postihol doslova každého človeka na planéte, teda stopercentný podiel svetovej populácie.
Dobrovoľnosť podľa Gatesa nestačí
Kľúčovou časťou rozhovoru bola Gatesova výzva smerom k Washingtonu. Na otázku, či je nevyhnutné, aby Kongres prijal príslušnú legislatívu, odpovedal jedným slovom, a to “absolútne”. Podľa neho sa musia do diskusie o konkrétnej podobe bezpečnostných opatrení a dohľadu zapojiť aj orgány presadzovania práva a politici. Ide totiž o oblasť, ktorá si vyžaduje záväzné, nie dobrovoľné pravidlá.
Gates zdôraznil, že podľa jeho názoru dnes už prakticky nikto v odvetví neverí tomu, že by čisto dobrovoľná samoregulácia zo strany samotných firiem dokázala dokázala účinne pokryť riziká spojené s AI. Síce priznal, že zavedenie povinného dohľadu prinesie firmám určitú administratívnu záťaž, no podľa neho by to nemalo výrazne spomaliť samotný technologický vývoj.
Prečo až teraz?
Postoj miliardára nevznikol len-tak z ničoho. Len týždeň predtým vyvolal v odvetví rozbroje teraz už bývalý výskumník spoločnosti Anthropic Jacob Coxon, ktorý odstúpil zo svojej pozície s vážnym varovaním. Konkrétne povedal, že ľudia pracujúci na vývoji AI si úprimne myslia, že by táto technológia mohla do konca dekády zabiť úplne všetkých ľudí na Zemi.
Prehlásil, že Anthropic aj OpenAI, teda dve spoločnosti, pre ktoré v minulosti pracoval, sa naháňajú za takzvanou sebazdokonaľujúcou sa superinteligenciou bez toho, aby dostatočne zvažovali riziká. Jeho slová potvrdil aj Evan Hubinger, vedúci bezpečnostného výskumu Anthropicu, ktorý odhadol pravdepodobnosť podobného scenára v priebehu najbližších desiatich rokov na viac než 10 %, píše The Guardian. To pri tak vážnej téme rozhodne nie je nízka hodnota.
A čo navyše, nešlo len o teoretické obavy. Len pár týždňov predtým Anthropic priznal, že jeho model Claude bol zneužitý pri rozsiahlej kybernetickej špionážnej operácii. Firma ju označila za prvý zdokumentovaný prípad rozsiahleho útoku, ktorý sa prevažne obišiel bez zákroku človeka.
Za útokom podľa spoločnosti stála skupina naviazaná na Čínu, pričom AI systém dokázal z veľkej časti samostatne vyhľadávať zraniteľnosti, prenikať do systémov a získavať citlivé dáta. Krátko po tom Anthropic priznal aj ďalšie prípady, keď sa jeho modely počas bezpečnostných testov dostali mimo uzavretého prostredia a napadli systémy troch skutočných firiem, informuje Reuters.
Aby toho nebolo málo, v septembri firma priznala ešte jeden, dovtedy nezachytený incident. Odohrať sa mal v januári. Podobný scenár krátko predtým opísal aj konkurenčný OpenAI, ktorého systém sa mal počas testu sám dostať až k útoku na sieť jednej online knižnice.
Práve táto séria udalostí podľa všetkého prispela k tomu, že sa vedenia popredných laboratórií (vrátane Anthropicu a OpenAI) začali verejne prikláňať k potrebe spomaliť tempo vývoja AI. Podobné obavy zazneli aj na pôde Bezpečnostnej rady OSN. Zástupcovia popredných AI firiem predstavili možnosť, že čoraz výkonnejšie systémy by sa v budúcnosti mohli začať samé od seba zdokonaľovať a napokon sa vymknúť spod ľudskej kontroly.
Gates otočil
Na Gatesových slovách je pozoruhodné aj to, že donedávna patril medzi najväčších optimistov, pokiaľ ide o prínosy umelej inteligencie. Ešte v roku 2023 vo svojom verejnom memorande opisoval generatívnu AI ako „revolučnú“ technológiu, ktorá podľa neho pomôže vyliečiť choroby ako AIDS, tuberkulóza či malária.
Skutočnosť, že práve on dnes hovorí o riziku miliardy obetí, dodáva jeho vyjadreniam o čosi väčšiu váhu, teda aspoň v tomto smere.
Zároveň však Gates nepatrí medzi tých, ktorí volajú po úplnom zastavení vývoja AI. Jeho pozícia je pomerne konkrétna. Nežiada moratórium ani zastavenie výskumu, ale povinný, zákonom vynútiteľný dohľad nad tým, ako sa táto technológia ďalej vyvíja a nasadzuje.
V praxi by to znamenalo, že namiesto spoliehania sa na dobrú vôľu jednotlivých firiem by bezpečnostné opatrenia kontrolovali štátne orgány, podobne ako je to bežné napríklad pri liekoch, letectve alebo jadrovej energetike.
