David Petraeus, generál vo výslužbe, ktorý kedysi viedol americké a koaličné sily v Iraku a Afganistane a neskôr aj CIA, tvrdí, že umelá inteligencia čoskoro zmení spôsob, akým sa vedú vojny. Vraj už o štyri roky začnú na bojisku pôsobiť siete autonómnych systémov, pri ktorých budú pracovať aj štábni dôstojníci z umelej inteligencie.
Petraeus o tom hovoril v podcaste Forecast 2050, ktorý vedie investor Finn Murphy. Rozhovor bol nahraný 10. augusta a jeho prepis vyšiel 8. októbra. Generál v ňom hovorí, že do roku 2030 budú armády bojovať pomocou autonómnych systémov, ktoré budú samy tvoriť väčšie systémy. Takzvané „systémy autonómnych systémov“ označil za mimoriadne veľkú myšlienku a dodal, že ich prvé fázy začneme pozorovať ešte pred koncom aktuálnej dekády.
Od jednotlivých dronov k celým sieťam
Podstatou Petraeusovej vízie nie je to, že by sa jednotlivé drony zrazu stali chytrejšími. Ide o ich prepojenie. Senzory na bojisku by posielali údaje do centrálneho systému a ten by na ich základe riadil zbrane s minimálnym zásahom človeka. Petraeus pritom už v marci spolu s obranným analytikom Isaacom Flanaganom publikoval esej, konkrétne v časopise Foreign Affairs, v ktorej opísal autonómne útvary veľkosti čaty až práporu. Tvorili by ich vzdušné, pozemné aj námorné systémy, ktoré sa bleskovo koordinujú a dokážu udržať tempo útoku aj vtedy, keď nepriateľ preruší spojenie. Autori v nej zároveň tvrdili, že vojny budúcnosti nevyhrá ten, kto bude mať najviac dronov, ale ten, kto najlepšie vyrieši otázku, ako takýmto formáciám veliť.
Azda tou najdôležitejšou časťou rozhovoru je predstava agentickej umelej inteligencie v úlohe štábnych dôstojníkov. Keďže pôjde o stroje, budú pracovať nepretržite, bez spánku, jedla či prestávky. Ich schopnosti prirovnal k úrovni nositeľov Nobelovej ceny. Ako ďalší krok spomína takzvané rekurzívne učenie, pri ktorom sa stroj začne trénovať sám. Termín, kedy by technológia mohla dospieť do tohto bodu neuviedol. Je ale presvedčený o tom, že ak nezakročíme, jedného dňa príde.
Z toho podľa generála vyplýva aj nová úloha veliteľov. Mali by uvažovať o tom, že delegujú právomoci na podriadených, ktorí sú v podstate géniovia, a museli by im preto dávať pomerne presné pokyny, ktoré vymedzia pravidlá nasadenia. Pri autonómnych zbraniach bude systém riadiť palubný počítač a ten bude konať autonómne, teda sám za seba. Človek môže zasiahnuť alebo útok prerušiť len vtedy, ak zostane v slučke. Keď však nepriateľ preruší spojenie s operátorom, systém jednoducho vykoná to, čo mu bolo vopred zadané.
Ukrajina ako skúšobné pole
Petraeus v tomto smere ako príklad opakovane uvádza Ukrajinu. V podcaste odhadol, že ukrajinské obranné sily dnes spotrebujú viac ako 10 000 dronov denne a že krajina tento rok vyrobí najmenej 8 miliónov bezpilotných prostriedkov. Približne 40 percent tamojších dronov pritom lieta s optickým káblom, ktorý je odolný voči rušeniu. Očakáva, že do konca tohto roka výrazne stúpne počet skutočne autonómnych bezpilotných systémov.
Podobne hovoril aj v rozhovore pre agentúru RBC-Ukrajina, ktorý sa odohral v septembri. Ukrajina vraj už testuje systémy, ktoré po vypustení smerujú k určenému cieľu bez neustáleho dohľadu človeka. Ďalším krokom má byť spojenie autonómie s diaľkovo ovládanými automatizovanými odpaľovacími platformami, čo zníži závislosť od vycvičených pilotov dronov. Na niektorých úsekoch frontu má zóna smrti, v ktorej je takmer každý pohyb techniky odhalený a napadnutý dronmi, hĺbku 25 až 35 km. Prieskum, velenie, určovanie cieľov a úder sa vraj budú čoraz viac správať ako jeden automatizovaný celok. Ľudia sa presunú od ovládania jednotlivých zariadení k dohľadu nad sieťami.
Človek má mať posledné slovo. Zatiaľ
Americká armáda umelú inteligenciu v boji už používa, hoci zatiaľ inak, než opisuje Petraeus. Admirál Brad Cooper, ktorý velí Ústrednému veleniu USA (CENTCOM), v marci potvrdil, že pri operácii Epic Fury proti Iránu nasadzujú pokročilé nástroje AI. Pomáhajú rýchlo pretriediť obrovské množstvo údajov, aby velitelia mohli rozhodovať rýchlejšie, než nepriateľ stihne reagovať. Procesy, ktoré kedysi trvali hodiny alebo aj dni, dokážu skrátiť na sekundy. Konkrétne systémy však nemenoval. Zároveň zdôraznil, že o tom, na čo strieľať, na čo nie a kedy, budú vždy rozhodovať ľudia.
Toto stanovisko zodpovedá aj oficiálnej politike. Smernica ministerstva obrany USA č. 3000.09 o autonómii zbraňových systémov, vydaná v roku 2012 a aktualizovaná v januári 2023, vyžaduje, aby velitelia a operátori mohli nad použitím sily uplatniť primeranú mieru ľudského úsudku. Autonómne zbrane, ktoré nespadajú pod výnimky, musia pred vývojom aj nasadením prejsť preverením na úrovni vysokých predstaviteľov rezortu. Formulácia “primeraná miera“ však nie je to isté ako požiadavka, aby človek schvaľoval každý jeden výstrel.
Lídrom nemajú byť USA
Táto zmena má mať svojho lídra, no podľa Petraeusa ním nebudú Spojené štáty, ale Veľká Británia. TechSpot vysvetľuje, že tá má menšiu armádu, centralizovanejšie ministerstvo obrany a rozpočet s väčším dôrazom na bezpilotné systémy. Americká armáda naproti tomu stále nemá nový veľký koncept vedenia vojny a neprijala potrebné inštitucionálne zmeny. Program Replicator mal do polovice minulého roka priniesť tisíce autonómnych systémov, dodal však len stovky. USA tiež nemali spoločnú doktrínu pre autonómne formácie ani velenie, ktoré by ju vytváralo.
Aspoň v jednom bode sa však ľady pohli. Minister obrany Pete Hegseth koncom septembra na základni Quantico oznámil vznik Velenia autonómneho boja (AUTOWARCOM). Má ísť o nové štvorhviezdičkové bojové velenie s právomocami podobnými samostatnej zložke ozbrojených síl. Vzniknúť má do do 1. októbra 2027 a jeho poslaním bude urýchliť vývoj a nasadenie autonómnych a poloautonómnych systémov vrátane dronov, AI a systémov velenia.
To, čo padlo v podcaste, sa teda dá preložiť dvomi spôsobmi. Buď to ako varovanie, že armáda, ktorá zaváha, prehrá s protivníkom, ktorý dokáže reagovať rýchlosťou stroja, alebo ako pripomienka, že technológia predbieha pravidlá. Armády budú musieť postaviť systémy, ktoré dokážu koordinovať operácie, a súčasne rozhodnúť, akú mieru autority im zveria. Admirál Cooper hovorí, že posledné slovo bude mať vždy človek, Petraeus zase pripúšťa, že po prerušení spojenia stroj dokončí úlohu sám.
