Posledná červená čiara sa prekračovala: Britská armáda testuje autonómne zabíjacie systémy bez ľudskej kontroly.

Len pred niekoľkými rokmi sa táto myšlienka považovala za červenú čiaru v modernom vojnovom svete: žiadny počítač, žiadny algoritmus ani žiadny stroj by nikdy nemal mať možnosť nezávisle rozhodovať o živote a smrti. Dnes je práve táto zásada predmetom diskusie vo Veľkej Británii.

Ako informovali Financial Times a Daily Mail , britskí obranní plánovači skúmajú, či by zbraňové systémy ovládané umelou inteligenciou mali mať povolené vykonávať smrteľné útoky bez priameho ľudského súhlasu. Toto by mohlo znamenať prvý krok vedúcej mocnosti NATO smerom k autonómnym systémom zabíjania. ( ft.com )

Červená čiara sa posúva

Doteraz platila oficiálna zásada „Človek v slučke“ – človek musí v konečnom dôsledku rozhodnúť, či je cieľ napadnutý.

Časti britskej armády však teraz požadujú väčší priestor pre autonómne systémy. Minister obrany Al Carns otvorene vyhlásil, že je nevyhnutné mať možnosť „v prípade potreby vylúčiť ľudí zo systému“, keďže protivníci ako Rusko alebo Čína nedodržiavajú rovnaké obmedzenia.

Argumentácia spočiatku znie pragmaticky: moderné vojny sú čoraz rýchlejšie, roje dronov a systémy umelej inteligencie dokážu robiť rozhodnutia v priebehu niekoľkých sekúnd, zatiaľ čo ľudskí velitelia môžu reagovať príliš pomaly.

Ale práve tu sa začína skutočná kontroverzia.

Kto nesie zodpovednosť?

Hneď ako si stroj sám vyberie ciele a zaútočí na ne, vzniká problém, ktorý zatiaľ nikto presvedčivo nevyriešil:

Kto nesie zodpovednosť, ak si umelá inteligencia vyberie nesprávny cieľ? Kto je zodpovedný, ak sú zabití civilisti? Kto bude zodpovedný, ak algoritmus urobí nesprávne rozhodnutie z dôvodu chybných údajov alebo elektronických porúch?

Kritici varujú, že s každým krokom smerom k autonómnemu boju sa hranica medzi ľudskou zodpovednosťou a rozhodovaním strojov čoraz viac stiera.

Koniec sľubu?

Obzvlášť pozoruhodné je načasovanie diskusie.

Ešte v roku 2024 britská vláda vyhlásila OSN, že Británia nevlastní plne autonómne zbraňové systémy a nemá v úmysle takéto systémy vyvíjať. Žiadny štát by nemal používať zbrane schopné robiť smrteľné rozhodnutia bez primeraného ľudského dohľadu. ( ft.com )

Len o dva roky neskôr sa táto pozícia opäť predkladá na diskusiu.

Kritici tvrdia, že to demonštruje, ako rýchlo môžu etické princípy ustúpiť geopolitickým a vojenským záujmom.

Globálna aktualizácia umelej inteligencie

Veľká Británia nie je v tomto vývoji sama.

Vojna na Ukrajine, rýchly vývoj autonómnych dronov a technologické preteky medzi veľmocami zvýšili tlak na západné armády. Čoraz viac štátov investuje do systémov, ktoré dokážu fungovať s minimálnym ľudským zásahom.

Čo sa kedysi považovalo za sci-fi, sa postupne stáva vojenskou realitou.

Skutočná otázka

Debata o autonómnych zbraniach v konečnom dôsledku nie je technickou otázkou.

Je to morálna otázka. Mal by byť stroj niekedy oprávnený nezávisle rozhodovať o tom, kto bude žiť a kto zomrie?

Británia už o tejto možnosti teoreticky nediskutuje. Diskusia už prebieha na najvyšších úrovniach obranného aparátu.

A práve preto by súčasná diskusia mohla mať význam ďaleko za hranicami Britských ostrovov. Pretože ak by niektorá z mocností NATO odstránila ľudí z rozhodovacieho procesu, mohlo by to vytvoriť precedens, ktorý by čoskoro mohli nasledovať aj ďalšie štáty.