„Robopsi“ na majstrovstvách sveta – technologický pokrok alebo automatizácia mocenskej politiky?

História nás učí, že vládnuce elity – bez ohľadu na formu vlády – vždy využívali každú technologickú inováciu na zabezpečenie svojej moci a rozšírenie spoločenskej kontroly. Súčasné, zrýchlené zavádzanie policajných robotov dokonale zapadá do tohto historického vzorca.

Či už ide o autonómne „ robopsy “ alebo mobilné sledovacie platformy: to, čo sa zavádza pod rúškom „ efektívnosti “ a „ bezpečnosti “, hrozí, že sa stane mocným nástrojom na udržanie moci. Aj v západných demokraciách je hranica medzi legitímnou prevenciou hrozieb a štrukturálnou represiou čoraz viac rozmazaná, zatiaľ čo občianske slobody sa postupne narúšajú.

Sľub: Prevádzková pridaná hodnota a ochrana

Argumenty zástancov znejú na prvý pohľad racionálne. Technické systémy by sa mali nasadiť tam, kde sú záchranári ohrození smrťou. Správy o použití robotov v nebezpečných situáciách opakovane zdôrazňujú, že zneškodňovanie výbušnín alebo prehľadávanie kontaminovaných budov strojmi môže drasticky znížiť počet zranených policajtov. Praktické príklady zo súkromného sektora, ako napríklad priemyselné roboty od spoločnosti Boston Dynamics, demonštrujú ich mechanickú spoľahlivosť v náročnom teréne.

• https://www.dostojneslovensko.online/ozbrojeny-roboticky-pes-vedie-v-cine-vycvik-boja-zblizka-toto-je-buducnost-pred-ktorou-varujeme-uz-roky/
• https://www.dostojneslovensko.eu/sk/co-nikto-nepovedal/zo-zahranicia/284-19-11-21-total-control-policajne-roboty-hliadkuju-v-uliciach-singapuru

Štúdie o automatizácii v bezpečnostných službách zároveň sľubujú obrovské zvýšenie efektívnosti. Autonómne systémy nikdy nespia. Hliadkujú nepretržite, poskytujú údaje v reálnom čase a skracujú reakčné časy. To však ignoruje časy a náklady na údržbu. Z pohľadu úradov tiež znižujú riziko priamych fyzických konfrontácií: Robot analyzujúci situáciu na diaľku je psychologicky menej vyčerpávajúci ako ťažko ozbrojená jednotka špeciálnych síl. Argumentuje sa tiež, že komplexná senzorová technológia poskytuje objektívne dôkazy. V rámci existujúcich zákonov o telesných kamerách a sledovaní by takéto záznamy teoreticky mohli prispieť k vyšetrovaniu pochybení úradníkov – za predpokladu, že zvrchovanosť údajov nepatrí výlučne orgánom činným v trestnom konaní.

Realita: kontrola, militarizácia a postupná normalizácia.

Za touto zdanlivo užitočnou fasádou sa však skrýva inherentná snaha štátu technologicky zdokonaliť svoj monopol na používanie sily. Kombinácia mobilných platforiem, biometrického rozpoznávania tváre a behaviorálnej analýzy s využitím umelej inteligencie vytvára infraštruktúru pre všadeprítomný preventívny dohľad. Technológia sa tu priamo stretáva so základnými demokratickými právami, pretože komplexné profily pohybu účinne eliminujú anonymitu vo verejných priestoroch.

Obzvlášť alarmujúca je rastúca militarizácia polície. Hneď ako roboty prestanú len pozorovať, ale sú vybavené taktickými donucovacími prostriedkami alebo dokonca zbraňami, hranica medzi vnútornou bezpečnosťou a vojenskou vojnou sa stiera. Historicky vyzbrojovanie policajných síl zriedkakedy viedlo k väčšiemu mieru, ale skôr k odcudzeniu od obyvateľstva a tvrdšiemu prístupu k potláčaniu protestov. Keď algoritmy rozhodujú o použití sily, sú pravdepodobné fatálne chyby. Analýzy chýb a zodpovednosti umelej inteligencie pravidelne ukazujú, že skreslené súbory údajov a nejasné pravidlá zodpovednosti môžu v kríze viesť k nekontrolovateľnému násiliu zo strany štátu, za ktoré nakoniec nikto nepreberá zodpovednosť.

To, že verejnosť často prijíma túto alarmujúcu situáciu bez sťažností, nie je náhoda. Psychologická manipulácia a cielená normalizácia v mediálnom pokrytí umelo nafukujú verejnú akceptáciu. Keď sa bojovým strojom dávajú roztomilé mená alebo sú zobrazované ako domáce zvieratá ( „K9“ ) , emocionálny prah reakcie sa znižuje. Ich mediálne zobrazovanie ako „technologických zázrakov“ zakrýva drsnú realitu mocenskej politiky. V represívnych systémoch je potenciál zneužívania zrejmý: Ako ukazujú prípadové štúdie o technológiách a represiách, automatizované systémy sú dokonalým nástrojom na potlačenie opozície nákladovo efektívne, bezchybne a bez rizika vzbury ľudských vojakov.

Dilema riadenia: Bezprávne priestory a algoritmická nepriehľadnosť

Predtým, ako sa tieto systémy stanú novým štandardom, je potrebné objasniť základné otázky demokratickej kontroly – otázky, ktorým sa vládnuce kruhy radšej vyhýbajú, aby si zachovali vlastnú schopnosť konať:

• Transparentnosť algoritmov: Aké údaje sa používajú pri analýzach hrozieb? Bez úplného zverejnenia a nezávislých auditov zdrojových kódov zostáva rozhodovanie polície neoveriteľnou čiernou skrinkou.
• Princíp „človek v slučke“: Musí byť právne zaručené, že každé fyzické donucovacie opatrenie musí byť schválené ľudskou bytosťou. Autonómne použitie sily je v právnom štáte neprijateľné.
• Ochrana údajov ako ochrana pred štátom: Na ochranu občanov pred algoritmickými vyhľadávaniami je potrebný absolútny zákaz preventívneho biometrického hromadného sledovania vo verejných priestoroch!

Záver a naliehavé rozhodnutia

Zavedenie policajných robotov nie je len technický problém, ale zásadná otázka moci . Tí, ktorí sú pri moci, vždy využívali technologický pokrok na rozšírenie svojho vplyvu a minimalizáciu rizík pre vlastnú vládu. Ak demokracie nebudú konať rozhodne, polícia sa z priateľa a pomocníka zmení na automatizovaný kontrolný mechanizmus .

Na potlačenie tohto dystopického vývoja sú nevyhnutné okamžité politické usmernenia:

• Prísne moratórium na akékoľvek systémy vybavené autonómnymi alebo diaľkovo ovládanými zbraňami a donucovacími zariadeniami.
• Prísne zákonné obmedzenia týkajúce sa zhromažďovania, uchovávania a prepájania údajov zo sledovania vo verejných priestoroch.
• Vytvorenie úplne nezávislých testovacích orgánov , ktoré komplexne monitorujú algoritmy a prevádzkové výsledky a zverejňujú pochybenia.
• Záväzná účasť verejnosti a transparentné hodnotiace správy pred každým plánovaným testom alebo nasadením v reálnom svete.

Tieto opatrenia však môžu veci len spomaliť. Keď sa hromadný zber údajov stal verejne dostupným, tvrdilo sa, že „úradníci pre ochranu údajov“ budú ostražití. Dôsledky toho boli zrejmé včera v Európskom parlamente, keď sa prostredníctvom „demokratického“ triku presadilo sledovanie chatu . Dnes, keď ľudia počujú „ochranu údajov“, chápu to ako ochranu tých, ktorí sú pri moci, a prevádzkovateľov údajov, a nie ako ochranu vlastníkov údajov. Preto je výhľad dosť pochmúrny, ale aspoň nejaká forma obmedzení je potrebná.

Organizácie ako Amnesty International, ktorá sa zameriava na biometrický dohľad, a Human Rights Watch, ktorá sa zaoberá militarizáciou polície, už roky varujú pred globálnymi dôsledkami tohto vývoja. Európsky parlament, ale bez slovenských europoslancov (tí za to hlasovali) sa tiež snaží zmierniť riziká prostredníctvom nariadení o umelej inteligencii. Zákony však často zaostávajú za technologickou realitou – čo je fakt, ktorý tí, ktorí sú pri moci, radi zneužívajú.