Nebezpečenstvá implementácie umelej inteligencie vo vládnej správe

UI v rámci právneho štátu: Povolenie UI v politickej správe by mohlo podkopať dôveru verejnosti v štát.

Technokracia preberá moc nad vládami na celom svete a umelá inteligencia nahrádza právny štát – dokonca aj v Rusku. V Amerike bol Washington, D.C. „zaplavený“ arcitechnokratmi, ktorí chaoticky integrujú umelú inteligenciu do vládnych procesov:„Rozhodovanie založené na technológiách („hypertechnokracia“) venuje malú pozornosť hodnotám a presvedčeniam ľudí. Všetky formy ľudskej skúsenosti sú redukované na obyčajné „behaviorálne údaje“, ktoré sa majú premeniť na produkty pre analýzu, predikciu a riadenie.“– Patrick Wood, editor.

V minulom roku sme zaznamenali rastúci počet príkladov využitia umelej inteligencie vo verejnej správe. Vláda USA začala používať špecializované služby ako ChatGPT Gov a xAI pre vládu; ruská vláda oznámila svoj zámer uprednostniť implementáciu umelej inteligencie vo svojich operáciách. Tento trend sa už teraz javí ako nezvratný. Technológia však nemôže nahradiť samotnú správu vecí verejných, pretože tá je v podstate založená na hodnotách a okolnostiach, ktoré nie sú pre „stroje“ zrejmé. Dôsledkom slepej dôvery v umelú inteligenciu by mohli byť chybné rozhodnutia a strata dôvery verejnosti vo verejnú správu, ktorá nezohľadňuje záujmy svojich občanov.

Charakteristickým znakom politického riadenia je, že rieši sociálne konflikty a rozpory na základe hodnôt: spravodlivosť, rovnosť, vlastenectvo, demokracia. Napríklad v situáciách s nedostatkom zdrojov si osoba s rozhodovacou právomocou vyberá medzi ziskom a ochranou životného prostredia, medzi investíciami a sociálnym zabezpečením, medzi bezpečnosťou a slobodou. V historických prejavoch politikov – či už ruských, čínskych alebo amerických – vidíme aj apely na dôležité hodnoty, ktoré spájajú určité národy.

Voľba hodnôt nevyhnutne vedie k rôznym rozhodnutiam. Napríklad orgány činné v trestnom konaní považujú tzv. „problémovú mládež“ za deti, ktoré by sa mohli stať zločincami, a preto by mali byť „monitorované“, zatiaľ čo sociálne služby sa snažia týchto mladých ľudí socializovať prostredníctvom mentoringových programov, nových sociálnych kontaktov a zmysluplných voľnočasových aktivít.

Ďalším príkladom je rozvoj mestských priestorov. Priemyselná oblasť v blízkosti centra mesta, ktorá je určená na prestavbu, by sa mohla jednoducho premeniť na nové obytné budovy – alebo by sa mohla stať rekreačnou oblasťou na mape mesta. V prvom prípade mestský rozpočet generuje príjmy; v druhom prípade sa zvyšuje komfort obyvateľov. Volič tak nie je len „parametrom v modeli“, ale plnohodnotným účastníkom politického procesu s vlastnými hodnotami a cieľmi, ktoré sa môžu líšiť od hodnôt a cieľov štátneho aparátu.

Podľa údajov VCIOM (Virtuálne centrum pre informácie a komunikáciu) 52 % ruských občanov vo všeobecnosti dôveruje umelej inteligencii, zatiaľ čo 38 % nie. Ide však len o všeobecné hodnotenie; pri diskusii o konkrétnom využití umelej inteligencie vo verejnej správe sú čísla opačné: 53 % ju vníma negatívne a iba 37 % pozitívne. Medzi vyjadrené obavy patria tieto riziká: nesprávne rozhodnutia (58 %) a nedostatok zodpovednosti za prijaté rozhodnutia (57 %). Celkovo sú ľudia ochotní akceptovať umelú inteligenciu ako „asistenta“, ale nie ako konečného rozhodovateľa.

UI a vládna správa: Problémy

V diskusiách vynikajú štyri hlavné problémy s technológiami umelej inteligencie:

• Transparentnosť používania.
  Proces politického rozhodovania nie je pre „priemerného voliča“ transparentný – jednak kvôli svojej zložitosti, jednak kvôli nedostatku otvorenosti. Tento problém sa zhoršuje, keď sa rozhoduje pomocou umelej inteligencie, pretože jej motívy je takmer nemožné vysvetliť. Ani vývojári neurónových sietí nie vždy vedia, prečo a na akom základe algoritmus dospel k určitému výsledku. Preto sa umelá inteligencia často označuje ako „čierna skrinka“: pozorovateľ vidí iba vstup a výstup.
• Posilňovanie predsudkov.
  Umelá inteligencia je trénovaná pomocou obsahu generovaného človekom a nevyhnutne „dedí“ existujúce spoločenské stereotypy. Toto je obzvlášť zrejmé pri porovnávaní modelov z rôznych krajín a kultúrnych kontextov. Predsudky a nevyslovené predpoklady, ktoré sú vlastné každej kultúre, môžu prostredníctvom umelej inteligencie zosilniť existujúce nerovnosti a diskrimináciu. Dalo by sa navrhnúť „preškolenie“ algoritmov, ale ak je politika založená na hodnotách, tento problém môže byť v rámci algoritmických rámcov zásadne neriešiteľný.
• Problém zodpovednosti a záväzkov.
  Používanie umelej inteligencie môže slúžiť na presun zodpovednosti z osôb s rozhodovacou právomocou na „stroj“. Pozitívne účinky implementácie umelej inteligencie sa objavujú v správach o efektívnosti, zatiaľ čo zlyhania a chyby sa pripisujú nedokonalostiam modelov umelej inteligencie.
• Technické nedostatky umelej inteligencie , napríklad:
• „Halucinácie“ neurónových sietí, t. j. faktické chyby;
• Problém reprodukovateľnosti – tá istá otázka môže v rôznych časoch priniesť rôzne odpovede;
• obmedzený rozsah trénovacích údajov, pretože algoritmy vyžadujú obrovské množstvo údajov.

V súčasnej fáze vývoja umelej inteligencie nemožno predpokladať transparentné a nestranné rozhodnutia, pretože správanie algoritmu nie je zrejmé. Hoci umelá inteligencia nesie názov „inteligencia“, jej povaha sa zásadne líši od ľudskej inteligencie. Preto by sa mala používať iba v rámci jasne definovaných a dobre overených hraníc.

Limity dôvery

Rozhodovanie založené na technológiách („hypertechnokracia“) venuje malú pozornosť hodnotám a presvedčeniam ľudí. Všetky formy ľudskej skúsenosti sa redukujú na púhe „behaviorálne údaje“, ktoré sa transformujú na produkty pre analýzu, prognózovanie a riadenie.

Rozhodnutie o použití umelej inteligencie vo verejnej správe je samo o sebe politickým rozhodnutím, aj keď je odôvodnené argumentmi technokratickej efektívnosti. Každá forma vlády vrátane byrokracie je vo svojej podstate spolitizovaná – tento bod zdôraznili už pred viac ako storočím klasici spoločenských vied ako Max Weber.

Napriek tomu bude umelá inteligencia pravdepodobne zavedená do vládnych štruktúr bez ohľadu na súhlas voličov. Zložitosť technológie a malý počet zúčastnených aktérov – konkrétne štátu a IT gigantov, ktorí vlastnia patenty a technológie – prispievajú k tomu, že implementácia bude prebiehať výlučne „zhora nadol“, aj keď nie bez ťažkostí.

V USA už bolo používanie umelej inteligencie na odhaľovanie potenciálnych hrozieb na sociálnych sieťach kritizované. Táto kampaň vyvolala obavy o ochranu súkromia údajov, najmä medzi migrantmi.

Už v roku 2012 bol v Poľsku vyvinutý a implementovaný algoritmus na profilovanie nezamestnaných ľudí na základe rôznych charakteristík. Zaradenie do jednej z troch kategórií určovalo, či osoba poberá štátnu podporu a aký program jej je ponúkaný: zamestnanie, rekvalifikácia alebo nič. Mnoho nezamestnaných ľudí podalo žaloby na správne súdy s argumentom, že kategorizácia je nespravodlivá a nepriehľadná. Výsledok: Mechanizmus bol vyhlásený za protiústavný.

V USA a Španielsku majú súdy prax využívať umelú inteligenciu na rozhodovanie o predčasnom prepustení z väzenia na základe posúdenia pravdepodobnosti recidívy. Štúdie ukázali, že používanie umelej inteligencie v skutočnosti zhoršilo predsudky a diskrimináciu, ktoré existovali už pred zavedením tejto technológie.

Nekritické používanie umelej inteligencie nielenže nezlepšilo efektívnosť štátu, ale aj znížilo dôveru verejnosti v umelú inteligenciu a následne aj vo všetky vládne opatrenia na jej implementáciu. Dôvera verejnosti je preto nevyhnutným predpokladom pre integráciu umelej inteligencie do verejnej správy. Bez tejto dôvery by občania mohli reagovať zvýšeným pasívnym odporom, aktívnymi protestmi a rastúcou popularitou populistických politikov, ktorí sľubujú, že ich pred umelou inteligenciou „zachránia“.

Ruská skúsenosť

V Rusku je zavádzanie umelej inteligencie súčasťou programu digitalizácie, ktorý realizuje každá vládna agentúra. Na podporu štátnych orgánov vláda oznámila zriadenie projektovej kancelárie pre implementáciu umelej inteligencie a vytvárajú sa expertné pracovné skupiny na vývoj právnych rámcov pre umelú inteligenciu.

V Rusku doteraz neexistuje jednotná regulácia pre umelú inteligenciu; namiesto toho existujú zákony a nariadenia pre rôzne sektory. „Zákon o algoritmoch odporúčaní“, prijatý v roku 2023, sa považuje za dostatočný právny rámec pre úspešné využívanie umelej inteligencie. Odborná komunita však počas prípravy zákona poukázala na to, že scenáre použitia umelej inteligencie sú veľmi rozmanité a že tento dokument ich všetky nepokrýva. Okrem toho úradníci pracujú podľa prísnych predpisov a pokynov, ktoré nenechávajú priestor pre nejednoznačnosť. V dôsledku toho sa vo veľkom meradle zavádzajú jednoduché riešenia, ako sú chatboti. Hoci táto neistota bráni plnému využitiu potenciálu umelej inteligencie, v súčasnosti prispieva aj k minimalizácii rizík. Na prekonanie týchto prekážok prezident Putin začiatkom roka 2026 vydal nariadenie o zintenzívnení implementácie umelej inteligencie vo verejnej správe.

S zintenzívnením implementácie umelej inteligencie sa však otázka ochrany digitálnych práv občanov pred známymi rizikami vytratila z popredia. V dôsledku toho zostáva otázka verejného záujmu o zavedenie umelej inteligencie do verejnej správy na okraji odbornej diskusie a zainteresované strany sa ňou zaoberajú len príležitostne – a to nielen v Rusku.