AI pod všeobecným podozrením: Bruselský úrad pre anonymné odsúdenia ako politický nástroj

EÚ buduje centrum pre podávanie správ o umelej inteligencii – a nazýva to ochranou základných práv.

Nástrojom pre oznamovateľov v rámci zákona o umelej inteligencii (AI Act) vytvorila Európska komisia nový nástroj oficiálne určený na ochranu základných práv. V skutočnosti predstavuje ďalší krok smerom k centralizovanej architektúre riadenia umelej inteligencie , ktorá hlboko zasahuje do vývoja, zavádzania a hodnotenia technológií – a vyvoláva viac otázok, ako odpovedá.

Podľa oficiálneho vyhlásenia Komisie je tento nástroj určený na umožnenie anonymného a dôverného hlásenia údajných porušení zákona EÚ o umelej inteligencii . Správy budú adresované novozriadenému úradu EÚ pre umelú inteligenciu , ktorý bude pôsobiť ako ústredný orgán presadzovania práva. Nahlásiť možno poskytovateľov, vývojárov alebo používateľov systémov umelej inteligencie, ktorí údajne porušujú nové pravidlá.

Čo znie technicky neinšpiratívne, je politicky vysoko výbušné.

https://www.dostojneslovensko.online/umela-inteligencia-je-hrozbou-pre-cele-ludstvo/

https://www.dostojneslovensko.eu/sk/zakony-z-eu/z-digitalizacie/1346-vlada-sr-v-parizi-prijala-al

https://www.dostojneslovensko.eu/sk/co-nikto-nepovedal/zo-zahranicia/846-9-7-2023-je-to-horsie-ako-ste-si-mysleli-konecnym-cielom-transgenderizmu-je-transhumanizmus

Nahlásiť anonymne, vyhodnotiť centrálne, posúdiť politicky

Nástroj na oznamovanie protispoločenskej činnosti zámerne znižuje prahovú hodnotu pre nahlásenie. Dôkazy je možné nahrávať, hlásenia sú anonymné a neexistuje žiadna okamžitá zodpovednosť pre nahlasovateľov. Zároveň nie je transparentné , aké interné kritériá určujú, či sa hlásenie následne rieši, archivuje alebo eskaluje.

Vytvára sa tak systém, ktorý štrukturálne podporuje udávanie bez toho, aby poskytoval jasné záruky pre tých, ktorí sú nespravodlivo obvinení. Pre spoločnosti a developerov to znamená, že už len samotné podozrenie môže stačiť na spustenie auditov, oneskorení alebo regulačných opatrení – so skutočnými ekonomickými dôsledkami.

Právne kroky prídu neskôr. Škoda vznikne skôr.

Kto vlastne definuje „riziko“?

Zákon o umelej inteligencii používa kategórie ako „vysoko riziková umelá inteligencia“, „neprijateľné praktiky“ a „systémové nebezpečenstvá“. To, čo však spadá pod tieto kategórie, je politického a interpretačného charakteru , nie objektívne technického.

Nástroj na oznamovanie nekalých praktík túto nejednoznačnosť ešte zhoršuje. Presúva právomoc hodnotiť technologický vývoj z inžinierov, súdov a trhových procesov na administratívny orgán EÚ, ktorého rozhodnutia podliehajú len malej demokratickej kontrole.

Ústredná otázka zostáva nezodpovedaná:
Kto rozhoduje o tom, čo predstavuje nebezpečnú umelú inteligenciu – a na akom základe?

Inovačná politika prostredníctvom nedôvery

Hoci EÚ oficiálne zdôrazňuje svoju snahu podporovať inovácie, v praxi sa spolieha na predchádzajúcu kontrolu, oznamovacie povinnosti a monitorovanie . Nástroj na oznamovanie nekalých praktík odráža základný postoj, v ktorom sa technológia vníma predovšetkým ako riziko, nie ako príležitosť.

Účinok je predvídateľný:

• Vývojári sa vyhýbajú šedým zónam
• Startupy sa vyhýbajú regulačným rizikám
• Investície sa presúvajú do menej obmedzujúcich právnych jurisdikcií.

Medzitým sa v USA a Ázii objavujú nové platformy, produkty a ekosystémy umelej inteligencie – často rýchlejšie, experimentálnejšie a konkurencieschopnejšie.

Európa reguluje, zatiaľ čo iní sa rozvíjajú.

Ochrana základných práv alebo rozširovanie moci?

EÚ tento nástroj ospravedlňuje ochranou základných práv. Kritici ho však vnímajú ako reinterpretáciu konceptu základných práv : odklon od ochrany občanov pred štátnou mocou smerom k legitimizácii štátnych zásahov do technológií, informácií a podnikateľskej slobody.

Transparentnosť je sľúbená, ale požadovaná iba jednostranne . Štát zhromažďuje informácie, posudzuje riziká a zasahuje – bez porovnateľného zverejnenia svojich rozhodovacích procesov.

Záver

Nástroj na oznamovanie nekalých praktík v rámci zákona o umelej inteligencii nie je neškodným portálom na nahlasovanie. Je to politický nástroj , ktorý sústreďuje moc, potláča inovácie a inštitucionalizuje nedôveru. Pod rúškom bezpečnosti a etiky sa vytvára štruktúra, ktorá Európu nechráni, ale naopak oslabuje.

Kľúčovou otázkou preto nie je, či by mala byť umelá inteligencia regulovaná.
Skôr ide o to, či chce spoločnosť kontrolovať svoju technologickú budúcnosť prostredníctvom anonymných centier hlásení a centralizovaných byrokracií .

Keď sa strach stane vedúcou zásadou politiky, stagnácia je logickým dôsledkom.