Súkromie pre mocných, dohľad pre ostatných: Navrhovaná regulácia technológií EÚ zachádza priďaleko

Ochrana detí je slabá zámienka pre totálny digitálny dohľad. A čo je horšie, monitorovanie zo strany EÚ oslobodilo spod kontroly vlastných politikov. Ich súkromie je dôležité, ale vaše nie.

Minulý mesiac ste nariekali nad kalifornským zákonom Frontier AI Act z roku 2025. Zákon uprednostňuje dodržiavanie predpisov pred riadením rizík a zároveň chráni byrokratov a zákonodarcov pred zodpovednosťou. Väčšinou však zavádza regulačné normy zhora nadol, namiesto toho, aby umožnil občianskej spoločnosti a odborníkom z odvetvia experimentovať a vyvíjať etické štandardy zdola nahor.

Možno by sme mohli tento zákon zavrhnúť ako ďalší príklad kalifornského intervenčného sklonu. Niektorí americkí politici a regulátori však už teraz volajú po tom, aby sa tento zákon stal „šablónou pre harmonizáciu federálneho a štátneho dohľadu“. Ďalším zdrojom tejto šablóny by bola Európska únia (EÚ), takže sa oplatí sledovať nariadenia chrlené z Bruselu.

EÚ je už teraz ďaleko pred Kaliforniou v zavádzaní problematickej regulácie zhora nadol. Zákon EÚ o umelej inteligencii z roku 2024 sa v skutočnosti riadi celkovou zásadou predbežnej opatrnosti EÚ. Ako vysvetľuje interný think-tank Európskeho parlamentu , „zásada predbežnej opatrnosti umožňuje osobám s rozhodovacou právomocou prijať preventívne opatrenia, keď sú vedecké dôkazy o riziku pre životné prostredie alebo ľudské zdravie neisté a riziko je vysoké.“ Zásada predbežnej opatrnosti dáva EÚ obrovskú moc, pokiaľ ide o reguláciu tvárou v tvár neistote – namiesto toho, aby umožňovala experimentovanie s ochranou pred pokutami a občianskoprávnymi deliktmi (ako v USA). Potláča etické učenie a inovácie. Kvôli zásade predbežnej opatrnosti a súvisiacej regulácii trpí ekonomika EÚ väčšou koncentráciou trhu, vyššími nákladmi na dodržiavanie regulačných predpisov a zníženou mierou inovácií – v porovnaní s prostredím, ktoré umožňuje experimentovanie a rozumné riadenie rizík. Niet divu, že iba štyri z 50 najväčších technologických spoločností na svete sú európske.

Od potláčaných inovácií k potláčanému súkromiu

Spolu so zásadou predbežnej opatrnosti je druhou hnacou silou regulácie EÚ presadzovanie práv – ale vyberanie si z Charty základných práv EÚ práv, ktoré sú často v rozpore s inými. Napríklad všeobecné nariadenie EÚ o ochrane údajov (GDPR) z roku 2016 bolo zavedené s myšlienkou ochrany základného práva na ochranu osobných údajov (toto je technicky oddelené od práva na súkromie a dáva EÚ oveľa väčšiu právomoc zasahovať – ale to je téma akademických časopisov). GDPR nakoniec obmedzilo právo na hospodársku slobodu.

Tentoraz sa základné práva používajú na ospravedlnenie boja EÚ proti sexuálnemu zneužívaniu detí. Všetci milujeme základné práva a všetci nenávidíme zneužívanie detí. V priebehu rokov sa však základné práva používali ako tupá a silná zbraň na rozšírenie regulačných právomocí EÚ. Navrhované nariadenie o sexuálnom zneužívaní detí (CSA) nie je výnimkou (už to schválili – viac tu). Výnimočný je rozsah tohto zasahovania: EÚ navrhuje monitorovať komunikáciu medzi európskymi občanmi a všetky ich zaraďovať do jedného celku ako potenciálne hrozby, a nie ako chránený prejav, ktorý má prima facie právo na súkromie.

Od 26. novembra 2025 byrokratický aparát EÚ rokuje o detailoch CSA. V najnovšom návrhu bolo povinné skenovanie súkromnej komunikácie našťastie odstránené, aspoň formálne. Je tu však háčik. Poskytovatelia hostingových a interpersonálnych komunikačných služieb musia identifikovať, analyzovať a posúdiť, ako by ich služby mohli byť použité na online sexuálne zneužívanie detí, a potom prijať „všetky primerané zmierňujúce opatrenia“. Tvárou v tvár takémuto neobmedzenému mandátu a hrozbe zodpovednosti môžu mnohí poskytovatelia dospieť k záveru, že najbezpečnejším – a právne najrozumnejším – spôsobom, ako preukázať, že splnili smernicu EÚ, je nasadiť rozsiahle skenovanie súkromnej komunikácie.

Návrh dohody o spoločnej ochrane životného prostredia (CSA) trvá na tom, že zmierňujúce opatrenia by sa mali, pokiaľ je to možné, obmedziť na konkrétne časti služby alebo konkrétne skupiny používateľov. Štruktúra stimulov však ukazuje jedným smerom. Rozsiahle monitorovanie sa môže stať jedinou schodnou možnosťou pre dodržiavanie predpisov. To, čo sa dnes prezentuje ako dobrovoľné, riskuje, že sa zajtra stane faktickou povinnosťou.

Slovami dánskeho ministra spravodlivosti Petra Hummelgaarda : „Každý rok sa zdieľajú milióny súborov, ktoré zobrazujú sexuálne zneužívanie detí. A za každým jednotlivým obrázkom a videom sa skrýva dieťa, ktoré bolo vystavené najhroznejšiemu a najhoršiemu zneužívaniu. Toto je úplne neprijateľné.“ Nikto nespochybňuje závažnosť ani skazenosť problému. Napriek tomu sa v rámci tohto naratívu očakáva, že telekomunikačný priemysel a európski občania prijmú nebezpečné opatrenia na zmiernenie rizík, ktoré pravdepodobne povedú k strate súkromia občanov a rozsiahlym monitorovacím právomociam štátu.

Hovorí sa nám, že náklady sú nič v porovnaní s výhodami. Veď kto by nechcel bojovať proti sexuálnemu zneužívaniu detí? Je najvyšší čas zhlboka sa nadýchnuť. Páchatelia zneužívania detí by mali byť prísne potrestaní. To však nezbavuje slobodnú spoločnosť povinnosti rešpektovať ďalšie základné hodnoty.

Ale počkajte. Je toho viac…

Rozšírené monitorovanie? No, nie úplne rozšírené

Napriek morálnemu imperatívu ochrany detí – morálnemu imperatívu natoľko naliehavému, že EÚ je ochotná porušiť aj iné základné hodnoty, aby ho presadila – navrhovaný zákon o CSA zavádza praktickú výnimku. Všetko, čo spadá pod národnú bezpečnosť, a akákoľvek elektronická komunikačná služba, ktorá nie je verejne dostupná ( t. j. dostupná iba voleným úradníkom a byrokratom), by zostala úplne nedotknutá. Súkromné ​​rozhovory medzi občanmi si vyžadujú kontrolu – ale rozhovory tých, ktorí tvrdia, že nás chránia, sú tabu.

Ako povedal dobrý minister, „za každým jednotlivým obrázkom a videom je dieťa, ktoré bolo vystavené najhroznejšiemu a najstrašnejšiemu zneužívaniu.“ Ak to skutočne platí pre každý „jeden obrázok a video“, prečo by to neplatilo aj pre posolstvá chránené výnimkami národnej bezpečnosti a neverejnosti v rámci CSA? Rozplynie sa nejako hrôza, keď sú používateľmi politici alebo byrokrati? Stane sa z neprijateľného zrazu prijateľné, keď sa to týka tých, ktorí píšu pravidlá?

V hierarchii práv EÚ je ochrana detí dôležitejšia ako súkromie. Ale ochrana eurokratov je dôležitejšia ako ochrana detí. Moderné technológie nakoniec dávajú politikom bezprecedentné možnosti monitorovať občanov a zároveň sa vyhýbať kontrole.

Zatiaľ sa nehovorí – pokiaľ vieme – o zavedení podobných opatrení v USA. Ale od dane z bohatstva až po reguláciu umelej inteligencie – a samotné počiatky amerického administratívneho štátu – zlé nápady z Európy majú nepríjemnú cestu cez mláku. 

Zákon EÚ o umelej inteligencii z roku 2024

2021/0106(doručenie) Zákon o umelej inteligencii

Prvé hlasovanie v EP bolo 14. 6. 2023 (Republika ukázala svoju úlohu ako vždy proti národu!!) https://mepwatch.eu/9/?q=Artificial%20Intelligence%20Act

13.3.2024 (Republika ukázala svoju úlohu ako vždy proti národu!!) O tomto som písal tu https://mepwatch.eu/9/vote.html?v=166051&country=sk

Celé hlasovanie https://mepwatch.eu/9/?q=Artificial%20Intelligence%20Act

Celý postup – Legislatívne observatórium https://oeil.europarl.europa.eu/oeil/en/procedure-file?reference=2021/0106(COD)

Slov-lex https://www.slov-lex.sk/pravo-eu/navrhy-aktov-eu/1b17f327-bcaf-461d-bdf8-997d7d9a6762

EUR-lex https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52021PC0206

Celý interný postup https://eur-lex.europa.eu/legal-content/EN/HIS/?uri=celex:52021PC0206

https://www.dostojneslovensko.eu/sk/zakony-z-eu/z-digitalizacie/1343-zakon-eu-o-ai-ucinne-legalizuje-biometricke-hromadne-sledovanie

https://www.dostojneslovensko.eu/sk/zakony-z-eu/z-digitalizacie/1170-unik-vlady-eu-ukladaju-prikazy-na-hromadne-skenovanie-sluzieb-sifrovanych-sprav

V tomto článku si politici schválili imunitu – Viac tu

AIAct_final_four-column21012024.pdf – Patrick Breyer

CERTAIN UNION LEGISLATIVE ACTS 2021/0106(COD) 21-01-2024 at 17h11 1/892. Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING.

Zodpovedná digitalizácia: MIRRI predstavilo návrhy zákonov o umelej inteligencii a správe údajov

https://mirri.gov.sk/aktuality/digitalna-agenda/zodpovedna-digitalizacia-mirri-predstavilo-navrhy-zakonov-o-umelej-inteligencii-a-sprave-udajov

Národná implementácia Aktu o AI

Slovensko víta zjednodušenie digitálneho regulačného rámca EÚ a apeluje na koherentný prístup pri implementácii pravidiel pre umelú inteligenciu

Členské štáty diskutovali o svojich implementačných modeloch. Slovensko informovalo, že pripravovaný zákon o umelej inteligencii je v medzirezortnom pripomienkovom konaní a jeho účinnosť sa predpokladá od 1. augusta 2026. Zákon zároveň vytvorí základ pre nový inštitucionálny rámec dohľadu nad AI. https://mirri.gov.sk/aktuality/ministerstvo/slovensko-vita-zjednodusenie-digitalneho-regulacneho-ramca-eu-a-apeluje-na-koherentny-pristup-pri-implementacii-pravidiel-pre-umelu-inteligenciu

V Paríži vláda schválila – Viac tu

Zriadenie Výboru pre Umelú Inteligenciu ( Viac tu aj s hlasovaním)