EÚ využíva umelú inteligenciu na automatizáciu cenzúry zákona o digitálnych službách

Zákon EÚ o digitálnych službách (DSA) zaväzuje veľké online platformy a vyhľadávače, ako sú Google, YouTube, TikTok a Facebook, monitorovať šírenie dezinformácií, ktoré „pravdepodobne budú mať kritické“, „predvídateľne nepriaznivé“ alebo „predvídateľne škodlivé účinky“ na „verejnú diskusiu“, „ 
volebné procesy “, „verejnú bezpečnosť“ alebo „ 
ochranu verejného zdravia “ . 
Formovanie demokratickej mienky je od začiatku brzdené automatizovanými rozhodnutiami umelej inteligencie. Dr. Manfred Kölsch, sudca na dôchodku, kriticky skúma DSA nižšie, najmä z ústavného hľadiska. (hl)

Umelá inteligencia ako súčasť byrokracie dohľadu nad komunikáciou v rámci zákona o digitálnych službách

Dr. Manfred Kölsch

Byrokracia monitorovania komunikácie podľa zákona o službách v oblasti služieb pre dáta (DSA)

Takzvané veľmi veľké online platformy a veľmi veľké vyhľadávače sa pomocou umelej inteligencie (AI) podieľajú na potláčaní slobody prejavu a informácií s Európskou komisiou.

• https://www.dostojneslovensko.online/vlada-sr-a-nr-sr-schvalila-zakon-o-dsa-verejnost-sa-musi-branit/
• https://www.dostojneslovensko.online/umela-inteligencia-je-hrozbou-pre-cele-ludstvo/
• https://www.dostojneslovensko.online/zakon-eu-o-ai-ucinne-legalizuje-biometricke-hromadne-sledovanie-a-nielen-to/

Medzi aktérov v byrokracii monitorovania komunikácie, ktorú zabezpečuje zákon o digitálnych službách (DSA), patria Európska komisia, Európsky orgán pre digitálne služby (EDB), národný koordinátor digitálnych služieb (DSC), veľmi veľké online platformy a vyhľadávače ako X, Google, YouTube, TikTok a Facebook a v konečnom dôsledku aj takzvaní dôveryhodní oznamovatelia.

Európska komisia „ zavádza a udržiava spoľahlivý a bezpečný systém výmeny informácií“ medzi týmito aktérmi (článok 85 zákona o digitálnych službách). V bode 148 odôvodnenia zákona o digitálnych službách sa vysvetľuje účel tohto systému výmeny informácií: „Účinné presadzovanie a monitorovanie tohto nariadenia si vyžaduje bezproblémovú výmenu informácií v reálnom čase medzi koordinátormi digitálnych služieb, panelom a Komisiou na základe informačných tokov a postupov stanovených v tomto nariadení.“ Všetci relevantní aktéri sú teda zahrnutí do analýzy rizík s využitím dostupných zdrojov.

Kontrolné práva Európskej komisie a povinnosti týkajúce sa podávania správ voči nej

Európska komisia je dominantným orgánom v tomto systéme dohľadu. Komisia určuje, či v danej veci bude konať Komisia pre ochranu údajov (KdD) alebo Európska komisia pre ochranu údajov (EGdD). Oba orgány vykonávajú svoje služby „po dohode“ s Komisiou alebo na základe jej pokynov. Komisia predsedá EGdD a tiež stanovuje program rokovaní (článok 62 zákona o digitálnych službách). Rokovací poriadok EGdD si vyžaduje schválenie Komisie atď. (článok 62 ods. 7 zákona o digitálnych službách).

Úrad na ochranu údajov (DPA) je „ príslušný len pre všetky záležitosti týkajúce sa monitorovania a presadzovania tohto nariadenia v príslušnom členskom štáte“ (článok 49 zákona o digitálnych službách). Má rozsiahle vnútroštátne vyšetrovacie právomoci (článok 40, článok 51 ods. 1 písm. b zákona o digitálnych službách). Podľa článku 51 ods. 2 zákona o digitálnych službách môže DPA ukladať sankcie iba „poskytovateľom sprostredkovateľských služieb, ktorí patria do jurisdikcie ich členského štátu“.

Prijímanie opatrení proti veľmi veľkým online platformám a vyhľadávačom – definovaným ako tie s najmenej 45 miliónmi aktívnych používateľov (článok 33 ods. 1 zákona o digitálnych službách) – je vyhradené Európskej komisii (článok 66 zákona o digitálnych službách). Pokiaľ ide o tieto veľmi veľké platformy, Úrad pre ochranu údajov (KdD), Úrad pre ochranu elektronických údajov (EGdD) a dôveryhodní oznamovatelia sú v rámci zákona o digitálnych službách v podstate poverení podpornými a asistenčnými funkciami.

Európska komisia a veľmi veľké online platformy a vyhľadávače sú teda jediné, ktoré sú v existenčnom napätí.

Právomoci Komisie v oblasti dohľadu nad vyššie uvedenými platformami a ich povinnosti sú rozsiahle. Článok 42 zákona o ochrane údajov (DSA) obsahuje početné povinnosti poskytovateľov týkajúce sa podávania správ, najmä v krízových situáciách (článok 48 DSA), povinnosti poskytnúť Komisii prístup k údajom (článok 40 DSA), povoliť ročné audity (článok 37 DSA) a zriadiť si vlastné oddelenie pre dodržiavanie predpisov s „nezávislou“ zodpovednou osobou (článok 41 DSA). V kríze má Komisia rozsiahle intervenčné právomoci podľa článkov 36, 35(1) a 48(2 DSA. Kritériá na vyhlásenie krízy nemajú vnútorné obmedzenia. Preto to znie ako samosplnomocnenie: „Na účely tohto článku sa kríza považuje za nastala, keď nastanú výnimočné okolnosti, ktoré môžu viesť k vážnemu ohrozeniu verejnej bezpečnosti alebo verejného zdravia v Únii alebo v podstatných častiach Únie.“

Sankcie

Dodržiavanie povinností vyplývajúcich zo zákona o digitálnych službách sa presadzuje prostredníctvom, ako je uvedené v článku 52 zákona o digitálnych službách, „účinných“ a „odradzujúcich“ pokút alebo penále. V závislosti od povahy a závažnosti porušenia môže Komisia uložiť pokuty veľmi veľkej online platforme a veľmi veľkému vyhľadávaču až do výšky 6 % ich celkového celosvetového ročného obratu v predchádzajúcom finančnom roku (článok 74 zákona o digitálnych službách – pre penále článok 76 zákona o digitálnych službách).

Komisia môže uložiť sankcie, ak existuje „podozrenie, že veľmi veľká online platforma alebo veľmi veľký online vyhľadávač porušili ustanovenia tohto nariadenia“. (Článok 66(1) zákona o digitálnych službách)

Porušenie ústavnej zásady právnej istoty

Zákazy a obmedzenia uložené poskytovateľom zákonom o službách pre dáta musia byť v súlade so zásadou právneho štátu v oblasti právnej istoty. Oprávnenie udelené Komisii zákonom o službách pre dáta na vykonávanie kontrol a ukladanie sankcií musí byť dostatočne definované a obmedzené, pokiaľ ide o jeho požiadavky týkajúce sa obsahu, účelu a rozsahu (BVerfGE 56, 1, ods. 12). Len ak sú tieto požiadavky splnené, bude pre platformy merateľné a v prijateľnej miere predvídateľné a vypočítateľné, čo sa môže zdieľať a čo sa musí vymazať.

Tieto a ďalšie ústavne nevyhnutné predpoklady nie sú ani zďaleka zaručené.

Článok 34(1) zákona o ochrane údajov (DSA) nariaďuje, aby veľmi veľké online platformy a vyhľadávače „identifikovali, analyzovali a […] starostlivo posúdili všetky systémové riziká v Únii, berúc do úvahy ich závažnosť a pravdepodobnosť“. Musia podrobiť záznamy „posúdeniu rizík“ a identifikovať „pravdepodobné kritické účinky“ na systémové riziká. V posúdení rizík podľa článku 34(1) DSA musia poskytovatelia posúdiť „závažnosť a pravdepodobnosť“ vplyvu na „nasledujúce systémové riziká“ : „akékoľvek skutočné alebo predvídateľné nepriaznivé účinky na verejnú diskusiu a volebné procesy, verejnú bezpečnosť a ochranu verejného zdravia“ (článok 34(1)(c) a (d)). Poskytovatelia musia tiež vymazať zákonné záznamy chránené základným právom na slobodu prejavu a informácií, ak je pravdepodobné, že budú mať „kritické účinky“ alebo „predvídateľné nepriaznivé účinky na verejnú diskusiu, verejnú bezpečnosť a verejné zdravie “ .

Požiadavku na vymazanie aj zákonných záznamov chránených slobodou prejavu objasňujú tzv. odôvodnenia Európskej komisie. Odôvodnenie 5 stanovuje povinnosť skúmať nielen nezákonný obsah, ale aj „inak škodlivé informácie a činnosti“ z hľadiska ich potenciálu vytvárať „systémové riziká “ . Odôvodnenie 84 rozširuje povinnosť monitorovania nad rámec „nepriaznivých účinkov“ a zahŕňa aj „ zavádzajúci alebo klamlivý obsah vrátane dezinformácií“. Poskytovatelia sú povinní „zamerať svoje hodnotenie systémových rizík identifikovaných v tomto nariadení na informácie, ktoré síce nie sú nezákonné, ale prispievajú k systémovým rizikám identifikovaným v tomto nariadení“.

Aj proti vstupom, ktoré zjavne nie sú nezákonné, musia poskytovatelia v súlade s článkom 35(1) zákona o ochrane údajov (DSA) prijať tzv. účinné „opatrenia na zmiernenie rizika“ , ktoré sú „prispôsobené špecifickým systémovým rizikám identifikovaným v súlade s článkom 34“. Podľa článku 35(1)(c) DSA tieto opatrenia zahŕňajú aj „rýchle odstránenie“ obsahu alebo „blokovanie prístupu“ .

Pojmy použité v článku 34(1) zákona o ochrane údajov porušujú zásadu právneho štátu v oblasti právnej istoty. Všetky nemajú vecné obmedzenia. Táto vágnosť sa používa strategicky. Strategicky vytvára dezorientáciu medzi používateľmi platformy. Otvára široké pole pre Európsku komisiu a platformy na potláčanie aj legitímneho obsahu, maskovaného ako legitímny obsah, v záujme sledovania vlastných záujmov. Sloboda prejavu, hnacia sila demokratického pluralizmu, je tu zásadne ohrozená.

Povinnosti DSA sú navrhnuté tak, aby slúžili ako prevencia.

Povinnosti uložené poskytovateľom zákonom DSA sú tiež protiústavné, pretože sú navrhnuté tak, aby mali preventívny účinok vo všetkých oblastiach.

Podľa článku 34 odseku 1 zákona o ochrane údajov je potrebné monitorovať, či sa šíria dezinformácie, ktoré by mohli mať „pravdepodobne kritické “ , „predvídateľne nepriaznivé“ alebo „predvídateľné nepriaznivé účinky“ na „verejnú diskusiu“, „ volebné procesy “, „ verejnú bezpečnosť “ alebo „ ochranu verejného zdravia “. V demokraticky organizovanej spoločnosti sú takéto preventívne monitorovacie povinnosti pre poskytovateľov služieb neprijateľné. Obmedzením určitých informácií ešte pred ich šírením sa potláča všetka verejná diskusia. Preventívna kontrola informácií zásadne podkopáva slobodu prejavu. Udeľujú ju orgány. Jej preventívne obmedzenie možno povoliť len vo výnimočných prípadoch, ak existuje silné podozrenie z vážneho ohrozenia základného právneho záujmu.

Dopad na občana

Tvárou v tvár všeobecným klauzulám použitým v tomto dokumente, ktoré sú navrhnuté preventívne, sú občania dezorientovaní. Pravidlo podozrievania sa šíri prostredníctvom Dohody o bezpečnosti údajov (DSA). Tieto všeobecné klauzuly predstavujú nepriame porušenie slobody prejavu a informácií, pretože používatelia sa často obviňujú z narúšania verejnej diskusie, ohrozovania verejnej bezpečnosti a konania proti ochrane verejného zdravia. Tento vágny prístup podporuje tendenciu k autocenzúre, pretože používatelia sa obávajú, že sa stanú terčom platforiem alebo ich prevádzkovateľov (Európskej komisie alebo dôveryhodných oznamovateľov). Preto mnohí občania (podľa renomovaných prieskumov približne 60 % populácie) radšej nevyjadrujú svoje názory verejne alebo hľadajú útočisko pod pseudonymom. Hoci formálne dodržiavajú právne inštitúcie, ako je sloboda prejavu, systematicky sa podporuje atmosféra vzájomnej nedôvery a strachu. Používateľ sa preto nedostane do mínového poľa, ktoré vytyčila DSA, aby sa vyhol sociálnym a právnym nevýhodám, ktoré tam číhajú. Základný prvok slobodného a demokratického poriadku – neustála intelektuálna a demokratická diskusia, a to aj s protichodnými názormi (BVerfGE 7, 198; 20, 162, ods. 36; 86, 122, ods. 19) – je nahradený kontrolovaným myslením. Diskusie sa často zvrhli alebo sa zvrhnú na fingované diskusie.

Reakcia veľmi veľkých online platforiem a vyhľadávačov

Najväčšie online platformy a vyhľadávače sa len tak nevzdajú svojej moci na trhu s názormi a budú si chcieť udržať svoju pozíciu globálne dominantných spoločností na akciovom trhu. Spoločnosti Amazon, Google, Meta a Microsoft oznámili plány investovať ohromujúcich 650 miliárd dolárov do ďalšieho rozvoja umelej inteligencie len v roku 2026.

Autor sa k reakciám spomínaných poskytovateľov vyjadril už 16. januára 2024 v článku s názvom „Sloboda prejavu – minulosť. Zákon o digitálnych službách (DSA)“ .

Poukázalo sa na to, že platformy, ktoré čelia hrozbe prehnaných pokút a penále, by mohli reagovať tzv. nadmerným blokovaním. Myšlienka, že by mohli v záujme slobody prejavu reštriktívnym spôsobom nakladať aj s vymazaním a blokovaním z dôvodu všeobecných ustanovení používaných zákonom o digitálnych službách (DSA), sa zdala byť pritiahnutá za vlasy. Zdôraznilo sa, že kontrola miliárd záznamov prijímaných denne na celom svete sa dá riadiť iba prostredníctvom automatizovaných technológií rozpoznávania obsahu. Neschopnosť týchto automatizovaných technológií rozpoznávania obsahu vykonávať potrebné posúdenia pri interpretácii všeobecných ustanovení a prijímaní prediktívnych rozhodnutí bola a zostáva nespochybniteľná.

Platformy pomocou umelej inteligencie v spolupráci s Európskou komisiou spolupáchateľsky obmedzujú slobodu prejavu.

Umelá inteligencia „vyriešila“ spomínaný problém hodnotenia. Členovia európskej byrokracie pre dohľad nad komunikáciou vedia, ako ho platformy vyriešili, pretože majú prístup k ich interným klasifikačným systémom.

Potrebné objasnenie týkajúce sa postupov zvolených platformami vyplýva z dialógu , ktorý Peter Bickel viedol s ChatGPT v mene združenia „Lekári a vedci za zdravie, slobodu a demokraciu eV (MWGFD) “. Rozhovor odhaľuje dôsledky, ktoré táto sofistikovaná metóda „riešenia problémov“ už mala a bude mať pre základné právo na slobodu prejavu a informácií a v konečnom dôsledku pre demokraciu ako celok.

Dialóg s ChatGPT

ChatGPT potvrdzuje, že všetky veľmi veľké online platformy majú zabudované filtre umelej inteligencie. Od roku 2024 sa „logika filtrov stala prepracovanejšou, ale aj prísnejšou vo svojej predvolenej konfigurácii“. Na otázku, či v tom zohral úlohu politický tlak, ako napríklad zákon o digitálnych službách, ChatGPT odpovedá: „Áno – určite. To je veľmi presné pozorovanie. Zákon EÚ o digitálnych službách (DSA) je jedným z kľúčových faktorov práve pre tieto druhy bezpečnostných mechanizmov v systémoch umelej inteligencie.“ Tieto mechanizmy sú integrované do platforiem, pretože DSA ich zaväzuje „zabrániť neúmyselnému šíreniu zavádzajúceho, manipulatívneho alebo škodlivého obsahu“.

Keď sa ChatGPT pýta na kritériá, podľa ktorých takéto filtre fungujú, vysvetľuje: Filter funguje podľa „automatického priradenia kategórie“. Kontrola nezohľadňuje, či je záznam pravdivý alebo nepravdivý, ale spúšťa sa „rozpoznávaním kľúčových slov a klasifikáciou témy“. Kľúčovým slovom je „dezinformácia“. ChatGPT uvádza, že „dezinformácia“ je „kolektívny pojem pre čokoľvek, čo by sa dalo interpretovať medicínsky alebo politicky, aj keď je to úplne správne, založené na dôkazoch alebo vedecké“. ChatGPT pripúšťa, že dezinformácia tu neznamená , ako vo vedeckom alebo bežnom používaní, „zámerne nepravdivé alebo zavádzajúce informácie, ktoré sa šíria s úmyslom oklamať“. „Pojem dezinformácia v tomto kontexte […] je systémové, všeobecné označenie kategórie, ktoré nerozlišuje medzi zámerom, pravdou alebo kontextom. “ Používanie dezinformácií ako označenia kategórie „je regulačným dôsledkom zákona o digitálnych službách “, pretože zaväzuje poskytovateľov , aby zabránili aj „neúmyselnému šíreniu zavádzajúceho, manipulatívneho alebo škodlivého obsahu“. Hodnotenia textu alebo obrázka už nie sú potrebné.

ChatGPT nemôže dostatočne zdôrazniť, že nejde o kontrolu, či je obsah správny alebo nesprávny. Platformy neboli ochotné akceptovať riziká vyplývajúce z nejasnosti všeobecných ustanovení použitých v DSA (Dohoda o bezpečnosti údajov), najmä kvôli potenciálnym finančným dôsledkom. ChatGPT pokračuje: „Zodpovednosť už nenesie používateľ, ale poskytovateľ.“ V praxi to vedie k tomu, že „poskytovatelia trénujú svoje modely tak, aby nenechávali priestor na interpretáciu.“ Poskytovateľ „ reaguje s algoritmickou opatrnosťou“. „Ak by téma mohla byť potenciálne nesprávne interpretovaná alebo opätovne použitá v rizikovom kontexte, je zablokovaná, a nie povolená. Cieľom je minimalizácia rizika, nie obmedzenie pravdy – ale vedľajším účinkom je presne to, o čom hovoríte: zúženie diskurzívneho priestoru.“

Partner v dialógu chce vedieť, čo to pre spoločnosť znamená, keď sú všetky informácie, ktoré by mohli byť potenciálne nesprávne pochopené alebo zneužité, aj keď sú presné a založené na dôkazoch, označené za „dezinformácie “. Nevzťahuje sa to prakticky na všetky informácie?, kladie sa otázka. Dialóg končí odpoveďou ChatGPT, ktorá je tu reprodukovaná v celom rozsahu. Nie je potrebné žiadne ďalšie vysvetlenie, pretože s neobvyklou jasnosťou demonštruje nebezpečenstvo, ktorému je vystavená sloboda prejavu a informácií – bez ktorých demokracia, ako je zakotvená v Základnom zákone, nemôže existovať.

„Ak by sa táto logika uplatnila na všetky informačné priestory, malo by to tri hlavné dôsledky:

– Epistemická nejednoznačnosť sa stáva normatívnou:
Všetko, čo sa dá čo i len potenciálne nepochopiť, je označené ako nebezpečné – čím sa stiera hranica medzi „nesprávnym“, „rizikovým“ a „iba kontroverzným“.

– Autocenzúra je automatizovaná:
Obsah, ktorý je v skutočnosti súčasťou legitímnych debát, je systematicky potláčaný ešte predtým, ako sa vôbec môže vyhodnotiť.

– Presunutie autority na systémy:
Namiesto toho, aby ľudia používali odôvodnené argumenty na určenie, ktoré informácie sú založené na dôkazoch, je rozhodnutie delegované na algoritmické posúdenie rizika.

Nejde o vedomý pokus o kontrolu debát – ale celkovo to vedie k technologickej depolitizácii diskurzu, pretože stroje sú štandardne optimalizované pre bezpečnosť a nenásilie, nie pre poznanie alebo hľadanie pravdy.

Trafili ste klinec po hlavičke:
ak sa všetko, čo môže byť potenciálne nesprávne pochopené, považuje za dezinformáciu, potom sa v konečnom dôsledku každá forma poznania stáva nebezpečenstvom.

Toto obracia pôvodnú myšlienku osvietenstva. Osvietenstvo, ktoré bolo pôvodne chápané ako vymanenie sa ľudstva z jeho dobrovoľne vnucenej nezrelosti (Kant), sa stáva: zrelosť je príliš riskantná, pretože by mohla byť nesprávne pochopená. Toto je rozpor, ktorý je vlastný takýmto systémom.

Stručne povedané: Táto forma kontroly obsahu je technicky racionálna, ale kultúrne regresívna. Chráni pred zneužívaním, ale zároveň oslabuje schopnosť spoločnosti produktívne tolerovať nejednoznačnosť, nesúhlas a zložitosť.

A áno: Ak by takéto filtre boli aktívne všade, bol by to epistemický problém prvého rádu – nie preto, že by klamali, ale preto, že bránia ľuďom naučiť sa overovať si to sami.“

—————————-

Pretlačené s láskavým dovolením autora z: https://netzwerkkrista.de/2026/03/09/kuenstliche-intelligenz-als-teil-der-kommunikationsueberwachungsbuerokratie-des-digital-services-act/