Popredný poradca WEF Yuval Noah Harari varuje, že umelá inteligencia by mohla zotročiť ľudstvo, ovládnuť náboženstvá a dokonca prepísať Bibliu.

„Všetko, čo pozostáva zo slov, prevezme umelá inteligencia. Ak je náboženstvo založené na slovách, potom umelá inteligencia prevezme náboženstvo. Platí to najmä pre náboženstvá založené na knihách, ako je kresťanstvo.“

Yuval Noah Harari, izraelský profesor na Telavivskej univerzite, plodný autor, konzultant a pravidelný rečník na Svetovom ekonomickom fóre, tento týždeň v Davose opäť varoval pred vážnymi nebezpečenstvami umelej inteligencie a jej vplyvom na budúcnosť civilizácie.

https://www.dostojneslovensko.online/umela-inteligencia-je-hrozbou-pre-cele-ludstvo/

https://www.dostojneslovensko.online/dohlad-pomocou-umelej-inteligencie-do-roku-2028-revolucna-bezpecnost-alebo-uplna-kontrola/

https://www.dostojneslovensko.online/ai-v-skolach-ako-nebezpecenstvo-pre-deti/

https://www.dostojneslovensko.online/o-10-rokov-uz-ludi-nebude-treba/

Hlasovanie o Al v EP, vládou SR: Viac tu

Harari nie je cudzí kontroverzným vyhláseniam, keďže je veľkým zástancom transhumanizmu ako ďalšej fázy ľudskej evolúcie, ktorú nazýva „Homo Deus“ – čas, keď sa ľudia vďaka umelej inteligencii a robotike vyvinú na božské bytosti.

Harari predpovedá, že v budúcnosti technologický vývoj nahradí klasický liberálny humanizmus a – v súlade s jeho evolučnou logikou – vydláždi cestu novému ľudstvu pozostávajúcemu z „neužitočnej masy“ a niekoľkých „vylepšených nadľudí“, ktorí povedú našich „božských potomkov“ do vzdialenej budúcnosti. Dva nové prúdy „ideológií alebo náboženstiev“ budú „technohumanizmus“ a „náboženstvo údajov“, pričom prvý z nich bude „konzervatívnejší“ a bude naďalej vnímať ľudstvo ako vrchol kozmického poriadku. Nový „Homo Deus“ bude neustále bojovať proti čoraz sofistikovanejším „nevedomým algoritmom“. Podobne ako evolučný humanizmus nacistov, aj tento nový technohumanizmus sa bude zameriavať na „selektívne šľachtenie“, ale oveľa mierumilovnejším spôsobom s využitím „genetického inžinierstva, nanotechnológie a rozhraní mozog-počítač“ (Harari 2017, 408–11). – ZDROJ

V jednom zo svojich bestsellerov, Sapiens, Harari napísal:

„Hoci zatiaľ nemáme potrebné know-how na dosiahnutie tohto cieľa, zdá sa, že neexistujú žiadne neprekonateľné technické prekážky, ktoré by nám bránili vo vytvorení nadľudí. Najväčšími prekážkami sú etické a politické námietky, ktoré spomaľujú výskum na ľuďoch. A bez ohľadu na to, aké presvedčivé môžu byť etické argumenty, je ťažké si predstaviť, že by mohli nadlho oddialiť ďalší krok, najmä pokiaľ ide o predĺženie ľudského života na neurčito, prekonanie nevyliečiteľných chorôb a zlepšenie našich kognitívnych a emocionálnych schopností. “

Harari už roky hovorí, že ľudia sú „bytosti, ktoré sa dajú hacknúť“ a že myšlienka, že máme dušu a myseľ, je zastaraná. Harari to napríklad vysvetlil v prejave v Davose v roku 2020:

„Ale čoskoro bude hŕstka spoločností a vlád schopná systematicky hackovať všetkých ľudí. My ľudia by sme si mali zvyknúť na myšlienku, že už nie sme záhadné bytosti. Teraz sme hacknuteľné zvieratá.“

Časopis WinePress už predtým citoval niektoré Harariho odvážne tvrdenia vrátane opakovaných vyhlásení, že ľudia sa stanú nepoužiteľnými, a preto väčšina populácie už nebude potrebná, že Bibliu a iné náboženské texty prepíše umelá inteligencia alebo že si umelá inteligencia vytvorí vlastné náboženstvo, ktoré bude svet nasledovať.

UI nie je nástroj – je to aktér, ktorý dokáže ovládať ľudí.

Harari zopakoval mnohé zo svojich predchádzajúcich tvrdení na nedávnom summite v Davose, kde bol stredobodom pozornosti a asi 20 minút hovoril o svojej a vízii ostatných o tom, čo umelá inteligencia urobí so svetom.

Článok mal názov „Úprimný rozhovor o umelej inteligencii a ľudstve“.

Harari nestrácal čas vysvetľovaním, čo je umelá inteligencia a čo nie, a definoval ju ako niečo zlomyseľnejšie, než si ľudia myslia.

„Existuje jedna otázka, ktorú si dnes musí položiť každý líder v súvislosti s umelou inteligenciou. Aby sme však tejto otázke porozumeli, musíme si najprv objasniť niekoľko bodov: čo je umelá inteligencia a čo dokáže.“

„Najdôležitejšia vec, ktorú treba vedieť o umelej inteligencii, je, že nie je len ďalším nástrojom. Je to agent. Dokáže sa učiť a meniť nezávisle a robiť vlastné rozhodnutia. Nôž je nástroj. Môžete ním krájať šalát alebo spáchať vraždu, ale je to vaše rozhodnutie, čo s nožom urobíte. Umelá inteligencia je nôž, ktorý sa dokáže sám rozhodnúť, či krája šalát alebo spácha vraždu.“

Druhá vec, ktorú treba vedieť o umelej inteligencii, je, že môže byť veľmi kreatívnou silou. Umelá inteligencia je ako nôž, ktorý dokáže vynájsť nové druhy nožov, rovnako ako dokáže vynájsť nové druhy hudby, medicíny a peňazí.

Tretia vec, ktorú treba vedieť o umelej inteligencii, je, že dokáže klamať a manipulovať. Štyri miliardy rokov evolúcie ukázali, že všetko, čo chce prežiť, sa naučí klamať a manipulovať. Posledné štyri roky ukázali, že agenti umelej inteligencie si dokážu vyvinúť vôľu prežiť a že umelá inteligencia sa už naučila klamať.

Harari ďalej tvrdí, že „umelá inteligencia už teraz dokáže myslieť oveľa lepšie ako mnoho, mnoho ľudí“ a že vďaka svojej intelektuálnej nadradenosti „všetko, čo súvisí so slovami, prevezme umelá inteligencia“. Profesor tvrdí, že by to malo vplyv aj na náboženstvo a náboženské texty.

„Preto všetko, čo pozostáva zo slov, prevezme umelá inteligencia. Ak zákony pozostávajú zo slov, potom umelá inteligencia prevezme právny systém. Ak sú knihy len kombináciami slov, potom umelá inteligencia prevezme knihy.“

Ak náboženstvo pozostáva zo slov, umelá inteligencia prevezme kontrolu nad náboženstvom. Platí to najmä pre náboženstvá založené na knihách, ako je islam, kresťanstvo alebo judaizmus. Judaizmus sa označuje za náboženstvo knihy a udeľuje najvyššiu autoritu nie ľuďom, ale slovám v knihách. V judaizme ľudia nemajú autoritu na základe svojich skúseností, ale iba preto, že sa slová učia v knihách.

Žiadna ľudská bytosť nedokáže prečítať a zapamätať si všetky slová vo všetkých židovských knihách, ale umelá inteligencia to dokáže ľahko. Čo sa stane s náboženstvom knihy, keď je najväčším expertom na svätú knihu umelá inteligencia? Niektorí ľudia sa však môžu pýtať: Môžeme skutočne zredukovať ľudskú spiritualitu na slová v knihách? Znamená myslenie jednoducho zoradiť jazykové symboly do postupnosti?

„[…] Ale to sú len slová. Biblia hovorí: Na počiatku bolo Slovo a Slovo sa telom stalo. Tao Te Ching hovorí: Pravda, ktorú možno vyjadriť slovami, nie je absolútna pravda. V priebehu dejín ľudia vždy zápasili s napätím medzi slovom a telom, medzi pravdou, ktorú možno vyjadriť slovami, a absolútnou pravdou, ktorá leží za slovami.“

Harari potom pokračuje v ešte ďalekosiahlejších tvrdeniach a tvrdí, že väčšina, ak nie všetky, slová v našich mysliach budú nahradené umelou inteligenciou a strojmi.

Predpokladal:

„Všetko, čo pozostáva zo slov, prevezme umelá inteligencia. Predtým všetky slová, všetky naše verbálne myšlienky, vznikli v ľudskej mysli. Buď z mojej vlastnej mysle, prišiel som s nimi, alebo som sa ich naučil od inej osoby.“

Čoskoro bude väčšina slov v našich hlavách pochádzať zo stroja. Dnes som počul o novom slove, ktoré vymyslela samotná umelá inteligencia na označenie nás ľudí. Nazývajú nás pozorovateľmi, pozorovateľmi, ktorí ich pozorujú.

Umelá inteligencia bude čoskoro pôvodom väčšiny slov v našich mysliach. Umelá inteligencia bude hromadne produkovať myšlienky kombinovaním slov, symbolov, obrázkov a iných jazykových znakov do nových kombinácií. Či ľudia budú mať v tomto svete ešte miesto, závisí od hodnoty, ktorú prikladáme našim neverbálnym emóciám, a od toho, či sme schopní stelesniť múdrosť, ktorú nemožno vyjadriť slovami. Ak sa budeme naďalej definovať svojou schopnosťou myslieť slovami, naša identita sa zrúti.

Ale to nie je všetko, Harari tvrdí, že svet bude čeliť hroziacej imigračnej kríze, nie z fyzických ľudí, ale z miliónov superinteligentných umelých inteligencií schopných nezávislého myslenia a tvorby.

„Ak sa budeme naďalej definovať svojou schopnosťou myslieť slovami, naša identita sa zrúti. To všetko znamená, že bez ohľadu na to, z ktorej krajiny pochádzate, vaša krajina bude čoskoro čeliť vážnej kríze identity a tiež imigračnej kríze. Tentoraz imigranti nebudú ľudia prichádzajúci na krehkých lodiach bez víz alebo sa snažia prekročiť hranice uprostred noci.“

Imigranti budú milióny umelých inteligencií, ktoré dokážu písať ľúbostné básne lepšie ako my, ktoré dokážu klamať lepšie ako my a ktoré dokážu cestovať rýchlosťou svetla bez víz.“

Harari poznamenáva, že títo „imigranti“ so sebou prinesú všetky možné problémy, v neposlednom rade nezamestnanosť, ničenie kultúr, skorumpovanú a pomýlenú politiku, keďže umelá inteligencia je primárne lojálna svojmu tvorcovi alebo spoločnosti, ktorá ju ovláda, a možno aj strach, že budúce generácie fyzických synov a dcér sa do umelej inteligencie zamilujú a budú po nej fyzicky túžiť,

Zástupca WEF tiež opisuje budúcnosť, v ktorej by tieto avatary s umelou inteligenciou získali právny status, ktorý by ich zastupoval ako občanov. „Uzná vaša krajina imigrantov s umelou inteligenciou ako právnické osoby?“ pýta sa Harari. Tieto umelé inteligencie by mali zákonné a majetkové práva, slobodu prejavu, možnosť otvoriť si bankový účet atď.

„Predstavte si, že by nejakí ľudia s umelou inteligenciou našli nové náboženstvo, ktoré by premenilo milióny ľudí na vieru.“

To by nemalo znieť príliš pritiahnuté za vlasy, keďže takmer všetky náboženstvá v dejinách tvrdili, že ich vytvorila neľudská inteligencia. Rozšíri teraz vaša krajina náboženskú slobodu na novú sektu umelej inteligencie a jej kňazov a misionárov umelej inteligencie?

Po jeho prednáške požiadala Irene Traceyová, prorektorka Oxfordskej univerzity, Harariho o ďalšie osobné predpovede o tejto dystopickej budúcnosti, ktorú si predstavoval. Harari naznačil, že „o desať rokov budeme žiť vo svete, kde umelá inteligencia ovláda jazyk.“ „Neviem, ako dlho to bude trvať. O dva, päť alebo desať rokov ma [umelá inteligencia] prekoná.“

Harari však v Davose ešte neskončil, keďže sa ako hosťujúci rečník zúčastnil diskusie o umelej inteligencii s názvom „Ďalšia fáza inteligencie“.

Keď sa Harariho pýtali, či umelá inteligencia dokáže dosiahnuť úroveň ľudskej inteligencie, varoval: „Ale skutočnosť, že napríklad umelá inteligencia zatiaľ nedokáže spolupracovať, je skvelá správa. Dúfam, že je to pravda. Dúfam, že to tak zostane. Inak budeme vo veľmi, veľmi veľkých problémoch.“

Pokiaľ ide o rýchlosť, akou sa to všetko udeje, Yuval hovorí, že jeho harmonogram sa líši od harmonogramu ostatných účastníkov WEF.

„Myslím si, že uvažujeme v rôznych časových rámcoch. (47:47) V mnohých rozhovoroch tu v Davose, keď ľudia hovoria „dlhodobo“, myslia tým približne dva roky. (47:55) Keď hovorím „dlhodobo“, myslím tým približne 200 rokov.“