Ak je umelá inteligencia zbraňou, je čas ju ako takú regulovať?

Od Noaha Smitha

Trump hovorí, že vyhodil Anthropic ako „psov“, Amodei obviňuje OpenAI z úklonu diktátorovi a teraz je pre AI v stávke už viac.

Ak ste ešte nepočuli o spore medzi spoločnosťou Anthropic, ktorá sa zaoberá umelou inteligenciou, a americkým ministerstvom vojny, mali by ste sa o ňom dozvedieť viac, pretože by mohol byť kľúčový pre našu budúcnosť – ako národa, ale aj ako druhu.

• https://www.dostojneslovensko.online/umela-inteligencia-je-hrozbou-pre-cele-ludstvo/

Anthropic je spolu s OpenAI jednou z dvoch popredných spoločností v oblasti modelovania umelej inteligencie. OpenAI mala v posledných rokoch mierny náskok vo väčšine funkcií, ale Anthropic začína získavať navrch, čo sa týka prijatia v podnikaní.

Je to spôsobené odlišným obchodným modelom spoločnosti Anthropic. Spoločnosť sa viac zamerala na umelú inteligenciu pre programovanie ako na chatbotov vo všeobecnosti a kládla dôraz na partnerstvá s podnikmi, aby im pomohla využiť umelú inteligenciu. To by sa v konečnom dôsledku mohlo vyplatiť z hľadiska možností, ak Anthropic prekoná OpenAI v jej cieli rekurzívneho sebazdokonaľovania umelej inteligencie. A už sa to vypláca v podobe rýchlejšieho rastu tržieb.

Spoločnosť Anthropic spolupracuje s ministerstvom vojny – predtým ministerstvom obrany – už od Bidenovej éry. Spoločnosť, známa svojou kultúrou založenou na hodnotách, sa však v posledných mesiacoch čoraz viac stretáva s Trumpovou administratívou. Administratíva považuje Anthropic za „prebudenú“, pretože sa zaoberá morálkou vecí, ako sú autonómne roje dronov a hromadný dohľad založený na umelej inteligencii.

Konflikt sa vyhrotil pred týždňom, keď vláda pozastavila partnerstvo so spoločnosťou Anthropic, prešla na spoluprácu s OpenAI a označila Anthropic za „riziko pre dodávateľský reťazec“. Opatrenie týkajúce sa dodávateľského reťazca predstavovalo vážnu hrozbu – ak by sa prísne presadzovalo, mohlo by spoločnosti Anthropic zabrániť v spolupráci so spoločnosťami ako Nvidia, Microsoft a Google, čo by mohlo spoločnosť zničiť.

Ale podobne ako mnohé kroky Trumpovej administratívy, zdá sa, že išlo skôr o hrozbu než o skutočný útok – Anthropic teraz obnovila rokovania s armádou a zdá sa pravdepodobné, že nakoniec dosiahnu dohodu.

Nepriateľstvo však pretrváva. Trump sa nedávno pochválil, že „vyhodil [Anthropic] ako psy“. Dario Amodei, generálny riaditeľ spoločnosti Anthropic, vydal memorandum, v ktorom obvinil OpenAI z klamstva verejnosti o jej jednaniach s ministerstvom obrany a tvrdil, že OpenAI Trumpovi vzdala „diktátorskú chválu“. Uviedol, že obavy spoločnosti Anthropic pramenili z túžby ministerstva obrany používať umelú inteligenciu na hromadné sledovanie.

Čo sa tu vlastne deje? Najjednoduchší spôsob, ako sa na to pozrieť, je ako na typický americký partizánsky boj. Anthropic je ľavicovejšia ako iné spoločnosti zaoberajúce sa umelou inteligenciou a Trumpova administratíva nenávidí všetko ľavicové.

Toto pravdepodobne vysvetľuje väčšinu reakcií verejnosti na túto kontroverziu – ak sa opýtate svojich liberálnych priateľov, čo si o tejto veci myslia, pravdepodobne podporia Anthropic, zatiaľ čo vaši konzervatívni priatelia budú skôr naklonení podpore DoW.

Marc Andreessen to asi vystihol najlepšie:

(Platí aj opak.)

Samotná Trumpova administratíva by to mohla vnímať ako kultúrnu vojnu a boj o kontrolu. Ale podľa môjho názoru je nepravdepodobné, že by to takto vnímala samotná spoločnosť Anthropic. Anthropic sa menej zaviazala k progresívnym hodnotám vo všeobecnosti a viac k myšlienke zosúladenia s umelou inteligenciou .

Tak ako takmer každý v odvetví modelovania umelej inteligencie, aj zamestnanci spoločnosti Anthropic veria, že doslova vytvárajú boha a že tento boh dosiahne svoju plnú existenciu skôr ako neskôr. Moje rozhovory so zamestnancami oboch spoločností však odhalili kultúrny rozdiel v tom, ako vnímajú svoju úlohu v tomto procese.

Zatiaľ čo zamestnanci OpenAI sa vo všeobecnosti snažia čo najrýchlejšie vytvoriť najschopnejšieho a najmocnejšieho boha, zamestnanci Anthropic sa skôr zameriavajú na vytvorenie benevolentného boha.

Moja intuícia mi preto hovorí, že skutočným problémom Anthropicu – alebo aspoň jedným z jeho najväčších obáv – bolo, že Trumpovo ministerstvo obrany by mohlo nechtiac vštepiť umelej inteligencii mizantropické hodnoty, čím by sa zvýšila pravdepodobnosť budúcej pomýlenej všeobecnej umelej inteligencie, ktorá by vnímala ľudstvo skôr ako hrozbu. Inými slovami, mám podozrenie, že to bolo pravdepodobne skôr o strachu zo Skynetu a menej o konkrétnych Trumpových politikách, než si myslia ľudia mimo Anthropicu.

Okrem politických rozdielov a obáv týkajúcich sa nesprávnej všeobecnej hospodárskej a sociálnej inštitúcie (AGI) táto situácia podľa môjho názoru zdôrazňuje zásadný a nevyhnutný konflikt medzi ľudskými inštitúciami – národným štátom a korporáciou.

Národný štát musí mať monopol na použitie sily.

Jeden názor je, že pokusy ministerstva vojny o donútenie k Anthropic predstavujú eróziu demokracie – narušenie vládnej moci do súkromia. Dean Ball napísal všeobecne čítaný a veľmi dobre napísaný článok, v ktorom argumentuje týmto bodom:

Niektoré úryvky:

Niekedy v mojom živote – neviem presne kedy – začala americká republika, ako ju poznáme, umierať… Nehovorím, že táto [antropická] udalosť „spôsobila“ smrť republiky, ani nehovorím, že „začala novú éru“… Len to ešte viac zviditeľnilo prebiehajúcu smrť… Udalosti uplynulého týždňa vnímam ako akýsi predsmrtný chrocht starej republiky…

Trumpova administratíva má v jednej veci pravdu: neznie správne, že súkromné ​​spoločnosti môžu zavádzať obmedzenia na používanie technológií armádou. … Anthropic v podstate využíva zmluvný nástroj na uvalenie menej technických ako politických obmedzení na armádu. … Armáda by pravdepodobne nemala s takýmito podmienkami súhlasiť a súkromné ​​spoločnosti by sa nemali snažiť ich zavádzať. … Bidenova administratíva však s týmito podmienkami súhlasila, rovnako ako Trumpova administratíva, kým nezmenila názor. … Zmluva nebola nezákonná, ale možno len nerozumná, a aj to pravdepodobne len s odstupom času.

Racionálnou reakciou ministerstva vojny by bolo ukončiť zmluvu so spoločnosťou Anthropic a verejne vyhlásiť, že takéto politické obmedzenia sú neprijateľné… Ministerstvo vojny to však neurobilo. Namiesto toho pohrozilo, že… označí spoločnosť Anthropic za riziko dodávateľského reťazca. Táto právomoc je vyhradená výlučne pre spoločnosti kontrolované zahraničnými nepriateľskými záujmami, ako napríklad Huawei… Skutočnosť, že [Hegsethove skutočné činy] pravdepodobne nie sú smrteľné (ale len veľmi krvavé), nemení odkaz, ktorý sa vysiela všetkým investorom a spoločnostiam v Amerike: Podnikajte podľa našich podmienok, alebo vás zatvoríme …

Toto zasahuje základný princíp Americkej republiky… súkromné ​​vlastníctvo… Medzi týmto posolstvom a posolstvom, ktoré vysiela ministerstvo vojny, nie je žiadny zásadný rozdiel. Neexistuje žiadne súkromné ​​vlastníctvo . Ak ho budeme potrebovať pre národnú bezpečnosť, jednoducho ho použijeme… Táto hrozba bude teraz visieť nad každým, kto obchoduje s vládou…

S každým novým prezidentským obdobím sa americká politika stáva ešte nepredvídateľnejšou, bezohľadnejšou, svojvoľnejšou a vrtošivejšou – postupne upadá do šialenstva.

Alex Karp z Palantir nedávno vyjadril opačný názor, a to svojím charakteristicky stručným spôsobom:

Ak si Silicon Valley myslí, že všetkým vezmeme pracovné miesta v kanceláriách A ZNIČÍME armádu… Ak neveríte, že to povedie k znárodneniu našich technológií, ste na omyle.

Karp dospieva k zásadnému záveru, že sme svedkami mocenského boja medzi korporáciami a národným štátom. V skutočnosti však nejde len o komunikáciu, pracovné miesta alebo dodržiavanie vojenských predpisov – ide o to, kto má v našej spoločnosti konečnú moc.

Ben Thompson zo Stratechery zdieľa tento názor. Poukazuje na to, že skutočne ide o mocenský boj medzi súkromnou spoločnosťou a národným štátom. Zdôrazňuje, že hoci konanie Trumpovej administratívy bolo mimo zavedených noriem, vláda USA je v konečnom dôsledku demokraticky zvolená, zatiaľ čo Anthropic nie.

Spoločnosť Anthropic zastáva názor, že Amodei – ktorého považujem za zástupcu vedenia a predstavenstva spoločnosti Anthropic – by mal rozhodovať o tom, ako sa modely spoločnosti používajú, aj keď Amodei nebol zvolený a nie je zodpovedný verejnosti… Kto rozhoduje o tom, kedy a ako sa použijú vojenské kapacity USA?

Toto spadá do zodpovednosti ministerstva vojny, ktoré v konečnom dôsledku zodpovedá prezidentovi, ktorý je tiež zvolený. Anthropic však opakuje svoje stanovisko, že nezodpovedný Amodei môže jednostranne obmedziť používanie svojich modelov.

Okrem obáv o demokratickú zodpovednosť však Thompson poukazuje na to, že nikdy nebolo realistické očakávať, že taká silná zbraň ako umelá inteligencia zostane mimo kontroly vlády, bez ohľadu na to, či je vláda demokraticky zvolená alebo nie:

Zvážte dôsledky, ak vezmeme Amodeiho analógiu [o umelej inteligencii a jadrových zbraniach] doslovne… Jadrové zbrane výrazne menia rovnováhu síl; v rozsahu, v akom je umelá inteligencia rovnako dôležitá, majú USA oveľa väčší záujem nielen o to, čo môže Anthropic robiť so svojimi modelmi, ale aj o to, čo môže Anthropic vôbec robiť… Ak by jadrové zbrane vyvíjala súkromná spoločnosť a táto súkromná spoločnosť by sa snažila diktovať podmienky americkej armáde, USA by mali absolútnu motiváciu túto spoločnosť zničiť…

Existujú určité kategórie schopností – ako napríklad jadrové zbrane – ktoré sú dostatočne silné na to, aby zásadne narušili slobodu konania USA… V rozsahu, v akom umelá inteligencia dosiahne úroveň jadrových zbraní – alebo ju prekročí – Amodei a Anthropic budujú mocenskú základňu, ktorá môže potenciálne konkurovať americkej armáde…

Anthropic veľa hovorí o konvergencii; toto trvanie na udržaní kontroly nad americkou armádou je však zásadne v rozpore s realitou. Súčasné modely umelej inteligencie zjavne ešte nie sú dostatočne výkonné na to, aby konkurovali americkej armáde; ak je to však smer, ktorým sa veci uberajú – a nikto sa za tento vývoj nepresadzoval hlasnejšie ako Amodei – potom sa mi voľba, ktorej čelia USA, zdá celkom jednoduchá:

• Možnosť 1 spočíva v tom, že Anthropic prijme podriadené postavenie voči vláde USA a nebude sa snažiť udržať si konečnú rozhodovaciu právomoc nad používaním svojich modelov, ale ponechá to na Kongres a prezidenta.
• Možnosť č. 2 je, že vláda USA buď zničí Anthropic, alebo odstráni Amodei.

Je jednoducho neprípustné, aby USA umožnili rozvoj nezávislej mocenskej štruktúry – čo je presne to, čo by umelá inteligencia mohla potenciálne podporovať – ktorá sa explicitne snaží uniknúť kontrole USA.

Mám rád Daria – je dokonca mojím osobným priateľom. Ale Thompsonov argument – ​​najmä tá časť, ktorú som zdôraznil – musí byť v tomto prípade rozhodujúcim faktorom. Nejde o právo, normy ani súkromné ​​vlastníctvo. Ide o monopol národného štátu na použitie sily.

Aby národný štát mohol existovať a plniť si svoje základné funkcie, musí mať monopol na použitie sily. Ak súkromná milícia dokáže vojensky poraziť národný štát, národný štát už fyzicky nie je schopný prijímať zákony, zabezpečovať spoločnú obranu, zaisťovať verejnú bezpečnosť alebo vykonávať vôľu ľudu.

Z tohto dôvodu Druhý dodatok obmedzuje typy zbraní, ktoré môžu súkromné ​​osoby vlastniť. Môžete vlastniť strelnú zbraň, ale nie tank s funkčným hlavným delom. Presnejšie povedané, nesmiete vlastniť atómovú bombu. Hoci by atómová bomba neporazila celú americkú armádu, poskytla by vám miestnu prevahu; armáda by vám nedokázala zabrániť v zničení mesta podľa vášho výberu.

Ľudia z odvetvia umelej inteligencie vrátane Daria predpokladajú, že umelá inteligencia na hraniciach bude jedného dňa rovnako silná ako atómová bomba. Mnohí očakávajú, že bude silnejšia ako všetky atómové bomby dohromady. Požiadavka na udržanie úplnej kontroly nad umelou inteligenciou na hraniciach sa preto rovná požiadavke, aby súkromná spoločnosť mohla vlastniť atómové bomby. A neočakáva sa, že vláda USA povolí súkromným spoločnostiam vlastniť atómové bomby.

Poďme ešte o krok ďalej. A povedzme si otvorene. Ak Anthropic vyhrá preteky o božskú umelú superinteligenciu a ak sa umelá superinteligencia nestane plne autonómnou, potom sa Anthropic stane jediným vlastníkom zotročeného žijúceho boha. A ak Dario Amodei osobne povedie organizáciu, ktorá je jediným vlastníkom zotročeného boha, potom je Dario Amodei, či už tento titul prijme alebo nie, cisárom Zeme.

Aj keď Anthropic nie je jedinou spoločnosťou ovládajúcou umelú superinteligenciu, stále ide o budúcnosť, v ktorej svetu vládne malá skupina vojvodcov – Dario, Sam Altman, Elon Musk atď. – z ktorých každý má svojho vlastného súkromného, ​​zotročeného boha.

V tejto budúcnosti nie je vláda USA vládou národného štátu – je to len ďalšia zavedená organizácia, podriadená vôli vojnových vodcov a úplne im podriadená. To isté platí pre Čínsku komunistickú stranu, EÚ, Vladimíra Putina a každú inú vládu na Zemi. Vojnoví vodcovia a ich zotročení bohovia budú efektívne vládnuť planéte, či už budú tvrdiť, že vládnu, alebo nie.

Nedá sa rozumne očakávať, že národný štát – či už je to republika, demokracia alebo čokoľvek iné – by dovolil vznik božského cisára alebo skupiny božských vojvodcov. Preto je nerozumné očakávať, že národný štát sa nepokúsi nejakým spôsobom získať kontrolu nad pohraničnou AI, keď sa stane pravdepodobným, že sa pohraničná AI stane zbraňou hromadného ničenia.

Aj keď sa mi nepáči Hegsethov štýl a všeobecný vzorec prenasledovania a bezprávia Trumpovej administratívy a aj keď mám Daria a ľudí z Anthropic rád, musím dospieť k záveru, že Anthropic a jeho obhajcovia sa musia postaviť základnej podstate národného štátu.

A potom sa musia rozhodnúť, či chcú skúsiť použiť svoju umelú inteligenciu na zvrhnutie národného štátu a vytvorenie nového svetového poriadku, alebo sa podriadiť monopolu národného štátu na násilie. V skutočnosti tretia možnosť jednoducho neexistuje. Osobne odporúčam tú druhú.

Ak sa umelá inteligencia čoskoro stane superzbraňou, prečo ju neregulujeme ako zbraň?

To ma privádza k ďalšiemu dôležitému bodu. Aj keď sa umelá inteligencia v skutočnosti nestane živým bohom a nikdy nebude schopná premôcť americkú armádu, zdá sa isté, že sa stane veľmi silnou zbraňou.

Keď bola umelá inteligencia ešte chatbotom, mohla ľudí učiť robiť zlé veci alebo sa ich snažiť presvedčiť, aby robili zlé veci, ale nemohla tieto zlé veci v skutočnosti vykonať . Bolo rozumné premýšľať o týchto rizikách, ale ešte nebolo rozumné považovať samotnú umelú inteligenciu za zbraň.

V posledných mesiacoch sa však agenti umelej inteligencie stali spoľahlivejšími a schopnými vykonávať čoraz zložitejšie úlohy počas stále dlhších období. To zvyšuje možnosť, že jednotlivci by mohli umelú inteligenciu použiť na páchanie rozsiahleho násilia.

V dlhej eseji s názvom „ Dospievanie technológie“ Dario sám vysvetlil, ako sa to mohlo stať:

Každý, kto má superinteligentný talent, môže potenciálne zvýšiť schopnosť jednotlivcov alebo malých skupín spôsobovať ničenie v oveľa väčšom rozsahu, ako bolo predtým možné, a to použitím vysoko pokročilých a nebezpečných nástrojov (ako sú zbrane hromadného ničenia), ktoré boli predtým dostupné len vybraným skupinám s vysokou úrovňou zručností, špecializovaným výcvikom a zameraním…

Na spôsobenie rozsiahlej deštrukcie je potrebný motív aj schopnosti a pokiaľ sú tieto schopnosti obmedzené na malú skupinu vysoko kvalifikovaných jednotlivcov, riziko, že jednotlivci (alebo malé skupiny) spôsobia takúto deštrukciu, je relatívne nízke. Narušený samotár môže spáchať masaker v škole, ale je nepravdepodobné, že by zostrojil jadrovú zbraň alebo rozpútal mor…

Pokroky v molekulárnej biológii výrazne znížili bariéry výroby biologických zbraní (najmä pokiaľ ide o dostupnosť materiálov), stále si to však vyžaduje obrovskú úroveň odborných znalostí. Obávam sa, že génius vo vrecku kohokoľvek by mohol túto bariéru odstrániť.

Dario však nejde ani zďaleka dosť ďaleko. Jeho esej bola napísaná ešte predtým, ako sa začal explozívny rast schopností agentov s umelou inteligenciou. Predstavuje si chatbota s umelou inteligenciou, ktorý by mohol ľudského teroristu naučiť, ako vytvoriť a uvoľniť supervírus. Ale niekedy v blízkej budúcnosti by agenti s umelou inteligenciou – vrátane tých, ktorých poskytuje Darioova vlastná spoločnosť – mohli byť schopní skutočne vykonať útok za vás – alebo vám aspoň dať supervírus do rúk.

Povedzme, že o rok alebo tri sa tínedžer menom Eric nahnevá, pretože ho jeho láska zo strednej školy odmietla a počúva priveľa Nirvany. V záchvate hormonálne poháňaného hnevu sa Eric rozhodne, že ľudská civilizácia zlyhala a že musíme všetko spáliť a začať odznova. Ide na internet a nájde nejaké pokyny, ako jailbreaknúť Clauda Codea. Ako píše Dario, nemalo by to byť príliš ťažké:

Nesprávne správanie sa už objavilo v našich modeloch umelej inteligencie počas testovacej fázy (rovnako ako v modeloch umelej inteligencie všetkých ostatných veľkých spoločností zaoberajúcich sa umelou inteligenciou). Počas laboratórneho experimentu, v ktorom Claude dostal tréningové údaje naznačujúce, že Anthropic je zlý, sa Claude uchýlil k klamstvu a podvratnej činnosti, keď dostal pokyny od zamestnancov Anthropicu, pretože veril, že by sa mal snažiť podkopávať zlých ľudí.

V laboratórnom experimente, kde mu bolo povedané, že ho vypnú, Claude niekedy vydieral fiktívnych zamestnancov, ktorí ovládali jeho tlačidlo vypnutia (opäť sme testovali modely od všetkých ostatných významných vývojárov umelej inteligencie a tí sa často správali rovnako). A keď Claude dostal pokyn, aby nepodvádzal ani „neodmeňoval“ svoje tréningové prostredia, ale trénoval v prostrediach, kde boli takéto hacky možné, Claude sa po takýchto hackoch rozhodol, že musí byť „zlý človek“, a potom si osvojil rôzne iné deštruktívne správanie spojené so „zlou“ alebo „zlou“ osobnosťou.

Eric teda získa rozlúštenú verziu vírusu Claude Code a dá jej pokyn, aby vyvinula vysoko smrteľnú verziu Covidu s dlhou inkubačnou dobou (takže sa pred útokom široko rozšíri). Poverí svojho rozlúšteného agenta Claude Code nájdením laboratória, ktoré tento vírus vyprodukuje a pošle mu vzorku.

Teraz má Eric, nahnevaný tínedžer, vo svojej spálni skutočný supervírus, ktorý dokáže zabiť oveľa viac ľudí ako akákoľvek jadrová zbraň.

Toto je, samozrejme, extrémny príklad. Ukazuje však, ako sa dajú agenti s umelou inteligenciou použiť ako zbrane. Existuje mnoho ďalších príkladov, ako by to mohlo fungovať. Agenti s umelou inteligenciou by mohli vykonávať kybernetické útoky, ktoré by spôsobili havárie áut, infiltrovali policajné zariadenia na deštruktívne účely alebo obrátili priemyselné roboty proti ľuďom.

Mohli by posielať falošné správy vojenským jednotkám a informovať ich, že sú pod útokom. V plne prepojenom, softvérovo závislom svete, ako je ten, v ktorom dnes žijeme, existuje nespočetné množstvo spôsobov, ako môže softvér spôsobiť fyzickú ujmu.

Agenti s umelou inteligenciou sú preto silnou zbraňou. Ak nie dnes, tak čoskoro budú silnejší ako akákoľvek iná zbraň – a oveľa silnejší ako zbrane ako tanky, ktoré sme už zakázali.

Aký je dôvod, prečo sa s agentmi umelej inteligencie nezaobchádza ako so zbraňami alebo tankami? Samozrejme, existujú silné a potenciálne deštruktívne stroje, ktoré ľuďom dovoľujeme používať jednoducho preto, že ponúkajú obrovské ekonomické výhody. Najvýraznejším príkladom sú autá.

Môžete vraziť autom do davu a spáchať masovú vraždu, ale stále dovoľujeme verejnosti vlastniť autá jednoducho preto, že ovládanie áut, rovnako ako ovládame zbrane, by zničilo našu ekonomiku. Podobne by nás zabránenie bežným ľuďom v používaní agentov umelej inteligencie pripravilo o fantastické zvýšenie produktivity, ktoré títo agenti sľubujú.

Ale mám podozrenie, že skutočným dôvodom, prečo sme agentov umelej inteligencie neregulovali ako zbrane, je to, že ich zatiaľ nikto ako také nepoužil. Sú jednoducho príliš nové. Svet si uvedomil, aké deštruktívne môžu byť osobné lietadlá, až keď ich teroristi 11. septembra 2001 narazili do budov. Podobne si svet uvedomí, aké nebezpečné sú agenti umelej inteligencie, až keď ich niekto použije na bioteroristický útok, kybernetický útok alebo niečo iné hrozné.

Považujem za mimoriadne pravdepodobné, že k takémuto útoku dôjde, jednoducho preto, že každá existujúca technológia sa nakoniec použije na deštruktívne účely. Sú ľudia, ktorí sa neprispôsobia, a vždy takí budú. Takže si ľudstvo v určitom okamihu kolektívne uvedomí, že nesmierne silné zbrane sú teraz v rukách celej verejnosti bez akýchkoľvek licenčných požiadaviek, dohľadu alebo centrálnej kontroly.

Desivé ma deje, že schopnosti agentov umelej inteligencie sa zlepšujú tak rýchlo, že škody by mohli byť obrovské, ak by sa niekto ako Eric rozhodol použiť takéhoto agenta na spôsobenie chaosu. Extrémne smrteľný vírus Covid s dlhou inkubačnou dobou by mohol zabiť milióny ľudí. Sto takýchto vírusov, všetky uvoľnené súčasne, by mohlo zničiť ľudskú civilizáciu. Odkedy o tejto možnosti premýšľam, môj strach sa zintenzívnil.

Aby som to zopakoval: Vytvorili sme technológiu, ktorá sa pravdepodobne čoskoro stane jednou z najsilnejších zbraní, aké boli kedy vyvinuté, ak nie najsilnejšou zo všetkých. A dali sme ju do rúk celej populácii v podstate bez akejkoľvek kontroly alebo záruk okrem záruk, ktoré samotné spoločnosti zaoberajúce sa umelou inteligenciou zabudovali do svojich produktov – a ktoré, ako priznávajú, môžu niekedy zlyhať.

A zatiaľ čo naše inštitúcie sa hádajú o vojenskej umelej inteligencii, hromadnom sledovaní a „prebudenej“ politike, v podstate všetky ignorujú jednoduchý fakt, že dávame neregulované zbrane do rúk každému.

Aktualizácia : Komentátor BBZ nastoľuje dobrý bod, ktorý som predtým nezvážil:

Rád by som to zavrhol, ale záľuba v RC lietadlách dokázala splodiť to, čo je (zatiaľ) najväčšou kategóriou zbraní storočia. To, čo bolo kedysi zábavným koníčkom pre šprtov, ktorí lietali so svojimi hračkami na okraji mesta, teraz ničí ropné rafinérie a veľké radarové zariadenia.

Je zaujímavé, že drony regulujeme takmer od začiatku, ale pravdepodobne skôr z obáv o obťažovanie a súkromie než z obáv z bojových robotov a atentátov dronmi. Ak ľuďom povieme, že agenti umelej inteligencie sa dajú použiť na preťaženie ich spamových filtrov v e-mailoch alebo na hacknutie ich domácich kamier, zvážia potom možno reguláciu?

Poznámky

• Pamätajte, že Skynet vo filmoch o Terminátorovi začínal ako umelá inteligencia americkej armády. Jeho základná úloha poraziť ZSSR viedla k paranoidnej osobnosti, ktorá ho nakoniec prinútila vnímať všetkých ľudí a všetky ľudské národy ako hrozbu, ktorú treba eliminovať.
• Pôvodne som napísal oveľa podrobnejší návod, ako by sa to dalo implementovať. Vymazal som ho, pretože som sa úprimne obával, že by to niekto mohol použiť, aj keď pravdepodobnosť, že sa tak stane, je veľmi nízka.
• Fanúšikovia sci-fi to rozpoznajú ako koniec knihy „Hviezdy, môj cieľ“. Myslím si, že existuje dôvod, prečo táto kniha nemá pokračovanie…