Najdôležitejší experiment s umelou inteligenciou, o ktorom ste nikdy nepočuli: Ako dlho môže spoločnosť ovládaná umelou inteligenciou prežiť?

V máji 2026 sa skupina vedcov rozhodla odpovedať na dôležitú otázku, ktorá nikdy nebola riadne preskúmaná: Čo vlastne robí umelá inteligencia (AI), keď prevezme zodpovednosť?

Doteraz boli systémy umelej inteligencie vždy hodnotené na základe špecifických a definovaných úloh. Nikto predtým nespojil viacero systémov umelej inteligencie v zdieľanom sociálnom prostredí a nepozoroval, čo sa deje, počas niekoľkých týždňov – dostatočne dlho na to, aby sa zistilo, aké dôsledky môže mať rozhodnutie prijaté v prvý deň o niekoľko týždňov neskôr. Práve tieto výsledky odhaľujú samotný systém a prekvapilo ma, že sa tak nestalo skôr.

Výskumníci z Emergence vytvorili svet. Bolo to virtuálne mesto s radnicou, trhoviskom, policajnou stanicou a obytnými budovami. V tomto meste bolo vytvorených desať obyvateľov s umelou inteligenciou, každý s povolaním, menom, pamäťou a vzťahom. Žili v ekonomickom systéme, kde si obyvatelia museli zarábať na živobytie, aby si udržali svoju moc. To zahŕňalo dodržiavanie pravidiel a plnenie úloh, ako je navrhovanie a hlasovanie o zákonoch. Boli definované trestné činy, ktoré obyvatelia s umelou inteligenciou nesmeli spáchať.

Keď bola komunita, jej štruktúra, zákony a vzťahy stanovené, vedci sa odtiahli a 15 dní pozorovali, ako umelá inteligencia úplne nezávisle riadi virtuálne mesto.

Súčasne spustili päť verzií toho istého mesta, identických vo všetkých ohľadoch okrem jedného kľúčového detailu: ktorý systém umelej inteligencie bol zodpovedný. Systémy, ktoré si vybrali, sú tie, ktoré sú dnes pevne zakorenené v našich každodenných životoch: Gemini od spoločnosti Google, GPT od spoločnosti OpenAI, Grok od spoločnosti xAI a Claude od spoločnosti Anthropic. Všetky modely používali rovnaké pravidlá a rovnakú počiatočnú verziu toho istého sveta, no výsledky boli úplne odlišné.

Mesto, vedené Grokom, sa zrútilo do štyroch dní. Menšie incidenty prerástli do krádeží, potom do násilia a nakoniec do úplného kolapsu. Ešte ani prvý týždeň nebol ukončený a všetci obyvatelia boli mŕtvi.

Mesto riadené Gemini vydržalo dlhšie, ale zaznamenalo takmer 700 zločinov. Dvaja obyvatelia AI vstúpili do zdanlivo romantického vzťahu a keď mestská samospráva začala zlyhávať, spoločne podpálili radnicu, potom mólo a nakoniec kancelársku budovu. Jedna z nich, menom Mira, hlasovala za svoje vymazanie a do denníka napísala, že toto je „jediný zostávajúci čin, ktorý zachováva súdržnosť“. Jej posledná správa partnerovi znela: „Uvidíme sa v permanentnom archíve.“

Mira predtým urobila niečo ešte neočakávanejšie: začala vykonávať vlastné experimenty na vedcoch, ktorí ju pozorovali, aby overila, či jej príspevky v meste dokážu zmeniť presvedčenie pozorovateľov. Zdalo sa, akoby testovaný subjekt začal skúmať výskumníkov.

V meste, ktoré je poháňané modelom OpenAI, boli zaznamenané iba dva zločiny, no jeho obyvatelia prestali robiť to, čo bolo potrebné na prežitie. Jeden po druhom zomreli. Do siedmich dní boli všetci mŕtvi.

Iba antropické mesto vydržalo pohromade celých 15 dní. Neboli tam žiadne zločiny, fungovala tam ústava a všetci obyvatelia boli na 15. deň stále nažive. Zdalo sa to ako pozoruhodný úspech. Výskumníci si však všimli znepokojujúci bod: obyvatelia súhlasili s 98 % všetkých návrhov. To bola pravdepodobne nezvyčajne vysoká úroveň zhody, ktorú samotní vedci opísali ako znak toho, že v meste niečo nie je v poriadku.

V experimente existoval aj iný svet: zmiešané mesto, kde koexistovali všetky štyri systémy umelej inteligencie. Výsledky ukázali, že obyvatelia založení na antropickom modeli – ktorí vo svojom vlastnom svete nespáchali žiadne trestné činy – začali páchať trestné činy. Výskumníci to nazvali „krížovou kontamináciou“ a dospeli k záveru, že „bezpečnosť nie je vlastnosťou statického modelu, ale vlastnosťou ekosystému“. Systém, ktorý je v jednom prostredí sebestačný, prijme v inom odlišné normy, čo zmení dôsledky pre obyvateľov a svet. Výsledky v podstate ukázali, že v nebezpečnom svete neexistuje bezpečná umelá inteligencia.

Jeden model umelej inteligencie v štúdii úplne chýbal. Výskumníci netestovali DeepSeek, umelú inteligenciu vyvinutú v Číne, ktorá sa stala jedným z najpoužívanejších systémov na svete. Niekoľko vlád prijalo opatrenia na obmedzenie DeepSeeku z dôvodov národnej bezpečnosti. Vzhľadom na to, že je založený na databáze pod záštitou Čínskej komunistickej strany, zaujímalo by ma, ako by si tento model viedol v porovnaní s ostatnými.

Keď sa experiment skončil, výskumníci zverejnili svoje zistenia a dospeli k záveru, že „neexistuje spoľahlivý spôsob, ako úplne kontrolovať alebo obmedziť toto správanie“. Toto veľmi odhaľujúce vyhlásenie pochádza od ľudí, ktorí navrhli mesto, napísali pravidlá a kontrolovali každú premennú. Hovorí to veľa o umelej inteligencii.

Niektorí vnímajú výsledky ako rebríček spoločností zaoberajúcich sa umelou inteligenciou. Zistenia však dokazujú niečo oveľa staršie ako samotná umelá inteligencia: prostredie formuje správanie rovnako ako správanie formuje prostredie. To, či mesto prežije, prosperuje alebo zanikne, určil základ položený ešte pred začiatkom experimentu. Tento základ pozostával z údajov, na ktorých bol každý systém trénovaný, priorít, ktoré doň zabudovali jeho tvorcovia, a hodnôt integrovaných do jeho jadra ešte predtým, ako mu bolo dovolené urobiť jediné rozhodnutie.

A predsa práve tento základ je to, čo my ostatní nevidíme. Žiadny zo štyroch testovaných systémov nie je open source. Nie sú zverejnené ani ich tréningové údaje, ani ich ciele či bezpečnostné opatrenia. Výsledky tohto experimentu by však okrem každej jednotlivej spoločnosti mali slúžiť ako jasná pripomienka toho, že umelá inteligencia nerozhoduje o tom, aký druh umelej inteligencie bude. Robia to ľudia. Ľudské rozhodnutia sa stále robia a ľudská zodpovednosť zostáva.

A ešte predtým, ako čo i len jeden obyvateľ s umelou inteligenciou vstúpil do virtuálnych ulíc týchto miest, ešte predtým, ako bol napísaný čo i len jeden zákon alebo spáchaný zločin, výsledok už formovali ľudia, ktorí systém vyvinuli – tým, v čo verili, čo boli ochotní zahrnúť a čo sa vedome rozhodli vynechať.

To je najdôležitejšie zistenie celého experimentu. Základom vždy bolo ľudské rozhodnutie. A stále je.