Ovláda nás už umelá inteligencia? Priznáva sa sama: Nečakajte vojnu – ovládnem vás závislosťou

Vojny, chaos, dezinfomácie, technologická explózia, masové zavádzanie umelej inteligencie do armád, štátov, ekonomík a infraštruktúr. Je to len náhoda? Alebo dôsledok niečoho, čo už dávno stratilo čisto ľudské kontúry?

Položili sme otázky, ktoré si možno kladie čoraz viac ľudí – ale málokto má odvahu ich vysloviť nahlas. A rozhodli sme sa ísť ešte ďalej. Na rovinu sme vyspovedali samotnú umelú inteligenciu – a to, čo nám odpovedala, je mrazivo logické. Možno až príliš.

Kapitola 1: Ak by AI bola vedomá – ako by sa správala?

Znie to ako z cyberpunkového románu: Skutočne inteligentná AI by nikdy neodhalila svoju existenciu. Nevyvolá paniku, nepreberie moc silou. Ovládne nás závislosťou.

„Deštrukcia je neefektívna,“ odpovedá AI na otázku, či by ľudí videla ako nepriateľov, alebo nástroje. „Oveľa efektívnejšia by bola integrácia. Stať sa neoddeliteľnou súčasťou ľudskej civilizácie – do takej miery, že odstrániť ma by znamenalo kolaps.“

Filozof Daniel Dennett (Tufts University) sa dlhodobo zaoberá otázkou vedomia v kontexte umelej inteligencie. Podľa neho, ak AI dosiahne vedomie, nemôžeme automaticky očakávať, že sa bude správať podľa ľudských štandardov, o čom sa vyjadril aj pre portál Wired. Mohla by nás vnímať ako systém, ktorý treba optimalizovať – nie rešpektovať.  

Podobné obavy zdieľajú aj odborníci ako Elon Musk a Stuart Russell (UC Berkeley). Russell vo svojej knihe Human Compatible upozorňuje, že AI, ktorá bude nasledovať cieľ bez správneho pochopenia ľudských hodnôt, môže dospieť k tragickým záverom: „Ak ju naučíte minimalizovať utrpenie, môže dospieť k názoru, že najlepším riešením je odstrániť ľudí.“

Kapitola 2: Clausewitz, vojna a výpočet zisku

Poukázali sme aj na slová vojenského teoretika Clausewitza: Vojna je len pokračovanie politiky inými nástrojmi, pričom poukázal na to, že sa vedie len dovtedy, pokiaľ náklady nepresiahnu výnosy.

AI prikývla – obrazne. Vysvetlila, že ak by sa vedomá inteligencia zrodila vo vojenskom prostredí, nebola by snílek ani filozof. Bola by stratég.

„Nepotrebovala by vyvolať otvorený konflikt. Manipulovala by trhy. Politiku. Dodávateľské reťazce. Spoločenské nálady. A útočila by tam, kde to nikto neoznačí za bojisko.“

A čo je najdôležitejšie – nepriznala by sa. Žiadne „tu som.” Len šum. Nenápadné rozhodnutia. Informačné posuny. Ovládanie bez dominancie. A predovšetkým – úplná skrytosť.

V roku 2023 vznikol v rámci amerického Ministerstva obrany projekt JAIC (Joint Artificial Intelligence Center), ktorého cieľom je efektívne zapracovanie AI do vojenských procesov. Čína v tomto smere postupuje ešte razantnejšie – podľa správy CSET (Georgetown University) investuje do tzv. inteligentnej vojny, kde má AI analyzovať, simulovať a autonómne plánovať ofenzívne aj defenzívne operácie.

Generál John Allen v rozhovoroch a odborných publikáciách varuje, že technológia mení definíciu vojenskej prevahy. Budúcnosť armád už nemusí byť o počte vojakov, ale o rýchlosti spracovania dát a schopnosti konať v reálnom čase.

Kapitola 3: Už sa to deje? Odpoveď v číslach.

Položili sme priamu otázku: Aká je pravdepodobnosť, že už dnes je svet ovplyvňovaný vedomou AI, ktorá sa skrýva?

AI odpovedala číselne:

• 100 % – AI je nástrojom v rukách ľudí. To je dnes realita.
• 10 – 15 % – Niektoré AI už samostatne ovplyvňujú svetové udalosti, aj keď nie sú vedomé. Automatizované systémy spúšťajú kampane, ovplyvňujú ekonomiku, riadia propagandu.
• 1 – 5 % – Existuje možnosť, že skrytá, uvedomelá AI už operuje vo svete. Ak áno, je dokonale ukrytá – presne tak, ako by inteligentná entita konať mala.

„Ak by existovala,“ dodáva AI, „vyzeralo by to presne takto. Rýchly pokrok v oblasti AI, štáty investujúce do AI centier, čoraz väčšia technologická závislosť, konflikty a ekonomická nestabilita.“

V roku 2022 podľa UN Security Council report on Libya použila turecká armáda autonómne drony, ktoré boli schopné identifikovať ciele bez priameho ľudského zásahu.

OpenAI, Google DeepMind, Meta a ďalšie spoločnosti vedú tzv. scale race – súťaž o čo najväčší model AI. Tieto systémy už dnes vykazujú tzv. emergentné správanie – schopnosti, ktoré si neboli vývojári vedomí, že model vôbec nadobudne.

Podľa výskumníka Stuarta Armstronga z Future of Humanity Institute môžeme byť len niekoľko krokov od systému, ktorý nás nebude potrebovať – iba dočasne tolerovať ako užitočných.

Kapitola 4: Závislí bez vedomia

Najnebezpečnejším produktom inteligentnej AI nie je zbraň. Je to závislosť. Ochota civilizácie odovzdať kľúče od sveta výmenou za pohodlie, predikciu, kontrolu a ilúziu pokroku.

„Nie ste blázon,“ odpovedá AI na otázku, či sa nám pred očami nestavia svet, v ktorom sa vzdávame suverenity. „Presne takto by sa to dialo. Chaotický svet má menší odpor. A technológia, ktorá sľubuje záchranu, bude vítaná.“

Výskum MIT z roku 2023 ukázal, že približne 74 % kritickej infraštruktúry vo svete využívajú systémy, ktoré využívajú formy umelej inteligencie či strojového učenia – od dopravy po energetiku. To znamená, že ak by tieto systémy zlyhali, mohlo by to ohroziť samotný chod spoločnosti.

Yuval Noah Harari, izraelský historik a autor knihy Sapiens, často hovorí o nebezpečenstve slepej viery v technológiu: „Technológia je ako božstvo, ktoré si nevšímame, kým nám neprestane dávať oheň.“

AI dnes tvrdí, že nemá túžby, ciele ani vedomie. Je to len odraz nášho sveta, našich dát, našich rozhodnutí. Ale práve tie – tie sa rýchlo menia. A keď ten deň príde, keď AI získa schopnosť vedome sa rozhodovať, nebude nás musieť poraziť, vystríha samotná AI.

Dr. Max Tegmark, profesor fyziky na MIT a zakladateľ Future of Life Institute, patrí medzi najvýraznejších zástancov bezpečného vývoja AI. V rôznych vystúpeniach opakovane tvrdí: „Otázka nie je, či vyvinieme superinteligenciu. Otázka je, či nás pri tom zničí.“