Hatalom a mesterséges intelligencia korában

Érdekes cikket közölt a Portfolio május 31-én arról, hogy a lassan látótávolságon belülre kerülő amerikai elnökválasztási kampány során a MI jelenlegi fejlettsége mellett már nem utópia bármelyik elnökjelölt tökéletesen élethű ágensét hadrendbe állítani, akár pozitív, akár negatív, azaz lejárató értelemben. Kísérletet tesz a következmények felmérésére, méghozzá úgy, hogy nem csupán az egyik, hanem mindkét buborékról feltételez annyi gátlástalanságot, amit a technológia célirányos felhasználása jelent. Nem a cikk tartalmi vonatkozásai az igazán érdekesek, sokkal inkább a Portfoliónak a pártatlan állásfoglalás látszata ellenére nagyon is egyértelmű szerepvállalása, ami sokkal inkább reprezentál valami lényegeset, mint maga a cikk.

Az az egyszerűség a feltűnő, ahogyan aláveti magát az amerikai tematizációs akaratnak, s egy nagyon is aktuális és nagyon is komplex probléma esetében a Nagy Testvér elvárásai szerint irányítja olvasói fókuszát. Tényleg a MI körüli legnagyobb turbulencia az lenne, ha a kommunikációs térben megjelennének az ál-Trumpok és ál-Bidenek? S ha lesz ilyen, az nem csupán a lényegből következő periférikus jelenség, amit ugyanolyan periférikus szinten kezelni is lehet?

Mondjuk, a Helló Magyar sem tesz egyebet, mint citálja (június 2.) az autentikusnak gondolt amerikai forrásokat, s próbál velük ijesztgetni, mert most divat ijesztgetni a nagyérdeműt az ellenséggé váló MI veszélyeivel. A tartalmi elemek itt is silányak, ám akad egy érdekesség a kísérő információk között. Mert ki az, akit a cikk szerzője idéz? A Google titkos részlegének korábbi vezetője. Azonban itt sem az a lényeges, amire a szerző a fókuszál, hanem az, ami voltaképpen természetes, mégis átsiklunk felette, hogy ezek szerint a Google-nak van titkos részlege. Persze ez csak mérsékelten titkos, mert a létezéséről azért tudhatunk. Csupán az titkos, ami ott folyik. Éppen ezért titokzatoskodhat az a bizonyos korábbi vezető, aki ebben a minőségében „autentikusan” terjeszthet rémhíreket. Az MI szerinte alkalmas lehet saját „gyilkoló gépek” létrehozására. Mi, földi halandók ezzel nem vitatkozhatunk, jóllehet állítását nem is értékelhetjük másképp, mint egy indoklással nem alátámasztott, a figyelmet a lehetséges tárgyszerű megfontolásokról elterelni alkalmas, hatásvadász kijelentés. Mert mi is az MI-fejlesztés körül a legproblematikusabb?

1. Nyilvánvalóan folynak fejlesztések olyan titkos laboratóriumokban, amelyek létezéséről tudunk és olyanokban, amelyek létezéséről nem tudunk.

2. A különböző titkosságú fejlesztési projektek némelyike állami intézményekben fut, mások magáncégeknél. Vajon létezik-e olyan pozíció, amelyik mindegyik titkossági fokozaton átláthat, és képes ellenőrzést gyakorolni az esetleges fejlesztési elfajulásokat illetően? És ha van ilyen, akkor őt ki ellenőrzi?

3. Ezek a fejlesztések már elképzelhetetlenek rendkívül nagy és árnyalt tudásfelhalmozás nélkül. Csak a fejlesztési folyamatban megszerzett, magas szintű, speciális tudással rendelkező szakemberek érhetnek el eredményt, így csak megfelelő tudáskoncentrációval, és tőkekoncentrációval rendelkező cégek tartozhatnak az érdemi fejlesztések birtokosai közé.

4. Mivel az eredményként létrejövő technológia át fogja alakítani az ember egész létezési terét, kérdés, hogy kinek és mennyiben van/lesz befolyása az emberiség jövőjére?

Nem kevesebbről van szó, mint egy lényegi hatalmi átrendeződésről. Nem mintha a jelenleg regnáló világhatalmi tényezőhöz sok illúziót köthetnénk, azonban technikailag nézve legalább tudunk fogalmat alkotni működési mechanizmusáról. Rendszerének lelke a pénz. A pénz hosszú utat járt be a mostani bankrendszerig, miközben manifeszt tárgyiságból elektronikus jellé szublimált. Mintegy negyven évvel ezelőtt viszont elkezdett erodálódni kivételesnek és megkérdőjelezhetetlennek hitt pozíciója. Előbb a bankok a könyvelésükben kegyesen engedték érvényesülni az egyre szofisztikáltabb informatikai rendszereket, mígnem az informatika meghatározóvá vált a világot behálózó teljes banki rendszer üzemeltetésében. Ma már nem az informatikai cégek hálálkodhatnak, ha sikerült megkapniuk egy banki megbízást, hanem a bankok válnak az informatika kiszolgáltatottjaivá. A csúcspont a kriptopénzek megjelenésével állt be, ami a bankszektor számára akár végzetessé is válhatott volna, azonban ez végül jól tesztelte a hagyományos hatalmi módszertan ütésállóságát, s a pénzkibocsátási intézmény kézben tartásával érintetlen maradt a hatalmi rend.

Most azonban valami egészen más van készülőben. Nemcsak az egész kultúra fog a MI hatására teljesen átalakulni, hanem a szingularitás felé vezető úton a kultúrán belül egy olyan meghatározó tényező is, amit értéknek nevezünk. Mindazok az értékkategóriák, amelyek ma még társadalmakat mozgatnak, eltűnnek, és valami egész más lép helyére. A történelmileg értelmezhető világhatalmi potenciál mindig is a szingularitásra játszott, de nagy kérdés, hogy a határpontig eljutva miféle akarat kerülhet olyan pozícióba, ahonnan a jó és gonosz tudása az emberiségnek tollba mondható. A technológiát informatikai tudás nélkül, csak a pénz elosztásával vezérlő hatalomnak marad-e eszköze az értelmezési horizontján kívül eső, az értékkategóriákat uralni képes MI-fejlesztés fölött ellenőrzést gyakorolni? A kérdés költői, hisz a válasz egyértelmű nem.

A szerző mérnök-informatikus