Digitális jövőnk – 3. rész

Többen az információtechnológia legnagyobbjai közül is azt vallják, hogy a MI az emberi faj végét jelentheti. Ez akkor következhet be, amikor a MI meghaladja az emberit, sőt – a feltételezések szerint – idővel tudata is lesz. „A mesterséges intelligencia létrehozása az emberiség történelmének legnagyobb eseménye. De sajnos lehet, hogy ez lesz a legutolsó, hacsak nem tanuljuk meg, hogy hogyan kerüljük el a kockázatokat. Az egyre fejlettebb MI uralma alá hajthat bennünket oly módon, amilyet el sem tudunk képzelni. A szuperintelligens MI lehet a legjobb dolog, amely velünk történik, de lehet a legrosszabb is. Előre kell gondolkodnunk, terveznünk, mert lehet, hogy csak egy esélyünk lesz. Jövőnk versenyfutás az általunk létrehozott technológiák és azok felhasználása között. Tegyünk róla, hogy győzzön az emberi bölcsesség.” Ezek Stephen Hawking intelmei, nem sokkal halála előtt hangzottak el.

„A MI az emberiséget érő, valaha volt legnagyobb kihívás. Nem az eljövendő húsz-harminc évben, hanem a következő néhány évben. Csak addig lesz szabályozható, amíg okosabb nem lesz nálunk. Teljesen megváltoztatja, felforgatja majd az életünket. A MI veszélyesebb, mint a klímaváltozás” – véli Mo Gawdat, a Google egyik korábbi vezetője. Rövid távon az a döntő kérdés, hogy ki uralja a MI-t, hosszú távon az, hogy az fog felettünk uralkodni. A szuperintelligens MI lehet a legjobb dolog, amely velünk történik, de lehet a legrosszabb is. Elon Musk, Bill Gates, Steve Wozniak, Max Tegmark hasonlóan gondolkodik.

E széles körben elterjedt félelmekkel szemben azonban Steven Pinker, a Harvard pszichológusprofesszora igen meggyőző érveket fejt ki. Az ÁMI-nak (általános mesterséges intelligenciának) tulajdonított veszélyeket a tudományos alapok nélküli, ótestamentumi átkozódásokhoz és jeremiádákhoz hasonlítja. (Az általános itt azt jelenti, hogy minden vonatkozásban intelligensebb lesz nálunk.) Azt vallja, hogy a katasztrófaszcenáriók mindig könnyen utat találnak a tömegekhez. A jellegzetes MI-disztópiák pedig „a szűk látókörű alfahím pszichológia kivetítődései az intelligencia koncepciójára”. (Azaz: az intelligensebb lény hatalmát mások meghódítására használja fel.) A rettegők téves platformon állnak: azt hiszik, hogy az intelligenciából következik a dominancia vágya. Azonban inkább ennek az ellenkezője valószínű: a szuperintelligencia jóhiszemű lesz.

A kiirtásunkkal kapcsolatban megemlítek még egy variánst. A szuperintelligencia hamar rájön majd arra is, hogy ezt a csodálatos bolygót, ennek a fantasztikus élővilágát az egyik faj, a homo sapiens súlyosan veszélyezteti, kiirtja a többi fajt, és elveszi az életterüket. És ennek hatására dönt majd úgy, hogy kiiktat bennünket? Én inkább azt tartom valószínűnek, hogy elfogadtatja majd velünk azt a környezetbarát gazdaságfejlesztési koncepciót, amelyet ökológusok és környezetgazdászok már évtizedek óta hirdetnek, és amely a biológiai sokféleség fenntartása és a visszafordíthatatlan környezeti károk elkerülése mellett teszi lehetővé a gazdasági fejlődést.

Döntő kérdés, hogy képesek vagyunk, leszünk-e a MI fejlesztését a számunkra kedvező irányokba terelni? A világ legnevesebb komputertudósai mozgalmat indítottak „a jó szándékú MI” fejlesztéséért. A kaliforniai Asilomarban 2017-ben tartott konferenciájukon például 23 irányelvet fogadtak el. Néhány közülük: a MI kutatásának célja a jó szándékú intelligencia létrehozása legyen; kutatni kell, hogy a jövőbeli MI-rendszerek akaratunknak megfelelően cselekedjenek; úgy kell növelnünk jólétünket az automaták segítségével, hogy közben megmaradjanak emberi céljaink; a MI-kutatóknak együtt kell működniük, és kerülniük kell a versenyt; a fejlett MI-rendszerek tervezői és megépítői felelősséggel tartoznak e rendszerek működésének morális vonatkozásaiért; a nagymértékben autonóm MI-rendszereket úgy kell megtervezni, hogy céljaik és viselkedésük összhangban legyen az emberi értékekkel, az emberi méltósággal, a jogokkal és a kulturális sokféleség eszméivel; a szuperintelligencia fejlesztése az egész emberiség javát kell hogy szolgálja, nem pedig egy állam vagy szervezet érdekeit. (A csoport szervezője Max Tegmark, az MIT professzora, a magyarul is megjelent Élet 3.0 című kötet szerzője.)

Daron Acemoglu, aki 2013-ban vált ismertté a Miért buknak el nemzetek? – A hatalom, jólét és a szegénység eredete című könyvével, és az idei közgazdasági Nobel-díj díjazottja, a kialakult helyzetet igy jellemzi: A mesterséges intelligencia az üzleti hasznosítása során elsősorban nem az eredeti célt, az emberek munkájának megkönnyítését szolgálja, hanem egyes munkakörök automatizálását, s így végül a MI a magasan kvalifikált munkaerő eszközévé válik. Ehhez a Szilíciumvölgyben egy sajátos emberképet kreáltak: az ember megbízhatatlan, hibákat vét – a tökéletes géppel szemben (néhány zsenit kivéve). Így lett az emberi munkát segítő gép koncepciójából azt ellenőrző, felügyelő, irányító mesterséges intelligencia – amely idővel helyettesíteni fogja a tökéletlen embert.

Acemoglu azt javasolja, hogy szigorúbban kell szabályozni Google & Co., vagyis a „techbárók” tevékenységét. Tévútnak tekinti azt a fejlesztési irányt, hogy a MI mihozzánk váljék hasonlatossá. Az internettel és a digitális technikákkal kapcsolatos eredeti cél a decentralizáció volt: lehetővé tenni, hogy a döntések, a tudományos kutatás decentralizáltan valósuljon meg. Azt tartották szem előtt, hogy az új technológia minél hasznosabb legyen, minél több hasznot hozzon. Mára viszont a nagy digitális platformok a véleményformálás, a tudás és az információ soha nem látott koncentrációját valósítják meg, az eredetivel ellentétes célokat szolgálnak. De hogyan lehet e felfogásnak érvényt szerezni egy liberális piacgazdaságban, amikor a fejlesztési irányokat nem központi elképzelések, hanem a cégek decentralizált profitérdeke szabja meg? Acemoglu Kínát hozza fel példaképnek, ahol a kormány képes befolyásolni, hogy az információtechnológiai fejlesztések iránya ne sértsen társadalmi érdekeket. Látnunk kell azonban, hogy ez csak a kínai gazdasági-politikai rendszer keretei között valósítható meg…

A szerző közgazdász

(A cikksorozat alapja a szerző tanulmánya, amely a Kulturális identitás a glokalizáció korában című kötetben jelent meg. Szerkesztette Szécsi Gábor és Tóth I. János, Gondolat, 2024)