Tudomány

Nem tudjuk elképzelni, hogy aki helyettünk dönt, az ne legyen intelligens

A mesterséges intelligencia kifejezés annyiban félrevezető, hogy azt sugallja, sikerült kiszerveznünk az emberi tudatot, holott erre valószínűleg sohasem leszünk képesek – mondta lapunknak Rab Árpád, a Budapesti Corvinus Egyetem docense

Valószínűleg sohasem fognak öntudatra ébredni a számítógépek – többek között erről is beszélgettünk Rab Árpáddal, a Budapesti Corvinus Egyetem docensével. A kutató szerint ugyan a mesterséges intelligenciával kapcsolatos aggodalmak egy része jogos, ám a gépeknek nincsenek céljaik, azokat az ember határozza meg. A gépek lázadásától nem kell félnünk, a technikai vívmányok okozta globális méretű hatásoktól és a kiszámíthatatlan következményektől azonban jogosan tarthatunk.

Nem tudjuk elképzelni,  hogy aki helyettünk dönt,  az ne legyen intelligens
Rab Árpád: Az emberiségnek mindig sikerült válaszolnia a kihívásokra
Fotó: Bodnár Patrícia

– Népszerű elmélet, hogy minden találmány az ember kiterjesztése. A mesterséges intelligencia kifejezés azt sugallja, hogy sikerült az agyat, a tudatot is kiszerveznünk. Megállja ez a helyét?

– Van benne valami. Az ember eszközhasználó lény, a hiányosságainkat pedig a gépekkel próbáljuk kiegészíteni. Néhány erőt ad, néhány a gyorsabb közlekedést segíti. A mesterséges intelligencia egy dolgot tud: gyorsabban számol, mint mi. Nincs öntudata, nincsenek céljai. Nem úgy intelligens, ahogy egy élőlény, hanem gyorsan tanul, illetve végez számításokat. Például lehetővé tette, hogy miközben valaki magyarul beszél, lefordítja angolra vagy bármilyen nyelvre valós időben. Mindössze annyit csinál, hogy amit mondunk, rendkívül rövid idő alatt eltárolja egy adatbázisban, ott megnézi, milyen ehhez hasonló szövegek vannak más nyelven, összepárosítja, majd ezeket a szövegeket visszatükrözi. Nem megérti és lefordítja. Ilyen értelemben tehát kiterjesztése az agynak, hiszen tudást kölcsönöz, így a nyelvet már nem kell megtanulnunk. Abban az értelemben viszont nem kiterjesztés, hogy azt továbbra is mi döntjük el, mi legyen a beszélgetés tárgya.

– Az agyat ezek alapján ki tudjuk szervezni. De mi a helyzet a tudattal?

– Ez egyelőre semmiképp sem lehetséges, de valószínűleg később sem fog sikerülni. Létrehozhatunk olyan konstrukciót, amely nagyon hasonlít egy emberre. Ezt úgy értem, hogy igazából mi, emberek is algoritmusok szerint mozgunk és élünk, ezek a társadalmi szabályok. Reggel csörög az óra, felkelünk, felöltözünk, köszönünk, jobbra-balra fordulunk. Minden cselekvés leírható algoritmusok sorozatával. Ha egy gépben milliónyi ehhez hasonló algoritmust eltározunk, akkor egy külső szemlélő szemében úgy tűnhet, mintha emberien viselkedne, hiszen különböző tevékenységeket folytat.
Az öntudat, a lélek és a célok azonban teljesen hiányoznak belőle. Utasítást hajt végre, de nem akar semmit. Az önvezető autó nem szeretne elmenni A-ból B pontba, oda az ember akar elmenni.

– A nagy kérdés tehát az, hogy egy számítógépes rendszer képes lehet-e kilépni és önmagát kívülről szemlélni?

– Igen, illetve az, hogy meg tud-e fogalmazni célokat önmagának. Az igazság az, hogy a mesterséges intelligenciának sosem lesznek olyan céljai, mint nekünk. Mi azért utazunk a világban, hogy élményeket szerezzünk. Őt nem érdeklik az élmények. A teherautó azért megy, hogy élelmiszert szállítson, de élelmiszerre csak az embernek van szüksége. Mi vagyunk a tudat, és a gép az, amely helyettünk elvégzi a gondolkodás mechanikus részét. Ezt így érdemes megközelíteni. Mi adjuk a célt, és ő hajtja végre.

– Egy pesszimista tipikusan azt felelné erre, hogy azért nem tudjuk elképzelni, hogy öntudatra ébrednek, mert csak az elmúlt percben a technológia annyit fejlődött, mint az előző kétszáz évben, és ez az exponenciális növekedés emberi ésszel felfoghatatlan.

– A felvetés jogos, a technológia valóban rohamos ütemben fejlődik. Amit ma átélünk, azt csak nagyon kevesen jósolták meg. Például a közösségi média vagy a digitális kultúra ilyen mértékű térhódítását is alig néhányan jelezték előre. Ugyanakkor látnunk kell, hogy nem az eszköz fejlődését nem láttuk előre, hanem a társadalmi hatásait. Azt lehetett tudni, miként működik az internet, ám azt, hogy ennyire megváltoztatja az életünket, csak sejthettük. A félelem is jogos, de vannak esetek, ahol az alapvető struktúra meghatározza, hogy mi történhet a jövőben. Más szóval: egy algoritmus akkor is csak algoritmus marad. Nulla és egy. Nem számít, milyen gyorsan fejlődik, alapvető jellemzője, hogy nullák és egyesek sorozata. Az nem változik meg, hogy ez egy szoftver. Mi, emberek változni fogunk, de ilyen értelemben az, hogy mitől félünk, rajtunk is múlik. Ha nem tetszik nekünk valami, akkor formálhatunk rajta, mint régen a népdaloknál, ahol a csúnyább vagy kevésbé tetsző részt nem énekelték, amit így elfelejtettünk. Nincs olyan külső faktor, amely meglephetne minket. A technológia technológia marad, az ember pedig a kulcsfontosságú tényező.

– Nem félrevezető a mesterséges intelligencia kifejezés?

– Abszolút félrevezető. Egy jövőbeli lehetséges dolgot ír le. Van egy elképzelés, amely szerint el fogunk érkezni az algoritmusok egy olyan korába, amikor saját döntéseket is hoznak majd. Persze ma is ismerünk olyanokat, amelyek dönthetnek kérdésekben, de ezek még az ember által betáplált döntéseket aktivizálják. Ha ezeket a döntéseket ők hozzák létre, akkor kezdhetünk majd félni a mesterséges intelligenciától vagy a gépektől. De nem úgy kell ezt elképzelnünk, hogy a gépek létrehoznak egy Terminátor-szerű robotot, amelyik megtámad minket. Amitől igazán félhetünk, hogy helyettünk hoznak meg döntéseket. Az ember mindig eszközhasználó volt, de olyan sosem volt, hogy az eszköz helyettünk döntött. Ha például beállítunk egy humánerőforrás-szoftvert, és megadunk neki különböző paramétereket arról, hogy aki nem dolgozik elég hatékonyan, nem ér be időben, rúgja ki, azzal gyakorlatilag egy döntési jogkört ruházunk rá. Ez lenne az első eszköz az emberiség történelmében, ahol a bizalom olyan mértékűvé válna, hogy a döntést rábízzuk. Emiatt félünk tőle, ezért is hívjuk intelligenciának. Ez az emberi arrogancia következménye: nem tudjuk elképzelni, hogy aki helyettünk hoz döntéseket, az ne legyen intelligens.

– Mit gondol arról, hogy sokan a Facebook algoritmizációjában látják a központi agy ébredését?

– Teljesen jogos az aggodalom annyiban, hogy a Facebook már régóta nem létezhetne mesterséges intelligencia nélkül. Ám ez esetben is csak gyors adatbázis-műveletekről beszélhetünk. A Facebook esetén milliárdnyi ember egyszerre használ egy rendszert, méghozzá nagyon bonyolult módon. Mozgás közben használjuk, like-olunk, videózunk, chatelünk. Minden ember több ezer cselekvést végez egy nap, több milliárd ember pedig végtelen számú cselekvést hajt végre. A Facebooknak azonnal reagálnia kell, hogy mit dobjon fel az egyes emberek üzenőfalán. Ezt emberi módon nem lehet csinálni, de a döntést ezúttal is emberek hozzák meg, akik megírnak egy algoritmust úgy, hogy a felhasználók üzenőfalán olyan tartalmak jelenjenek meg, amiket ők szeretnek. A félelem a Facebook esetében nem az algoritmusok gyorsaságára vonatkozik, hanem arra, hogy aki létrehozza ezeket, az döntött valamiről. Ez pedig lehet gazdasági, politikai vagy társadalmi irányultságú. A lényeg, hogy valaki meghatározza, hogy mit láthatunk. Persze megoldható lenne, hogy ha teszem azt, rákeresek egy vegetáriánus posztra, megjelenjen mellette egy antivegetáriánus poszt is. Csakhogy a Facebook alapvető érdeke, hogy a felhasználó pozitívan reagáljon. Úgy sarkall minket a minél több használatra, hogy mindig pozitív visszajelzést küld. Következésképpen ha vegetáriánus vagyok, és szűnni nem akaróan vegetáriánus tartalmak jönnek velem szembe, akkor jobban érzem magam, a világ szimpatikusabb lesz, hiszen olyan, amilyennek én elképzelem. A Facebook egyfajta szeretetgép.

– Összességében mégsem tűnik pesszimistának.

– Pesszimista abszolút nem vagyok. Hiszek a funkcionalista antropológiában és technológiában. Az ember mindig is eszközök segítségével válaszolt azokra a kihívásokra, amelyek fennálltak. Ma is vannak újabb kihívások, hiszen rengetegen vagyunk a Földön. Például az, hogy idegenek egymással együtt tudnak működni automatizált módon, korábban nem volt lehetséges. Mostanra nem csupán lehetséges, de szükséges is. Soha nem lakott még ennyi ember városban. A föld mindig vidéki volt többségében, most az emberek fele, hamarosan már a háromnegyede városokban lakik. Azok a szokások, amelyek régen működtek – én segítek neked az építkezésnél, cserébe elviszed a gyerekemet óvodába –, ma már nem elképzelhetőek, mert sok idegen él egymás mellett. Viszont a digitális kultúra ezt megoldotta olyan értelemben, hogy például egy applikáció segítségével eljön értem egy idegen, és hazavisz az autójával. Mindig sikerül válaszolni a kihívásokra, ilyen szempontból optimista vagyok. Minden technológiai eszközt továbbfejlesztünk. Az első repülőgépek még lezuhantak, az első puskák pedig felrobbantak az ember kezében. Másrészről viszont látni kell, hogy ezt az eszközt nehezen értjük meg az összetettsége okán, illetve mert nem megfogható. Nem érzékeljük a hatásokat, csak utólag értjük meg, ha megértjük egyáltalán, hogy mit miért tettünk. Például azért, mert a közösségi médián keresztül esetleg manipuláltak minket. Ma – mivel globalizációban élünk – lehetséges hogy egy, a világ másik pontján élő programozó olyan programsort ír, amely az én életemet gyökeresen befolyásolja majd. Hiszen egy felrobbant puska vagy a lezuhant hibás gépek maximum néhány ezer ember életére voltak hatással. Olyan azonban még nem volt, hogy egy ember hibája milliárdokra kihasson.

Kapcsolódó írásaink

A magyarhirlap.hu weboldal sütiket (cookie) és különböző kódokat használ a megfelelő működés, elemzések készítése, a felhasználói élmény fokozása valamint az Ön számára releváns, személyre szabott ajánlatok összeállítása érdekében. Ezek használatát az Elfogadom gomb megnyomásával jóváhagyja. Bővebb információt az Adatkezelési Tájékoztatónkban talál.

Elfogadom