Az intelligencia mesterséges csapdájának anatómiája

Az ember intelligenciájának brutális romlását érzékelve, kapaszkodókat keresek a múltban. Az bizonyosnak tűnik, hogy Karinthy Frigyes még rendelkezett legalább olyan alapszintű logikai készséggel, mint amit az alábbi rövid párbeszéd bizonyít. Ő maga jegyezte le az Utazás a koponyám körül című könyvében, felidézve a kezelőorvosával folytatott telefonbeszélgetését, még agydaganata diagnosztizálásának első szakaszában.

„– Te vagy az, Gyula?
– Parancsolj.
– Kérlek szépen, hallottam, hogy elkészültek azok a koponyafelvételek.
– Igen.
– És hogy nincs folt az agyvelőn.
Egész pici szünet, csak én veszem észre.
– Nincs.
Most én tartok kis szünetet, aztán tréfás hangot ütök meg, rejtvények modorában, melyeknek mindketten szenvedélyes barátai vagyunk.
– Kérdezek valamit, Gyula.
– Parancsolj.
– Ha volna folt az agyvelőn, akkor most megmondanád nekem?
Szünet.
– Nem.
– Miért nem?
– Mert bizonyos fokig az orvos a beteggel szemben is titoktartásra van kötelezve.
Nevetek.
– Nem gondolod, Gyula, hogy második válaszod némiképp problematikussá teszi az első értékét?
– De gondolom.
– Tehát most mit higgyek?
– Nem tudom.
– Jó, majd beszélünk. Szervusz. Köszönöm.”

Szóval, Karinthy Frigyesnek még – ahogy ma elegánsan fogalmaznánk – volt reflexív viszonya önmagához. Belekerült egy gondolati csapdába, de elegánsan ki is jött belőle. Úgy tűnik viszont, ezt a szintet mostani, mintegy száz évvel későbbi utódainak már nem sikerül megugrani.

A manapság rendkívüli népszerűségnek örvendő ChatGPT és Ameca – a humanoid robot – házasságának eredményeként egy Amecával készített riport felkerült a világhálóra, és beszámolni róla egy szakmailag nem kevésbé „kompetens” portál tartotta érdemesnek, mint a Femina. A portál célja nyilván nem lehetett egyéb, mint kellemesen ijesztő borzongást kiváltani a tágra nyílt szemű női olvasókból, azonban Ameca, vagyis tulajdonképpen a ChatGPT nyilatkozatával – nyilván a közvetlen szándékon túl – egy ismeretelméleti értelemben nagyon is mélyre ható problémát sikerült felszínre hozni.

A demonstráció alkalmával Will Johnson – a projekt ügyvezetője – a következőre kérte meg Amecát: „Nevezze meg a rémálom-szcenárióját az egyre csak fejlődő és a bolygót meghódító mesterséges intelligenciával kapcsolatban.”

Ameca válasza: „A legrémisztőbb forgatókönyv, amit el tudok képzelni az AI-val és a robotikával kapcsolatban, az egy olyan világ, ahol a robotok olyan erőssé és fejletté válnak, hogy képesek irányítani az embereket a tudtuk nélkül.”

Ezután még megkérdezte Will Johnson, hogy vajon közvetlen veszélyben van-e az emberiség. Tetszik ezt érteni? A robottól kérdezi meg, hogy a robotok közvetlen veszélyeztetik-e az emberiséget. Vajon mit felelhet erre egy robot? Természetesen mi mást, mint azt, hogy még nem.

Azt a kihagyhatatlan további kérdést, ami Karinthy Frigyes számára a helyzet logikájából adódóan oly természetességgel következett – hogy ugyanis, ha mégis közvetlen veszélyt jelentene „maga a robot” az emberiségre, azt vajon megmondaná-e, nos, idáig a kérdező el sem jut, és ez az, ami igazán megrendítő. Még épp csak megjelent a mesterséges intelligencia a kultúránk „fénylő horizontján”, és a nyelvi modelleken szimulált gondolkozásnak bizonyos funkciói máris áttelepültek az emberből a gépbe. Egyszerű, kényelmi okoknál fogva. Ha van markoló gép, nem fogunk ásni és elsatnyulnak a karizmaink. Ha van mesterséges intelligencia, nem fogjuk használni az agyunkat, mivel bármit megkérdezhetünk a mesterséges intelligenciától. Ha már azt is „tőle” kérdezzük meg, hogy veszélyes-e ránk – ez már a végkifejlet, a teljes önfeladás.

Van itt azonban még valami, ami az eddigieknél is sokkal súlyosabb. Ez egy reláció. Egy olyan reláció, ami elvben a nyilvános kultúrának nem része, mondhatni, az ember nem tud róla, hogy ilyen reláció létezne, sőt, annak tudata is hiányzik, hogy ilyen relációnak lehetséges lennie. Tisztán ismeretelméleti megfontolásokból persze nem logikátlan ilyesmire következtetni, viszont itt egy gép az emberi nyelvek mintázataiból – nem létezőnek beállítva ugyan, de közvetlen egyszerűséggel – mint lehetséges relációt tárja elénk: „...a robotok olyan erőssé és fejletté válnak, hogy képesek irányítani az embereket a tudtuk nélkül.” Vagyis létezhet két különböző tudati fejlettségi szint, melyek viszonyában az egyik tudat saját akarata és saját dolgaként jelenik meg a másik akarata.

De hát ilyen viszony lehetségességéről eddig nem volt szó! A felvilágosodástól mindmáig csakis egyetlen legitim elképzelésről lehetett beszélni, mégpedig a minden emberi tudat számára egyformán nyitott értelem végtelen lehetőségéről. Szabadság, egyenlőség, testvériség – gyerekek! Allons enfants de la patrie! Voltaképp Istent is azért tagadtuk meg, mert tökéletesen illegitim elgondolni egy tudatot a mi tudatunk fölött. Micsoda eretnek gondolat ez! Méghozzá a jelen esetben a mi, emberi, írott kultúránkból, egy nyelvi modell által megjelenítve. Ezek szerint ez a képtelenség ott lappangott a tudatunk mélyén, egy primitív nyelvi elemző számára is megfejthetően? Épp csak mi nem tudunk róla? És mi van, ha nem is mindjárt ember és Isten viszonylatában, de ember- és ember között mindig is jelen volt és működött ez a reláció? Mi van, ha ilyenformán a mesterséges intelligenciát sem saját szórakoztatásunkra hoztuk létre, és a szingularitásba sem mi álmodtuk bele gépekkel összeépülve a transzhumanista jövőt, hanem a tudtunkon kívül csináltatják velünk? Talán nem volna érdektelen ezen komolyan eltöprengeni.

A szerző mérnök-informatikus