A kiberbűnözők Mekkája lehet a Mesterséges Intelligencia – INTERJÚ

– A kiberbűnözés évek óta rekordokat döntöget, ráadásul tovább nehezíti a helyzetet, hogy a kiberbiztonság területén óriási a szakemberhiány. Megoldás lehet erre a mesterséges intelligencia?

– A mesterséges intelligencia természetesen képes érzékelni és kimutatni atipikus, a normálistól eltérő mintázatokat a hálózatokon, az adatforgalomban, az adatbázisokban, így a kiberbűncselemények elleni harcban is használható. A bankok már régebb óta használnak a pénzmosás felderítésére MI-t, de MI segíti a platformokat is például az illegális tartalmak szűrésében, és a nyomozó szerveket is a bűncselekmények felderítésében. Nemrég hallhattunk egy előadást az egyik partneregyetemünk, a Rijekai Egyetem professzorától, ők olyan szoftvert fejlesztenek, amely a jogosulatlan banki tranzakciókat akkor is képes kiszűrni ha a csaló ellopja a telefont és a jelszót, mert a felhasználó kézmozdulataiból is képes kitalálni, hogy ő használja-e a banki applikációt.

Ugyanakkor azt sem szabad elfelejteni, hogy ezek a technológiák a kiberbűnözők számára is rendelkezésre állnak. Egyre több aggasztó hírt lehet hallani, hogy ezt ki is használják. Így például csalók mesterséges intelligencia segítségével utánozták egy banki menedzser hangját, és loptak így el egy egyesült arab emirátusokbeli bankból 35 millió dollárt. Így az MI a kiberbűnözők és a kiberbiztonsági szakemberek közti „fegyverkezési verseny” egy újabb fejezetét nyitja meg.

– Egyértelműen kijelenthető, hogy az intelligens adatfeldolgozásé a jövő?

– Igen, ez most már nyilvánvaló. Egyre inkább az a trend, hogy nemcsak az online szolgáltatások és az internetes platformok, amelyek eleve adatkinyerő és feldolgozó „gyárak”, hanem a hagyományos vállalatok is gyűjtik, tárolják és elemzik azokat az adatokat amelyekhez legálisan hozzáférhetnek. Sőt ez a közigazgatás, és a közszolgáltatások területén is egyre gyakoribb. Csak néhány példa: az egészségügy szféráját már most is nagyon sok területen megváltoztatták a mesterségesintelligencia-alkalmazások a diagnosztikától és a prevenciótól kezdve a gyógyszerkutatáson keresztül a robotsebészetig: ezek mind intelligens adatgyűjtést és feldolgozást igényelnek.

Ugyanez igaz például az úgynevezett precíziós mezőgazdaságra, ahol a termőföld és a termés állapotáról folyamatosan gyűjtik a szenzorok az adatokat, a kapcsolódó mesterséges intelligencia pedig az adatok alapján döntést hoz a beavatkozásról, például a permetezésről vagy a beteg növény eltávolításáról. A mesterséges intelligencia „adatéhes jószág”: feltételezi a széles körű adatgyűjtést és az intelligens feldolgozást, és ha a mesterséges intelligenciáé a jövő, akkor ez egyben azt is jelenti, hogy az intelligens adatfeldolgozásé.

– Ha a biztonságot az MI-re bízzuk, akkor szilárd alapokon fog állni az adatvédelem?

– Az, hogy a mesterséges intelligencia segíthet megvédeni a személyes adatainkat régebb óta nyilvánvaló. Például léteznek olyan megoldások, amelyek már adatgyűjtéskor osztályozzák az adatokat és a személyes adatokat eleve anonim formában tárolják, azaz megfosztják ezeket személyes jellegüktől. De elképzelhető olyan megoldás is, amely a vírusirtóhoz hasonlóan figyeli a weboldalakat, és képes elolvasni és értelmezni az adatvédelmi szabályzatokat, majd ezeket összevetni a fogyasztó előre megadott preferenciáival. Már folynak kísérletek ilyen szoftverek létrehozására.

Ugyanakkor itt is el kell mondani, ami már az előző kérdéseknél is felvetődött. Azok is hozzáférnek a mesterséges intelligenciához, akik ártó szándékkal lépnek fel, vagy nem akarják, hogy egy MI „védje” a személyes adatainkat. A vírusokat előállítók és a vírusirtók között a küzdelem soha nem fog véget érni, és ezen a területen is egy folyamatos küzdelemre lehet majd számítani, az adatvédelem soha nem fog – ebből a szempontból – száz százalékig szilárd alapokon állni.

Ugyanez igaz az adatbiztonságra is. A közigazgatás és a cégek védhetik fejlett, mesterséges intelligencia alapú szoftverekkel az adatvagyonukat és a titkaikat, a rendszer soha nem lesz teljesen hermetikus. Ha másért nem, azért, mert minden rendszerben szükségszerűen benne maradnak az emberek is, akik általában a leggyengébb láncszemek. Mint az ismert, a Kréta rendszert is nemrégiben egy egyszerű adathalász email-lel törték fel.

– Miben lesz jobb, ha a mesterséges intelligenciára bízzuk az adatainkat?

– A mesterséges intelligencia, ha betartották a programozásakor és a tanításakor az alapvető etikai elveket, sokkal megbízhatóbban képes az adatainkat kezelni, mint egy emberi adatkezelő. Az MI-nek ugyanis – jó esetben – nincsenek hátsó szándékai, nem kíváncsiskodik, nem pletykálkodik, és nem szivárogtat ki információkat. Nem tud féltékenységből visszaélni az adatokkal, nem akar megzsarolni, soha nem fárad el, és talán becsapni is nehezebb, mint egy embert. Egyszóval: a mesterséges intelligencia, bár olykor hajlamosak vagyunk úgy elképzelni mint egy embert, valójában egy semleges gép, emberi gyarlóságok és gyengeségek nélkül.

De ez, hangsúlyozom csak addig igaz, amíg a mesterséges intelligenciát létrehozó, adatokkal etető, és üzemeltető emberek betartják azokat a jogi szabályokat és etikai elveket, amelyekkel kapcsolatban ma már széles körű konszenzus van. Ne felejtsük ugyanis el, hogy az MI-k jelenleg még nem ébredtek öntudatra: bár képesek váratlan dolgokat produkálni, alapvetően mégis az emberek irányítása alatt állnak.

– Mit tehetünk akkor, ha jogi segítségre van szükségünk?

– Ha egy mesterséges intelligenciával kapcsolatos jogi probléma felmerül, már ma is van lehetőség jogorvoslatot keresni. Bár nem kifejezetten erre a szituációra modellezték, de az európai jognak és így a magyar jognak is évtizedek óta része az úgynevezett automatizált döntéshozatalra vonatkozó szabály. (Az automatizált döntés egyik alváltozata az MI-vel hozott döntés.)

Ezt a szabályt a magyar adatvédelmi törvény (6. §-a) is tartalmazza. A legcélszerűbb először az adott, MI-t üzemeltető szervezethez fordulni, majd ha ők a panaszt nem kezelik megfelelően, az adatvédelmi hatósághoz. Kérhetjük, hogy a mi ügyünket ne gép döntse el, hanem ember, és azt is, hogy kapjunk a döntésről érthető magyarázatot.

– Bírósági tárgyalás esetén hagyatkozhat a bíró az MI-re?

– Erről jelenleg is parázs viták folynak. A világ bíróságain még csak nagyon szűk körben használnak MI-rendszereket, és ezeket is csak olyan kevésbé fontos, nem az ügy eldöntését befolyásoló területeken, mint a beérkező iratok szortírozása, vagy a jogszabályok és jogesetek kikeresése. Amerikában néhány éve nagy port vert fel amikor a bíró egy büntetőügyben az elkövető visszaeséssel kapcsolatos kockázatát egy ilyen rendszer alapján becsülte meg és szabott ki büntetést.

Kiderült, hogy a rendszert már hosszabb ideje használták az Egyesült Államok bíróságai, és az is kiderült, hogy a beletáplált adatok alapján a rendszer eléggé elfogult (negatív irányban) a színes bőrűekkel. Emiatt is jelenleg az a többségi álláspont, hogy az ügy érdemét befolyásoló döntés esetén a bíró nem támaszkodhat MI-rendszerre. Magyarországon egyébként ez a veszély nem áll fent, a mesterséges intelligenciát nem használják a magyar bíróságok, és tudomásom szerint nincs is tervbe véve ilyesmi.