Krónika

Jack Nicholson vagy Jim Carrey? – Hamis valóság az interneten

A digitálisan manipulált, azaz deepfake videók még nem terjedtek el, de alkalmasak arra, hogy belülről bomlasszanak közösségeket vagy befolyásolják egy választás kimenetelét

Számos veszélyt rejt magában az a mesterséges intelligencián alapuló technológia, amely képes manipulálni a közismert személyekről készült felvételeket és bármit kimondatni velük. A Facebook kitiltja felületéről az így létrehozott videókat.

Jack Nicholson vagy Jim Carrey? – Hamis valóság az interneten
Így készül egy álvideó. A technológia napról napra kidolgozottabbá válik
Fotó: AFP/Alexandra Robinson

Tudták, hogy a Ragyogás című filmben Jim Carrey alakította a főszereplőt, nem pedig Jack Nicholson? Nem? Pedig erről bárki meggyőződhet a YouTube felületén, ahol Stanley Kubrick horrorfilmjének emblematikus jeleneteiben a kilencvenes évek legnagyobb nevettetője alakítja a családja ellen forduló főszereplőt. Az igazság természetesen az, hogy ez a verzió egy manipulált felvétel, amelyet a közönség szórakoztatására hoztak létre. A technológia azonban számos veszélyt rejt magában.

Jó ideje befészkelte magát a köztudatba az úgynevezett deepfake videók jelensége. A kifejezés az angol deep learning (mélytanulás) és a fake (hamis) szavakból keletkezett egy népszerű internetes fórumon. Ezen technológia újszerűségét az adja, hogy a felvételek manipulálását nem közvetlenül a felhasználó végzi el, hanem a mesterséges intelligencia, amely ha elegendő felvétellel, vagyis adatokkal rendelkezik egy személyről, akkor a kielemzett videók alapján képes reprodukálni az adott egyén arcmozgását. A deepfake akkor robbant be a köztudatba, amikor Jordan Peele amerikai filmrendező manipulált videójában szándékosan olyan mondatokat adott Barack Obama szájába, amiket az exelnök sohasem mondana.

A technológia ugyan nem tökéletes, de egyre kidolgozottabbá válik, ahhoz pedig már most is elég jó, hogy általa belülről bomlasszanak közösségeket vagy befoly solják a 2020-as amerikai választásokat. Persze ezeknél sokkal rosszabb forgatókönyveket is el lehet képzelni.
A kutatók arra is figyelmeztetnek, amennyiben az emberek túlzottan sok deepfake videóval szembesülnek, idővel közönyössé vagy bizalmatlanná válhatnak az igazi felvételekkel szemben is. Nem csoda hát, hogy a Facebook vezetősége a napokban közölte, kitiltja felületéről a digitálisan manipulált felvételeket, hozzátéve, a paródiákat és szatirikus videókat engedélyezni fogják.

A szakértők szerint a leghatékonyabban szintén szoftverekkel lehet védekezni a jelenség ellen, hiszen minden személy mimikájában rejlenek olyan sajátos vonások, amelyek alapján a mesterséges intelligencia kiszúrhatja, ha manipulált videóval van dolga.

A deepfake jelenség valóban aggasztó, hiszen bizalomvesztéshez vezet, eddig ugyanis a videókkal szemben még nem kellett gyanakvónak lennünk – fogalmazott lapunknak Rab Árpád információstársadalom-kutató. Hozzátette, idővel valószínűleg Magyarországon is találkozunk velük, de hazánk kis piac, ezért nem kell túlzottan aggódnunk. Annak kapcsán, hogy a mimikából kiolvasható sajátos vonások hatékony védelmet jelenthetnek-e, azt felelte, közszereplők esetében elegendő felvétel áll rendelkezésre, magánszemélyekről – például egy üzletemberről – azonban rendkívül jogsértő volna ilyen célból adatokat gyűjteni. Mint mondta, könnyebb azt ellenőrizni, hogy egy adott felvételt megszerkesztettek-e bármilyen módon is, így célszerűbb lenne erre fektetni nagyobb hangsúlyt a szoftverek fejlesztésénél.

Kapcsolódó írásaink

A magyarhirlap.hu weboldal sütiket (cookie) és különböző kódokat használ a megfelelő működés, elemzések készítése, a felhasználói élmény fokozása valamint az Ön számára releváns, személyre szabott ajánlatok összeállítása érdekében. Ezek használatát az Elfogadom gomb megnyomásával jóváhagyja. Bővebb információt az Adatkezelési Tájékoztatónkban talál.

Elfogadom