A Floridai Egyetem pszichológusa, Natalie Ebner és munkatársai több mint négyezer alany bevonásával hasonlították össze az ember és két gépi algoritmus teljesítményét arcfelismerésben. Először 200 fotóról kellett eldönteniük, hogy valódi vagy mesterségesen kreált. Az emberek gyakorlatilag csak találgattak: körülbelül 50 százalékos pontossággal ismerték fel a deepfake képeket. Az algoritmusok ennél sokkal jobban teljesítettek: az egyik 97, a másik 79 százalékos pontossággal találta el.
A videóknál azonban megfordult a helyzet. A közel kétezer résztvevőnek 70 rövid videót mutattak, amikben a beszélő fejekről kellett megítélniük, valósak vagy sem. Itt az emberek átlagosan 63 százalékos pontossággal ismerték fel a manipulált felvételeket, míg a mesterséges intelligencia teljesítménye nagyjából a véletlen találgatás szintjén maradt. A teszt alapján úgy tűnik
a hamis képeket az AI, a deepfake videókat az ember ismeri fel jobban.
A kutatók most azt vizsgálják, pontosan mi alapján döntenek az emberek és a gépek. Arra keresik a választ, hogy a mesterséges intelligencia milyen mintázatokat vesz észre a képeken, amik az ember figyelmét elkerülik, illetve milyen finom részleteket érzékel az emberi agy a videókban, amelyeket az algoritmusok nem tudnak értelmezni. Szerintük a jövőben nem csak az ember vagy a mesterséges intelligencia, hanem a kettő együtt jelentheti a leghatékonyabb védelmet a deepfake csalások ellen.
6 kulcsfontosságú jel, amivel az AI elárulja magát
Az AI által generált arcok sajátossága, hogy „hyper-átlagosak”. Ez azt jelenti, hogy a legtöbb esetben
- szimmetrikusabbak
- arányosabbak
- vonzóbbak
- kevésbé kifejezőek
- kevésbé emlékezetesek (nehezebb felidézni)
- kevésbé karakteresek (hiányoznak róluk az egyedi emberi vonások).
Az emberek gyakran félreértelmezik ezeket a jeleket: azt hiszik, hogy ami fura vagy szabálytalan, az AI, pedig a valóságban a valódi emberi arcok tele vannak szabálytalanságokkal. Ugyanakkor létezik egy szűk csoport, az úgynevezett „szuper-felismerők”, akik természetes módon, ösztönösen megérzik ezt a fajta hyper-átlagosságot.
Az is probléma lehet, hogy a legtöbben túl magabiztosak vagyunk: minél inkább meg vagyunk győződve arról, hogy felismerjük az AI-generált képeket, annál több hibát követünk el. A jelenlegi automatikus deepfake-felismerő szoftverek sem tökéletesek, ráadásul működésük nehezen értelmezhető, és akár egy egyszerű konvertálás PNG-ről JPG-re is megtévesztheti őket.
Deepfake videók: már egy óra gyakorlás is sokat segíthet
A kutatók azt is megvizsgálták, hogy ez a képesség fejleszthető-e. Egy másik, a PNAS (Amerikai Nemzeti Tudományos Akadémia) folyóiratában megjelent kutatás szerint már körülbelül egyórás gyakorlással jelentősen javítható az emberek deepfake-felismerő képessége. A kísérletvezetők itt nem szabályokat tanítottak a résztvevőknek, hanem sok valódi és mesterséges arcot mutattak nekik, miközben folyamatos visszajelzést kaptak arról, melyik volt hamis és melyik valódi. A résztvevőknek saját tapasztalataik alapján kellett ráérezniük az árulkodó mintázatokra.
A tréning során a résztvevőknek éppen a fenti hat jellemzőre kellett figyelniük, anélkül hogy előre elmagyarázták volna nekik, melyik mire utal. A módszer meglepően hatékonynak bizonyult: a résztvevők pontossága 40 százalékról 80 százalékra nőtt, többen pedig közel hibátlan eredményt értek el. Emellett gyorsabban és magabiztosabban is döntöttek.
AI influenszerek az Instagramon (Fotó: nlc illusztráció)
A kísérletet később kanadai kutatók is megismételték, és szinte azonos eredményre jutottak. Az online elvégzett tréning ugyanolyan hatékonynak bizonyult, mint a személyes oktatás, ami arra utal, hogy a módszer széles körben is alkalmazható lehet.
A deepfake-ek egyre kifinomultabbak. Utolérhető-e a fejlődés?
A kutatók ugyanakkor óvatosságra intenek. A vizsgálatban egyetlen képgeneráló modellt, a StyleGAN3 által készített arcokat használták, miközben az AI-technológia rendkívül gyorsan fejlődik. Még nem tudni, hogy az újabb modelleknél is ugyanazok a vizuális jelek segítik-e a felismerést, illetve hogy a megszerzett tudás hosszú távon is megmarad-e.
Akik szeretnék fejleszteni saját „deepfake-radarjukat”, azoknak a kutatók azt javasolják, hogy minél több valódi és mesterséges arcot hasonlítsanak össze. Fontos azonban tudni, hogy a deepfake-ek egyre kifinomultabbak, ezért a jelek már nem egy-egy könnyen kiszúrható hibában rejlenek, hanem abban az összbenyomásban, amelyet egy arc kelt. A szakemberek szerint önmagában sem az ember, sem a mesterséges intelligencia nem képes tökéletesen kiszűrni a hamisítványokat. A leghatékonyabb védekezést várhatóan az jelenti majd, ha az emberi megfigyelők és az algoritmusok erősségeit kombinálják a folyamatosan fejlődő technológiával folytatott versenyben.
Forrás: Science News, The Conversation
