A deepfake technológiája egyre terjed, és senki sincs biztonságban. Számos ismert embert céloztak meg az arcukat, hangjukat felhasználó, mesterséges intelligencia által generált fotókat és videókat gyártó netezők. „Emma Watsonnal” mondattak már el náci propagandát, „Tom Cruise-nak” saját TikTok-oldala van, de Volodimir Zelenszkij, Ukrajna elnöke is találkozott már a deepfake-kel: egy 2022-es videóban úgy tüntették fel, mintha megadná magát Oroszországnak.
Legutóbb idén februárban okozott óriási felháborodáshullámot a technológia, amikor is az X-et (ami ugyebár a Twitter) Taylor Swiftet ábrázoló erőszakos deepfake pornográf anyagok árasztották el. Az egyik képsorozat több mint 45 millió emberhez ért el, mielőtt végre leszedték a platformról.
Aki akár minimális hírnévre is szert tesz, onnantól potenciális áldozattá válhat. Így a TikTokkerek, vagy akár a Twitchen videójátékot streamelő nők is egyre gyakrabban válnak a beleegyezésük nélkül készült deepfake tartalom alanyaivá.
A Pokimane felhasználónéven streamelő gamer lány, Imane Anys nem sokkal a Taylor Swift-botrány előtt hagyta ott a Twichet. A 27 éves fiatal nő egy évtizede használta már a platformot, ahol ő lett a legtöbb követővel rendelkező női streamer. Ennek ellenére, miután deepfake pornó áldozatává vált – illetve az appon terjedő egyéb káros ideológiák miatt – elhagyta a Twitchet.
Pokimane (Fotó: Instagram)
Már rég nem csak sztárok az áldozatok
Az online zaklatás áldozatai általában egyébként is a nők, a deepfake technológia pedig rendkívül könnyen manipulálható és fordítható ellenük. Jennifer Savin, a brit Cosmopolitan újságírója 2022-es riportjában felfedte, hogy férfiak egészen konkrétan fizetnek azért, hogy ismerősöket, kollégákat, sőt akár családtagokat is pornográf helyzetben ábrázoljanak.
A deepfake áldozatai gyakran traumáról, megalázottságról és a bizalom megtöréséről számoltak be – hasonlóan a személyes, való életbeli bántalmazás elszenvedőihez.
Egy 14 éves kislány, Mia Janin 2021 márciusában vetett véget az életének, miután édesapja elmondása szerint bullyingolták őt az iskolában. Mia egyik osztálytársa tanúvallomásában ezt megerősítette: eszerint a fiúk csoportbeszélgetésében deepfake meztelen képeket küldözgettek egymásnak az osztálytársaikról.
„Képernyőfotót készítettek a lányok social médiában megosztott képeiről, és kinevették őket. Az arcukat pornószínészek testére photoshopolták”
– mondta a diák. Mia egyik TikTok-videójára is lecsaptak a fiúk, ami az egész iskolában elterjedt, és kigúnyolták őt. A lány megkérte a szüleit, hadd váltson iskolát, akik megígérték, hogy az év végéig magántanuló lehet. Néhány órával később holtan találtak rá a szülei.
A deepfake mint fegyver
A deepfake és az AI generálta fotók és videók terjedése nem csupán az ábrázolt nőket veszélyezteti. Az FBI arról számolt be, hogy csak a tavalyi évben több, mint 3 ezer áldozata volt – főként fiúk és fiatal férfiak – a sextortionnek nevezett bűncselekménynek. Ennek során szexuális tartalmú képeket kényszerítenek ki az áldozatoktól deepfake profilok mögé bújva, majd megzsarolják őket. Az FBI statisztikája szerint a sextortion következtében elkövetett öngyilkosságok száma 2022-ben a több tucatot is meghaladta.
Ez az arány 2023-ban sem javult. A 17 éves Jordan DeMay tavaly júniusban vált sextortion áldozatává. Elhitették vele, hogy egy olyan lánnyal beszélget Instagramon, aki őszintén érdeklődik iránta. Csakhogy ez egy meghackelt profil volt, a lány nevében pedig a bűnözők meztelen fotókat kértek Jordantől. Majd megfenyegették, hogy ha nem fizet 1000 dollárt (363 ezer forintot), elküldik mindenkinek a képeket. Jordan nem fizetett. A zsarolók öngyilkosságba kergették.
Taylor Swift csak a legutóbbi a sorban
A szakértők régóta lengetik a vörös zászlót: szerintük nem egy „ha elterjednek a deepfake-ek, abból gond lesz”-, hanem „amikor elterjednek”-szituációval van dolgunk. A Deepfake pornó: Te lehetsz a következő? című BBC-s dokumentumfilm például már 2022-ben arra figyelmeztetett, hogy a deepfake pornóoldalakat milliók látogatják havonta. Egy 2023-as felmérés szerint a deepfake-ek terjedése azóta 550 százalékkal nőtt.
A probléma egyébként olyannyira nem új keletű, hogy már 2018-ban készült egy kutatás a Sensity AI nevű, csalások felterítésével foglalkozó vállalat által, amely kimutatta, hogy a deepfake-kel készült tartalmak 90 százaléka nőket ábrázoló, nem közös megegyezésen alapuló pornó. Az utóbbi tizenkét hónapban pedig 22 százalékkal nőtt a „deepfake pornó” kifejezésre leadott keresések száma is.
Fotó: Michael Buckner/Variety via Getty Images
Felvenni a harcot a deepfake ellen
A Taylor Swift elleni online merényletnek tehát senkit nem kellett volna meglepnie. Azonban mégis egy szupersztár megtámadása kellett ahhoz, hogy a döntéshozók felfigyeljenek a probléma komolyságára, és valóban elkezdjenek lépéseket tenni ellene.
A Swift-esetet követően a Twitteren Joe Biden sajtósa „aggasztónak” jellemezte a trendet, és az amerikai törvényhozók végre elkezdtek tárgyalni egy, a deepfake és egyéb mesterséges intelligencia által generált produktumok elleni rendeletet, ami a nem beleegyezésen alapuló deepfake-eket büntetné. Az Európai Parlament döntéshozatalának folyamatát is felgyorsította: március 13-án jóváhagytak egy AI-ról szóló jogszabályt, melynek egyik pontja a deepfake-re is kitér. Egészen konkrétan azt vezetik törvénybe, hogy „kötelező lesz a mesterséges vagy manipulált (deepfake) képi, hang- és videotartalmakat egyértelműen akként megjelölni.”
Ez azonban még mindig nem támadja a technológiával készült pornót, amit eddig egyelőre csak az Egyesült Királyság tett hivatalosan is illegálissá. Múlt év végén – komoly kampányolást követően – az online biztonsági törvényükben egy, a deepfake-ről szóló pontot is bevezettek. Ez kimondja, hogy a nem beleegyezésen alapuló deepfake pornó illegális. Az elkövetőket pedig akár két év börtönbüntetésre is ítélhetik.
Bár az Egyesült Királyság szabályozása a leginkább előremutató, még ebben is található kiskapu. Az ugyanis továbbra is legális, hogy ilyen típusú tartalmakat egyáltalán létrehozzanak, így könnyen lehet azzal védekezni, hogy „a tudtomon kívül terjesztették a telefonomról a deepfake pornót”.
A nem intim, de az ábrázolt személyt bántó, vagy a reputációját romboló, nem konszenzuális deepfake-ről szóló szabályok egyelőre ködösek – bár Kínában már hivatalosan is engedélyt kell kérni, ha valakiről deepfake-et akarnak készíteni. De egy dolog valamit törvénybe iktatni, és megint másik betartatni azt…
Fotó: Profimedia
Mit tehetsz, ha áldozatául esel a deepfake-nek?
- Lépj kapcsolatba azzal a közösségimédia-oldallal vagy más online felülettel, ahol közzétették a deepfake tartalmat. Jelezd, hogy nem járultál hozzá a publikáláshoz, és kezdeményezd a tartalom eltávolítását. A Google is lehetővé teszi az ilyen bejelentéseket, ennek menetéről ITT tudsz bővebben tájékozódni.
- Fordulj a Nemzeti Média- és Hírközlési Hatóság (NMHH) ingyenes, internetes tájékoztató és segítségnyújtó szolgálatához, az Internet Hotline-hoz, ahol a „hozzájárulás nélkül közzétett tartalmak” kategória segíthet a deepfake tartalom törlésében. A NANE szerint az Internet Hotline nem hatósági jogkörrel kezdeményezi az eltávolítást, hanem csak kéri, „a tapasztalatok szerint a hazai tartalom- és tárhelyszolgáltatók együttműködőek, és a külföldi megosztó oldalakra felkerülő felvételek ügyében is sokszor eredményesek a kérések.”
- Készíts képernyőfotókat bizonyítékképpen, és ha komfortosnak érzed, tegyél feljelentést a rendőrségen. Sajnos, miután már a bosszúpornó sem létező tényállás a magyar jogrendszerben, a deepfake pornó különösen homályos terep, azonban nem baj, ha van nyoma a bűncselekménynek, és még az is lehet, hogy tudnak segíteni valamit a helyzeten. Ha például ismered az elkövetőt, talán lesz lehetősége a hatóságoknak felvenni vele a kapcsolatot. Magyarországon egyébként zsarolás, személyes adattal való visszaélés, zaklatás, esetleg szexuális kényszerítés vagy rágalmazás, kiskorú bántalmazott esetén pedig gyermekpornográfia miatt tehetsz feljelentést ilyen helyzetben.
(Forrás: Cosmopolitan UK, NANE)
