Mesterséges intelligencia gyártott meztelen képeket gyerekekről

Egyik napról a másikra került a nemzetközi figyelem középpontjába a 35 ezer fős Almendralejo. Kiderült ugyanis, hogy a Spanyolország déli részén található csendes városban helyi fiatalok egy csoportja AI segítségével követett el bűncselekményeket. A fiúk meztelen fotókat hoztak létre helyi kamasz lányokról és a megalázó képeket a WhatsApp and Telegram applikációkon keresztül terjesztették az érintettek tudta nélkül, de a gyanú szerint előfordult olyan is, hogy az egyik lányt megpróbálták megzsarolni a látszólag őt ábrázoló hamis fotóval. Az eset Spanyolországban mélységes felháborodást keltett és társadalmi párbeszédet indított arról, mit lehet tenni a gyerekek, kamaszok védelmében egy olyan világban, ahol a technika rohamos fejlődése révén hasonló bűncselekményeket elkövetni lassan már valóban gyerekjáték.
 
A fotók még a nyári szünet alatt keletkeztek és kezdtek el keringeni az interneten, az ügy azonban csak azután vált közismertté, hogy az egyik érintett lány édesanyja a közelmúltban a közösségi médiában hívta fel az esetre a figyelmet. A nőgyógyászként dolgozó Miriam Al Adib egy Instagramon posztolt videóban beszélt arról, hogy lánya elmondta neki, róla és többekről keringenek hamis fotók. A közösségimédia-oldalon több mint 120 ezer követővel rendelkező orvos a rövid videóban, majd további üzenetekben is nyomatékosította, nem lehet tudni, hogy hány áldozata van a történteknek, de fontos, hogy, aki érintett, tudja, a történtekért semmilyen szinten sem terheli felelősség.
 
A hírek szerint összesen 21 (11 és 15 év közötti) lány esett áldozatul a bűncselekménynek. Állapotuk eltérő. Van köztük, akit látszólag kevésbé traumatizáltak a történtek, de akad olyan is, aki hetek óta nem mer kilépni az utcára. Annak érdekében, hogy egymást támogassák és minél hatékonyabban tudják segíteni a hatóságok munkáját, az áldozatok rémült és felháborodott szülei érdekcsoportot hoztak létre a városban. Az AI-val generált meztelen fotók azonban nem csak őket, hanem valamennyi szülőt felkavartak a településen és azon túl. Nem lehet tudni, a képek időközben hány és milyen szerveren kötöttek ki. Véglegesen eltüntetni az internetről szinte reménytelen, a nyomozás mindenesetre folyamatban van. 

Javier Izquierdo de la Rosa, a kiberbűnözés elleni osztály gyermekvédelmi csoportjának vezetője sajtótájékoztatót tart az Almendralejo városában folyó nyomozással kapcsolatban, 2023. szeptember 20-án, Malagában (Fotó: Álex Zea / Europa Press)

A hatóságok a hónap elejéig 26 helyi fiatalt azonosítottak be a feltehető elkövetők közül. Közülük 5-en nem töltötték még be a 14. életévüket, azaz a spanyol jog szerint nem büntethetőek. A többiek, amennyiben bűnösnek találja őket a bíróság, többek közt akár tízezer eurós (több mint 3.6 millió forintos) büntetésre is számíthatnak, melyet majd szüleiknek vagy gyámjuknak kell megfizetnie. A nyomozók most azt igyekeznek feltárni, hogy fiatalok közül kinek pontosan milyen szerepe volt a történtekben, maga is készített és megosztott fotókat, vagy „csak” tárolta a kompromittáló képeket. Közben a jogi síktól függetlenül heves vita folyik arról az interneten, kit terhel leginkább felelősség a történtekért.

Parázs vita arról, kik a felelős

A helyi festő Francisco Javier Guerra úgy véli, egyértelműen a fiúk szülei a hibásak. A BBC-nek a férfi azt nyilatkozta, hogy a szülőknek tenniük kellett volna valamit, hogy megelőzzék a bajt. El kellett volna venniük például a gyermekeiktől a telefonjukat, vagy olyan applikációt kellett volna a mobilra telepíteni, ami jelzi, milyen tevékenységre használják a fiatalok a kütyüjüket.

A nyilvánosság elé léptek ugyanakkor az egyik gyanúsított szülei is, akik nyomatékosították, rettenetesen sajnálják a történteket és, noha fiuk valóban a tűzzel játszott, nagyon szégyelli magát és nem egy szörnyeteg.

Gyermekük szerintük nem vette észre, hogy amit tesz, egyáltalán nem egy játék. Szülőként nem adtak korlátlan hozzáférést a fiúnak az internethez, de abban az időszakban, amikor használhatta mobiltelefonját, bevallották, nem tudták mindig, hogy éppen mivel foglalkozik. Az anyja hozzátette azt is, rettenetes érzés elmenni a rendőrségre és látni, hogy a fiadnak felolvassák a jogait.

A történtekkel kapcsolatban természetesen felmerül a fiatalok által használt applikáció készítőinek felelőssége, hiszen önmagában már az abszurd, hogy létezik olyan alkalmazás, ami lehetővé teszi, hogy bárkiről az illető tudta és hozzájárulása nélkül pillanatok alatt készüljön hamis, valóságosnak tűnő meztelen fotó. Nos, a botrány kirobbanása után az applikáció képviselője felvette a kapcsolatot az El Independiente újságírójával, hogy nyomatékosítsa, „a lelkes, nemzetközi hátterű fejlesztőkből álló csapatukkal” nagyon jó, széles körben keresett szolgáltatást állítottak elő és kizárólag a felhasználót terheli a felelősség, ha bűncselekmény elkövetésére használja fel. Hozzátette, hogy elvileg az applikáció nem engedélyezi a kiskorúakról készült fotók manipulálását, a terheltek azonban valahogy kijátszották a biztonsági korlátozásokat. Állításuk szerint egyébként forgalmuk jelentősen nőtt az almendralejói eset nyilvánosságra kerülése óta.

Képünk illusztráció (Fotó: Getty Images)

Hű, de kínos! Véletlenül az unokájának küldött pucér képet magáról a nagymama

Az applikáció képviselője elárulta azt is, hogy, bár konkrét adataik nincsenek, a felhasználók döntő többsége férfi, a manipulált fotók többségében nőket ábrázolnak. Ennek azonban az is az oka, hogy az általuk fejlesztett program a nők esetén élethűbb képeket tud készíteni. Hozzátették azt is, hogy dolgoznak azon, hogy a férfiak esetén is ugyanolyan realisztikus meztelen képeket lehessen előállítani, hiszen tudják, mennyire fontos, hogy a szolgáltatásuk „minél inkluzívabb legyen”.   

Derűs hozzáállásuk ellenére az applikáció készítői termékük előállításával feltehetően már önmagában bűncselekményt követtek el, azt azonban, hogy miként lehet őket elszámoltatni, bonyolult. Mindenesetre a téma Brüsszelben is napirendre került, miután Jordi Cañas Pérez EP képviselő kérdéssel fordult az Európai Bizottsághoz azzal kapcsolatban, megfelel-e az applikáció a jelenleg is hatályban lévő uniós szabályozásoknak, felvették-e már a kapcsolatot az applikáció képviselőivel és mit tesznek azért, hogy megakadályozzák, a jövőben megismétlődjön az, ami Almendralejóban megesett.

Almendralejo az egész világ

Évek, talán évtizedek telnek el, mire a spanyol város feldolgozza az esetet, de – mint arra Miriam Al Adib is rámutatott – hasonló esetek már eddig is előfordultak, sőt előfordulnak nap mint nap világszerte. Ő személyesen is rengeteg levelet kap különböző országokból nap mint nap, akik hasonló bűncselekményeknek estek áldozatául. A almendralejói fiatalok esetben használt applikációk félő, hogy egyre elterjedtebbek és egyre könnyebben teszik lehetővé a valóság élethű manipulálását, a  jogi szabályozás pedig képtelen tartani a tempót a technológia fejlődésével. Almendralejo esete azért különleges, mert a helyiek úgy döntöttek, nagy ügyet csinálnak a dologból.

Javier Izquierdo, a spanyol rendőrség kiberbűnözési főosztályának gyermekek védelméért felelős részlegének vezetője a médiának úgy fogalmazott: Az ilyen jellegű bűncselekmények többé nem arról szólnak, hogy van egy furcsa alak, aki a dark weben vagy valami rejtett internetes platformról tölt le gyermekpornográfiai tartalmakat. Noha természetesen ilyenek továbbra is vannak, az új kihívásokat az okozza, hogy egyre korábban férnek hozzá a fiatalok az almendralejói esetben is használt applikációhoz.