Döbbenetes eredményekre bukkant a BBC
A BBC World Service újságírói kutatási célból egy új Instagram-profilt hoztak létre Indiában, hogy megvizsgálják, milyen tartalmakat ajánl a platform algoritmusa. Az álprofil kezdetben csupán szexualizált tartalmakat megosztó felhasználókat követett, néhány napon belül azonban már olyan fizetett hirdetések jelentek meg előtte, amelyek Telegram-csatornákra irányították a felhasználókat gyermekek szexuális bántalmazását ábrázoló videók megvásárlására. A reklámokban olyan kifejezések szerepeltek, mint a „rape video” vagy a „child video”, a hozzáférésért pedig már 99 indiai rúpiát – mintegy 320 forintot – kértek.
A kép csak illusztráció. (Forrás: Getty Imges)
A Meta szerint nem történt visszaélés
A riporterek összesen mintegy harminc ilyen hirdetést dokumentáltak. A legmegdöbbentőbb azonban az volt, hogy amikor az egyik reklámot jelentették az Instagramnak, a platform egy nappal később azt válaszolta: a hirdetés nem sérti a közösségi irányelveket. Csak azután kezdte eltávolítani a kifogásolt tartalmakat és letiltani a kapcsolódó fiókokat, hogy a BBC közvetlenül is megkereste a Metát.
Az ügy nyomán az indiai kormány azonnali magyarázatot követelt a Metától, és felszólította a vállalatot, hogy haladéktalanul távolítsa el a hirdetéseket. A cég közleményében elismerte, hogy rendszerei nem tökéletesek, ugyanakkor hangsúlyozta: a gyermekek kizsákmányolása elleni fellépés kiemelt prioritás számukra. A Meta szerint a BBC jelzése után további hirdetéseket távolítottak el, több fiókot felfüggesztettek, és a szabályzatot sértő URL-eket is blokkolták.
A Telegram közlése szerint idén már több mint 274 ezer olyan csoportot és csatornát töröltek, amelyek gyermekek szexuális kizsákmányolásához kapcsolódtak. A BBC által jelentett két csatorna közül az egyiket gyorsan eltávolították, a másik azonban még több mint két hétig működött, mielőtt lekapcsolták volna.
Brian Boland, a Facebook korábbi alelnöke a BBC-nek azt mondta, bár a tényfeltárás megrázta, nem lepte meg. Szerinte az Instagram algoritmusát úgy tervezték, hogy minél tovább a platformon tartsa a felhasználókat, ezért hajlamos egyre szélsőségesebb és figyelemfelkeltőbb tartalmakat ajánlani.
Úgy véli, az évek során a reklámbevételek sokszor fontosabbá váltak, mint a felhasználók biztonsága.
Magyarországon is súlyos bűncselekmény
Magyarországon a gyermekpornográfia előállítása, megszerzése, birtoklása és terjesztése egyaránt bűncselekmény, amelyet a Büntető Törvénykönyv több év szabadságvesztéssel is büntethet. A Nemzeti Kibervédelmi Intézet rendszeresen figyelmeztet arra, hogy az ilyen tartalmak sokszor zárt csoportokban vagy titkosított üzenetküldő alkalmazásokon keresztül terjednek, ezért különösen fontos, hogy a felhasználók minden gyanús tartalmat jelentsenek a platformoknak és – szükség esetén – a hatóságoknak is.
A szakértők szerint az ilyen ügyek jól mutatják, milyen nehéz feladatot jelent a közösségi platformok számára a tartalmak hatékony szűrése. Bár a Meta és más technológiai vállalatok egyre nagyobb arányban támaszkodnak mesterséges intelligenciára a moderálás során, a BBC vizsgálata szerint még mindig előfordulhat, hogy egyértelműen jogsértő hirdetések is átjutnak az automatikus ellenőrzésen. Ez ismét felveti a kérdést, elegendő-e a jelenlegi moderációs rendszer a gyermekek online védelméhez.
