Így használják fel a mesterséges intelligenciát a gyerekek elleni szexuális visszaélések során

hotline borítókép

2023-ban 4419 bejelentést kapott a Nemzetközi Gyermekmentő Szolgálat által működtetett Biztonságosinternet.hu hotline. Összefoglaló.

2023-ban 4419 bejelentést kapott a Gyermekmentő Szolgálat által működtetett Biztonságosinternet.hu hotline. A nemrég megújult online felületen a felhasználók minden, az interneten talált káros, törvénytelen tartalmat bejelenthetnek. A beküldött anyagok közül az elemzőink 715 tartalmat találtak bizonyítottan illegálisnak, amelyek csaknem 77%-a gyermekek szexuális bántalmazását ábrázoló anyag volt. Új jelenség, hogy egyre több a generatív mesterséges intelligencia által előállított tartalom.

A hotline működése

A Biztonsagosinternet.hu hotline egy olyan online felület, ahol a felhasználók minden, az interneten talált káros, illegális tartalmat bejelenthetnek. Üzemeltetését 2019 óta a Nemzetközi Gyermekmentő Szolgálat végzi, mint a hazai Safer Internet Center (SIC). Célunk az, hogy a jogsértő anyagok a lehető legrövidebb idő alatt eltűnjenek a világhálóról. Ennek érdekében szorosan együttműködünk a magyar hatóságokkal, a tartalomszolgáltatókkal, közösségimédia-platformokkal (Google, Discord, TikTok), illetve az INHOPE nemzetközi szervezettel. Az Országos Rendőr-főkapitánysággal kötött megállapodás alapján lehetőségünk van közvetlenül a Készenléti Rendőrség Nemzeti Nyomozó Iroda Kiberbűnözés Elleni Főosztályának eljuttatni az illegális tartalmakat. A szerzői jogvédelemmel kapcsolatos ügyeket a Nemzeti Adó- és Vámhivatal Bűnügyi Főigazgatósága felé továbbítjuk. Emellett hotline-unk szakmai munkáját a Legfőbb Ügyészség is segíti. A külföldön hosztolt, gyermekek szexuális bántalmazását ábrázoló tartalmakat az illetékes ország társhotline-jai felé irányítjuk, az INHOPE „ICCAM” (I see Child Abuse Material) nevű nemzetközi platformján keresztül.

Hogyan tehetek bejelentést?

Bejelentést kizárólag a Biztonsagosinternet.hu oldalon található űrlap kitöltésével lehet tenni. A káros, jogsértő tartalmakat be lehet küldeni névtelenül, illetve az e-mail cím megadásával is. Ha a bejelentő megadja az elérhetőségét, úgy elemzőink tájékoztatni tudják az ügy állásáról, illetve a bejelentésével kapcsolatos további tippekkel is el tudják látni. https://www.biztonsagosinternet.hu/bejelentes 

Mi történik a bejelentéssel?

A beküldött anyagokat elemzőink megvizsgálják, és értékelik a vonatkozó nemzeti jogszabályok szerint. Fontos tudni, hogy hotline-unk senkit sem tud kötelezni az illegális tartalmak törlésére, csak értesítjük és továbbítjuk a problémát az illetékes hatóságoknak. Elemzőink elsőként azt ellenőrzik, hogy a bejelentett tartalom valóban jogsértő-e, és van-e magyar vonatkozása. Ha egy jogellenes tartalom esetén felmerül a magyar illetékesség, úgy minden esetben értesítjük az illetékes nemzeti hatóságot, amelyik lefolytatja a szükséges eljárást. Gyermekek szexuális bántalmazását ábrázoló anyagok esetén, magyar illetékesség hiányában, az ICCAM nemzetközi platformon keresztül továbbítjuk az illegális tartalmat az illetékes INHOPE tagország felé. Egyéb jogsértő tartalmak esetén magyar illetékesség hiányában a tartalomszolgáltatót értesítik elemzőink, hogy távolítsa el a tartalmat.

2023-as adatok

2023-ban összesen 4419 linket jelentettek be a Biztonsagosinternet.hu hotline felületén keresztül. Ezek közül az elemzők 715 tartalmat találtak bizonyítottan illegálisnak, melyek 76,8%-a gyermekek szexuális bántalmazását ábrázoló anyag volt. 

Emellett az egyéb káros tartalom kategóriában érkezett a legtöbb jogsértő link. 2023-ban még ide tartozott minden olyan online fellelhető tartalom, amely jogellenes vagy káros lehet, például a pénzügyi csalások, adathalász oldalak. Mivel azonban az utóbbi időben elszaporodtak az adathalász tartalmak, illetve a pénzügyi visszaélések, ezért az új felületünkön az ilyen típusú tartalmaknak már saját kategóriája van. 

Az online zaklatás és a hozzájárulás nélkül közzétett tartalmak gyakran együtt járnak: sokan zaklatás, zsarolás hatására küldenek magukról intim fényképet, amelyet azután az elkövetők hozzájárulás nélkül közzétesznek. A bejelentők növekvő bizalmát mutatja, hogy az elmúlt évben összesen 214 esetben kértek visszajelzést az elemzőktől. Mindenkit biztatunk erre, hiszen az elemzők így tudnak személyre szabott, edukatív válaszokat adni.

illegális tartalmak

Új trendek

2023-ban globálisan megnőtt az olyan bejelentések száma, amelyek generatív mesterséges intelligencia (AI) által előállított képeket tartalmaznak. A generatív AI a mesterséges intelligencia egyik formája, amely képes képek, szövegek létrehozására előzetes betanítás alapján. A hotline-unkhoz bejelentett, gyerekek szexuális bántalmazását ábrázoló anyagok 22,8%-a volt számítógép által generált tartalom, a következő típusokkal:

·         valódi gyerekeket ábrázoló ártatlan képek (pl.: szülő által megosztott képek) manipulálása, szexualizálása

·         valódi gyerekek bántalmazását ábrázoló anyagok manipulálása a hatóságok megtévesztése céljából (pl.: valódi gyereket ábrázolnak 6 ujjal vagy 3 füllel)

·         nemlétező gyerekeket ábrázolása szexualizált helyzetben, bántalmazás közben

Online grooming – behálózva a saját szobádban

A 2023-ban kapott bejelentések közel 9%-a volt ún. saját előállítású tartalom. Ilyenkor az online grooming módszerével behálózott gyerek önmagáról készít meztelen felvételeket, akár a saját otthonából is, és ő maga küldi el azokat a behálózó személynek. Tapasztalataink szerint ezeket a felvételeket később zsarolásra használják fel, például további felvételek vagy pénzszerzés céljából. Különösen veszélyeztetettek a kiszolgáltatott helyzetben levő gyerekek (pl. kevés az önbizalmuk, el vannak hanyagolva vagy fogyatékossággal élnek).

Adathalászat (phishing)

2023-ban összesen 77 olyan esetben kellett eljárnunk, ahol magyar felhasználók bankkártyaadatait próbálták megszerezni hamis webáruházak. Ezek az oldalak jellemzően magyar nyelven másolták népszerű márkák weboldalait. Az esetek egy részében a tárhelyszolgáltató együttműködésének köszönhetően rövid időn belül sikerült eltávolítani a csaló weboldalakat. Ez kifejezetten fontos annak érdekében, hogy minél kevesebb felhasználó essen áldozatul.

Továbbított tartalmak

Az Országos Rendőr-főkapitánysággal kötött megállapodásunk alapján lehetőségünk van a  rendőrség felé továbbítani a bizonyítottan illegális és a vélhetően illegális tartalmakat is. 2023-ban összesen 1295 linket küldtünk tovább a Nemzeti Nyomozó Iroda Kiberbűnözés Elleni Főosztálya felé. A külföldön hosztolt, gyerekek szexuális bántalmazását ábrázoló anyagokat idén 226 esetben továbbítottuk az INHOPE-nak. Ilyen tartalmakat leggyakrabban az Amerikai Egyesült Államokban, Oroszországban és Hollandiában hosztoltak. Ugyanezen a rendszeren keresztül továbbítják a külföldi hotline-ok a magyar elemzők felé a gyermekek szexuális bántalmazását ábrázoló tartalmakat. Az ICCAM rendszerében végzett munkát a Biztonsagosinternet.hu hotline az NMHH Internet Hotline-nal megosztva látja el. A hotline-unk felé az ICCAM rendszerében a tavalyi évben 19 jelzés érkezett, ez azt jelenti, hogy ezek magyar hosztolású, illegális tartalmak voltak.

továbbított tartalmak

A bővebb összefoglaló megtalálható IDE kattintva:

A Nemzetközi Gyermekmentő Szolgálat 2009 óta az Európai Bizottság által létrehozott magyarországi Safer Internet Center (SIC). Tudatosságnövelő központként, hotline-ként a gyermekek, szülők és tanárok felvilágosítását, illetve az interneten található káros tartalmak eltávolítását tűzte ki célul. Szeretnénk elérni, hogy az országban minél több internethasználó böngészhessen biztonságosabb körülmények között, és hogy probléma esetén tudják, hogy hozzánk is fordulhatnak. Netezz biztonságosan! előadásaink ingyenesen megrendelhetők egész évben az alábbi linken: https://www.saferinternet.hu/legyel-az-internet-asza/oldalsav/oktatasok-megrendelese 

Vissza

Hírek

Tovább