IL-KUMMISSJONI EWROPEA

Brussell, 19.12.2023

COM(2023) 797 final

RAPPORT TAL-KUMMISSJONI LILL-PARLAMENT EWROPEW U LILL-KUNSILL

dwar l-implimentazzjoni tar-Regolament (UE) 2021/1232.tal-Parlament Ewropew u tal-Kunsill tal-14 ta’ Lulju 2021 dwar deroga temporanja minn ċerti dispożizzjonijiet tad-Direttiva 2002/58/KE fir-rigward tal-użu ta’ teknoloġiji minn fornituri tas-servizzi tal-komunikazzjonijiet interpersonali indipendenti min-numri għall-ipproċessar ta’ data personali u data oħra għall-iskop tal-ġlieda kontra l-abbuż sesswali tat-tfal online

WERREJ

LISTA TA’ TERMINI U AKRONIMI    

1.    INTRODUZZJONI    

2.    MIŻURI TA’ IMPLIMENTAZZJONI    

2.1.    Ipproċessar ta’ data personali mill-fornituri (l-Artikolu 3(g)(vii))    

2.1.1.    Tip u volumi tad-data pproċessata    

2.1.2. Raġunijiet għall-ipproċessar skont ir-Regolament (UE) 2016/679    

2.1.3.    Raġuni għat-trasferimenti ta’ data personali barra l-Unjoni skont il-Kapitolu V tal-GDPR, fejn applikabbli    

2.1.4.    Għadd ta’ każijiet ta’ abbuż sesswali tat-tfal online identifikati, li jiddifferenzjaw bejn is-CSAM u s-solleċitazzjoni tat-tfal    

2.1.5.    Rimedju għall-utent u l-eżitu    

2.1.6.    L-għadd u l-proporzjonijiet tal-iżbalji (pożittivi foloz) tat-teknoloġiji differenti użati    

2.1.7.    Miżuri applikati biex jillimitaw ir-rata ta’ żball u r-rata ta’ żball miksuba    

2.1.8.    Il-politika dwar iż-żamma u s-salvagwardji għall-protezzjoni tad-data applikati skont il-GDPR    

2.1.9.    L-ismijiet tal-organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal li magħhom tkun ġiet kondiviża d-data skont dan ir-Regolament.    

2.2.    Statistika tal-Istati Membri (l-Artikolu 8)    

2.2.1. L-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online identifikat    

2.2.2. L-għadd ta’ tfal identifikati    

2.2.3. L-għadd ta’ awturi ta’ reat ikkundannati    

2.3.    Żviluppi fil-progress teknoloġiku    

2.3.1. Identifikazzjoni ta’ CSAM magħruf    

2.3.2. Detezzjoni ta’ CSAM ġdid    

2.3.3. Detezzjoni ta’ grooming    

2.3.4. Sfidi ġodda mqajma miċ-chatbots tal-Intelliġenza artifiċjali u mill-ġeneraturi tal-arti/immaġnijiet    

3.    KONKLUŻJONIJIET    

LISTA TA’ TERMINI U AKRONIMI

Terminu/Akronimu	Definizzjoni
IA	Intelliġenza Artifiċjali
API	Interfaċċi għall-Ipprogrammar tal-Applikazzjonijiet
CG-CSAM	Materjal ta’ Abbuż Sesswali tat-Tfal Iġġenerat mill-Kompjuter
ChatGPT	ChatGPT (Chat Generative Pre-trained Transformer) huwa forma ta’ IA ġenerattiva. Huwa chatbot ibbażat fuq mudell lingwistiku kbir, żviluppat mill-OpenAI, li jippermetti lill-utenti jirfinaw u jmexxu konverżazzjoni lejn tul, format, stil, livell ta’ dettall u lingwa mixtieqa.
Klassifikaturi	Forma ta’ intelliġenza artifiċjali, algoritmu li jorganizza d-data fi klassijiet jew kategoriji ttikkettati
Klassifikatur tal-API tas-Sikurezza tal-Kontenut	Il-klassifikatur tal-API tas-Sikurezza tal-Kontenut ta’ Google juża aċċess programmatiku u intelliġenza artifiċjali biex jgħin fil-klassifikazzjoni u fil-prijoritizzazzjoni ta’ biljuni ta’ immaġnijiet għar-rieżami
CSA	Abbuż Sesswali tat-Tfal
CSAI Match	CSAI Match huwa teknoloġija żviluppata mill-inġiniera tal-YouTube biex jiġu identifikati l-uploads mill-ġdid ta’ abbuż sesswali tat-tfal identifikat qabel f’vidjos
CSAM	Materjal ta’ Abbuż Sesswali tat-Tfal, eż. immaġnijiet u vidjows li juru s-CSA
Direttiva dwar is-CSA	Id-Direttiva 2011/93/UE tal-Parlament Ewropew u tal-Kunsill tat-13 ta’ Diċembru 2011 dwar il-ġlieda kontra l-abbuż sesswali u l-isfruttament sesswali tat-tfal u l-pedopornografija, u li tissostitwixxi d-Deċiżjoni Kwadru tal-Kunsill 2004/68/ĠAI, ĠU L 335, 17.12.2011, p. 1–14
CSEA	Sfruttament u Abbuż Sesswali tat-Tfal
CSA online	It-terminu komuni użat għat-tliet tipi ta’ abbuż sesswali tat-tfal, definiti fid-Direttiva dwar is-CSA, jiġifieri: il-pornografija tat-tfal, il-prestazzjoni pornografika u s-solleċitazzjoni tat-tfal (“grooming”), kif definiti fir-Regolament Interim (l-Artikolu 2(4))
EU	L-Unjoni Ewropea
GDPR	Ir-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ April 2016 dwar il-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar ta’ data personali u dwar il-moviment liberu ta’ tali data, u li jħassar id-Direttiva 95/46/KE (Regolament Ġenerali dwar il-Protezzjoni tad-Data), ĠU L 119, 4.5.2016, p. 1–88
Grooming	It-trażgressuri li jibnu fiduċja u relazzjoni ma’ tifel jew tifla sabiex jiksbu aċċess għall-minorenni għal sfruttament jew abbuż sesswali. Magħrufa formalment bħala solleċitazzjoni tat-tfal, kif definit fl-Artikolu 6 tad-Direttiva dwar is-CSA
Hash	Kodiċi diġitali uniku maħluq minn algoritmu matematiku (“hashing”) li jsir il-firma ta’ dan il-fajl, jew il-valur tal-hash tiegħu
Regolament Interim	Ir-Regolament (UE) 2021/1232 tal-Parlament Ewropew u tal-Kunsill tal-14 ta’ Lulju 2021 dwar deroga temporanja minn ċerti dispożizzjonijiet tad-Direttiva 2002/58/KE fir-rigward tal-użu ta’ teknoloġiji minn fornituri tas-servizzi tal-komunikazzjonijiet interpersonali indipendenti min-numri għall-ipproċessar ta’ data personali u data oħra għall-iskop tal-ġlieda kontra l-abbuż sesswali tat-tfal online, ĠU L 274, 30.7.2021, p. 41–51
LLM	Il-mudell lingwistiku kbir (LLM) huwa tip ta’ mudell ta’ intelliġenza artifiċjali li jkun ġie mħarreġ permezz ta’ algoritmi ta’ apprendiment fil-fond biex jiġu rikonoxxuti, iġġenerati, tradotti, u/jew imqassra kwantitajiet kbar ta’ lingwa umana miktuba u data testwali.
MD5	Algoritmu tal-kodiċi tal-awtentikazzjoni tal-messaġġi kriptografiċi għall-użu fuq l-internet
Meta SSN++	Mudell tal-IA, żviluppat minn Meta, li jista’ jidentifika duplikati kważi eżatti.
NCMEC	Ċentru Nazzjonali għat-Tfal Neqsin u Sfruttati (organizzazzjoni privata tal-Istati Uniti, mingħajr skop ta’ qligħ) li l-fornituri ta’ servizzi online huma meħtieġa jirrapportaw lilu skont il-liġi tal-Istati Uniti każijiet potenzjali ta’ abbuż sesswali tat-tfal li jsibu fin-networks tagħhom
PDQ u TMK+PDQF	Għodod użati mill-Facebook biex jiġi identifikat kontenut ta’ ħsara. PDQ hija teknoloġija ta’ tqabbil tar-ritratti; TMK+PDQF hija teknoloġija ta’ tqabbil tal-vidjows.
PhotoDNA	L-aktar għodda użata b’mod wiesa’ bbażata fuq it-teknoloġija tal-hashing, disponibbli mingħajr ħlas, ibbażata fuq ftehim ta’ liċenzjar imfassal biex jiġu evitati l-abbuż u l-użu għal kwalunkwe skop ieħor għajr l-identifikazzjoni tas-CSA

1.INTRODUZZJONI

L-Artikolu 9 tar-Regolament Interim (minn hawn ’il quddiem ukoll: “ir-Regolament”) jobbliga lill-Kummissjoni tħejji rapport dwar l-implimentazzjoni tiegħu, ibbażat fuq rapporti sottomessi mill-fornituri ta’ servizzi ta’ komunikazzjonijiet interpersonali (minn hawn ’il quddiem: “fornituri”) dwar l-ipproċessar ta’ data personali u dwar l-istatistika pprovduta mill-Istati Membri. Skont id-dispożizzjoni msemmija hawn fuq, fir-rapport ta’ implimentazzjoni, il-Kummissjoni għandha tikkunsidra, b’mod partikolari,

(a) il-kundizzjonijiet rilevanti għall-ipproċessar ta’ data personali rilevanti u data oħra pproċessata skont ir-Regolament;

(b) il-proporzjonalità tad-deroga prevista mir-Regolament, inkluża valutazzjoni tal-istatistika sottomessa mill-Istati Membri skont l-Artikolu 8 tiegħu;

(c) l-iżviluppi fil-progress teknoloġiku fir-rigward tal-attivitajiet koperti bir-Regolament u l-punt sa fejn dawn l-iżviluppi jtejbu l-akkuratezza u jnaqqsu l-għadd u l-proporzjon tal-iżbalji (pożittivi foloz).

Dan ir-rapport ta’ implimentazzjoni skont ir-Regolament Interim jibni fuq id-data miksuba permezz tar-rapportar mill-fornituri u mill-Istati Membri skont l-Artikolu 3(1)(g)(vii) u l-Artikolu 8 tiegħu, rispettivament. Tali rapportar żvela disparitajiet sinifikanti fid-disponibbiltà tad-data, fit-tipi ta’ data miġbura, u b’hekk ukoll fil-komparabbiltà tad-data miġbura mill-fornituri u mill-Istati Membri. Peress li r-Regolament ma jipprovdix mudell għar-rapportar, il-fornituri kkondividew tipi differenti ta’ informazzjoni li ma kinux neċessarjament komparabbli; għalhekk, is-servizzi tal-Kummissjoni kienu involuti f’segwitu biex jiżguraw l-interpretazzjoni korretta tad-data. Il-maġġoranza tal-Istati Membri ma setgħux jipprovdu data fil-ħin u għadd minnhom ma setgħux jipprovdu data sal-pubblikazzjoni ta’ dan ir-rapport. Dan kellu impatt sinifikanti fuq iż-żmien, il-kompletezza u l-utilità tar-rapport. Minkejja l-isforzi biex tiġi żgurata l-koerenza tad-data u l-komparabbiltà, għad hemm differenzi sinifikanti li huma riflessi fit-tabelli ta’ hawn taħt, li wkoll ma fihomx data għall-fornituri jew għall-Istati Membri kollha dwar il-punti kollha.

Dan ir-rapport ta’ implimentazzjoni jfittex li jagħti ħarsa ġenerali fattwali lejn is-sitwazzjoni attwali b’rabta mal-implimentazzjoni tar-Regolament Interim, abbażi tad-data disponibbli. Ir-rapport ma fih l-ebda interpretazzjoni tar-Regolament u ma jieħu l-ebda pożizzjoni dwar il-mod li bih ġie interpretat u applikat fil-prattika.

2.MIŻURI TA’ IMPLIMENTAZZJONI

2.1.Ipproċessar ta’ data personali mill-fornituri (l-Artikolu 3(g)(vii))

L-Artikolu 3(g)(vii) tar-Regolament Interim jistabbilixxi l-kundizzjonijiet għall-fornituri li jaġixxu skont id-deroga li tinsab fih biex jippubblikaw u jissottomettu lill-awtorità superviżorja kompetenti u lill-Kummissjoni, sat-3 ta’ Frar 2022, u sal-31 ta’ Jannar ta’ kull sena minn hemm ’il quddiem, rapport dwar l-ipproċessar ta’ data personali skont dan ir-Regolament. Google, LinkedIn, Meta, Microsoft, u X (eks Twitter) 1 ippreżentaw rapporti għall-2021 u l-2022.

2.1.1.Tip u volumi tad-data pproċessata

Il-fornituri rrapportaw l-ipproċessar ta’ data kemm dwar il-kontenut kif ukoll dwar it-traffiku.

Fir-rigward tad-data dwar il-kontenut ipproċessata biex jiġi identifikat l-abbuż sesswali tat-tfal online, il-fornituri kollha msemmija hawn fuq semmew immaġnijiet u vidjows. Fil-biċċa l-kbira bbażaw fuq it-teknoloġiji tal-hash-matching PhotoDNA u MD5 biex jidentifikaw tqabbil ta’ materjal ta’ abbuż sesswali tat-tfal identifikat qabel (minn hawn ’il quddiem: “CSAM”). L-għodda CSAI Match ta’ Google ntużat biex jinħolqu marki tas-swaba’ diġitali ta’ vidjows fuq il-pjattaformi u biex jitqabblu mal-fajls fir-repożitorju tal-marki tas-swaba’ ta’ Google/YouTube (LinkedIn). L-użu tat-teknoloġija awtomatizzata (apprendiment awtomatiku bl-intelliġenza artifiċjali) u tar-rieżami mill-bniedem ġie rrapportat bl-istess mod (eż. minn Google). Google u LinkedIn ikkonfermaw li identifikaw ukoll CSAM li ma kienx jaqbel ma’ CSAM identifikat qabel. L-ebda wieħed mill-ħames fornituri li ppreżentaw id-data ma rrapporta dwar l-identifikazzjoni tas-solleċitazzjoni tat-tfal permezz tal-identifikazzjoni tat-test taħt il-kamp ta’ applikazzjoni tad-deroga prevista minn dan ir-Regolament.

Fir-rigward tad-data dwar it-traffiku miġbura u l-volumi rispettivi tat-tipi differenti ta’ kontenut u data dwar it-traffiku pproċessati, ir-rapporti tal-fornituri varjaw sostanzjalment.

Id-data dwar it-traffiku miġbura mill-fornituri u inkluża fir-rapporti ta’ CyberTipline liċ-Ċentru Nazzjonali tal-Istati Uniti għat-Tfal Neqsin u Sfruttati (minn hawn ’il quddiem: “NCMEC”) tinkludi d-data li ġejja (kollha jew selezzjoni minnha):

a)Data relatata mal-utent/mas-suġġett tar-rapportar/mal-kont (Google, LinkedIn, Microsoft, X);

b)Metadata relatata mad-data dwar il-kontenut/tranżazzjonali (Google, LinkedIn, Microsoft);

c)Data relatata ma’ vittma potenzjali (Google);

d)Data dwar l-operati ta’ abbuż (Google).

F’termini ta’ volumi ta’ data pproċessati skont ir-Regolament Interim, LinkedIn irrapportaw li pproċessaw 8 miljun immaġni u vidjow li joriġinaw mill-UE bejn l-14 ta’ Lulju u l-31 ta’ Diċembru 2021, u 21 miljun immaġni u 63 000 vidjo li joriġinaw mill-UE fl-2022. Microsoft irrapportat l-ipproċessar għall-finijiet tar-Regolament ta’ 8,9 biljun immaġni u vidjow globalment bejn Lulju u Diċembru 2021, u 12,3-il biljun oġġett ta’ kontenut globalment fl-2022; Iċ-ċifri tal-UE ma kinux disponibbli, għalhekk ma huwiex possibbli li wieħed jasal għal xi konklużjoni għall-finijiet ta’ dan ir-rapport. Il-fornituri l-oħrajn ma pprovdewx informazzjoni dwar il-volumi ta’ data pproċessata. Għalhekk, mill-ħames fornituri tar-rapportar, wieħed biss ipprovda data fil-livell meħtieġ ta’ granularità.

Biex jintwera l-kuntest ġenerali, l-NCMEC irrapporta li rċieva total ta’ 87,2 miljun immaġni u vidjow globalment u 5,1 miljun immaġni u vidjow dwar l-UE fl-2022, u 84,8 miljun immaġni u vidjow globalment u 1,8 miljun immaġni u vidjow dwar l-UE fl-2021. Dawn huma biss il-materjali li ġew identifikati bħala CSAM potenzjali minn fornitur u għalhekk ma jistgħux jittieħdu bħala indikattivi tal-volumi ġenerali tad-data pproċessata skont ir-Regolament Interim.

2.1.2. Raġunijiet għall-ipproċessar skont ir-Regolament (UE) 2016/679

Il-fornituri rrapportaw li bbażaw fuq ir-raġunijiet speċifiċi li ġejjin skont ir-Regolament (UE) 2016/679 (minn hawn ’il quddiem: “GDPR”):

·l-Artikolu 6(1)(d) tal-GDPR, jiġifieri l-ipproċessar meħtieġ sabiex jiġu protetti l-interessi vitali tat-tfal u ta’ dawk li huma vittmi ta’ abbuż sesswali tat-tfal online (Google, Meta, X 2 );

·L-Artikolu 6(1)(e) tal-GDPR, jiġifieri l-ipproċessar meħtieġ għat-twettiq tal-kompiti mwettqa fl-interess pubbliku (LinkedIn, Microsoft, Meta, X 3 );

·L-Artikolu 6(1)(f) tal-GDPR, jiġifieri l-ipproċessar meħtieġ għall-finijiet tal-interessi leġittimi:

I.tal-fornitur li jidentifika, jipprevjeni jew jindirizza b’mod ieħor l-abbuż sesswali tat-tfal online fuq is-servizzi tagħhom u li jipproteġi lil utenti, klijenti u sħab oħra, u lill-pubbliku minn din il-forma ta’ kontenut illegali (Google, Meta);

II.tal-vittmi ta’ abbuż sesswali tat-tfal u l-organizzazzjoni li l-fornitur jirrapporta lilha dwar l-abbuż sesswali tat-tfal online (eż. NCMEC) biex jidentifikaw, jipprevjenu u jneħħu l-abbuż sesswali tat-tfal online mis-servizzi tagħhom (Google).

2.1.3.Raġuni għat-trasferimenti ta’ data personali barra l-Unjoni skont il-Kapitolu V tal-GDPR, fejn applikabbli

Il-fornituri kollha rrapportaw li jibbażaw fuq klawżoli kuntrattwali standard approvati mill-Kummissjoni skont l-Artikolu 46(2)(c) tal-GDPR. Għat-trasferimenti ta’ data personali lill-NCMEC, LinkedIn irrapportaw ukoll li jibbażaw fuq deroga, sa fejn applikabbli, permessa skont l-Artikolu 49(1) tal-GDPR.

2.1.4.Għadd ta’ każijiet ta’ abbuż sesswali tat-tfal online identifikati, li jiddifferenzjaw bejn is-CSAM u s-solleċitazzjoni tat-tfal

Tabella nru 1: Għadd ta’ każijiet ta’ abbuż sesswali tat-tfal online identifikati fl-2021

Fornitur	Għadd ta’ każijiet ta’ CSAM identifikati fl-2021	Kummenti
Google	33 kont ta’ Google Chat	Dan jirreferi għall-għadd ta’ kontijiet ta’ Google Chat għall-utenti tal-UE fejn l-abbuż sesswali tat-tfal online ġie identifikat permezz ta’ teknoloġiji awtomatizzati fil-perjodu mit-2 ta’ Awwissu 2021 sal-31 ta’ Diċembru 2021. Ma ġiet ipprovduta l-ebda data dwar l-għadd ta’ oġġetti ta’ kontenut identifikati.
LinkedIn	31 oġġett ta’ kontenut	31 oġġett ta’ kontenut ġew ikkonfermati permezz ta’ rieżami manwali bħala CSAM u rrapportati lill-NCMEC; 6 kienu CSAM magħrufa u l-25 l-oħra ma kinux CSAM magħrufa.
Meta	340 000 kont	L-għadd ta’ kontijiet identifikati bħala li bagħtu mill-inqas biċċa waħda ta’ media li tikkostitwixxi CSAM, f’sensiliet ta’ messaġġi li kienu jinkludu utent mill-UE bejn it-8 ta’ Novembru 2021 u l-31 ta’ Diċembru 2021.
Microsoft	6 600 oġġett ta’ kontenut	6 600 oġġett ta’ kontenut (immaġni waħda jew vidjow wieħed) ikkonfermati bħala CSAM identifikati mill-Unjoni Ewropea minn aktar minn 20 000 oġġett ta’ kontenut identifikati globalment bejn Lulju 2021 u Diċembru 2021.
X (eks Twitter)	532 898 kont	Kontijiet (mhux ċari jekk humiex biss mill-UE jew globalment) sospiżi għall-ksur tal-politika dwar l-isfruttament sesswali tat-tfal ta’ X bejn it-2 ta’ Awwissu 2021 u l-31 ta’ Diċembru 2021.

Fil-każ ta’ X, ma huwiex ċar mid-data pprovduta jekk huwiex relatat esklussivament ma’ servizzi li jaqgħu fil-kamp ta’ applikazzjoni tar-Regolament Interim (servizzi ta’ komunikazzjonijiet interpersonali indipendenti min-numri) jew jekk dak in-numru jinkludix ukoll servizzi oħra (bħas-servizzi tas-soċjetà tal-informazzjoni). Dan jikkonċerna d-data kollha relatata ma’ X f’dan ir-rapport.

Tabella nru 2: Għadd ta’ każijiet ta’ abbuż sesswali tat-tfal online identifikati fl-2022

Fornitur	Għadd ta’ każijiet ta’ CSAM identifikati fl-2022	Kummenti
Google	2 045 oġġett ta’ kontenut	Oġġetti ta’ kontenut identifikati u rrapportati lill-NCMEC f’752 kont ta’ Google permezz ta’ teknoloġiji awtomatizzati għall-utenti tal-UE.
LinkedIn	2 oġġetti ta’ kontenut	LinkedIn identifikat 2 immaġnijiet u 0 vidjows ikkonfermati bħala CSAM.
Meta	6,6 miljun oġġett ta’ kontenut	Biċċiet ta’ media li jikkostitwixxu CSAM azzjonat li ġew identifikati bl-użu tat-teknoloġija ta’ tqabbil tal-media ta’ Meta, f’sensiliet ta’ messaġġi li kienu jinkludu utent tal-UE.
Microsoft	12 800 oġġett ta’ kontenut	12 800 oġġett ta’ kontenut (immaġni waħda jew vidjow wieħed) ikkonfermati bħala CSAM identifikati mill-UE minn aktar minn 50 000 oġġett ta’ kontenut identifikati globalment fl-2022.
X (eks Twitter)	2 348 712-il kont	Il-kontijiet (ma huwiex ċar jekk humiex biss mill-UE jew globalment) sospiżi għall-ksur tal-politika ta’ X dwar l-isfruttament sesswali tat-tfal.

2.1.5.Rimedju għall-utent u l-eżitu 

F’konformità mal-Artikolu 3(1)(g)(iv) tar-Regolament Interim, il-fornituri għandhom jistabbilixxu proċeduri xierqa u mekkaniżmi ta’ rimedju biex jiżguraw li l-utenti jkunu jistgħu jressqu lmenti magħhom. Barra minn hekk, l-Artikolu 5 tiegħu fih regoli dwar ir-rimedju ġudizzjarju.

Il-fornituri rrapportaw l-implimentazzjoni ta’ tali proċeduri u mekkaniżmi ta’ rimedju intern għall-utenti li l-kontijiet tagħhom ġew ristretti minħabba l-kondiviżjoni ta’ CSAM u/jew kontenut imneħħi bħala CSAM sabiex ikunu jistgħu jappellaw ir-restrizzjoni/it-tneħħija tagħhom u jaraw li l-każ tagħhom jiġi rieżaminat minħabba żbalji.

Huma rrapportaw każijiet li fihom utent ikun ippreżenta lment bil-mekkaniżmu ta’ rimedju intern jew ma’ awtorità ġudizzjarja dwar kwistjonijiet fil-kamp ta’ applikazzjoni tar-Regolament fl-UE, u l-eżiti ta’ tali lmenti. L-ebda fornitur għajr Microsoft (li rrapportat 0 lmenti fiż-żewġ kanali fl-2021 u fl-2022) ma rrapporta statistika separata dwar ir-rimedju intern u r-rimedju ġudizzjarju; b’riżultat ta’ dan, it-tabelli ta’ hawn taħt ikopru kemm il-proċeduri ta’ rimedju intern kif ukoll dak ġudizzjarju.

Tabella nru 3: L-għadd ta’ każijiet li fihom utent ikun ressaq ilment lill-mekkaniżmu ta’ rimedju intern jew lil xi awtorità ġudizzjarja u l-eżitu ta’ dawk l-ilmenti fl-2021

Fornitur	L-għadd ta’ każijiet ta’ lmenti mill-utenti	L-għadd ta’ kontijiet riattivati	L-għadd ta’ kontenut riattivat	Kummenti
Google	8	0	m.a.	Il-kontijiet ta’ Google Chat diżattivati minħabba abbuż sesswali tat-tfal online fejn l-utent appella: 8. L-ebda wieħed ma reġa’ ġie attivat.
LinkedIn	0	m.a.	m.a.
Meta	4 900	m.a.	207	4 900 utent appellaw. Wara l-proċess tal-appelli, 207 utent kellhom il-kontenut tagħhom mogħti lura, u l-azzjonijiet fuq il-kont treġġgħu lura.
Microsoft	0	m.a.	m.a.
X (eks Twitter)	ca. 90 000	ca. 3 000	m.a.	ca. 90 000 appell. X reġgħet attivat ca. 3 000 minn dawk il-kontijiet.

Tabella nru 4: L-għadd ta’ każijiet li fihom utent ikun ressaq ilment lill-mekkaniżmu ta’ rimedju intern jew lil xi awtorità ġudizzjarja u l-eżitu ta’ dawk l-ilmenti fl-2022.

Fornitur	L-għadd ta’ każijiet ta’ lmenti mill-utenti	L-għadd ta’ kontijiet riattivati	L-għadd ta’ kontenut riattivat	Kummenti
Google	378	0	m.a.	Il-kontijiet ta’ Google diżattivati minħabba abbuż sesswali tat-tfal online fejn l-utent appella: 378. L-ebda wieħed ma reġa’ ġie attivat.
LinkedIn	0	m.a.	m.a.
Meta	29 000	m.a.	3 700	L-utenti appellaw l-azzjonijiet ta’ madwar 29 000 biċċa mill-media kondiviża tagħhom. Wara l-proċess tal-appelli, ingħataw lura madwar 3 700 biċċa ta’ kontenut, u l-azzjonijiet fuq il-kontijiet treġġgħu lura.
Microsoft	0	m.a.	m.a.
X (eks Twitter)	ca. 430 000	ca. 4 000	m.a.	ca. 430 000 appell. X reġgħet attivat ca. 4 000 minn dawk il-kontijiet.

2.1.6.L-għadd u l-proporzjonijiet tal-iżbalji (pożittivi foloz) tat-teknoloġiji differenti użati

F’konformità mal-Artikolu 3(1)(e) tar-Regolament Interim, il-fornituri jridu jiżguraw li t-teknoloġiji użati jkunu affidabbli biżżejjed fis-sens li jillimitaw kemm jista’ jkun ir-rata ta’ żbalji fir-rigward tal-identifikazzjoni ta’ kontenut li jirrappreżenta l-abbuż sesswali tat-tfal online.

F’dan ir-rigward, il-fornituri rrapportaw li ma japplikawx kull teknoloġija biex jidentifikaw is-CSA online f’iżolament. Minflok, huma jimplimentaw approċċ b’diversi livelli għall-identifikazzjoni tas-CSA online billi jikkombinaw teknoloġiji differenti ta’ identifikazzjoni biex iżidu l-akkuratezza. Sabiex jitnaqqsu l-iżbalji jew il-pożittivi foloz, il-fornituri kollha jikkomplementaw dawn b’rieżami mill-bniedem. Il-fornituri ma pprovdewx l-għadd u l-proporzjonijiet ta’ żbalji (pożittivi foloz) għal kull waħda mit-teknoloġiji differenti użati separatament, iżda pjuttost irrapportaw data aggregata għat-teknoloġiji kollha użati.

Il-biċċa l-kbira tal-fornituri jkejlu l-għadd u l-proporzjonijiet ta’ żbalji bħala treġġigħ lura tad-deċiżjonijiet ta’ infurzar, jiġifieri r-rata ġenerali ta’ riattivar/treġġigħ lura wara l-appell (eż. ir-rata li biha l-fornitur reġa’ attiva kontijiet jew kontenut li kienu ġew diżattivati, mal-appell tal-utent). L-approċċ meħud mill-fornituri mhux neċessarjament jirrifletti d-definizzjoni ta’ “pożittivi foloz” fl-istatistika.

Ir-rati ta’ riattivar/treġġigħ lura wara l-appell irrapportati huma kif ġej:

Tabella nru 5: Rati ta’ riattivar/treġġigħ lura wara l-appell

	2021*			2022
Fornitur	% tal-kontijiet riattivati vs l-għadd ta’ appelli		% tal-kontijiet riattivati vs dawk sospiżi		% tal-kontijiet riattivati vs l-għadd ta’ appelli	% tal-kontijiet riattivati vs dawk sospiżi	Kummenti
Google	0 % (0 vs 8)		0 % (0 vs 33)		0 % (0 vs 378)	0 % (ara l-kummenti)	L-għadd ta’ kontijiet sospiżi ma ngħatax għall-2022. Minflok, ġie pprovdut l-għadd ta’ biċċiet ta’ kontenut identifikati u rrapportati lill-NCMEC, 2045. L-ebda kont ma ġie riattivat wara l-appell.
LinkedIn	0 %	0 %		0 %		0 %	L-ebda appell. Għall-perjodu mit-13 ta’ Lulju 2021 sal-31 ta’ Diċembru 2021, LinkedIn irrapportat ukoll li mill-75 fajl rieżaminati bħala CSAM potenzjali li joriġinaw mill-UE, 31 ġew ikkonfermati bħala CSAM minn rieżami mill-bniedem. LinkedIn ma pprovditx tali data għall-2022.
Meta	4,22 % (207 vs 4,9k)	0,06 % (207 vs 340k)		Ara l-kummenti		Ara l-kummenti	Ma ġiet ipprovduta l-ebda informazzjoni biex jiġi ddeterminat b’mod preċiż l-ambitu, il-kontenut tal-appelli u r-raġunijiet għar-riattivazzjoni. Għall-2022, id-data pprovduta kienet f’termini ta’ biċċiet ta’ kontenut, mhux f’termini ta’ kontijiet: -L-għadd ta’ biċċiet ta’ kontenut sospiżi (“azzjonati”): 6,6 miljun -L-għadd ta’ biċċiet ta’ kontenut appellati: 29k -L-għadd ta’ biċċiet ta’ kontenut riattivati: 3,7k Għalhekk: -% tal-biċċiet ta’ kontenut riattivati vs l-għadd ta’ appelli: 12,8 % (3,7 k vs 29 k) -% tal-biċċiet ta’ kontenut riattivati vs l-għadd ta’ biċċiet ta’ kontenut sospiżi: 0,06 % (3,7k vs 6,6 miljun)
Microsoft	0 %		-		-	-	Data insuffiċjenti biex tippermetti l-kalkolu tar-rata ta’ riattivar/treġġigħ lura wara l-appell. Għall-2022, 17-il treġġigħ lura totali tad-deċiżjoni inizjali ta’ moderazzjoni tal-kontenut, ma ġiet ipprovduta l-ebda ċifra dwar l-appelli totali.
X (eks Twitter)	1,43 % (100 vs 7 k)	0,06 % (100 vs 166 k)		2,17 % (500 vs 23 k)		0,10 % (500 vs 501 k)	Għat-tieni nofs tal-2021, madwar 166 k utent ġew sospiżi minħabba CSA permezz ta’ mekkaniżmi awtomatizzati. Minn dawn l-utenti, madwar 7k ressqu appelli li rriżultaw f’madwar 100 każ ta’ qlib tad-deċiżjoni. Fl-2022, 501k utent sospiżi minħabba CSA permezz ta’ mekkaniżmi awtomatizzati. Minn dawn l-utenti, madwar 23k ressqu appelli li rriżultaw f’madwar 500 każ ta’ qlib tad-deċiżjoni.

* Il-perjodi ta’ rapportar fl-2021 ivarjaw għal kull fornitur

2.1.7.Miżuri applikati biex jillimitaw ir-rata ta’ żball u r-rata ta’ żball miksuba

F’konformità mal-Artikolu 3(1)(e) tar-Regolament Interim, it-teknoloġiji użati jridu jkunu affidabbli biżżejjed u l-konsegwenzi ta’ kwalunkwe żball okkażjonali jridu jiġu rettifikati mingħajr dewmien. Barra minn hekk, l-Artikolu 3(1)(g)(ii) jeħtieġ sorveljanza mill-bniedem u, fejn meħtieġ, intervent mill-bniedem.

Il-fornituri kollha rrapportaw li jużaw approċċ b’diversi livelli biex jidentifikaw u jiġġieldu t-tixrid ta’ CSA online. Dan jinkludi l-użu ta’ teknoloġiji tal-hash-matching (inkluża PhotoDNA) biex jiġi identifikat CSAM flimkien ma’ proċessi ta’ rieżami mill-bniedem biex jiġi kkonfermat jekk fajl tal-media (immaġni u vidjow) fihx CSAM, kif ukoll sorveljanza mill-bniedem fuq l-ipproċessar tas-CSAM.

Il-fornituri rrapportaw li japplikaw miżuri u salvagwardji differenti biex jillimitaw u jnaqqsu r-rata ta’ żball fl-identifikazzjoni, fir-rapportar u fit-tneħħija tagħhom tas-CSA online. Dawn jinkludu (lista mhux eżawrjenti) 4 :

I.il-monitoraġġ u l-valutazzjoni tal-kwalità tal-prestazzjoni tal-għodod ta’ identifikazzjoni tas-CSA, kemm għall-irfinar tal-preċiżjoni (li qed jidentifikaw biss abbuż sesswali tat-tfal online) kif ukoll għall-irtirar (li mhux qed jaqbżilhom l-abbuż sesswali tat-tfal online fuq il-pjattaformi tagħhom) (Google, X);

II.rieżami u sorveljanza mill-bniedem: il-kampjuni tal-media identifikati bħala CSAM minn teknoloġiji ta’ hash-matching jiġu awditjati minn rieżaminaturi umani/analisti mħarrġa (Google, LinkedIn, Meta, Microsoft);

III.l-immarkar u r-rieżami ta’ raggruppamenti ta’ volum għoli (Meta);

IV.l-użu ta’ proċessi ta’ rieżami manwali ulterjuri bħala kontrolli kontinwi tal-kwalità tal-hash (LinkedIn, Microsoft);

V.rieżaminaturi umani li jkunu għaddejjin minn taħriġ robust speċjalizzat taħt gwida ta’ konsulent dwar kif jagħrfu kontenut tas-CSAM biex tiġi żgurata l-akkuratezza tar-rieżami mill-bniedem (Google);

VI.valutazzjonijiet perjodiċi tal-kontroll tal-kwalità tar-rieżaminaturi umani u s-sentenzi li jiġu applikati (Google, X);

VII.proċessi oħra ta’ kontroll tal-kwalità biex jitnaqqsu l-iżbalji u r-rimedju immedjat, bħall-verifika indipendenti tal-hash (Google, LinkedIn), ir-rieżami mill-bniedem ta’ kull każ ta’ CSAM li qatt ma deher qabel, qabel ir-rapportar (Google);

VIII.l-iżvilupp u r-rieżami regolari tal-politiki u tal-istrateġiji ta’ infurzar minn esperti mħarrġa dwar is-suġġett tas-CSA online (Google);

IX.l-involviment mas-CyberTipline tal-NCMEC jirrapporta l-kwalità, u l-pożittivi foloz, jekk ikun hemm. (Google, LinkedIn, Meta, Microsoft, X).

2.1.8.Il-politika dwar iż-żamma u s-salvagwardji għall-protezzjoni tad-data applikati skont il-GDPR

L-Artikolu 3(1)(h) u (i) tar-Regolament Interim jirrikjedi li d-data personali rilevanti tinħażen b’mod sigur biss għal ċerti skopijiet speċifikati u jkun fiha speċifikazzjonijiet dwar il-perjodu ta’ ħżin, rispettivament. Barra minn hekk, ir-rekwiżiti applikabbli tal-GDPR iridu jiġu rrispettati.

Il-fornituri rrapportaw li għandhom fis-seħħ politiki robusti dwar iż-żamma u s-salvagwardji għall-protezzjoni tad-data personali. Il-politiki dwar iż-żamma tad-data jvarjaw skont it-tip ta’ data. Huma jindikaw li f’kull każ li l-perjodu ta’ żamma huwa limitat fiż-żmien kif meqjus xieraq għat-tip ta’ data u għall-iskop tal-ipproċessar u d-data titħassar fi tmiem il-perjodu ta’ żamma. Il-fornituri għandhom informazzjoni aktar dettaljata dwar il-prattiki taż-żamma tad-data ddefiniti fil-Politika/fid-Dikjarazzjonijiet tal-Privatezza u fil-Ftehimiet ta’ Servizz/tal-Utent tagħhom.

Il-biċċa l-kbira tal-fornituri (LinkedIn, Meta, Microsoft) japplikaw politika ta’ żamma ta’ 90 jum għall-media kkonfermata li fiha CSAM identifikata fil-kamp ta’ applikazzjoni tar-Regolament. Matul dan il-perjodu, il-kontenut ikkonfermat bħala CSAM jinħażen fi ħżin tas-CSAM separat u sigur ġestit minn timijiet speċjalizzati (eż. it-Tim tal-Infurzar tal-Liġi u tas-Sigurtà Nazzjonali tal-Microsoft). Dawn is-sistemi ta’ ħżin iħassru awtomatikament il-kontenut maħżun tas-CSAM wara 90 jum sakemm il-perjodu ta’ ħżin ma jkunx ġie estiż mal-wasla ta’ talbiet għal proċess legali ġeneralment relatati mal-aġenziji tal-infurzar tal-liġi b’segwitu għar-rapporti tal-NCMEC.

Google rrapportat li s-CSAM identifikat fil-kamp ta’ applikazzjoni tar-Regolament jinħażen mhux aktar milli strettament meħtieġ għall-finijiet rilevanti skont ir-Regolament u, fi kwalunkwe każ, mhux aktar minn 12-il xahar minn meta jiġi identifikat u rrapportat is-CSAM, b’estensjoni possibbli bbażata fuq talba valida ta’ preservazzjoni legali.

X (eks Twitter) irrapportat li żżomm informazzjoni u kontenut dwar il-profil għad-durata tal-kont tal-utent u data personali miġbura meta l-utenti jużaw is-servizz tagħhom għal massimu ta’ 18-il xahar. Meta kont jiġi diżattivat mill-utent, X ġeneralment iżżomm id-data għal 30 jum addizzjonali, imbagħad il-kont jitħassar. Id-data tal-utent relatata mal-ilmenti u mal-ksur tal-politika, inkluża l-informazzjoni dwar il-kont ta’ dawk li wettqu l-ksur (eż. identifikaturi użati biex jinħoloq il-kont: l-indirizz tal-posta elettronika jew in-numru tat-telefown), tinżamm b’mod indefinit biex jiġi evitat li trasgressuri ripetuti tal-politika joħolqu kontijiet ġodda u biex jiġi żgurat li dawk li jiksru l-politiki ta’ X ma jkunux jistgħu sempliċiment jistennew il-perjodu ta’ tħassir u mbagħad jerġgħu jiksru l-politiki 5 .

Is-salvagwardji għall-protezzjoni tad-data personali implimentati mill-fornituri jinkludu miżuri standard tal-industrija (kollha jew għażla minnhom), bħal (lista mhux eżawrjenti) 6 :

I.L-użu ta’ tekniki ta’ deidentifikazzjoni jew psewdonimizzazzjoni u l-anonimizzazzjoni tad-data (eż. masking, hashing, privatezza differenzjali) (Google, LinkedIn, Meta, Microsoft);

II.Il-forniment ta’ valuri tal-hash biss lil partijiet terzi għall-fini tal-identifikazzjoni tas-CSAM (Google, LinkedIn);

III.L-użu ta’ kriptaġġ standard tal-industrija (algoritmi u protokolli) għad-data fi tranżitu bejn l-infrastruttura privata u n-networks pubbliċi (Meta);

IV.L-implimentazzjoni ta’ strateġiji ta’ governanza tad-data/programmi komprensivi ta’ privatezza (X, eks Twitter, Google) u ta’ restrizzjonijiet stretti interni fuq l-aċċess għad-data (Meta) (eż. applikati għall-persunal, għall-kuntratturi, għall-aġenti li jeħtieġu l-informazzjoni sabiex tiġi pproċessata), l-użu ta’ Listi ta’ Kontroll tal-Aċċess fl-għodod ta’ rieżami tas-CSAM u projbizzjonijiet fuq il-hash (Meta), u obbligi stretti ta’ kunfidenzjalità kuntrattwali applikati għal dawk bl-eċċess;

V.Ir-rieżami tal-anonimizzazzjoni u tal-istrateġiji ta’ governanza tad-data, jiġifieri t-twettiq ta’ rieżamijiet tal-privatezza biex jiġu identifikati, aċċessati u mmitigati r-riskji potenzjali tal-privatezza mill-ġbir, mill-ipproċessar, mill-ħżin u mill-kondiviżjoni tad-data personali, ir-rieżami tal-prattiki ta’ protezzjoni (Microsoft);

VI.Iż-żamma tal-pjanijiet ta’ rispons għall-inċidenti tas-sigurtà għall-monitoraġġ, l-identifikazzjoni u l-immaniġġjar ta’ kwalunkwe vulnerabbiltà u inċident tas-sigurtà possibbli fl-infrastruttura kollha (Google, Meta).

2.1.9.L-ismijiet tal-organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal li magħhom tkun ġiet kondiviża d-data skont dan ir-Regolament.

Fiż-żewġ perjodi ta’ rapportar (Lulju/Awwissu 2021 sa Diċembru 2021 u Jannar 2022 sa Diċembru 2022), il-fornituri kollha rrapportaw il-kondiviżjoni tad-data pproċessata skont dan ir-Regolament mal-NCMEC. Il-fornituri kollha tar-rapportar kkomunikaw ukoll lill-Kummissjoni, f’konformità mal-Artikolu 7(1) tar-Regolament Interim, li huma rrapportaw abbuż sesswali tat-tfal online skont dan ir-Regolament lill-NCMEC 7 .

2.2.Statistika tal-Istati Membri (l-Artikolu 8)

L-Istati Membri huma obbligati jipprovdu statistika skont l-Artikolu 8(1) tar-Regolament Interim dwar dan li ġej:

(a)l-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online identifikat li ġew sottomessi mill-fornituri u mill-organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal lill-awtoritajiet nazzjonali kompetenti tal-infurzar tal-liġi, b’differenzazzjoni, fejn tali informazzjoni tkun disponibbli, bejn l-għadd assolut ta’ każijiet u dawk il-każijiet irrapportati diversi drabi u t-tip ta’ fornitur li fuq is-servizz tiegħu ikun ġie identifikat l-abbuż sesswali tat-tfal online;

(b)l-għadd ta’ tfal identifikati permezz ta’ azzjonijiet previsti fl-Artikolu 3, iddifferenzjat skont il-ġeneru;

(c)l-għadd ta’ awturi ta’ reat ikkundannati.

Filwaqt li l-biċċa l-kbira tal-Istati Membri pprovdew tal-anqas informazzjoni parzjali, is-sistemi rilevanti tal-ġbir tad-data u tar-rapportar ma kinux ġew stabbiliti f’ħafna mill-Istati Membri. B’riżultat ta’ dan, fejn ġiet ipprovduta l-istatistika, din tirrelata ma’ perjodi ta’ rapportar differenti ħafna u tvarja b’mod sinifikanti f’termini ta’ granularità. Xi Stati Membri ppreżentaw statistika annwali mid-data tad-dħul fis-seħħ tar-Regolament. Il-biċċa l-kbira tagħhom irrapportaw għas-snin kalendarji peress li jista’ ma jkollhomx il-mezzi tekniċi biex jiddistingwu l-istatistika mitluba skont is-sena mid-data tad-dħul fis-seħħ tar-Regolament. Xi ftit Stati Membri ma pprovdew l-ebda data.

Għandu jiġi nnotat ukoll li f’xi każijiet id-data statistika tinkiseb mill-hekk imsejħa bażijiet tad-data kurrenti, jew mis-sistemi ta’ ġurnalizzazzjoni u ta’ ġestjoni tal-każijiet, jiġifieri mhux mis-sistemi tal-istatistika attwali. Kultant in-numri jiġu pprovduti abbażi ta’ data dinamika, li jfisser li d-data ma hijiex finali, jiġifieri hija soġġetta għal bidla. Iseħħu bidliet, eż., skont il-ħin tal-estrazzjoni (eż. fis-Slovenja u fid-Danimarka) hekk kif isiru aktar investigazzjonijiet u kawżi fil-qorti.

F’diversi Stati Membri, l-awtoritajiet kompetenti qed joħolqu dipartimenti ġodda għall-investigazzjoni ta’ reati relatati mal-abbuż sesswali tat-tfal online, u qed joħolqu rapportar ċentrali għall-abbuż sesswali tat-tfal online (il-Latvja, iċ-Ċekja). Dan għandu jgħin biex ikun hemm statistika aktar akkurata fil-futur.

Il-Ġermanja ddikjarat li ma setgħet tipprovdi l-ebda statistika skont l-Artikolu 8(1) tar-Regolament Interim, peress li qieset li ma kellha l-ebda bażi ġuridika għall-identifikazzjoni volontarja 8 . Madankollu, l-Uffiċċju Kriminali Federali Ġermaniż (BKA) fuq is-sit web tiegħu jirrapporta li rċieva 89 844 rapport mill-NCMEC fl-2022, u l-NCMEC jirrapporta li bagħat 138 193 rapport lill-awtoritajiet Ġermaniżi. 9 Tliet Stati Membri ma pprovdew l-ebda data jew ġustifikazzjoni għan-nuqqas ta’ rapportar skont dik id-dispożizzjoni (Malta, il-Portugall u r-Rumanija).

2.2.1. L-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online identifikat

Il-biċċa l-kbira tal-Istati Membri pprovdew xi statistika dwar l-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online skont l-Artikolu 8(1)(a) tar-Regolament Interim. Peress li l-Istati Membri pprovdew data għal perjodi ta’ rapportar differenti, ma kienx possibbli li jiġi kkalkolat l-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online identifikat riċevuti fil-livell tal-UE għal kwalunkwe perjodu partikolari bħaż-żmien tal-implimentazzjoni tar-Regolament.

L-Istati Membri pprovdew l-aktar l-għadd totali ta’ rapporti riċevuti minn fornituri jew minn organizzazzjonijiet oħra li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal lill-awtoritajiet nazzjonali tal-infurzar tal-liġi. Minħabba li l-biċċa l-kbira tal-fornituri bbażati fl-Istati Uniti jirrapportaw lill-NCMEC, il-biċċa l-kbira tal-Istati Membri rrapportaw li rċevew ir-rapporti kollha tagħhom jew il-biċċa l-kbira minnhom mill-NCMEC. L-Istati Membri ma indikawx l-għadd ta’ rapporti azzjonabbli, jiġifieri rapporti xierqa għall-investigazzjoni, iżda xi wħud indikaw l-għadd ta’ każijiet imnedija, li huwa ferm aktar baxx. Id-differenza bejn ir-rapporti riċevuti u l-każijiet investigati ġiet attribwita għal diversi raġunijiet, eż. li r-rapport kien fih CSAM, iżda ma kienx fih biżżejjed informazzjoni biex tinfetaħ investigazzjoni; l-amalgamazzjoni ta’ rapporti meta aktar minn rapport wieħed japplika għal ċerta persuna suspettata; jew li l-materjal, filwaqt li juri sitwazzjonijiet ta’ sfruttament, ma ġiex ivvalutat bħala kriminali skont il-liġi nazzjonali. Barra minn hekk, l-Istat Membru fil-biċċa l-kbira tiegħu ma ddifferenzjax in-numru assolut ta’ każijiet u dawk irrapportati diversi drabi. Fejn ir-rapporti ġew ipprovduti mill-NCMEC, l-NCMEC diġà kkategorizza minn qabel ir-rapporti li kien irċieva mill-fornituri bħala “azzjonabbli” jew “għal informazzjoni”. Il-NCMEC jiddefinixxi rapport azzjonabbli bħala wieħed li fih biżżejjed informazzjoni biex titnieda investigazzjoni. Dan tipikament jinkludi d-dettalji tal-utent, l-immaġni, u lok possibbli. Ir-rapport huwa kkategorizzat bħala “għal informazzjoni” meta jkun fih informazzjoni insuffiċjenti jew fejn l-immaġni titqies bħala virali u tkun ġiet irrapportata diversi drabi. L-NCMEC ikklassifika 49 % tar-rapporti bħala “azzjonabbli” fl-2022, filwaqt li 51 % ġew ikklassifikati bħala “għal informazzjoni”.

Ftit Stati Membri biss indikaw it-tip ta’ fornituri li fuq is-servizzi tagħhom ġie identifikat l-abbuż sesswali tat-tfal online (eż. il-Belġju, iċ-Ċekja, l-Estonja, Franza, u l-Polonja) u Stat Membru wieħed biss ipprovda diżaggregazzjoni dettaljata (il-Belġju).

Is-Slovenja indikat li ma setgħetx tipprovdi ċifri fuq ir-reati investigati biss minħabba rapporti sottomessi mill-fornituri u mill-organizzazzjonijiet, iżda pjuttost setgħet tipprovdi biss ċifri għall-investigazzjonijiet kollha dwar l-abbuż sesswali tat-tfal online irrispettivament mis-sors tal-informazzjoni li wassal għat-tnedija tal-investigazzjoni.

Tabella nru 6: L-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online identifikati kif irrapportat mill-Istati Membri

Pajjiż	Perjodu tar-Rapportar	L-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online	Sors ta’ rapporti	Kummenti
L-Awstrija	2021 sal-2022	16 311	NCMEC
Il-Belġju	Mill-1 ta’ Awwissu 2021 sal-31 ta’ Lulju 2022	26 226	Rapporti li joriġinaw minn fornituri (media soċjali) u Childfocus hotline
Il-Bulgarija	2021 sal-2022	9 120	Fornituri u INHOPE hotline permezz ta’ “Safenet” u oħrajn	Minn dawn, 9 112-il twissija kienu dwar paġni web li fihom CSAM, ospitati minn fornituri Bulgari.
Il-Kroazja	Mill-1 ta’ Jannar 2021 sal-31 ta’ Ottubru 2022	9 044	NCMEC
Ċipru	Mill-1 ta’ Lulju 2021 sal-31 ta’ Diċembru 2022	3 570	NCMEC
Iċ-Ċekja	Mill-1 ta’ Jannar 2022 sal-31 ta’ Lulju 2022	13 279	NCMEC
Id-Danimarka	Mit-2 ta’ Awwissu 2021 sal-20 ta’ Jannar 2023	10 744	NCMEC
L-Estonja	-	-	NCMEC, Child Helpline 116 111	L-Estonja rrapportat li l-istatistika tal-Pulizija u tal-Gwardja tal-Fruntiera, inkluż l-NCMEC, ma hijiex pubblika. Għall-2021, huma rrapportaw 360 reat sesswali mingħajr kuntatt fuq it-tfal. Barra minn hekk, 86 % tar-reati sesswali kollha mingħajr kuntatt twettqu fl-ambjent tal-Internet jew bl-użu ta’ għodod tat-teknoloġija tal-informazzjoni.
Il-Finlandja	2022	25 000	NCMEC u Save the Children
Franza	Mill-1 ta’ Awwissu 2021 sal-1 ta’ Awwissu 2022	120 000	NCMEC
Il-Ġermanja	-	-	-	Data mhux disponibbli/mhux irrapportata.
Il-Greċja	2021 sal-2022	142	NCMEC, Greek Hotline għall-kontenut illegali tal-Internet – Safeline, National Telecommunications and Postal Commission, National Line SOS 1056 – The smile of the child, Ombudsman Grieg
L-Ungerija	2022	0	L-ebda wieħed mir-rapporti mibgħuta mill-fornituri ma ntbagħat skont ir-Regolament Interim
L-Irlanda	2021 sal-2022	15 355	NCMEC
L-Italja	2022	4 607	Mhux speċifikat
Il-Latvja	Mill-1 ta’ Awwissu 2022 sas-6 ta’ Marzu 2023	Madwar 115 sa 220 rapport kull xahar	Minn fornituri u organizzazzjonijiet mhux Latvjani li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal (l-aktar l-NCMEC) u fornituri u organizzazzjonijiet Latvjani (l-aktar il-Latvian Safer Internet Center)
Il-Litwanja	Mill-1 ta’ Jannar 2021 sat-30 ta’ Ġunju 2022	4 142	Mhux speċifikat
Il-Lussemburgu	2021 sal-2022	2 491	Mhux speċifikat
Malta	-	-	-	Data mhux sottomessa/irrapportata.
In-Netherlands	2021	36 537	Fornituri u organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal
Il-Polonja	Mit-3 ta’ Awwissu 2021 sat-3 ta’ Awwissu 2023	227	Fornituri u organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal	Għall-perjodu mit-3 ta’ Awwissu 2022 sat-3 ta’ Awwissu 2023, il-Polonja nnotat rapport wieħed ta’ grooming u 105 rapporti ta’ CSAM.
Il-Portugall	-	-	-	Data mhux sottomessa/irrapportata.
Ir-Rumanija	-	-	-	Data mhux sottomessa/irrapportata.
Is-Slovakkja	Mill-1 ta’ Awwissu 2021 sal-31 ta’ Lulju 2022	7 206	Fornituri u organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal
Is-Slovenja	Mill-1 ta’ Jannar 2021 sal-14 ta’ Lulju 2023	452	Dan in-numru jindika reati kriminali relatati ma’ attivitajiet fuq l-internet. Fil-preżent, id-data statistika eżistenti ma tippermettix lis-Slovenja tissepara d-data statistika dwar ir-reati investigati abbażi tar-rapporti sottomessi mill-fornituri u mill-organizzazzjonijiet minn data statistika dwar rapporti oħra.
Spanja	2022	31 474	Organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal
L-Iżvezja	Awwissu 2021 sal-31 ta’ Diċembru 2022	32 830	L-aktar l-NCMEC

Minħabba li l-NCMEC huwa s-sors prinċipali tar-rapporti, huwa informattiv li jitqabblu ċ-ċifri dwar ir-rapporti riċevuti mill-Istati Membri ma’ dawk ipprovduti mill-NCMEC dwar ir-rapporti mibgħuta lill-Istati Membri. L-NCMEC irċieva total ta’ 29 397 681 rapport mill-industrija globalment fl-2021, li minnhom 99,7 % (jew 29 309 106) kien fihom immaġni jew vidjow ta’ abbuż sesswali tat-tfal wieħed jew aktar, 0,15 % (jew 44 155) relatati ma’ grooming u 0,05 % (jew 16 032) mat-traffikar tat-tfal għas-sess. Fl-2022, l-NCMEC irċieva total ta’ 32 059 029 rapport, li minnhom 99,5 % (jew 31 901 234) kienu relatati ma’ immaġnijiet jew ma’ vidjows dwar l-abbuż sesswali tat-tfal, 0,25 % (80 524) ma’ grooming u 0,06 % (jew 18 336) mat-traffikar tat-tfal għas-sess. Għall-UE, it-tqassim huwa kif ġej:

Tabella nru 7: Rapporti tal-NCMEC ta’ suspett ta’ abbuż sesswali tat-tfal online ipprovduti lill-Istati Membri tal-UE fl-2021 u fl-2022

Pajjiż	Total tar-rapporti 2021 10	% tat-total tal-UE għall-2021	Total tar-rapporti 2022 11	% tat-total tal-UE għall-2022	% tal-popolazzjoni tal-UE
L-Awstrija	7 580	1,36 %	18 501	1,23 %	2,00 %
Il-Belġju	15 762	2,84 %	50 255	3,34 %	2,60 %
Il-Bulgarija	13 584	2,44 %	31 937	2,12 %	1,53 %
Il-Kroazja	4 744	0,85 %	11 693	0,78 %	0,86 %
Ċipru	2 657	0,48 %	7 361	0,49 %	0,20 %
Iċ-Ċekja	15 004	2,70 %	61 994	4,12 %	2,36 %
Id-Danimarka	5 891	1,06 %	30 215	2,01 %	1,31 %
L-Estonja	2 729	0,49 %	6 408	0,43 %	0,30 %
Il-Finlandja	6 079	1,09 %	10 904	0,73 %	1,24 %
Franza	98 233	17,67 %	227 465	15,13 %	15,16 %
Il-Ġermanja	79 701	14,34 %	138 193	9,19 %	18,59 %
Il-Greċja	14 616	2,63 %	43 345	2,88 %	2,37 %
L-Ungerija	31 710	5,70 %	109 434	7,28 %	2,16 %
L-Irlanda	7 327	1,32 %	19 770	1,31 %	1,13 %
L-Italja	37 480	6,74 %	96 512	6,42 %	13,32 %
Il-Latvja	1 537	0,28 %	3 688	0,25 %	0,42 %
Il-Litwanja	3 509	0,63 %	16 603	1,10 %	0,63 %
Il-Lussemburgu	2 005	0,36 %	2 004	0,13 %	0,14 %
Malta	750	0,13 %	4 713	0,31 %	0,12 %
In-Netherlands	36 790	6,62 %	57 012	3,79 %	3,96 %
Il-Polonja	37 758	6,79 %	235 310	15,65 %	8,41 %
Il-Portugall	34 415	6,19 %	42 674	2,84 %	2,31 %
Ir-Rumanija	32 765	5,89 %	96 287	6,40 %	4,25 %
Is-Slovakkja	7 275	1,31 %	39 748	2,64 %	1,21 %
Is-Slovenja	3 162	0,57 %	14 795	0,98 %	0,47 %
Spanja	33 136	5,96 %	77 727	5,17 %	10,60 %
L-Iżvezja	19 635	3,53 %	48 883	3,25 %	2,33 %
Totali	555 834		1 503 431

Id-disparitajiet sinifikanti bejn l-għadd ta’ rapporti fl-2021 u l-2022, li juru żieda qawwija fir-rapporti fl-2022, huma dovuti fil-biċċa l-kbira għat-tnaqqis fid-detezzjoni volontarja bejn Jannar u Awwissu 2021, meta r-Regolament Interim kien għadu ma japplikax.

L-NCMEC ma jiddifferenzjax fl-istatistika tiegħu għal kull Stat Membru tal-UE skont is-sors tar-rapport, b’mod partikolari jekk dan jirriżultax minn servizz ta’ komunikazzjoni interpersonali indipendenti min-numri. Madankollu, l-NCMEC jipprovdi statistika dwar l-għadd ġenerali ta’ rapporti li jikkonċernaw l-UE li jirriżultaw minn servizzi ta’ komunikazzjoni interpersonali indipendenti min-numri. Fl-2021, 283 265 rapport dwar l-Istati Membri rriżultaw minn chat, minn servizz ta’ messaġġi jew ta’ posta elettronika, jiġifieri 51 % tar-rapporti totali li jikkonċernaw l-UE. 164 645 (30 % tat-total) rapport addizzjonali rriżultaw mill-pjattaformi tal-media soċjali jew tal-logħob tal-azzard online, li jista’ jkollhom ukoll servizzi integrati ta’ messaġġi jew ta’ chat. Fl-2021, 3 565 rapport li jikkonċernaw l-UE kienu dwar il-grooming. Fl-2022, 1 015 231 rapport li jikkonċernaw l-Istati Membri rriżultaw minn chat, minn servizz ta’ messaġġi jew ta’ posta elettronika, jiġifieri 68 % tar-rapporti totali li jikkonċernaw l-UE. 325 847 (22% tat-total) rapport addizzjonali rriżultaw mill-pjattaformi tal-media soċjali jew tal-logħob tal-azzard online, li jista’ jkollhom ukoll servizzi integrati ta’ messaġġi jew ta’ chat. Fl-2022, 7 561 rapport li jikkonċernaw l-UE kienu dwar grooming. Għal darb’oħra, id-disparitajiet fl-għadd ta’ rapporti minn servizzi ta’ komunikazzjoni interpersonali indipendenti min-numri fl-2021 u fl-2022 huma dovuti għat-tnaqqis fl-identifikazzjoni volontarja bejn Jannar u Awwissu 2021, meta r-Regolament Interim kien għadu ma japplikax.

Il-proporzjon ta’ rapporti għal kull Stat Membru bejn wieħed u ieħor jaqbel mal-proporzjon tal-popolazzjoni tal-Istat Membru meta mqabbel mal-popolazzjoni tal-UE kollha kemm hi f’ħafna każijiet, li jista’ jindika inċidenza komparabbli ta’ abbuż sesswali tat-tfal online madwar l-Istati Membri. Devjazzjonijiet notevoli huma viżibbli fir-rigward ta’ Spanja u l-Italja, li l-perċentwali tagħhom jidhru baxxi meta mqabbla mal-perċentwal tal-popolazzjoni tal-UE matul is-sentejn, filwaqt li l-proporzjon tar-rapporti għal Stati Membri oħra jidher li jvarja b’mod sinifikanti (eż. il-Ġermanja, il-Polonja, in-Netherlands, is-Slovakkja). Dawn il-bidliet ma humiex riflessi bħala tali fir-rapporti dwar in-numri ta’ każijiet u għalhekk huwa għal darb’oħra diffiċli li wieħed jasal għal konklużjonijiet dwar il-korrelazzjoni bejn ir-rapporti u l-investigazzjonijiet.

Fid-dawl tal-perjodi ta’ rapportar differenti, ma huwa possibbli l-ebda tqabbil dirett iżda madankollu hemm disparitajiet sinifikanti bejn l-istatistika pprovduta mill-NCMEC u ċ-ċifri rrapportati mill-Istati Membri. Barra minn hekk, iċ-ċifri tal-NCMEC għall-Istati Membri wkoll ma jistgħux jitqabblu bis-sħiħ ma’ dawk ipprovduti mill-industrija rrapportati fit-taqsima preċedenti. Filwaqt li xi wħud mid-differenzi jistgħu jkunu dovuti għal rapporti ta’ abbuż sesswali tat-tfal online li jiġu minn sorsi oħra minbarra komunikazzjonijiet interpersonali, dan ikun jeħtieġ analiżi ulterjuri, billi huwa possibbli wkoll li jittieħdu miżuri ta’ identifikazzjoni volontarja li jikkonċernaw lill-UE minn fornituri għajr dawk li ppreżentaw rapporti lill-Kummissjoni sal-lum, minħabba l-lista ta’ fornituri li qed jirrapportaw lill-NCMEC 12 . Madankollu, il-fatt li għall-biċċa l-kbira tal-Istati Membri jidher li hemm diskrepanza sinifikanti bejn in-numru ta’ rapporti li l-NCMEC jelenka bħala li ntbagħtu lill-Istat Membru, u l-għadd ta’ rapporti li l-Istati Membri jelenkaw li rċevew, jissuġġerixxi li l-ġbir u r-rapportar tad-data tal-Istati Membri ma humiex kompluti.

Għal kull rapport tal-NCMEC identifikat hawn fuq, l-immaġnijiet u l-vidjows assoċjati tal-abbuż sesswali tat-tfal twaqqfu u tneħħew miċ-ċirkolazzjoni. Dan huwa importanti b’mod partikolari għall-vittmi u għas-superstiti kurrenti tal-abbuż sesswali tat-tfal. L-istudji wrew li ċ-ċirkolazzjoni kontinwa ta’ immaġnijiet u vidjows li juru l-abbuż tagħhom jillimita l-kapaċità tal-vittmi li jegħlbu l-effetti psikoloġiċi tal-abbuż u joħloq forma sekondarja ta’ vittimizzazzjoni.

2.2.2. L-għadd ta’ tfal identifikati

Il-biċċa l-kbira tal-Istati Membri pprovdew statistika kompluta jew parzjali dwar l-għadd ta’ tfal identifikati, differenzjata skont il-ġeneru, skont l-Artikolu 8(1)(b) tar-Regolament Interim. Madankollu, diversi Stati Membri ma pprovdew l-ebda data jew ġustifikazzjoni għan-nuqqas ta’ rapportar skont din id-dispożizzjoni.

Diversi Stati Membri ma rrapportaw l-ebda statistika jew irrapportaw statistika parzjali biss għall-perjodu ta’ rapportar iżda pprovdew raġunijiet għal dan. Ir-raġunijiet ipprovduti jinkludu:

-it-tfal vittmi tas-CSA online ma jistgħux jingħaddu (Franza);

-ma hemmx data disponibbli għaliex ma nġabritx bħala parti mill-ġbir tad-data statistika nazzjonali / l-awtoritajiet nazzjonali ma rreġistrawx din l-istatistika (id-Danimarka, il-Litwanja);

-data mhux diżaggregata skont il-ġeneru fil-ġbir tad-data statistika nazzjonali (il-Belġju, Ċipru, iċ-Ċekja, il-Greċja, l-Irlanda, l-Italja, il-Litwanja, in-Netherlands);

-l-informazzjoni ma hijiex disponibbli bil-livell ta’ dettall mitlub fis-sistemi ta’ informazzjoni eżistenti (il-Finlandja);

-l-informazzjoni ma tinġabarx (il-Ġermanja).

Ftit minn dawk l-Istati Membri li indikaw li ma setgħux jipprovdu statistika kkonfermaw li l-awtoritajiet nazzjonali tagħhom ntalbu jbiddlu l-proċedura ta’ reġistrazzjoni tagħhom għal rapporti u investigazzjonijiet volontarji u għall-ġbir tal-istatistika (id-Danimarka) u/jew qed jużaw sistemi ta’ informazzjoni ġodda li għandhom jippermettu r-rapportar fil-livell ta’ dettall meħtieġ (il-Finlandja).

Fi Stat Membru wieħed, id-data ta’ hawn taħt ma tiddifferenzjax bejn it-tfal vittmi tas-CSA online u offline (l-Ungerija). F’xi każijiet, l-istatistika tinkludi wkoll tfal li ġew identifikati bħala li pproduċew u tellgħu dan il-materjal huma stess (materjal awtoġenerat, l-aktar vidjow) (iċ-Ċekja, l-Estonja).

Billi l-Istati Membri rrapportaw l-aktar għal perjodi ta’ rapportar differenti, ma kienx possibbli li jiġi kkalkolat l-għadd totali ta’ tfal identifikati bħala vittmi ta’ abbuż sesswali tat-tfal online fl-UE, għal kull sena u/jew l-istess perjodu ta’ rapportar.

Tabella nru 8: L-għadd ta’ tfal identifikati, differenzjati skont il-ġeneru

Pajjiż	Perjodu tar-rapportar	Bniet	Subien	Totali	Kummenti
L-Awstrija	2021 sal-2022	11	6	17
Il-Belġju	2021 sal-2022	-	-	63	Data differenzjata skont il-ġeneru ma hijiex disponibbli.
Il-Bulgarija	2022	50	12	62
Il-Kroazja	Mill-1 ta’ Jannar 2021 sal-31 ta’ Ottubru 2022	20	0	20
Ċipru	2022	-	-	102	Data differenzjata skont il-ġeneru ma hijiex disponibbli.
Iċ-Ċekja	2022	-	-	30	Data differenzjata skont il-ġeneru ma hijiex disponibbli.
Id-Danimarka	-	-	-	-	Data mhux disponibbli.
L-Estonja	2021	6	12	18
Il-Finlandja	-	-	-	-	Data mhux disponibbli.
Franza	-	-	-	-	Data mhux disponibbli.
Il-Ġermanja	-	-	-	-	Data mhux disponibbli.
Il-Greċja	2021 sal-2022	-	-	4	Data differenzjata skont il-ġeneru ma hijiex disponibbli.
L-Ungerija	2021 sal-2022	379	47	426	Impossibbli li ssir distinzjoni bejn il-vittmi tas-CSA online u offline. Ġew inklużi biss tfal taħt l-età ta’ 16-il sena.
L-Irlanda	2021 sal-2022	-	-	101	Data għall-2021 (50 vittma) ma tistax tiġi differenzjata skont il-ġeneru. Data differenzjata skont il-ġeneru għall-2022 hija: 25 bniet u 26 subien identifikati.
L-Italja	2022	-	-	385	Data differenzjata skont il-ġeneru ma hijiex disponibbli.
Il-Latvja	Mill-1 ta’ Awwissu 2022 sas-6 ta’ Marzu 2023	1	-	1
Il-Litwanja	-	-	-	-	Data mhux disponibbli.
Il-Lussemburgu	2021 sal-2022	0	0	0
Malta	-	-	-	-	Data mhux sottomessa/irrapportata.
In-Netherlands	2021	-	-	222	Data differenzjata skont il-ġeneru ma hijiex disponibbli.
Il-Polonja	2022	2368	487	3014	Fl-2022, id-data mis-Sistema Nazzjonali ta’ Informazzjoni tal-Pulizija fil-Polonja tipprovdi d-data dwar 3 014-il vittma ta’ reati relatati mas-CSA (2 368 bniet, 487 subien, 159 fejn il-ġeneru ma huwiex iddikjarat).
Il-Portugall	-	-	-	-	Data mhux sottomessa/irrapportata.
Ir-Rumanija	-	-	-	-	Data mhux sottomessa/irrapportata.
Is-Slovakkja	Awwissu 2021 sa Lulju 2022	13	8	21
Is-Slovenja	Mill-1 ta’ Jannar 2021 sal-14 ta’ Lulju 2023	220	85	305
Spanja	2022	80	39	119
L-Iżvezja	2022	8	4	12
TOTAL GĦALL-ISTATI MEMBRI KOLLHA	Mill-1 ta’ Jannar 2021 sas-6 ta’ Marzu 2023	3 156	700	4 922

Id-data ta’ hawn fuq hija soġġetta għal għadd ta’ twissijiet addizzjonali. Id-data statistika eżistenti mhux dejjem tippermetti lill-Istati Membri jisseparaw id-data dwar il-vittmi li jkunu ġew identifikati abbażi ta’ rapport minn fornitur minn dik fejn, pereżempju, il-vittma nnifisha setgħet irrapportat ir-reat kriminali jew dan seta’ ġie rrapportat minn xi ħadd ieħor li kien jaf lill-vittma jew li jkun identifika r-reat kriminali (kif imsemmi mis-Slovenja). L-Iżvezja rrapportat li t-tfal li ġew identifikati permezz ta’ reġistri taċ-chat huma wkoll parti mir-rapportar għalkemm ir-ritratti jew il-vidjows tal-abbuż qatt ma nstabu jew ġew iddeterminati li joriġinaw minn dik il-vittma speċifika.

B’mod ġenerali, id-data fit-tabella nru 8 mhux neċessarjament tikkorrispondi għall-obbligi ta’ rapportar fir-Regolament Interim, li jirreferu biss għall-vittmi salvati bis-saħħa tar-rapporti sottomessi mill-fornituri u mill-organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal skont ir-Regolament. Id-data pprovduta f’xi każijiet tinkludi vittmi identifikati minħabba varjetà ta’ raġunijiet u mezzi oħra.

Għalhekk, id-data ma tippermettix ħarsa ġenerali komprensiva lejn l-għadd ta’ tfal identifikati bħala vittmi ta’ abbuż sesswali tat-tfal online fl-UE.

Barra minn hekk, anki fejn tkun ġiet identifikata vittma, dan mhux bilfors ifisser li kien hemm kundanna marbuta ma’ dik l-identifikazzjoni. F’xi każijiet, il-vittma ġiet identifikata, iżda l-investigazzjoni ma setgħetx tistabbilixxi persuna suspettata jew twassal l-investigazzjoni għal kundanna (l-Iżvezja).

Madankollu, jista’ jiġi dedott mid-data li ġie identifikat għadd sinifikanti ta’ vittmi bl-għajnuna ta’ rapportar volontarju f’konformità mar-Regolament Interim. Dan huwa kkonfermat minn rapporti ta’ każijiet mill-awtoritajiet tal-infurzar tal-liġi, li ta’ spiss jiġu mnedija biss abbażi ta’ rapportar volontarju 13 .

2.2.3. L-għadd ta’ awturi ta’ reat ikkundannati

Filwaqt li l-biċċa l-kbira tal-Istati Membri kkonformaw mal-obbligi tagħhom, żewġ Stati Membri ma pprovdew l-ebda data jew ġustifikazzjoni għan-nuqqas ta’ rapportar skont l-Artikolu 8(1)(c) tar-Regolament Interim.

Diversi Stati Membri ma pprovdew l-ebda statistika għall-perjodu ta’ rapportar skont dik id-dispożizzjoni u pprovdew ir-raġunijiet li ġejjin:

-data li għadha ma hijiex disponibbli (il-Belġju u Spanja);

-il-bażi ta’ data ċentrali użata għar-reġistrazzjoni tal-kriminalità ma kinitx teħtieġ li n-natura tar-riferiment inizjali tiġi rreġistrata (l-Irlanda);

-id-data ma tinġabarx (il-Ġermanja).

L-Istati Membri rrapportaw data varjata ħafna dwar l-għadd ta’ awturi ta’ reat ikkundannati u ma kien hemm l-ebda koerenza fil-perjodi ta’ rapportar koperti, kif muri mit-tabella nru 8 hawn taħt.

Tabella nru 9: L-għadd ta’ awturi ta’ reat ikkundannati

Pajjiż	Perjodu tar-rapportar	Għadd ta’ kundanni	Kummenti
L-Awstrija	2021	850	Id-data ma tiddifferenzjax bejn ir-reati mwettqa online u offline.
Il-Belġju	-	-	Data mhux disponibbli.
Il-Bulgarija	2021 sal-2022	52
Il-Kroazja	-	-	Data mhux disponibbli.
Ċipru	2022	0	S’issa ma kien hemm l-ebda kundanna.
Iċ-Ċekja	Mill-1 ta’ Jannar 2022 sal-31 ta’ Lulju 2022	20
Id-Danimarka	Mit-2 ta’ Awwissu 2021 sal-20 ta’ Jannar 2023	224
L-Estonja	2021	2	Tinkludi biss kundanni li jirriżultaw mir-rapporti tal-NCMEC.
Il-Finlandja	2021	240
Franza	Mill-4 ta’ Awwissu 2021 sat-3 ta’ Awwissu 2022	820
Il-Ġermanja	-	-	Data mhux disponibbli.
Il-Greċja	2021 sal-2022	62
L-Ungerija	2021 sal-2022	126
L-Irlanda	-	-	Data mhux disponibbli.
L-Italja	2021 sal-2022	5 835	Id-data ma tiddifferenzjax bejn ir-reati mwettqa online u offline.
Il-Latvja	2021 sal-2022	33	Id-data ma tiddifferenzjax bejn ir-reati mwettqa online u offline.
Il-Litwanja	Mill-1 ta’ Jannar 2021 sat-30 ta’ Ġunju 2022	10
Il-Lussemburgu	2022	11	Id-data ma tiddifferenzjax bejn ir-reati mwettqa online u offline.
Malta	-	-	Data mhux sottomessa/irrapportata.
In-Netherlands	2021	217
Il-Polonja	It-tieni nofs tal-2021 sal-ewwel nofs tal-2022 / 2022 / L-ewwel nofs tal-2023	185 / 194 / 81
Il-Portugall	-	-	Data mhux sottomessa/irrapportata.
Ir-Rumanija	-	-	Data mhux sottomessa/irrapportata.
Is-Slovakkja	2021	10
Is-Slovenja	2021 sal-2022	45
Spanja	2022	-	Data mhux disponibbli.
L-Iżvezja	2022	55

Huwa importanti li wieħed jinnota li l-għadd ta’ kundanni ma huwiex daqs l-għadd ta’ awturi ta’ reat ikkundannati, peress li persuna tista’ tiġi kkundannata għal reat wieħed jew aktar ta’ abbuż sesswali tat-tfal online.

Barra minn hekk, l-istatistika dwar il-kundanni rrappurtati għal ċertu perjodu ma hijiex neċessarjament marbuta mar-rapporti li jkunu waslu f’dak il-perjodu partikolari (jiġifieri kundanna fl-2022 tista’ pereżempju tkun marbuta ma’ rapport mill-2021 jew mill-2020 u rapport mill-2022 jista’ jwassal biss għal kundanna fl-2023 jew aktar tard). Dan il-fatt ġie enfasizzat b’mod espliċitu minn diversi Stati Membri fir-rapporti tagħhom (l-Irlanda, il-Lussemburgu, l-Iżvezja).

F’xi każijiet, ma nġabret l-ebda statistika dwar jekk ir-rapporti ta’ attivitajiet suspettużi (eż. permezz tal-NCMEC) wasslux għal kundanni, jew fi kliem ieħor li l-kundanni rriżultaw mill-informazzjoni pprovduta minn fornitur jew minn organizzazzjoni pubblika (l-Awstrija, il-Latvja). L-Estonja biss ikkonfermat b’mod espliċitu li l-istatistika turi biss kundanni li jirriżultaw mir-rapporti tal-NCMEC. Huwa possibbli wkoll li r-rapporti wasslu għal trasgressuri oħra, li jiġu investigati u kkundannati matul l-investigazzjonijiet (l-Awstrija).

Fil-biċċa l-kbira, huwa preżunt li l-għadd ta’ kundanni rrapportati huwa minn meta każ jiġi ffinalizzat wara li jkun preżumibbilment appellat permezz tas-sistema ġudizzjarja. Fi Stat Membru wieħed (id-Danimarka), fejn in-numri jiġu kkompilati skont l-aħħar deċiżjoni, in-numri ma humiex finali, peress li d-deċiżjonijiet setgħu ġew appellati wara.

F’ċerti każijiet, id-data li tinsab fis-sistemi tal-IT nazzjonali u rrapportata mill-Istati Membri ma tiddifferenzjax bejn reati mwettqa online u offline (l-Awstrija, il-Lussemburgu, il-Latvja).

Ir-rapporti varjati ħafna ppreżentati mill-Istati Membri u l-mod kif tinġabar id-data statistika fil-livell nazzjonali għalhekk ma jippermettux ħarsa ġenerali komprensiva lejn in-numru ta’ awturi ta’ reat ikkundannati għal abbuż sesswali tat-tfal online fl-UE. Fil-preżent lanqas ma huwa possibbli – abbażi tad-data disponibbli – li dawn il-kundanni jintrabtu b’mod ċar ma’ rapporti sottomessi minn fornituri u organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal f’perjodi ta’ rapportar konkreti f’konformità ma’ dan ir-Regolament.

2.3.Żviluppi fil-progress teknoloġiku

It-teknoloġiji li bħalissa jintużaw biex jiġi identifikat l-abbuż sesswali tat-tfal online jinkludu teknoloġiji u għodod biex jiġi identifikat is-CSAM “magħruf” (jiġifieri identifikat qabel), is-CSAM “ġdid” (jiġifieri mhux identifikat qabel) u s-solleċitazzjoni tat-tfal (magħrufa bħala “grooming”).

L-eżempji mogħtija hawn taħt jinkludu wħud mill-aktar għodod użati b’mod wiesa’, u ma jirrappreżentawx lista eżawrjenti. Ħafna minn dawn l-għodod huma disponibbli għall-fornituri, għall-awtoritajiet tal-infurzar tal-liġi u għal organizzazzjonijiet oħra fejn jista’ jintwera interess leġittimu. Tipikament, dawn l-għodod jiġu kkombinati ma’ rieżami mill-bniedem sabiex tiġi żgurata l-akkuratezza massima possibbli.

Din it-taqsima tinkludi wkoll żviluppi addizzjonali fil-progress teknoloġiku relatati mal-intelliġenza artifiċjali.

2.3.1. Identifikazzjoni ta’ CSAM magħruf

It-teknoloġiji eżistenti biex jiġi identifikat CSAM magħruf jibbażaw biss fuq analiżi awtomatika tal-kontenut 14 u huma tipikament ibbażati fuq il-hashing. It-teknoloġija tal-hashing hija tip ta’ marki tas-swaba’ diġitali. Dan joħloq firma diġitali unika (magħrufa bħala “hash”) ta’ immaġni li mbagħad titqabbel ma’ firem (hashes) ta’ ritratti oħra biex jinstabu kopji tal-istess immaġni. Din it-teknoloġija tidentifika biss hashes li jaqblu u ma “tara” l-ebda materjal li ma jaqbilx mal-hash. Il-valuri tal-hash ukoll ma humiex riversibbli, u għalhekk ma jistgħux jintużaw biex terġa’ tinħoloq immaġni.

Jeżistu ħafna varjazzjonijiet u implimentazzjonijiet tat-teknoloġija tal-hashing. L-għodod identifikati bħala użati għad-detezzjoni ta’ CSAM magħruf jinkludu: (i) Microsoft PhotoDNA ; (ii) Google CSAI Match ; (iii) Apple NeuralHash + Private Set Intersection ; (iv) Meta SSN++ ; (v) PDQ and TMK+PDQF ; (vi) MD5 Hash generator (Skype); (vii) Safer (Thorn).

L-aktar għodda użata hija Microsoft PhotoDNA, użata minn aktar minn 150 organizzazzjoni 15 . PhotoDNA ilha tintuża għal aktar minn 10 snin u għandha livell għoli ta’ akkuratezza. Ir-rata ta’ pożittivi foloz hija stmata għal mhux aktar minn 1 f’50 biljun, abbażi tal-ittestjar 16 . Ir-rata ta’ żball ta’ PhotoDNA għadha baxxa ħafna minħabba n-natura tat-teknoloġija. It-teknoloġija tidentifika esklussivament kopji ta’ kontenut identifikat qabel. Filwaqt li l-PhotoDNA oriġinali tindividwa CSAM magħruf fl-immaġnijiet, hija disponibbli wkoll verżjoni għad-detezzjoni tas-CSAM fil-vidjows.

It-teknoloġija qed tiżviluppa u tittejjeb kontinwament. F’Mejju 2023, Microsoft ħabbret l-użu ta’ kapaċitajiet ġodda ta’ tqabbil li jippermettu tiftix aktar rapidu (madwar 350 darba aktar malajr), filwaqt li jnaqqsu l-kost tal-proċess ta’ tqabbil mingħajr telf ta’ akkuratezza. Skont Microsoft, il-librerija l-ġdida tippermetti wkoll detezzjoni aktar komprensiva ta’ immaġnijiet maqluba jew imdawra. Barra minn hekk, l-Internet Watch Foundation (IWF) irrapportat reċentement titjib fit-teknoloġija tal-hashing tagħha 17 .

2.3.2. Detezzjoni ta’ CSAM ġdid

It-teknoloġiji li bħalissa jintużaw għad-detezzjoni ta’ CSAM ġdid jinkludu klassifikaturi u intelliġenza artifiċjali (IA) li janalizzaw immaġnijiet u vidjows biex jidentifikaw xejriet ta’ kontenut li jaqblu max-xejriet iġġenerati abbażi ta’ materjali ta’ abbuż sesswali tat-tfal identifikati qabel. Klassifikatur huwa algoritmu li jagħżel id-data fi klassijiet ittikkettati, jew kategoriji ta’ informazzjoni, permezz tar-rikonoxximent tax-xejriet. Il-klassifikaturi jeħtieġu d-data biex jitħarrġu fuqha u l-akkuratezza tagħhom tittejjeb aktar ma jingħataw data.

L-għodod biex jiġi identifikat CSAM ġdid jinkludu: (i) Safer (Thorn); (ii) Google Content Safety API ; (iii) Facebook’s AI technology 18 ; (iv) Amazon Rekognition ; (v) Hive AI for visual content .

Ir-riċerka wriet li l-għodod u s-sistemi awtomatizzati bħall-klassifikaturi huma l-aktar mezz utli biex jiġi identifikat CSAM 19 . Għad-detezzjoni ta’ CSAM ġdid, ir-rata ta’ akkuratezza bħalissa tinsab ferm ogħla minn 90 %. Pereżempju, Thorn tindika li l-Klassifikatur tas-CSAM tagħha jista’ jiġi ssettjat għal rata ta’ preċiżjoni ta’ 99 % (kemm għas-CSAM magħruf kif ukoll għal dak ġdid), li jfisser rata ta’ pożittivi foloz ta’ 0,1 % 20 . Dawn il-metriċi x’aktarx li jitjiebu b’żieda fl-użu u fir-rispons.

 

2.3.3. Detezzjoni ta’ grooming

L-għodod għad-detezzjoni ta’ grooming (solleċitazzjoni tat-tfal) fil-komunikazzjonijiet ibbażati fuq it-test jagħmlu użu mit-teknoloġiji biss biex jidentifikaw xejriet li jindikaw elementi konkreti possibbli ta’ suspett ta’ abbuż sesswali tat-tfal online, mingħajr ma jkunu jistgħu jnaqqsu s-sustanza tal-kontenut. It-teknika hija applikata għal konverżazzjonijiet taċ-chat ibbażati fuq it-test. Il-konverżazzjonijiet huma kklassifikati fuq serje ta’ karatteristiċi u jiġu assenjati klassifikazzjoni ġenerali tal-probabbiltà, li tindika l-probabbiltà stmata li l-konverżazzjoni tikkostitwixxi grooming. Dawn il-klassifikazzjonijiet iservu bħala determinant, stabbilit minn kumpaniji individwali, biex jindikaw konverżazzjonijiet għal rieżami addizzjonali mill-bniedem.

L-għodod użati għall-operazzjonijiet ta’ detezzjoni tat-test jinkludu: (i) Project Artemis ta’ Microsoft 21 ; (ii) Amazon Rekognition ; (iii) Teknoloġija Spirit AI ta’ Twitch (ibbażata fuq l-NLP, klassifikaturi tat-test) 22 ; (iv) Klassifikatur tal-“klassifikazzjoni” intern ta’ Meta b’apprendiment awtomatiku mibni internament (li jgħaqqad it-teknoloġija tal-analiżi tal-lingwa interna mal-metadata);; (v) Roblox filtrazzjoni taċ-chat 23 ; (vi) Thorn u s-soluzzjoni teknika ta’ Tech Coalition ibbażata fuq l-apprendiment awtomatiku u l-klassifikaturi 24 .

Bħal fil-każ tal-identifikazzjoni ta’ CSAM ġdid, l-identifikazzjoni tal-kontenut ta’ grooming teħtieġ it-taħriġ tat-teknoloġija b’kontenut bħal dan. L-aċċess għal tali data għat-taħriġ jibqa’ l-akbar sfida għall-iżvilupp u t-titjib ta’ tali teknoloġiji.

Thorn, fi sħubija ma’ Tech Coalition u l-membri tagħha, nediet inizjattiva ġdida mmirata lejn l-iżvilupp ta’ soluzzjoni teknika biex jiġu identifikati u indirizzati t-tentattivi ta’ grooming online li se jkunu utli u li jistgħu jintużaw għal firxa ta’ pjattaformi li joffru komunikazzjonijiet ibbażati fuq it-test. Dan se jkun ibbażat fuq il-ħidma tat-tim ta’ Thorn fuq klassifikatur tal-NLP (ipproċessar tal-lingwa naturali), jew mudell ta’ apprendiment awtomatiku, li jidentifika u jikkategorizza meta l-kontenut jew l-imġiba online jaqgħu fi “klassijiet” definiti relatati mal-grooming (bħall-esponiment għal materjal sesswali jew tentattiv ta’ laqgħa personali ma’ minorenni) kif ukoll punteġġ ġenerali ta’ kemm konverżazzjoni hija relatata ma’ grooming 25 .

2.3.4. Sfidi ġodda mqajma miċ-chatbots tal-Intelliġenza artifiċjali u mill-ġeneraturi tal-arti/immaġnijiet

L-iżvilupp u r-rilaxx ta’ chatbots tal-IA bħal ChatGPT (mudell lingwistiku kbir (LLM) żviluppat minn OpenAI ) u ġeneraturi tal-arti/immaġnijiet bħal DALL-E 26 u Midjourney 27 , iġġeneraw attenzjoni pubblika sinifikanti, prinċipalment minħabba l-kapaċità tagħhom li jipprovdu tweġibiet lesti għall-użu malajr jew joħolqu immaġnijiet realistiċi li jistgħu jiġu applikati għal għadd kbir ta’ kuntesti differenti. Dawn l-għodod il-ġodda kisbu b’mod rapidu popolarità u użu mifrux. Il-prodotti ewlenin qed jiġu ffinanzjati u żviluppati minn kumpaniji tat-teknoloġija inklużi Microsoft u Google u t-teknoloġiji l-ġodda qed jiġu rfinuti u qed jiġu mnedija verżjonijiet imtejba fuq bażi regolari.

Filwaqt li dawn it-teknoloġiji joffru opportunitajiet kbar kemm għan-negozji kif ukoll għall-pubbliku, jistgħu joħolqu wkoll riskju għalihom. It-tħassib dwar tali prodotti jinkludi kif il-kriminali jistgħu jkunu jixtiequ jisfruttaw dawn il-prodotti għall-finijiet ħżiena tagħhom inkluż l-isfruttament sesswali tat-tfal.

Kif irrapportat mill-Europol, filwaqt li l-informazzjoni kollha li tipprovdi ChatGPT hija disponibbli bla ħlas fuq l-internet, l-għodda tagħmilha ferm aktar faċli għal atturi malizzjużi “biex jitgħallmu dwar għadd kbir ta’ oqsma ta’ kriminalità potenzjali mingħajr għarfien minn qabel, li jvarjaw minn kif wieħed jista’ jidħol f’dar, għal terroriżmu, ċiberkriminalità u abbuż sesswali tat-tfal”. Dan jippermetti lil dawn il-persuni jifhmu aħjar u sussegwentement iwettqu dawn it-tipi ta’ reati 28 .

Ir-regoli tal-OpenAI jirrestrinġu l-kapaċità ta’ ChatGPT li tirrispondi għal suġġerimenti ta’ kontenut sesswali, ta’ mibegħda jew vjolenti jew ta’ kontenut li jippromwovi s-self-harm. Madankollu, dawn is-salvagwardji jistgħu jinqabżu b’mod pjuttost faċli permezz ta’ prompt engineering 29 . L-użu riċenti ta’ chatbots tal-IA (eż. permezz ta’ Snapchat) juri kif dawn jistgħu jaqbżu l-linja f’interazzjonijiet offensivi jew perikolużi, inkluż l-abbuż sesswali tat-tfal 30 . B’aktar kumpaniji li issa qed jikkunsidraw l-ittestjar taċ-chatbots tal-IA fuq il-pjattaformi tagħhom (Instagram, potenzjalment WhatsAppp u Messenger), l-impatt fuq l-utenti, speċjalment it-tfal u ż-żgħażagħ, għandu jiġi vvalutat bir-reqqa.

Dawn l-għodod ġodda jirrikjedu wkoll salvagwardji adegwati sabiex ma jintużawx ħażin biex jiġi prodott materjal ta’ abbuż sesswali tat-tfal deepfake ġġenerat mill-IA 31 . Bil-pass tal-iżvilupp tal-għodod tal-IA, huwa probabbli li dalwaqt se jsir ferm aktar faċli li jiġu ġġenerati immaġnijiet li ma jintgħarfux minn immaġnijiet reali. Dan jippreżenta diversi sfidi ewlenin fil-ġlieda kontra s-CSA, peress li l-kapaċità tal-awtorità tal-infurzar tal-liġi li tinvestiga u tipprosegwixxi l-każijiet ta’ CSAM u tidentifika vittmi reali tista’ tiġi mxekkla b’mod sever jekk CSAM realistiku ferm, iġġenerat mill-kompjuter isir prevalenti ħafna online 32 .

Ir-riċerka wriet li l-aċċess għal materjal ta’ abbuż sesswali tat-tfal ta’ spiss ikun l-ewwel pass lejn l-abbuż prattiku, irrispettivament minn jekk il-materjal ikunx juri abbuż u sfruttament reali jew li jidher realistiku 33 . Għalhekk, il-limitazzjoni tat-tixrid ta’ materjal ta’ abbuż sesswali tat-tfal iġġenerat mill-IA hija kruċjali bħala forma ta’ prevenzjoni min-naħa tal-awtur ta’ reat. Tħassib ewlieni ieħor huwa li groomers jistgħu jużaw is-setgħat avvanzati tal-ġenerazzjoni tat-test ta’ ChatGPT, flimkien ma’ IA eżistenti li taqleb it-test f’immaġnijiet biex jiġġeneraw malajr u faċilment kontenut għal profili foloz u konverżazzjonijiet plawżibbli maż-żgħażagħ biex jimmiraw it-tfal online. “Filwaqt li ChatGPT fiha nnifisha mhux se tħeġġeġ lin-nies biex isiru groomers online, hija tippermetti lil kulħadd jikkontribwixxi għall-konverżazzjonijiet li qed ikollhom mat-tfal online permezz tat-teknoloġija tal-IA biex jagħmlu lilhom infushom aktar persważivi u kredibbli għall-vittmi tagħhom, u jgħin fil-manipulazzjoni.” 34 L-IA ġenerattiva jista’ jkollha l-potenzjal li tikkontribwixxi għal żieda fil-każijiet ta’ grooming online u anke li “tawtomatizza l-grooming tat-tfal fuq skala” 35 .

3.KONKLUŻJONIJIET

Miżuri ta’ implimentazzjoni meħuda mill-fornituri

Ir-rapportar tal-fornituri wera li dawn kienu qed iwettqu d-detezzjoni u r-rapportar tal-abbuż sesswali tat-tfal online skont ir-Regolament Interim bl-użu ta’ varjetà ta’ teknoloġiji u proċessi ta’ detezzjoni. Il-fornituri kollha rrapportaw li bagħtu dawn ir-rapporti lill-NCMEC. F’termini tat-tip u l-volumi ta’ data personali ttrattata mill-fornituri, ir-rapportar wera firxa ta’ data dwar it-traffiku miġbura u livell varjat ta’ granularità tal-volumi ta’ data pproċessata li jżomm lill-Kummissjoni milli tikseb data fil-livell tal-UE unifikata relatata mal-fornituri għall-perjodu ta’ rapportar inkwistjoni (Lulju 2021 sal-31 ta’ Jannar 2023).

Il-fornituri ma ssottomettewx in-numru u l-proporzjonijiet ta’ żbalji (pożittivi foloz) tat-teknoloġiji differenti użati diżaggregati skont it-teknoloġija użata, u dan jindika li jużaw approċċ b’saffi għad-detezzjoni tas-CSA online kkomplementat minn rieżami minn bniedem. Fl-istess ħin, il-fornituri jistabbilixxu firxa wiesgħa ta’ miżuri u salvagwardji biex jillimitaw u jnaqqsu r-rata ta’ żball fid-detezzjoni tagħhom. Barra minn hekk, il-fornituri rrapportaw li għandhom fis-seħħ politiki dwar iż-żamma tad-data u salvagwardji għall-protezzjoni tad-data, definiti fil-Politiki jew fid-Dikjarazzjonijiet tagħhom dwar il-Privatezza u appoġġati minn salvagwardji u miżuri standard tal-industrija dwar il-protezzjoni tad-data.

Miżuri ta’ implimentazzjoni meħuda mill-Istati Membri

Ir-Regolament Interim jobbliga wkoll lill-Istati Membri (skont l-Artikolu 8 tiegħu) jipprovdu statistika ewlenija dwar każijiet ta’ abbuż sesswali tat-tfal online identifikati u rrapportati lill-awtoritajiet tal-infurzar tal-liġi tagħhom, l-għadd ta’ tfal vittmi identifikati, u l-għadd ta’ awturi ta’ reat kkundannati. Billi l-Istati Membri pprovdew l-aktar data għal perjodi ta’ rapportar differenti, ma kienx possibbli li jiġi kkalkolat mid-data sottomessa l-għadd totali ta’ rapporti ta’ abbuż sesswali tat-tfal online identifikati riċevuti fil-livell tal-UE. Barra minn hekk, ir-rapporti riċevuti u rrapportati mill-Istati Membri jistgħu jvarjaw minn rapporti azzjonabbli, jiġifieri minn rapporti li jistgħu jintużaw għal investigazzjonijiet, jew mill-għadd ta’ każijiet irrapportati. Ftit Stati Membri biss indikaw it-tip ta’ fornituri li fuq is-servizzi tagħhom ġie identifikat l-abbuż sesswali tat-tfal online. F’xi każijiet, id-data statistika nazzjonali ma tiddifferenzjax bejn ir-reati investigati abbażi ta’ rapporti sottomessi mill-fornituri, u organizzazzjonijiet oħra li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal u r-reati investigati abbażi ta’ rapporti oħra.

B’mod korrispondenti, ma kienx possibbli li mir-rapporti li waslu jinħareġ l-għadd totali ta’ tfal identifikati bħala vittmi ta’ abbuż sesswali tat-tfal online fl-UE, differenzjati skont il-ġeneru. Ir-raġunijiet jinkludu, pereżempju: ir-rapportar tad-data għal perjodi differenti; limiti ta’ età differenti użati għad-definizzjoni ta’ tfal vittmi ta’ CSA online; in-nuqqas ta’ ġbir ta’ statistika f’tali livell ta’ dettall fil-livell nazzjonali minħabba limitazzjonijiet tekniċi jew limitazzjonijiet oħra; l-ebda differenzjazzjoni bejn it-tfal vittmi ta’ CSA online u offline eċċ. Xi Stati Membri jinkludu wkoll fl-istatistika tagħhom tfal li pproduċew materjal awtoġenerat. Aktar importanti minn hekk, l-istatistika spiss ma tiddifferenzjax bejn il-vittmi identifikati abbażi ta’ rapporti ppreżentati mill-fornituri u mill-organizzazzjoni li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal skont ir-Regolament u dawk identifikati abbażi ta’ raġunijiet u mezzi oħra.

Il-ħarsa ġenerali lejn l-għadd ta’ awturi ta’ reat ikkundannati hija wkoll frammentata. F’ċerti każijiet, tali data ma hijiex disponibbli peress li l-bażijiet tad-data ma rreġistrawx is-sors tar-riferiment inizjali u għalhekk id-data ma tiddifferenzjax bejn dawk li jwettqu r-reati kkundannati minħabba rapporti sottomessi skont ir-Regolament u rapporti oħra. F’xi każijiet, id-data li tinsab fis-sistemi nazzjonali tal-IT lanqas ma tagħmel distinzjoni bejn reati mwettqa online u offline. Barra minn hekk, l-istatistika dwar il-kundanni rrappurtati għal ċertu perjodu ma hijiex neċessarjament marbuta mar-rapporti li jkunu ġew riċevuti f’dak il-perjodu partikolari iżda tista’ tkun relatata ma’ rapporti minn perjodi preċedenti. L-istatistika miġbura dwar l-għadd ta’ kundanni tista’ tvarja wkoll mill-għadd ta’ awturi ta’ reat ikkundannati (peress li awtur ta’ reat wieħed jista’ jkollu aktar kundanni).

L-istatistika eteroġenja ppreżentata mill-Istati Membri, li tidher li mhux dejjem tiġbor id-data b’mod sistematiku u xieraq, u l-fatturi kollha msemmija hawn fuq għalhekk ma jippermettux ħarsa ġenerali komprensiva lejn ir-rapporti dwar CSA online riċevuti, l-għadd ta’ tfal identifikati bħala vittmi ta’ dan ir-reat, jew l-għadd ta’ awturi ta’ reat ikkundannati fil-livell tal-UE skont ir-Regolament. Il-fatt li għall-parti l-kbira tal-Istati Membri jidher li hemm diskrepanza sinifikanti bejn l-għadd ta’ rapporti li l-NCMEC jelenka bħala li ntbagħtu lill-Istat Membru, u l-għadd ta’ rapporti li l-Istat Membru jelenka li rċieva, jissuġġerixxi li l-ġbir u r-rapportar tad-data ma humiex kompluti. Xi Stati Membri kkonfermaw li l-awtoritajiet kompetenti tagħhom għaddejjin minn bidliet strutturali jew minn riorganizzazzjoni relatata mal-ħolqien ta’ dipartimenti ġodda responsabbli għall-investigazzjoni ta’ reati relatati mal-abbuż sesswali tat-tfal online. Qed jiġu stabbiliti wkoll sistemi ġodda tal-IT u l-awtoritajiet nazzjonali ntalbu jbiddlu l-proċeduri u l-istatistika tar-reġistrazzjoni tagħhom f’xi Stati Membri. Dan għandu joħloq kundizzjonijiet favorevoli biex fil-futur ikun hemm statistika aktar akkurata mill-Istati Membri. Fi kwalunkwe każ, il-Kummissjoni se tagħmel użu mis-setgħat tagħha skont it-Trattati kif meħtieġ biex tiżgura li l-Istati Membri jikkonformaw mal-obbligi ta’ rapportar tagħhom skont ir-Regolament Interim.

Kunsiderazzjonijiet ġenerali

B’mod ġenerali, dan ir-rapport juri disparitajiet konsiderevoli fir-rapportar dwar id-data relatata mal-ġlieda kontra s-CSA online skont ir-Regolament Interim kemm mill-fornituri kif ukoll mill-Istati Membri. Standardizzazzjoni akbar tad-data disponibbli u r-rapportar tagħha, bħal dawk previsti fil-proposta għal Regolament għall-prevenzjoni u l-ġlieda kontra l-abbuż sesswali tat-tfal 36 , jikkontribwixxu għall-kisba ta’ stampa aħjar fir-rigward tal-attivitajiet rilevanti fil-ġlieda kontra dan ir-reat. Jidher li huma meħtieġa sforzi addizzjonali mill-fornituri u mill-Istati Membri biex jiġu żgurati l-ġbir u r-rapportar tad-data f’konformità mar-rekwiżiti tar-Regolament Interim.

Id-data disponibbli turi li taħt is-sistema kurrenti ta’ detezzjoni u rapportar volontarji huwa possibbli li l-materjali mmarkati awtomatikament bħala CSAM jirriżultaw, mar-rieżami mill-bniedem, li ma jkunux CSAM. Dan jista’ jkun minħabba n-nuqqas ta’ sett komuni ta’ hashes u indikaturi oħra għad-detezzjoni ta’ CSAM, ikkonfermat bħala illegali fl-UE, jew standards legali differenti bejn il-ġuriżdizzjonijiet, b’mod partikolari bejn l-UE u l-Istati Uniti, b’mod partikolari dwar id-definizzjonijiet rilevanti. Id-data tissuġġerixxi wkoll varjazzjonijiet kbar fl-għadd ta’ talbiet għal rieżami, u fir-rati ta’ suċċess tar-rieżami, li minnhom ma jkunx possibbli li jiġu estratti konklużjonijiet, minħabba n-nuqqas ta’ informazzjoni b’mod partikolari dwar il-kamp ta’ applikazzjoni tat-talbiet għal rieżami u r-raġunijiet għar-riattivazzjoni.

Fir-rigward tar-rekwiżiti tal-Artikolu 9(2) dwar il-kundizzjonijiet għall-ipproċessar, l-informazzjoni pprovduta tindika li t-teknoloġiji użati jikkorrispondu għal applikazzjonijiet teknoloġiċi mfassla għall-iskop uniku li jiġi identifikat u li jiġi eliminat materjal ta’ abbuż sesswali tat-tfal online u li jiġi rrapportat lill-awtoritajiet tal-infurzar tal-liġi u lill-organizzazzjonijiet li jaġixxu fl-interess pubbliku kontra l-abbuż sesswali tat-tfal. Ma ġiet ipprovduta l-ebda informazzjoni fir-rigward ta’ jekk l-użu tat-teknoloġiji kienx skont l-ogħla livell ta’ żvilupp tekniku u bl-inqas mod intrużiv għall-privatezza, u dwar jekk twettqitx valutazzjoni tal-impatt minn qabel fuq il-protezzjoni tad-data kif imsemmi fl-Artikolu 35 tar-Regolament (UE) 2016/679 u proċedura ta’ konsultazzjoni minn qabel kif imsemmi fl-Artikolu 36 ta’ dak ir-Regolament.

Fir-rigward tal-proporzjonalità tar-Regolament, il-mistoqsija ċentrali hija jekk ir-Regolament Interim jilħaqx il-bilanċ li l-leġiżlatura tal-UE fittxet li tilħaq bejn, minn naħa, l-ilħuq tal-objettiv ta’ interess ġenerali li jiġu miġġielda b’mod effettiv ir-reati estremament serji inkwistjoni u l-ħtieġa li jiġu protetti d-drittijiet fundamentali tat-tfal (dinjità, integrità, projbizzjoni ta’ trattament inuman jew degradanti, ħajja privata, drittijiet tat-tfal) u, min-naħa l-oħra, is-salvagwardja tad-drittijiet fundamentali tal-utenti tas-servizzi koperti (privatezza, protezzjoni tad-data personali, libertà tal-espressjoni, rimedju effettiv). Id-data disponibbli ma hijiex biżżejjed biex wieħed jasal għal konklużjonijiet definittivi f’dan ir-rigward. Ma huwiex possibbli u lanqas ma jkun xieraq li jiġi applikat standard numeriku meta tiġi vvalutata tali proporzjonalità f’termini tal-għadd ta’ tfal salvati, minħabba l-impatt negattiv sinifikanti fuq il-ħajja u d-drittijiet tat-tfal li huwa kkawżat minn abbuż sesswali. Madankollu, fid-dawl ta’ dak li ntqal hawn fuq, ma hemm l-ebda indikazzjoni li d-deroga ma hijiex proporzjonata.

Minkejja n-nuqqasijiet tad-data disponibbli, li ma jippermettux għarfien dwar l-użu ta’ rapporti volontarji f’għadd sinifikanti ta’ Stati Membri, huwa ċar mid-data li hija disponibbli li eluf ta’ tfal ġew identifikati fil-perjodu ta’ rapportar, inkisbu aktar minn elfejn kundanna, u miljuni ta’ immaġnijiet u vidjows tneħħew miċ-ċirkolazzjoni, u b’hekk tnaqqset il-vittimizzazzjoni sekondarja. Għalhekk, jista’ jiġi konkluż li r-rapportar volontarju kkontribwixxa b’mod sinifikanti għall-protezzjoni ta’ għadd kbir ta’ tfal, inkluż minn abbuż kontinwu u jidher li r-Regolament Interim huwa effettiv.

(1)

     Twitter issottomettew il-kontribuzzjoni tagħhom qabel ma ngħataw isem ġdid; din se tissejjaħ “X” matul il-bqija ta’ dan ir-rapport.

(2)

     Meta u X ma speċifikawx l-Artikolu konkret b’mod espliċitu.

(3)

     Meta u X ma speċifikawx l-Artikolu konkret b’mod espliċitu. 

(4)

     Il-fornituri indikati fil-parentesi huma dawk li rrapportaw speċifikament il-miżuri konkreti. Jekk xi fornituri ma jkunux elenkati, dan ma jfissirx li ma jimplimentawx din il-miżura, iżda biss li ma semmewhiex fir-rapport tagħhom.

(5)

     X Privacy Policy, 4. How Long We Keep Information, Disponibbli fuq: https://twitter.com/en/privacy

(6)

     Il-fornituri indikati fil-parentesi huma dawk li rrapportaw speċifikament il-miżuri konkreti. Jekk xi fornituri ma jkunux elenkati, dan ma jfissirx li ma jimplimentawx din il-miżura, iżda biss li ma semmewhiex fir-rapport tagħhom.

(7)

     L-informazzjoni dwar l-organizzazzjonijiet li jaġixxu fl-interess pubbliku li lilhom il-fornituri jirrapportaw l-abbuż sesswali tat-tfal online skont dan ir-Regolament ġiet ippubblikata fuq https://home-affairs.ec.europa.eu/policies/internal-security/child-sexual-abuse/legal-framework-protect-children_en , f’konformità mal-obbligi tal-Kummissjoni skont l-Artikolu 8(2) tar-Regolament Interim.

(8)

     Rapport ippreżentat mill-Ġermanja f’konformità mal-Artikolu 8 tar-Regolament (UE) 2021/1232, li wasal fit-18. ta’ Ottubru 2022. L-NCMEC jippubblika d-data kollha dwar ir-rapporti riċevuti u relatati mal-Istati Membri tal-UE, inkluża l-Ġermanja, fir-Rapporti għal Kull Pajjiż ta’ CyberTipline. Ara: NCMEC, 2021 CyberTipline Reports by Country , aċċessat f’Lulju 2023; NCMEC, 2022 CyberTipline Reports by Country, aċċessat f’Lulju 2023.

(9)

     https://www.bka.de/SharedDocs/Kurzmeldungen/DE/Kurzmeldungen/230623_Mindestspeicherfristen_IP-Adressen.html

(10)

     NCMEC, 2021 CyberTipline Reports by Country , aċċessat f’Novembru 2023.

(11)

     NCMEC, 2022 CyberTipline Reports by Country, aċċessat f’Novembru 2023.

(12)

     Id-data tal-NCMEC hija disponibbli hawnhekk .

(13)

     Ara pereżempju lista ta’ każijiet ta’ kampjun madwar l-UE li tnedew bis-saħħa tar-rapportar volontarju mill-kumpaniji fil- valutazzjoni tal-impatt li takkumpanja l-Proposta għal Regolament għall-prevenzjoni u l-ġlieda kontra l-abbuż sesswali tat-tfal (ara b’mod partikolari l-Anness 7).

(14)

     Il-fornituri ma jqisux il-metadata bħala għodda effettiva fid-detezzjoni tas-CSAM. Ara b’mod partikolari p. 10-11 ta’ Pfefferkorn, R., Stanford Internet Observatory, Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers, 9 ta’ Settembru, 2021.

(15)

     Microsoft, Digital Crimes Unit .

(16)

      Testimonjanza ta’ Hany Farid, l-iżviluppatur ta’ PhotoDNA, lill-Kumitat tal-Kamra dwar l-Enerġija u l-Kummerċ: Fostering a Healthier Internet to Protect Consumers, 16 ta’ Ottubru 2019.  

(17)

   Internet Watch Foundation (IWF), The Annual Report 2022 , p. 129–133.

(18)

     Ara hawn u hawn għal aktar informazzjoni dwar l-għodda ta’ Facebook biex jiġu identifikati b’mod proattiv in-nudità tat-tfal u l-kontenut ta’ sfruttament tat-tfal li qabel ma kienx magħruf bl-użu tal-intelliġenza artifiċjali u apprendiment awtomatiku.

(19)

     Pfefferkorn, R.: Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers, Journal of Online Trust and Safety, Frar 2022, p. 1-38.

(20)

     Thorn, Thorn’s Automated Tool to Remove Child Abuse Content at Scale Expands to More Platforms through AWS Marketplace , 24 ta’ Mejju 2021.  

(21)

     Project Artemis ta’ Microsoft ġie żviluppat f’kollaborazzjoni ma’ The Meet Group, Roblox, Kik u Thorn.

(22)

   Għal aktar informazzjoni, ara: https://safety.twitch.tv/s/article/Our-Work-to-Combat-Online-Grooming?language=en_US  

(23)

     Roblox jiffiltra l-posts u ċ-chats tal-ġugaturi ta’ 12-il sena u iżgħar għal kontenut mhux xieraq u biex jipprevjeni milli tiġi ppostjata informazzjoni personali, eż. indirizzi tad-dar. Din is-sistema ta’ filtrazzjoni tkopri l-oqsma kollha ta’ komunikazzjoni fuq Roblox, pubbliċi u privati. Roblox, Safety Features: Chat, Privacy & Filtering , aċċessat f’Lulju 2023.

(24)

     Tech Coalition, New Technology to Help Companies Keep Young People Safe , 20 ta’ Ġunju 2023.

(25)

     Tech Coalition, New Technology to Help Companies Keep Young People Safe , 20 ta’ Ġunju 2023.

(26)

     DALL-E hija sistema tal-IA li tista’ toħloq immaġnijiet u arti realistiċi minn deskrizzjoni b’lingwa naturali.

(27)

     Midjourney huwa programm ta’ intelliġenza artifiċjali ġenerattiva u s-servizz jiġġenera immaġnijiet minn deskrizzjonijiet b’lingwa naturali.

(28)

     Europol, ChatGPT - The impact of Large Language Models on Law Enforcement , 2023, ISBN 978-92-95220-57-7, paġna 7.

(29)

     Swanson, S. M., ChatGPT Generated Child Sex Abuse When Asked to Write BDSM Scenarios , Vice, is-6 ta’ Marzu 2023; Mitchell, A., ChatGPT gives sick child sex abuse answer, breaking its rules, New York Post, l-24 ta’ Lulju 2023; Europol, ChatGPT - The impact of Large Language Models on Law Enforcement , 2023, ISBN 978-92-95220-57-7, paġna 5.

(30)

     Fowler, G.A., Snapchat tried to make a safe AI. It chats with me about booze and sex , The Washington Post, l-14 ta’ Marzu 2023; Vincent, J., Instagram is apparently testing an AI chatbot that lets you choose from 30 personalities , The Verge, is-7 ta’ Lulju 2023.

(31)

     Crawford, A., Smith, T., Illegal trade in AI child sex abuse images exposed , BBC, is-27 ta’ Ġunju 2023.

(32)

     Thiel, D., Stroebel, M., u Portnoff, R. (2023).  Generative ML and CSAM: Implications and Mitigations . Stanford Digital Repository. Disponibbli fuq https://purl.stanford.edu/jv206yg3793 . https://doi.org/10.25740/jv206yg3793 . P. 2.

(33)

     Protect Children, Protect Children’s research in the dark web is revealing unprecedented data on CSAM users , 6 June 2021; RAINN, What is Child Sexual Abuse Material (CSAM) , il-25 ta’ Awwissu 2022.

(34)

     Breck Foundation, Is artificial intelligence putting children at risk? , id-9 ta’ Frar 2023, aġġornat fit-3 ta’ April 2023.

(35)

     Butler, J., AI tools could be used by predators to ‘automate child grooming’, eSafety commissioner warns , The Guardian, id-19 ta’ Mejju 2023.  

(36)

     Il-Proposta għal Regolament tal-Parlament Ewropew u tal-Kunsill li jistabbilixxi regoli għall-prevenzjoni tal-abbuż sesswali tat-tfal u għall-ġlieda kontra dan, COM/2022/209 final .