Brüssel,19.12.2023

COM(2023) 797 final

KOMISJONI ARUANNE EUROOPA PARLAMENDILE JA NÕUKOGULE

Euroopa Parlamendi ja nõukogu 14. juuli 2021. aasta määruse (EL) 2021/1232 (ajutise erandi kohta direktiivi 2002/58/EÜ teatavatest sätetest seoses tehnoloogiaga, mida numbrivaba isikutevahelise side teenuste osutajad kasutavad isikuandmete ja muude andmete töötlemiseks, et võidelda veebis toimuva laste seksuaalse kuritarvitamise vastu) rakendamise kohta


SISUKORD

MÕISTETE JA LÜHENDITE LOETELU    

1.    SISSEJUHATUS    

2.    RAKENDUSMEETMED    

2.1.    Isikuandmete töötlemine teenuseosutajate poolt (artikli 3 punkti g alapunkt vii)    

2.1.1.    Töödeldud andmete liik ja maht    

2.1.2. Määruse (EL) 2016/679 kohased töötlemise alused    

2.1.3.    Isikuandmete kaitse üldmääruse V peatüki kohase isikuandmete väljapoole liitu edastamise alus, kui see on kohaldatav    

2.1.4.    Veebis toimuv laste seksuaalne kuritarvitamine – tuvastatud juhtumite arv, eristades laste seksuaalset kuritarvitamist kujutavat materjali ja laste ahvatlemist    

2.1.5.    Kasutajate õigus heastamisele ja tulemused    

2.1.6.    Erinevate kasutatud tehnoloogiavahendite vigade arv ja osakaal (valepositiivsed tulemused)    

2.1.7.    Veamäära piiramiseks võetud meetmed ja saavutatud veamäär    

2.1.8.    Säilitamispoliitika ja andmekaitsemeetmed, mida kohaldatakse vastavalt isikuandmete kaitse üldmäärusele    

2.1.9.    Nende organisatsioonide nimed, kes võitlevad avalikes huvides laste seksuaalse kuritarvitamise vastu ja kellega on määruse kohaselt andmeid jagatud    

2.2.    Liikmesriikide statistika (artikkel 8)    

2.2.1. Veebis toimuva laste seksuaalse kuritarvitamise tuvastamise teadete koguarv    

2.2.2. Tuvastatud laste arv    

2.2.3. Süüdi mõistetud kurjategijate arv    

2.3.    Tehnoloogia areng    

2.3.1. Teadaoleva laste seksuaalset kuritarvitamist kujutava materjali tuvastamine    

2.3.2. Uue laste seksuaalset kuritarvitamist kujutava materjali tuvastamine    

2.3.3. Peibutamise tuvastamine    

2.3.4. Tehisintellekti juturobotite ja kunsti-/pildigeneraatorite tekitatud uued väljakutsed    

3.    JÄRELDUSED    

MÕISTETE JA LÜHENDITE LOETELU

Mõiste/lühend

Määratlus

Ajutine määrus

Euroopa Parlamendi ja nõukogu 14. juuli 2021. aasta määrus (EL) 2021/1232 ajutise erandi kohta direktiivi 2002/58/EÜ teatavatest sätetest seoses tehnoloogiaga, mida numbrivaba isikutevahelise side teenuste osutajad kasutavad isikuandmete ja muude andmete töötlemiseks, et võidelda veebis toimuva laste seksuaalse kuritarvitamise vastu (ELT L 274, 30.7.2021, lk 41–51).

API

rakendusliides

CG-CSAM

Arvuti genereeritud, laste seksuaalset kuritarvitamist kujutav materjal.

ChatGPT

ChatGPT (Chat Generative Pre-trained Transformer) on teatav generatiivne tehisintellekt. See on suurel keelemudelil põhinev OpenAI välja töötatud juturobot, mis võimaldab kasutajatel vestlust täpsustada ja suunata, et saavutada soovitud pikkus, vorming, stiil, üksikasjalikkus ja keelekasutus.

Content Safety API klassifikaator

Google’i Content Safety API (sisu ohutuse rakendusliides) klassifikaator kasutab programmilist juurdepääsu ja tehisintellekti, et aidata kontrollimiseks klassifitseerida ja prioriseerida miljardeid pilte.

CSA

laste seksuaalne kuritarvitamine

CSAI Match

CSAI Match on YouTube’i inseneride välja töötatud tehnoloogia, mille eesmärk on tuvastada selliste varem tuvastatud videote uuesti üleslaadimine, mis kujutavad laste seksuaalset kuritarvitamist.

CSAM

laste seksuaalset kuritarvitamist kujutav materjal, nt laste seksuaalset kuritarvitamist kujutavad pildid ja videod

CSEA

laste seksuaalne ärakasutamine ja kuritarvitamine

EL

Euroopa Liit

Isikuandmete kaitse üldmäärus

Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrus (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta (isikuandmete kaitse üldmäärus) (ELT L 119, 4.5.2016, lk 1–88). 

Klassifikaator

Teatavat liiki tehisintellekt, st algoritm, mis liigitab andmed märgistatud klassidesse või kategooriatesse.

Laste seksuaalset kuritarvitamist käsitlev direktiiv

Euroopa Parlamendi ja nõukogu 13. detsembri 2011. aasta direktiiv 2011/93/EL, mis käsitleb laste seksuaalse kuritarvitamise ja ärakasutamise ning lasteporno vastast võitlust ja mis asendab nõukogu raamotsuse 2004/68/JSK (ELT L 335, 17.12.2011, lk 1–14).

MD5

krüptograafiline sõnumi autentimise koodi algoritm internetis kasutamiseks

Meta SSN++

Meta välja töötatud TI-mudel, mis suudab tuvastada peaaegu täpsed duplikaadid.

NCMEC

Kadunud ja väärkoheldud laste riiklik keskus (USA eraõiguslik mittetulundusühendus), kellele internetipõhiste teenuste osutajad peavad USA seaduste kohaselt teatama oma võrgustikust leitud võimaliku laste seksuaalse kuritarvitamise juhtumitest.

PDQ ja TMK+PDQF

Vahendid, mida Facebook kasutab kahjuliku sisu tuvastamiseks. PDQ on fotovõrdlustehnoloogia; TMK+PDQF on videovõrdlustehnoloogia.

Peibutamine

Usaldusliku suhte loomine alaealisega, et saavutada talle juurdepääs seksuaalse ärakasutamise või kuritarvitamise eesmärgil. Ametlikult nimetatakse seda lapse ahvatlemiseks, nagu on määratletud laste seksuaalset kuritarvitamist käsitleva direktiivi artiklis 6.

PhotoDNA

Kõige laialdasemalt kasutatav räsimistehnoloogial põhinev vahend, mis on tasuta kättesaadav sellise litsentsilepingu alusel, mis on kohandatud nii, et vältida kuritarvitamist ja kasutamist muul eesmärgil kui laste seksuaalse kuritarvitamise tuvastamiseks.

Räsi

Matemaatilise algoritmiga (räsimine) loodud kordumatu digikood, millest saab faili signatuur ehk räsiväärtus.

Suur keelemudel

Teatav tehisintellektimudel, mida on süvaõppealgoritmide abil õpetatud ära tundma, genereerima ja tõlkima suurt hulka kirjalikku inimkeelt ja tekstiandmeid ja/või neist kokkuvõtteid tegema.

TI

tehisintellekt

Veebis toimuv laste seksuaalne kuritarvitamine

Ühine termin, millega tähistatakse laste seksuaalset kuritarvitamist käsitlevas direktiivis määratletud laste seksuaalse kuritarvitamise kolme liiki, st lastepornot, pornograafilist etteastet ja laste ahvatlemist (peibutamine), nagu see on määratletud ajutises määruses (artikli 2 punkt 4).

1.SISSEJUHATUS

Ajutise määruse (edaspidi ka „määrus“) artikli 9 kohaselt on komisjon kohustatud koostama määruse rakendamise kohta aruande, tuginedes isikutevahelise side teenuste osutajate (edaspidi „teenuseosutajad“) esitatud aruannetele isikuandmete töötlemise kohta ja liikmesriikide esitatud statistikale. Vastavalt nimetatud sättele vaatleb komisjon rakendamisaruandes eelkõige järgmist:

a) asjaomaste isikuandmete ja muude määruse alusel töödeldavate andmete töötlemise asjakohased tingimused;

b) määruses sätestatud erandi proportsionaalsus, sealhulgas liikmesriikide artikli 8 kohaselt esitatud statistika hindamine;

c) määrusega hõlmatud tegevusega seotud tehnoloogia areng ning see, mil määral parandab selline areng täpsust ja vähendab vigade arvu ja osakaalu (valepositiivseid tulemusi).

Käesolev ajutise määruse kohane rakendamisaruanne tugineb andmetele, mis on saadud aruannetest, mille teenuseosutajad ja liikmesriigid on esitanud määruse artikli 3 lõike 1 punkti g alapunkti vii ja artikli 8 kohaselt. Nendest aruannetest ilmnesid märkimisväärsed erinevused andmete kättesaadavuses, kogutud andmete liikides ning seega ka teenuseosutajate ja liikmesriikide kogutud andmete võrreldavuses. Määruses ei ole esitatud aruandlusvormi ja seega jagasid teenuseosutajad eri liiki teavet, mis ei pruukinud olla võrreldav; komisjoni talitused võtsid seetõttu järelmeetmeid, et tagada andmete õige tõlgendamine. Enamik liikmesriike ei suutnud andmeid esitada õigeaegselt ja mitu liikmesriiki ei olnud käesoleva aruande avaldamise ajaks esitanud mingeid andmeid. Sellel oli oluline mõju aruande ajastusele, täielikkusele ja kasulikkusele. Andmete sidususe ja võrreldavuse tagamiseks tehtud jõupingutustest hoolimata püsivad märkimisväärsed erinevused, mis kajastuvad allpool tabelites, mis pealegi ei sisalda kõigi teenuseosutajate või liikmesriikide andmeid kõigi punktide kohta.

Käesolevas rakendamisaruandes püütakse kättesaadavatele andmetele tuginedes anda faktiline ülevaade ajutise määruse rakendamise olukorrast. Aruanne ei sisalda määruse tõlgendusi ja selles ei võeta seisukohta selle suhtes, kuidas määrust on tegelikult tõlgendatud ja kohaldatud.



2.RAKENDUSMEETMED

2.1.Isikuandmete töötlemine teenuseosutajate poolt (artikli 3 punkti g alapunkt vii)

Ajutise määruse artikli 3 punkti g alapunktis vii on sätestatud määruses sisalduva erandi alusel tegutsevate teenuseosutajate suhtes kohaldatavad tingimused, mille alusel nad avaldavad ja esitavad pädevale järelevalveasutusele ja komisjonile 3. veebruariks 2022 ning seejärel iga aasta 31. jaanuariks kõnealuse määruse alusel toimuva isikuandmete töötlemise kohta aruande. 2021. ja 2022. aasta aruande esitasid Google, LinkedIn, Meta, Microsoft ja X (endine Twitter) 1 .

2.1.1.Töödeldud andmete liik ja maht

Teenuseosutajad teatasid nii sisu- kui ka liiklusandmete töötlemisest.

Mis puudutab sisuandmeid, mida töödeldi selleks, et tuvastada veebis toimuvat laste seksuaalset kuritarvitamist, siis kõik eespool nimetatud teenuseosutajad mainisid pilte ja videoid. Enamasti tuginesid nad PhotoDNA ja MD5 räsivõrdlustehnoloogiale, et tuvastada vastavus laste seksuaalset kuritarvitamist kujutavale varem tuvastatud materjalile. Google’i vahendit CSAI Match kasutati platvormidel leiduvate videote digitaalsete sõrmejälgede loomiseks ja nende võrdlemiseks Google’i/YouTube’i sõrmejälgede hoidla failidega (LinkedIn). Teatati (nt Google) ka automatiseeritud tehnoloogia (tehisintellekti masinõppe) kasutamisest ja inimkontrollist. Google ja LinkedIn kinnitasid, et on tuvastanud ka sellist laste seksuaalset kuritarvitamist kujutavat materjali, mis ei vastanud laste seksuaalset kuritarvitamist kujutavale varem tuvastatud materjalile. Ükski viiest andmeid esitanud teenuseosutajast ei esitanud määruses sätestatud erandi kohandamisalasse kuuluvaid andmeid laste ahvatlemise tuvastamise kohta tekstituvastuse abil.

Kogutud liiklusandmete ning eri liiki töödeldud sisu- ja liiklusandmete vastavate mahtude poolest olid teenuseosutajate aruanded väga erinevad.

Teenuseosutajate kogutud ja CyberTipline’i teadetes USA kadunud ja väärkoheldud laste riiklikule keskusele (edaspidi „NCMEC“) esitatud liiklusandmed hõlmavad (kõiki või valikut) järgmisi andmeid:

a)kasutaja / aruandes käsitletu / kontoga seotud andmed (Google, LinkedIn, Microsoft, X);

b)sisu-/tehinguandmetega seotud metaandmed (Google, LinkedIn, Microsoft);

c)võimaliku ohvriga seotud andmed (Google);

d)kuritarvitamisega seotud toimingute andmed (Google).

Ajutise määruse alusel töödeldud andmete mahu kohta teatas LinkedIn, et ta töötles ajavahemikus 2021 aasta 14. juulist kuni 31. detsembrini 8 miljonit pilti ja videot ning 2022. aastal 21 miljonit pilti ja 63 000 videot, mis olid pärit EList. Microsoft teatas, et ta töötles määruse kohaldamisel 2021. aasta juulist detsembrini kogu maailmas 8,9 miljardit pilti ja videot ning 2022. aastal kogu maailmas 12,3 miljardit sisuelementi; ELi andmed ei olnud kättesaadavad, seega ei ole käesoleva aruande jaoks võimalik järeldusi teha. Teised teenuseosutajad ei esitanud töödeldud andmete mahu kohta teavet. Viiest aruanded esitanud teenuseosutajast esitas vajaliku detailsusega andmed seega ainult üks.

Üldise tausta selgitamiseks võib märkida, et NCMEC teatas, et ta sai 2022. aastal kogu maailmas kokku 87,2 miljonit pilti ja videot ning 5,1 miljonit ELiga seotud pilti ja videot ning 2021. aastal kogu maailmas 84,8 miljonit pilti ja videot ning 1,8 miljonit ELiga seotud pilti ja videot. See on üksnes materjal, mille teenuseosutaja on tuvastanud võimaliku laste seksuaalset kuritarvitamist kujutava materjalina, ja seega ei saa seda pidada ajutise määruse alusel töödeldud andmete kogumahtu näitavaks.

2.1.2. Määruse (EL) 2016/679 kohased töötlemise alused

Teenuseosutajad teatasid, et nad on tuginenud järgmistele konkreetsetele määruse (EL) 2016/679 (edaspidi „isikuandmete kaitse üldmäärus“) kohastele alustele: isikuandmete kaitse üldmääruse artikli 6 lõike 1 punkt d, st töötlemine, mis on vajalik laste ja veebis toimuva laste seksuaalse kuritarvitamise ohvrite eluliste huvide kaitsmiseks (Google, Meta, X 2 );

·

·isikuandmete kaitse üldmääruse artikli 6 lõike 1 punkt e, st töötlemine, mis on vajalik avalikes huvides oleva ülesande täitmiseks (LinkedIn, Microsoft, Meta, X 3 );

·isikuandmete kaitse üldmääruse artikli 6 lõike 1 punkt f, st töötlemine, mis on vajalik järgmiste isikute õigustatud huvide korral:

I.teenuseosutaja, et tuvastada, ennetada või muul viisil käsitleda oma teenuste raames veebis toimuvat laste seksuaalset kuritarvitamist ning kaitsta teisi kasutajaid, kliente, partnereid ja üldsust sellist liiki ebaseadusliku sisu eest (Google, Meta);

II.laste seksuaalse kuritarvitamise ohvrid ja organisatsioon, kellele teenuseosutaja teatab veebis toimuvast laste seksuaalsest kuritarvitamisest, (nt NCMEC), et tuvastada ja ennetada veebis toimuvat laste seksuaalset kuritarvitamist ning see oma teenustest kõrvaldada (Google).

2.1.3.Isikuandmete kaitse üldmääruse V peatüki kohase isikuandmete väljapoole liitu edastamise alus, kui see on kohaldatav

Kõik teenuseosutajad teatasid, et nad tuginevad komisjoni poolt isikuandmete kaitse üldmääruse artikli 46 lõike 2 punkti c kohaselt heaks kiidetud lepingu tüüptingimustele. LinkedIn teatas ka, et isikuandmete edastamisel NCMECile tugines ta isikuandmete kaitse üldmääruse artikli 49 lõike 1 alusel lubatud erandile, niivõrd kui see on kohaldatav.

2.1.4.Veebis toimuv laste seksuaalne kuritarvitamine – tuvastatud juhtumite arv, eristades laste seksuaalset kuritarvitamist kujutavat materjali ja laste ahvatlemist

Tabel 1. 2021. aastal tuvastatud veebis toimuva laste seksuaalse kuritarvitamise juhtumite arv

Teenuseosutaja

2021. aastal tuvastatud laste seksuaalset kuritarvitamist kujutava materjali juhtumite arv

Märkused

Google

33 Google Chati kontot

See osutab ELi kasutajate selliste Google Chati kontode arvule, mille puhul tuvastati automatiseeritud tehnoloogia abil ajavahemikus 2. augustist kuni 31. detsembrini 2021 veebis toimuv laste seksuaalne kuritarvitamine. Tuvastatud sisuelementide arvu kohta andmeid ei esitatud.

LinkedIn

31 sisuelementi

31 sisuelemendi puhul kinnitas käsitsi kontroll, et tegemist on laste seksuaalset kuritarvitamist kujutava materjaliga, ja neist teatati NCMECile; kuuel juhul oli tegemist teadaoleva ja ülejäänud 25 juhul tundmatu laste seksuaalset kuritarvitamist kujutava materjaliga.

Meta

340 000 kontot

Nende kontode arv, mille puhul tuvastati, et ajavahemikus 8. novembrist kuni 31. detsembrini 2021 saadeti ELi kasutajat hõlmanud sõnumilõimes vähemalt üks laste seksuaalset kuritarvitamist kujutav materjal.

Microsoft

6 600 sisuelementi

Ajavahemikus 2021. aasta juulist kuni detsembrini kogu maailmas tuvastatud 20 000 sisuelemendi seast tuvastati 6 600 Euroopa Liidust pärit sisuelementi (üks pilt või video), mille puhul leidis kinnitust, et tegemist on laste seksuaalset kuritarvitamist kujutava materjaliga.

X (endine Twitter)

532 898 kontot

Kontod (on ebaselge, kas ainult EList või kogu maailmast), mis blokeeriti Xi laste seksuaalset kuritarvitamist käsitleva poliitika rikkumise tõttu ajavahemikus 2. augustist kuni 31. detsembrini 2021.

Xi puhul ei selgu esitatud andmetest, kas need puudutavad üksnes ajutise määruse kohaldamisalasse kuuluvaid teenuseid (numbrivaba isikutevahelise side teenused) või hõlmab see arv ka muid teenuseid (nt infoühiskonna teenused). See kehtib kõigi Xiga seotud andmete kohta käesolevas aruandes.

Tabel 2. 2022. aastal tuvastatud veebis toimuvate laste seksuaalse kuritarvitamise juhtumite arv

Teenuseosutaja

2022. aastal tuvastatud laste seksuaalset kuritarvitamist kujutava materjali juhtumite arv

Märkused

Google

2 045 sisuelementi

752 Google’i kontol automatiseeritud tehnoloogia abil tuvastatud ja NCMECile teatatud sisuelemendid ELi kasutajate puhul.

LinkedIn

2 sisuelementi

LinkedIn tuvastas 2 pilti ja 0 videot, mille puhul leidis kinnitust, et tegemist on laste seksuaalset kuritarvitamist kujutava materjaliga.

Meta

6,6 miljonit sisuelementi

Laste seksuaalset kuritarvitamist kujutavat materjali sisaldavad meediaelemendid, mis tuvastati Meta meediavõrdlustehnoloogia abil ELi kasutajat hõlmanud sõnumilõimedest.

Microsoft

12 800 sisuelementi

2022. aastal kogu maailmas tuvastatud 50 000 sisuelemendi seast tuvastati 12 800 EList pärit sisuelementi (üks pilt või video), mille puhul leidis kinnitust, et tegemist on laste seksuaalset kuritarvitamist kujutava materjaliga.

X (endine Twitter)

2 348 712 kontot

Kontod (on ebaselge, kas ainult EList või kogu maailmast), mis blokeeriti Xi laste seksuaalset kuritarvitamist käsitleva poliitika rikkumise tõttu.

2.1.5.Kasutajate õigus heastamisele ja tulemused 

Ajutise määruse artikli 3 lõike 1 punkti g alapunkti iv kohaselt peavad teenuseosutajad kehtestama asjakohased menetlused ja heastamismehhanismid, millega tagatakse, et kasutajad saavad neile kaebusi esitada. Lisaks sisaldab artikkel 5 õiguskaitsevahendeid käsitlevaid õigusnorme.

Teenuseosutajad teatasid selliste asutusesisese heastamismenetluste ja mehhanismide rakendamisest nende kasutajate puhul, kelle konto kasutamist on laste seksuaalset kuritarvitamist kujutava materjali jagamise tõttu piiratud ja/või sisu sellise materjalina eemaldatud, et nad saaksid piirangu/eemaldamise edasi kaevata ja lasta oma juhtumi vigade suhtes läbi vaadata.

Nad teatasid juhtumitest, mille korral kasutaja on esitanud ELis asutusesisese heastamismehhanismi kaudu või õigusasutusele kaebuse määruse kohaldamisalasse kuuluvate küsimuste kohta, ja selliste kaebuste tulemused. Ükski teenuseosutaja peale Microsofti (kelle teatel ei esitatud kummagi kanali kaudu 2021. ja 2022. aastal ühtegi kaebust) ei esitanud asutusisesisese heastamise ja õiguskaitsevahendite kohta eraldi statistikat; seetõttu hõlmavad allpool esitatud tabelid nii asutusesisese heastamise menetlusi kui ka õiguskaitsevahendeid.

Tabel 3. Selliste juhtumite arv, mille puhul kasutaja on esitanud asutusesisese heastamismehhanismi kaudu või õigusasutusele kaebuse, ja selliste kaebuste tulemused 2021. aastal

Teenuseosutaja

Kasutajate esitatud kaebuse juhtumite arv

Taastatud kontode arv

Sisu taastamise juhtumite arv

Märkused

Google

8

0

ei ole asjakohane

Nende Google Chati kontode arv, mis blokeeriti veebis toimuva laste seksuaalse kuritarvitamise tõttu ja mille kohta kasutaja esitas kaebuse: 8. Ühtegi ei taastatud.

LinkedIn

0

ei ole asjakohane

ei ole asjakohane

Meta

4 900

ei ole asjakohane

207

4 900 kasutajat esitasid kaebuse. Pärast kaebemenetlust taastati 207 kasutaja sisu ja pöörati tagasi kontodega seotud toimingud.

Microsoft

0

ei ole asjakohane

ei ole asjakohane

X (endine Twitter)

u 90 000

u 3 000

ei ole asjakohane

Umbes 90 000 kaebust. X taastas neist kontodest umbes 3 000.

Tabel 4. Selliste juhtumite arv, mille puhul kasutaja on esitanud kaebuse asutusesisese heastamismehhanismi kaudu või õigusasutusele, ja selliste kaebuste tulemused 2022. aastal

Teenuseosutaja

Kasutajate esitatud kaebuste juhtumite arv

Taastatud kontode arv

Sisu taastamise juhtumite arv

Märkused

Google

378

0

ei ole asjakohane

Nende Google’i kontode arv, mis blokeeriti veebis toimuva laste seksuaalse kuritarvitamise tõttu ja mille puhul kasutaja esitas kaebuse: 378. Ühtegi ei taastatud.

LinkedIn

0

ei ole asjakohane

ei ole asjakohane

Meta

29 000

ei ole asjakohane

3 700

Kasutajad kaebasid edasi umbes 29 000 enda jagatud ühismeediaelemendiga seotud toimingud. Pärast kaebemenetlust taastati umbes 3 700 sisuelementi ja pöörati tagasi kontodega seotud toimingud.

Microsoft

0

ei ole asjakohane

ei ole asjakohane

X (endine Twitter)

u 430 000

u 4 000

ei ole asjakohane

Umbes 430 000 kaebust. X taastas neist kontodest umbes 4 000.

2.1.6.Erinevate kasutatud tehnoloogiavahendite vigade arv ja osakaal (valepositiivsed tulemused)

Ajutise määruse artikli 3 lõike 1 punkti e kohaselt peavad teenuseosutajad tagama, et kasutatav tehnoloogia on piisavalt usaldusväärne, mis tähendab, et laste seksuaalset kuritarvitamist kujutava veebimaterjali tuvastamisega seotud veamäär on võimalikult väike.

Teenuseosutajad teatasid selle kohta, et nad ei rakenda veebis toimuva laste seksuaalse kuritarvitamise tuvastamiseks iga tehnoloogiavahendit eraldi. Pigem rakendavad nad veebis toimuva laste seksuaalse kuritarvitamise tuvastamiseks mitmetasandilist lähenemisviisi, kombineerides suurema täpsuse huvides erinevaid tuvastamistehnoloogia vahendeid. Vigade ehk valepositiivsete tulemuste vähendamiseks täiendavad kõik teenuseosutajad neid vahendeid inimkontrolliga. Teenuseosutajad ei esitanud vigade (valepositiivsete tulemuste) arvu ja osakaalu iga kasutatud tehnoloogiavahendi kohta eraldi, vaid teatasid pigem kõigi kasutatud tehnoloogiavahendite koondandmed.

Enamik teenuseosutajaid mõõdab vigade arvu ja osakaalu täiteotsuste tagasipööramise alusel, st kaebuse alusel taastamise/tagasipööramise üldise määrana (nt nende blokeeritud kontode või sellise blokeeritud sisu määr, mille teenuseosutaja on kasutaja kaebuse alusel taastanud). Teenuseosutajate kohaldatav lähenemisviis ei pruugi kajastada „valepositiivsete tulemuste“ määratlust statistikas.

Kaebuse alusel taastamise/tagasipööramise määrad on järgmised.

Tabel 5. Kaebuse alusel taastamise/tagasipööramise määrad

2021*

2022

Teenuseosutaja

Taastatud kontode protsent / kaebuste arv

Taastatud kontode protsent / blokeeritud kontod

Taastatud kontode protsent / kaebuste arv

Taastatud kontode protsent / blokeeritud kontod

Märkused

Google

0 % (0/8)

0 % (0/33)

0 % (0/378)

0 %

(vt märkused)

2022. aasta kohta blokeeritud kontode arvu ei esitatud. Selle asemel esitati tuvastatud ja NCMECile teatatud sisuelementide arv – 2 045. Pärast kaebuse esitamist ühtki kontot ei taastatud.

LinkedIn

0 %

0 %

0 %

0 %

Kaebusi ei esitatud. 2021. aasta 13. juulist kuni 31. detsembrini kestnud ajavahemiku kohta teatas LinkedIn ka seda, et EList pärit 75 failist, mida kontrolliti kui võimalikku laste seksuaalset kuritarvitamist kujutavat materjali, kinnitati 31 puhul inimkontrolli tulemusel, et tegemist on sellise materjaliga. 2022. aasta kohta LinkedIn selliseid andmeid ei esitanud.

Meta

4,22 %

(207/4 900)

0,06 %

(207/340 000)

Vt märkused

Vt märkused

Kaebuste ulatust ja sisu ning taastamise põhjuseid täpselt kindlaks teha võimaldavat teavet ei esitatud.

2022. aasta kohta esitatud andmed puudutasid sisuelemente, mitte kontosid:

-blokeeritud (meetmetega hõlmatud) sisuelementide arv: 6,6 miljonit;

-kaebustega hõlmatud sisuelementide arv: 29 000;

-taastatud sisuelementide arv: 3 700.

Seega:

-taastatud sisuelementide protsent / kaebuste arv: 12,8 % (3 700/29 000);

-taastatud sisuelementide protsent / blokeeritud sisuelementide arv: 0,06 % (3 700 / 6,6 miljonit).

Microsoft

0 %

–

–

–

Kaebuse alusel taastamise/tagasipööramise määra arvutamiseks ei ole piisavalt andmeid. 2022. aastal pöörati täielikult ümber 17 algset sisu modereerimise otsust, kaebuste koguarvu ei esitatud.

X (endine Twitter)

1,43 %

(100/7 000)

0,06 %

(100/166 000)

2,17 %

(500/23 000)

0,10 %

(500/501 000)

2021. aasta teisel poolel blokeeriti automatiseeritud mehhanismide abil umbes 166 000 kasutajat laste seksuaalse kuritarvitamise tõttu. Neist kasutajatest umbes 7 000 esitasid kaebuse, mille tulemusel toimus umbes 100 tagasipööramist.

2022. aastal blokeeriti automatiseeritud mehhanismide abil 501 000 kasutajat laste seksuaalse kuritarvitamise tõttu. Neist kasutajatest umbes 23 000 esitasid kaebuse, mille tulemusel toimus umbes 500 tagasipööramist.

* 2021. aasta aruandeperiood on igal teenuseosutajal erinev.

2.1.7.Veamäära piiramiseks võetud meetmed ja saavutatud veamäär

Ajutise määruse artikli 3 lõike 1 punkti e kohaselt peab kasutatav tehnoloogia olema piisavalt usaldusväärne ja juhuslike vigade tagajärjed tuleb viivitamata parandada. Lisaks on artikli 3 lõike 1 punkti g alapunkti ii kohaselt nõutav inimese järelevalve ja vajaduse korral inimese sekkumine.

Kõik teenuseosutajad teatasid, et kasutavad veebis toimuva laste seksuaalse kuritarvitamise leviku tuvastamiseks ja tõkestamiseks mitmetasandilist lähenemisviisi. See hõlmab räsivõrdlustehnoloogia (sh PhotoDNA) kasutamist laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks koos inimkontrolliprotsessidega, et kinnitada, kas meediafail (pilt või video) sisaldab sellist materjali, ning inimese järelevalvet laste seksuaalset kuritarvitamist kujutava materjali töötlemise üle.

Teenuseosutajad teatasid eri meetmete ja kaitsemeetmete kohaldamisest, et piirata ja vähendada veebis toimuva laste seksuaalse kuritarvitamise tuvastamisel, sellest teatamisel ja eemaldamisel esinevat veamäära. Need hõlmavad järgmist (loetelu ei ole ammendav) 4 :

I.laste seksuaalse kuritarvitamise tuvastamise vahendite tulemuslikkuse seire ja kvaliteedi hindamine, et peenhäälestada nii täpsust (et need tuvastaksid üksnes veebis toimuvat laste seksuaalset kuritarvitamist) kui ka eemaldamist (et neil ei jääks märkamata oma platvormidel veebis toimuv laste seksuaalne kuritarvitamine) (Google, X);

II.inimkontroll ja -järelevalve: inimkontrollijad / koolitatud analüütikud kontrollivad sisuelemente, mis on räsivõrdlustehnoloogiaga tuvastatud laste seksuaalset kuritarvitamist kujutava materjalina(Google, LinkedIn, Meta, Microsoft);

III.suure mahuga klastrite märgistamine ja kontrollimine (Meta);

IV.täiendavate käsitsi kontrollimise protsesside kasutamine pideva räsi kvaliteedikontrollina (LinkedIn, Microsoft);

V.inimkontrolli täpsuse tagamiseks läbivad inimkontrollijad põhjaliku erikoolituse, mille käigus nõustaja juhendab, kuidas laste seksuaalset kuritarvitamist kujutavat materjali ära tunda (Google);

VI.inimkontrollijate ja kohaldavate otsuste kvaliteedi perioodiline kontroll (Google, X);

VII.muud kvaliteedikontrolliprotsessid vigade vähendamiseks ja viivitamatuks heastamiseks, näiteks sõltumatu räsikontroll (Google, LinkedIn), iga seninägematu laste seksuaalset kuritarvitamist kujutava materjali inimkontroll enne sellest teatamist (Google);

VIII.põhimõtete ja täitmisstrateegiate väljatöötamine ja korrapärane läbivaatamine veebis toimuva laste seksuaalse kuritarvitamise valdkonnas koolitatud teemaekspertide poolt (Google);

IX.tegelemine NCMECi CyberTipline’i teadete kvaliteedi ja valepositiivsete tulemustega, kui neid on (Google, LinkedIn, Meta, Microsoft, X).

2.1.8.Säilitamispoliitika ja andmekaitsemeetmed, mida kohaldatakse vastavalt isikuandmete kaitse üldmäärusele

Ajutise määruse artikli 3 lõike 1 punktides h ja i on nõutud, et asjakohaseid isikuandmeid säilitataks turvaliselt üksnes teatavatel kindlaksmääratud eesmärkidel, ja sätestatud säilitamistähtaja üksikasjad. Peale selle tuleb järgida isikuandmete kaitse üldmääruses sätestatud kohaldatavaid nõudeid.

Teenuseosutajad teatasid, et nad on kehtestanud usaldusväärse säilitamispoliitika ja usaldusväärsed andmekaitsemeetmed. Andmete säilitamise poliitika oleneb andmete liigist. Nad märgivad, et iga juhtumi puhul piirdub säilitamistähtaeg andmete liiki ja töötlemise eesmärki arvesse võttes sobivaks peetava ajaga ning säilitamistähtaja lõpul andmed kustutatakse. Teenuseosutajad on üksikasjalikuma teabe andmete säilitamise tavade kohta kindlaks määranud oma privaatsuspõhimõtetes/-avaldustes ja teenuse-/kasutajalepingutes.

Enamik teenuseosutajaid (LinkedIn, Meta, Microsoft) kohaldab selliste elementide suhtes, mille puhul on leidnud kinnitust, et need sisaldavad määruse kohaldamisalas tuvastatud laste seksuaalset kuritarvitamist kujutavat materjali, 90päevast säilitamispoliitikat. Selle aja jooksul säilitatakse laste seksuaalset kuritarvitamist kujutava materjalina kinnitust leidnud sisu eraldi turvalises laste seksuaalset kuritarvitamist kujutava materjali hoidlas, mida haldavad erirühmad (nt Microsofti õiguskaitse- ja riikliku julgeoleku rühm). Need säilitussüsteemid kustutavad säilitatava laste seksuaalset kuritarvitamist kujutava materjaliga sisu 90 päeva pärast automaatselt, kui säilitustähtaega ei ole pikendatud seadusliku menetluse käigus saadud taotluse alusel, mis on tavaliselt seotud NCMECi aruannete suhtes järelmeetmete võtmisega õiguskaitseasutuste poolt.

Google teatas, et määruse kohaldamisalas tuvastatud laste seksuaalset kuritarvitamist kujutavat materjali ei säilitata kauem, kui on rangelt vajalik määruses sätestatud asjakohasel eesmärgil, ja igal juhul mitte kauem kui 12 kuud alates kuupäevast, mil laste seksuaalset kuritarvitamist kujutav materjal tuvastati ja sellest teatati, kusjuures seda tähtaega on võimalik kehtiva seadusliku säilitamistaotluse alusel pikendada.

X (endine Twitter) teatas, et ta säilitab profiiliteavet ja sisu kasutajakonto kehtivuse ajal ning isikuandmeid, mis on kogutud siis, kui kasutajad nende teenust kasutavad, kuni 18 kuu jooksul. Kui kasutaja konto deaktiveerib, säilitab X andmeid üldjuhul veel 30 päeva jooksul, kuid seejärel konto kustutatakse. Kaebustega ja põhimõtete rikkumistega seotud kasutajaandmeid, sealhulgas rikkujate kontoteavet (nt konto loomiseks kasutatavad tunnused: e-posti aadress või telefoninumber), säilitatakse tähtajatult, et takistada põhimõtete korduvaid rikkujaid uusi kontosid loomast ja tagada, et Xi põhimõtete rikkujad ei saa lihtsalt kustutamisaega ära oodata ja siis uuesti põhimõtteid rikkuda 5 .

Teenuseosutajate rakendatavad isikuandmete kaitse meetmed hõlmavad (täielikult või valikuliselt) järgmisi sektori standardmeetmeid (loetelu ei ole ammendav) 6 :

I.anonüümimis- või pseudonüümimismeetodite ja andmete anonüümimise kasutamine (nt maskimine, räsimine, diferentsiaalprivaatsus) (Google, LinkedIn, Meta, Microsoft);

II.kolmandatele isikutele laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks üksnes räsiväärtuste edastamine (Google, LinkedIn);

III.valdkonna standardi kohase krüpteerimise (algoritmid ja protokollid) kasutamine andmete edastamisel eraomanduses oleva taristu ja avalike võrkude vahel (Meta);

IV.andmehaldusstrateegiate / terviklike privaatsusprogrammide (X, endine Twitter, Google) ja rangete asutusesiseste andmetele juurdepääsu piirangute (Meta) rakendamine (kohaldatakse näiteks töötajate, töövõtjate ja esindajate suhtes, kes vajavad töötlemiseks teavet), pääsuloendite kasutamine laste seksuaalset kuritarvitamist kujutava materjali kontrollimise vahendite ja räsikeeldude puhul (Meta) ning ranged lepingulised konfidentsiaalsuskohustused, mida kohaldatakse juurdepääsu omajate suhtes;

V.anonüümimis- ja andmehaldusstrateegiate läbivaatamine, st privaatsuskontrollide korraldamine, et tuvastada isikuandmete kogumisest, töötlemisest, säilitamisest ja jagamisest tuleneda võivad riskid privaatsusele, neile juurde pääseda ja neid maandada, kaitsetavade läbivaatamine (Microsoft);

VI.turvaintsidentidele reageerimise kavade olemasolu, et seirata, tuvastada ja käsitleda võimalikke turvanõrkusi ja -intsidente kogu taristus (Google, Meta).

2.1.9.Nende organisatsioonide nimed, kes võitlevad avalikes huvides laste seksuaalse kuritarvitamise vastu ja kellega on määruse kohaselt andmeid jagatud

Kõik teenuseosutajad teatasid mõlemal aruandeperioodil (2021. aasta juulist/augustist detsembrini ja 2022. aasta jaanuarist detsembrini), et nad jagavad määruse alusel töödeldud andmeid NCMECiga. Kõik aruandeid esitanud teenuseosutajad teatasid kooskõlas ajutise määruse artikli 7 lõikega 1 ka komisjonile sellest, et nad andsid NCMECile määruse kohaselt teada veebis toimuvast laste seksuaalsest kuritarvitamisest 7 .

2.2.Liikmesriikide statistika (artikkel 8)

Liikmesriigid on ajutise määruse artikli 8 lõike 1 kohaselt kohustatud esitama statistika järgmise kohta:

(a)veebis toimuva laste seksuaalse kuritarvitamise tuvastamise kohta teenuseosutajatelt ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevatelt organisatsioonidelt pädevatele riiklikele õiguskaitseasutustele edastatud teadete koguarv, näidates selle teabe olemasolu korral ära juhtumite koguarvu ja korduvalt teatatud juhtumite arvu ning selle, mis liiki teenuseosutaja teenuste siseselt veebis toimuv laste seksuaalne kuritarvitaminetuvastati;

(b)artikli 3 kohaste meetmetega tuvastatud laste arv, eristatuna soo alusel;

(c)süüdi mõistetud kurjategijate arv.

Kuigi enamik liikmesriike esitas vähemalt osalise teabe, ei olnud asjakohaseid andmete kogumise ja esitamise süsteeme paljudes liikmesriikides loodud. Seetõttu puudutab statistika, kui see esitati, väga erinevaid aruandeperioode ja selle detailsuse aste varieerub olulisel määral. Mõned liikmesriigid esitasid iga-aastase statistika alates määruse jõustumise kuupäevast. Enamik neist andis aru kalendriaastate kohta, kuna neil ei pruugi olla tehnilisi vahendeid, et eristada nõutud statistikat aastate kaupa alates määruse jõustumise kuupäevast. Mõni liikmesriik ei esitanud üldse andmeid.

Samuti tuleb märkida, et mõnel juhul on statistilised andmed saadud nn hetkeandmete andmebaasidest või logi- ja juhtumihaldussüsteemidest, st mitte tegelikest statistikasüsteemidest. Arvud on kohati esitatud dünaamiliste andmete põhjal, mis tähendab, et andmed ei ole lõplikud, vaid võivad muutuda. Muutused toimuvad näiteks olenevalt andmete väljavõtmise ajast (nt Sloveenias ja Taanis), kuna lõpetatakse rohkem uurimisi ja kohtuasju.

Mitmes liikmesriigis loovad pädevad asutused uued osakonnad, et uurida kuritegusid, mis on seotud veebis toimuva laste seksuaalse kuritarvitamisega, ja seavad sisse keskse aruandluse veebis toimuva laste seksuaalse kuritarvitamise kohta (Läti, Tšehhi). See peaks aitama tulevikus täpsemat statistikat saada.

Saksamaa märkis, et ta ei saa ajutise määruse artikli 8 lõike 1 kohaselt statistikat esitada, kuna tema arvates puudub tal vabatahtlikuks tuvastamiseks õiguslik alus 8 . Saksamaa föderaalne kriminaalamet (BKA) teatab oma veebisaidil siiski, et ta sai 2022. aastal NCMECilt 89 844 teadet, ja NCMEC teatab, et ta saatis Saksamaa ametiasutustele 138 193 teadet 9 . Kolm liikmesriiki (Malta, Portugal ja Rumeenia) ei esitanud andmeid ega põhjendanud selle sätte kohaste aruannete esitamata jätmist.

2.2.1. Veebis toimuva laste seksuaalse kuritarvitamise tuvastamise teadete koguarv

Enamik liikmesriike esitas ajutise määruse artikli 8 lõike 1 punkti a kohaselt mõningaid statistilisi andmeid veebis toimuva laste seksuaalse kuritarvitamise teadete koguarvu kohta. Kuna liikmesriigid esitasid andmed erinevate aruandeperioodide kohta, ei olnud võimalik arvutada veebis toimuva laste seksuaalse kuritarvitamise tuvastamise kohta edastatud teadete koguarvu ELi tasandil ühegi konkreetse ajavahemiku, näiteks määruse rakendamise aja kohta.

Enamasti esitasid liikmesriigid teenuseosutajate või laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevate muude organisatsioonide poolt riiklikele õiguskaitseasutustele esitatud teadete koguarvu. Kuna enamik USAs asuvaid teenuseosutajaid esitab teavet NCMECile, teatas enamik liikmesriike, et nad saavad suurema osa teadetest või kõik teated NCMECilt. Liikmesriigid ei märkinud meetmete võtmist võimaldavate, st uurimiseks sobivate teadete arvu, kuid mõned neist teatasid algatatud juhtumite arvu, mis on oluliselt väiksem. Saadud teadete ja uuritud juhtumite arvu erinevus tulenes mitmest põhjusest, näiteks sellest, et teade puudutas laste seksuaalset kuritarvitamist kujutavat materjali, kuid ei sisaldanud uurimise algatamiseks piisavalt teavet, või teadete liitmisest, kui teatava kahtlusaluse kohta on esitatud rohkem kui üks teade, või sellest, et materjal kujutas küll ärakasutamise olukordi, kuid seda ei hinnatud riigisisese õiguse alusel kuritegelikuks. Lisaks ei eristanud liikmesriigid enamasti juhtumite absoluutarvu ja nende juhtumite arvu, millest teatati mitu korda. Kui teated esitas NCMEC, liigitas NCMEC teenuseosutajatelt saadud teated juba eelnevalt kui „meetmete võtmist võimaldav teade“ või „informatiivne teade“. NCMEC määratluse kohaselt on meetmete võtmist võimaldav teade selline teade, mis sisaldab uurimise algatamiseks piisavalt teavet. Selline teade sisaldab tavaliselt kasutaja andmeid, pildimaterjali ja võimalikku asukohta. Teade liigitatakse „informatiivseks“, kui see ei sisalda piisavalt teavet või kui pildimaterjali peetakse laialdaselt levinuks ja sellest on palju kordi teatatud. NCMEC liigitas 2022. aastal 49 % teadetest meetmete võtmist võimaldavateks teadeteks ja 51 % informatiivseteks teadeteks.

Ainult mõni üksik liikmesriik (nt Belgia, Tšehhi, Eesti, Prantsusmaa ja Poola) märkis, milliste teenuseosutajate teenustes tuvastati veebis toimuv laste seksuaalne kuritarvitamine, ning ainult üks riik (Belgia) esitas üksikasjaliku jaotuse.

Sloveenia märkis, et ta ei saa esitada üksnes teenuseosutajate ja organisatsioonide esitatud teadete alusel uuritud kuritegude andmeid, vaid saab pigem esitada ainult kõigi veebis toimuva laste seksuaalse kuritarvitamise uurimiste andmed olenemata uurimise algatamiseni viinud teabe allikast.

Tabel 6. Veebis toimuva laste seksuaalse kuritarvitamise tuvastamise kohta esitatud teadete koguarv liikmesriikide aruannete põhjal

Riik

Aruandeperiood

Veebis toimuva laste seksuaalse kuritarvitamise kohta esitatud teadete koguarv

Teadete allikas

Märkused

Austria

2021–2022

16 311

NCMEC

Belgia

1. august 2021 – 31. juuli 2022

26 226

Teenuseosutajatelt (sotsiaalmeedia) ja abitelefonilt Childfocus saadud teated

Bulgaaria

2021–2022

9 120

Teenuseosutajad ja abitelefon INHOPE Safeneti jt kaudu

Neist 9 112 hoiatust olid selliste laste seksuaalset kuritarvitamist kujutavat materjali sisaldavate veebilehtede kohta, mida majutavad Bulgaaria teenuseosutajad.

Horvaatia

1. jaanuar 2021 – 31. oktoober 2022

9 044

NCMEC

Küpros

1. juuli 2021 – 31. detsember 2022

3 570

NCMEC

Tšehhi

1. jaanuar 2022 – 31. juuli 2022

13 279

NCMEC

Taani

2. august 2021 – 20. jaanuar 2023

10 744

NCMEC

Eesti

–

–

NCMEC, lasteabi telefon 116 111

Eesti teatas, et Politsei- ja Piirivalveameti, sealhulgas NCMECi statistika ei ole avalik. 2021. aasta kohta teatasid nad 360 mittekontaktsest lapsevastasest seksuaalkuriteost. Lisaks pandi 86 % kõigist mittekontaktsetest seksuaalkuritegudest toime internetikeskkonnas või infotehnoloogiavahendeid kasutades.

Soome

2022

25 000

NCMEC ja Save the Children

Prantsusmaa

1. august 2021 – 1. august 2022

120 000

NCMEC

Saksamaa

–

–

–

Andmed ei ole kättesaadavad / andmeid ei ole esitatud.

Kreeka

2021–2022

142

NCMEC, Kreeka ebaseadusliku internetisisu abitelefon Safeline, riiklik telekommunikatsiooni- ja postikomisjon, riiklik abitelefon 1056 „The smile of the child“, Kreeka Ombudsman

Ungari

2022

0

Ühtki teenuseosutajate esitatud teadet ei saadetud ajutise määruse alusel.

Iirimaa

2021–2022

15 355

NCMEC

Itaalia

2022

4 607

Täpsustamata

Läti

1. august 2022 – 6. märts 2023

Ligikaudu 115–220 teadet kuus

Muudelt kui Läti teenuseosutajatelt ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevatelt organisatsioonidelt (peamiselt NCMEC) ning Läti teenuseosutajatelt ja organisatsioonidelt (peamiselt Läti ohutuma interneti keskus)

Leedu

1. jaanuar 2021 – 30. juuni 2022

4 142

Täpsustamata

Luksemburg

2021–2022

2 491

Täpsustamata

Malta

–

–

–

Andmeid ei ole esitatud/teatatud.

Madalmaad

2021

36 537

Teenuseosutajad ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevad organisatsioonid

Poola

3. august 2021 – 3. august 2023

227

Teenuseosutajad ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevad organisatsioonid

Ajavahemikul 3. augustist 2022 kuni 3. augustini 2023 esitati Poola puhul üks lapse peibutamise teade ja 105 laste seksuaalset kuritarvitamist kujutava materjali teadet.

Portugal

–

–

–

Andmeid ei ole esitatud/teatatud.

Rumeenia

–

–

–

Andmeid ei ole esitatud/teatatud.

Slovakkia

1. august 2021 – 31. juuli 2022

7 206

Teenuseosutajad ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevad organisatsioonid

Sloveenia

1. jaanuar 2021 – 14. juuli 2023

452

See arv näitab internetis toimuva tegevusega seotud kuritegusid. Olemasolevad statistilised andmed ei võimalda Sloveenial praegu teenuseosutajate ja organisatsioonide esitatud teadete alusel uuritud kuritegusid käsitlevaid statistilisi andmeid ja teisi teateid käsitlevaid statistilisi andmeid üksteisest eraldada.

Hispaania

2022

31 474

Laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevad organisatsioonid

Rootsi

August 2021 – 31. detsember 2022

32 830

Peamiselt NCMEC

 

Kuna NCMEC on teadete peamine allikas, on informatiivne võrrelda liikmesriikide saadud teadete andmeid andmetega, mille NCMEC on esitanud liikmesriikidele saadetud teadete kohta. NCMEC sai sektorilt 2021. aastal kogu maailmas kokku 29 397 681 teadet, millest 99,7 % (29 309 106) sisaldas ühte või mitut laste seksuaalse kuritarvitamise pilti või videot, 0,15 % (44 155) oli seotud peibutamisega ja 0,05 % (16 032) oli seotud laste seksikaubandusega. 2022. aastal sai NCMEC kokku 32 059 029 teadet, millest 99,5 % (31 901 234) oli seotud laste seksuaalse kuritarvitamise piltide või videotega, 0,25 % (80 524) peibutamisega ja 0,06 % (18 336) laste seksikaubandusega. ELi puhul on jaotus järgmine.

Tabel 7. ELi liikmesriikidele 2021. ja 2022. aastal esitatud NCMECi teated veebis toimuva laste seksuaalse kuritarvitamise kahtluse kohta

Riik

2021. aasta teated kokku 10

% ELi 2021. aasta kogunäitajast

2022. aasta teated kokku 11

% ELi 2022. aasta kogunäitajast

% ELi elanikkonnast

Austria

7 580

1,36 %

18 501

1,23 %

2,00 %

Belgia

15 762

2,84 %

50 255

3,34 %

2,60 %

Bulgaaria

13 584

2,44 %

31 937

2,12 %

1,53 %

Horvaatia

4 744

0,85 %

11 693

0,78 %

0,86 %

Küpros

2 657

0,48 %

7 361

0,49 %

0,20 %

Tšehhi

15 004

2,70 %

61 994

4,12 %

2,36 %

Taani

5 891

1,06 %

30 215

2,01 %

1,31 %

Eesti

2 729

0,49 %

6 408

0,43 %

0,30 %

Soome

6 079

1,09 %

10 904

0,73 %

1,24 %

Prantsusmaa

98 233

17,67 %

227 465

15,13 %

15,16 %

Saksamaa

79 701

14,34 %

138 193

9,19 %

18,59 %

Kreeka

14 616

2,63 %

43 345

2,88 %

2,37 %

Ungari

31 710

5,70 %

109 434

7,28 %

2,16 %

Iirimaa

7 327

1,32 %

19 770

1,31 %

1,13 %

Itaalia

37 480

6,74 %

96 512

6,42 %

13,32 %

Läti

1 537

0,28 %

3 688

0,25 %

0,42 %

Leedu

3 509

0,63 %

16 603

1,10 %

0,63 %

Luksemburg

2 005

0,36 %

2 004

0,13 %

0,14 %

Malta

750

0,13 %

4 713

0,31 %

0,12 %

Madalmaad

36 790

6,62 %

57 012

3,79 %

3,96 %

Poola

37 758

6,79 %

235 310

15,65 %

8,41 %

Portugal

34 415

6,19 %

42 674

2,84 %

2,31 %

Rumeenia

32 765

5,89 %

96 287

6,40 %

4,25 %

Slovakkia

7 275

1,31 %

39 748

2,64 %

1,21 %

Sloveenia

3 162

0,57 %

14 795

0,98 %

0,47 %

Hispaania

33 136

5,96 %

77 727

5,17 %

10,60 %

Rootsi

19 635

3,53 %

48 883

3,25 %

2,33 %

Kokku

555 834

1 503 431

2021. ja 2022. aasta teadete arvu märkimisväärsed erinevused, millest ilmneb teadete arvu järsk suurenemine 2022. aastal, on suuresti tingitud vabatahtliku tuvastamise vähenemisest 2021. aasta jaanuarist kuni augustini, mil ajutist määrust veel ei kohaldatud.

NCMEC ei erista oma statistikat ELi liikmesriikide kohta teate allika alusel, eelkõige selle alusel, kas teade pärineb numbrivaba isikutevahelise side teenusest. NCMEC esitab siiski statistikat numbrivaba isikutevahelise side teenustest pärinevate ELiga seotud teadete koguarvu kohta. 2021. aastal pärines 283 265 liikmesriikidega seotud teadet, st 51 % kõigist ELi puudutavatest teadetest, vestlus-, sõnumi- või e-posti teenusest. Täiendavad 164 645 teadet (30 % koguarvust) pärinesid sotsiaalmeedia- või veebimänguplatvormidelt, mis võisid hõlmata ka integreeritud sõnumi- või vestlusteenuseid. 2021. aastal puudutas 3 565 ELiga seotud teadet peibutamist. 2022. aastal pärines 1 015 231 liikmesriikidega seotud teadet, st 68 % kõigist ELi puudutavatest teadetest, vestlus-, sõnumi- või e-posti teenusest. Täiendavad 325 847 teadet (22 % koguarvust) pärinesid sotsiaalmeedia- või veebimänguplatvormidelt, mis võisid hõlmata ka integreeritud sõnumi- või vestlusteenuseid. 2022. aastal puudutas 7 561 ELiga seotud teadet peibutamist. Numbrivaba isikutevahelise side teenustest pärinevate teadete arvu erinevus 2021. ja 2022. aastal on jällegi tingitud vabatahtliku tuvastamise vähenemisest 2021. aasta jaanuarist kuni augustini, mil ajutist määrust veel ei kohaldatud.

Teadete osakaal liikmesriigi kohta vastab paljudel juhtudel ligikaudu liikmesriigi elanikkonna osakaalule võrreldes ELi elanikkonnaga tervikuna, mis võib viidata veebis toimuva laste seksuaalse kuritarvitamise võrreldavale esinemissagedusele kõigis liikmesriikides. Märgatavaid kõrvalekaldeid on näha Hispaania ja Itaalia puhul, kelle osakaal võrreldes osakaaluga ELi elanikkonnas tundub olevat mõlemal aastal väike, samal ajal kui teiste liikmesriikide (nt Saksamaa, Poola, Madalmaad, Slovakkia) puhul näib teadete osakaal märkimisväärselt kõikuvat. Juhtumite arvu käsitlevates aruannetes need muutused iseenesest ei kajastu ning seetõttu on jällegi raske teha järeldusi teadete ja uurimiste vahelise seose kohta.

Erinevaid aruandeperioode silmas pidades ei ole otsene võrdlus võimalik, kuid sellegipoolest on NCMECi esitatud statistika ja liikmesriikide teatatud arvude vahel märkimisväärsed erinevused. Lisaks ei saa NCMECi andmeid liikmesriikide kohta täielikult võrrelda sektori esitatud andmetega, mida käsitleti eelmises jaos. Kuigi mõned erinevused võivad olla tingitud nendest veebis toimuva laste seksuaalse kuritarvitamise teadetest, mis pärinevad muudest allikatest kui isikutevaheline side, on seda vaja täiendavalt analüüsida, sest võimalik on ka see, et ELiga seotud vabatahtlikke tuvastamismeetmeid võtavad ka teised teenuseosutajad peale nende, kes on seni komisjonile aruandeid esitanud, võttes arvesse NCMECile teateid esitanud teenuseosutajate nimekirja 12 . See, et NCMECi teatel liikmesriigile saadetud teadete arvu ja liikmesriigi teatel saadud teadete arvu vahel näib enamiku liikmesriikide puhul olevat märkimisväärne erinevus, viitab siiski sellele, et andmete kogumine liikmesriikides ja liikmesriikide aruandlus ei ole täielikud.

Iga eespool osutatud NCMECi teate puhul võeti sellega seotud laste seksuaalset kuritarvitamist kujutavad pildid ja videod maha ja kõrvaldati ringlusest. See on oluline eelkõige laste seksuaalse kuritarvitamise praegustele ohvritele ja üleelanutele. Uuringud on näidanud, et nende kuritarvitamist kujutavate piltide ja videote jätkuv ringlemine piirab ohvrite suutlikkust kuritarvitamise psühholoogilisest mõjust üle saada ja tekitab teisest ohvristamist.

2.2.2. Tuvastatud laste arv

Enamik liikmesriike esitas ajutise määruse artikli 8 lõike 1 punkti b kohaselt täieliku või osalise statistika tuvastatud laste arvu kohta, eristatuna soo alusel. Mitu liikmesriiki ei esitanud siiski andmeid ega põhjendanud selle sätte kohaste aruannete esitamata jätmist.

Mitu liikmesriiki ei esitanud aruandeperioodi kohta statistikat või esitasid üksnes osalise statistika, kuid märkisid selle põhjused. Märgitud põhjused on järgmised:

-veebis toimuva laste seksuaalse kuritarvitamise lapsohvreid ei saa loendada (Prantsusmaa);

-andmed ei ole kättesaadavad, kuna riikliku statistiliste andmete kogumise raames neid ei kogutud / riigi ametiasutused ei registreerinud seda statistikat (Taani, Leedu);

-andmeid ei ole riikliku statistiliste andmete kogumise raames soo alusel eristatud (Belgia, Küpros, Tšehhi, Kreeka, Iirimaa, Itaalia, Leedu, Madalmaad);

-olemasolevates infosüsteemides ei ole teave nõutava üksikasjalikkusega kättesaadav (Soome);

-seda teavet ei koguta (Saksamaa).

Mõned neist liikmesriikidest, kes märkisid, et nad ei saa statistikat esitada, kinnitasid, et nende riigi ametiasutustel paluti vabatahtlike teadete ja uurimiste registreerimise menetlust ning statistika kogumist muuta (Taani) ja/või nad võtavad kasutusele uusi infosüsteeme, mis peaksid võimaldama nõutava üksikasjalikkusega aruannete esitamist.

Ühes liikmesriigis ei ole alltoodud andmetes eristatud veebis toimuva ja muu laste seksuaalse kuritarvitamise lapsohvreid (Ungari). Mõnel juhul hõlmab statistika ka lapsi, kelle puhul on tuvastatud, et nad on selle materjali ise tootnud ja üles laadinud (ise tehtud materjal, enamasti video) (Tšehhi, Eesti).

Kuna enamasti esitasid liikmesriigid aruandeid erinevate aruandeperioodide kohta, ei olnud võimalik veebis toimuva laste seksuaalse kuritarvitamise ohvriks tunnistatud laste koguarvu ELis aasta ja/või sama aruandeperioodi kohta arvutada.

Tabel 8. Tuvastatud laste arv, eristatuna soo alusel

Riik

Aruandeperiood

Naissoost

Meessoost

Kokku

Märkused

Austria

2021–2022

11

6

17

Belgia

2021–2022

–

–

63

Soo alusel eristatud andmed ei ole kättesaadavad.

Bulgaaria

2022

50

12

62

Horvaatia

1. jaanuar 2021 – 31. oktoober 2022

20

0

20

Küpros

2022

–

–

102

Soo alusel eristatud andmed ei ole kättesaadavad.

Tšehhi

2022

–

–

30

Soo alusel eristatud andmed ei ole kättesaadavad.

Taani

–

–

–

–

Andmed ei ole kättesaadavad.

Eesti

2021

6

12

18

Soome

–

–

–

–

Andmed ei ole kättesaadavad.

Prantsusmaa

–

–

–

–

Andmed ei ole kättesaadavad.

Saksamaa

–

–

–

–

Andmed ei ole kättesaadavad.

Kreeka

2021–2022

–

–

4

Soo alusel eristatud andmed ei ole kättesaadavad.

Ungari

2021–2022

379

47

426

Veebis toimuva ja muu laste seksuaalse kuritarvitamise ohvreid ei ole võimalik eristada. Hõlmatud on üksnes alla 16aastased lapsed.

Iirimaa

2021–2022

–

–

101

2021. aasta andmeid (50 ohvrit) ei saa soo alusel eristada. Soo alusel eristatud 2022. aasta andmed: tuvastati 25 naissoost ja 26 meessoost last.

Itaalia

2022

–

–

385

Soo alusel eristatud andmed ei ole kättesaadavad.

Läti

1. august 2022 – 6. märts 2023

1

–

1

Leedu

–

–

–

–

Andmed ei ole kättesaadavad.

Luksemburg

2021–2022

0

0

0

Malta

–

–

–

–

Andmeid ei ole esitatud/teatatud.

Madalmaad

2021

–

–

222

Soo alusel eristatud andmed ei ole kättesaadavad.

Poola

2022

2 368

487

3 014

2022. aastal on Poolas riikliku politsei infosüsteemi andmete kohaselt 3 014 laste seksuaalse kuritarvitamisega seotud kuriteo ohvrit (2 368 naissoost, 487 meessoost ja 159 ohvrit, kelle sugu ei ole märgitud).

Portugal

–

–

–

–

Andmeid ei ole esitatud/teatatud.

Rumeenia

–

–

–

–

Andmeid ei ole esitatud/teatatud.

Slovakkia

August 2021 – juuli 2022

13

8

21

Sloveenia

1. jaanuar 2021 – 14. juuli 2023

220

85

305

Hispaania

2022

80

39

119

Rootsi

2022

8

4

12

KÕIK LIIKMES-RIIGID KOKKU

1. jaanuar 2021 – 6. märts 2023

3 156

700

4 922

Eespool esitatud andmete suhtes on veel mitu täiendavat reservatsiooni. Olemasolevad statistilised andmed ei võimalda liikmesriikidel alati eristada teenuseosutaja teate alusel tuvastatud ohvrite andmeid nende ohvrite andmetest, kelle puhul võis kuriteost teatada näiteks ohver ise või keegi teine, kes ohvrit tundis või kuriteo avastas (nagu märkis Sloveenia). Rootsi teatas, et aruandlus hõlmab ka vestluslogide kaudu tuvastatud lapsi, kuigi kuritarvitamise fotosid või videoid ei ole kunagi leitud või kuigi ei ole kindlaks tehtud, et need pärinevad sellelt konkreetselt ohvrilt.

Üldiselt ei pruugi tabelis 8 esitatud andmed vastata ajutises määruses sätestatud aruandekohustustele, mis puudutavad ainult neid ohvreid, kes on päästetud tänu teadetele, mille teenuseosutajad ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevad organisatsioonid on määruse alusel esitanud. Esitatud andmed hõlmavad mõnikord ohvreid, kes on tuvastatud mitmesugustel muudel põhjustel ja muude vahenditega.

Seega ei võimalda andmed saada terviklikku ülevaadet veebis toimuva laste seksuaalse kuritarvitamise ohvritena tuvastatud laste arvust ELis.

Lisaks, isegi kui ohver tuvastati, ei pruugi see tähendada, et selle tuvastamisega seoses on tehtud süüdimõistev kohtuotsus. Mõnel juhul ohver tuvastati, kuid kahtlusalust ei suudetud uurimise käigus kindlaks teha või uurimise tulemusel ei tehtud süüdimõistvat kohtuotsust (Rootsi).

Andmetest võib sellegipoolest järeldada, et ajutise määruse kohase vabatahtliku teatamise abil on tuvastatud märkimisväärne arv ohvreid. Seda kinnitavad õiguskaitseasutuste aruanded juhtumite kohta, mis sageli algatatakse üksnes vabatahtliku teatamise põhjal 13 .

2.2.3. Süüdi mõistetud kurjategijate arv

Kui enamik liikmesriike täitis oma kohustusi, siis kaks liikmesriiki ei esitanud andmeid ega põhjendanud, miks nad ajutise määruse artikli 8 lõike 1 punkti c kohast teavet ei esitanud.

Mitu liikmesriiki ei esitanud aruandeperioodi kohta selle sätte kohaselt statistikat, põhjendades seda järgmiselt:

-andmed ei ole veel kättesaadavad (Belgia ja Hispaania);

-kuritegude registreerimiseks kasutavas keskandmebaasis ei tulnud algse pöördumise laadi täpsustada (Iirimaa);

-neid andmeid ei koguta (Saksamaa).

Liikmesriigid esitasid süüdimõistetud kurjategijate arvu kohta väga erinevaid andmeid ja hõlmatud aruandeperioodid ei olnud ühtsed, nagu on näidatud allpool tabelis 8.

Tabel 9. Süüdi mõistetud kurjategijate arv

Riik

Aruandeperiood

Süüdimõistvate kohtuotsuste arv

Märkused

Austria

2021

850

Andmetes ei ole internetis ja mujal toime pandud kuritegusid eristatud.

Belgia

–

–

Andmed ei ole kättesaadavad.

Bulgaaria

2021–2022

52

Horvaatia

–

–

Andmed ei ole kättesaadavad.

Küpros

2022

0

Süüdimõistvaid kohtuotsuseid seni ei ole.

Tšehhi

1. jaanuar 2022 – 31. juuli 2022

20

Taani

2. august 2021 – 20. jaanuar 2023

224

Eesti

2021

2

Hõlmab ainult NCMECi teadetest tulenevaid süüdimõistvaid kohtuotsuseid.

Soome

2021

240

Prantsusmaa

4. august 2021 – 3. august 2022

820

Saksamaa

–

–

Andmed ei ole kättesaadavad.

Kreeka

2021–2022

62

Ungari

2021–2022

126

Iirimaa

–

–

Andmed ei ole kättesaadavad.

Itaalia

2021–2022

5 835

Andmetes ei ole internetis ja mujal toime pandud kuritegusid eristatud.

Läti

2021–2022

33

Andmetes ei ole internetis ja mujal toime pandud kuritegusid eristatud.

Leedu

1. jaanuar 2021 – 30. juuni 2022

10

Luksemburg

2022

11

Andmetes ei ole internetis ja mujal toime pandud kuritegusid eristatud.

Malta

–

–

Andmeid ei ole esitatud/teatatud.

Madalmaad

2021

217

Poola

2021. aasta teine pool kuni 2022. aasta esimene pool / 2022 / 2023. aasta esimene pool

185/194/81

Portugal

–

–

Andmeid ei ole esitatud/teatatud.

Rumeenia

–

–

Andmeid ei ole esitatud/teatatud.

Slovakkia

2021

10

Sloveenia

2021–2022

45

Hispaania

2022

–

Andmed ei ole kättesaadavad.

Rootsi

2022

55

Oluline on märkida, et süüdimõistvate kohtuotsuste arv ei võrdu süüdi mõistetud kurjategijate arvuga, sest isik võib olla süüdi mõistetud ühes või mitmes kuriteos, mis on seotud veebis toimunud laste seksuaalse kuritarvitamisega.

Veelgi enam, teatava ajavahemiku kohta esitatud süüdimõistvate kohtuotsuste statistika ei pruugi olla seotud sel ajavahemikul saadud teadetega (st 2022. aasta süüdimõistev kohtuotsus võib olla seotud näiteks 2021. või 2020. aasta teatega ja 2022. aasta teade võib viia süüdimõistva kohtuotsuse tegemiseni alles 2023. aastal või hiljem). Seda rõhutasid oma aruandes sõnaselgelt mitu liikmesriiki (Iirimaa, Luksemburg, Rootsi).

Mõnel juhul ei kogutud statistikat selle kohta, kas kahtlasest tegevusest teatamine (nt NCMECi kaudu) viis süüdimõistvate kohtuotsuste tegemiseni, ehk teisisõnu, kas süüdimõistvad kohtuotsused tulenesid teenuseosutaja või avaliku sektori organisatsiooni esitatud teabest (Austria, Läti). Ainult Eesti kinnitas selgelt, et statistika näitab üksnes NCMECi teadetest tulenevaid süüdimõistvaid kohtuotsuseid. Samuti on võimalik, et teadete alusel jõuti teiste kurjategijateni, keda uuritakse ja kes uurimise tulemusel süüdi mõistetakse (Austria).

Enamasti eeldatakse, et teatatud süüdimõistvate kohtuotsuste arv pärineb ajast, kui kohtuasi on eeldatavasti kohtusüsteemi kaudu edasikaebamise järel lõpetatud. Ühes liikmesriigis (Taani), kus arvud esitatakse vastavalt viimasele otsusele, ei ole arvud lõplikud, sest otsused võivad olla hiljem edasi kaevatud.

Teatavatel juhtudel ei eristata riiklikes IT-süsteemides sisalduvates ja liikmesriikide esitatud andmetes veebis ja mujal toime pandud kuritegusid (Austria, Luksemburg, Läti).

Liikmesriikide esitatud väga erinevad aruanded ja statistiliste andmete riiklikul tasandil kogumise viis ei võimalda seega saada terviklikku ülevaadet veebis toimuvas laste seksuaalses kuritarvitamises süüdi mõistetud kurjategijate arvust ELis. Samuti ei ole praegu kättesaadavate andmete põhjal võimalik neid süüdimõistvaid kohtuotsuseid selgelt seostada teadetega, mille teenuseosutajad ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevad organisatsioonid on konkreetsetel aruandeperioodidel määruse kohaselt esitanud.

2.3.Tehnoloogia areng

Veebis toimuva laste seksuaalse kuritarvitamise tuvastamiseks praegu kasutatav tehnoloogia hõlmab tehnoloogialahendusi ja vahendeid teadaoleva (st varem tuvastatud) ja uue (st varem tuvastamata) laste seksuaalset kuritarvitamist kujutava materjali ning laste ahvatlemise (nn peibutamine) tuvastamiseks.

Allpool on toodud kõige laialdasemalt kasutatavate vahendite näited ja tegemist ei ole ammendava loeteluga. Paljud neist vahenditest tehakse teenuseosutajatele, õiguskaitseasutustele ja muudele organisatsioonidele kättesaadavaks juhul, kui suudetakse tõendada õigustatud huvi. Tavaliselt kombineeritakse neid vahendeid inimkontrolliga, et tagada võimalikult suur täpsus.

Käesolevas jaos käsitletakse ka tehisintellektiga seotud tehnoloogia täiendavat arengut.

2.3.1. Teadaoleva laste seksuaalset kuritarvitamist kujutava materjali tuvastamine

Olemasolev tehnoloogia teadaoleva laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks tugineb üksnes automaatsele sisuanalüüsile 14 ja põhineb tavaliselt räsimisel. Räsimistehnoloogia on teatavat liiki digitaalsete sõrmejälgede võtmine. See loob pildi kordumatu digitaalsignatuuri (nn räsi), mida seejärel võrreldakse teiste fotode signatuuridega (räsidega), et leida sama pildi koopiaid. See tehnoloogia tuvastab ainult üksteisele vastavad räsid, kuid ei „näe“ materjali, mis räsile ei vasta. Räsiväärtused ei ole ümberpööratavad ja neid ei saa seega kasutada pildi uuesti loomiseks.

Räsimistehnoloogial on palju variatsioone ja kasutusalasid. Teadaoleva laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks kasutatavad vahendid on muu hulgas järgmised: i) Microsofti PhotoDNA , ii) Google’i CSAI Match , iii) Apple’i NeuralHash + Private Set Intersection , iv) Meta SSN++ , v) PDQ ja TMK+PDQF , vi) MD5 räsigeneraator (Skype), vii) Safer (Thorn).

Kõige laialdasemalt kasutatav vahend on Microsoft PhotoDNA, mida kasutab rohkem kui 150 organisatsiooni 15 . PhotoDNAd on kasutatud üle kümne aasta ja see on väga täpne. Valepositiivsete tulemuste määr on katsetamise põhjal hinnanguliselt kuni üks 50 miljardist 16 . PhotoDNA veamäär on äärmiselt madal selle tehnoloogia olemuse tõttu. Tehnoloogia tuvastab ainult eelnevalt tuvastatud sisu koopiaid. Kuigi algne PhotoDNA tuvastab teadaolevat laste seksuaalset kuritarvitamist kujutavat materjali piltidel, on kättesaadav ka versioon laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks videotes.

Tehnoloogiat arendatakse ja täiustatakse pidevalt. 2023. aasta mais teatas Microsoft, et võtab kasutusele uued võrdlusvõimalused, mis kiirendavad otsimist (umbes 350 korda), vähendades samal ajal võrdlusprotsessi kulusid, ilma et täpsus väheneks. Microsofti sõnul võimaldab uus teek ka peegel- või pööratud piltide ulatuslikumat tuvastamist. Lisaks teatas Internet Watch Foundation (IWF), et ta tõhustas hiljuti oma räsimistehnoloogiat 17 .

2.3.2. Uue laste seksuaalset kuritarvitamist kujutava materjali tuvastamine

Uue laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks praegu kasutatav tehnoloogia hõlmab klassifikaatoreid ja tehisintellekti (TI), mis analüüsivad pilte ja videoid, et tuvastada sisumustreid, mis vastavad varem tuvastatud laste seksuaalset kuritarvitamist kujutava materjali põhjal loodud mustritele. Klassifikaator on algoritm, mis liigitab andmed kujutuvastuse alusel märgistatud klassidesse või teabekategooriatesse. Klassifikaatorid vajavad õppimiseks andmeid ja nende täpsus paraneb sedamööda, mida rohkem andmeid neile antakse.

Uue laste seksuaalset kuritarvitamist kujutava materjali tuvastamise vahendid on muu hulgas järgmised: i) Safer (Thorn), ii) Google’i Content Safety API (sisu ohutuse rakendusliides) , iii) Facebooki TI-tehnoloogia 18 , iv) Amazon Rekognition , v) Hive AI visuaalse sisu jaoks .

Uuringud on näidanud, et kõige kasulikumad vahendid laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks on automatiseeritud vahendid ja süsteemid, nagu klassifikaatorid 19 . Uue laste seksuaalset kuritarvitamist kujutava materjali tuvastamisel on täpsusaste praegu oluliselt suurem kui 90 %. Näiteks Thorn märgib, et tema laste seksuaalset kuritarvitamist kujutava materjali klassifikaatori saab seadistada 99 % täpsusega (nii teadaoleva kui ka uue materjali puhul), mis tähendab, et valepositiivsete tulemuste määr on 0,1 % 20 . Suurema kasutamise ja tagasiside korral need näitajad tõenäoliselt paranevad.

 

2.3.3. Peibutamise tuvastamine

Tekstipõhises suhtluses toimuva peibutamise (laste ahvatlemise) tuvastamise vahendid kasutavad tehnoloogiat üksnes selleks, et tuvastada mustreid, mis viitavad veebis toimuva laste seksuaalse kuritarvitamise kahtluse võimalikele konkreetsetele elementidele, ilma et sisu olemust oleks võimalik tuletada. Seda meetodit kohaldatakse tekstipõhiste veebivestluste suhtes. Vestlusi hinnatakse mitme tunnuse alusel ja neile antakse üldine tõenäosushinnang, mis näitab, kui suur on tõenäosus, et vestlus kujutab endast peibutamist. Need hinnangud on konkreetsete ettevõtete määratud tegurid, mille alusel märgistatakse vestlused täiendavat inimkontrolli vajavatena.

Tekstipõhiseks tuvastamiseks kasutatavad vahendid on muu hulgas järgmised: i) Microsofti Project Artemis 21 , ii) Amazon Rekognition , iii) Twitchi Spirit AI tehnoloogia (põhineb loomuliku keele töötlusel, tekstiklassifikaatoritel) 22 , iv) Meta ettevõttesiseselt loodud masinõppe hindamisklassifikaator (kombineerib sisemise keeleanalüüsi tehnoloogia ja metaandmed), v)  Robloxi vestluste filtreerimine 23 , vi) Thorni ja Tech Coalitioni tehniline lahendus, mis põhineb masinõppel ja klassifikaatoritel 24 .

Nagu uue laste seksuaalset kuritarvitamist kujutava materjali puhul, nõuab peibutamissisu tuvastamine tehnoloogia väljaõpetamist sellise sisu jaoks. Juurdepääs sellistele õppeandmetele on kõnealuste tehnoloogiavahendite arendamisel ja täiustamisel endiselt suurim väljakutse.

Thorn on koostöös Tech Coalitioni ja selle liikmetega käivitanud uue algatuse sellise tehnilise lahenduse väljatöötamiseks, mille abil saab tuvastada ja käsitleda internetis toimuvat peibutamist ning mis on kasulik ja kasutatav mitmesugustel tekstipõhist suhtlust pakkuvatel platvormidel. See põhineb Thorni meeskonna tööl loomulikku keelt töötleva klassifikaatoriga ehk masinõppemudelil, mis tuvastab ja kategoriseerib, millal veebisisu või käitumine kuulub kindlaksmääratud klassidesse, mis on seotud peibutamisega (näiteks kokkupuude seksuaalse materjaliga või alaealisega isikliku kohtumise otsimine), samuti üldisel skooril selle kohta, kuivõrd on vestlus peibutamisega seotud 25 . 

2.3.4. Tehisintellekti juturobotite ja kunsti-/pildigeneraatorite tekitatud uued väljakutsed

Selliste TI-juturobotite nagu ChatGPT ( OpenAI välja töötatud suur keelemudel) ja kunsti-/pildigeneraatorite nagu DALL-E 26 ja Midjourney 27 väljatöötamine ja kasutuselevõtmine on pälvinud üldsuse suurt tähelepanu, peamiselt tänu nende suutlikkusele anda kiiresti valmisvastuseid või luua realistlikke pilte, mida saab kasutada väga paljudes eri kontekstides. Need uued vahendid said kiiresti väga populaarseks ja võeti laialdaselt kasutusele. Tehnoloogiaettevõtjad, sealhulgas Microsoft ja Google, rahastavad ja arendavad juhtivaid tooteid ning korrapäraselt toimub uute tehnoloogiavahendite täiustamine ja parendatud versioonide kasutuselevõtt.

Kuigi need tehnoloogiavahendid pakuvad nii ettevõtjatele kui ka üldsusele suurepäraseid võimalusi, võivad nad neid ka ohustada. Üks selliste toodetega seotud murekohti on see, et kurjategijad võivad soovida neid kasutada oma pahatahtlikel eesmärkidel, sealhulgas laste seksuaalseks ärakasutamiseks.

Nagu Europol on teatanud, on kogu ChatGPT pakutav teave internetis vabalt kättesaadav, kuid see vahend teeb pahatahtlikele isikutele oluliselt lihtsamaks „õppida ilma eelteadmisteta tundma suurt hulka potentsiaalseid kuritegevusvaldkondi alates majja sissemurdmisest kuni terrorismi, küberkuritegevuse ja laste seksuaalse kuritarvitamiseni“. See võimaldab neil isikutel seda liiki kuritegusid paremini mõista ja hiljem toime panna 28 .

OpenAI eeskirjad piiravad ChatGPT võimet reageerida seksuaalse, vaenuliku, vägivaldse või enesevigastamist propageeriva sisu päringutele. Neist kaitsemeetmetest saab viibatehnika (prompt engineering) abil siiski üsna lihtsalt kõrvale hoida 29 . TI-juturobotite hiljutine kasutuselevõtt (nt Snapchati poolt) näitab, kuidas need võivad solvava või ohtliku suhtluse, sealhulgas laste seksuaalse kuritarvitamise piiri ületada 30 . Kuna üha enam ettevõtjaid kaalub nüüd TI-juturobotite katsetamist oma platvormidel (Instagram, potentsiaalselt WhatsApp ja Messenger), tuleb hoolikalt hinnata nende mõju kasutajatele, eriti lastele ja noortele.

Nende uute vahendite puhul on samuti vaja piisavaid kaitsemeetmeid, et neid ei kasutataks vääralt ära tehisintellekti abil genereeritud laste seksuaalset kuritarvitamist kujutavate süvavõltsingute loomiseks 31 . TI-vahendite arengutempo tõttu on tõenäoline, et varsti on oluliselt lihtsam luua pilte, mida ei saa tegelikest piltidest eristada. See tekitab laste seksuaalse kuritarvitamise vastu võitlemisel mitu suurt probleemi, sest arvuti genereeritud väga realistliku laste seksuaalset kuritarvitamist kujutava materjali laialdane levik internetis pärsib oluliselt õiguskaitseasutuste suutlikkust uurida laste seksuaalset kuritarvitamist kujutava materjali juhtumeid ja menetleda nendega seotud kriminaalasju ning tuvastada tegelikke ohvreid 32 .

Uuringud on näidanud, et juurdepääs laste seksuaalset kuritarvitamist kujutavale materjalile on sageli esimene samm füüsilise kuritarvitamise suunas, olenemata sellest, kas materjal kujutab tegelikku või realistlikuna näivat kuritarvitamist ja ärakasutamist 33 . Tehisintellekti genereeritud laste seksuaalset kuritarvitamist kujutavate süvavõltsingute levitamise piiramine on seega äärmiselt oluline ennetusvorm, pidades silmas kurjategijaid. Teine peamine murekoht on see, et peibutajad saavad kasutada ChatGPT kõrgtehnoloogilist tekstiloomevõimet koos olemasoleva teksti põhjal pilte loova tasuta tehisintellektiga, et luua internetis laste jahtimiseks kiiresti ja hõlpsalt võltsprofiilide sisu ja usutavaid vestlusi noortega. „Kuigi ChatGPT iseenesest ei julgusta inimesi hakkama internetis peibutajaks, võimaldab see igaühel lastega internetis peetavaid vestlusi TI-tehnoloogia abil täiustada, et tunduda ohvritele veenvam ja usaldusväärsem, mis aitab kaasa manipuleerimisele“ 34 . Generatiivne tehisintellekt võib aidata suurendada internetis toimuva peibutamise juhtumite arvu ja isegi „laste peibutamist ulatuslikult automatiseerida“ 35 .

3.JÄRELDUSED

Teenuseosutajate võetud rakendusmeetmed

Teenuseosutajate aruannetest ilmnes, et nad on ajutise määruse alusel tuvastanud veebis toimuvat laste seksuaalset kuritarvitamist ja sellest teatanud, kasutades mitmesuguseid tuvastustehnoloogiavahendeid ja -protsesse. Kõik teenuseosutajad teatasid nende teadete saatmisest NCMECile. Mis puutub teenuseosutajate töödeldud isikuandmete liiki ja mahtu, siis aruandlus näitas, et kogutud liiklusandmed on väga erinevad ja töödeldud andmemahud on erineva detailsusega, mis takistab komisjonil saada kõnealuse aruandeperioodi (juuli 2021 kuni 31. jaanuar 2023) kohta teenuseosutajatega seotud ühtseid ELi tasandi andmeid.

Teenuseosutajad ei esitanud erinevate kasutatud tehnoloogiavahendite vigade (valepositiivsed tulemused) arvu ja osakaalu kasutatud tehnoloogiavahendite kaupa, mis näitab, et nad kasutavad veebis toimuva laste seksuaalse kuritarvitamise tuvastamiseks mitmetasandilist lähenemisviisi, mida täiendab inimkontroll. Samal ajal võtsid teenuseosutajad tuvastamise veamäära piiramiseks ja vähendamiseks kasutusele mitmesuguseid meetmeid ja kaitsemeetmeid. Peale selle teatasid teenuseosutajad, et neil on olemas andmete säilitamise poliitika ja andmekaitsemeetmed, mis on kindlaks määratud nende eraelu puutumatuse põhimõtetes või avaldustes ning mida toetavad tööstusharu standardsed andmekaitsemeetmed ja meetmed.

Liikmesriikide võetud rakendusmeetmed

Ajutine määrus (vastavalt selle artiklile 8) kohustab liikmesriike esitama ka põhistatistikat veebis toimuva laste seksuaalse kuritarvitamise juhtumite tuvastamise ja sellest nende õiguskaitseasutustele teatamise ning tuvastatud lapsohvrite arvu ja süüdimõistetud kurjategijate arvu kohta. Kuna liikmesriigid esitasid enamasti andmeid erinevate aruandeperioodide kohta, ei olnud esitatud andmete põhjal võimalik veebis toimuva laste seksuaalse kuritarvitamise tuvastamise kohta esitatud teadete koguarvu ELi tasandil arvutada. Lisaks võivad liikmesriikide saadud ja edastatud teated erineda meetmete võtmist võimaldavatest teadetest, st teadetest, mida saaks kasutada uurimisteks, või teatatud juhtumite arvust. Ainult üksikud liikmesriigid märkisid, millist liiki teenuseosutajate teenustes tuvastati veebis toimuv laste seksuaalne kuritarvitamine. Mõnel juhul ei eristata riiklikes statistilistes andmetes kuritegusid, mida uuritakse teenuseosutajate ja muude avalikes huvides laste seksuaalse kuritarvitamise vastu võitlevate organisatsioonide esitatud teadete alusel, ja kuritegusid, mida uuritakse muude teadete alusel.

Sellest tulenevalt ei olnud võimalik võtta saadud teadetest välja veebis toimuva laste seksuaalse kuritarvitamise ohvriks tunnistatud laste koguarvu ELis, eristatuna soo alusel. Põhjused on näiteks järgmised: andmete esitamine erinevate perioodide kohta; erinevate vanusepiiride kasutamine veebis toimuva laste seksuaalse kuritarvitamise lapsohvrite määratlemiseks; tehniliste või muude piirangute tõttu ei koguta riiklikul tasandil sellise üksikasjalikkusega statistikat; veebis toimuva ja muu laste seksuaalse kuritarvitamise lapsohvreid ei eristata jne. Mõne liikmesriigi statistika hõlmab ka lapsi, kes postitasid enda loodud materjali. Veelgi olulisem on see, et statistikas ei eristata sageli ohvreid, kes on tuvastatud teenuseosutajate ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevate organisatsioonide poolt määruse alusel esitatud teadete põhjal, nendest ohvritest, kes on tuvastatud muudel põhjustel ja muude vahenditega.

Ülevaade süüdimõistetud kurjategijate arvudest on samuti killustatud. Teatavatel juhtudel ei ole sellised andmed kättesaadavad, kuna andmebaasides ei registreeritud algse pöördumise allikat ja seega ei saa andmetes eristada määruse kohaselt esitatud teadete ja muude teadete tõttu süüdi mõistetud kurjategijaid. Mõnel juhul ei tehta riiklikes IT-süsteemides sisalduvates andmetes vahet ka internetis ja mujal toime pandud kuritegudel. Peale selle ei pruugi teatava ajavahemiku kohta esitatud statistika süüdimõistvate kohtuotsuste kohta olla seotud sel ajavahemikul saadud teadetega, vaid võib olla seotud varasemate ajavahemike teadetega. Samuti võib süüdimõistvate kohtuotsuste arvu kohta kogutud statistika erineda süüdimõistetud kurjategijate arvust (kuna üks kurjategija võib olla süüdi mõistetud mitmel korral).

Asjaolu, et liikmesriigid ei paista alati andmeid süstemaatiliselt ja nõuetekohaselt koguvat ja nende esitatud statistika on heterogeenne, ning kõik eespool nimetatud tegurid ei võimalda seega saada terviklikku ülevaadet määruse kohaselt saadud teadetest veebis toimuva laste seksuaalse kuritarvitamise tuvastamise, selle kuriteo ohvrina tuvastatud laste arvu ja süüdi mõistetud kurjategijate arvu kohta ELi tasandil. See, et NCMECi teatel liikmesriigile saadetud teadete arvu ja liikmesriigi teatel saadud teadete arvu vahel näib enamiku liikmesriikide puhul olevat märkimisväärne erinevus, viitab sellele, et andmete kogumine ja aruandlus ei ole täielikud. Mõned liikmesriigid kinnitasid, et nende pädevates asutustes toimuvad struktuurimuutused või ümberkorraldused, mis on seotud uute osakondade loomisega veebis toimuva laste seksuaalse kuritarvitamisega seotud kuritegude uurimiseks. Luuakse ka uusi IT-süsteeme ning mõnes liikmesriigis paluti ametiasutustel oma registreerimismenetlusi ja statistikat muuta. See peaks looma soodsad tingimused liikmesriikidelt tulevikus täpsema statistika saamiseks. Igal juhul kasutab komisjon vajaduse korral oma aluslepingutest tulenevaid volitusi tagamaks, et liikmesriigid täidavad ajutise määruse kohaseid aruandekohustusi.

Üldised kaalutlused

Üldiselt näitab käesolev aruanne, et veebis toimuva laste seksuaalse kuritarvitamise kohta ajutise määruse alusel andmete esitamisel esineb nii teenuseosutajate kui ka liikmesriikide puhul märkimisväärseid erinevusi. Kättesaadavate andmete ja nende esitamise suurem standardimine, nagu on ette nähtud laste seksuaalse kuritarvitamise ennetamist ja tõkestamist käsitleva määruse ettepanekus, 36 aitaks saada parema ülevaate asjakohastest tegevustest selle kuriteo vastu võitlemisel. Tundub, et teenuseosutajad ja liikmesriigid peavad tegema täiendavaid jõupingutusi, et tagada andmete kogumine ja esitamine kooskõlas ajutise määruse nõuetega.

Kättesaadavad andmed näitavad, et praeguse vabatahtliku tuvastamis- ja teatamissüsteemi raames võib juhtuda, et võimaliku laste seksuaalset kuritarvitamist kujutava materjalina automaatselt märgistatava materjali puhul selgub inimkontrolli tulemusena, et tegemist ei ole sellise materjaliga. Selle põhjuseks võib olla ELis ebaseaduslikuks tunnistatud laste seksuaalset kuritarvitamist kujutava materjali tuvastamiseks vajalike ühiste räside ja muude näitajate puudumine või eri jurisdiktsioonide, eelkõige ELi ja USA erinevad õiguslikud standardid, eriti seoses asjakohaste määratlustega. Andmed viitavad ka suurtele erinevustele läbivaatamistaotluste arvus ja läbivaatamise edukuse määrades, mille põhjal ei ole võimalik teha järeldusi, kuna puudub teave eelkõige läbivaatamistaotluste ulatuse ja taastamise põhjuste kohta.

Mis puudutab artikli 9 lõikes 2 sätestatud nõudeid töötlemise tingimuste kohta, siis esitatud teabest selgub, et kasutatud tehnoloogia vastab tehnoloogilistele rakendustele, mille ainus eesmärk on tuvastada laste seksuaalset kuritarvitamist kujutavat veebimaterjali ja see eemaldada ning teavitada sellest õiguskaitseasutusi ja laste seksuaalse kuritarvitamise vastu avalikes huvides võitlevaid organisatsioone. Teavet ei esitatud selle kohta, kas tehnoloogiavahendite kasutamine vastas tehnika tasemele ja toimus eraelu puutumatust kõige vähem kahjustaval viisil ning kas oli koostatud määruse (EL) 2016/679 artiklis 35 osutatud eelnev andmekaitsealane mõjuhinnang ja läbi viidud kõnealuse määruse artiklis 36 osutatud eelnev konsulteerimismenetlus.

Seoses määruse proportsionaalsusega on keskne küsimus, kas ajutise määrusega saavutatakse tasakaal, mida ELi seadusandja püüdis saavutada, pidades ühelt poolt silmas üldist huvi pakkuvat eesmärki, milleks on tõhus võitlus kõnealuste äärmiselt raskete kuritegude vastu, ja laste põhiõiguste (väärikus, puutumatus, ebainimliku või alandava kohtlemise keeld, eraelu, lapse õigused) kaitse vajadust ning teiselt poolt hõlmatud teenuste kasutajate põhiõiguste (eraelu puutumatus, isikuandmete kaitse, väljendusvabadus, tõhus õiguskaitsevahend) kaitset. Kättesaadavad andmed ei ole selle kohta lõplike järelduste tegemiseks piisavad. Võttes arvesse seksuaalse kuritarvitamise märkimisväärset negatiivset mõju lapse elule ja õigustele, ei ole proportsionaalsuse hindamisel võimalik ega oleks ka asjakohane kohaldada päästetud laste arvu suhtes numbrilist standardit. Eeltoodut arvesse võttes ei ole siiski märke sellest, et erand ei ole proportsionaalne.

Hoolimata kättesaadavate andmete puudustest, mis ei võimalda saada ülevaadet vabatahtlike teadete kasutamisest märkimisväärses arvus liikmesriikides, on kättesaadavate andmete põhjal selge, et aruandeperioodil tuvastati tuhandeid lapsi, saavutati üle kahe tuhande süüdimõistva kohtuotsuse ning kõrvaldati ringlusest miljoneid pilte ja videoid, vähendades teisest ohvristamist. Seega võib järeldada, et vabatahtlik teatamine aitas oluliselt kaasa suure hulga laste kaitsmisele, sealhulgas jätkuva kuritarvitamise eest, ja tundub, et ajutine määrus on tõhus.

(1)

     Twitter esitas oma aruanded enne nimevahetust; käesoleva aruande kogu ülejäänud osas kasutatakse nime „X“.

(2)

     Meta ja X ei täpsustanud sõnaselgelt konkreetset artiklit.

(3)

     Meta ja X ei täpsustanud sõnaselgelt konkreetset artiklit. 

(4)

     Sulgudes on märgitud teenuseosutajad, kes konkreetsetest meetmetest otseselt teatasid. Kui mõni teenuseosutaja ei ole loetletud, ei tähenda see, et ta seda meedet ei rakenda, vaid üksnes seda, et ta ei ole seda oma aruandes maininud.

(5)

     X-i privaatsuspoliitika, punkt 4 „Kui kaua me teavet säilitame?“, kättesaadav aadressil https://twitter.com/et/privacy.

(6)

     Sulgudes on märgitud teenuseosutajad, kes konkreetsetest meetmetest otseselt teatasid. Kui mõni teenuseosutaja ei ole loetletud, ei tähenda see, et ta seda meedet ei rakenda, vaid üksnes seda, et ta ei ole seda oma aruandes maininud.

(7)

     Kooskõlas komisjoni kohustustega, mis tulenevad ajutise määruse artikli 8 lõikest 2, on teave avalikes huvides tegutsevate organisatsioonide kohta, kellele teenuseosutajad määruse kohaselt teatavad veebis toimuvast laste seksuaalsest kuritarvitamisest, avaldatud aadressil https://home-affairs.ec.europa.eu/policies/internal-security/child-sexual-abuse/legal-framework-protect-children_en .

(8)

     Kooskõlas määruse (EL) 2021/1232 artikliga 8 Saksamaa esitatud aruanne, mis saadi kätte 18. oktoobril 2022. NCMEC avaldab kõik andmed ELi liikmesriikidega (sh Saksamaaga) seotud saadud teadete kohta oma dokumendis „CyberTipline Reports by Country“. Vt NCMEC, „2021 CyberTipline Reports by Country“ , vaadatud juulis 2023; NCMEC, „2022 CyberTipline Reports by Country“, vaadatud juulis 2023.

(9)

     https://www.bka.de/SharedDocs/Kurzmeldungen/DE/Kurzmeldungen/230623_Mindestspeicherfristen_IP-Adressen.html

(10)

     NCMEC, „2021 CyberTipline Reports by Country“ , vaadatud novembris 2023.

(11)

     NCMEC, „2022 CyberTipline Reports by Country“, vaadatud novembris 2023.

(12)

     NCMECi andmed on kättesaadavad siin .

(13)

     Vt nt tänu ettevõtjate vabatahtlikule teatamisele kogu ELis algatatud näidisjuhtumite loetelu, mis on esitatud mõjuhinnangus , mis on lisatud ettepanekule määruse kohta, millega kehtestatakse eeskirjad laste seksuaalse kuritarvitamise ennetamiseks ja tõkestamiseks (vt eelkõige 7. lisa).

(14)

     Teenuseosutajad ei pea metaandmeid laste seksuaalset kuritarvitamist kujutava materjali tuvastamisel tõhusaks vahendiks. Vt eelkõige Pfefferkorn, R., Stanford Internet Observatory, Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers, 9. september 2021, lk 10–11.

(15)

     Microsoft, „Digital Crimes Unit“ .

(16)

      PhotoDNA arendaja Hany Faridi tunnistus Kongressi energeetika- ja kaubanduskomiteele, „Fostering a Healthier Internet to Protect Consumers“, 16. oktoober 2019 .

(17)

     Internet Watch Foundation (IWF), 2022. aasta aruanne , lk 129–133.

(18)

     Vt lisateave ( siin ja siin ) Facebooki tööriista kohta, mille eesmärk on tehisintellekti ja masinõppe abil ennetavalt tuvastada laste alastust ja varem tundmatut laste ärakasutamist kujutavat sisu.

(19)

     Pfefferkorn, R., „Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers“, Journal of Online Trust and Safety, veebruar 2022, lk 1–38.

(20)

     Thorn, „Thorn’s Automated Tool to Remove Child Abuse Content at Scale Expands to More Platforms through AWS Marketplace“ , 24. mai 2021.

(21)

     Microsofti Project Artemis töötati välja koostöös Meet Groupi, Robloxi, Kiki ja Thorniga.

(22)

   Rohkem teavet saab aadressilt https://safety.twitch.tv/s/article/Our-Work-to-Combat-Online-Grooming?language=en_US . 

(23)

     Roblox filtreerib 12aastaste ja nooremate mängijate postitusi ja vestlusi sobimatu sisu suhtes ning et takistada isikuandmete (nt elukoha aadress) postitamist. See filtreerimissüsteem hõlmab kõiki Robloxi nii era- kui ka avaliku suhtluse valdkondi. Roblox, „Safety Features: Chat, Privacy & Filtering“ , vaadatud juulis 2023.

(24)

     Tech Coalition, „New Technology to Help Companies Keep Young People Safe“ , 20. juuni 2023.

(25)

     Tech Coalition, „New Technology to Help Companies Keep Young People Safe“ , 20. juuni 2023.

(26)

     DALL-E on TI-süsteem, mis suudab loomulikus keeles kirjelduse põhjal luua realistlikke pilte ja kunsti.

(27)

     Midjourney on generatiivse tehisintellekti programm, mis pakub loomulikus keeles kirjelduste põhjal piltide loomise teenust.

(28)

     Europol, ChatGPT - The impact of Large Language Models on Law Enforcement , 2023, ISBN 978-92-95220-57-7, lk 7.

(29)

     Swanson, S. M., „ChatGPT Generated Child Sex Abuse When Asked to Write BDSM Scenarios“ , Vice, 6. märts 2023; Mitchell, A., „ChatGPT gives sick child sex abuse answer, breaking its rules“, New York Post, 24. juuli 2023; Europol, ChatGPT - The impact of Large Language Models on Law Enforcement , 2023, ISBN 978-92-95220-57-7, lk 5.

(30)

     Fowler, G. A., „Snapchat tried to make a safe AI. It chats with me about booze and sex“ , The Washington Post, 14. märts 2023; Vincent, J., „Instagram is apparently testing an AI chatbot that lets you choose from 30 personalities“ , The Verge, 7. juuli 2023.

(31)

     Crawford, A., Smith, T., „Illegal trade in AI child sex abuse images exposed“ , BBC, 27. juuni 2023.

(32)

     Thiel, D., Stroebel, M. ja Portnoff, R., „Generative ML and CSAM: Implications and Mitigations“ , Stanford Digital Repository, 2023. Kättesaadav aadressil https://purl.stanford.edu/jv206yg3793 . https://doi.org/10.25740/jv206yg3793 , lk 2.

(33)

     Protect Children, „Protect Children’s research in the dark web is revealing unprecedented data on CSAM users“ , 6. juuni 2021; RAINN, „What is Child Sexual Abuse Material (CSAM)“ , 25. august 2022.

(34)

     Breck Foundation, „Is artificial intelligence putting children at risk?“ , 9. veebruar 2023, ajakohastatud 3. aprillil 2023.

(35)

     Butler, J., „AI tools could be used by predators to ‘automate child grooming’, eSafety commissioner warns“ , The Guardian, 19. mai 2023.

(36)

     Ettepanek: Euroopa Parlamendi ja nõukogu määrus, millega kehtestatakse eeskirjad laste seksuaalse väärkohtlemise ennetamiseks ja tõkestamiseks,  COM(2022) 209 final .