EURÓPSKA KOMISIA
V Bruseli19. 12. 2023
COM(2023) 797 final
SPRÁVA KOMISIE EURÓPSKEMU PARLAMENTU A RADE
o vykonávaní nariadenia Európskeho parlamentu a Rady (EÚ) 2021/1232 zo 14. júla 2021 o dočasnej výnimke z určitých ustanovení smernice 2002/58/ES, pokiaľ ide o používanie technológií poskytovateľmi interpersonálnych komunikačných služieb nezávislých od číslovania na spracúvanie osobných a iných údajov na účely boja proti online sexuálnemu zneužívaniu detí
OBSAH
LIST OF TERMS AND ACRONYMS
1. INTRODUCTION
2. IMPLEMENTATION MEASURES
2.1. Processing of personal data by providers (Article 3 (g) (vii))
2.1.1. Type and volumes of data processed
2.1.2. Grounds for processing pursuant to Regulation (EU) 2016/679
2.1.3. Ground for transfers of personal data outside the Union pursuant to Chapter V of the GDPR, where applicable
2.1.4. Number of cases of online child sexual abuse identified, differentiating between CSAM and solicitation of children
2.1.5. User redress and outcome
2.1.6. Number and ratios of errors (false positives) of the different technologies used
2.1.7. Measures applied to limit the error rate and the error rate achieved
2.1.8. The retention policy and the data protection safeguards applied pursuant to the GDPR
2.1.9. The names of the organisations acting in the public interest against child sexual abuse with which data has been shared pursuant to this Regulation
2.2. Member States' statistics (Article 8)
2.2.1. The total number of reports of detected online child sexual abuse
2.2.2. The number of children identified
2.2.3. The number of perpetrators convicted
2.3. Developments in technological progress
2.3.1. Known CSAM detection
2.3.2. New CSAM detection
2.3.3. Grooming detection
2.3.4. Artificial intelligence chatbots and art/image generators
3. CONCLUSIONS
ZOZNAM TERMÍNOV A AKRONYMOV
|
Termín/akronym |
Vymedzenie pojmu |
|
AI |
Umelá inteligencia |
|
API |
Aplikačné programovacie rozhranie |
|
CG-CSAM |
Materiál detskej pornografie vytvorený na počítači |
|
ChatGPT |
ChatGPT (generatívny predtrénovaný transformátor) je forma generatívnej umelej inteligencie. Je to chatbot založený na veľkých jazykových modeloch, vyvinutý spoločnosťou OpenAI, ktorý umožňuje používateľom vylepšiť a nasmerovať konverzáciu na požadovanú dĺžku, formát, štýl, úroveň podrobnosti a jazyk |
|
Klasifikátory |
Forma umelej inteligencie, algoritmus, ktorý roztrieďuje údaje do označených tried alebo kategórií. |
|
Klasifikátor Content Safety API |
Klasifikátor Content Safety API od spoločnosti Google využíva programatický prístup a umelú inteligenciu a pomáha roztrieďovať a priorizovať miliardy snímok na účely preskúmania |
|
CSA |
Sexuálne zneužívanie detí |
|
CSAI Match |
CSAI Match je technológia vyvinutá inžiniermi YouTube na identifikáciu opätovného nahrávania predtým identifikovaného sexuálneho zneužívania detí vo videách |
|
CSAM |
Materiál detskej pornografie, napr. snímky a videá zobrazujúce sexuálne zneužívanie detí |
|
Smernica o boji proti sexuálnemu zneužívaniu detí |
Smernica Európskeho parlamentu a Rady 2011/93/EÚ z 13. decembra 2011 o boji proti sexuálnemu zneužívaniu a sexuálnemu vykorisťovaniu detí a proti detskej pornografii, ktorou sa nahrádza rámcové rozhodnutie Rady 2004/68/SVV (Ú. v. EÚ L 335, 17.12.2011, s. 1 – 14) |
|
CSEA |
Sexuálne vykorisťovanie a zneužívanie detí |
|
Online sexuálne zneužívanie detí |
Spoločný termín používaný pre tri druhy sexuálneho zneužívania detí vymedzené v smernici o boji proti sexuálnemu zneužívaniu detí, a to: detská pornografia, pornografické predstavenie a kontaktovanie detí (tzv. grooming), ako sa vymedzujú v dočasnom nariadení (článok 2 ods. 4) |
|
EÚ |
Európska únia |
|
Všeobecné nariadenie o ochrane údajov |
Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1 – 88) |
|
Grooming |
Páchatelia, ktorí budujú dôveru dieťaťa a vzťah s ním v snahe získať prístup k maloletej osobe v záujme sexuálneho vykorisťovania alebo zneužívania. Formálne známy ako kontaktovanie detí podľa vymedzenia v článku 6 smernice o boji proti sexuálnemu zneužívaniu detí |
|
Hash |
Jedinečný digitálny kód vytvorený matematickým algoritmom („hašovanie“), ktorý sa stáva podpisom daného súboru alebo jeho hašovacou hodnotou |
|
Dočasné nariadenie |
Nariadenie Európskeho parlamentu a Rady (EÚ) 2021/1232 zo 14. júla 2021 o dočasnej výnimke z určitých ustanovení smernice 2002/58/ES, pokiaľ ide o používanie technológií poskytovateľmi interpersonálnych komunikačných služieb nezávislých od číslovania na spracúvanie osobných a iných údajov na účely boja proti online sexuálnemu zneužívaniu detí (Ú. v. EÚ L 274, 30.7.2021, s. 41 – 51) |
|
LLM |
Veľký jazykový model je typ modelu umelej inteligencie, ktorý bol vytrénovaný pomocou algoritmov hlbokého učenia s cieľom rozpoznať, generovať, preložiť a/alebo zhrnúť veľké množstvo písaného ľudského jazyka a textových údajov |
|
MD5 |
Kryptografický algoritmus pre overovací kód správ, ktorý sa používa na internete |
|
Meta SSN++ |
Model umelej inteligencie vyvinutý spoločnosťou Meta, ktorý dokáže odhaliť takmer presné duplikáty |
|
NCMEC |
Národné centrum pre nezvestné a vykorisťované deti (súkromná nezisková organizácia v USA), ktorému sú poskytovatelia online služieb povinní podľa právnych predpisov USA oznamovať prípady možného sexuálneho zneužívania detí, ktoré nájdu vo svojich sieťach |
|
PDQ a TMK+PDQF |
Nástroje, ktoré Facebook používa na odhaľovanie škodlivého obsahu. PDQ je technológia zisťovania zhody medzi fotografiami; TMK+PDQF je technológia zisťovania zhody medzi videami |
|
PhotoDNA |
Najpoužívanejší nástroj založený na technológii hašovania, ktorý je k dispozícii bezplatne, na základe licenčnej zmluvy prispôsobenej tak, aby sa zabránilo jeho zneužívaniu a používaniu na akýkoľvek iný účel, než je odhaľovanie sexuálneho zneužívania detí |
1.ÚVOD
Článkom 9 dočasného nariadenia (ďalej aj „nariadenie“) sa Komisii ukladá povinnosť vypracovať správu o jeho vykonávaní na základe oznámení predložených poskytovateľmi interpersonálnych komunikačných služieb (ďalej len „poskytovatelia“) o spracúvaní osobných údajov a štatistík poskytnutých členskými štátmi. Podľa uvedeného ustanovenia Komisia v správe o vykonávaní posúdi predovšetkým:
a) príslušné podmienky spracúvania relevantných osobných údajov a iných údajov spracúvaných podľa nariadenia;
b) proporcionalitu výnimky stanovenej v nariadení vrátane posúdenia štatistických údajov predložených členskými štátmi podľa článku 8;
c) novinky v oblasti technologického pokroku v súvislosti s činnosťami, na ktoré sa vzťahuje nariadenie, a rozsah, v ktorom tento vývoj zvyšuje presnosť a znižuje počet chýb a chybovosť (falošne pozitívne výsledky).
Táto správa o vykonávaní podľa dočasného nariadenia vychádza z údajov získaných prostredníctvom oznamovania poskytovateľmi podľa článku 3 ods. 1 písm. g) bodu vii) a členskými štátmi podľa článku 8. Z takéhoto oznamovania vyplynuli značné rozdiely v dostupnosti údajov, druhoch zozbieraných údajov, a teda aj v porovnateľnosti údajov zozbieraných poskytovateľmi a členskými štátmi. Keďže v nariadení sa nestanovuje vzor oznámení, poskytovatelia odovzdali rôzne druhy informácií, ktoré neboli nevyhnutne porovnateľné; útvary Komisie preto uskutočnili následné opatrenia s cieľom zabezpečiť správny výklad údajov. Väčšina členských štátov nebola schopná poskytnúť údaje včas a niektoré z nich neboli schopné poskytnúť žiadne údaje do uverejnenia tejto správy. To malo významný vplyv na načasovanie, úplnosť a užitočnosť správy. Napriek úsiliu o zabezpečenie súdržnosti údajov a porovnateľnosti pretrvávajú značné rozdiely, ktoré sa odrážajú v tabuľkách ďalej, ktoré takisto neobsahujú údaje za všetkých poskytovateľoch alebo členské štáty vo všetkých bodoch.
Cieľom tejto správy o vykonávaní je poskytnúť faktický prehľad súčasného stavu v súvislosti s vykonávaním dočasného nariadenia na základe dostupných údajov. V správe sa neuvádza žiadny výklad nariadenia a nezaujíma sa žiadne stanovisko k spôsobu jeho výkladu a uplatňovania v praxi.
2.VYKONÁVACIE OPATRENIA
2.1.Spracúvanie osobných údajov poskytovateľmi [článok 3 písm. g) bod vii)]
V článku 3 písm. g) bode vii) dočasného nariadenia sa stanovujú podmienky pre poskytovateľov konajúcich na základe výnimky uvedenej v tomto nariadení, aby do 3. februára 2022 a potom každoročne do 31. januára uverejnili a predložili správu príslušnému dozornému orgánu a Komisii o spracúvaní osobných údajov podľa tohto nariadenia. Spoločnosti Google, LinkedIn, Meta, Microsoft a X (bývalý Twitter) 1 predložili správy za roky 2021 a 2022.
2.1.1.Druh a objem spracúvaných údajov
Poskytovatelia uviedli, že spracúvajú obsah aj prevádzkové údaje.
Pokiaľ ide o údaje o obsahu spracúvané na odhaľovanie online sexuálneho zneužívania detí, všetci uvedení poskytovatelia spomenuli snímky a videá. Väčšinou sa spoliehali na technológie hašovania na zisťovanie zhody PhotoDNA a MD5 pri zisťovaní zhody s predtým identifikovaným materiálom detskej pornografie. Nástroj CSAI Match spoločnosti Google bol použitý na vytvorenie digitálnych odtlačkov videí na platformách a ich porovnanie so súbormi v úložisku odtlačkov spoločnosti Google/YouTube (LinkedIn). Rovnako sa uvádzalo používanie automatizovanej technológie (strojové učenie, umelá inteligencia) a ľudské preskúmanie (napr. Google). Spoločnosti Google a LinkedIn potvrdili, že identifikovali aj materiál detskej pornografie, ktorý sa nezhodoval s predtým identifikovaným materiálom detskej pornografie. Žiadny z piatich poskytovateľov, ktorí predložili údaje, neoznámil údaje o odhaľovaní kontaktovania detí prostredníctvom detekcie textu v rozsahu pôsobnosti výnimky stanovenej v tomto nariadení.
Pokiaľ ide o zozbierané prevádzkové údaje a príslušné objemy rôznych druhov obsahu a spracúvaných prevádzkových údajov, oznámenia poskytovateľov sa podstatne líšili.
Prevádzkové údaje zozbierané poskytovateľmi a zahrnuté do oznámení CyberTipline pre Národné centrum pre nezvestné a vykorisťované deti v USA (ďalej len „NCMEC“) zahŕňajú tieto údaje (všetky alebo ich výber):
a)údaje týkajúce sa používateľa/oznamovateľa/účtu (Google, LinkedIn, Microsoft, X);
b)metaúdaje týkajúce sa údajov o obsahu/transakciách (Google, LinkedIn, Microsoft);
c)údaje týkajúce sa potenciálnej obete (Google);
d)údaje o operáciách týkajúce sa zneužívania (Google).
Pokiaľ ide o objem údajov spracúvaných podľa dočasného nariadenia, spoločnosť LinkedIn oznámila, že spracovala 8 miliónov snímok a videí pochádzajúcich z EÚ v období od 14. júla do 31. decembra 2021 a 21 miliónov snímok a 63 000 videí pochádzajúcich z EÚ v roku 2022. Spoločnosť Microsoft oznámila, že na účely nariadenia spracovala 8,9 miliardy snímok a videí na celom svete v období od júla do decembra 2021 a 12,3 miliardy položiek obsahu na celom svete v roku 2022. Údaje za EÚ neboli k dispozícii, preto nie je možné vyvodiť žiadne závery na účely tejto správy. Ostatní poskytovatelia neposkytli informácie o objeme spracovaných údajov. Z piatich oznamujúcich poskytovateľov preto iba jeden poskytol údaje na požadovanej úrovni podrobnosti.
Na ilustráciu celkového kontextu NCMEC uviedlo, že v roku 2022 prijalo celkovo 87,2 milióna snímok a videí z celého sveta a 5,1 milióna snímok a videí týkajúcich sa EÚ a 84,8 milióna snímok a videí z celého sveta a 1,8 milióna snímok a videí týkajúcich sa EÚ v roku 2021. Ide len o materiály, ktoré poskytovateľ identifikoval ako potenciálny materiál detskej pornografie, a preto ich nemožno považovať za ukazovateľ celkového objemu údajov spracovaných podľa dočasného nariadenia.
2.1.2. Dôvody spracúvania podľa nariadenia (EÚ) 2016/679
Poskytovatelia uviedli, že sa opierali o tieto osobitné dôvody podľa nariadenia (EÚ) 2016/679 (ďalej len „všeobecné nariadenie o ochrane údajov“):
·článok 6 ods. 1 písm. d) všeobecného nariadenia o ochrane údajov, t. j. spracúvanie nevyhnutné na ochranu životne dôležitých záujmov detí a osôb, ktoré sú obeťami online sexuálneho zneužívania detí (Google, Meta, X 2 ),
·článok 6 ods. 1 písm. e) všeobecného nariadenia o ochrane údajov, t. j. spracúvanie nevyhnutné na splnenie úloh realizovaných vo verejnom záujme (LinkedIn, Microsoft, Meta, X 3 ),
·článok 6 ods. 1 písm. f) všeobecného nariadenia o ochrane údajov, t. j. spracúvanie nevyhnutné na účely oprávnených záujmov:
I.poskytovateľa s cieľom odhaľovať online sexuálne zneužívanie detí v jeho službách, predchádzať mu alebo inak ho riešiť a chrániť ostatných používateľov, zákazníkov, partnerov a verejnosť pred touto formou nezákonného obsahu (Google, Meta);
II.obetí sexuálneho zneužívania detí a organizácie, ktorej poskytovateľ oznamuje online sexuálne zneužívanie detí (napr. NCMEC) s cieľom odhaľovať online sexuálne zneužívanie detí, predchádzať mu a odstraňovať ho zo svojich služieb (Google).
2.1.3.Dôvod pre prenosy osobných údajov mimo Únie podľa kapitoly V všeobecného nariadenia o ochrane údajov v náležitých prípadoch
Všetci poskytovatelia uviedli, že sa opierali o štandardné zmluvné doložky schválené Komisiou podľa článku 46 ods. 2 písm. c) všeobecného nariadenia o ochrane údajov. Pokiaľ ide o prenosy osobných údajov NCMEC, spoločnosť LinkedIn takisto uviedla, že sa opierala o výnimku v rozsahu, v akom je povolená podľa článku 49 ods. 1 všeobecného nariadenia o ochrane údajov.
2.1.4.Počet zistených prípadov online sexuálneho zneužívania detí s rozlíšením na online materiál detskej pornografie a kontaktovanie detí
Tabuľka 1: Počet prípadov online sexuálneho zneužívania detí zistených v roku 2021
|
Poskytovateľ |
Počet prípadov týkajúcich sa materiálu detskej pornografie zistených v roku 2021 |
Poznámky |
|
|
33 účtov Google Chat |
Ide o počet účtov Google Chat používateľov z EÚ, v prípade ktorých bolo v období od 2. augusta do 31. decembra 2021 prostredníctvom automatizovaných technológií zistené online sexuálne zneužívanie detí. Neboli poskytnuté žiadne údaje o počte identifikovaných položiek obsahu. |
|
|
31 položiek obsahu |
31 položiek obsahu bolo potvrdených pomocou manuálneho preskúmania ako materiál detskej pornografie a oznámených NCMEC; 6 z nich tvoril známy materiál detskej pornografie a 25 neznámy materiál detskej pornografie. |
|
Meta |
340 000 účtov |
Počet účtov odhalených ako účty, z ktorých sa odoslal aspoň jeden mediálny súbor predstavujúci materiál detskej pornografie vo vláknach správ, ktoré zahŕňali používateľa z EÚ, v období od 8. novembra do 31. decembra 2021. |
|
Microsoft |
6 600 položiek obsahu |
6 600 položiek obsahu (jedna snímka alebo video) potvrdených ako materiál detskej pornografie odhalených ako pochádzajúce z Európskej únie z vyše 20 000 položiek obsahu identifikovaných na celom svete v období od júla do decembra 2021. |
|
X (bývalý Twitter) |
532 898 účtov |
Účty (nie je jasné, či len z EÚ alebo z celého sveta) boli pozastavené z dôvodu porušenia politiky spoločnosti X týkajúcej sa sexuálneho vykorisťovania detí v období od 2. augusta do 31. decembra 2021. |
V prípade spoločnosti X nie je z poskytnutých údajov jasné, či sa týkajú výlučne služieb, ktoré patria do rozsahu pôsobnosti dočasného nariadenia (interpersonálne komunikačné služby nezávislé od číslovania), alebo či toto číslo zahŕňa aj iné služby (napríklad služby informačnej spoločnosti). Vzťahuje sa to na všetky údaje týkajúce sa spoločnosti X v tejto správe.
Tabuľka 2: Počet prípadov online sexuálneho zneužívania detí zistených v roku 2022
|
Poskytovateľ |
Počet prípadov týkajúcich sa materiálu detskej pornografie zistených v roku 2022 |
Poznámky |
|
|
2 045 položiek obsahu |
Položky obsahu identifikované a oznámené NCMEC v rámci 752 účtov Google používateľov z EÚ prostredníctvom automatizovaných technológií. |
|
|
2 položky obsahu |
Spoločnosť LinkedIn odhalila 2 snímky a 0 videí potvrdených ako materiál detskej pornografie. |
|
Meta |
6,6 milióna položiek obsahu |
Mediálne súbory predstavujúce materiál detskej pornografie, v súvislosti s ktorými sa prijali opatrenia, odhalené pomocou technológie zisťovania zhody medzi médiami vo vláknach správ, ktoré zahŕňali používateľa z EÚ. |
|
Microsoft |
12 800 položiek obsahu |
12 800 položiek obsahu (jedna snímka alebo video) potvrdených ako materiál detskej pornografie odhalených ako pochádzajúce z Európskej únie z vyše 50 000 položiek obsahu identifikovaných na celom svete v roku 2022. |
|
X (bývalý Twitter) |
2 348 712 účtov |
Účty (nie je jasné, či len z EÚ alebo z celého sveta) boli pozastavené z dôvodu porušenia politiky spoločnosti X týkajúcej sa sexuálneho vykorisťovania detí. |
2.1.5.Náprava pre používateľov a výsledok
V súlade s článkom 3 ods. 1 písm. g) bodom iv) dočasného nariadenia majú poskytovatelia zaviesť vhodné postupy a mechanizmy nápravy s cieľom zabezpečiť, aby im používatelia mohli podať sťažnosť. Okrem toho jeho článok 5 obsahuje pravidlá týkajúce sa súdnych prostriedkov nápravy.
Poskytovatelia oznámili zavedenie takýchto interných postupov a mechanizmov uplatňovania nárokov na nápravu pre používateľov, ktorých účty boli obmedzené z dôvodu šírenia materiálu detskej pornografie a/alebo obsahu odstráneného ako materiál detskej pornografie, aby sa mohli odvolať proti obmedzeniu/odstráneniu svojho účtu a predložiť svoj prípad na preskúmanie chýb.
Oznámili prípady, v ktorých používateľ v rámci EÚ podal sťažnosť prostredníctvom interného mechanizmu uplatňovania nárokov na nápravu alebo prostredníctvom súdneho orgánu vo veci patriacej do rozsahu pôsobnosti nariadenia, a výsledok takýchto sťažností. Žiadny poskytovateľ okrem spoločnosti Microsoft (ktorá oznámila 0 sťažností v rámci oboch kanálov v rokoch 2021 a 2022) neoznámil samostatné štatistiky o internej náprave ani súdnych prostriedkoch nápravy. V dôsledku toho sa tabuľky ďalej vzťahujú tak na interné postupy uplatňovania nárokov na nápravu, ako aj súdne prostriedky nápravy.
Tabuľka 3: Počet prípadov, v ktorých používateľ podal sťažnosť v rámci interného mechanizmu uplatňovania nárokov na nápravu alebo prostredníctvom súdneho orgánu, a výsledok takýchto sťažností v roku 2021
|
Poskytovateľ |
Počet prípadov sťažností používateľov |
Počet obnovených účtov |
Množstvo obnoveného obsahu |
Poznámky |
|
|
8 |
0 |
Neuvádza sa. |
Účty Google Chat deaktivované z dôvodu online sexuálneho zneužívania detí, v prípade ktorých sa používateľ odvolal: 8. Žiadny nebol obnovený. |
|
|
0 |
Neuvádza sa. |
Neuvádza sa. |
|
|
Meta |
4 900 |
Neuvádza sa. |
207 |
4 900 používateľov sa odvolalo. V nadväznosti na odvolací proces bol obnovený obsah 207 používateľov a opatrenia prijaté v súvislosti s ich účtami sa zrušili. |
|
Microsoft |
0 |
Neuvádza sa. |
Neuvádza sa. |
|
|
X (bývalý Twitter) |
Približne 90 000 |
Približne 3 000 |
Neuvádza sa. |
Približne 90 000 odvolaní. Spoločnosť X obnovila približne 3 000 z týchto účtov. |
Tabuľka 4: Počet prípadov, v ktorých používateľ podal sťažnosť v rámci interného mechanizmu uplatňovania nárokov na nápravu alebo prostredníctvom súdneho orgánu, a výsledok takýchto sťažností v roku 2022
|
Poskytovateľ |
Počet prípadov sťažností používateľov |
Počet obnovených účtov |
Množstvo obnoveného obsahu |
Poznámky |
|
|
378 |
0 |
Neuvádza sa. |
Účty Google deaktivované z dôvodu online sexuálneho zneužívania detí, v prípade ktorých sa používateľ odvolal: 378. Žiadny nebol obnovený. |
|
|
0 |
Neuvádza sa. |
Neuvádza sa. |
|
|
Meta |
29 000 |
Neuvádza sa. |
3 700 |
Používatelia sa odvolali proti opatreniam prijatým v súvislosti približne s 29 000 mediálnymi súbormi, ktoré šírili. V nadväznosti na odvolací proces bolo obnovených približne 3 700 častí obsahu a opatrenia prijaté v súvislosti s účtami sa zrušili. |
|
Microsoft |
0 |
Neuvádza sa. |
Neuvádza sa. |
|
|
X (bývalý Twitter) |
Približne 430 000 |
Približne 4 000 |
Neuvádza sa. |
Približne 430 000 odvolaní. Spoločnosť X obnovila približne 4 000 z týchto účtov. |
2.1.6.Počet chýb a chybovosť (falošne pozitívne výsledky) jednotlivých použitých technológií
V súlade s článkom 3 ods. 1 písm. e) dočasného nariadenia majú poskytovatelia zabezpečiť, aby použité technológie boli samy osebe dostatočne spoľahlivé v tom zmysle, že v maximálnej možnej miere obmedzujú chybovosť, pokiaľ ide o odhaľovanie obsahu predstavujúceho online sexuálne zneužívanie detí.
V tejto súvislosti poskytovatelia uviedli, že na odhalenie online sexuálneho zneužívania detí neuplatňujú každú technológiu samostatne. Namiesto toho uplatňujú viacúrovňový prístup k odhaľovaniu online sexuálneho zneužívania detí kombináciou rôznych technológií odhaľovania na zvýšenie presnosti. Aby sa obmedzili chyby alebo falošne pozitívne výsledky, všetci poskytovatelia ich dopĺňajú ľudským preskúmaním. Poskytovatelia neuviedli počet chýb a chybovosť (falošne pozitívne výsledky) za každú jednotlivú technológiu použitú samostatne, ale namiesto toho oznámili súhrnné údaje za všetky použité technológie.
Väčšina poskytovateľov meria počet chýb a chybovosť ako zrušenia rozhodnutia o presadzovaní, t. j. ako celkovú mieru obnovenia/zrušenia v nadväznosti na odvolanie (napr. miera, v akej poskytovateľ obnovil deaktivované účty alebo obsah na základe odvolania používateľa). Prístup poskytovateľov nemusí nevyhnutne odrážať vymedzenie „falošne pozitívnych výsledkov“ v štatistikách.
Oznámená miera obnovenia/zrušenia v nadväznosti na odvolanie je takáto:
Tabuľka 5: Miera obnovenia/zrušenia v nadväznosti na odvolanie
|
2021* |
2022 |
||||||
|
Poskytovateľ |
% obnovených účtov v porovnaní s počtom odvolaní |
% obnovených účtov v porovnaní s pozastavenými účtami |
% obnovených účtov v porovnaní s počtom odvolaní |
% obnovených účtov v porovnaní s pozastavenými účtami |
Poznámky |
||
|
|
0 % (0 vs 8) |
0 % (0 vs 33) |
0 % (0 vs 378) |
0 % (pozri poznámky) |
Počet pozastavených účtov za rok 2022 nebol poskytnutý. Namiesto toho sa poskytol počet identifikovaných častí obsahu, ktoré boli oznámené NCMEC, a to 2 045. V nadväznosti na odvolanie nebol obnovený žiadny účet. |
||
|
|
0 % |
0 % |
0 % |
0 % |
Žiadne odvolania. Za obdobie od 13. júla do 31. decembra 2021 spoločnosť LinkedIn takisto oznámila, že zo 75 súborov preskúmaných ako potenciálny materiál detskej pornografie pochádzajúci z EÚ bolo pomocou ľudského preskúmania 31 potvrdených ako materiál detskej pornografie. Spoločnosť LinkedIn neposkytla takéto údaje za rok 2022. |
||
|
Meta |
4,22 % (207 vs 4 900) |
0,06 % (207 vs 340 000) |
Pozri poznámky |
Pozri poznámky |
Neboli poskytnuté žiadne informácie, ktoré by presne určovali rozsah, obsah odvolaní a dôvody na obnovenie. Poskytnuté údaje za rok 2022 sa týkali častí obsahu, nie účtov: -Počet pozastavených častí obsahu („vykonané“): 6,6 milióna -Počet častí obsahu, ktoré boli predmetom odvolania: 29 000 -Počet obnovených častí obsahu: 3 700 Preto: -% obnovených častí obsahu v porovnaní s počtom odvolaní: 12,8 % (3 700 vs 29 000) -% obnovených častí obsahu v porovnaní s počtom pozastavených častí obsahu: 0,06 % (3 700 vs 6,6 milióna) |
||
|
Microsoft |
0 % |
– |
– |
– |
Údaje nie sú dostatočné na to, aby bolo možné vypočítať mieru obnovenia/zrušenia v nadväznosti na odvolanie. Za rok 2022 dokopy 17 zrušení pôvodného rozhodnutia o moderovaní obsahu, neboli poskytnuté žiadne údaje o celkovom počte odvolaní. |
||
|
X (bývalý Twitter) |
1,43 % (100 vs 7 000) |
0,06 % (100 vs 166 000) |
2,17 % (500 vs 23 000) |
0,10 % (500 vs 501 000) |
V druhom polroku 2021 boli prostredníctvom automatizovaných mechanizmov pozastavené účty približne 166 000 používateľov z dôvodu sexuálneho zneužívania detí. Z týchto používateľov podalo približne 7 000 odvolania, ktoré viedli k zrušeniu rozhodnutia o pozastavení v približne 100 prípadoch. V roku 2022 boli prostredníctvom automatizovaných mechanizmov pozastavené účty približne 501 000 používateľov v dôsledku sexuálneho zneužívania detí. Z týchto používateľov podalo približne 23 000 odvolania, ktoré viedli k zrušeniu rozhodnutia o pozastavení v približne 500 prípadoch. |
||
* Obdobia oznamovania v roku 2021 sa v prípade každého poskytovateľa líšia
2.1.7.Opatrenia uplatnené na obmedzenie chybovosti a dosiahnutej chybovosti
Podľa článku 3 ods. 1 písm. e) dočasného nariadenia musia byť použité technológie dostatočne spoľahlivé a dôsledky akýchkoľvek príležitostných chýb sa musia bezodkladne odstrániť. Okrem toho sa v článku 3 ods. 1 písm. g) bode ii) vyžaduje ľudský dohľad a v prípade potreby ľudský zásah.
Všetci poskytovatelia oznámili používanie viacúrovňového prístupu na odhaľovanie šírenia online sexuálneho zneužívania detí a boj proti nemu. To zahŕňa používanie technológií hašovania na zisťovanie zhody (vrátane PhotoDNA) na odhaľovanie materiálu detskej pornografie v kombinácii s procesmi ľudského preskúmania s cieľom potvrdiť, či mediálny súbor (snímka a video) obsahuje materiál detskej pornografie, ako aj ľudský dohľad nad spracovaním materiálu detskej pornografie.
Poskytovatelia uviedli, že uplatňujú rôzne opatrenia a záruky na obmedzenie a zníženie chybovosti pri odhaľovaní, oznamovaní a odstraňovaní online sexuálneho zneužívania detí. Patrí sem (neúplný zoznam) 4 :
I.monitorovanie a hodnotenie kvality výkonnosti nástrojov odhaľovania sexuálneho zneužívania detí, a to s cieľom doladiť presnosť (že odhaľujú len online sexuálne zneužívanie detí), ako aj pripomenúť (že na svojich platformách neprehliadajú online sexuálne zneužívanie detí) (Google, X);
II.ľudské preskúmanie a dohľad: vzorky mediálnych súborov, ktoré boli odhalené ako materiál detskej pornografie prostredníctvom technológií zisťovania zhody pomocou hašovania, sú kontrolované ľudskými kontrolórmi/vyškolenými analytikmi (Google, LinkedIn, Meta, Microsoft);
III.označovanie a preskúmanie vysokoobjemových klastrov (Meta);
IV.zavedenie ďalších procesov manuálneho preskúmania ako priebežné kontroly kvality pomocou hašovania (LinkedIn, Microsoft);
V.ľudskí kontrolóri, ktorí absolvujú špecializovanú dôkladnú odbornú prípravu pod vedením poradcu o tom, ako rozpoznať obsah s materiálom detskej pornografie s cieľom zabezpečiť presnosť ľudského preskúmania (Google);
VI.pravidelné hodnotenia kontroly kvality ľudských kontrolórov a uplatňované verdikty (Google, X);
VII.iné postupy kontroly kvality na zníženie chýb a okamžitú nápravu, ako napríklad nezávislé overovanie pomocou hašovania (Google, LinkedIn), ľudské preskúmanie každého materiálu detskej pornografie, ktorý bol pred oznámením neznámy (Google);
VIII.vypracovanie a pravidelné preskúmanie politík a stratégií presadzovania zo strany vyškolených odborníkov na problematiku online sexuálneho zneužívania detí (Google);
IX.zaoberanie sa kvalitou oznámení CyberTipline pre NCMEC a prípadne falošne pozitívnymi výsledkami. (Google, LinkedIn, Meta, Microsoft, X).
2.1.8.Politika uchovávania a záruky ochrany údajov uplatnené v súlade so všeobecným nariadením o ochrane údajov
V článku 3 ods. 1 písm. h) dočasného nariadenia sa vyžaduje, aby sa príslušné osobné údaje uchovávali bezpečným spôsobom len na určité osobitné účely, a v článku 3 ods. 1 písm. i) dočasného nariadenia sa vyžaduje, aby tieto údaje obsahovali špecifikácie týkajúce sa doby uchovávania. Okrem toho sa musia dodržiavať uplatniteľné požiadavky všeobecného nariadenia o ochrane údajov.
Poskytovatelia uviedli, že majú zavedené spoľahlivé politiky uchovávania a záruky ochrany osobných údajov. Politiky uchovávania údajov sa líšia v závislosti od druhu údajov. Poskytovatelia uvádzajú, že v každom prípade je obdobie uchovávania obmedzené na čas, ktorý sa považuje za primeraný pre druh údajov a účel spracovania, a že údaje sa na konci obdobia uchovávania vymažú. Poskytovatelia majú podrobnejšie informácie o postupoch uchovávania údajov, ktoré sú definované v ich zásadách ochrany súkromia/vyhláseniach o ochrane osobných údajov a v dohodách o poskytovaní služieb/používateľských dohodách.
Väčšina poskytovateľov (LinkedIn, Meta, Microsoft) uplatňuje 90-dňovú politiku uchovávania pre mediálne súbory, pri ktorých sa potvrdilo, že obsahujú materiál detskej pornografie odhalený v rozsahu pôsobnosti nariadenia. Počas tohto obdobia sa obsah potvrdený ako materiál detskej pornografie uchováva v samostatnom a zabezpečenom úložisku pre materiál detskej pornografie, ktorý spravujú špecializované tímy (napr. tím spoločnosti Microsoft pre presadzovanie práva a národnú bezpečnosť). Tieto systémy uchovávania automaticky odstránia uchovávaný obsah s materiálom detskej pornografie po 90 dňoch, pokiaľ sa doba uchovávania nepredĺži po prijatí žiadostí o zákonné spracovanie, ktoré sa vo všeobecnosti týkajú orgánov presadzovania práva v nadväznosti na oznámenia NCMEC.
Spoločnosť Google oznámila, že materiál detskej pornografie odhalený v rozsahu pôsobnosti nariadenia sa neuchováva dlhšie, ako je nevyhnutne potrebné na príslušné účely podľa nariadenia, a v žiadnom prípade nie dlhšie ako 12 mesiacov od zistenia a oznámenia materiálu detskej pornografie s možným predĺžením na základe platnej žiadosti o zákonné uchovanie.
Spoločnosť X (bývalý Twitter) uviedla, že uchováva informácie o profile a obsah profilu počas existencie účtu používateľa a osobné údaje zozbierané pri používaní ich služby používateľmi uchováva maximálne 18 mesiacov. Keď používateľ deaktivuje účet, spoločnosť X vo všeobecnosti uchováva údaje ďalších 30 dní, potom sa účet vymaže. Údaje o používateľoch týkajúce sa sťažností a porušení zásad vrátane informácií o účte porušovateľov (napr. identifikátory použité na vytvorenie účtu: e-mailová adresa alebo telefónne číslo) sa uchovávajú na neurčito, aby sa porušovateľom zásad zabránilo v opakovanom vytváraní nových účtov a aby sa zabezpečilo, že porušovatelia zásad spoločnosti X nemôžu jednoducho počkať, kým sa účet odstráni, a potom zásady znova porušovať 5 .
Záruky ochrany osobných údajov zavedené poskytovateľmi zahŕňajú štandardné odvetvové opatrenia (všetky alebo ich výber), ako napríklad (neúplný zoznam) 6 :
I.používanie techník odstránenia identifikácie alebo pseudonymizácie a anonymizácia údajov (napr. maskovanie, hašovanie, diferenciálna ochrana súkromia) (Google, LinkedIn, Meta, Microsoft);
II.tretím stranám sa na účely odhalenia materiálu detskej pornografie poskytujú iba hašovacie hodnoty (Google, LinkedIn);
III.používanie štandardného odvetvového šifrovania (algoritmy a protokoly) pre údaje prenášané medzi infraštruktúrou v súkromnom vlastníctve a verejnými sieťami (Meta);
IV.vykonávanie stratégií v oblasti správy údajov/komplexných programov ochrany súkromia (X, bývalý Twitter, Google) a prísnych interných obmedzení prístupu k údajom (Meta) (napr. uplatňované na zamestnancov, dodávateľov, agentov, ktorí potrebujú informácie na ich spracovanie), používanie zoznamov kontroly prístupu v rámci nástrojov na preskúmanie materiálu detskej pornografie a zákazu hašovania (Meta) a uplatňovanie prísnych zmluvných povinností zachovania dôvernosti na osoby s prístupom;
V.preskúmanie stratégií anonymizácie a správy údajov, t. j. vykonávanie preskúmaní ochrany súkromia s cieľom identifikovať potenciálne riziká v oblasti ochrany súkromia, získať prístup k nim a zmierňovať tieto riziká vyplývajúce zo zberu, spracúvania, z uchovávania a výmeny osobných údajov, preskúmanie postupov ochrany (Microsoft);
VI.udržiavanie plánov riešenia bezpečnostných incidentov na monitorovanie, odhaľovanie a riešenie všetkých možných bezpečnostných zraniteľností a incidentov v celej infraštruktúre (Google, Meta).
2.1.9.Názvy organizácií konajúcich vo verejnom záujme proti sexuálnemu zneužívaniu detí, ktorým boli tieto údaje poskytnuté podľa tohto nariadenia.
V oboch obdobiach oznamovania (júl/august 2021 až december 2021 a január až december 2022) všetci poskytovatelia uviedli, že si vymieňali údaje spracúvané podľa tohto nariadenia s NCMEC. Všetci oznamujúci poskytovatelia takisto v súlade s článkom 7 ods. 1 dočasného nariadenia oznámili Komisii, že online sexuálne zneužívanie detí podľa tohto nariadenia oznámili NCMEC 7 .
2.2.Štatistiky členských štátov (článok 8)
Členské štáty sú povinné podľa článku 8 ods. 1 dočasného nariadenia predložiť štatistiky o:
(a)celkovom počte oznámení o odhalenom online sexuálnom zneužívaní detí, ktoré poskytovatelia a organizácie konajúce vo verejnom záujme proti sexuálnemu zneužívaniu detí poskytli príslušným vnútroštátnym orgánom presadzovania práva, pričom, ak sú takéto informácie dostupné, rozlišuje sa medzi absolútnym počtom prípadov a tými prípadmi, ktoré boli oznámené viackrát, ako aj typom poskytovateľa, u ktorého služieb bolo online sexuálne zneužívanie detí odhalené;
(b)počte detí identifikovaných na základe opatrení podľa článku 3 s rozlíšením podľa pohlavia;
(c)počte odsúdených páchateľov.
Zatiaľ čo väčšina členských štátov poskytla aspoň čiastočné informácie, v mnohých členských štátoch neboli zavedené príslušné systémy zberu údajov a oznamovania. Preto v prípade, že štatistické údaje boli predložené, týkajú sa veľmi rôznorodých období oznamovania a výrazne sa líšia z hľadiska podrobnosti. Niektoré členské štáty predložili ročné štatistiky ku dňu nadobudnutia účinnosti nariadenia. Väčšina z nich ich oznámila za kalendárne roky, pretože ku dňu nadobudnutia účinnosti nariadenia nemuseli mať technické prostriedky na rozlíšenie požadovanej štatistiky podľa roku. Niekoľko členských štátov údaje vôbec neposkytlo.
Okrem toho treba poznamenať, že v niektorých prípadoch sa štatistické údaje získavajú z takzvaných súčasných databáz alebo zo systémov žurnalizácie a správy vecí, t. j. nie zo skutočných štatistických systémov. Čísla sa niekedy poskytujú na základe dynamických údajov, čo znamená, že údaje nie sú konečné, t. j. podliehajú zmenám. Zmeny sa vyskytnú napríklad v závislosti od času extrakcie (napr. v Slovinsku a Dánsku) s pribúdajúcimi ukončeniami vyšetrovaní a súdnych konaní.
Vo viacerých členských štátoch príslušné orgány vytvárajú nové oddelenia na vyšetrovanie trestných činov súvisiacich s online sexuálnym zneužívaním detí a vytvárajú centrálne oznamovanie online sexuálneho zneužívania detí online (Lotyšsko, Česko). To by malo pomôcť získať presnejšie štatistiky v budúcnosti.
Nemecko uviedlo, že nemôže predložiť nijaké štatistiky podľa článku 8 ods. 1 dočasného nariadenia, keďže sa domnieva, že nemá žiadny právny základ pre dobrovoľné odhaľovanie 8 . Nemecký spolkový úrad kriminálnej polície (BKA) však na svojom webovom sídle informuje o prijatí 89 844 oznámení od NCMEC v roku 2022 a NCMEC informuje o zaslaní 138 193 oznámení nemeckým orgánom. 9 Tri členské štáty neposkytli žiadne údaje ani odôvodnenie, prečo neoznámili údaje podľa tohto ustanovenia (Malta, Portugalsko a Rumunsko).
2.2.1. Celkový počet oznámení o odhalenom online sexuálnom zneužívaní detí
Väčšina členských štátov predložila určité štatistiky o celkovom počte oznámení o online sexuálnom zneužívaní detí podľa článku 8 ods. 1 písm. a) dočasného nariadenia. Keďže členské štáty poskytli údaje za rôzne obdobia oznamovania, nebolo možné vypočítať celkový počet oznámení o odhalenom online sexuálnom zneužívaní detí prijatých na úrovni EÚ za akékoľvek dané obdobie, ako je čas vykonávania nariadenia.
Členské štáty väčšinou poskytli vnútroštátnym orgánom presadzovania práva celkový počet oznámení prijatých od poskytovateľov alebo iných organizácií konajúcich vo verejnom záujme proti sexuálnemu zneužívaniu detí. Vzhľadom na to, že väčšina poskytovateľov so sídlom v USA podáva oznámenia NCMEC, väčšina členských štátov uviedla, že prijala veľkú časť alebo všetky svoje oznámenia od NCMEC. Členské štáty neuviedli počet vykonateľných oznámení, t. j. oznámení vhodných na vyšetrovanie, ale niektoré uviedli počet začatých prípadov, ktorý je podstatne nižší. Rozdiel medzi prijatými a vyšetrenými prípadmi sa pripisoval viacerým dôvodom, napr. že oznámenie síce obsahovalo materiál detskej pornografie, ale neobsahovalo dostatočné informácie na začatie vyšetrovania; oznámenia sa zlúčili, ak sa na určitú podozrivú osobu vzťahovalo viac ako jedno oznámenie, alebo že materiál, ktorý zobrazuje situácie vykorisťovania, nebol podľa vnútroštátneho práva posúdený ako materiál predstavujúci trestný čin. Okrem toho členské štáty väčšinou nerozlišovali medzi absolútnym počtom prípadov a prípadmi, ktoré boli oznámené viackrát. Ak oznámenia poskytlo NCMEC, toto centrum už vopred kategorizovalo oznámenia, ktoré prijalo od poskytovateľov, ako „vykonateľné“ alebo „informačné“. NCMEC definuje vykonateľné oznámenie ako oznámenie obsahujúce dostatočné informácie na začatie vyšetrovania. To zvyčajne zahŕňa podrobnosti o používateľovi, snímky a možnú polohu. Oznámenie je kategorizované ako „informačné“, ak neobsahuje dostatočné informácie alebo ak sa snímky považujú za virálne a boli oznámené mnohokrát. NCMEC v roku 2022 označil 49 % oznámení ako „vykonateľné“, zatiaľ čo 51 % bolo označených ako „informačné“.
Len veľmi málo členských štátov uviedlo typ poskytovateľov, v službách ktorých bolo online sexuálne zneužívanie detí odhalené (napr. Belgicko, Česko, Estónsko, Francúzsko a Poľsko) a len jeden členský štát poskytol podrobné členenie (Belgicko).
Slovinsko uviedlo, že nemôže poskytnúť len údaje o trestných činoch vyšetrovaných na základe oznámení predložených poskytovateľmi a organizáciami, ale môže poskytnúť len údaje o všetkých vyšetrovaniach online sexuálneho zneužívania detí bez ohľadu na zdroj informácií, ktoré viedli k začatiu vyšetrovania.
Tabuľka 6: Celkový počet oznámení o odhalenom online sexuálnom zneužívaní detí oznámených členskými štátmi
|
Krajina |
Obdobie oznamovania |
Celkový počet oznámení o online sexuálnom zneužívaní detí |
Zdroj oznámení |
Poznámky |
|
Rakúsko |
2021 až 2022 |
16 311 |
NCMEC |
|
|
Belgicko |
Od 1. augusta 2021 do 31. júla 2022 |
26 226 |
Oznámenia pochádzajúce od poskytovateľov (sociálne médiá) a horúcej linky Childfocus |
|
|
Bulharsko |
2021 až 2022 |
9 120 |
Poskytovatelia a horúca linka INHOPE prostredníctvom „Safenet“ a iné |
Z toho sa 9 112 upozornení týkalo webových stránok obsahujúcich materiál detskej pornografie hosťovaných bulharskými poskytovateľmi. |
|
Chorvátsko |
Od 1. januára 2021 do 31. októbra 2022 |
9 044 |
NCMEC |
|
|
Cyprus |
Od 1. júla 2021 do 31. decembra 2022 |
3 570 |
NCMEC |
|
|
Česko |
Od 1. januára 2022 do 31. júla 2022 |
13 279 |
NCMEC |
|
|
Dánsko |
Od 2. augusta 2021 do 20. januára 2023 |
10 744 |
NCMEC |
|
|
Estónsko |
– |
– |
NCMEC, linka pomoci pre deti 116 111 |
Estónsko uviedlo, že štatistiky polície a pohraničnej stráže vrátane NCMEC nie sú verejné. Za rok 2021 oznámili 360 sexuálnych trestných činov spáchaných na deťoch bez kontaktu. Okrem toho 86 % všetkých sexuálnych trestných činov bez kontaktu bolo spáchaných v internetovom prostredí alebo pomocou nástrojov informačných technológií. |
|
Fínsko |
2022 |
25 000 |
NCMEC a Save the Children |
|
|
Francúzsko |
Od 1. augusta 2021 do 1. augusta 2022 |
120 000 |
NCMEC |
|
|
Nemecko |
– |
– |
– |
Údaje nie sú k dispozícii/neboli oznámené. |
|
Grécko |
2021 až 2022 |
142 |
NCMEC, grécka horúca linka pre nezákonný obsah na internete – Safeline, národná komisia pre telekomunikácie a poštu, národná núdzová linka 1056 – The smile of the child, grécky ombudsman |
|
|
Maďarsko |
2022 |
0 |
Žiadne z oznámení zaslaných poskytovateľmi nebolo zaslané podľa dočasného nariadenia |
|
|
Írsko |
2021 až 2022 |
15 355 |
NCMEC |
|
|
Taliansko |
2022 |
4 607 |
Nešpecifikované |
|
|
Lotyšsko |
Od 1. augusta 2022 do 6. marca 2023 |
Približne 115 až 220 oznámení mesačne |
Poskytovatelia a organizácie konajúci vo verejnom záujme proti sexuálnemu zneužívaniu detí (najmä NCMEC) mimo Lotyšska a lotyšskí poskytovatelia a organizácie (najmä Latvian Safer Internet Center) |
|
|
Litva |
Od 1. januára 2021 do 30. júna 2022 |
4 142 |
Nešpecifikované |
|
|
Luxembursko |
2021 až 2022 |
2 491 |
Nešpecifikované |
|
|
Malta |
– |
– |
– |
Údaje neboli predložené/oznámené. |
|
Holandsko |
2021 |
36 537 |
Poskytovatelia a organizácie konajúci vo verejnom záujme proti sexuálnemu zneužívaniu detí |
|
|
Poľsko |
Od 3. augusta 2021 do 3. augusta 2023 |
227 |
Poskytovatelia a organizácie konajúci vo verejnom záujme proti sexuálnemu zneužívaniu detí |
V období od 3. augusta 2022 do 3. augusta 2023 Poľsko zaznamenalo jedno oznámenie o groomingu detí a 105 oznámení o materiáli detskej pornografie. |
|
Portugalsko |
– |
– |
– |
Údaje neboli predložené/oznámené. |
|
Rumunsko |
– |
– |
– |
Údaje neboli predložené/oznámené. |
|
Slovensko |
Od 1. augusta 2021 do 31. júla 2022 |
7 206 |
Poskytovatelia a organizácie konajúci vo verejnom záujme proti sexuálnemu zneužívaniu detí |
|
|
Slovinsko |
Od 1. januára 2021 do 14. júla 2023 |
452 |
Toto číslo označuje trestné činy súvisiace s činnosťami na internete. Existujúce štatistické údaje v súčasnosti neumožňujú Slovinsku oddeliť štatistické údaje o trestných činoch vyšetrovaných na základe oznámení predložených poskytovateľmi a organizáciami od štatistických údajov o iných oznámeniach. |
|
|
Španielsko |
2022 |
31 474 |
Organizácie konajúce vo verejnom záujme proti sexuálnemu zneužívaniu detí |
|
|
Švédsko |
Od augusta 2021 do 31. decembra 2022 |
32 830 |
Najmä NCMEC |
Vzhľadom na to, že NCMEC je hlavným zdrojom oznámení, je informatívne porovnať údaje o oznámeniach prijatých členskými štátmi s údajmi poskytnutými NCMEC o oznámeniach zaslaných členským štátom. NCMEC prijalo v roku 2021 dokopy 29 397 681 oznámení z odvetvia na celom svete, z čoho 99,7 % (alebo 29 309 106) obsahovalo jednu alebo viaceré snímky alebo videá zobrazujúce sexuálne zneužívanie detí, 0,15 % (alebo 44 155) súviselo s groomingom a 0,05 % (alebo 16 032) súviselo s obchodovaním s deťmi na sexuálne účely. NCMEC prijalo v roku 2022 dokopy 32 059 029 oznámení, z čoho 99,5 % (alebo 31 901 234) sa týkalo snímok alebo videí zobrazujúcich sexuálne zneužívanie detí, 0,25 % (80 524) súviselo s groomingom a 0,06 % (alebo 18 336) súviselo s obchodovaním s deťmi na sexuálne účely. V prípade EÚ je členenie takéto:
Tabuľka 7: Oznámenia NCMEC o podozrení z online sexuálneho zneužívania detí, ktoré sa členským štátom EÚ poskytli v rokoch 2021 a 2022
|
Krajina |
Oznámenia za rok 2021 spolu 10 |
% EÚ za rok 2021 spolu |
Oznámenia za rok 2022 spolu 11 |
% EÚ za rok 2022 spolu |
% obyvateľstva EÚ |
|
Rakúsko |
7 580 |
1,36 % |
18 501 |
1,23 % |
2,00 % |
|
Belgicko |
15 762 |
2,84 % |
50 255 |
3,34 % |
2,60 % |
|
Bulharsko |
13 584 |
2,44 % |
31 937 |
2,12 % |
1,53 % |
|
Chorvátsko |
4 744 |
0,85 % |
11 693 |
0,78 % |
0,86 % |
|
Cyprus |
2 657 |
0,48 % |
7 361 |
0,49 % |
0,20 % |
|
Česko |
15 004 |
2,70 % |
61 994 |
4,12 % |
2,36 % |
|
Dánsko |
5 891 |
1,06 % |
30 215 |
2,01 % |
1,31 % |
|
Estónsko |
2 729 |
0,49 % |
6 408 |
0,43 % |
0,30 % |
|
Fínsko |
6 079 |
1,09 % |
10 904 |
0,73 % |
1,24 % |
|
Francúzsko |
98 233 |
17,67 % |
227 465 |
15,13 % |
15,16 % |
|
Nemecko |
79 701 |
14,34 % |
138 193 |
9,19 % |
18,59 % |
|
Grécko |
14 616 |
2,63 % |
43 345 |
2,88 % |
2,37 % |
|
Maďarsko |
31 710 |
5,70 % |
109 434 |
7,28 % |
2,16 % |
|
Írsko |
7 327 |
1,32 % |
19 770 |
1,31 % |
1,13 % |
|
Taliansko |
37 480 |
6,74 % |
96 512 |
6,42 % |
13,32 % |
|
Lotyšsko |
1 537 |
0,28 % |
3 688 |
0,25 % |
0,42 % |
|
Litva |
3 509 |
0,63 % |
16 603 |
1,10 % |
0,63 % |
|
Luxembursko |
2 005 |
0,36 % |
2 004 |
0,13 % |
0,14 % |
|
Malta |
750 |
0,13 % |
4 713 |
0,31 % |
0,12 % |
|
Holandsko |
36 790 |
6,62 % |
57 012 |
3,79 % |
3,96 % |
|
Poľsko |
37 758 |
6,79 % |
235 310 |
15,65 % |
8,41 % |
|
Portugalsko |
34 415 |
6,19 % |
42 674 |
2,84 % |
2,31 % |
|
Rumunsko |
32 765 |
5,89 % |
96 287 |
6,40 % |
4,25 % |
|
Slovensko |
7 275 |
1,31 % |
39 748 |
2,64 % |
1,21 % |
|
Slovinsko |
3 162 |
0,57 % |
14 795 |
0,98 % |
0,47 % |
|
Španielsko |
33 136 |
5,96 % |
77 727 |
5,17 % |
10,60 % |
|
Švédsko |
19 635 |
3,53 % |
48 883 |
3,25 % |
2,33 % |
|
Spolu |
555 834 |
1 503 431 |
Výrazné rozdiely medzi počtom oznámení v rokoch 2021 až 2022, z ktorých vyplýva prudký nárast oznámení v roku 2022, sú do veľkej miery spôsobené poklesom dobrovoľného odhaľovania od januára do augusta 2021, keď sa dočasné nariadenie ešte neuplatňovalo.
NCMEC vo svojich štatistikách podľa jednotlivých členských štátov EÚ nerozlišuje oznámenia podľa zdroja, najmä to, či pochádzali z interpersonálnej komunikačnej služby nezávislej od číslovania. NCMEC však poskytuje štatistiky o celkovom počte oznámení týkajúcich sa EÚ pochádzajúcich z interpersonálnych komunikačných služieb nezávislých od číslovania. V roku 2021 pochádzalo zo služieb chatu, odosielania správ alebo z e-mailovej služby 283 265 oznámení týkajúcich sa členských štátov, t. j. 51 % celkového počtu oznámení týkajúcich sa EÚ. Ďalších 164 645 (30 % z celkového počtu) oznámení pochádzalo zo sociálnych médií alebo z online herných platforiem, ktoré môžu mať aj integrované služby odosielania správ alebo chatu. V roku 2021 3 565 oznámení týkajúcich sa EÚ súviselo s groomingom. V roku 2022 pochádzalo zo služieb chatu, odosielania správ alebo z e-mailovej služby 1 015 231 oznámení týkajúcich sa členských štátov, t. j. 68 % celkového počtu oznámení týkajúcich sa EÚ. Ďalších 325 847 (22 % z celkového počtu) oznámení pochádzalo zo sociálnych médií alebo z online herných platforiem, ktoré môžu mať aj integrované služby odosielania správ alebo chatu. V roku 2022 súviselo 7 561 oznámení týkajúcich sa EÚ s groomingom. Rozdiely medzi počtom oznámení pochádzajúcich z interpersonálnych komunikačných služieb nezávislých od číslovania v rokoch 2021 a 2022 sú opäť spôsobené poklesom dobrovoľného odhaľovania od januára do augusta 2021, keď sa dočasné nariadenie ešte neuplatňovalo.
Podiel oznámení podľa jednotlivých členských štátov v mnohých prípadoch približne zodpovedá podielu obyvateľstva daného členského štátu v porovnaní s celkovým obyvateľstvom EÚ, čo by mohlo poukazovať na porovnateľný výskyt online sexuálneho zneužívania detí vo všetkých členských štátoch. Významné odchýlky sú viditeľné vo vzťahu k Španielsku a Taliansku, ktorých percentuálne podiely sa zdajú nízke v porovnaní s percentuálnym podielom obyvateľstva EÚ v oboch rokoch, zatiaľ čo podiel oznámení za ostatné členské štáty podľa všetkého výrazne kolíše (napr. Nemecko, Poľsko, Holandsko, Slovensko). Tieto zmeny sa ako také neodrážajú v oznámeniach o počte prípadov, a preto je opäť ťažké vyvodiť závery o korelácii medzi oznámeniami a vyšetrovaniami.
Vzhľadom na odlišné obdobia oznamovania nie je možné žiadne priame porovnanie, napriek tomu však medzi štatistikami poskytnutými NCMEC a údajmi oznámenými členskými štátmi existujú značné rozdiely. Okrem toho údaje NCMEC za členské štáty takisto nie je možné úplne porovnať s údajmi poskytnutými odvetvím uvedeným v predchádzajúcom oddiele. Zatiaľ čo niektoré rozdiely môžu byť spôsobené oznámeniami o online sexuálnom zneužívaní detí, ktoré pochádzajú z iných zdrojov, než sú interpersonálne komunikačné služby, vyžadovalo by si to ďalšiu analýzu, keďže je takisto možné, že opatrenia na dobrovoľné odhaľovanie týkajúce sa EÚ realizujú iní poskytovatelia, než sú poskytovatelia, ktorí dosiaľ predložili oznámenia Komisii, vzhľadom na zoznam poskytovateľov, ktorí zasielajú oznámenia NCMEC 12 . Napriek tomu skutočnosť, že vo väčšine členských štátov podľa všetkého existujú značné rozdiely medzi počtom oznámení, ktoré NCMEC uvádza ako oznámenia zaslané členskému štátu, a počtom oznámení, ktoré daný členský štát uvádza ako prijaté, naznačuje, že zber údajov a oznamovanie zo strany členských štátov nie je úplné.
V prípade každého uvedeného oznámenia NCMEC boli súvisiace snímky a videá zobrazujúce sexuálne zneužívanie detí stiahnuté a odstránené z obehu. Je to dôležité najmä pre súčasné obete a osoby, ktoré prežili sexuálne zneužívanie detí. Štúdie preukázali, že pokračujúce šírenie snímok a videí zobrazujúcich zneužívanie obetí obmedzuje ich schopnosť prekonať psychologické účinky zneužívania a vytvára sekundárnu formu viktimizácie.
2.2.2. Počet identifikovaných detí
Väčšina členských štátov predložila úplné alebo čiastočné štatistiky o počte identifikovaných detí podľa článku 8 ods. 1 písm. b) dočasného nariadenia s rozlíšením podľa pohlavia. Viaceré členské štáty však neposkytli žiadne údaje ani odôvodnenie, prečo neoznámili štatistiky podľa tohto ustanovenia.
Niekoľko členských štátov neoznámilo žiadne štatistiky alebo oznámilo len čiastočné štatistiky za obdobie oznamovania, ale poskytli odôvodnenie. Medzi uvedené dôvody patrí:
-detské obete online sexuálneho zneužívania detí nie je možné spočítať (Francúzsko),
-údaje nie sú k dispozícii, keďže neboli získané v rámci zberu vnútroštátnych štatistických údajov/vnútroštátne orgány tieto štatistiky nezaregistrovali (Dánsko, Litva),
-údaje neboli pri zbere vnútroštátnych štatistických údajov rozčlenené podľa pohlavia (Belgicko, Cyprus, Česko, Grécko, Holandsko, Írsko, Litva, Taliansko),
-nie sú k dispozícii informácie s požadovanou úrovňou podrobnosti v existujúcich informačných systémoch (Fínsko),
-informácie sa nezbierajú (Nemecko).
Niektoré z tých členských štátov, ktoré uviedli, že nie sú schopné poskytnúť štatistiky, potvrdili, že ich vnútroštátne orgány boli požiadané, aby zmenili svoj postup registrácie dobrovoľných oznámení a vyšetrovaní a zberu štatistických údajov (Dánsko), a/alebo zavádzajú nové informačné systémy, ktoré by mali umožniť oznamovanie na požadovanej úrovni podrobnosti (Fínsko).
V jednom členskom štáte sa v údajoch uvedených ďalej nerozlišuje medzi detskými obeťami online a offline sexuálneho zneužívania detí (Maďarsko). V niektorých prípadoch štatistiky zahŕňajú aj deti, ktoré boli identifikované ako osoby, ktoré samy vytvorili a nahrali tento materiál (svojpomocne vytvorený materiál, väčšinou video) (Česko, Estónsko).
Keďže členské štáty väčšinou poskytli údaje za rôzne obdobia oznamovania, nebolo možné vypočítať celkový počet detí identifikovaných ako obete online sexuálneho zneužívania detí v EÚ za rok a/alebo za rovnaké obdobie oznamovania.
Tabuľka 8: Počet identifikovaných detí s rozlíšením podľa pohlavia
|
Krajina |
Obdobie oznamovania |
Žena |
Muž |
Spolu |
Poznámky |
|
Rakúsko |
2021 až 2022 |
11 |
6 |
17 |
|
|
Belgicko |
2021 až 2022 |
– |
– |
63 |
Údaje s rozlíšením podľa pohlavia nie sú k dispozícii. |
|
Bulharsko |
2022 |
50 |
12 |
62 |
|
|
Chorvátsko |
Od 1. januára 2021 do 31. októbra 2022 |
20 |
0 |
20 |
|
|
Cyprus |
2022 |
– |
– |
102 |
Údaje s rozlíšením podľa pohlavia nie sú k dispozícii. |
|
Česko |
2022 |
– |
– |
30 |
Údaje s rozlíšením podľa pohlavia nie sú k dispozícii. |
|
Dánsko |
– |
– |
– |
– |
Údaje nie sú k dispozícii. |
|
Estónsko |
2021 |
6 |
12 |
18 |
|
|
Fínsko |
– |
– |
– |
– |
Údaje nie sú k dispozícii. |
|
Francúzsko |
– |
– |
– |
– |
Údaje nie sú k dispozícii. |
|
Nemecko |
– |
– |
– |
– |
Údaje nie sú k dispozícii. |
|
Grécko |
2021 až 2022 |
– |
– |
4 |
Údaje s rozlíšením podľa pohlavia nie sú k dispozícii. |
|
Maďarsko |
2021 až 2022 |
379 |
47 |
426 |
Nie je možné rozlišovať medzi obeťami online a offline sexuálneho zneužívania detí. Zahrnuté sú len deti vo veku do 16 rokov. |
|
Írsko |
2021 až 2022 |
– |
– |
101 |
Údaje za rok 2021 (50 obetí) nie je možné rozlíšiť podľa pohlavia. Údaje za rok 2022 s rozlíšením pohlavia sú takéto: identifikovaných 25 dievčat a 26 chlapcov. |
|
Taliansko |
2022 |
– |
– |
385 |
Údaje s rozlíšením podľa pohlavia nie sú k dispozícii. |
|
Lotyšsko |
Od 1. augusta 2022 do 6. marca 2023 |
1 |
– |
1 |
|
|
Litva |
– |
– |
– |
– |
Údaje nie sú k dispozícii. |
|
Luxembursko |
2021 až 2022 |
0 |
0 |
0 |
|
|
Malta |
– |
– |
– |
– |
Údaje neboli predložené/oznámené. |
|
Holandsko |
2021 |
– |
– |
222 |
Údaje s rozlíšením podľa pohlavia nie sú k dispozícii. |
|
Poľsko |
2022 |
2 368 |
487 |
3 014 |
Údaje za rok 2022 z vnútroštátnych policajných informačných systémov v Poľsku obsahujú informácie o 3 014 obetiach trestných činov súvisiacich so sexuálnym zneužívaním detí (2 368 žien, 487 mužov, v 159 prípadoch nebolo uvedené pohlavie). |
|
Portugalsko |
– |
– |
– |
– |
Údaje neboli predložené/oznámené. |
|
Rumunsko |
– |
– |
– |
– |
Údaje neboli predložené/oznámené. |
|
Slovensko |
Od augusta 2021 do júla 2022 |
13 |
8 |
21 |
|
|
Slovinsko |
Od 1. januára 2021 do 14. júla 2023 |
220 |
85 |
305 |
|
|
Španielsko |
2022 |
80 |
39 |
119 |
|
|
Švédsko |
2022 |
8 |
4 |
12 |
|
|
SPOLU ZA VŠETKY ČLENSKÉ ŠTÁTY |
Od 1. januára 2021 do 6. marca 2023 |
3 156 |
700 |
4 922 |
Uvedené údaje podliehajú viacerým dodatočným výhradám. Existujúce štatistické údaje nie vždy umožňujú členským štátom oddeliť údaje o obetiach, ktoré boli identifikované na základe oznámenia od poskytovateľa, od údajov, keď napríklad trestný čin mohla oznámiť samotná obeť alebo ho mohol oznámiť niekto iný, kto poznal obeť alebo odhalil trestný čin (ako uvádza Slovinsko). Švédsko uviedlo, že deti, ktoré boli identifikované prostredníctvom logov chatu, sú takisto zahrnuté do oznámení, hoci fotografie alebo videá zobrazujúce zneužívanie sa nikdy nenašli alebo sa neurčilo, že pochádzajú od tejto konkrétnej obete.
Celkovo údaje v tabuľke 8 nemusia nevyhnutne zodpovedať oznamovacím povinnostiam stanoveným v dočasnom nariadení, ktoré sa týkajú len obetí zachránených vďaka oznámeniam, ktoré predložili poskytovatelia a organizácie konajúci vo verejnom záujme proti sexuálnemu zneužívaniu detí podľa nariadenia. Údaje poskytnuté v niektorých prípadoch zahŕňajú obete identifikované z rôznych iných dôvodov a rôznymi prostriedkami.
Údaje preto neumožňujú komplexný prehľad o počte detí identifikovaných ako obete online sexuálneho zneužívania detí v EÚ.
Okrem toho, aj keď bola obeť identifikovaná, nevyhnutne to neznamená, že došlo k odsúdeniu v súvislosti s touto identifikáciou. V niektorých prípadoch bola obeť identifikovaná, ale na základe vyšetrovania nebolo možné určiť podozrivého alebo nemohlo viesť k odsúdeniu (Švédsko).
Z údajov však možno vyvodiť, že značný počet obetí bol identifikovaný pomocou dobrovoľného oznamovania v súlade s dočasným nariadením. Potvrdzujú to oznámenia orgánov presadzovania práva o prípadoch, ktoré sa často začínajú vyšetrovať len na základe dobrovoľného oznamovania 13 .
2.2.3. Počet odsúdených páchateľov
Hoci si väčšina členských štátov splnila povinnosti, dva členské štáty neposkytli žiadne údaje ani odôvodnenie, prečo nepredložili správy podľa článku 8 ods. 1 písm. c) dočasného nariadenia.
Niekoľko členských štátov neposkytlo žiadne štatistiky za obdobie oznamovania podľa uvedeného ustanovenia a uviedlo tieto dôvody:
-údaje ešte nie sú k dispozícii (Belgicko a Španielsko),
-centrálna databáza používaná na zaznamenávanie trestnej činnosti nevyžadovala zaznamenávanie povahy pôvodného postúpenia (Írsko),
-údaje sa nezbierajú (Nemecko).
Členské štáty oznámili veľmi rôznorodé údaje o počte odsúdených páchateľov a sledované obdobia oznamovania neboli koherentné, ako sa znázorňuje v tabuľke 8.
Tabuľka 9: Počet odsúdených páchateľov
|
Krajina |
Obdobie oznamovania |
Počet odsúdení |
Poznámky |
|
Rakúsko |
2021 |
850 |
Údaje nerozlišujú medzi trestnými činmi spáchanými online a offline. |
|
Belgicko |
– |
– |
Údaje nie sú k dispozícii. |
|
Bulharsko |
2021 až 2022 |
52 |
|
|
Chorvátsko |
– |
– |
Údaje nie sú k dispozícii. |
|
Cyprus |
2022 |
0 |
Doteraz žiadne odsúdenia. |
|
Česko |
Od 1. januára 2022 do 31. júla 2022 |
20 |
|
|
Dánsko |
Od 2. augusta 2021 do 20. januára 2023 |
224 |
|
|
Estónsko |
2021 |
2 |
Zahŕňa len odsúdenia vyplývajúce z oznámení NCMEC. |
|
Fínsko |
2021 |
240 |
|
|
Francúzsko |
Od 4. augusta 2021 do 3. augusta 2022 |
820 |
|
|
Nemecko |
– |
– |
Údaje nie sú k dispozícii. |
|
Grécko |
2021 až 2022 |
62 |
|
|
Maďarsko |
2021 až 2022 |
126 |
|
|
Írsko |
– |
– |
Údaje nie sú k dispozícii. |
|
Taliansko |
2021 až 2022 |
5 835 |
Údaje nerozlišujú medzi trestnými činmi spáchanými online a offline. |
|
Lotyšsko |
2021 až 2022 |
33 |
Údaje nerozlišujú medzi trestnými činmi spáchanými online a offline. |
|
Litva |
Od 1. januára 2021 do 30. júna 2022 |
10 |
|
|
Luxembursko |
2022 |
11 |
Údaje nerozlišujú medzi trestnými činmi spáchanými online a offline. |
|
Malta |
– |
– |
Údaje neboli predložené/oznámené. |
|
Holandsko |
2021 |
217 |
|
|
Poľsko |
Od druhej polovice roku 2021 do prvej polovice roku 2022/2022/prvá polovica roku 2023 |
185/194/81 |
|
|
Portugalsko |
– |
– |
Údaje neboli predložené/oznámené. |
|
Rumunsko |
– |
– |
Údaje neboli predložené/oznámené. |
|
Slovensko |
2021 |
10 |
|
|
Slovinsko |
2021 až 2022 |
45 |
|
|
Španielsko |
2022 |
– |
Údaje nie sú k dispozícii. |
|
Švédsko |
2022 |
55 |
Je dôležité poznamenať, že počet odsúdení sa nerovná počtu odsúdených páchateľov, keďže jedna osoba môže byť odsúdená za jeden alebo viacero trestných činov online sexuálneho zneužívania detí.
Okrem toho štatistiky o odsúdeniach oznámené za určité obdobie nemusia nevyhnutne súvisieť s oznámeniami, ktoré boli prijaté v danom období (t. j. odsúdenie v roku 2022 by mohlo napríklad súvisieť s oznámením z roku 2021 alebo 2020 a oznámenie z roku 2022 by mohlo viesť k odsúdeniu až v roku 2023 alebo neskôr). Niekoľko členských štátov vo svojich správach výslovne zdôraznilo túto skutočnosť (Írsko, Luxembursko, Švédsko).
V niektorých prípadoch sa nezbierali žiadne štatistiky o tom, či oznámenia o podozrivých činnostiach (napr. prostredníctvom NCMEC) viedli k odsúdeniam, alebo inými slovami, že odsúdenia vyplynuli z informácií poskytnutých poskytovateľom alebo verejnou organizáciou (Rakúsko, Lotyšsko). Len Estónsko výslovne potvrdilo, že štatistiky ukazujú len odsúdenia vyplývajúce z oznámení NCMEC. Je takisto možné, že oznámenia viedli k ďalším páchateľom, ktorí sú vyšetrovaní a odsúdení v priebehu vyšetrovaní (Rakúsko).
Väčšinou sa predpokladá, že počet oznámených odsúdení pochádza z obdobia, keď sa prípad ukončil po tom, ako bolo v súvislosti s ním pravdepodobne podané odvolanie prostredníctvom súdneho systému. V jednom členskom štáte (Dánsko), kde sa číselné údaje zostavujú podľa posledného rozhodnutia, číselné údaje nie sú konečné, keďže proti rozhodnutiam mohlo byť neskôr podané odvolanie.
V niektorých prípadoch údaje obsiahnuté vo vnútroštátnych IT systémoch a oznámené členskými štátmi nerozlišujú medzi trestnými činmi spáchanými online a offline (Rakúsko, Luxembursko, Lotyšsko).
Veľmi rôznorodé správy predložené členskými štátmi a spôsob zhromažďovania štatistických údajov na vnútroštátnej úrovni preto neumožňujú komplexný prehľad o počte páchateľov odsúdených za online sexuálne zneužívanie detí v EÚ. V súčasnosti nie je možné – na základe dostupných údajov – ani jasne prepojiť tieto odsúdenia s oznámeniami, ktoré predkladajú poskytovatelia a organizácie konajúci vo verejnom záujme proti sexuálnemu zneužívaniu detí v konkrétnych obdobiach oznamovania v súlade s týmto nariadením.
2.3.Novinky v oblasti technologického pokroku
Technológie, ktoré sa v súčasnosti používajú na odhaľovanie online sexuálneho zneužívania detí, zahŕňajú technológie a nástroje na odhaľovanie „známeho“ (t. j. predtým odhaleného) materiálu detskej pornografie, „nového“ (t. j. ešte neodhaleného) materiálu detskej pornografie a kontaktovania detí (známeho ako „grooming“).
Príklady uvedené ďalej zahŕňajú niektoré z najpoužívanejších nástrojov a nepredstavujú úplný zoznam. Mnohé z týchto nástrojov sú sprístupnené poskytovateľom, orgánom presadzovania práva a iným organizáciám, keď možno preukázať oprávnený záujem. Zvyčajne sa tieto nástroje kombinujú s ľudským preskúmaním, aby sa zabezpečila maximálna možná presnosť.
Tento oddiel zahŕňa aj ďalšie novinky v oblasti technologického pokroku v súvislosti s umelou inteligenciou.
2.3.1. Odhaľovanie známeho materiálu detskej pornografie
Existujúce technológie na odhaľovanie známeho materiálu detskej pornografie sa spoliehajú výlučne na automatickú analýzu obsahu 14 a sú obvykle založené na hašovaní. Technológia hašovania je typ digitálnych odtlačkov prstov. Vytvára jedinečný digitálny podpis (známy ako „hash“) snímky, ktorý sa potom porovná s podpismi (hashmi) iných fotografií s cieľom nájsť kópie tej istej snímky. Táto technológia odhaľuje len hashe a „nevidí“ žiadny materiál, ktorý sa nezhoduje s daným hashom. Hašovacie hodnoty okrem toho nie sú reverzibilné, a preto ich nemožno použiť na opätovné vytvorenie snímky.
Existuje viacero variácií a implementácií technológie hašovania. Nástroje identifikované ako nástroje používané na odhaľovanie známeho materiálu detskej pornografie zahŕňajú: i) Microsoft PhotoDNA ; ii) Google CSAI Match ; iii) Apple NeuralHash + Private Set Intersection ; iv) Meta SSN++ ; v) PDQ a TMK+PDQF ; vi) MD5 Hash generator (Skype); vii) Safer (Thorn).
Najpoužívanejším nástrojom je Microsoft PhotoDNA, ktorý používa vyše 150 organizácií 15 . PhotoDNA sa používa viac ako desať rokov a má vysokú úroveň presnosti. Miera falošne pozitívnych výsledkov sa na základe testovania odhaduje na maximálne 1 : 50 miliardám 16 . Chybovosť technológie PhotoDNA je vzhľadom na jej charakter stále mimoriadne nízka. Táto technológia odhaľuje výlučne kópie predtým identifikovaného obsahu. Zatiaľ čo pôvodná technológia PhotoDNA odhaľuje známy materiál detskej pornografie v snímkach, k dispozícii je aj verzia na odhaľovanie materiálu detskej pornografie vo videách.
Technológia sa neustále vyvíja a zlepšuje. V máji 2023 spoločnosť Microsoft oznámila zavedenie nových spôsobilostí na zisťovanie zhody, ktoré umožňujú rýchlejšie vyhľadávanie (približne 350-krát rýchlejšie) a zároveň znižujú náklady na proces zisťovania zhody bez straty presnosti. Podľa Microsoftu nová knižnica okrem toho umožňuje komplexnejšie odhaľovanie prevrátených alebo otočených snímok. Navyše nadácia Internet Watch Foundation (IWF) nedávno oznámila zlepšenie svojej technológie hašovania 17 .
2.3.2. Odhaľovanie nového materiálu detskej pornografie
Technológie, ktoré sa v súčasnosti používajú na odhaľovanie nového materiálu detskej pornografie, zahŕňajú klasifikátory a umelú inteligenciu, ktoré analyzujú snímky a videá s cieľom odhaliť vzory obsahu, ktoré sa zhodujú so vzormi vytvorenými na základe predtým identifikovaného materiálu detskej pornografie. Klasifikátor je algoritmus, ktorý prostredníctvom rozpoznávania vzorov triedi údaje do označených tried alebo kategórií informácií. Klasifikátory sa trénujú údajmi a ich presnosť sa zvyšuje s množstvom vkladaných údajov.
Medzi nástroje na odhaľovanie nového materiálu detskej pornografie patria: i) Safer (Thorn); ii) Google Content Safety API ; iii) technológia umelej inteligencie Facebooku 18 ; iv) Amazon Rekognition ; v) Hive AI for visual content .
Výskum ukázal, že automatizované nástroje a systémy, ako sú klasifikátory, sú najužitočnejším prostriedkom na odhaľovanie materiálu detskej pornografie 19 . V prípade odhaľovania nového materiálu detskej pornografie je v súčasnosti miera presnosti výrazne nad 90 %. Organizácia Thorn napríklad uvádza, že jej klasifikátor materiálu detskej pornografie môže byť nastavený na 99 % mieru presnosti (pre známy aj novy materiál detskej pornografie), čo znamená mieru falošne pozitívnych výsledkov 0,1 % 20 . Tieto metriky sa pravdepodobne zlepšia s častejším používaním a spätnou väzbou.
2.3.3. Odhaľovanie groomingu
Nástroje na odhaľovanie groomingu (kontaktovanie detí) v textovej komunikácii využívajú technológie výlučne na odhaľovanie schém, ktoré poukazujú na možné konkrétne dôvody podozrenia z online sexuálneho zneužívania detí bez toho, aby boli schopné vyvodiť podstatu obsahu. Táto technika sa používa na textové chatové konverzácie. Konverzácie sú hodnotené na základe série charakteristík a priraďuje sa im celkové hodnotenie pravdepodobnosti, ktoré naznačuje odhadovanú pravdepodobnosť, že konverzácia predstavuje grooming. Tieto hodnotenia slúžia ako ukazovateľ, nastavený jednotlivými spoločnosťami, na označenie konverzácií na ďalšie ľudské preskúmanie.
Medzi nástroje používané na operácie detekcie textu patrí: i) projekt Artemis Microsoftu 21 ; ii) Amazon Rekognition ; iii) technológia Spirit AI služby Twitch (založená na spracovaní prirodzeného jazyka, textových klasifikátoroch) 22 ; iv) interne vyvinutý klasifikátor „rankingu“ založený na strojovom učení spoločnosti Meta (kombinujúci technológiu internej analýzy jazyka s metaúdajmi); v) Roblox filtrovanie chatu 23 ; vi) technické riešenie organizácie Thorn a združenia Tech Coalition založené na strojovom učení a klasifikátoroch 24 .
Rovnako ako v prípade identifikácie nového materiálu detskej pornografie si identifikácia obsahu predstavujúceho grooming vyžaduje trénovanie technológie takýmto obsahom. Prístup k takýmto trénovacím údajom zostáva najväčšou výzvou pre vývoj a zlepšovanie takýchto technológií.
Organizácia Thorn v spolupráci so združením Tech Coalition a jeho členmi spustila novú iniciatívu zameranú na vývoj technického riešenia na identifikáciu a riešenie pokusov o online grooming, ktoré bude užitočné a použiteľné pre celú škálu platforiem, ktoré ponúkajú textovú komunikáciu. Bude založené na tímovej práci organizácie Thorn na klasifikátore NLP (spracovanie prirodzeného jazyka) alebo modeli strojového učenia, ktorý slúži na odhaľovanie a kategorizovanie, keď online obsah alebo správanie patrí do definovaných „tried“ súvisiacich s groomingom (napríklad prístup k materiálu pornografie alebo snaha o osobné stretnutie s maloletou osobou), ako aj na celkovom hodnotení podľa toho, ako konverzácia súvisí s groomingom 25 .
2.3.4. Nové výzvy, ktoré prinášajú chatboty s umelou inteligenciou a generátory umenia/snímok
Vývoj a vydanie chatbotov s umelou inteligenciou, ako je ChatGPT (veľký jazykový model vyvinutý spoločnosťou OpenAI ) a generátory umenia/snímok, ako sú DALL-E 26 a Midjourney 27 , vyvolali značnú pozornosť verejnosti, a to hlavne vďaka ich schopnosti rýchlo poskytovať užitočné odpovede alebo vytvárať realistické snímky, ktoré možno použiť vo veľkom množstve rôznych kontextov. Tieto nové nástroje si rýchlo získali širokú popularitu a používajú sa vo veľkom rozsahu. Popredné produkty sú financované a vyvíjané technologickými spoločnosťami vrátane spoločností Microsoft a Google, pričom nové technológie sa zdokonaľujú a vylepšené verzie sa pravidelne zavádzajú.
Hoci tieto technológie ponúkajú podnikom aj verejnosti veľké príležitosti, môžu pre ne predstavovať aj riziko. Medzi obavy týkajúce sa takýchto produktov patrí, ako ich zločinci môžu chcieť využívať na nekalé účely vrátane sexuálneho vykorisťovania detí.
Ako uviedol Europol, zatiaľ čo všetky informácie, ktoré ChatGPT poskytuje, sú voľne dostupné na internete, pre aktérov s nekalými úmyslami je vďaka nástroju výrazne ľahšie „dozvedieť sa o veľkom počte potenciálnych oblastí trestnej činnosti, o ktorých predtým nevedeli, od toho, ako sa vlámať do domu, cez terorizmus, počítačovú kriminalitu až po sexuálne zneužívanie detí“. To umožňuje daným osobám lepšie pochopiť a následne páchať tieto druhy trestnej činnosti 28 .
Pravidlá spoločnosti OpenAI obmedzujú schopnosť nástroja ChatGPT reagovať na výzvy na sexuálny, nenávistný, násilný obsah alebo obsah propagujúci sebapoškodzovanie. Tieto záruky však možno pomerne ľahko obísť rýchlym inžinierstvom 29 . Nedávne zavedenie chatbotov s umelou inteligenciou (napr. v aplikácii Snapchat) ukazuje, ako môžu chatboty prekročiť hranicu urážlivých alebo nebezpečných interakcií vrátane sexuálneho zneužívania detí 30 . Keďže viaceré spoločnosti teraz zvažujú testovanie chatbotov s umelou inteligenciou na svojich platformách (Instagram, potenciálne WhatsApp a Messenger), je potrebné starostlivo posúdiť vplyv na používateľov, najmä deti a mladých ľudí.
Tieto nové nástroje si vyžadujú aj primerané záruky, aby sa nezneužívali na vytváranie falošného materiálu detskej pornografie (tzv. deepfake) generovaného umelou inteligenciou 31 . Vzhľadom na tempo vývoja nástrojov umelej inteligencie je pravdepodobné, že čoskoro bude výrazne jednoduchšie vytvárať snímky, ktoré nie je možné rozlíšiť od skutočných snímok. To predstavuje niekoľko kľúčových výziev v boji proti sexuálnemu zneužívaniu detí, keďže schopnosť orgánov presadzovania práva vyšetrovať a stíhať prípady týkajúce sa materiálu detskej pornografie a identifikovať skutočné obete môže byť vážne obmedzená, ak sa v online priestore vo veľkej miere rozšíri vysoko realistický materiál detskej pornografie vytvorený na počítači 32 .
Výskum ukázal, že prístup k materiálu detskej pornografie je často prvým krokom k praktickému zneužívaniu bez ohľadu na to, či materiál zobrazuje skutočné alebo realisticky vyzerajúce zneužívanie a vykorisťovanie 33 . Obmedzenie šírenia deepfake materiálu detskej pornografie vytvoreného umelou inteligenciou je preto kľúčové ako forma prevencie na strane páchateľov. Ďalšou kľúčovou obavou je, že osoby páchajúce grooming môžu využívať pokročilé schopnosti tvorby textu v rámci nástroja ChatGPT v kombinácii s existujúcim bezplatným nástrojom umelej inteligencie, ktorý konvertuje text na snímku, s cieľom rýchlo a ľahko vytvoriť obsah pre falošné profily a vierohodné konverzácie s mladými ľuďmi s cieľom zamerať sa na deti online. „Hoci ChatGPT sám osebe nebude povzbudzovať ľudí, aby páchali online grooming, umožňuje komukoľvek vkladať obsah do konverzácie, ktorú vedú s deťmi online, prostredníctvom technológie umelej inteligencie, aby boli pre svoje obete presvedčivejší a dôveryhodnejší, čo napomáha manipulácii.“ 34 Generatívna umelá inteligencia by mohla mať potenciál prispieť k nárastu prípadov online groomingu a dokonca aj k „automatizácii groomingu detí vo veľkom rozsahu“ 35 .
3.ZÁVERY
Vykonávacie opatrenia prijaté poskytovateľmi
Z oznamovania poskytovateľov vyplynulo, že vykonávajú odhaľovanie a oznamovanie sexuálneho zneužívania detí online podľa dočasného nariadenia pomocou rôznych technológií a postupov odhaľovania. Všetci poskytovatelia uviedli, že tieto oznámenia zaslali NCMEC. Pokiaľ ide o druh a objem osobných údajov spracúvaných poskytovateľmi, oznamovanie poukázalo na široké spektrum zozbieraných prevádzkových údajov a rôznu úroveň podrobnosti o objeme spracúvaných údajov, čo Komisii bráni získať jednotné údaje na úrovni EÚ týkajúce sa poskytovateľov za príslušné obdobie oznamovania (júl 2021 až 31. január 2023).
Poskytovatelia nepredložili počet chýb a chybovosť (falošne pozitívne výsledky) jednotlivých použitých technológií s rozčlenením podľa použitej technológie, čo naznačuje, že na odhaľovanie online sexuálneho zneužívania detí používajú viacúrovňový prístup doplnený ľudským preskúmaním. Poskytovatelia zároveň zaviedli širokú škálu opatrení a záruk na obmedzenie a zníženie chybovosti pri odhaľovaní. Okrem toho poskytovatelia uviedli, že majú zavedené politiky uchovávania údajov a záruky ochrany údajov, ktoré sú definované v ich zásadách ochrany súkromia alebo vo vyhláseniach o ochrane osobných údajov a ktoré sú podporené štandardnými odvetvovými zárukami a opatreniami na ochranu údajov.
Vykonávacie opatrenia prijaté členskými štátmi
V dočasnom nariadení sa takisto členským štátom ukladá povinnosť (podľa jeho článku 8) poskytovať kľúčové štatistiky o prípadoch online sexuálneho zneužívania detí, ktoré odhalili a oznámili svojim orgánom presadzovania práva, o počte identifikovaných detských obetí a počte odsúdených páchateľov. Keďže členské štáty väčšinou poskytovali údaje za rôzne obdobia oznamovania, z predložených údajov nebolo možné vypočítať celkový počet oznámení o odhalenom online sexuálnom zneužívaní detí prijatých na úrovni EÚ. Okrem toho sa oznámenia prijaté a oznámené členskými štátmi môžu líšiť od vykonateľných oznámení, t. j. od oznámení, ktoré by sa mohli použiť na účely vyšetrovania, alebo od počtu oznámených prípadov. Len niekoľko členských štátov uviedlo typ poskytovateľov, v službách ktorých bolo odhalené online sexuálne zneužívanie detí. V niektorých prípadoch vnútroštátne štatistické údaje nerozlišujú medzi trestnými činmi vyšetrovanými na základe oznámení predložených poskytovateľmi a inými organizáciami konajúcimi vo verejnom záujme proti sexuálnemu zneužívaniu detí a trestnými činmi vyšetrovanými na základe iných oznámení.
Z prijatých oznámení preto nebolo možné získať celkový počet detí identifikovaných ako obete online sexuálneho zneužívania detí v EÚ s rozlíšením podľa pohlavia. Medzi dôvody patrí napríklad: oznamovanie údajov za odlišné obdobia; rôzne vekové hranice používané na určenie detských obetí online sexuálneho zneužívania detí; nezhromažďovanie štatistík na takejto úrovni podrobnosti na vnútroštátnej úrovni z dôvodu technických alebo iných obmedzení; nerozlišovanie medzi detskými obeťami online a offline sexuálneho zneužívania detí atď. Niektoré členské štáty zahŕňajú do svojich štatistík aj deti, ktoré uverejnili svojpomocne vytvorený materiál. Čo je dôležitejšie, štatistiky často nerozlišujú medzi obeťami identifikovanými na základe oznámení predložených poskytovateľmi a organizáciami konajúcimi vo verejnom záujme proti sexuálnemu zneužívaniu detí podľa nariadenia a obeťami, ktoré boli identifikované na základe iných dôvodov a prostriedkov.
Prehľad počtu odsúdených páchateľov je takisto fragmentovaný. V určitých prípadoch takéto údaje nie sú k dispozícii, pretože v databázach sa nezaznamenal zdroj pôvodného postúpenia, a preto údaje nerozlišujú medzi páchateľmi odsúdenými na základe oznámení predložených podľa nariadenia a iných oznámení. V niektorých prípadoch údaje obsiahnuté vo vnútroštátnych IT systémoch nerozlišujú ani medzi trestnými činmi spáchanými online a offline. Navyše štatistiky o odsúdeniach oznámené za určité obdobie nemusia nevyhnutne súvisieť s oznámeniami, ktoré boli prijaté v danom období, ale môžu sa týkať oznámení z predchádzajúcich období. Zhromaždené štatistiky o počte odsúdení sa môžu líšiť aj od štatistík o počte odsúdených páchateľov (keďže jeden páchateľ môže byť odsúdený viackrát).
Rôznorodé štatistiky predložené členskými štátmi, ktoré podľa všetkého nie vždy systematicky a riadne zbierajú údaje, a všetky uvedené faktory preto neumožňujú komplexný prehľad prijatých oznámení o online sexuálnom zneužívaní detí, počte detí identifikovaných ako obete tohto trestného činu alebo počte páchateľov odsúdených na úrovni EÚ podľa nariadenia. Skutočnosť, že vo väčšine členských štátov podľa všetkého existujú značné rozdiely medzi počtom oznámení, ktoré NCMEC uvádza ako oznámenia zaslané členskému štátu, a počtom oznámení, ktoré daný členský štát uvádza ako prijaté, naznačuje, že zber údajov a oznamovanie nie je úplné. Niektoré členské štáty potvrdili, že ich príslušné orgány prechádzajú štrukturálnymi zmenami alebo reorganizáciou v súvislosti s vytvorením nových oddelení zodpovedných za vyšetrovanie trestných činov súvisiacich s online sexuálnym zneužívaním detí. Zavádzajú sa aj nové IT systémy a vnútroštátne orgány boli požiadané, aby v niektorých členských štátoch zmenili svoje postupy registrácie a štatistiky. Tým by sa mali vytvoriť priaznivé podmienky na získanie presnejších štatistík od členských štátov v budúcnosti. Komisia v každom prípade využije svoje právomoci vyplývajúce zo zmlúv, ak to bude potrebné na zabezpečenie toho, aby si členské štáty plnili oznamovacie povinnosti podľa dočasného nariadenia.
Všeobecné úvahy
Celkovo táto správa poukazuje na značné rozdiely v oznamovaní údajov týkajúcich sa boja proti online sexuálnemu zneužívaniu detí podľa dočasného nariadenia zo strany poskytovateľov aj členských štátov. Väčšia štandardizácia dostupných údajov a ich oznamovanie, napríklad údajov uvedených v návrhu nariadenia o predchádzaní sexuálnemu zneužívaniu detí a boji proti nemu 36 , by prispela k získaniu lepšieho obrazu, pokiaľ ide o príslušné činnosti v boji proti tejto trestnej činnosti. Poskytovatelia a členské štáty musia podľa všetkého vyvinúť ďalšie úsilie na zabezpečenie zberu údajov a oznamovania v súlade s požiadavkami dočasného nariadenia.
Z dostupných údajov vyplýva, že v rámci súčasného dobrovoľného systému odhaľovania a oznamovania sa môže stať, že materiály, ktoré sú automaticky označené ako potenciálny materiál detskej pornografie, sa po ľudskom preskúmaní neoznačia ako materiál detskej pornografie. Môže to byť spôsobené nedostatkom spoločného súboru hashov a iných ukazovateľov na odhaľovanie materiálu detskej pornografie, ktorý sa v EÚ potvrdil ako nezákonný, alebo rozdielnymi právnymi normami v jednotlivých jurisdikciách, najmä medzi EÚ a USA, a to zvlášť pokiaľ ide o príslušné vymedzenie pojmov. Údaje takisto naznačujú veľké rozdiely v počte žiadostí o preskúmanie a miere úspešnosti preskúmania, z čoho nie je možné vyvodiť závery vzhľadom na nedostatok informácií, najmä o rozsahu žiadostí o preskúmanie a dôvodoch na obnovenie.
Pokiaľ ide o požiadavky článku 9 ods. 2 týkajúce sa podmienok spracúvania, z poskytnutých informácií vyplýva, že použité technológie zodpovedajú technologickým aplikáciám určeným výhradne na účely odhaľovania a odstraňovania online materiálu detskej pornografie a jeho oznamovania orgánom presadzovania práva a organizáciám konajúcim vo verejnom záujme proti sexuálnemu zneužívaniu detí. Neboli poskytnuté žiadne informácie o tom, či boli technológie zavedené v súlade s najnovším vývojom a spôsobom, ktorý najmenej narúša súkromie, ani o tom, či sa vykonalo predchádzajúce posúdenie vplyvu na ochranu údajov, ako sa uvádza v článku 35 nariadenia (EÚ) 2016/679, a postup predchádzajúcej konzultácie, ako sa uvádza v článku 36 uvedeného nariadenia.
Pokiaľ ide o proporcionalitu nariadenia, hlavnou otázkou je, či sa dočasným nariadením zabezpečuje rovnováha, ktorú chcel normotvorca Únie nastoliť medzi dosiahnutím cieľa všeobecného záujmu, a to účinne bojovať proti predmetným mimoriadne závažným trestným činom na jednej strane, a potrebou chrániť základné práva detí (dôstojnosť, nedotknuteľnosť, zákaz neľudského alebo ponižujúceho zaobchádzania, súkromný život, práva dieťaťa) na strane druhej zabezpečením základných práv používateľov dotknutých služieb (ochrana súkromia, ochrana osobných údajov, sloboda prejavu, účinný prostriedok nápravy). Dostupné údaje nepostačujú na vyvodenie konečných záverov v tejto súvislosti. So zreteľom na významný negatívny vplyv na život a práva dieťaťa, ktorý je spôsobený sexuálnym zneužívaním, nie je možné ani by nebolo vhodné uplatňovať číselne vyjadrenú normu pri posudzovaní takejto proporcionality z hľadiska počtu zachránených detí. Vzhľadom na uvedené skutočnosti však nič nenasvedčuje tomu, že výnimka nie je primeraná.
Napriek nedostatku dostupných údajov, v dôsledku čoho nie je možné získať prehľad o využívaní dobrovoľných oznámení vo významnom počte členských štátov, z údajov, ktoré sú k dispozícii, jasne vyplýva, že v období oznamovania boli identifikované tisíce detí, došlo k viac ako dvetisíc odsúdeniam a z obehu boli odstránené milióny snímok a videí, čím sa znížila sekundárna viktimizácia. Preto možno dospieť k záveru, že dobrovoľné oznamovanie významne prispelo k ochrane veľkého počtu detí, a to aj pred neustálym zneužívaním, a dočasné nariadenie je podľa všetkého účinné.
Spoločnosť Twitter predložila príspevok pred svojím premenovaním; vo zvyšnej časti tejto správy sa bude označovať ako „X“.
Meta a X výslovne nešpecifikovali konkrétny článok.
Meta a X výslovne nešpecifikovali konkrétny článok.
Poskytovatelia uvedení v zátvorkách sú poskytovatelia, ktorí výslovne oznámili konkrétne opatrenia. Ak niektorí poskytovatelia nie sú uvedení, neznamená to, že toto opatrenie nevykonávajú, ale len to, že to vo svojom oznámení neuviedli.
X Zásady ochrany súkromia, 4. Ako dlho uchovávame informácie, k dispozícii na adrese: https://twitter.com/sk/privacy.
Poskytovatelia uvedení v zátvorkách sú poskytovatelia, ktorí výslovne oznámili konkrétne opatrenia. Ak niektorí poskytovatelia nie sú uvedení, neznamená to, že toto opatrenie nevykonávajú, ale len to, že to vo svojom oznámení neuviedli.
Informácie o organizáciách konajúcich vo verejnom záujme, ktorým poskytovatelia oznamujú online sexuálne zneužívanie detí podľa tohto nariadenia, boli uverejnené na adrese https://home-affairs.ec.europa.eu/policies/internal-security/child-sexual-abuse/legal-framework-protect-children_en v súlade s povinnosťami Komisie podľa článku 8 ods. 2 dočasného nariadenia.
Správa predložená Nemeckom v súlade s článkom 8 nariadenia (EÚ) 2021/1232, doručená 18. októbra 2022. NCMEC uverejňuje vo svojich oznámeniach CyberTipline podľa jednotlivých krajín všetky údaje o prijatých oznámeniach týkajúcich sa členských štátov EÚ vrátane Nemecka. Pozri: NCMEC, oznámenia CyberTipline podľa jednotlivých krajín za rok 2021 , online stav k júlu 2023; NCMEC, oznámenia CyberTipline podľa jednotlivých krajín za rok 2022, online stav k júlu 2023.
https://www.bka.de/SharedDocs/Kurzmeldungen/DE/Kurzmeldungen/230623_Mindestspeicherfristen_IP-Adressen.html.
NCMEC, oznámenia CyberTipline podľa jednotlivých krajín za rok 2021 , online stav k novembru 2023.
NCMEC, oznámenia CyberTipline podľa jednotlivých krajín za rok 2022, online stav k novembru 2023.
Údaje NCMEC sú dostupné tu .
Pozri napríklad zoznam vzorových prípadov v celej EÚ, ktoré sa začali vyšetrovať vďaka dobrovoľnému oznamovaniu zo strany spoločností. Tento zoznam je uvedený v posúdení vplyvu pripojenom k návrhu nariadenia o predchádzaní sexuálnemu zneužívaniu detí a boji proti nemu (pozri najmä prílohu 7).
Poskytovatelia nepovažujú metaúdaje za účinný nástroj pri odhaľovaní materiálu detskej pornografie. Pozri najmä: Pfefferkorn, R., „Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers“, Stanford Internet Observatory, 9. septembra 2021, s. 10 – 11.
Microsoft, oddelenie počítačovej kriminality .
Testimony of Hany Farid, PhotoDNA developer, to House Committee on Energy and Commerce Fostering a Healthier Internet to Protect Consumers (Svedectvo Hanyho Farida, vývojára technológie PhotoDNA, vo Výbore pre energetiku a obchod Snemovne reprezentantov s názvom Podpora zdravšieho internetu na ochranu spotrebiteľov), 16. októbra 2019.
Internet Watch Foundation (IWF), Výročná správa za rok 2022 , s. 129 – 133.
Viac informácií o nástroji Facebooku na proaktívne odhaľovanie nahoty detí a predtým neznámeho obsahu zobrazujúceho vykorisťovanie detí pomocou umelej inteligencie a strojového učenia nájdete tu a tu .
Pfefferkorn, R., „Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers“, Journal of Online Trust and Safety, február 2022, s. 1 – 38.
Thorn, Thorn’s Automated Tool to Remove Child Abuse Content at Scale Expands to More Platforms through AWS Marketplace (Automatizovaný nástroj organizácie Thorn na odstraňovanie obsahu zobrazujúceho zneužívanie detí vo veľkom rozsahu sa rozšíril na viaceré platformy prostredníctvom služby AWS Marketplace), 24. mája 2021.
Microsoft vyvinul projekt Artemis v spolupráci so spoločnosťou The Meet Group, platformou Roblox, aplikáciou Kik a organizáciou Thorn.
Ďalšie informácie nájdete tu: https://safety.twitch.tv/s/article/Our-Work-to-Combat-Online-Grooming?language=en_US .
Platforma Roblox filtruje príspevky a chaty v prípade hráčov vo veku najviac 12 rokov z dôvodu nevhodného obsahu a s cieľom zabrániť zverejňovaniu osobných informácií, napr. domácich adries. Tento systém filtrovania pokrýva všetky oblasti komunikácie na platforme Roblox, verejné aj súkromné. Roblox, Safety Features: Chat, Privacy & Filtering (Bezpečnostné prvky ochrany: chat, súkromie a filtrovanie), online stav k júlu 2023.
Tech Coalition, New Technology to Help Companies Keep Young People Safe (Nová technológia pomôže spoločnostiam ochrániť mladých ľudí), 20. jún 2023.
Tech Coalition, New Technology to Help Companies Keep Young People Safe (Nová technológia pomôže spoločnostiam ochrániť mladých ľudí), 20. jún 2023.
DALL-E je systém umelej inteligencie, ktorý dokáže vytvárať realistické snímky a umenie na základe opisu v prirodzenom jazyku.
Midjourney je generatívny program umelej inteligencie, pričom služba generuje snímky na základe opisu v prirodzenom jazyku.
Europol, ChatGPT - The impact of Large Language Models on Law Enforcement (ChatGPT – vplyv veľkých jazykových modelov na presadzovanie práva), 2023, ISBN 978-92-95220-57-7, strana 7.
Swanson, S. M., ChatGPT Generated Child Sex Abuse When Asked to Write BDSM Scenarios , (ChatGPT po otázke, aby napísal scenáre praktík BDSM, vygeneroval sexuálne zneužívanie detí), Vice, 6. marca 2023; Mitchell, A., ChatGPT gives sick child sex abuse answer, breaking its rules, (ChatGPT poskytol zvrátenú odpoveď zahŕňajúcu sexuálne zneužívanie detí, čím porušil svoje pravidlá), New York Post, 24. júla 2023; Europol, ChatGPT - The impact of Large Language Models on Law Enforcement (ChatGPT – vplyv veľkých jazykových modelov na presadzovanie práva), 2023, ISBN 978-92-95220-57-7, strana 5.
Fowler, G.A., Snapchat tried to make a safe AI. It chats with me about booze and sex , (Snapchat sa pokúsil vytvoriť bezpečnú umelú inteligenciu. Rozpráva sa so mnou o alkohole a sexe), The Washington Post, 14. marca 2023; Vincent, J., Instagram is apparently testing an AI chatbot that lets you choose from 30 personalities (Instagram evidentne testuje chatbota s umelou inteligenciou, ktorý vám dovolí vybrať si z 30 osobností), The Verge, 7. júla 2023.
Crawford, A., Smith, T., Illegal trade in AI child sex abuse images exposed (Bol odhalený nezákonný obchod so snímkami zobrazujúcimi sexuálne zneužívanie detí vytvorenými pomocou umelej inteligencie), BBC, 27. júna 2023.
Thiel, D., Stroebel, M., a Portnoff, R., „ Generative ML and CSAM: Implications and Mitigations “, Stanford Digital Repository, dostupné na adrese https://purl.stanford.edu/jv206yg3793 , https://doi.org/10.25740/jv206yg3793 , 2023, s. 2.
Protect Children, Protect Children’s research in the dark web is revealing unprecedented data on CSAM users (Výskum organizácie Protect Children týkajúci sa dark webu odkrýva bezprecedentné údaje o používateľoch materiálu detskej pornografie), 6. júna 2021; RAINN, What is Child Sexual Abuse Material (CSAM) (Čo je materiál detskej pornografie?), 25. augusta 2022.
Breck Foundation, Is artificial intelligence putting children at risk? , (Ohrozuje umelá inteligencia deti?), 9. februára 2023, aktualizované 3. apríla 2023.
Butler, J., AI tools could be used by predators to ‘automate child grooming’, eSafety commissioner warns (Komisár pre elektronickú bezpečnosť upozorňuje, že predátori by mohli použiť nástroje umelej inteligencie na „automatizáciu groomingu detí“), The Guardian, 19. mája 2023.
Návrh nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú pravidlá predchádzania sexuálnemu zneužívaniu detí a boja proti nemu, COM(2022) 209 final .