EVROPSKÁ KOMISE
V Bruselu dne 19.12.2023
COM(2023) 797 final
ZPRÁVA KOMISE EVROPSKÉMU PARLAMENTU A RADĚ
o provádění nařízení Evropského parlamentu a Rady (EU) 2021/1232 ze dne 14. června 2021 o dočasné odchylce od některých ustanovení směrnice 2002/58/ES, pokud jde o používání technologií poskytovateli interpersonálních komunikačních služeb nezávislých na číslech ke zpracování osobních a jiných údajů pro účely boje proti pohlavnímu zneužívání dětí on-line
OBSAH
SEZNAM POJMŮ A ZKRATEK
1. ÚVOD
2. PROVÁDĚCÍ OPATŘENÍ
2.1. Zpracování osobních údajů poskytovateli (čl. 3 písm. g) bod vii))
2.1.1. Druh a objem zpracovávaných údajů
2.1.2. Důvody pro zpracování podle nařízení (EU) 2016/679
2.1.3. Právní základ pro předávání osobních údajů mimo Unii podle kapitoly V nařízení GDPR, použije-li se
2.1.4. Počet zjištěných případů pohlavního zneužívání dětí on-line, přičemž se rozlišuje mezi materiálem pohlavního zneužívání dětí on-line a navazováním kontaktu s dětmi
2.1.5. Mechanismus nápravy a výsledek stížností uživatelů
2.1.6. Počet a míra chyb (falešně pozitivních nálezů) různých používaných technologií
2.1.7. Opatření použitá k omezení chybovosti a dosažené chybovosti
2.1.8. Politika uchovávání údajů a uplatňovaných záruk ochrany údajů podle nařízení GDPR
2.1.9. Názvy organizací jednajících ve veřejném zájmu proti pohlavnímu zneužívání dětí, s nimiž byly údaje sdíleny podle tohoto nařízení.
2.2. Statistiky členských států (článek 8)
2.2.1. Celkový počet případů odhaleného pohlavního zneužívání dětí on-line
2.2.2. Počet identifikovaných dětí
2.2.3. Počet odsouzených pachatelů
2.3. Technologický pokrok
2.3.1. Odhalování známých materiálů pohlavního zneužívání dětí
2.3.2. Odhalování nových materiálů pohlavního zneužívání dětí
2.3.3. Odhalování groomingu
2.3.4. Nové výzvy v podobě chatbotů s umělou inteligencí a generátorů umění/obrázků
3. ZÁVĚRY
SEZNAM POJMŮ A ZKRATEK
|
Pojem/zkratka |
Definice |
|
UI |
Umělá inteligence |
|
API |
Aplikační programovací rozhraní |
|
CG-CSAM |
Materiály pohlavního zneužívání dětí vytvořené na počítači |
|
ChatGPT |
ChatGPT (z angl. Chat Generative Pre-trained Transformer) je forma generativní umělé inteligence. Jedná se o chatbot založený na velkém jazykovém modelu, vyvinutý organizací OpenAI, který umožňuje uživatelům upřesňovat a řídit konverzaci podle požadované délky, formátu, stylu, úrovně detailů a jazyka. |
|
Klasifikátory |
Forma umělé inteligence, algoritmus, který třídí data do označených tříd nebo kategorií. |
|
Klasifikátor Content Safety API |
Klasifikátor Content Safety API společnosti Google využívá programový přístup a umělou inteligenci s cílem pomoci klasifikovat a upřednostnit miliardy obrázků k přezkumu |
|
CSA |
Pohlavní zneužívání dětí |
|
CSAI Match |
CSAI Match je technologie vyvinutá technickými pracovníky společnosti YouTube k zaznamenání opětovného nahrávání videí, ve kterých bylo dříve identifikováno pohlavní zneužívání dětí |
|
CSAM |
Materiály pohlavního zneužívání dětí, např. obrázky a videa zobrazující pohlavní zneužívání dětí |
|
Směrnice CSA (směrnice o pohlavním zneužívání dětí) |
Směrnice Evropského parlamentu a Rady 2011/93/EU ze dne 13. prosince 2011 o boji proti pohlavnímu zneužívání a pohlavnímu vykořisťování dětí a proti dětské pornografii, kterou se nahrazuje rámcové rozhodnutí Rady 2004/68/SVV (Úř. věst. L 335, 17.12.2011, s. 1) |
|
CSEA |
Pohlavní vykořisťování a zneužívání dětí |
|
CSA on-line |
Pohlavní zneužívání dětí on-line, společný termín používaný pro tři typy pohlavního zneužívání dětí, které jsou definovány ve směrnici o pohlavním zneužívání dětí, a to: dětská pornografie, pornografické představení a navazováním kontaktu s dětmi („grooming“), které jsou definovány v prozatímním nařízení (čl. 2 odst. 4) |
|
EU |
Evropská unie |
|
GDPR |
Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1). |
|
Grooming |
Chování pachatelů budujících důvěru a navazujících vztahy s dítětem ve snaze získat přístup k nezletilé osobě za účelem pohlavního vykořisťování nebo zneužívání. Formálně je tento pojem znám jako navazování kontaktu s dětmi, jak jej definuje článek 6 směrnice o pohlavním zneužívání dětí |
|
Kryptografický klíč |
Jedinečný digitální kód vytvořený matematickým algoritmem („hašování“), který se stává podpisem tohoto souboru nebo jeho hašovací hodnotou |
|
Prozatímní nařízení |
Nařízení Evropského parlamentu a Rady (EU) 2021/1232 ze dne 14. července 2021 o dočasné odchylce od některých ustanovení směrnice 2002/58/ES, pokud jde o používání technologií poskytovateli interpersonálních komunikačních služeb nezávislých na číslech ke zpracování osobních a jiných údajů pro účely boje proti pohlavnímu zneužívání dětí on-line (Úř. věst. L 274, 30.7.2021, s. 41). |
|
LLM |
Velký jazykový model (LLM) je typ modelu umělé inteligence, který byl vycvičen pomocí algoritmů hlubokého učení k rozpoznávání, generování, překladu a/nebo shrnutí velkého množství psaného lidského jazyka a textových dat. |
|
MD5 |
Algoritmus kryptografického kódu pro ověřování zpráv pro použití na internetu |
|
SSN++ |
Model umělé inteligence vyvinutý společností Meta, který dokáže odhalit téměř přesné duplikáty. |
|
NCMEC |
Národní centrum pro pohřešované a zneužívané děti (soukromá nezisková organizace v USA), kterému musí poskytovatelé online služeb podle práva USA hlásit případy možného pohlavního zneužívání dětí, které zjistí ve svých sítích |
|
PDQ a TMK+PDQF |
Nástroje používané společností Facebook k odhalování škodlivého obsahu. PDQ je technologie porovnávání fotografií; TMK+PDQF je technologie porovnávání videí. |
|
PhotoDNA |
Nejpoužívanější nástroj založený na technologii hašování, který je k dispozici zdarma na základě licenční smlouvy upravené tak, aby nedocházelo k jeho zneužívání a používání k jiným účelům než k odhalování pohlavního zneužívání dětí |
1.ÚVOD
Článek 9 prozatímního nařízení (dále také „nařízení“) ukládá Komisi povinnost vypracovat zprávu o jeho provádění na základě zpráv předložených poskytovateli interpersonálních komunikačních služeb (dále jen „poskytovatelé“) o zpracování osobních údajů a na základě statistik poskytnutých členskými státy. Podle výše uvedeného ustanovení Komise ve zprávě o provádění zohlední zejména:
a) příslušné podmínky pro zpracování příslušných osobních údajů a jiných údajů zpracovaných podle nařízení;
b) přiměřenost odchylky stanovené nařízením, včetně posouzení statistik předaných členskými státy podle jeho článku 8;
c) technický pokrok v oblasti činností, na které se vztahuje nařízení, a rozsah, v jakém tento pokrok zlepšuje přesnost a snižuje počet a míru chyb (falešné pozitivní nálezy).
Tato zpráva o provádění podle prozatímního nařízení vychází z údajů získaných ze zpráv předložených poskytovateli a členskými státy podle čl. 3 odst. 1 písm. g) bodu vii), resp. článku 8 nařízení. Tyto zprávy odhalily značné rozdíly v dostupnosti údajů, typech shromažďovaných údajů, a tím i ve srovnatelnosti údajů shromažďovaných poskytovateli a členskými státy. Vzhledem k tomu, že nařízení nestanoví žádný vzor pro podávání zpráv, poskytovatelé sdíleli různé typy informací, které nemusely být nutně srovnatelné; do následných opatření se proto zapojily útvary Komise, aby zajistily správnou interpretaci údajů. Většina členských států neposkytla údaje včas a řada z nich neposkytla ke dni zveřejnění této zprávy žádné údaje. To mělo významný dopad na načasování, úplnost a užitečnost zprávy. Navzdory tomu, že je vyvíjeno úsilí o zajištění soudržnosti údajů a srovnatelnosti, přetrvávají značné rozdíly, které jsou patrné v níže uvedených tabulkách, jež rovněž ve všech bodech neobsahují údaje od všech poskytovatelů nebo členských států.
Cílem této zprávy o provádění je podat faktický přehled o stavu provádění prozatímního nařízení na základě dostupných údajů. Zpráva neposkytuje žádné výklady nařízení ani nezaujímá žádné stanovisko ke způsobu jeho výkladu a uplatňování v praxi.
2.PROVÁDĚCÍ OPATŘENÍ
2.1.Zpracování osobních údajů poskytovateli (čl. 3 písm. g) bod vii))
V čl. 3 písm. g) bodu vii) prozatímního nařízení jsou stanoveny podmínky, za kterých musí poskytovatelé jednající na základě odchylky stanovené v nařízení zveřejnit a předložit příslušnému dozorovému úřadu a Komisi do 3. února 2022 a poté každý rok do 31. ledna zprávu o zpracování osobních údajů podle tohoto nařízení. Společnosti Google, LinkedIn, Meta, Microsoft a X (dříve Twitter) 1 předložily zprávy za roky 2021 a 2022.
2.1.1.Druh a objem zpracovávaných údajů
Poskytovatelé uvedli, že zpracovávají jak údaje o obsahu, tak provozní údaje.
Pokud jde o údaje o obsahu zpracovávané za účelem odhalení pohlavního zneužívání dětí on-line, všichni výše uvedení poskytovatelé zmínili obrazový materiál a videozáznamy. Většinou se spoléhali na hašovací technologie porovnávání PhotoDNA a MD5, díky kterým mohli zjistit shodu s dříve identifikovanými materiály sexuálního zneužívání dětí. K vytvoření digitálních otisků videozáznamů na platformách a jejich porovnání se soubory v úložišti otisků Google/YouTube (LinkedIn) byl použit nástroj CSAI Match společnosti Google. Použití automatizované technologie (strojového učení s umělou inteligencí) a lidského přezkumu (např. společností Google) bylo hlášeno ve stejné míře. Společnosti Google a LinkedIn potvrdily, že identifikovaly také materiály sexuálního zneužívání dětí, které se neshodovaly s dříve identifikovanými materiály sexuálního zneužívání dětí. Žádný z pěti poskytovatelů, kteří předložili údaje, neuvedl žádné údaje o zaznamenaném navazování kontaktu s dětmi prostřednictvím detekce textového obsahu v rámci odchylky stanovené nařízením.
Zprávy poskytovatelů se značně lišily, pokud jde o shromážděné provozní údaje a příslušné objemy různých druhů obsahu a zpracovaných provozních údajů.
Provozní údaje shromážděné poskytovateli a zahrnuté do oznámení CyberTipline zaslaných Národnímu centru pro pohřešované a zneužívané děti v USA (dále jen „NCMEC“) zahrnují (všechny nebo některé) tyto údaje:
a)údaje související s uživatelem / oznamovatelem / účtem (Google, LinkedIn, Microsoft, X);
b)metadata související s obsahem / transakčními údaji (Google, LinkedIn, Microsoft);
c)údaje týkající se potenciální oběti (Google);
d)provozní údaje o zneužití (Google).
Pokud jde o objemy údajů zpracovávaných podle prozatímního nařízení, společnost LinkedIn oznámila, že v období od 14. července do 31. prosince 2021 zpracovala 8 milionů obrazových materiálů a videozáznamů pocházejících z EU a v roce 2022 zpracovala 21 milionů obrazových materiálů a 63 000 videozáznamů pocházejících z EU. Společnost Microsoft oznámila, že v období od července do prosince 2021 zpracovala pro účely nařízení celosvětově 8,9 miliardy obrazových materiálů a videozáznamů a v roce 2022 zpracovala celosvětově 12,3 miliardy položek obsahu; údaje týkající se EU nebyly k dispozici, a proto není možné pro účely této zprávy vyvodit žádné závěry. Ostatní poskytovatelé informace o objemu zpracovávaných údajů neposkytli. Z pěti poskytovatelů, kteří podali zprávy, proto údaje na požadované úrovni rozčlenění poskytl pouze jeden.
Pro ilustraci celkových souvislostí centrum NCMEC uvedlo, že v roce 2022 obdrželo celosvětově celkem 87,2 milionu obrazových materiálů a videozáznamů a 5,1 milionu obrazových materiálů a videozáznamů týkajících se EU a v roce 2021 obdrželo celosvětově 84,8 milionu obrazových materiálů a videozáznamů a 1,8 milionu obrazových materiálů a videozáznamů týkajících se EU. Jedná se pouze o materiály, které byly poskytovatelem identifikovány jako potenciální materiály pohlavního zneužívání dětí, a nelze je proto považovat za ukazatel celkového objemu údajů zpracovávaných podle prozatímního nařízení.
2.1.2. Důvody pro zpracování podle nařízení (EU) 2016/679
Poskytovatelé oznámili, že se opírají o tyto konkrétní důvody podle nařízení (EU) 2016/679 (dále jen „nařízení GDPR“):
·ustanovení čl. 6 odst. 1 písm. d) nařízení GDPR, tj. zpracování nezbytné pro ochranu životně důležitých zájmů dětí a osob, které jsou oběťmi pohlavního zneužívání dětí on-line (Google, Meta, X 2 ),
·ustanovení čl. 6 odst. 1 písm. e) nařízení GDPR, tj. zpracování nezbytné pro splnění úkolů prováděných ve veřejném zájmu (LinkedIn, Microsoft, Meta, X 3 ),
·ustanovení čl. 6 odst. 1 písm. f) nařízení GDPR, tj. zpracování nezbytné pro účely oprávněných zájmů:
I.poskytovatele, aby odhalil, zabránil nebo jinak řešil pohlavní zneužívání dětí on-line v rámci svých služeb a chránil ostatní uživatele, zákazníky, partnery a veřejnost před touto formou nezákonného obsahu (Google, Meta);
II.obětí pohlavního zneužívání dětí a organizace, které poskytovatel hlásí pohlavní zneužívání dětí on-line (např. centra NCMEC), aby v rámci svých služeb odhalila, předcházela a odstranila pohlavní zneužívání dětí on-line (Google).
2.1.3.Právní základ pro předávání osobních údajů mimo Unii podle kapitoly V nařízení GDPR, použije-li se
Všichni poskytovatelé uvedli, že se opírají o standardní smluvní doložky schválené Komisí podle čl. 46 odst. 2 písm. c) nařízení GDPR. V případě předávání osobních údajů centru NCMEC společnost LinkedIn rovněž oznámila, že se v příslušném rozsahu opírá o výjimku povolenou podle čl. 49 odst. 1 nařízení GDPR.
2.1.4.Počet zjištěných případů pohlavního zneužívání dětí on-line, přičemž se rozlišuje mezi materiálem pohlavního zneužívání dětí on-line a navazováním kontaktu s dětmi
Tabulka č. 1 Počet případů pohlavního zneužívání dětí on-line zjištěných v roce 2021
|
Poskytovatel |
Počet případů materiálů pohlavního zneužívání dětí zjištěných v roce 2021 |
Poznámky |
|
|
33 účtů na Google Chat |
Jedná se o počet účtů na Google Chat využívaných uživateli z EU, u nichž bylo v období od 2. srpna 2021 do 31. prosince 2021 pomocí automatizovaných technologií zjištěno pohlavní zneužívání dětí on-line. Nebyly poskytnuty žádné údaje o počtu identifikovaných položek obsahu. |
|
|
31 položek obsahu |
31 položek obsahu bylo potvrzeno manuálním přezkumem jako materiály pohlavního zneužívání dětí a nahlášeno centru NCMEC; šest z nich byly známé materiály pohlavního zneužívání dětí a zbývajících 25 byly neznámé materiály pohlavního zneužívání dětí. |
|
Meta |
340 000 účtů |
Počet účtů, u nichž bylo zjištěno, že v období od 8. listopadu 2021 do 31. prosince 2021 odeslaly alespoň jedno médium představující materiály pohlavního zneužívání dětí ve vláknech zpráv, která zahrnovala uživatele z EU. |
|
Microsoft |
6 600 položek obsahu |
6 600 položek obsahu (jednotlivý obrazový materiál nebo videozáznam) potvrzených jako materiály pohlavního zneužívání dětí zjištěných z Evropské unie z více než 20 000 položek obsahu identifikovaných celosvětově v období od července 2021 do prosince 2021. |
|
X (dříve Twitter) |
532 898 účtů |
Účty (není jasné, zda pouze z EU nebo celosvětově) zablokované za porušení zásad týkajících se pohlavního vykořisťování dětí společnosti X v období od 2. srpna 2021 do 31. prosince 2021. |
V případě společnosti X není z poskytnutých údajů jasné, zda se týkají výhradně služeb spadajících do oblasti působnosti prozatímního nařízení (interpersonální komunikační služby nezávislé na číslech), nebo zda toto číslo zahrnuje i jiné služby (např. služby informační společnosti). To se týká všech údajů týkajících se společnosti X obsažených v této zprávě.
Tabulka č. 2 Počet případů pohlavního zneužívání dětí on-line zjištěných v roce 2022
|
Poskytovatel |
Počet případů materiálů pohlavního zneužívání dětí zjištěných v roce 2022 |
Poznámky |
|
|
2 045 položek obsahu |
Položky obsahu identifikované a nahlášené centru NCMEC v 752 účtech společnosti Google prostřednictvím automatizovaných technologií pro uživatele z EU. |
|
|
2 položky obsahu |
Společnost LinkedIn zaznamenala dva obrazové materiály potvrzené jako materiály pohlavního zneužívání dětí a nezaznamenala žádný videozáznam potvrzený jako materiály pohlavního zneužívání dětí. |
|
Meta |
6,6 milionu položek obsahu |
Média představující materiály pohlavního zneužívání dětí, které byly zjištěny pomocí technologie Meta pro porovnávání médií ve vláknech zpráv, která zahrnovala uživatele z EU. |
|
Microsoft |
12 800 položek obsahu |
12 800 položek obsahu (jednotlivý obrazový materiál nebo videozáznam) potvrzených jako materiály pohlavního zneužívání dětí zjištěných z Evropské unie z více než 50 000 položek obsahu identifikovaných celosvětově v roce 2022. |
|
X (dříve Twitter) |
2 348 712 účtů |
Účty (není jasné, zda pouze z EU nebo celosvětově) zablokované za porušení zásad týkajících se pohlavního vykořisťování dětí společnosti X. |
2.1.5.Mechanismus nápravy a výsledek stížností uživatelů
V souladu s čl. 3 odst. 1 písm. g) bodem iv) prozatímního nařízení mají poskytovatelé zavést vhodné postupy a mechanismy nápravy s cílem zajistit, aby jim uživatelé mohli podávat stížnosti. Kromě toho článek 5 obsahuje ustanovení o právních prostředcích nápravy.
Poskytovatelé uvedli, že zavedli takové interní postupy a mechanismy nápravy pro uživatele, jejichž účty byly omezeny v důsledku sdílení materiálů pohlavního zneužívání dětí a/nebo jejichž obsah byl odstraněn jako materiály pohlavního zneužívání dětí, s cílem zajistit, aby se mohli proti tomuto omezení/odstranění odvolat a aby byl jejich případ přezkoumán z hlediska chyb.
Předložili zprávy o případech, kdy uživatel podal stížnost v rámci interního mechanismu nápravy nebo návrh k justičnímu orgánu v souvislosti s otázkami, na které se vztahuje nařízení v rámci EU, a o výsledcích těchto stížností. Žádný poskytovatel s výjimkou společnosti Microsoft (která v letech 2021 a 2022 nevykázala v obou kanálech žádnou stížnost) neuvedl samostatné statistiky týkající se interních mechanismů nápravy a právních prostředků nápravy; níže uvedené tabulky se proto týkají jak interních mechanismů nápravy, tak právních prostředků nápravy.
Tabulka č. 3 Počet případů, kdy uživatel podal stížnost v rámci interního mechanismu nápravy nebo návrh k justičnímu orgánu, a výsledek těchto stížností či návrhů v roce 2021
|
Poskytovatel |
Počet případů stížností uživatelů |
Počet případů obnovení účtů |
Počet případů obnovení obsahu |
Poznámky |
|
|
8 |
0 |
Není k dispozici |
Deaktivované účty na Google Chat za pohlavní zneužívání dětí on-line, proti čemuž se uživatel odvolal: 8. Žádný z účtů nebyl obnoven. |
|
|
0 |
Není k dispozici |
Není k dispozici |
|
|
Meta |
4 900 |
Není k dispozici |
207 |
4 900 uživatelů se odvolalo. Na základě odvolacího postupu byl 207 uživatelům obnoven obsah a opatření přijatá v souvislosti s účtem byla zrušena. |
|
Microsoft |
0 |
Není k dispozici |
Není k dispozici |
|
|
X (dříve Twitter) |
cca 90 000 |
cca 3 000 |
Nevztahuje se na tento návrh. |
Cca 90 000 odvolání. Společnost X obnovila přibližně 3 000 těchto účtů. |
Tabulka č. 4 Počet případů, kdy uživatel podal stížnost v rámci interního mechanismu nápravy nebo návrh k justičnímu orgánu, a výsledek těchto stížností či návrhů v roce 2022
|
Poskytovatel |
Počet případů stížností uživatelů |
Počet případů obnovení účtů |
Počet případů obnovení obsahu |
Poznámky |
|
|
378 |
0 |
Není k dispozici |
Deaktivované účty společnosti Google za pohlavní zneužívání dětí on-line, proti čemuž se uživatel odvolal: 378. Žádný z účtů nebyl obnoven. |
|
|
0 |
Není k dispozici |
Není k dispozici |
|
|
Meta |
29 000 |
Není k dispozici |
3 700 |
Uživatelé se odvolali proti opatřením týkajícím se přibližně 29 000 sdílených médií. Na základě odvolacího postupu bylo obnoveno přibližně 3 700 položek obsahu a opatření přijatá v souvislosti s účtem byla zrušena. |
|
Microsoft |
0 |
Nevztahuje se na tento návrh. |
Nevztahuje se na tento návrh. |
|
|
X (dříve Twitter) |
Cca 430 000 |
Cca 4 000 |
Nevztahuje se na tento návrh. |
Cca 430 000 odvolání. Společnost X obnovila přibližně 4 000 těchto účtů. |
2.1.6.Počet a míra chyb (falešně pozitivních nálezů) různých používaných technologií
V souladu s čl. 3 odst. 1 písm. e) prozatímního nařízení mají poskytovatelé zajistit, aby používané technologie byly samy o sobě dostatečně spolehlivé, neboť v co největší možné míře omezují výskyt chyb při odhalování obsahu představujícího pohlavní zneužívání dětí on-line.
V tomto ohledu poskytovatelé uvedli, že nepoužívají jednotlivé technologie pro odhalování pohlavního zneužívání dětí on-line samostatně. K odhalování pohlavního zneužívání dětí on-line spíše uplatňují víceúrovňový přístup založený na kombinaci různých technologií pro odhalování, díky čemuž se zvyšuje jejich přesnost. Za účelem snížení míry chyb nebo falešně pozitivních nálezů je všichni poskytovatelé doplňují o lidský přezkum. Poskytovatelé neposkytli údaje o počtu a míře chyb (falešně pozitivních nálezů) pro jednotlivé různé používané technologie zvlášť, ale uvedli souhrnné údaje pro všechny používané technologie.
Většina poskytovatelů měří počet a míru chyb jako počet případů zrušení donucovacích rozhodnutí, tj. jako celkovou míru obnovení účtů nebo položek obsahu / zrušení opatření na základě odvolání (např. míru, v níž poskytovatel obnovil deaktivované účty nebo obsah na základě odvolání uživatele). Přístup poskytovatelů nemusí nutně odrážet definici „falešně pozitivních nálezů“ ve statistikách.
Vykázaná míra obnovení účtů nebo položek obsahu / zrušení opatření je následující:
Tabulka č. 5 Míra obnovení účtů nebo položek obsahu / zrušení opatření na základě odvolání
|
2021* |
2022 |
||||||
|
Poskytovatel |
% obnovených účtů v porovnání s počtem odvolání |
% obnovených účtů v porovnání se zablokovanými účty |
% obnovených účtů v porovnání s počtem odvolání |
% obnovených účtů v porovnání s pozastavenými účty |
Poznámky |
||
|
|
0 % (0 v porovnání s 8) |
0 % (0 v porovnání s 33) |
0 % (0 v porovnání s 378) |
0 % (viz poznámky) |
Počet zablokovaných účtů za rok 2022 nebyl poskytnut. Namísto toho byl poskytnut počet položek obsahu, které byly identifikovány a oznámeny centru NCMEC, a to 2 045. Na základě odvolání nebyl žádný účet obnoven. |
||
|
|
0 % |
0 % |
0 % |
0 % |
Žádná odvolání. Za období od 13. července 2021 do 31. prosince 2021 společnost LinkedIn rovněž uvedla, že ze 75 souborů, které byly přezkoumány jako potenciální materiály pohlavního zneužívání dětí pocházející z EU, jich bylo 31 potvrzeno jako materiály pohlavního zneužívání dětí na základě lidského přezkumu. Společnost LinkedIn tyto údaje za rok 2022 neposkytla. |
||
|
Meta |
4,22 % (207 v porovnání s 4 900) |
0,06 % (207 v porovnání s 340 000) |
Viz poznámky |
Viz poznámky |
Nebyly poskytnuty žádné informace, které by umožnily přesně určit rozsah, obsah odvolání a důvody pro obnovení účtů nebo položek obsahu. Pro rok 2022 byly poskytnuty údaje týkající se položek obsahu, nikoliv účtů: -počet zablokovaných („vyřízených“) položek obsahu: 6,6 milionu -počet položek obsahu, v souvislosti s kterými bylo podáno odvolání: 29 000 -počet obnovených položek obsahu: 3 700 Tedy: -% obnovených položek obsahu v porovnání s počtem odvolání: 12,8 % (3 700 v porovnání s 29 000) -% obnovených položek obsahu v porovnání s počtem zablokovaných položek obsahu: 0,06 % (3 700 v porovnání s 6,6 milionu) |
||
|
Microsoft |
0 % |
— |
— |
— |
Nedostatečné údaje pro výpočet míry obnovení účtů nebo položek obsahu / zrušení opatření. V roce 2022 bylo zrušeno celkem 17 původních rozhodnutí o kontrole obsahu, údaje o celkovém počtu odvolání nebyly poskytnuty. |
||
|
X (dříve Twitter) |
1,43 % (100 v porovnání se 7 000) |
0,06 % (100 v porovnání se 166 000) |
2,17 % (500 v porovnání s 23 000) |
0,10 % (500 v porovnání s 501 000) |
Ve druhé polovině roku 2021 bylo zablokováno přibližně 166 000 uživatelů z důvodu pohlavního zneužívání dětí prostřednictvím automatizovaných mechanismů. Z těchto uživatelů jich přibližně 7 000 podalo odvolání, v důsledku čehož došlo ke zrušení přibližně 100 rozhodnutí. V roce 2022 bylo prostřednictvím automatizovaných mechanismů zablokováno 501 000 uživatelů z důvodu pohlavního zneužívání dětí. Z těchto uživatelů jich přibližně 23 000 podalo odvolání, v důsledku čehož došlo ke zrušení přibližně 500 rozhodnutí. |
||
* Vykazované období se v roce 2021 u jednotlivých poskytovatelů liší
2.1.7.Opatření použitá k omezení chybovosti a dosažené chybovosti
Podle čl. 3 odst. 1 písm. e) prozatímního nařízení musí být použité technologie samy o sobě dostatečně spolehlivé, a pokud k občasným chybám dojde, musí být jejich důsledky neprodleně napraveny. Kromě toho čl. 3 odst. 1 písm. g) bod ii) vyžaduje lidský dohled a v případě potřeby lidský zásah.
Všichni poskytovatelé uvedli, že k odhalování a potírání šíření pohlavního zneužívání dětí on-line používají víceúrovňový přístup. Ten zahrnuje použití hašovacích technologií porovnávání (včetně technologie PhotoDNA) k zaznamenání materiálů pohlavního zneužívání dětí v kombinaci s postupy lidského přezkumu za účelem potvrzení, zda mediální soubor (obrazový materiál a videozáznam) obsahuje materiály pohlavního zneužívání dětí, a také lidský dohled nad zpracováním materiálů pohlavního zneužívání dětí.
Poskytovatelé uvedli, že k omezení a snížení chybovosti při odhalování, oznamování a odstraňování pohlavního zneužívání dětí on-line uplatňují různá opatření a záruky. Patří mezi ně (mimo jiné) 4 :
I.monitorování a hodnocení kvality výkonnosti nástrojů pro odhalování pohlavního zneužívání dětí, a to jak za účelem vyladění přesnosti (že odhalují pouze pohlavní zneužívání dětí on-line), tak i oznamování (že jejich pozornosti na jejich platformách neuniká pohlavní zneužívání dětí on-line) (Google, X);
II.lidský přezkum a dohled: vzorky médií zaznamenaných jako materiály pohlavního zneužívání dětí pomocí hašovacích technologií porovnávání jsou přezkoumávány lidskými kontrolory/školenými analytiky (Google, LinkedIn, Meta, Microsoft);
III.označování a přezkoumávání klastrů o velkých objemech (Meta);
IV.zavedení dalších procesů manuálního přezkumu jako průběžné kontroly kvality technologií hašování (LinkedIn, Microsoft);
V.lidští kontroloři pod vedením poradce absolvují specializované důkladné školení zaměřené na to, jak rozpoznat obsah materiálů pohlavního zneužívání dětí, aby byla zajištěna přesnost lidského přezkumu (Google);
VI.pravidelná hodnocení kontroly kvality prováděné lidskými kontrolory a jejich rozhodnutí (Google, X);
VII.další postupy kontroly kvality pro zajištění omezení chybovosti a okamžité nápravy, jako je nezávislé hašovací ověřování (Google, LinkedIn), lidský přezkum každého případu neznámých materiálů pohlavního zneužívání dětí před jejich oznámením (Google);
VIII.vypracování a pravidelná revize zásad a strategií prosazování odborníky vyškolenými v oblasti pohlavního zneužívání dětí on-line (Google);
IX.zapojení do kvality oznámení CyberTipline centra NCMEC a do případných falešně pozitivních nálezů (Google, LinkedIn, Meta, Microsoft, X).
2.1.8.Politika uchovávání údajů a uplatňovaných záruk ochrany údajů podle nařízení GDPR
Ustanovení čl. 3 odst. 1 písm. h) a i) prozatímního nařízení vyžadují, aby příslušné osobní údaje byly uchovávány bezpečným způsobem, a to výhradně pro konkrétní stanovené účely, a upřesňují dobu jejich uchovávání. Dále je třeba dodržovat platné požadavky nařízení GDPR.
Poskytovatelé uvedli, že mají zavedeny spolehlivé politiky uchovávání osobních údajů a uplatňují záruky jejich ochrany. Politiky uchovávání údajů se liší v závislosti na typu údajů. Uvedli, že v každém případě je doba uchovávání omezena na dobu, která je považována za přiměřenou typu údajů a účelu zpracování, a údaje jsou po uplynutí doby uchovávání vymazány. Poskytovatelé mají podrobnější informace o postupech uchovávání údajů obsaženy ve svých zásadách ochrany osobních údajů / prohlášeních o ochraně osobních údajů a ve smlouvách o poskytování služeb / uživatelských smlouvách.
Většina poskytovatelů (LinkedIn, Meta, Microsoft) uplatňuje politiku uchovávání údajů s dobou uchovávání v délce 90 dnů v případě médií, u nichž bylo potvrzeno, že obsahují materiály pohlavního zneužívání dětí, jež dle zjištění spadají do oblasti působnosti nařízení. Během této doby je obsah, jenž byl potvrzen jako materiály pohlavního zneužívání dětí, uložen v odděleném a zabezpečeném úložišti materiálů pohlavního zneužívání dětí, které spravují specializované týmy (např. tým společnosti Microsoft pro prosazování práva a národní bezpečnost). Tyto systémy pro ukládání automaticky vymažou uložený obsah materiálů pohlavního zneužívání dětí po 90 dnech, pokud není doba uchovávání prodloužena v případě, že jsou obdrženy žádosti o zákonné zpracování, které se obvykle týkají donucovacích orgánů v návaznosti na oznámení centra NCMEC.
Společnost Google uvedla, že materiály pohlavního zneužívání dětí zjištěné v oblasti působnosti nařízení se neuchovávají déle, než je nezbytně nutné pro příslušné účely podle nařízení, a v každém případě ne déle než dvanáct měsíců od okamžiku, kdy jsou materiály pohlavního zneužívání dětí zjištěny a nahlášeny, přičemž tato doba může být prodloužena na základě platné žádosti o zákonné uchování.
Společnost X (dříve Twitter) uvedla, že uchovává informace o profilu a jeho obsah po dobu trvání uživatelského účtu a osobní údaje shromážděné při používání služby uživateli uchovává po dobu maximálně osmnácti měsíců. Když uživatel svůj účet deaktivuje, společnost X obvykle uchovává údaje po dobu dalších 30 dní, poté účet vymaže. Údaje o uživatelích týkající se stížností a porušení zásad, včetně informací o účtech osob, které zásady porušily (např. identifikátory použité k vytvoření účtu: e-mailová adresa nebo telefonní číslo), jsou uchovávány po neomezenou dobu, aby se zabránilo tomu, že osoby, které porušily zásady, si vytvoří nové účty, a aby se zajistilo, že osoby porušující zásady společnosti X nebudou jednoduše čekat na okamžik, kdy se údaje vymažou, aby poté znovu mohli porušovat zásady 5 .
Záruky ochrany osobních údajů zavedené poskytovateli zahrnují (všechna nebo některá) standardní odvětvová opatření, jako jsou (mimo jiné) 6 :
I.používání technik deidentifikace nebo pseudonymizace a anonymizace údajů (např. maskování, hašování, rozdílné ochrany soukromí) (Google, LinkedIn, Meta, Microsoft);
II.poskytování pouhých hašovacích hodnot třetím stranám za účelem zjištění materiálů pohlavního zneužívání dětí (Google, LinkedIn);
III.používání standardního odvětvového šifrování (algoritmů a protokolů) pro předávání údajů mezi soukromou infrastrukturou a veřejnými sítěmi (Meta);
IV.zavedení strategií správy údajů / komplexních programů na ochranu osobních údajů (X, dříve Twitter, Google) a přísných interních omezení přístupu k údajům (Meta) (např. uplatňovaných na zaměstnance, dodavatele, zprostředkovatele, kteří potřebují informace k jejich zpracování), používání seznamů řízení přístupu (Access Control Lists) v rámci nástrojů pro přezkum materiálů pohlavního zneužívání dětí a zákazů hašování (Meta) a přísné smluvní povinnosti mlčenlivosti uplatňované na osoby, které mají přístup;
V.přezkum strategií anonymizace a správy údajů, tj. provádění přezkumů ochrany osobních údajů za účelem identifikace, přístupu a zmírnění potenciálních rizik pro ochranu osobních údajů vyplývajících ze shromažďování, zpracování, ukládání a sdílení osobních údajů, přezkum postupů ochrany (Microsoft);
VI.udržování plánů reakce na bezpečnostní incidenty pro účely monitorování, odhalování a řešení případných bezpečnostních zranitelných míst a incidentů v infrastruktuře (Google, Meta).
2.1.9.Názvy organizací jednajících ve veřejném zájmu proti pohlavnímu zneužívání dětí, s nimiž byly údaje sdíleny podle tohoto nařízení.
V obou vykazovaných obdobích (červenec/srpen 2021 až prosinec 2021 a leden 2022 až prosinec 2022) všichni poskytovatelé uvedli, že sdílejí údaje zpracovávané podle tohoto nařízení s centrem NCMEC. Všichni poskytovatelé, kteří podali zprávu, rovněž v souladu s čl. 7 odst. 1 prozatímního nařízení sdělili Komisi, že hlásili pohlavní zneužívání dětí on-line podle tohoto nařízení centru NCMEC 7 .
2.2.Statistiky členských států (článek 8)
Členské státy jsou povinny poskytovat statistické údaje podle čl. 8 odst. 1 prozatímního nařízení o:
(a)celkovém počtu případů odhaleného pohlavního zneužívání dětí on-line, které oznámili poskytovatelé a organizace jednající ve veřejném zájmu proti pohlavnímu zneužívání dětí příslušným vnitrostátním donucovacím orgánům, s rozlišením, jsou-li takové informace k dispozici, absolutního počtu případů a případů oznámených vícekrát a typu poskytovatele, u jehož služby bylo sexuální zneužívání dětí on-line odhaleno;
(b)počtu dětí identifikovaných prostřednictvím opatření podle článku 3, s rozlišením podle pohlaví;
(c)počtu odsouzených pachatelů.
Většina členských států sice poskytla alespoň částečné informace, ale v řadě členských státech nebyly zavedeny příslušné systémy pro sběr údajů a podávání zpráv. V důsledku toho se statistické údaje, pokud byly poskytnuty, vztahují k velmi různorodým vykazovaným obdobím a výrazně se liší z hlediska rozčlenění. Některé členské státy předložily roční statistiky ke dni vstupu nařízení v platnost. Většina z nich podávala zprávy za kalendářní roky, protože ke dni vstupu nařízení v platnost pravděpodobně neměly technické prostředky k rozlišení požadovaných statistik podle jednotlivých let. Několik členských států neposkytlo žádné údaje.
Je třeba také uvést, že v některých případech jsou statistické údaje získávány z tzv. aktuálních databází nebo systémů pro správu záznamů a případů, tedy nikoli ze skutečných statistických systémů. Čísla jsou někdy uváděna na základě dynamických údajů, což znamená, že údaje nejsou konečné, tj. mohou se změnit. Ke změnám dochází např. v závislosti na době získávání údajů (např. ve Slovinsku a Dánsku), protože je ukončeno více vyšetřování a soudních případů.
V několika členských státech příslušné orgány vytvářejí nová oddělení pro vyšetřování trestných činů souvisejících s pohlavním zneužíváním dětí on-line a centrální hlášení pohlavního zneužívání dětí on-line (Lotyšsko, Česko). To by mělo v budoucnu přispět k přesnějším statistikám.
Německo uvedlo, že nemůže poskytnout žádné statistické údaje podle čl. 8 odst. 1 prozatímního nařízení, protože se domnívá, že nemá žádný právní základ pro dobrovolné zjišťování 8 . Německý Spolkový kriminální úřad (BKA) však na svých internetových stránkách uvádí, že v roce 2022 obdržel od centra NCMEC 89 844 oznámení, a centrum NCMEC uvádí, že německým orgánům zaslalo 138 193 oznámení. 9 Tři členské státy neposkytly žádné údaje a ani nijak neodůvodnily, proč nepodaly zprávy podle uvedeného ustanovení (Malta, Portugalsko a Rumunsko).
2.2.1. Celkový počet případů odhaleného pohlavního zneužívání dětí on-line
Statistické údaje o celkovém počtu případů pohlavního zneužívání dětí on-line podle čl. 8 odst. 1 písm. a) prozatímního nařízení poskytla většina členských států. Vzhledem k tomu, že členské státy poskytly údaje za různá vykazovaná období, nebylo možné vypočítat celkový počet oznámení odhaleného pohlavního zneužívání dětí on-line obdržených na úrovni EU za dané období, například za dobu provádění nařízení.
Členské státy většinou uváděly celkový počet oznámení, která obdržely vnitrostátní donucovací orgány od poskytovatelů nebo jiných organizací jednajících ve veřejném zájmu proti pohlavnímu zneužívání dětí. Vzhledem k tomu, že většina poskytovatelů se sídlem v USA podává zprávy centru NCMEC, členské státy převážně uvedly, že většinu nebo všechna oznámení obdržely od centra NCMEC. Členské státy neuvedly počet oznámení, na základě kterých lze přijmout opatření, tj. oznámení vhodných k vyšetřování, avšak některé z nich uvedly počet zahájených případů, který je výrazně nižší. Rozdíl mezi počtem obdržených oznámení a počtem vyšetřovaných případů byl přičítán několika důvodům, např. že oznámení obsahovalo materiály pohlavního zneužívání dětí, ale neobsahovalo dostatečné informace pro zahájení vyšetřování; sloučení oznámení, pokud se na určitého podezřelého vztahovalo více než jedno oznámení, nebo že materiál, ačkoli zobrazoval vykořisťující situace, nebyl posouzen jako trestný čin podle vnitrostátního práva. Kromě toho členské státy většinou nerozlišovaly mezi absolutním počtem případů a případů nahlášených vícekrát. V případech, kdy oznámení poskytovalo centrum NCMEC, byla oznámení obdržená od poskytovatelů centrem předem kategorizována na „oznámení, na základě kterých lze přijmout opatření“ nebo „informativní oznámení“. Centrum NCMEC definuje oznámení, na základě kterého lze přijmout opatření, jako oznámení, které obsahuje dostatečné informace pro zahájení vyšetřování. Obvykle obsahuje údaje o uživateli, obrazové materiály a možnou polohu. Oznámení je klasifikováno jako „informativní“, pokud neobsahuje dostatečné informace nebo pokud je snímek považován za virální a byl vícekrát nahlášen. Centrum NCMEC v roce 2022 klasifikovalo 49 % oznámení jako „oznámení, na základě kterých lze přijmout opatření“, zatímco 51 % jich označilo jako „informativní oznámení“.
Pouze velmi málo členských států uvedlo typ poskytovatele, v rámci jehož služeb bylo pohlavní zneužívání dětí on-line zjištěno (např. Belgie, Česko, Estonsko, Francie a Polsko), a podrobné rozčlenění poskytl pouze jeden členský stát (Belgie).
Slovinsko uvedlo, že nemůže zvlášť poskytnout údaje, které se týkají trestných činů vyšetřovaných na základě oznámení předložených poskytovateli a organizacemi, nicméně může poskytnout údaje o všech vyšetřováních pohlavního zneužívání dětí on-line bez ohledu na zdroj informací, které vedly k zahájení vyšetřování.
Tabulka č. 6 Celkový počet případů odhaleného pohlavního zneužívání dětí on-line oznámených členskými státy
|
Země |
Vykazované období |
Celkový počet případů pohlavního zneužívání dětí on-line |
Zdroj oznámení |
Poznámky |
|
Rakousko |
2021 až 2022 |
16 311 |
NCMEC |
|
|
Belgie |
od 1. srpna 2021 do 31. července 2022 |
26 226 |
Oznámení od poskytovatelů (sociálních médií) a z horké linky organizace Childfocus |
|
|
Bulharsko |
2021 až 2022 |
9 120 |
Poskytovatelé a horká linka INHOPE prostřednictvím „Safenet“ a další |
Z toho se 9 112 oznámení týkalo internetových stránek obsahujících materiály pohlavního zneužívání dětí, které hostovali bulharští poskytovatelé. |
|
Chorvatsko |
od 1. ledna 2021 do 31. října 2022 |
9 044 |
NCMEC |
|
|
Kypr |
od 1. července 2021 do 31. prosince 2022 |
3 570 |
NCMEC |
|
|
Česko |
od 1. ledna 2022 do 31. července 2022 |
13 279 |
NCMEC |
|
|
Dánsko |
od 2. srpna 2021 do 20. ledna 2023 |
10 744 |
NCMEC |
|
|
Estonsko |
— |
— |
NCMEC, linka pomoci dětem 116 111 |
Estonsko uvedlo, že statistiky policie a pohraniční stráže, včetně centra NCMEC, nejsou veřejné. Za rok 2021 nahlásili 360 sexuálních trestných činů proti dítěti, při kterých nedošlo k navázání kontaktu. Kromě toho bylo 86 % všech sexuálních trestných činů, při kterých nedošlo k navázání kontaktu, spácháno v prostředí internetu nebo s využitím nástrojů informačních technologií. |
|
Finsko |
2022 |
25 000 |
NCMEC a Save the Children |
|
|
Francie |
od 1. srpna 2021 do 1. srpna 2022 |
120 000 |
NCMEC |
|
|
Německo |
— |
— |
— |
Údaje nejsou k dispozici/nebyly vykázány. |
|
Řecko |
2021 až 2022 |
142 |
NCMEC, řecká horká linka pro nelegální internetový obsah – Safeline, Národní telekomunikační a poštovní komise, národní linka SOS 1056 – The smile of the child, řecký veřejný ochránce práv |
|
|
Maďarsko |
2022 |
0 |
Žádné z oznámení zaslaných poskytovateli nebylo zasláno podle prozatímního nařízení |
|
|
Irsko |
2021 až 2022 |
15 355 |
NCMEC |
|
|
Itálie |
2022 |
4 607 |
Neuvedeno |
|
|
Lotyšsko |
od 1. srpna 2022 do 6. března 2023 |
Přibližně 115 až 220 oznámení měsíčně |
Od poskytovatelů a organizací mimo Lotyšsko jednajících ve veřejném zájmu proti pohlavnímu zneužívání dětí (většinou od centra NCMEC) a od lotyšských poskytovatelů a organizací (většinou od lotyšské organizace Safer Internet Center) |
|
|
Litva |
od 1. ledna 2021 do 30. června 2022 |
4 142 |
Neuvedeno |
|
|
Lucembursko |
2021 až 2022 |
2 491 |
Neuvedeno |
|
|
Malta |
— |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Nizozemsko |
2021 |
36 537 |
Poskytovatelé a organizace jednající ve veřejném zájmu proti pohlavnímu zneužívání dětí |
|
|
Polsko |
od 3. srpna 2021 do 3. srpna 2023 |
227 |
Poskytovatelé a organizace jednající ve veřejném zájmu proti pohlavnímu zneužívání dětí |
Za období od 3. srpna 2022 do 3. srpna 2023 Polsko zaznamenalo jedno oznámení týkající se groomingu dětí a 105 oznámení týkajících se materiálů pohlavního zneužívání dětí. |
|
Portugalsko |
— |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Rumunsko |
— |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Slovensko |
od 1. srpna 2021 do 31. července 2022 |
7 206 |
Poskytovatelé a organizace jednající ve veřejném zájmu proti pohlavnímu zneužívání dětí |
|
|
Slovinsko |
od 1. ledna 2021 do 14. července 2023 |
452 |
Toto číslo uvádí trestné činy související s činností na internetu. Stávající statistické údaje v současné době neumožňují Slovinsku oddělit statistické údaje týkající se trestných činů vyšetřovaných na základě oznámení předložených poskytovateli a organizacemi od statistických údajů týkajících se ostatních oznámení. |
|
|
Španělsko |
2022 |
31 474 |
Organizace jednající ve veřejném zájmu proti pohlavnímu zneužívání dětí |
|
|
Švédsko |
Srpen 2021 až 31. prosinec 2022 |
32 830 |
Většinou centrum NCMEC |
Vzhledem k tomu, že centrum NCMEC je hlavním zdrojem oznámení, může informace poskytnout porovnání údajů o oznámeních obdržených členskými státy s údaji, které poskytlo centrum NCMEC ohledně oznámení zaslaných členským státům. V roce 2021 obdrželo centrum NCMEC celosvětově od odvětví celkem 29 397 681 hlášení, z nichž 99,7 % (tj. 29 309 106) obsahovalo jeden nebo více obrazových materiálů nebo videozáznamů pohlavního zneužívání dětí, 0,15 % (tj. 44 155) se týkalo groomingu a 0,05 % (tj. 16 032) obchodování s dětmi za účelem pohlavního zneužívání. V roce 2022 obdrželo centrum NCMEC celkem 32 059 029 hlášení, z nichž 99,5 % (tj. 31 901 234) se týkalo obrazových materiálů nebo videozáznamů pohlavního zneužívání dětí, 0,25 % (80 524) groomingu a 0,06 % (tj. 18 336) obchodování s dětmi za účelem pohlavního zneužívání. V případě EU je rozčlenění následující:
Tabulka č. 7 Oznámení centra NCMEC týkající se podezření na pohlavní zneužívání dětí on-line poskytnuté členským státům EU v letech 2021 a 2022
|
Země |
Celkový počet oznámení v roce 2021 10 |
% z celkového počtu EU v roce 2021 |
Celkový počet oznámení v roce 2022 11 |
% z celkového počtu EU v roce 2022 |
% obyvatel EU |
|
Rakousko |
7 580 |
1,36 % |
18 501 |
1,23 % |
2,00 % |
|
Belgie |
15 762 |
2,84 % |
50 255 |
3,34 % |
2,60 % |
|
Bulharsko |
13 584 |
2,44 % |
31 937 |
2,12 % |
1,53 % |
|
Chorvatsko |
4 744 |
0,85 % |
11 693 |
0,78 % |
0,86 % |
|
Kypr |
2 657 |
0,48 % |
7 361 |
0,49 % |
0,20 % |
|
Česko |
15 004 |
2,70 % |
61 994 |
4,12 % |
2,36 % |
|
Dánsko |
5 891 |
1,06 % |
30 215 |
2,01 % |
1,31 % |
|
Estonsko |
2 729 |
0,49 % |
6 408 |
0,43 % |
0,30 % |
|
Finsko |
6 079 |
1,09 % |
10 904 |
0,73 % |
1,24 % |
|
Francie |
98 233 |
17,67 % |
227 465 |
15,13 % |
15,16 % |
|
Německo |
79 701 |
14,34 % |
138 193 |
9,19 % |
18,59 % |
|
Řecko |
14 616 |
2,63 % |
43 345 |
2,88 % |
2,37 % |
|
Maďarsko |
31 710 |
5,70 % |
109 434 |
7,28 % |
2,16 % |
|
Irsko |
7 327 |
1,32 % |
19 770 |
1,31 % |
1,13 % |
|
Itálie |
37 480 |
6,74 % |
96 512 |
6,42 % |
13,32 % |
|
Lotyšsko |
1 537 |
0,28 % |
3 688 |
0,25 % |
0,42 % |
|
Litva |
3 509 |
0,63 % |
16 603 |
1,10 % |
0,63 % |
|
Lucembursko |
2 005 |
0,36 % |
2 004 |
0,13 % |
0,14 % |
|
Malta |
750 |
0,13 % |
4 713 |
0,31 % |
0,12 % |
|
Nizozemsko |
36 790 |
6,62 % |
57 012 |
3,79 % |
3,96 % |
|
Polsko |
37 758 |
6,79 % |
235 310 |
15,65 % |
8,41 % |
|
Portugalsko |
34 415 |
6,19 % |
42 674 |
2,84 % |
2,31 % |
|
Rumunsko |
32 765 |
5,89 % |
96 287 |
6,40 % |
4,25 % |
|
Slovensko |
7 275 |
1,31 % |
39 748 |
2,64 % |
1,21 % |
|
Slovinsko |
3 162 |
0,57 % |
14 795 |
0,98 % |
0,47 % |
|
Španělsko |
33 136 |
5,96 % |
77 727 |
5,17 % |
10,60 % |
|
Švédsko |
19 635 |
3,53 % |
48 883 |
3,25 % |
2,33 % |
|
Celkem |
555 834 |
1 503 431 |
Výrazné rozdíly v počtu oznámení v letech 2021 a 2022, které naznačují prudký nárůst oznámení v roce 2022, jsou z velké části způsobeny poklesem dobrovolného odhalování v období od ledna do srpna 2021, kdy ještě nebylo v platnosti prozatímní nařízení.
Centrum NCMEC nerozlišuje ve svých statistikách rozčleněných podle členských států EU jednotlivé zdroje zprávy, zejména to, zda pochází z interpersonálních komunikačních služeb nezávislých na číslech. Poskytuje však statistiky o celkovém počtu oznámení týkajících se EU, která pocházejí z interpersonálních komunikačních služeb nezávislých na číslech. V roce 2021 pocházelo 283 265 oznámení týkajících se členských států ze služby chatu, zasílání zpráv nebo e-mailu, což je 51 % všech oznámení týkajících se EU. Dalších 164 645 (30 % z celkového počtu) oznámení pocházelo ze sociálních médií nebo herních platforem on-line, které mohou mít také integrované služby zasílání zpráv nebo chatu. V roce 2021 souviselo 3 565 oznámení týkajících se EU s groomingem. V roce 2022 pocházelo 1 015 231 oznámení týkajících se členských států ze služby chatu, zasílání zpráv nebo e-mailu, což je 68 % všech oznámení týkajících se EU. Dalších 325 847 (22 % z celkového počtu) oznámení pocházelo ze sociálních médií nebo herních platforem on-line, které mohou mít také integrované služby zasílání zpráv nebo chatu. V roce 2022 souviselo 7 561 oznámení týkajících se EU s groomingem. Rozdíly v počtu oznámení z interpersonálních komunikačních služeb nezávislých na číslech v letech 2021 a 2022 jsou opět způsobeny poklesem dobrovolného odhalování v období mezi lednem a srpnem 2021, kdy prozatímní nařízení ještě nebylo v platnosti.
Podíl oznámení na každý členský stát se v mnoha případech zhruba shoduje s podílem populace daného členského státu v porovnání s populací EU jako celku, což by mohlo ukazovat na srovnatelný výskyt pohlavního zneužívání dětí on-line v členských státech. V případě Španělska a Itálie, jejichž procentní podíl se zdá být v porovnání s procentním podílem populace EU v obou rocích nízký, jsou patrné výrazné odchylky, zatímco podíl oznámení v ostatních členských státech zjevně výrazně kolísá (např. v Německu, Polsku, Nizozemsku, Slovensku). Tyto změny nejsou v oznámeních počtu případů zohledněny, a proto je opět obtížné vyvodit závěry o vzájemné souvislosti mezi oznámeními a vyšetřováními.
Vzhledem k tomu, že se vykazovaná období liší, není možné přímé porovnání, nicméně mezi statistikami poskytnutými centrem NCMEC a údaji vykázanými členskými státy existují značné rozdíly. Kromě toho nelze údaje centra NCMEC pro členské státy plně porovnat s údaji poskytnutými odvětvím, které byly uvedeny v předchozím oddíle. Některé rozdíly mohou být zapříčiněny tím, že hlášení pohlavního zneužívání dětí on-line pocházejí z jiných zdrojů než z interpersonálních komunikačních služeb, to by však vyžadovalo další analýzu, neboť je také možné, že dochází k dobrovolnému odhalování v EU ze strany jiných poskytovatelů než těch, kteří podali zprávy Komisi, a to s ohledem na seznam poskytovatelů, kteří hlásí pohlavní zneužívání dětí on-line centru NCMEC 12 . Nicméně vzhledem k tomu, že u většiny členských států zjevně existuje značný rozdíl mezi počtem oznámení, která centrum NCMEC uvádí jako zaslaná členskému státu, a počtem oznámení, která členský stát uvádí jako obdržená, lze z toho vyvodit neúplnost sběru údajů a podávání zpráv ze strany členských států.
V případě každého výše uvedeného oznámení centra NCMEC byly související obrazové materiály a videozáznamy pohlavního zneužívání dětí staženy a bylo zamezeno jejich šíření. To je důležité zejména pro současné oběti pohlavního zneužívání dětí a osoby přeživší pohlavní zneužívání dětí. Studie ukázaly, že pokračující šíření obrazových materiálů a videozáznamů, které zachycují zneužívání, snižuje schopnost obětí vyrovnat se s psychickou újmou v důsledku zneužívání a způsobuje sekundární formu viktimizace.
2.2.2. Počet identifikovaných dětí
Většina členských států poskytla úplné nebo částečné statistické údaje o počtu identifikovaných dětí, s rozlišením podle pohlaví, podle čl. 8 odst. 1 písm. b) prozatímního nařízení. Několik členských států neposkytlo žádné údaje a ani nijak neodůvodnily, proč nepodaly zprávy podle uvedeného ustanovení.
Několik členských států nepředložilo za vykázané období žádné statistické údaje nebo předložilo pouze částečné statistické údaje, nicméně uvedlo k tomu důvody. Těmito důvody jsou:
-nelze určit počet dětských obětí pohlavního zneužívání dětí on-line (Francie),
-údaje nejsou k dispozici, protože nebyly shromážděny v rámci sběru vnitrostátních statistických údajů / vnitrostátní orgány tyto statistické údaje nezaznamenaly (Dánsko, Litva),
-údaje nebyly v rámci sběru národních statistických údajů rozlišeny podle pohlaví (Belgie, Kypr, Česko, Řecko, Irsko, Itálie, Litva, Nizozemsko),
-ve stávajících informačních systémech nejsou k dispozici informace s požadovanou úrovní podrobnosti (Finsko),
-informace nejsou shromažďovány (Německo).
Několik členských států, které uvedly, že statistické údaje nemohou poskytnout, potvrdilo, že své vnitrostátní orgány požádaly o změnu postupu evidence dobrovolných oznámení a vyšetřování a sběru statistických údajů (Dánsko) a/nebo že zavádějí nové informační systémy, které by měly umožnit podávání zpráv na požadované úrovni podrobnosti (Finsko).
V jednom členském státě níže uvedené údaje nerozlišují mezi dětskými oběťmi pohlavního zneužívání dětí on-line a off-line (Maďarsko). V některých případech statistické údaje zahrnují také děti, u nichž bylo zjištěno, že tento materiál samy vytvořily a nahrály (materiál vytvořený vlastní činností, většinou videozáznam) (Česko, Estonsko).
Vzhledem k tomu, že členské státy většinou podávaly zprávy za různá vykazovaná období, nebylo možné vypočítat celkový počet dětí identifikovaných jako oběti pohlavního zneužívání dětí on-line v EU za rok a/nebo za stejné vykazované období.
Tabulka č. 8 Počet identifikovaných dětí, s rozlišením podle pohlaví
|
Země |
Vykazované období |
Ženské pohlaví |
Mužské pohlaví |
Celkem |
Poznámky |
|
Rakousko |
2021 až 2022 |
11 |
6 |
17 |
|
|
Belgie |
2021 až 2022 |
— |
— |
63 |
Údaje rozlišené podle pohlaví nejsou k dispozici. |
|
Bulharsko |
2022 |
50 |
12 |
62 |
|
|
Chorvatsko |
od 1. ledna 2021 do 31. října 2022 |
20 |
0 |
20 |
|
|
Kypr |
2022 |
— |
— |
102 |
Údaje rozlišené podle pohlaví nejsou k dispozici. |
|
Česko |
2022 |
— |
— |
30 |
Údaje rozlišené podle pohlaví nejsou k dispozici. |
|
Dánsko |
— |
— |
— |
— |
Údaje nejsou k dispozici. |
|
Estonsko |
2021 |
6 |
12 |
18 |
|
|
Finsko |
— |
— |
— |
— |
Údaje nejsou k dispozici. |
|
Francie |
— |
— |
— |
— |
Údaje nejsou k dispozici. |
|
Německo |
— |
— |
— |
— |
Údaje nejsou k dispozici. |
|
Řecko |
2021 až 2022 |
— |
— |
4 |
Údaje rozlišené podle pohlaví nejsou k dispozici. |
|
Maďarsko |
2021 až 2022 |
379 |
47 |
426 |
Nelze rozlišovat mezi oběťmi pohlavního zneužívání dětí on-line a off-line. Zahrnuty jsou pouze děti mladší šestnácti let. |
|
Irsko |
2021 až 2022 |
— |
— |
101 |
Údaje za rok 2021 (50 obětí) nelze rozlišit podle pohlaví. Údaje rozlišené podle pohlaví pro rok 2022 jsou: identifikováno 25 dětí ženského a 26 dětí mužského pohlaví. |
|
Itálie |
2022 |
— |
— |
385 |
Údaje rozlišené podle pohlaví nejsou k dispozici. |
|
Lotyšsko |
od 1. srpna 2022 do 6. března 2023 |
1 |
— |
1 |
|
|
Litva |
— |
— |
— |
— |
Údaje nejsou k dispozici. |
|
Lucembursko |
2021 až 2022 |
0 |
0 |
0 |
|
|
Malta |
— |
— |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Nizozemsko |
2021 |
— |
— |
222 |
Údaje rozlišené podle pohlaví nejsou k dispozici. |
|
Polsko |
2022 |
2 368 |
487 |
3 014 |
V roce 2022 poskytl Národní policejní informační systém v Polsku údaje o 3 014 obětech trestných činů souvisejících s pohlavním zneužíváním dětí (2 368 ženského pohlaví, 487 mužského pohlaví, 159 dětí, jejichž pohlaví nebylo uvedeno). |
|
Portugalsko |
— |
— |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Rumunsko |
— |
— |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Slovensko |
srpen 2021 až červenec 2022 |
13 |
8 |
21 |
|
|
Slovinsko |
od 1. ledna 2021 do 14. července 2023 |
220 |
85 |
305 |
|
|
Španělsko |
2022 |
80 |
39 |
119 |
|
|
Švédsko |
2022 |
8 |
4 |
12 |
|
|
CELKEM ZA VŠECHNY ČLENSKÉ STÁTY |
od 1. ledna 2021 do 6. března 2023 |
3 156 |
700 |
4 922 |
K výše uvedeným údajům se vztahuje řada dalších výhrad. Stávající statistické údaje neumožňují členským státům vždy oddělit údaje o obětech, které byly identifikovány na základě hlášení poskytovatele, od údajů o obětech, u nichž mohla trestný čin oznámit například sama oběť nebo jej mohla oznámit jiná osoba, která oběť znala nebo trestný čin odhalila (jak uvedlo Slovinsko). Švédsko uvedlo, že do údajů jsou zahrnuty i děti, které byly identifikovány prostřednictvím záznamů z chatu, ačkoli nikdy nebyly zajištěny žádné obrazové materiály nebo videozáznamy zneužívání ani nebylo určeno, že obrazové materiály nebo videozáznamy pocházejí od této konkrétní oběti.
Údaje obsažené v tabulce č. 8 nemusí v obecné rovině nutně odpovídat oznamovacím povinnostem stanoveným v prozatímním nařízení, které se týkají pouze obětí zachráněných díky oznámení zaslaným poskytovateli a organizacemi jednajícími ve veřejném zájmu proti pohlavnímu zneužívání dětí. Poskytnuté údaje v některých případech zahrnují oběti identifikované z různých jiných důvodů a různými jinými způsoby.
Údaje tedy neumožňují získat ucelený přehled o počtu dětí identifikovaných jako oběti pohlavního zneužívání dětí on-line v EU.
I když byla oběť identifikována, nemusí to navíc nutně znamenat, že v souvislosti s touto identifikací došlo k odsouzení. V některých případech byla oběť identifikována, ale vyšetřování nevedlo k určení podezřelého ani k jeho odsouzení (Švédsko).
Nicméně z údajů lze vyvodit, že značný počet obětí byl identifikován pomocí dobrovolného oznamování v souladu s prozatímním nařízením. Tuto skutečnost potvrzují i zprávy donucovacích orgánů o případech, které jsou často zahajovány pouze na základě dobrovolného oznámení 13 .
2.2.3. Počet odsouzených pachatelů
Ačkoli většina členských států své povinnosti splnila, dva členské státy neposkytly žádné údaje a ani nijak neodůvodnily, proč nepodaly zprávu podle čl. 8 odst. 1 písm. c) prozatímního nařízení.
Několik členských států neposkytlo za vykazované období podle tohoto ustanovení žádné statistické údaje a uvedlo k tomu následující důvody:
-údaje zatím nejsou k dispozici (Belgie a Španělsko),
-centrální databáze používaná k evidenci trestných činů nevyžadovala zaznamenání způsobu předložení původního podnětu (Irsko);
-údaje nejsou shromažďovány (Německo).
Členské státy uvedly velmi rozdílné údaje o počtu odsouzených pachatelů a ve vykazovaných obdobích neexistovala žádná soudržnost, což je patrné z níže uvedené tabulky č. 8.
Tabulka č. 9 Počet odsouzených pachatelů
|
Země |
Vykazované období |
Počet případů odsouzení |
Poznámky |
|
Rakousko |
2021 |
850 |
Údaje nerozlišují mezi trestnými činy spáchanými on-line a off-line. |
|
Belgie |
— |
— |
Údaje nejsou k dispozici. |
|
Bulharsko |
2021 až 2022 |
52 |
|
|
Chorvatsko |
— |
— |
Údaje nejsou k dispozici. |
|
Kypr |
2022 |
0 |
Dosud žádný případ odsouzení. |
|
Česko |
od 1. ledna 2022 do 31. července 2022 |
20 |
|
|
Dánsko |
od 2. srpna 2021 do 20. ledna 2023 |
224 |
|
|
Estonsko |
2021 |
2 |
Zahrnuje pouze případy odsouzení vyplývající ze zpráv centra NCMEC. |
|
Finsko |
2021 |
240 |
|
|
Francie |
od 4. srpna 2021 do 3. srpna 2022 |
820 |
|
|
Německo |
— |
— |
Údaje nejsou k dispozici. |
|
Řecko |
2021 až 2022 |
62 |
|
|
Maďarsko |
2021 až 2022 |
126 |
|
|
Irsko |
- |
- |
Údaje nejsou k dispozici. |
|
Itálie |
2021 až 2022 |
5 835 |
Údaje nerozlišují mezi trestnými činy spáchanými on-line a off-line. |
|
Lotyšsko |
2021 až 2022 |
33 |
Údaje nerozlišují mezi trestnými činy spáchanými on-line a off-line. |
|
Litva |
od 1. ledna 2021 do 30. června 2022 |
10 |
|
|
Lucembursko |
2022 |
11 |
Údaje nerozlišují mezi trestnými činy spáchanými on-line a off-line. |
|
Malta |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Nizozemsko |
2021 |
217 |
|
|
Polsko |
Druhá polovina roku 2021 až první polovina roku 2022 / 2022 / první polovina roku 2023 |
185 / 194 / 81 |
|
|
Portugalsko |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Rumunsko |
— |
— |
Údaje nebyly předloženy/vykázány. |
|
Slovensko |
2021 |
10 |
|
|
Slovinsko |
2021 až 2022 |
45 |
|
|
Španělsko |
2022 |
— |
Údaje nejsou k dispozici. |
|
Švédsko |
2022 |
55 |
Je důležité si uvědomit, že počet odsouzení se nerovná počtu odsouzených pachatelů, protože jedna osoba může být odsouzena za jeden nebo více trestných činů pohlavního zneužívání dětí on-line.
Statistické údaje o odsouzeních vykázané za určité období navíc nemusí nutně souviset s oznámeními, která byla v daném období obdržena (tj. odsouzení v roce 2022 může být například spojeno s oznámením z roku 2021 nebo 2020 a oznámení z roku 2022 může vést k odsouzení až v roce 2023 nebo později). Tuto skutečnost ve svých zprávách výslovně zdůraznilo několik členských států (Irsko, Lucembursko, Švédsko).
V některých případech nebyly shromážděny žádné statistické údaje o tom, zda oznámení týkající se podezřelých aktivit (např. prostřednictvím centra NCMEC) vedla k odsouzení, nebo zda jinými slovy k odsouzení došlo na základě informací poskytnutých poskytovatelem nebo veřejnou organizací (Rakousko, Lotyšsko). Skutečnost, že ve statistických údajích jsou uvedena pouze odsouzení na základě oznámení centra NCMEC, výslovně potvrdilo pouze Estonsko. Je také možné, že tato oznámení vedla k dopadení dalších pachatelů, kteří jsou v průběhu vyšetřování vyšetřováni a odsouzeni (Rakousko).
Ve většině případů se předpokládá, že počet vykázaných odsouzení byl určen v okamžiku, kdy je případ pravomocně skončen poté, co bylo případně podáno odvolání v rámci soudního systému. V jednom členském státě (Dánsko), který údaje shromažďuje na základě nejnovějšího vydaného rozhodnutí, nejsou čísla konečná, protože proti rozhodnutím mohlo být později podáno odvolání.
V některých případech údaje obsažené ve vnitrostátních informačních systémech a vykázané členskými státy nerozlišují mezi trestnými činy spáchanými on-line a off-line (Rakousko, Lucembursko, Lotyšsko).
Velmi rozdílným způsobem vypracované zprávy předkládané členskými státy a způsob shromažďování statistických údajů na vnitrostátní úrovni proto neumožňují získat ucelený přehled o počtu pachatelů odsouzených za pohlavní zneužívání dětí on-line v EU. V současné době ani není možné – na základě dostupných údajů – tato odsouzení jednoznačně spojit s oznámeními, která poskytovatelé a organizace jednající ve veřejném zájmu proti pohlavnímu zneužívání dětí zasílají v konkrétních vykazovaných obdobích v souladu s tímto nařízením.
2.3.Technologický pokrok
Technologie, které se v současné době používají k odhalování pohlavního zneužívání dětí on-line, zahrnují technologie a nástroje k odhalování „známých“ (tj. již odhalených) materiálů pohlavního zneužívání dětí, „nových“ (tj. dosud neodhalených) materiálů pohlavního zneužívání dětí a navazování kontaktu s dětmi (tzv. „grooming“).
Níže uvedené příklady zahrnují některé z nejpoužívanějších nástrojů, nicméně se nejedná o jejich úplný seznam. Řadu těchto nástrojů mají k dispozici poskytovatelé, donucovací orgány a další organizace, u nichž lze prokázat oprávněný zájem. Tyto nástroje se pro zajištění maximální možné přesnosti obvykle kombinují s lidským přezkumem.
V tomto oddíle se rovněž pojednává o pokračujícím technologickém pokroku souvisejícím s umělou inteligencí.
2.3.1. Odhalování známých materiálů pohlavního zneužívání dětí
Stávající technologie pro odhalování známých materiálů pohlavního zneužívání dětí se opírají pouze o automatickou analýzu obsahu 14 a jsou obvykle založeny na hašování. Technologie hašování je typem digitálního otisku. Vytváří jedinečný digitální podpis (známý jako tzv. „hash“) snímku, který je následně porovnáván s podpisy (hashy) jiných fotografií s cílem nalézt kopie stejného snímku. Tato technologie odhaluje pouze shodné hashe a není pro ni „viditelný“ žádný jiný materiál, který se neshoduje s hashem. Hodnoty hashe dále nejsou vratné, a proto je nelze použít k obnovení snímku.
Existuje mnoho variant a způsobů používání technologie hašování. Mezi nástroje, které jsou podle zjištění používané pro odhalování známých materiálů pohlavního zneužívání dětí, patří: i) PhotoDNA společnosti Microsoft ; ii) CSAI Match společnosti Google ; iii) NeuralHash + Private Set Intersection společnosti Apple; iv) SSN++ společnosti Meta ; v) PDQ a TMK+PDQF ; vi) MD5 Hash Generator (Skype); vii) Safer (Thorn).
Nejpoužívanějším nástrojem je PhotoDNA společnosti Microsoft, který používá více než 150 organizací 15 . Nástroj PhotoDNA se používá již více než deset let a vyznačuje se vysokou mírou přesnosti. Míra falešně pozitivních nálezů se na základě testování odhaduje na maximálně 1:50 miliardám 16 . Vzhledem k povaze technologie je chybovost nástroje PhotoDNA mimořádně nízká. Tato technologie zaznamenává výhradně kopie dříve identifikovaného obsahu. Původní nástroj PhotoDNA zaznamenává známé materiály pohlavního zneužívání dětí na snímcích, k dispozici je však také verze pro zaznamenávání materiálů pohlavního zneužívání dětí ve videozáznamech.
Technologie se neustále vyvíjí a zdokonaluje. V květnu 2023 společnost Microsoft oznámila, že zavedla nové způsoby porovnávání, které umožňují rychlejší vyhledávání (přibližně 350krát rychlejší) a zároveň snižují náklady na proces porovnávání, aniž by došlo ke snížení přesnosti. Podle společnosti Microsoft nová knihovna umožňuje také komplexnější zaznamenávání převrácených nebo otočených snímků. Vylepšení své technologie hašování navíc nedávno oznámila nadace Internet Watch Foundation (IWF) 17 .
2.3.2. Odhalování nových materiálů pohlavního zneužívání dětí
Technologie, které se v současné době používají k odhalování nových materiálů pohlavního zneužívání dětí, zahrnují klasifikátory a umělou inteligenci, jež analyzují snímky a videozáznamy s cílem odhalit vzory obsahu, které se shodují se vzory vytvořenými na základě dříve odhalených pohlavního zneužívání dětí. Klasifikátor je algoritmus, který pomocí rozpoznávání vzorů třídí data do označených tříd nebo kategorií informací. Klasifikátory potřebují ke svému vycvičení data a jejich přesnost se zvyšuje, čím více dat je jim poskytnuto.
Mezi nástroje k odhalování nových materiálů pohlavního zneužívání dětí patří: i) Safer (Thorn); ii) Content Safety API společnosti Google ; iii) technologie umělé inteligence společnosti Facebook 18 ; iv) Amazon Rekognition ; v) umělá inteligence pro vizuální obsah společnosti Hive .
Výzkum ukázal, že nejužitečnějším prostředkem k odhalování materiálů pohlavního zneužívání dětí jsou automatizované nástroje a systémy, jako jsou klasifikátory 19 . Pokud jde o odhalování nových materiálů pohlavního zneužívání dětí, míra přesnosti v současné době výrazně převyšuje 90 %. Například společnost Thorn uvádí, že její klasifikátor materiálů pohlavního zneužívání dětí lze nastavit na 99% míru přesnosti (pro známé i nové materiály pohlavního zneužívání dětí), což znamená 0,1% míru falešně pozitivních nálezů 20 . Tyto ukazatele se budou pravděpodobně ještě zlepšovat s tím, jak bude klasifikátor hojněji používán a jak k němu bude poskytována zpětná vazba.
2.3.3. Odhalování groomingu
Nástroje pro odhalování groomingu (navazování kontaktu s dětmi) v textové komunikaci využívají technologie, jež slouží výhradně k odhalování vzorců, které poukazují na možné konkrétní prvky podezření na pohlavní zneužívání dětí on-line, aniž by bylo možné odvodit podstatu obsahu. Tato technika se uplatňuje na textové konverzace v chatu. Konverzace jsou hodnoceny podle řady charakteristik a je jim přiřazeno celkové hodnocení pravděpodobnosti, které udává odhadovanou pravděpodobnost, že konverzace představuje grooming. Tato hodnocení slouží jako určující faktor, který si jednotlivé společnosti nastavují a podle kterého se konverzace označují k dalšímu lidskému přezkumu.
K nástrojům používaným k odhalování patří: i) projekt Artemis společnosti Microsoft 21 ; ii) Amazon Rekognition ; iii) Spirit AI služby Twitch (založený na NLP, textových klasifikátorech) 22 ; iv) interně vytvořený vnitropodnikový „hodnotící“ klasifikátor strojového učení (kombinující interní technologii jazykové analýzy s metadaty) společnosti Meta; v) Roblox pro filtrování chatu 23 ; vi) technické řešení společnosti Thorn a aliance Tech Coalition založené na strojovém učení a klasifikátorech 24 .
Stejně jako v případě odhalování nových materiálů pohlavního zneužívání dětí vyžaduje odhalování obsahu groomingu vycvičení technologie pomocí tohoto obsahu. Největší výzvou pro vývoj a zdokonalování těchto technologií zůstává přístup k těmto údajům pro vycvičení.
Společnost Thorn ve spolupráci s aliancí Tech Coalition a jejími členy zahájila novou iniciativu zaměřenou na vývoj technického řešení pro odhalování a řešení pokusů o grooming on-line, které bude užitečné a použitelné na řadě platforem nabízejících textovou komunikaci. Bude založeno na práci týmu společnosti Thorn na klasifikátoru NLP (zpracování přirozeného jazyka) nebo modelu strojového učení, který zjišťuje, zda online obsah nebo chování nespadá do definovaných „tříd“ souvisejících s groomingem (jako je vystavení sexuálnímu materiálu nebo snaha o osobní setkání s nezletilým) a provádí kategorizaci a také poskytuje celkové hodnocení, do jaké míry konverzace souvisí s groomingem 25 .
2.3.4. Nové výzvy v podobě chatbotů s umělou inteligencí a generátorů umění/obrázků
Vývoj a používání chatbotů s umělou inteligencí, jako je např. ChatGPT (velký jazykový model (LLM) vyvinutý organizací OpenAI ), a generátorů umění/obrázků, jako je např. DALL-E 26 a Midjourney 27 , vzbudily značnou pozornost veřejnosti, především díky jejich schopnosti rychle poskytovat odpovědi, které lze uplatnit, nebo vytvářet realistické snímky, které lze použít v obrovském množství různých kontextů. Tyto nové nástroje si rychle získaly širokou oblibu a začaly se hojně používat. Přední produkty financují a vyvíjejí technologické společnosti, například společnosti Microsoft a Google, a pravidelně se zdokonalují nové technologie a zavádějí se jejich vylepšené verze.
Tyto technologie nabízejí podnikům i veřejnosti obrovské příležitosti, ale mohou pro ně představovat i riziko. V souvislosti s těmito produkty panují i obavy, že by je pachatelé trestné činnosti mohli zneužít k nekalým účelům, například k pohlavnímu zneužívání dětí.
Agentura Europol uvedla, že jelikož všechny informace, které chatbot ChatGPT poskytuje, jsou volně dostupné na internetu, tento nástroj výrazně usnadňuje pachatelům trestné činnosti „dozvědět se bez předchozích znalostí informace o velkém množství potenciálních oblastí trestné činnosti, od vloupání do domu přes terorismus až po kybernetickou kriminalitu a pohlavní zneužívání dětí“. To těmto osobám umožňuje lépe porozumět těmto typům trestných činů a následně je spáchat 28 .
Pravidla organizace OpenAI chatbotu ChatGPT zamezují reagovat na dotazy, které se týkají sexuálního, nenávistného a násilného obsahu nebo obsahu propagujícího sebepoškozování. Nicméně tato ochranná opatření lze poměrně snadno obejít pomocí techniky známé jako tzv. prompt inženýrství (prompt engineering) 29 . Nedávné zavedení chatbotů s umělou inteligencí (např. aplikace Snapchat) ukazuje, jak mohou tyto nástroje zajít příliš daleko a podporovat urážlivé nebo nebezpečné interakce, včetně pohlavního zneužívání dětí 30 . Vzhledem k tomu, že stále více společností zvažuje testování chatbotů s umělou inteligencí na svých platformách (Instagram, případně WhatsApp a Messenger), je třeba pečlivě posoudit jejich dopad na uživatele, zejména děti a mladé lidi.
Tyto nové nástroje rovněž vyžadují odpovídající ochranná opatření, aby nebyly zneužity k vytváření tzv. „deep fakes“ – realistických fotomontáží a videomontáží materiálů pohlavního zneužívání dětí generovaných umělou inteligencí 31 . Vzhledem k rychlosti vývoje nástrojů umělé inteligence je pravděpodobné, že brzy bude výrazně snazší generovat snímky, které budou k nerozeznání od skutečných snímků. Ztěžuje to boj proti pohlavnímu zneužívání dětí, protože schopnost donucovacích orgánů vyšetřovat a stíhat případy týkající se materiálů pohlavního zneužívání dětí a identifikovat skutečné oběti může být značně ztížena, pokud se na internetu začnou ve velké míře šířit vysoce realistické materiály pohlavního zneužívání dětí generované počítačem 32 .
Výzkum ukázal, že přístup k materiálům pohlavního zneužívání dětí je často prvním krokem ke skutečnému zneužívání, a to bez ohledu na to, zda tyto materiály zobrazují skutečné nebo realistické zneužívání a vykořisťování 33 . Omezení šíření tzv. „deep fakes“ – realistických fotomontáží a videomontáží materiálů pohlavního zneužívání dětí vytvořených umělou inteligencí má proto zásadní význam jako forma prevence na straně pachatelů trestné činnosti. Dále panuje velká obava, že pachatelé groomingu mohou využít pokročilého generování textu, které umožňuje chatbot ChatGPT, v kombinaci se stávající bezplatnou umělou inteligencí pro převod textu na obraz k rychlému a snadnému generování obsahu falešných profilů a věrohodných konverzací s mladými lidmi, a zaměřit se tak na děti na internetu. „Chatbot ChatGPT sice sám o sobě nepodněcuje lidi k tomu, aby se stali pachateli groomingu na internetu, ale pomáhá jakýmkoli osobám prostřednictvím technologie umělé inteligence vést konverzaci s dětmi on-line a činí je pro jejich oběti přesvědčivějšími a důvěryhodnějšími, čímž napomáhá manipulaci.“ 34 Generativní umělá inteligence by mohla potenciálně přispět k nárůstu počtu případů groomingu on-line a dokonce by mohla vést k „automatizaci groomingu dětí ve velkém měřítku“ 35 .
3.ZÁVĚRY
Prováděcí opatření přijatá poskytovateli
Ze zpráv poskytovatelů vyplynulo, že v souladu s prozatímním nařízením provádějí odhalování a hlášení pohlavního zneužívání dětí on-line, přičemž k tomu využívají různých technologií a postupů odhalování. Všichni poskytovatelé uvedli, že hlášení zasílají centru NCMEC. Pokud jde o typ a objem osobních údajů zpracovávaných poskytovateli, je z podaných zpráv patrné, že shromažďují velké množství provozních údajů a že zpracovávané údaje mají různou úroveň rozčlenění, což Komisi znesnadňuje získat sjednocené údaje na úrovni EU týkající se poskytovatelů za dané vykazované období (červenec 2021 až 31. leden 2023).
Poskytovatelé nepředložili údaje o počtu a míře chyb (falešně pozitivních nálezů) různých používaných technologií rozčleněné podle použitých technologií, což naznačuje, že k odhalování pohlavního zneužívání dětí on-line uplatňují víceúrovňový přístup doplněný o lidský přezkum. Poskytovatelé zároveň zavádějí celou řadu opatření a záruky k omezení a snížení chybovosti při provádění odhalování. Poskytovatelé navíc uvedli, že zavedli politiky uchovávání údajů a záruky ochrany údajů, které mají definovány ve svých zásadách ochrany osobních údajů nebo prohlášeních o ochraně osobních údajů a které jsou podpořeny odvětvovými standardními zárukami ochrany údajů a opatřeními na ochranu údajů.
Prováděcí opatření přijatá členskými státy
Prozatímní nařízení rovněž ukládá členským státům (podle článku 8) povinnost poskytovat klíčové statistické údaje o počtech případů pohlavního zneužívání dětí on-line, které byly odhaleny a oznámeny jejich donucovacím orgánům, o počtu identifikovaných dětských obětí a o počtu odsouzených pachatelů. Vzhledem k tomu, že členské státy ve většině případů poskytly údaje za různá vykazovaná období, nebylo možné z předložených údajů vypočítat celkový počet případů odhaleného pohlavního zneužívání dětí on-line na úrovni EU. Kromě toho se mohou lišit počty oznámení, které členské státy obdržely a které členské státy předložily, od počtů oznámení, na základě kterých lze přijmout opatření, tj. oznámení, na základě kterých lze zahájit vyšetřování, nebo od počtu vykázaných oznámení. Pouze několik členských států uvedlo typ poskytovatelů, u jejichž služeb bylo odhaleno pohlavní zneužívání dětí on-line. V některých případech národní statistické údaje nerozlišují mezi trestnými činy vyšetřovanými na základě oznámení předložených poskytovateli a jinými organizacemi jednajícími ve veřejném zájmu proti pohlavnímu zneužívání dětí a trestnými činy vyšetřovanými na základě jiných oznámení.
Z obdržených zpráv proto nebylo možné zjistit celkový počet dětí, které byly identifikovány jako oběti pohlavního zneužívání dětí on-line v EU, s rozlišením podle pohlaví. Důvody jsou například: vykazování údajů za různá období; různé věkové hranice používané pro definici dětských obětí pohlavního zneužívání dětí on-line; neshromažďování statistických údajů s požadovanou mírou podrobnosti na vnitrostátní úrovni z důvodu technických nebo jiných omezení; nerozlišování mezi dětskými oběťmi pohlavního zneužívání dětí on-line a off-line atd. Některé členské státy zahrnují do svých statistik také děti, které vytvořily svůj vlastní materiál. Statistiky však navíc často nerozlišují mezi oběťmi identifikovanými na základě oznámení zaslaných poskytovateli a organizacemi jednajícími ve veřejném zájmu proti pohlavnímu zneužívání dětí podle nařízení a oběťmi identifikovanými na základě jiných důvodů a jinými prostředky.
Nejednotný je rovněž přehled počtu odsouzených pachatelů. V některých případech tyto údaje nejsou k dispozici, protože databáze nezaznamenaly zdroj předložení původního podnětu, a údaje tak nerozlišují mezi pachateli odsouzenými na základě oznámení podaných podle nařízení a jiných oznámení. V některých případech údaje obsažené ve vnitrostátních informačních systémech rovněž nerozlišují mezi trestnými činy spáchanými on-line a off-line. Statistické údaje o počtu odsouzení vykázané za určité období navíc nemusí nutně souviset s oznámeními, která byla v daném období obdržena, ale mohou se týkat oznámení obdržených v dřívějších obdobích. Shromážděné statistické údaje o počtu odsouzení se také mohou lišit od počtu odsouzených pachatelů (protože jeden pachatel může být odsouzen vícekrát).
Na základě nejednotných statistik předkládaných členskými státy, které zřejmě ne vždy systematicky a řádně shromažďují údaje, a vlivem všech výše uvedených faktorů tak nelze získat ucelený přehled o obdržených oznámeních pohlavního zneužívání dětí on-line, o počtu dětí identifikovaných jako oběti této trestné činnosti ani o počtu pachatelů odsouzených na úrovni EU podle nařízení. Vzhledem k tomu, že u většiny členských států zjevně existuje značný rozdíl mezi počtem oznámení, která centrum NCMEC uvádí jako zaslaná členskému státu, a počtem oznámení, která členský stát uvádí jako obdržená, lze z toho vyvodit neúplnost sběru údajů a podávání zpráv. Některé členské státy potvrdily, že jejich příslušné orgány procházejí strukturálními změnami nebo reorganizací souvisejícími s vytvořením nových oddělení, která budou odpovědna za vyšetřování trestných činů týkajících se pohlavního zneužívání dětí on-line. V některých členských státech se také zavádějí nové informační systémy a vnitrostátní orgány byly požádány o to, aby změnily své evidenční postupy a statistiky. Tím by se měly vytvořit příznivé podmínky k tomu, aby členské státy mohly v budoucnu poskytovat přesnější statistiky. Komise v každém případě využije svých pravomocí, které jí byly svěřeny Smlouvami, k zajištění toho, aby členské státy plnily své oznamovací povinnosti podle prozatímního nařízení.
Obecné úvahy
Z této zprávy je obecně patrné, že existují značné rozdíly ve vykazování údajů týkajících se boje proti pohlavnímu zneužívání dětí on-line podle prozatímního nařízení, a to jak ze strany poskytovatelů, tak ze strany členských států. Lepšího přehledu o příslušných činnostech prováděných v rámci boje proti této trestné činnosti by bylo možné získat díky větší standardizaci dostupných údajů a jejich vykazování, jak je uvedeno v návrhu nařízení, kterým se stanoví pravidla pro předcházení pohlavnímu zneužívání dětí a boj proti němu 36 . Poskytovatelé a členské státy budou muset pro zajištění sběru údajů a podávání zpráv v souladu s požadavky prozatímního nařízení zjevně vynaložit větší úsilí.
Z dostupných údajů vyplývá, že v rámci stávajícího systému dobrovolného odhalování a hlášení může nastat situace, kdy materiály, které byly automaticky označené jako možné materiály pohlavního zneužívání dětí, jsou po lidském přezkumu označeny jako materiály, které nejsou materiály pohlavního zneužívání dětí. Může to být způsobeno tím, že neexistuje společný soubor hashů a dalších ukazatelů pro odhalování materiálů pohlavního zneužívání dětí, které jsou v EU potvrzeny jako nezákonné, nebo tím, že v různých jurisdikcích, zejména mezi EU a USA, platí různé právní normy, především pokud jde o příslušné definice. Údaje rovněž naznačují, že existují velké rozdíly v počtu žádostí o přezkum a v míře úspěšnosti přezkumu, z čehož nelze vyvodit žádné závěry vzhledem k tomu, že není k dispozici nedostatek informací zejména o rozsahu žádostí o přezkum a o důvodech pro obnovení.
Pokud jde o požadavky stanovené v čl. 9 odst. 2 týkající se podmínek pro zpracování, z poskytnutých informací vyplývá, že použité technologie odpovídají technologickým aplikacím určeným výhradně k odhalování a odstraňování materiálů pohlavního zneužívání dětí on-line a k jejich oznamování donucovacím orgánům a organizacím jednajícím ve veřejném zájmu proti pohlavnímu zneužívání dětí. Nebyly poskytnuty žádné informace o tom, zda použité technologií byly v souladu s nejaktuálnějším stavem vývoje špičkových technologií v odvětví a co nejméně narušovaly soukromí a zda bylo provedeno předchozí posouzení vlivu na ochranu osobních údajů podle článku 35 nařízení (EU) 2016/679 a postup předchozí konzultace podle článku 36 uvedeného nařízení.
Z hlediska proporcionality nařízení je zásadní posoudit, zda prozatímní nařízení dosahuje rovnováhy, kterou se normotvůrce EU snažil nalézt mezi dosažením cíle obecného zájmu, kterým je účinný boj proti mimořádně závažným trestným činům, a potřebou chránit základní práva dětí (důstojnost, nedotknutelnost, zákaz nelidského nebo ponižujícího zacházení, soukromý život, práva dítěte) na jedné straně a ochranou základních práv uživatelů služeb, na které se vztahuje, na straně druhé (soukromí, ochrana osobních údajů, svoboda projevu, účinná právní ochrana). Z dostupných údajů nelze v tomto ohledu vyvodit žádné konečné závěry. Vzhledem k tomu, že pohlavní zneužívání má významný negativní dopad na život a práva dítěte, není možné a ani by nebylo vhodné použít při posuzování této proporcionality číselný údaj uvádějící počet zachráněných dětí. S ohledem na výše uvedené skutečnosti však nic nenasvědčuje tomu, že by odchylka nebyla přiměřená.
Navzdory tomu, že dostupné údaje nejsou dostatečné, neboť neumožňují získat přehled o využívání dobrovolných oznamování ve velkém počtu členských států, je z nich patrné, že ve vykazovaném období byly identifikovány tisíce dětí, bylo dosaženo více než dvou tisíců odsouzení a bylo zamezeno šíření milionů obrazových materiálů a videozáznamů, čímž se omezila sekundární viktimizace. Lze tedy vyvodit závěr, že dobrovolné oznamování významně přispělo k ochraně velkého počtu dětí, a to i před pokračujícím zneužíváním, že se zdá, že prozatímní nařízení je účinné.
Společnost Twitter předložila svůj příspěvek před tím, než se přejmenovala; ve zbývající části této zprávy bude označována jako společnost „X“.
Společnosti Meta a X konkrétní článek výslovně nespecifikovaly.
Společnosti Meta a X konkrétní článek výslovně nespecifikovaly.
Poskytovatelé uvedení v závorkách přímo zmínili konkrétní opatření. Pokud někteří poskytovatelé nejsou v závorkách uvedeni, neznamená to, že toto opatření neuplatňují, ale pouze to, že ho ve své zprávě neuvedli.
Zásady ochrany osobních údajů společnosti X, 4. Jak dlouho uchováváme informace, k dispozici na adrese: https://twitter.com/en/privacy
Poskytovatelé uvedení v závorkách se přímo zmínili o konkrétních opatřeních. Pokud někteří poskytovatelé nejsou v závorkách uvedeni, neznamená to, že toto opatření neuplatňují, ale pouze to, že ho ve své zprávě neuvedli.
Informace o organizacích jednajících ve veřejném zájmu, kterým poskytovatelé podle tohoto nařízení hlásí pohlavní zneužívání dětí on-line, byly zveřejněny na adrese https://home-affairs.ec.europa.eu/policies/internal-security/child-sexual-abuse/legal-framework-protect-children_en v souladu s povinnostmi Komise podle čl. 8 odst. 2 prozatímního nařízení.
Zpráva předložená Německem v souladu s článkem 8 nařízení (EU) 2021/1232, obdržená dne 18. října 2022. Centrum NCMEC zveřejňuje všechny údaje o přijatých oznámeních týkajících se členských států EU, včetně Německa, ve svých oznámeních CyberTipline podle jednotlivých zemí. Viz: NCMEC, oznámení CyberTipline za rok 2021 podle jednotlivých zemí , zobrazeno v červenci 2023; NCMEC, oznámení CyberTipline za rok 2022, zobrazeno v červenci 2023.
https://www.bka.de/SharedDocs/Kurzmeldungen/DE/Kurzmeldungen/230623_Mindestspeicherfristen_IP-Adressen.html
NCMEC, oznámení CyberTipline za rok 2021 podle jednotlivých zemí , zobrazeno v listopadu 2023.
NCMEC, oznámení CyberTipline za rok 2022 podle jednotlivých zemí, zobrazeno v listopadu 2023.
Údaje centra NCMEC jsou k dispozici zde .
Viz například seznam vzorových případů z celé EU, které byly zahájeny díky dobrovolnému oznámení společnostmi, obsažený v posouzení dopadů připojeném k návrhu nařízení, kterým se stanoví pravidla pro předcházení pohlavnímu zneužívání dětí a boj proti němu (viz zejména příloha 7).
Poskytovatelé nepovažují metadata za účinný nástroj pro odhalování materiálů pohlavního zneužívání dětí. Viz zejména Pfefferkorn, R., Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers (Důvěra a bezpečnostní techniky bez ohledu na obsah: výsledky průzkumu mezi poskytovateli online služeb), Stanford Internet Observatory, 9. září 2021, s. 10–11.
Microsoft, Digital Crimes Unit (Oddělení digitální kriminality) .
Internet Watch Foundation (IWF), Annual Report 2022 (Výroční zpráva za rok 2022) , s. 129–133.
Viz zde a zde , kde naleznete další informace o nástroji společnosti Facebook, který pomocí umělé inteligence a strojového učení proaktivně odhaluje nahotu dětí a dosud neodhalený obsah pohlavního zneužívání dětí.
Pfefferkorn, R.: Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers (Důvěra a bezpečnostní techniky bez ohledu na obsah: výsledky průzkumu mezi poskytovateli online služeb), Journal of Online Trust and Safety, únor 2022, s. 1–38.
Thorn, Thorn’s Automated Tool to Remove Child Abuse Content at Scale Expands to More Platforms through AWS Marketplace (Automatizovaný nástroj společnosti Thorn pro odstraňování obsahu pohlavního zneužívání dětí ve velkém měřítku se rozšiřuje na další platformy prostřednictvím AWS Marketplace), 24. května 2021.
Projekt Artemis společnosti Microsoft byl vyvinut ve spolupráci se společnostmi The Meet Group, Roblox, Kik a Thorn.
Další informace naleznete zde: https://safety.twitch.tv/s/article/Our-Work-to-Combat-Online-Grooming?language=en_US
Platforma Roblox filtruje příspěvky a chaty hráčů ve věku dvanácti let a mladších, aby se zabránilo zveřejňování nevhodného obsahu a osobních údajů, např. adresy bydliště. Tento systém filtrování se vztahuje na všechny oblasti komunikace na platformě Roblox, veřejné i soukromé. Roblox, Safety Features: Chat, Privacy & Filtering (Bezpečnostní prvky: soukromí a filtrování), zobrazeno v červenci 2023.
Tech Coalition, New Technology to Help Companies Keep Young People Safe (Nová technologie, která pomáhá společnostem zajistit bezpečnost mladých lidí), 20. června 2023.
Tech Coalition, New Technology to Help Companies Keep Young People Safe (Nová technologie, která pomáhá společnostem zajistit bezpečnost mladých lidí), 20. června 2023.
DALL-E je systém umělé inteligence, který dokáže generovat realistické snímky a umění na základě popisu v přirozeném jazyce.
Midjourney je generativní program a služba umělé inteligence, která generuje snímky na základě popisů v přirozeném jazyce.
Europol, ChatGPT - The impact of Large Language Models on Law Enforcement (ChatGPT – dopad velkých jazykových modelů na prosazování práva), 2023, ISBN 978-92-95220-57-7, s. 7.
Swanson, S. M., ChatGPT Generated Child Sex Abuse When Asked to Write BDSM Scenarios (Pohlavní zneužívání dětí podporované chatbotem ChatGPT při dotazu na scénáře BDSM), Vice, 6. března 2023; Mitchell, A, ChatGPT gives sick child sex abuse answer, breaking its rules (Chatbot ChatGPT odpovídá nevhodně při dotazu na pohlavní zneužívání dětí, čímž porušuje svá pravidla), New York Post, 24. července 2023; Europol, ChatGPT - The impact of Large Language Models on Law Enforcement (ChatGPT – dopad velkých jazykových modelů na prosazování práva), 2023, ISBN 978-92-95220-57-7, s. 5.
Fowler, G.A., Snapchat tried to make a safe AI. It chats with me about booze and sex (Aplikace Snapchat se pokusila vytvořit bezpečnou umělou inteligenci. Povídá si se mnou o požívání alkoholu a sexu), The Washington Post, 14. března 2023; Vincent, J., Instagram is apparently testing an AI chatbot that lets you choose from 30 personalities (Sociální síť Instagram zřejmě testuje chatbota s umělou inteligencí, který vám umožní vybrat si z 30 osobností), The Verge, 7. července 2023.
Crawford, A., Smith, T., Illegal trade in AI child sex abuse images exposed (Odhalení nelegálního obchodu se snímky pohlavního zneužívání dětí generovaných umělou inteligencí), BBC, 27. června 2023.
Thiel, D., Stroebel, M. a Portnoff, R. (2023). Generative ML and CSAM: Implications and Mitigations (Generativní strojové učení a materiály pohlavního zneužívání dětí: důsledky a opatření na zmírnění dopadů), Stanford Digital Repository, k dispozici na adrese https://purl.stanford.edu/jv206yg3793 . https://doi.org/10.25740/jv206yg3793 , s. 2.
Protect Children, Protect Children’s research in the dark web is revealing unprecedented data on CSAM users (Výzkum organizace Protect Children provedený na temném webu odhaluje bezprecedentní údaje o uživatelích materiálů pohlavního zneužívání dětí), 6. června 2021; RAINN, What is Child Sexual Abuse Material (CSAM) (Co jsou materiály pohlavního zneužívání dětí (CSAM)), 25. srpna 2022.
Breck Foundation, Is artificial intelligence putting children at risk? (Ohrožuje umělá inteligence děti?), 9. února 2023, aktualizováno 3. dubna 2023.
Butler, J., AI tools could be used by predators to ‘automate child grooming’, eSafety commissioner warns (Nástroje umělé inteligence by mohli predátoři využívat k „automatizovanému groomingu dětí“, varuje komisař pro elektronickou bezpečnost), The Guardian, 19. května 2023.
Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví pravidla pro předcházení pohlavnímu zneužívání dětí a boj proti němu, COM/2022/209 final .