ЕВРОПЕЙСКА КОМИСИЯ
Брюксел, 19.12.2023
COM(2023) 797 final
ДОКЛАД НА КОМИСИЯТА ДО ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И СЪВЕТА
относно прилагането на Регламент (ЕС) 2021/1232 на Европейския парламент и на Съвета от 14 юли 2021 г. относно временна дерогация от някои разпоредби на Директива 2002/58/ЕО по отношение на използването на технологии от доставчици на междуличностни съобщителни услуги без номерà за обработване на лични и други данни за целите на борбата с онлайн сексуалното насилие над деца
СЪДЪРЖАНИЕ
СПИСЪК НА ТЕРМИНИТЕ И СЪКРАЩЕНИЯТА
1. ВЪВЕДЕНИЕ
2. МЕРКИ ЗА ИЗПЪЛНЕНИЕ
2.1. Обработване на лични данни от доставчици (член 3, буква ж), подточка vii)
2.1.1. Вид и обем на обработените данни
2.1.2. Основания за обработване съгласно Регламент (ЕС) 2016/679
2.1.3. Основание за предаване на лични данни извън Съюза съгласно глава V от ОРЗД, когато е приложимо
2.1.4. Брой установени случаи на онлайн сексуално насилие над деца, като се прави разграничение между CSAM и установяване на контакт с деца за сексуални цели
2.1.5. Правна защита на потребителите и резултати
2.1.6. Брой и процент на грешките (фалшиви положителни резултати) при различните използвани технологии
2.1.7. Приложени мерки за ограничаване на процента на грешка и постигнатия процент на грешка
2.1.8. Политиката за запазване и гаранциите за защита на данните, прилагани съгласно ОРЗД
2.1.9. Имената на организациите, действащи в обществен интерес срещу сексуалното насилие над деца, с които са били споделени данни съгласно Регламента.
2.2. Статистически данни на държавите членки (член 8)
2.2.1. Общият брой на докладванията за разкрити случаи на онлайн сексуално насилие над деца
2.2.2. Броят на идентифицираните деца
2.2.3. Брой на осъдените извършители
2.3. Развитие на технологиите
2.3.1. Откриване на известни случаи на CSAM
2.3.2. Откриване на нови случаи на CSAM
2.3.3 Откриване на случаи на сприятеляване с деца с цел сексуална злоупотреба
2.3.4. Нови предизвикателства, породени от чатботовете с изкуствен интелект и генераторите на изкуство/изображения
3. ЗАКЛЮЧЕНИЯ
СПИСЪК НА ТЕРМИНИТЕ И СЪКРАЩЕНИЯТА
|
Термин/Съкращение |
Определение |
|
ИИ |
Изкуствен интелект |
|
API |
Приложно-програмни интерфейси |
|
CG-CSAM |
Компютърно генериран материал, съдържащ сексуално насилие над деца |
|
ChatGPT |
ChatGPT (Chat Generative Pre-trained Transformer) е форма на генеративен ИИ. Това е чатбот, базиран на голям езиков модел, разработен от OpenAI, който позволява на потребителите да прецизират и насочват разговора към желаната дължина, формат, стил, ниво на детайлност и език. |
|
Класификатори |
Вид изкуствен интелект, алгоритъм, който подрежда данните в маркирани класове или категории |
|
Класификатор Content Safety API |
Класификаторът на API за безопасност на съдържанието Content Safety API на Google използва програмен достъп и изкуствен интелект, за да класифицира и приоритизира милиарди изображения за преглед |
|
CSA (Child Sexual Abuse) |
Сексуално насилие над деца |
|
CSAI Match |
CSAI Match е технология, разработена от инженерите на YouTube за идентифициране на повторно качване на идентифицирани по-рано видеоклипове, съдържащи сексуално насилие над деца |
|
CSAM |
Материали, съдържащи сексуално насилие над деца, напр. снимки и видеоклипове, изобразяващи сексуално насилие над деца |
|
Директива CSA |
Директива 2011/93/ЕС на Европейския парламент и на Съвета от 13 декември 2011 г. относно борбата със сексуалното насилие и със сексуалната експлоатация на деца, както и с детската порнография и за замяна на Рамково решение 2004/68/ПВР на Съвета (ОВ L 335, 17.12.2011 г., стр. 1—14) |
|
CSEA (Child Sexual Exploitation and Abuse) |
Сексуална експлоатация на деца и сексуално насилие над деца |
|
CSA онлайн |
Общият термин, използван за трите вида сексуално насилие над деца, определени в Директивата CSA, а именно: детска порнография, порнографско представление и установяване на контакт с деца за сексуални цели („сприятеляване с деца с цел сексуална злоупотреба“) съгласно определенията във Временния регламент (член 2, параграф 4). |
|
ЕС |
Европейски съюз |
|
ОРЗД |
Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/ЕО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г., стр. 1—88) |
|
Сприятеляване с деца с цел сексуална злоупотреба |
Извършителите изграждат доверие и взаимоотношения с дете, за да получат достъп до него с цел сексуална експлоатация или злоупотреба. Терминът е официално познат като „установяване на контакт с деца за сексуални цели“, както е определено в член 6 от Директивата CSA |
|
Хеш |
Уникален цифров код, създаден чрез математически алгоритъм („хеширане“), който се превръща в подпис на даден файл, или неговата хеш стойност |
|
Временен регламент |
Регламент (ЕС) 2021/1232 на Европейския парламент и на Съвета от 14 юли 2021 г. относно временна дерогация от някои разпоредби на Директива 2002/58/ЕО по отношение на използването на технологии от доставчици на междуличностни съобщителни услуги без номерà за обработване на лични и други данни за целите на борбата с онлайн сексуалното насилие над деца (ОВ L 274, 30.7.2021 г., стр. 41—51) |
|
LLM |
Големият езиков модел (LLM) е вид модел на изкуствен интелект, който е обучен чрез алгоритми за дълбоко обучение да разпознава, генерира, превежда и/или обобщава огромни количества писмен човешки език и текстови данни. |
|
MD5 |
Алгоритъм за криптографски код за удостоверяване на автентичността на съобщението за използване в интернет |
|
Meta SSN++ |
Модел с изкуствен интелект, разработен от Meta, който може да открива почти точни дубликати. |
|
NCMEC |
Национален център за изчезнали и експлоатирани деца (NCMEC, американска частна организация с нестопанска цел), на който доставчиците на онлайн услуги са задължени да докладват по силата на американското законодателство за случаи на потенциално сексуално насилие над деца, които са открили в своите мрежи. |
|
PDQ и TMK+PDQF |
Инструменти, използвани от Facebook за откриване на вредно съдържание. PDQ е технология за съпоставяне на снимки; TMK+PDQF е технология за съпоставяне на видеоматериали. |
|
PhotoDNA |
Най-широко използваният инструмент, който е базиран на технология за хеширане и е достъпен безплатно въз основа на лицензионно споразумение, предотвратяващо злоупотребите и използването за цели, различни от откриването на CSA |
1.ВЪВЕДЕНИЕ
Член 9 от Временния регламент (наричан по-нататък също „Регламентът“) задължава Комисията да изготви доклад за неговото изпълнение въз основа на представените от доставчиците на междуличностни съобщителни услуги (наричани по-нататък „доставчиците“) доклади относно обработката на лични данни и статистическите данни, предоставени от държавите членки. Съгласно гореспоменатата разпоредба в доклада за изпълнението Комисията разглежда по-специално:
а) съответните условия за обработване на съответните лични данни и други данни, обработвани съгласно Регламента;
б) пропорционалността на дерогацията, предвидена в Регламента, включително оценка на статистическите данни, представени от държавите членки съгласно член 8;
в) развитието на технологичния напредък по отношение на дейностите в обхвата на настоящия регламент и степента, до която това развитие подобрява точността и намалява броя и процента на грешките (фалшивите положителни резултати).
Настоящият доклад за изпълнението на Временния регламент се основава на данните, получени чрез докладване от доставчиците и държавите членки съгласно съответно член 3, параграф 1, буква ж), подточка vii) и член 8 от Временния регламент. В процеса на докладване се откроиха значителни различия в наличието на данни и видовете събрани данни, а оттам и в съпоставимостта на данните, събрани от доставчиците и държавите членки. Тъй като в Регламента не е предвиден образец за докладване, доставчиците споделят различни видове информация, които невинаги са съпоставими; поради това службите на Комисията предприеха последващи действия, за да гарантират правилното тълкуване на данните. По-голямата част от държавите членки не успяха да предоставят данни навреме, а някои от тях не успяха да предоставят никакви данни до публикуването на настоящия доклад. Това оказа значително влияние върху сроковете, пълнотата и полезността на доклада. Въпреки усилията за осигуряване на съгласуваност на данните и съпоставимост, продължават да съществуват значителни различия, които са отразени в таблиците по-долу, които също така не съдържат данни за всички доставчици или държави членки по всички точки.
Настоящият доклад за изпълнението има за цел да се направи фактически преглед на актуалното състояние във връзка с изпълнението на Временния регламент въз основа на наличните данни. Докладът не съдържа тълкувания на Регламента и в него не се заема позиция относно начина, по който Регламентът се тълкува и прилага на практика.
2.МЕРКИ ЗА ИЗПЪЛНЕНИЕ
2.1.Обработване на лични данни от доставчици (член 3, буква ж), подточка vii)
В член 3, буква ж), подточка vii) от Временния регламент се определят условията, при които доставчиците, действащи съгласно съдържащата се в него дерогация, трябва да публикуват и представят на компетентния надзорен орган и на Комисията до 3 февруари 2022 г. и след това до 31 януари всяка година доклад за обработването на лични данни съгласно този Регламент. Google, LinkedIn, Meta, Microsoft и X (бивш Twitter) 1 представиха доклади за 2021 г. и 2022 г.
2.1.1.Вид и обем на обработените данни
Доставчиците докладваха обработването на данни за съдържанието и за трафика.
Що се отнася до данните за съдържанието, обработвани с цел откриване на онлайн сексуално насилие над деца, всички горепосочени доставчици споменават изображения и видеоклипове. Те разчитат най-вече на технологиите за сравняване на хешове PhotoDNA и MD5, за да открият съвпадения с идентифицирани по-рано материали, съдържащи сексуално насилие над деца (наричани по-долу „CSAM“). Инструментът CSAI Match на Google беше използван за създаване на „цифрови отпечатъци“ на видеоклиповете в платформите и сравняването им с файловете в хранилището за „цифрови отпечатъци“ на Google/YouTube (LinkedIn). В еднаква степен се съобщава за използването на автоматизирана технология (машинно самообучение с изкуствен интелект) и преглед от човек (напр. от Google). Google и LinkedIn потвърдиха, че са идентифицирали и случаи на CSAM, които не съвпадат с предварително идентифицирани по-рано случаи на CSAM. Нито един от петте доставчика, представили данни, не е съобщил данни за откриване на случаи на установяване на контакт с деца за сексуални цели чрез откриване на текст в рамките на дерогацията, предвидена в Регламента.
Що се отнася до събраните данни за трафика и съответните обеми на различните видове съдържание и обработени данни за трафика, докладите на доставчиците се различават значително.
Данните за трафика, събрани от доставчиците и включени в докладите на CyberTipline до U.S. National Center for Missing and Exploited Children (Националния център за изчезнали и експлоатирани деца на САЩ, наричан по-нататък „NCMEC“), включват (всички или някои) от следните данни:
1)данни, свързани с потребителя/докладвалия/акаунта (Google, LinkedIn, Microsoft, X);
2)метаданни, свързани със съдържанието/трансакционни данни (Google, LinkedIn, Microsoft);
3)данни, свързани с потенциална жертва (Google);
4)данни за операции по злоупотреба (Google).
Що се отнася до обема на данните, обработвани съгласно Временния регламент, LinkedIn докладва, че е обработил 8 милиона изображения и видеоклипове с произход от ЕС между 14 юли и 31 декември 2021 г. и 21 милиона изображения и 63 000 видеоклипа с произход от ЕС през 2022 г. Microsoft докладва, че между юли и декември 2021 г. е обработил за целите на Регламента 8,9 милиарда изображения и видеоклипове в световен мащаб, а през 2022 г. — 12,3 милиарда елемента на съдържанието в световен мащаб; не бяха налични данни за ЕС, поради което не е възможно да се направят заключения за целите на настоящия доклад. Другите доставчици не предоставиха информация за обема на обработените данни. Поради това само един от петте докладвали доставчика предостави данни в необходимата степен на подробност.
За да се илюстрира общият контекст, NCMEC докладва, че през 2022 г. е получил общо 87,2 милиона изображения и видеоклипове в световен мащаб и 5,1 милиона изображения и видеоклипове, свързани с ЕС, а през 2021 г. — 84,8 милиона изображения и видеоклипове в световен мащаб и 1,8 милиона изображения и видеоклипове, свързани с ЕС. Това са само материалите, които доставчикът е определил като потенциални случаи на CSAM, и поради това те не могат да се приемат като показателни за общия обем на данните, обработвани съгласно Временния регламент.
2.1.2. Основания за обработване съгласно Регламент (ЕС) 2016/679
Доставчиците докладваха, че се позовават на следните конкретни основания съгласно Регламент (ЕС) 2016/679 (наричан по-нататък „ОРЗД“):
·член 6, параграф 1, буква г) от ОРЗД, т.е. обработване, необходимо за защита на жизненоважните интереси на деца и на лица, които са жертви на онлайн сексуално насилие над деца (Google, Meta, X 2 );
·член 6, параграф 1, буква д) от ОРЗД, т.е. обработване, необходимо за изпълнението на задачи в обществен интерес (LinkedIn, Microsoft, Meta, X 3 );
·член 6, параграф 1, буква е) от ОРЗД, т.е. обработка, необходима за целите на легитимните интереси на:
I.доставчика да открива, предотвратява или по друг начин да се справя с онлайн сексуалното насилие над деца в своите услуги и да защитава други потребители, клиенти, партньори и обществеността от тази форма на незаконно съдържание (Google, Meta);
II.жертвите на онлайн сексуално насилие над деца и организацията, на която доставчикът докладва за онлайн сексуално насилие над деца (напр. NCMEC), за да откриват, предотвратяват и премахват онлайн сексуалното насилие над деца от своите услуги (Google).
2.1.3.Основание за предаване на лични данни извън Съюза съгласно глава V от ОРЗД, когато е приложимо
Всички доставчици докладваха, че разчитат на стандартни договорни клаузи, одобрени от Комисията съгласно член 46, параграф 2, буква в) от ОРЗД. За предаването на лични данни на NCMEC LinkedIn също така докладва, че разчита на дерогация, доколкото е приложимо, разрешена съгласно член 49, параграф 1 от ОРЗД.
2.1.4.Брой установени случаи на онлайн сексуално насилие над деца, като се прави разграничение между CSAM и установяване на контакт с деца за сексуални цели
Таблица № 1: Брой случаи на онлайн сексуално насилие над деца, установени през 2021 г.
|
Доставчик |
Брой случаи на CSAM, идентифицирани през 2021 г. |
Забележки |
|
|
33 акаунта в Google Chat |
Това се отнася до броя на акаунтите в Google Chat на потребители от ЕС, при които чрез автоматични технологии е установено сексуално насилие над деца онлайн в периода от 2 август 2021 г. до 31 декември 2021 г. Не бяха предоставени данни за броя на идентифицираните елементи от съдържанието. |
|
|
31 елемента на съдържанието |
31 елемента на съдържанието бяха потвърдени като CSAM чрез ръчно преглеждане и докладвани на NCMEC; 6 от тях бяха известни случаи на CSAM, а останалите 25 бяха неизвестни случаи на CSAM. |
|
Meta |
340 000 акаунта |
Брой акаунти, за които е установено, че от тях е изпратен поне един мултимедиен материал, представляващ CSAM, в нишки от съобщения, които включват потребител от ЕС, в периода от 8 ноември 2021 г. до 31 декември 2021 г. |
|
Microsoft |
6600 елемента на съдържанието |
6600 елемента на съдържанието (единично изображение или видеоклип), потвърдени като CSAM, открити в Европейския съюз, от над 20 000 елемента на съдържанието, идентифицирани в световен мащаб между юли 2021 г. и декември 2021 г. |
|
X (бивш Twitter) |
532 898 акаунта |
Акаунти (неясно дали само от ЕС или от целия свят), спрени за нарушаване на политиката на X за сексуална експлоатация на деца в периода от 2 август 2021 г. до 31 декември 2021 г. |
В случая с Х от предоставените данни не става ясно дали се отнасят изключително за услуги, попадащи в обхвата на Временния регламент (междуличностни съобщителни услуги без номер), или този брой включва и други услуги (например услуги на информационното общество). Това се отнася за всички данни, свързани с Х в настоящия доклад.
Таблица № 2: Брой установени случаи на сексуално насилие над деца онлайн през 2022 г.
|
Доставчик |
Брой установени случаи на CSAM през 2022 г. |
Забележки |
|
|
2045 елемента на съдържанието |
Елементи на съдържанието, идентифицирани и докладвани на NCMEC в 752 акаунта в Google чрез автоматизирани технологии за потребители от ЕС. |
|
|
2 елемента на съдържанието |
LinkedIn откри 2 изображения и 0 видеоклипа, потвърдени като CSAM. |
|
Meta |
6,6 милиона елемента на съдържанието |
Мултимедийни материали, представляващи CSAM, които са били открити с помощта на технологията на Meta за съпоставяне на мултимедийни файлове в нишки от съобщения, включващи потребител от ЕС. |
|
Microsoft |
12 800 елемента на съдържанието |
12 800 елемента на съдържанието (единично изображение или видеоклип), потвърдени като CSAM, открити от ЕС, от над 50 000 елемента на съдържанието, идентифицирани в световен мащаб през 2022 г. |
|
X (бивш Twitter) |
2 348 712 акаунта |
Акаунти (не е ясно дали само от ЕС или в световен мащаб), спрени за нарушаване на политиката на X за сексуална експлоатация на деца. |
2.1.5.Правна защита на потребителите и резултати
В съответствие с член 3, параграф 1, буква ж), подточка iv) от Временния регламент доставчиците трябва да създадат подходящи процедури и механизми за правна защита, за да гарантират, че потребителите могат да подават жалби до тях. Освен това в член 5 от него се съдържат правила за съдебна защита.
Доставчиците докладваха, че са въвели такива вътрешни процедури и механизми за правна защита на потребителите, чиито акаунти са били ограничени поради споделяне на CSAM и/или чието съдържание е било премахнато като CSAM, така че те да могат да обжалват ограничаването/премахването и случаят им да бъде преразгледан за грешки.
Те докладваха за случаи, в които потребител е подал жалба чрез вътрешния механизъм за правна защита или до съдебен орган по въпроси, попадащи в обхвата на Регламента в рамките на ЕС, както и за резултатите от тези жалби. Нито един доставчик, с изключение на Microsoft (който през 2021 г. и 2022 г. е отчел 0 жалби и по двата канала), не е предоставил отделни статистически данни за вътрешните и съдебните средства за правна защита; в резултат на това таблиците по-долу обхващат както вътрешните, така и съдебните процедури за правна защита.
Таблица № 3: Брой на случаите, в които потребител е подал жалба до вътрешния механизъм за правна защита или до съдебен орган, и резултатът от тези жалби през 2021 г.
|
Доставчик |
Брой случаи на жалби от потребители |
Брой възстановени акаунти |
Брой възстановени елементи на съдържанието |
Забележки |
|
|
8 |
0 |
Не се прилага. |
Акаунти в Google Chat, деактивирани заради онлайн сексуално насилие над деца, когато потребителят е обжалвал: 8. Няма възстановени. |
|
|
0 |
Не се прилага. |
Не се прилага. |
|
|
Meta |
4900 |
Не се прилага. |
207 |
4900 потребители са обжалвали. След процеса на обжалване съдържанието на 207 потребители беше възстановено, а действията по профила — отменени. |
|
Microsoft |
0 |
Не се прилага. |
Не се прилага. |
|
|
X (бивш Twitter) |
около 90 000 |
около 3000 |
Не се прилага. |
Около 90 000 обжалвания. X е възстановил около 3000 от тези акаунти. |
Таблица № 4: Брой на случаите, в които потребител е подал жалба до вътрешния механизъм за правна защита или до съдебен орган, и резултатът от тези жалби през 2022 г.
|
Доставчик |
Брой случаи на жалби от потребители |
Брой възстановени акаунти |
Брой възстановени елементи на съдържанието |
Забележки |
|
|
378 |
0 |
Не се прилага. |
Деактивирани акаунти в Google поради онлайн сексуално насилие над деца, когато потребителят е обжалвал: 378. Няма възстановени. |
|
|
0 |
Не се прилага. |
Не се прилага. |
|
|
Meta |
29 000 |
Не се прилага. |
3700 |
Потребителите са обжалвали действията спрямо около 29 000 споделени от тях мултимедийни материали. След процеса на обжалване са възстановени около 3700 единици съдържание и са отменени действията срещу акаунтите. |
|
Microsoft |
0 |
Не се прилага. |
Не се прилага. |
|
|
X (бивш Twitter) |
Около 430 000 |
Около 4000 |
Не се прилага. |
Около 430 000 обжалвания. X е възстановил около 4000 от тези акаунти. |
2.1.6.Брой и процент на грешките (фалшиви положителни резултати) при различните използвани технологии
В съответствие с член 3, параграф 1, буква д) от Временния регламент доставчиците трябва да гарантират, че използваните технологии са достатъчно надеждни, така че да ограничат във възможно най-голяма степен процента на грешките при откриването на съдържание, представляващо онлайн сексуално насилие над деца.
В това отношение доставчиците докладваха, че не прилагат всяка технология за откриване на онлайн CSA поотделно. По-скоро те прилагат многопластов подход за откриване на онлайн CSA, като комбинират различни технологии за откриване с цел повишаване на точността. За да намалят грешките или фалшивите положителни резултати, всички доставчици ги допълват с преглед от човек. Доставчиците не предоставиха информация за броя и съотношението на грешките (фалшивите положителни резултати) за всяка от използваните технологии поотделно, а по-скоро докладваха обобщени данни за всички използвани технологии.
Повечето доставчици измерват броя и съотношението на грешките като отменени решения за изпълнение, т.е. като общ процент на възстановявания/отмени вследствие на обжалвания (напр. процентът, при който доставчикът възстановява деактивирани акаунти или съдържание при обжалване от страна на потребителя). Подходът, възприет от доставчиците, не отразява непременно определението за „фалшиви положителни резултати“ в статистиката.
Отчетените проценти на възстановявания/отмени вследствие на обжалвания са следните:
Таблица № 5: Проценти на възстановявания/отмени вследствие на обжалвания
|
2021 г.* |
2022 г. |
||||||
|
Доставчик |
% на възстанове-ните акаунти спрямо броя на обжалва-нията |
% на възстанове-ните спрямо спрените акаунти |
% на възстанове-ните акаунти спрямо броя на обжалва-нията |
% на възстанове-ните спрямо спрените акаунти |
Забележки |
||
|
|
0 % (0 спрямо 8) |
0 % (0 спрямо 33) |
0 % (0 спрямо 378) |
0 % (вж. забележките) |
Не е предоставен броят на спрените акаунти за 2022 г. Вместо това беше предоставен броят на единиците съдържание, идентифицирани и докладвани на NCMEC, 2045. След обжалването не е възстановен нито един акаунт. |
||
|
|
0 % |
0 % |
0 % |
0 % |
Няма обжалвания. За периода от 13 юли 2021 г. до 31 декември 2021 г. LinkedIn също така докладва, че от 75-те файла, прегледани като потенциални случаи на CSAM с произход от ЕС, 31 са потвърдени като случаи на CSAM чрез проверка от човек. LinkedIn не предостави такива данни за 2022 г. |
||
|
Meta |
4,22 % (207 спрямо 4,9 хил.) |
0,06 % (207 спрямо 340 хил.) |
Вж. забележките |
Вж. забележките |
Не е предоставена информация, която да позволи да се определят точно обхватът, съдържанието на жалбите и основанията за възстановяване. За 2022 г. предоставените данни бяха за единици съдържание, а не за акаунти: -Брой единици съдържание, които са спрени („предприети действия“): 6,6 милиона -Брой единици съдържание, за които е подадена жалба: 29 хил. -Брой възстановени единици съдържание: 3,7 хил. Поради това: -% на възстановените единици съдържание спрямо броя на обжалванията: 12,8 % (3,7 хил. спрямо 29 хил.) -% на възстановените единици съдържание спрямо броя на спрените единици съдържание: 0,06 % (3,7 хил. спрямо 6,6 млн.) |
||
|
Microsoft |
0 % |
- |
- |
- |
Недостатъчни данни, за да се изчисли процентът на възстановяванията/отмените вследствие на обжалвания. За 2022 г. са извършени общо 17 отмени на първоначалното решение за модериране на съдържанието, няма данни за общия брой обжалвания. |
||
|
X (бивш Twitter) |
1,43 % (100 спрямо 7 хил.) |
0,06 % (100 спрямо 166 хил.) |
2,17 % (500 спрямо 23 хил.) |
0,10 % (500 спрямо 501 хил.) |
През втората половина на 2021 г. е спрян достъпът на около 166 хил. потребители поради CSA чрез автоматични механизми. От тези потребители около 7 хил. са подали жалби, които са довели до около 100 отменени решения. През 2022 г. е спрян достъпът на 501 хил. потребители поради CSA чрез автоматични механизми. От тези потребители около 23 хил. са обжалвали, което е довело до около 500 отменени решения. |
||
* Периодите на докладване през 2021 г. са различни за всеки доставчик
2.1.7.Приложени мерки за ограничаване на процента на грешка и постигнатия процент на грешка
Съгласно член 3, параграф 1, буква д) от Временния регламент използваните технологии трябва да бъдат достатъчно надеждни, а последиците от случайни грешки трябва да се отстраняват незабавно. Освен това член 3, параграф 1, буква ж), подточка ii) изисква човешки надзор и при необходимост — човешка намеса.
Всички доставчици докладваха, че използват многопластов подход за откриване и борба с разпространението на онлайн CSA. Това включва използването на технологии за хеш съпоставяне (включително PhotoDNA) за откриване на CSAM в комбинация с процеси за преглед от хора, за да се потвърди дали даден мултимедиен файл (изображение и видео) съдържа CSAM, както и човешки надзор върху обработката на CSAM.
Доставчиците докладваха, че прилагат различни мерки и гаранции, за да ограничат и намалят процента на грешките при откриването, докладването и отстраняването на онлайн CSA. Те включват (списъкът е неизчерпателен) 4 :
I.мониторинг и оценка на качеството на работата на инструментите за откриване на CSA, както за прецизиране на точността (дали откриват само онлайн сексуално насилие над деца), така и за извличане на информация (дали не пропускат онлайн сексуално насилие над деца в своите платформи) (Google, X);
II.преглед и надзор от човек: извадки от мултимедийни файлове, за които е установено, че са CSAM, чрез технологии за хеш съпоставяне, се проверяват от проверители/обучени анализатори (Google, LinkedIn, Meta, Microsoft);
III.маркиране и преглед на клъстери с голям обем (Meta);
IV.внедряване на допълнителни процеси за ръчен преглед, като текущи проверки на качеството на хешовете (LinkedIn, Microsoft);
V.проверители, които преминават през специализирани всеобхватни обучения под ръководството на съветници за начините на разпознаване на съдържание със CSAM, за да се гарантира точността на прегледа от човек (Google);
VI.периодични оценки за контрол на качеството на проверителите и прилаганите решения (Google, X);
VII.други процеси за контрол на качеството с цел намаляване на грешките и незабавното им отстраняване, като например независима проверка на хеш (Google, LinkedIn), преглед от човек на всеки случай на неоткриван досега CSAM преди докладване (Google);
VIII.разработване и редовен преглед на политики и стратегии за изпълнение от обучени експерти в областта на онлайн CSA (Google);
IX.ангажираност с качеството на докладите на NCMEC CyberTipline и фалшивите положителни резултати, ако има такива. (Google, LinkedIn, Meta, Microsoft, X).
2.1.8.Политиката за запазване и гаранциите за защита на данните, прилагани съгласно ОРЗД
В член 3, параграф 1, букви з) и и) от Временния регламент се изисква съответните лични данни да се съхраняват по сигурен начин единствено за определени конкретни цели и съответно се съдържат спецификации относно периода на съхранение. Освен това трябва да се спазват приложимите изисквания на ОРЗД.
Доставчиците докладваха, че са въвели всеобхватни политики за запазване и гаранции за защита на личните данни. Политиките за запазване на данни варират в зависимост от вида на данните. В тях се посочва, че във всеки случай периодът на съхранение е ограничен до времето, което се смята за подходящо за вида на данните и целта на обработката, а данните се заличават в края на периода на съхранение. Доставчиците разполагат с по-подробна информация за практиките за запазване на данни, определени в техните политики/декларации за поверителност и споразумения за услуги/потребителски споразумения.
Повечето доставчици (LinkedIn, Meta, Microsoft) прилагат политика на запазване от 90 дни за мултимедийни файлове, за които е потвърдено, че съдържат CSAM, открити в обхвата на Регламента. През този период съдържанието, потвърдено като CSAM, се съхранява в отделно и защитено хранилище за CSAM, управлявано от специализирани екипи (напр. екипа на Microsoft за правоприлагане и национална сигурност). Тези системи за съхранение автоматично изтриват съхраненото съдържание на CSAM след 90 дни, освен ако периодът на съхранение не е удължен при получаване на искания за законосъобразна процедура, обикновено свързани с правоприлагащи органи, които предприемат действие вследствие на докладвания до NCMEC.
Google докладва, че CSAM, открити в обхвата на Регламента, се съхраняват не по-дълго от строго необходимото за съответните цели съгласно Регламента и във всеки случай не по-дълго от 12 месеца от момента, в който CSAM са идентифицирани и докладвани, като срокът може да бъде удължен въз основа на валидно правно искане за запазване.
X (бивш Twitter) докладва, че съхранява информация и съдържание на профила за срока на действие на потребителския акаунт, а личните данни, събрани, когато потребителите използват услугата им — за най-много 18 месеца. Когато потребителят деактивира даден акаунт, X обикновено съхранява данните за още 30 дни, след което акаунтът се изтрива. Данни за потребителите, свързани с оплаквания и нарушения на правилата, включително информация за профила на нарушителите (напр. идентификатори, използвани за създаване на профила: имейл адрес или телефонен номер), се съхраняват за неопределено време, за да се предотврати създаването на нови акаунти от повторни нарушители на правилата и да се гарантира, че нарушителите на правилата на X не могат просто да изчакат периода на изтриване и след това да нарушат правилата отново 5 .
Мерките за защита на личните данни, прилагани от доставчиците, включват стандартни мерки (всички или част от тях), като например (списъкът е неизчерпателен) 6 :
I.използване на техники за деидентификация или псевдонимизация и анонимизиране на данни (напр. маскиране, хеширане, диференциална неприкосновеност) (Goggle, LinkedIn, Meta, Microsoft);
II.предоставяне само на хеш стойности на трети страни с цел откриване на CSAM (Google, LinkedIn);
III.използване на стандартно за индустрията шифроване (алгоритми и протоколи) за данни, пренасяни между частна инфраструктура и обществени мрежи (Meta);
IV.прилагане на стратегии за управление на данните/всеобхватни програми за защита на личните данни (X — бивш Twitter, Google) и строги вътрешни ограничения за достъп до данни (Meta) (напр. прилагани за служители, изпълнители, агенти, които се нуждаят от информацията, за да я обработват), използване на списъци за контрол на достъпа в инструментите за преглед на CSAM и забрани за достъп (Meta), както и строги договорни задължения за поверителност, прилагани към лицата с достъп;
V.преглед на стратегиите за анонимизиране и управление на данните, т.е. провеждане на прегледи на защитата на личните данни с цел идентифициране, достъп и намаляване на потенциалните рискове за неприкосновеността на личния живот, произтичащи от събирането, обработването, съхраняването и споделянето на лични данни, преглед на практиките за защита (Microsoft);
VI.поддържане на планове за реакция при инциденти със сигурността за наблюдение, откриване и справяне с евентуални уязвимости и инциденти със сигурността в цялата инфраструктура (Google, Meta).
2.1.9.Имената на организациите, действащи в обществен интерес срещу сексуалното насилие над деца, с които са били споделени данни съгласно Регламента.
И през двата периода на докладване (от юли/август 2021 г. до декември 2021 г. и от януари 2022 г. до декември 2022 г.) всички доставчици са докладвали, че споделят с NCMEC данните, обработвани съгласно Регламента. Всички докладвали доставчици също така съобщиха на Комисията, в съответствие с член 7, параграф 1 от Временния регламент, че са докладвали на NCMEC за онлайн сексуално насилие над деца съгласно Регламента 7 .
2.2.Статистически данни на държавите членки (член 8)
В съответствие с член 8, параграф 1 от Временния регламент държавите членки са длъжни да предоставят статистически данни за следното:
1)общия брой на докладите за открито онлайн сексуално насилие над деца, предоставени от доставчици и организации, действащи в обществен интерес срещу сексуалното насилие над деца, на компетентните национални правоприлагащи органи, като се прави разграничение, когато има подобна информация, между абсолютния брой случаи и случаите, докладвани няколко пъти, и вида на доставчика, в чиято услуга е открито онлайн сексуалното насилие над деца;
2)броя на децата, идентифицирани чрез действия съгласно член 3, с разбивка по пол;
3)броя на осъдените извършители.
Въпреки че повечето държави членки предоставиха поне частична информация, в много от тях не бяха създадени съответните системи за събиране и докладване на данни. В резултат на това, когато бяха предоставени статистически данни, те се отнасяха за много различни периоди на докладване и се различаваха значително по отношение на подробностите. Някои държави членки представиха годишни статистически данни от датата на влизане в сила на Регламента. Повечето от тях докладваха за календарни години, тъй като е възможно да не разполагат с технически средства за разграничаване на исканите статистически данни по години от датата на влизане в сила на Регламента. Няколко държави членки не предоставиха никакви данни.
Трябва също така да се отбележи, че в някои случаи статистическите данни са получени от т.нар. текущи бази данни или системи за водене на дневници и дела, т.е. не от действителни статистически системи. Числовите данни понякога се предоставят въз основа на динамични данни, което означава, че данните не са окончателни, т.е. могат да се променят. Промени настъпват например в зависимост от времето на извличане (например в Словения и Дания), тъй като приключват по-голям брой разследвания и съдебни дела.
В няколко държави членки компетентните органи създават нови отдели за разследване на престъпления, свързани с онлайн сексуално насилие над деца, и централизирано докладване за онлайн сексуално насилие над деца (Латвия, Чехия). Това би помогнало за изготвянето на по-точни статистически данни в бъдеще.
Германия заяви, че не може да предостави статистически данни в съответствие с член 8, параграф 1 от Временния регламент, тъй като смята, че не разполага с правно основание за доброволно откриване 8 . В същото време Федералната криминална служба на Германия (BKA) на своя уебсайт съобщава за получаването на 89 844 доклада от NCMEC през 2022 г., а NCMEC съобщава за изпращането на 138 193 доклада на германските власти 9 . Три държави членки (Малта, Португалия и Румъния) не предоставиха никакви данни или причина защо не са докладвали съгласно тази разпоредба.
2.2.1. Общият брой на докладванията за разкрити случаи на онлайн сексуално насилие над деца
Повечето държави членки предоставиха статистически данни за общия брой на сигналите за онлайн сексуално насилие над деца в съответствие с член 8, параграф 1, буква а) от Временния регламент. Тъй като държавите членки предоставиха данни за различни периоди на докладване, не беше възможно да се изчисли общият брой на получените на равнището на ЕС доклади за разкрити случаи на онлайн сексуално насилие над деца за даден период, например за времето на прилагане на Регламента.
В повечето случаи държавите членки са предоставили общия брой сигнали към националните правоприлагащи органи за сексуално насилие над деца, получени от доставчици на услуги или други организации, действащи в обществен интерес. Като се има предвид, че повечето доставчици, установени в САЩ, докладват на NCMEC, повечето държави членки съобщават, че получават повечето или всички свои доклади от NCMEC. Държавите членки не са посочили броя на докладите, годни за предприемане на действия, т.е. докладите, годни за разследване, но някои са посочили броя на образуваните дела, който е значително по-малък. Разликата между получените доклади и разследваните случаи се дължи на няколко причини, например че докладът е съдържал CSAM, но не е съдържал достатъчно информация за започване на разследване; обединяване на доклади, когато повече от един доклад се отнася за определено заподозряно лице; или че материалът, въпреки че показва случаи на експлоатация, не е оценен като престъпен съгласно националното законодателство. Освен това държавите членки в повечето случаи не правят разграничение между абсолютния брой случаи и тези, които са докладвани няколко пъти. В случаите, когато докладите са предоставени от NCMEC, NCMEC вече е направил предварителна категоризация на докладите, които е получил от доставчиците, като „годни за предприемане на действия“ или „за информация“. NCMEC определя като „годен за предприемане на действия“ докладван случай, който съдържа достатъчно информация за започване на разследване. Обикновено това включва данни за потребителя, изображения и възможно местоположение. Докладът се категоризира „за информация“, когато не съдържа достатъчно информация или когато изображенията се смятат за широко разпространени и са били докладвани многократно. NCMEC е определил 49 % от докладите като „годни за предприемане на действия“ през 2022 г., докато 51 % са били определени като „за информация“.
Само няколко държави членки са посочили вида на доставчиците, в рамките на чиито услуги е установено онлайн сексуално насилие над деца (например Белгия, Чехия, Естония, Франция и Полша) и само една държава членка е предоставила подробна разбивка (Белгия).
Словения посочва, че не може да предостави данни само за престъпленията, разследвани въз основа на доклади, подадени от доставчици и организации, а по-скоро може да предостави данни само за всички разследвания на онлайн сексуално насилие над деца, независимо от източника на информацията, довела до започването на разследването.
Таблица № 6: Общ брой на докладванията за разкрити случаи на онлайн сексуално насилие над деца, докладвани от държавите членки
|
Държава |
Период на докладване |
Общ брой докладвания за онлайн сексуално насилие над деца |
Източник на докладванията |
Забележки |
|
Австрия |
2021 г.—2022 г. |
16 311 |
NCMEC |
|
|
Белгия |
1 август 2021 г.—31 юли 2022 г. |
26 226 |
Докладвания от доставчици (социални медии) и горещата линия на Childfocus |
|
|
България |
2021 г.—2022 г. |
9120 |
Доставчици и гореща линия INHOPE чрез „Safenet“ и други |
От тях 9112 сигнала са за уебстраници, съдържащи CSAM, хоствани от български доставчици. |
|
Хърватия |
1 януари 2021 г.—31 октомври 2022 г. |
9044 |
NCMEC |
|
|
Кипър |
1 юли 2021 г.—31 декември 2022 г. |
3570 |
NCMEC |
|
|
Чехия |
1 януари 2022 г.—31 юли 2022 г. |
13 279 |
NCMEC |
|
|
Дания |
2 август 2021 г.—20 януари 2023 г. |
10 744 |
NCMEC |
|
|
Естония |
- |
- |
NCMEC, линия за помощ на деца 116 111 |
Естония докладва, че статистическите данни за полицията и граничната охрана, включително NCMEC, не са публични. За 2021 г. са докладвани 360 неконтактни сексуални престъпления срещу дете. Освен това 86 % от всички неконтактни сексуални престъпления са извършени в интернет среда или с помощта на средства на информационните технологии. |
|
Финландия |
2022 г. |
25 000 |
NCMEC и Save the Children |
|
|
Франция |
1 юни 2021 г.—1 август 2022 г. |
120 000 |
NCMEC |
|
|
Германия |
- |
- |
- |
Няма налични данни/не са докладвани. |
|
Гърция |
2021 г.—2022 г. |
142 |
NCMEC, Гръцка гореща линия за незаконно интернет съдържание — Safeline, Национална комисия по телекомуникации и пощи, Национална линия SOS 1056 — The smile of the child, Гръцки омбудсман |
|
|
Унгария |
2022 г. |
0 |
Нито един от докладите, изпратени от доставчиците, не е изпратен съгласно Временния регламент |
|
|
Ирландия |
2021 г.—2022 г. |
15 355 |
NCMEC |
|
|
Италия |
2022 г. |
4607 |
Не е посочено |
|
|
Латвия |
1 август 2022 г.—6 март 2023 г. |
Приблизително 115 до 220 докладвания месечно |
От нелатвийски доставчици и организации, действащи в обществен интерес срещу сексуалното насилие над деца (най-вече NCMEC), и от латвийски доставчици и организации (най-вече Латвийски център за безопасен интернет) |
|
|
Литва |
1 януари 2021 г.—30 юни 2022 г. |
4142 |
Не е посочено |
|
|
Люксембург |
2021 г.—2022 г. |
2491 |
Не е посочено |
|
|
Малта |
- |
- |
- |
Не са представени/докладвани данни. |
|
Нидерландия |
2021 г. |
36 537 |
Доставчици и организации, действащи в обществен интерес срещу сексуалното насилие над деца |
|
|
Полша |
3 август 2021 г.—3 август 2023 г. |
227 |
Доставчици и организации, действащи в обществен интерес срещу сексуалното насилие над деца |
За периода от 3 август 2022 г. до 3 август 2023 г. Полша е отбелязала 1 докладване на сприятеляване с деца с цел сексуална злоупотреба и 105 докладвания за CSAM. |
|
Португалия |
- |
- |
- |
Не са представени/докладвани данни. |
|
Румъния |
- |
- |
- |
Не са представени/докладвани данни. |
|
Словакия |
1 август 2021 г.—31 юли 2022 г. |
7206 |
Доставчици и организации, действащи в обществен интерес срещу сексуалното насилие над деца |
|
|
Словения |
1 януари 2021 г. до 14 юли 2023 г. |
452 |
Този брой показва престъпни деяния, свързани с дейности в интернет. Понастоящем съществуващите статистически данни не позволяват на Словения да отдели статистическите данни за престъпленията, разследвани въз основа на доклади, подадени от доставчици и организации, от статистическите данни за други доклади. |
|
|
Испания |
2022 г. |
31 474 |
Организации, действащи в обществен интерес срещу сексуалното насилие над деца |
|
|
Швеция |
август 2021 г. — 31 декември 2022 г. |
32 830 |
Предимно NCMEC |
Като се има предвид, че NCMEC е основният източник на доклади, информативно е да се сравнят данните за докладите, получени от държавите членки, с тези, предоставени от NCMEC за докладите, изпратени на държавите членки. През 2021 г. NCMEC е получил общо 29 397 681 докладвания от индустрията в световен мащаб, от които 99,7 % (или 29 309 106) са съдържали едно или повече изображения или видеоклипове на сексуално насилие над деца, 0,15 % (или 44 155) са били свързани със сприятеляване с деца с цел сексуална злоупотреба, а 0,05 % (или 16 032) — с трафик на деца с цел сексуална експлоатация. През 2022 г. NCMEC е получил общо 32 059 029 докладвания, от които 99,5 % (или 31 901 234) са били свързани със снимки или видеоклипове на сексуално насилие над деца, 0,25 % (80 524) са били свързани със сприятеляване с деца с цел сексуална злоупотреба и 0,06 % (или 18 336) — с трафик на деца с цел сексуална експлоатация. За ЕС разбивката е следната:
Таблица № 7: Докладванията към NCMEC за съмнения за онлайн сексуално насилие над деца, предоставени на държавите — членки на ЕС, през 2021 г. и 2022 г.
|
Държава |
Общо докладвания за 2021 г. 10 |
% от общото за ЕС за 2021 г. |
Общо доклади за 2022 г. 11 |
% от общото за ЕС за 2022 г. |
% от населението на ЕС |
|
Австрия |
7580 |
1,36 % |
18 501 |
1,23 % |
2,00 % |
|
Белгия |
15 762 |
2,84 % |
50 255 |
3,34 % |
2,60 % |
|
България |
13 584 |
2,44 % |
31 937 |
2,12 % |
1,53 % |
|
Хърватия |
4744 |
0,85 % |
11 693 |
0,78 % |
0,86 % |
|
Кипър |
2657 |
0,48 % |
7361 |
0,49 % |
0,20 % |
|
Чехия |
15 004 |
2,70 % |
61 994 |
4,12 % |
2,36 % |
|
Дания |
5891 |
1,06 % |
30 215 |
2,01 % |
1,31 % |
|
Естония |
2729 |
0,49 % |
6408 |
0,43 % |
0,30 % |
|
Финландия |
6079 |
1,09 % |
10 904 |
0,73 % |
1,24 % |
|
Франция |
98 233 |
17,67 % |
227 465 |
15,13 % |
15,16 % |
|
Германия |
79 701 |
14,34 % |
138 193 |
9,19 % |
18,59 % |
|
Гърция |
14 616 |
2,63 % |
43 345 |
2,88 % |
2,37 % |
|
Унгария |
31 710 |
5,70 % |
109 434 |
7,28 % |
2,16 % |
|
Ирландия |
7327 |
1,32 % |
19 770 |
1,31 % |
1,13 % |
|
Италия |
37 480 |
6,74 % |
96 512 |
6,42 % |
13,32 % |
|
Латвия |
1537 |
0,28 % |
3688 |
0,25 % |
0,42 % |
|
Литва |
3509 |
0,63 % |
16 603 |
1,10 % |
0,63 % |
|
Люксембург |
2005 |
0,36 % |
2004 |
0,13 % |
0,14 % |
|
Малта |
750 |
0,13 % |
4713 |
0,31 % |
0,12 % |
|
Нидерландия |
36 790 |
6,62 % |
57 012 |
3,79 % |
3,96 % |
|
Полша |
37 758 |
6,79 % |
235 310 |
15,65 % |
8,41 % |
|
Португалия |
34 415 |
6,19 % |
42 674 |
2,84 % |
2,31 % |
|
Румъния |
32 765 |
5,89 % |
96 287 |
6,40 % |
4,25 % |
|
Словакия |
7275 |
1,31 % |
39 748 |
2,64 % |
1,21 % |
|
Словения |
3162 |
0,57 % |
14 795 |
0,98 % |
0,47 % |
|
Испания |
33 136 |
5,96 % |
77 727 |
5,17 % |
10,60 % |
|
Швеция |
19 635 |
3,53 % |
48 883 |
3,25 % |
2,33 % |
|
Общо |
555 834 |
1 503 431 |
Значителните разлики между броя на докладите през 2021 г. и 2022 г., показващи рязко увеличение на докладите през 2022 г., се дължат до голяма степен на намаляването на доброволното откриване между януари и август 2021 г., когато Временният регламент все още не се е прилагал.
NCMEC не прави разграничение в статистиката си по държави — членки на ЕС, в зависимост от източника на доклада, по-специално дали той произхожда от междуличностни съобщителни услуги без номер. Въпреки това NCMEC предоставя статистически данни за общия брой доклади, свързани с ЕС, които произтичат от междуличностни съобщителни услуги без номер. През 2021 г. 283 265 доклада, отнасящи се до държавите членки, са произлезли от услуга за чат, съобщения или електронна поща, т.е. 51 % от всички доклади, отнасящи се до ЕС. Други 164 645 (30 % от общия брой) доклада произлизат от социални медии или платформи за онлайн игри, които също могат да имат интегрирани услуги за изпращане на съобщения или чат. През 2021 г. 3565 доклада, отнасящи се до ЕС, са били свързани със сприятеляване с деца с цел сексуална злоупотреба. През 2022 г. 1 015 231 доклада, отнасящи се до държавите членки, са постъпили от услуга за чат, съобщения или електронна поща, т.е. 68 % от всички сигнали, отнасящи се до ЕС. Други 325 847 (22 % от общия брой) доклада произлизат от социални медии или платформи за онлайн игри, в които може да са интегрирани и услуги за изпращане на съобщения или чат. През 2022 г. 7561 доклада в рамките на ЕС са се отнасяли до сприятеляване с деца с цел сексуална злоупотреба. И в този случай разликите в броя на докладите от междуличностни съобщителни услуги без номер през 2021 г. и 2022 г. се дължат на намаляването на доброволното откриване между януари и август 2021 г., когато Временният регламент все още не се е прилагал.
В много случаи делът на докладите за всяка държава членка приблизително съответства на дела на населението на държавата членка в сравнение с населението на ЕС като цяло, което би могло да свидетелства за съпоставима честота на онлайн сексуалното насилие над деца в държавите членки. Забележителни отклонения се наблюдават по отношение на Испания и Италия, чиито проценти изглеждат ниски в сравнение с процента на населението на ЕС и през двете години, докато делът на докладите за други държави членки, изглежда, варира значително (например Германия, Полша, Нидерландия, Словакия). Тези промени не са отразени като такива в докладите за броя на случаите и поради това отново е трудно да се направят заключения за връзката между докладите и разследванията.
С оглед на различните периоди на докладване не е възможно да се направи пряко сравнение, но въпреки това съществуват значителни различия между статистическите данни, предоставени от NCMEC, и денните, докладвани от държавите членки. Освен това данните на NCMEC за държавите членки не могат да бъдат напълно съпоставени с посочените в предходния раздел данни, предоставени от сектора. Макар че някои от разликите може да се дължат на докладвания на онлайн сексуално насилие над деца, които идват от източници, различни от междуличностните съобщителни услуги, това би изисквало допълнителен анализ, тъй като е възможно също така да се предприемат доброволни мерки за откриване, свързани с ЕС, от доставчици, различни от тези, които са представили доклади на Комисията до момента, като се има предвид списъкът на доставчиците, които докладват на NCMEC 12 . Въпреки това фактът, че за повечето държави членки, изглежда, е налице значително несъответствие между броя на докладите, които NCMEC посочва като изпратени до държавата членка, и броя на докладите, които държавата членка посочва като получени, навежда на заключението, че събирането на данни и докладването от страна на държавите членки не е пълно.
Свързаните с всеки посочен по-горе доклад на NCMEC изображения и видеоклипове на сексуално насилие над деца са свалени и премахнати от обращение. Това е особено важно за настоящите жертви и оцелелите от сексуално насилие над деца. Проучванията показват, че непрекъснатото разпространение на снимки и видеоклипове, изобразяващи насилието, ограничава способността на жертвите да преодолеят психологическите последици от насилието и създава вторична форма на виктимизация.
2.2.2. Броят на идентифицираните деца
Повечето държави членки са предоставили пълни или частични статистически данни за броя на идентифицираните деца с разбивка по пол, в съответствие с член 8, параграф 1, буква б) от Временния регламент. Няколко държави членки обаче не са предоставили никакви данни или обосновка, че не са докладвали съгласно тази разпоредба.
Няколко държави членки не са докладвали никакви или докладваха само частични статистически данни за периода на докладване, но са посочили причините за това. Посочените причини включват:
-децата, жертви на онлайн CSA, не могат да бъдат преброени (Франция);
-данни не са налични, тъй като не са събрани като част от събирането на национални статистически данни/националните органи не са регистрирали тези статистически данни (Дания, Литва);
-данни, които не са разбити по пол при събирането на национални статистически данни (Белгия, Кипър, Чехия, Гърция, Ирландия, Италия, Литва, Нидерландия);
-в съществуващите информационни системи (Финландия) не е налична информация с исканата степен на подробност;
-информацията не се събира (Германия).
Няколко от държавите членки, които са посочили, че не са в състояние да предоставят статистически данни, потвърдиха, че от техните национални органи е било поискано да променят процедурата си за регистрация на доброволни доклади и разследвания и за събиране на статистически данни (Дания) и/или внедряват нови информационни системи, които следва да позволят докладване на необходимото ниво на подробност (Финландия).
В една държава членка данните по-долу не правят разграничение между деца, жертви на CSA онлайн и офлайн (Унгария). В някои случаи статистиката включва и деца, за които е установено, че сами са създали и качили този материал (самостоятелно създаден материал, предимно видео) (Чехия, Естония).
Тъй като държавите членки в повечето случаи са докладвали за различни периоди на докладване, не беше възможно да се изчисли общият брой на децата, идентифицирани като жертви на онлайн сексуално насилие над деца в ЕС, за година и/или за същия отчетен период.
Таблица № 8: Брой идентифицирани деца, с разбивка по пол
|
Държава |
Период на докладване |
Женски |
Мъжки |
Общо |
Забележки |
|
Австрия |
2021 г.—2022 г. |
11 |
6 |
17 |
|
|
Белгия |
2021 г.—2022 г. |
- |
- |
63 |
Не са налични данни с разбивка по пол. |
|
България |
2022 г. |
50 |
12 |
62 |
|
|
Хърватия |
1 януари 2021 г.—31 октомври 2022 г. |
20 |
0 |
20 |
|
|
Кипър |
2022 г. |
- |
- |
102 |
Не са налични данни с разбивка по пол. |
|
Чехия |
2022 г. |
- |
- |
30 |
Не са налични данни с разбивка по пол. |
|
Дания |
- |
- |
- |
- |
Не са налични данни. |
|
Естония |
2021 г. |
6 |
12 |
18 |
|
|
Финландия |
- |
- |
- |
- |
Не са налични данни. |
|
Франция |
- |
- |
- |
- |
Не са налични данни. |
|
Германия |
- |
- |
- |
- |
Не са налични данни. |
|
Гърция |
2021 г.—2022 г. |
- |
- |
4 |
Не са налични данни с разбивка по пол. |
|
Унгария |
2021 г.—2022 г. |
379 |
47 |
426 |
Невъзможно е да се направи разграничение между жертвите на CSA онлайн и офлайн. Включени са само деца на възраст под 16 години. |
|
Ирландия |
2021 г.—2022 г. |
- |
- |
101 |
Данните за 2021 г. (50 жертви) не са с разбивка по пол. Данните с разбивка по пол за 2022 г. са: 25 идентифицирани деца от женски пол и 26 деца от мъжки пол. |
|
Италия |
2022 г. |
- |
- |
385 |
Не са налични данни с разбивка по пол. |
|
Латвия |
1 август 2022 г.—6 март 2023 г. |
1 |
- |
1 |
|
|
Литва |
- |
- |
- |
- |
Не са налични данни. |
|
Люксембург |
2021 г.—2022 г. |
0 |
0 |
0 |
|
|
Малта |
- |
- |
- |
- |
Не са представени/докладвани данни. |
|
Нидерландия |
2021 г. |
- |
- |
222 |
Не са налични данни с разбивка по пол. |
|
Полша |
2022 г. |
2368 |
487 |
3014 |
През 2022 г. Националната полицейска информационна система в Полша предоставя данни за 3014 жертви на престъпления, свързани с CSA (2368 от женски пол, 487 от мъжки пол и 159, при които полът не е посочен). |
|
Португалия |
- |
- |
- |
- |
Не са представени/докладвани данни. |
|
Румъния |
- |
- |
- |
- |
Не са представени/докладвани данни. |
|
Словакия |
август 2021 г. — юли 2022 г. |
13 |
8 |
21 |
|
|
Словения |
1 януари 2021 г. до 14 юли 2023 г. |
220 |
85 |
305 |
|
|
Испания |
2022 г. |
80 |
39 |
119 |
|
|
Швеция |
2022 г. |
8 |
4 |
12 |
|
|
ОБЩО ЗА ВСИЧКИ ДЪРЖАВИ ЧЛЕНКИ |
1 януари 2021 г. — 6 март 2023 г. |
3156 |
700 |
4922 |
Горепосочените данни са предмет на редица допълнителни уговорки. Съществуващите статистически данни невинаги позволяват на държавите членки да отделят данните за жертвите, които са били идентифицирани въз основа на доклад от доставчик, от тези, при които например жертвата сама е съобщила за престъплението или някой друг, който познава жертвата или е открил престъплението, е съобщил за него (както е посочено от Словения). Швеция докладва, че децата, които са били идентифицирани чрез истории на чатове, също са част от докладването, въпреки че никога не са били открити снимки или видеоклипове на злоупотребата или не е било установено, че те произхождат от конкретната жертва.
Като цяло данните в таблица № 8 не отговарят непременно на задълженията за докладване във Временния регламент, които се отнасят само до жертвите, спасени благодарение на докладите, подадени от доставчиците на услуги и от организациите, действащи в обществен интерес срещу сексуалното насилие над деца съгласно Регламента. Предоставените данни в някои случаи включват жертви, идентифицирани по различни други причини и начини.
По този начин данните не позволяват да се направи цялостен преглед на броя на децата, идентифицирани като жертви на онлайн сексуално насилие в ЕС.
Освен това, дори когато жертвата е била идентифицирана, това не означава непременно, че има осъдителна присъда, свързана с това идентифициране. В някои случаи жертвата е била идентифицирана, но разследването не е могло да установи заподозрян или да доведе до осъдителна присъда (Швеция).
Въпреки това от данните може да се заключи, че значителен брой жертви са били идентифицирани с помощта на доброволно докладване в съответствие с Временния регламент. Това се потвърждава от докладите на правоприлагащите органи за случаи, които често започват само въз основа на доброволно подадени сигнали 13 .
2.2.3. Брой на осъдените извършители
Въпреки че повечето държави членки са изпълнили задълженията си, две държави членки не предоставиха никакви данни или обосновка, че не са докладвали съгласно член 8, параграф 1, буква в) от Временния регламент.
Няколко държави членки не предоставиха статистически данни за отчетния период в съответствие с тази разпоредба и посочиха следните причини:
-все още няма налични данни (Белгия и Испания);
-в централната база данни, използвана за регистриране на престъпления, не се изисква да се записва естеството на първоначалното сезиране (Ирландия);
-данните не се събират (Германия).
Държавите членки докладваха много различни данни за броя на осъдените извършители и нямаше съгласуваност в обхванатите отчетни периоди, както е показано в таблица № 8 по-долу.
Таблица № 9: Брой на осъдените извършители
|
Държава |
Период на докладване |
Брой на осъдителните присъди |
Забележки |
|
Австрия |
2021 г. |
850 |
В данните не се прави разлика между престъпления, извършени онлайн и офлайн. |
|
Белгия |
- |
- |
Не са налични данни. |
|
България |
2021 г.—2022 г. |
52 |
|
|
Хърватия |
- |
- |
Не са налични данни. |
|
Кипър |
2022 г. |
0 |
До момента няма присъди. |
|
Чехия |
1 януари 2022 г.—31 юли 2022 г. |
20 |
|
|
Дания |
2 август 2021 г.—20 януари 2023 г. |
224 |
|
|
Естония |
2021 г. |
2 |
Включва само присъди, постановени в резултат на доклади на NCMEC. |
|
Финландия |
2021 г. |
240 |
|
|
Франция |
4 август 2021 г.—3 август 2022 г. |
820 |
|
|
Германия |
- |
- |
Не са налични данни. |
|
Гърция |
2021 г.—2022 г. |
62 |
|
|
Унгария |
2021 г.—2022 г. |
126 |
|
|
Ирландия |
- |
- |
Не са налични данни. |
|
Италия |
2021 г.—2022 г. |
5835 |
В данните не се прави разлика между престъпления, извършени онлайн и офлайн. |
|
Латвия |
2021 г.—2022 г. |
33 |
В данните не се прави разлика между престъпления, извършени онлайн и офлайн. |
|
Литва |
1 януари 2021 г.—30 юни 2022 г. |
10 |
|
|
Люксембург |
2022 г. |
11 |
В данните не се прави разлика между престъпления, извършени онлайн и офлайн. |
|
Малта |
- |
- |
Не са представени/докладвани данни. |
|
Нидерландия |
2021 г. |
217 |
|
|
Полша |
От втората половина на 2021 г. до първата половина на 2022 г. / 2022 г. / първата половина на 2023 г. |
185 / 194 / 81 |
|
|
Португалия |
- |
- |
Не са представени/докладвани данни. |
|
Румъния |
- |
- |
Не са представени/докладвани данни. |
|
Словакия |
2021 г. |
10 |
|
|
Словения |
2021 г.—2022 г. |
45 |
|
|
Испания |
2022 г. |
- |
Не са налични данни. |
|
Швеция |
2022 г. |
55 |
Важно е да се отбележи, че броят на осъдителните присъди не е равен на броя на осъдените извършители, тъй като едно лице може да бъде осъдено за едно или повече престъпления, свързани с онлайн сексуално насилие над деца.
Освен това статистическите данни за присъдите, докладвани за определен период, не са непременно свързани с докладите, получени през този период (т.е. присъда през 2022 г. може например да е свързана с доклад от 2021 г. или 2020 г., а доклад от 2022 г. може да доведе до присъда едва през 2023 г. или по-късно). Този факт беше изрично подчертан от няколко държави членки в техните доклади (Ирландия, Люксембург, Швеция).
В някои случаи не са събрани статистически данни за това дали докладите за подозрителни дейности (напр. чрез NCMEC) са довели до осъдителни присъди или, с други думи, дали осъдителните присъди са резултат от информацията, предоставена от доставчик или обществена организация (Австрия, Латвия). Единствено Естония изрично потвърди, че статистическите данни показват само присъдите, постановени в резултат на докладите на NCMEC. Възможно е сигналите да са довели и до други извършители, които са разследвани и осъдени в хода на разследването (Австрия).
В повечето случаи се приема, че броят на докладваните присъди е от времето, когато делото е приключило, след като вероятно е било обжалвано в съдебната система. В една от държавите членки (Дания), в която броят е събран според последното решение, те не са окончателни, тъй като решенията може да са били обжалвани впоследствие.
В някои случаи данните, съдържащи се в националните информационни системи и докладвани от държавите членки, не правят разлика между престъпления, извършени онлайн и офлайн (Австрия, Люксембург, Латвия).
Поради това много различните доклади, представени от държавите членки, и начинът, по който се събират статистическите данни на национално равнище, не позволяват да се направи цялостен преглед на броя на извършителите, осъдени за онлайн сексуално насилие над деца в ЕС. Въз основа на наличните данни понастоящем не е възможно тези присъди да се свържат ясно с докладите, подадени от доставчиците и организациите, действащи в обществен интерес, за борба със сексуалното насилие над деца през конкретни периоди на докладване в съответствие с настоящия регламент.
2.3.Развитие на технологиите
Технологиите, които понастоящем се използват за откриване на онлайн сексуално насилие над деца, включват технологии и инструменти за откриване на „познати“ (т.е. вече открити) случаи на CSAM, „нови“ (т.е. неоткрити преди това) случаи на CSAM и случаи на установяване на контакт с деца за сексуални цели (известно като „сприятеляване с деца с цел сексуална злоупотреба“).
Примерите, дадени по-долу, включват някои от най-широко използваните инструменти и не представляват изчерпателен списък. Много от тези инструменти се предоставят на доставчиците, правоприлагащите органи и други организации, когато може да се докаже легитимен интерес. Обикновено тези инструменти се комбинират с преглед от човек, за да се осигури максимална възможна точност.
Този раздел включва и допълнителни новости в областта на технологиите, свързани с изкуствения интелект.
2.3.1. Откриване на известни случаи на CSAM
Съществуващите технологии за откриване на известни случаи на CSAM разчитат единствено на автоматичен анализ на съдържанието 14 и обикновено се основават на хеширане. Технологията за хеширане е вид „цифров отпечатък“. Тя създава уникален цифров подпис (известен като „хеш“) на дадено изображение, който след това се сравнява с подписите (хешовете) на други снимки, за да се открият копия на същото изображение. Тази технология открива само съвпадащи хешове и не „вижда“ материали, които не съвпадат с хеша. Хеш стойностите също така не са обратими и следователно не могат да се използват за пресъздаване на изображение.
Съществуват много варианти и реализации на технологията за хеширане. Инструментите, за които е установено, че са използвани за откриване на известни случаи на CSAM, включват: i) Microsoft PhotoDNA ; ii) Google CSAI Match ; iii) Apple NeuralHash + Private Set Intersection ; iv) Мета SSN++ ; v) PDQ и TMK+PDQF ; vi) MD5 Hash generator (Skype); vii) Safer (Thorn).
Най-широко използваният инструмент е Microsoft PhotoDNA, който се използва от над 150 организации 15 . PhotoDNA се използва от повече от 10 години и се отличава с висока степен на точност. Честотата на фалшивите положителни резултати се оценява на не повече от 1 на 50 милиарда въз основа на тестове 16 . Процентът на грешките на PhotoDNA остава изключително нисък поради естеството на технологията. Технологията открива единствено копия на идентифицирано по-рано съдържание. Оригиналният PhotoDNA открива известни CSAM в изображения, но е налична и версия за откриване на CSAM във видеоклипове.
Технологията непрекъснато се развива и усъвършенства. През май 2023 г. Microsoft обяви внедряването на нови възможности за съпоставяне, които позволяват по-бързо търсене (около 350 пъти по-бързо), като същевременно намаляват разходите за процеса на съпоставяне без загуба на точност. Според Microsoft новата библиотека дава възможност и за по-обстойно откриване на обърнати или завъртени изображения. Освен това Фондацията за наблюдение на интернет (IWF) съобщи, че наскоро е подобрила своята технология за хеширане 17 .
2.3.2. Откриване на нови случаи на CSAM
Технологиите, които понастоящем се използват за откриване на нови случаи на сексуално насилие над деца, включват класификатори и изкуствен интелект (ИИ), които анализират изображения и видеоклипове, за да открият модели на съдържание, които съвпадат с моделите, създадени въз основа на идентифицирани по-рано материали, съдържащи сексуално насилие над деца. Класификатор е алгоритъм, който сортира данните в етикетирани класове или категории информация чрез разпознаване на модели. Класификаторите се нуждаят от данни, на които да бъдат обучени, и тяхната точност се подобрява, колкото повече данни им се предоставят.
Инструментите за откриване на нови случаи CSAM включват: i) Safer (Thorn); ii) Content Safety API на Google ; iii) технологията за ИИ на Facebook 18 ; iv) Amazon Rekognition ; v) ИИ на Hive за визуално съдържание .
Изследванията показват, че автоматизираните инструменти и системи, като например класификатори, са най-полезните средства за откриване на случаи на CSAM 19 . Понастоящем степента на точност при откриване на нови CSAM е значително над 90 %. Например Thorn посочва, че неговият класификатор на CSAM може да бъде настроен на 99 % прецизност (както за познати, така и за нови CSAM), което означава 0,1 % фалшиви положителни резултати 20 . Тези показатели вероятно ще се подобрят с увеличаване на употребата и обратната връзка.
2.3.3 Откриване на случаи на сприятеляване с деца с цел сексуална злоупотреба
Инструментите за разкриване на случаи на сприятеляване с деца с цел сексуална злоупотреба (установяване на контакт с деца за сексуални цели) в текстови комуникации използват технологии единствено за откриване на модели, които сочат към възможни конкретни елементи, водещи към подозрение за онлайн сексуално насилие над деца, без да могат да извеждат същността на съдържанието. Техниката се прилага за текстови чат разговори. Разговорите се оценяват по редица характеристики и им се приписва обща оценка на вероятността, която показва приблизителната вероятност разговорът да представлява сприятеляване с деца с цел сексуална злоупотреба. Тези оценки служат като определящ фактор, зададен от отделните компании, за маркиране на разговорите за допълнителен преглед от човек.
Инструментите, използвани за операции по откриване на текст, включват: i) проект Artemis на Microsoft 21 ; ii) Amazon Rekognition ; iii) технологията на Twitch за изкуствен интелект Spirit AI (базирана на NLP, текстови класификатори) 22 ; iv) вътрешно изграден класификатор за „оценяване“ с машинно обучение на Meta (съчетаващ вътрешна технология за анализ на езика с метаданни); v) инструмент за филтриране на чат на Roblox 23 ; vi) техническо решение на Thorn и Tech Coalition, базирано на машинно обучение и класификатори 24 .
Както и при идентифицирането на нови случаи CSAM, идентифицирането на съдържанието, представляващо сприятеляване с деца с цел сексуална злоупотреба, изисква обучение на технологията с такова съдържание. Достъпът до такива данни за обучение остава най-голямото предизвикателство пред разработването и усъвършенстването на такива технологии.
Thorn, в партньорство с Tech Coalition и нейните членове, стартира нова инициатива, насочена към разработване на техническо решение за идентифициране и справяне с опитите за онлайн сприятеляване с деца с цел сексуална злоупотреба, което ще бъде полезно и използваемо за редица платформи, предлагащи текстови комуникации. Тя ще се основава на работата на екипа на Thorn по класификатор, базиран на обработка на естествен език (NLP), или модел за машинно самообучение, който открива и категоризира кога онлайн съдържание или поведение попада в определени „класове“, свързани със сприятеляване с деца с цел сексуална злоупотреба (като излагане на сексуални материали или търсене на лична среща с ненавършило пълнолетие лице), както и обща оценка за това доколко даден разговор е свързан със сприятеляване с деца с цел сексуална злоупотреба 25 .
2.3.4. Нови предизвикателства, породени от чатботовете с изкуствен интелект и генераторите на изкуство/изображения
Разработването и пускането на чатботове с изкуствен интелект, като ChatGPT (голям езиков модел (LLM), разработен от OpenAI ), и генератори на изкуство/изображения, като DALL-E 26 и Midjourney 27 , предизвика значително обществено внимание, главно поради способността им бързо да предоставят готови за използване отговори или да създават реалистични изображения, които могат да се прилагат в огромен брой различни контексти. Тези нови инструменти бързо придобиха широка популярност и употреба. Водещите продукти се финансират и разработват от технологични компании, включително Microsoft и Google, а новите технологии се усъвършенстват и редовно се пускат подобрени версии.
Макар че тези технологии предлагат големи възможности както за бизнеса, така и за обществото, те могат да представляват и риск за тях. Опасенията, свързани с такива продукти, включват това, че извършителите на престъпления могат да ги използват за свои противозаконни цели, включително за сексуална експлоатация на деца.
Както съобщава Европол, въпреки че цялата информация, която ChatGPT предоставя, е свободно достъпна в интернет, инструментът значително улеснява недобронамерените лица „да научат за огромен брой потенциални области на престъпления без предварителни познания, като се започне от това как да се проникне в жилище и се стигне до тероризъм, киберпрестъпления и сексуално насилие над деца“. Това дава възможност на тези лица да разберат по-добре и впоследствие да извършат тези видове престъпления 28 .
Правилата на OpenAI ограничават възможностите на ChatGPT да реагира на подкани за сексуално съдържание, съдържание, изпълнено с омраза, насилие или съдържание, насърчаващо самонараняване. Въпреки това тези предпазни мерки могат да бъдат заобиколени сравнително лесно чрез инженеринг на подканите 29 . Неотдавнашното внедряване на чатботове с изкуствен интелект (например от Snapchat) показва как те могат да преминат границата на обидни или опасни взаимодействия, включително сексуално насилие над деца 30 . Тъй като все повече компании обмислят да изпробват чатботове с изкуствен интелект на своите платформи (Instagram, евентуално WhatsApp и Messenger), трябва внимателно да се прецени въздействието върху потребителите, особено върху децата и младите хора.
Тези нови инструменти също така изискват гаранции, за да не се злоупотребява с тях за създаване на генерирани от изкуствен интелект дълбоко фалшиви материали за сексуално насилие над деца 31 . С темповете на развитие на инструментите за изкуствен интелект вероятно скоро ще стане значително по-лесно да се генерират изображения, които са неразличими от действителните изображения. Това поставя няколко ключови предизвикателства в борбата срещу CSA, тъй като способността на правоприлагащите органи да разследват и преследват случаи на CSAM и да идентифицират реални жертви може да бъде сериозно затруднена, ако силно реалистичните компютърно генерирани CSAM добият широко разпространение онлайн 32 .
Проучванията показват, че достъпът до материали, свързани със сексуално насилие над деца, често е първата стъпка към практическо насилие, независимо дали материалите изобразяват реално или реалистично изглеждащо насилие и експлоатация 33 . Ето защо ограничаването на разпространението на генерирани от изкуствен интелект дълбоко фалшиви материали за сексуално насилие над деца е от решаващо значение като форма на превенция -по отношение на извършителите. Друга основна причина за безпокойство е фактът, че лицата, извършващи онлайн сприятеляване с деца с цел сексуална злоупотреба, могат да използват усъвършенстваните възможности на ChatGPT за генериране на текст в комбинация със съществуващия безплатен изкуствен интелект за генериране на изображения въз основа на текст, за да генерират бързо и лесно съдържание за фалшиви профили и правдоподобни разговори с млади хора, за да атакуват деца онлайн. „Въпреки че ChatGPT сам по себе си няма да насърчи хората да извършват онлайн сприятеляване с деца с цел сексуална злоупотреба, той позволява на всеки да входира разговорите, които води с деца онлайн, чрез технология за изкуствен интелект, за да стане по-убедителен и надежден за жертвите си, подпомагайки манипулацията“ 34 . Генеративният изкуствен интелект може да има потенциала да допринесе за увеличаване на броя на случаите на онлайн сприятеляване с деца с цел сексуална злоупотреба и дори да „автоматизира сприятеляването с деца с цел сексуална злоупотреба в голям мащаб“ 35 .
3.ЗАКЛЮЧЕНИЯ
Мерки за изпълнение, предприети от доставчиците
Докладите на доставчиците показват, че те са извършвали откриване и докладване на сексуално насилие над деца онлайн съгласно Временния регламент, като са използвали различни технологии и процеси за откриване. Всички доставчици съобщават, че изпращат тези доклади на NCMEC. По отношение на вида и обема на личните данни, обработвани от доставчиците, докладването показа, че се събират различни данни за трафика и различно ниво на подробност на обема на обработваните данни, което не позволява на Комисията да получи единни данни на равнище ЕС, свързани с доставчиците, за въпросния период на докладване (от юли 2021 г. до 31 януари 2023 г.).
Доставчиците не са посочили броя и съотношението на грешките (фалшивите положителни резултати) на различните използвани технологии, разпределени по използвани технологии, което показва, че те използват многопластов подход за откриване на случаи на онлайн CSA, допълнен от преглед от човек. В същото време доставчиците въвеждат широк набор от мерки и гаранции, за да ограничат и намалят процента на грешки при откриването. Освен това доставчиците докладват, че са въвели политики за запазване на данни и мерки за защита на данните, определени в техните политики или декларации за поверителност и подкрепени от стандартни за сектора мерки и гаранции за защита на данните.
Мерки за изпълнение, предприети от държавите членки
Временният регламент също така задължава държавите членки (съгласно член 8 от същия) да предоставят основни статистически данни за случаите на онлайн сексуално насилие над деца, които са открити и докладвани на техните правоприлагащи органи, за броя на идентифицираните деца жертви и за броя на осъдените извършители. Тъй като държавите членки предоставиха предимно данни за различни периоди на докладване, не беше възможно въз основа на предоставените данни да се изчисли общият брой на получените на равнището на ЕС доклади за откритите случаи на онлайн сексуално насилие над деца. Освен това получените и докладвани от държавите членки доклади могат да се различават от докладите, които могат да бъдат използвани за предприемане на действия, т.е. от докладите, които могат да бъдат използвани за разследвания, или от броя на докладваните случаи. Само няколко държави членки посочиха вида на доставчиците, при чиито услуги е установено онлайн сексуално насилие над деца. В някои случаи в националните статистически данни не се прави разграничение между престъпленията, разследвани въз основа на доклади, подадени от доставчици на услуги и други организации, действащи в обществен интерес срещу сексуалното насилие над деца, и престъпленията, разследвани въз основа на други доклади.
Съответно от получените доклади не беше възможно да се извлече общият брой на децата, идентифицирани като жертви на онлайн сексуално насилие над деца в ЕС, с разбивка по пол. Причините включват например: докладване на данни за различни периоди; различни възрастови граници, използвани за определяне на децата, жертви на онлайн CSA; несъбиране на статистически данни с такава степен на подробност на национално равнище поради технически или други ограничения; липса на разграничение между деца, жертви на онлайн или офлайн CSA, и т.н. Някои държави членки включват в статистическите си данни и деца, които са създали самостоятелен материал. По-важното е, че в статистическите данни често не се прави разграничение между жертвите, идентифицирани въз основа на доклади, подадени от доставчици на услуги и организации, действащи в обществен интерес срещу сексуалното насилие над деца, съгласно Регламента, и жертвите, идентифицирани въз основа на други причини и средства.
Прегледът на броя на осъдените извършители на престъпления също е фрагментарен. В някои случаи такива данни не са налични, тъй като в базите данни не е регистриран източникът на първоначалното сезиране и по този начин в данните не се прави разлика между извършителите, осъдени въз основа на доклади, подадени съгласно Регламента, и други доклади. В някои случаи в данните, съдържащи се в националните информационни системи, също така не се прави разлика между престъпления, извършени онлайн и офлайн. Освен това статистическите данни за присъдите, докладвани за определен период, не са непременно свързани с докладите, получени през този период, а могат да се отнасят до доклади от по-ранни периоди. Събраните статистически данни за броя на осъдителните присъди също може да се различават от броя на осъдените извършители (тъй като един извършител може да има повече от една осъдителна присъда).
Поради разнородните статистически данни, предоставени от държавите членки, които, изглежда, невинаги събират данните систематично и по подходящ начин, както и поради всички горепосочени фактори, не е възможно да се направи цялостен преглед на получените доклади за онлайн CSA, на броя на децата, идентифицирани като жертви на това престъпление, или на броя на извършителите, осъдени на равнище ЕС, както изисква Регламентът. Фактът, че за повечето държави членки, изглежда, е налице значително несъответствие между броя на докладите, които NCMEC посочва като изпратени до държавата членка, и броя на докладите, които държавата членка посочва като получени, навежда на заключението, че събирането на данни и докладването не са пълни. Някои държави членки потвърдиха, че техните компетентни органи са в процес на структурни промени или реорганизация, свързани със създаването на нови отдели, отговарящи за разследването на престъпления, свързани със сексуално насилие над деца в интернет. В някои държави членки се въвеждат и нови ИТ системи, а от националните органи се изисква да променят процедурите си за регистрация и статистиката. Това би трябвало да създаде благоприятни условия за получаване на по-точни статистически данни от държавите членки в бъдеще. Във всеки случай, ако е необходимо, Комисията ще използва правомощията си съгласно Договорите, за да гарантира, че държавите членки изпълняват задълженията си за докладване съгласно Временния регламент.
Общи съображения
Като цяло настоящият доклад показва значителни разлики в докладването на данните, свързани с борбата с онлайн CSA съгласно Временния регламент, както от доставчиците, така и от държавите членки. По-голямата стандартизация на наличните данни и тяхното докладване, например както е предвидено в предложението за регламент за предотвратяване и борба със сексуалното насилие над деца 36 , би допринесла за получаването на по-добра представа за съответните дейности в борбата срещу това престъпление. Изглежда, че са необходими допълнителни усилия от страна на доставчиците и държавите членки, за да се гарантира събирането и докладването на данни в съответствие с изискванията на Временния регламент.
Наличните данни показват, че при сегашната система за доброволно откриване и докладване е възможно след проверка от човек да се окаже, че материали, които автоматично са маркирани като възможни случаи на CSAM, не са CSAM. Това може да се дължи на липсата на общ набор от хешове и други индикатори за откриване на CSAM, които са потвърдени като незаконни в ЕС, или на различни правни стандарти в различните юрисдикции, особено между ЕС и САЩ, по-специално по отношение на съответните дефиниции. Данните показват също така големи разлики в броя на исканията за преразглеждане и процента на успеваемост на преразглеждането, поради което не е възможно да се направят изводи предвид липсата на информация за обхвата на исканията за преразглеждане и причините за възстановяване.
Що се отнася до изискванията по член 9, параграф 2 относно условията за обработване, предоставената информация показва, че използваните технологии отговарят на определението за технологични приложения, създадени единствено за откриване и премахване на онлайн материали, съдържащи сексуално насилие над деца, и за докладването им на правоприлагащите органи и на организациите, действащи в обществен интерес срещу сексуалното насилие над деца. Не беше предоставена информация относно това дали използването на технологиите е в съответствие със съвременните постижения и е извършено по начин, който най-малко нарушава неприкосновеността на личния живот, както и дали са били извършени предварителна оценка на въздействието върху защитата на данните съгласно член 35 от Регламент (ЕС) 2016/679 и процедура по предварителна консултация съгласно член 36 от същия регламент.
Що се отнася до пропорционалността на Регламента, основният въпрос е дали Временният регламент постига баланса, който законодателят на ЕС се е опитал да постигне, от една страна, между постигането на целта от общ интерес за ефективна борба с въпросните изключително тежки престъпления и необходимостта от защита на основните права на децата (достойнство, неприкосновеност, забрана на нечовешко или унизително отношение, личен живот, права на детето) и, от друга страна, гарантирането на основните права на ползвателите на обхванатите услуги (неприкосновеност на личния живот, защита на личните данни, свобода на изразяване на мнение, ефективни правни средства за защита). Наличните данни са недостатъчни, за да се направят окончателни заключения в това отношение. Не е възможно, а и не би било целесъобразно да се прилага числов стандарт при оценката на тази пропорционалност по отношение на броя на спасените деца, като се има предвид значителното отрицателно въздействие на сексуалното насилие върху живота и правата на детето. Въпреки това, в светлината на гореизложеното, няма индикации, че дерогацията не е пропорционална.
Въпреки недостатъците на наличните данни, които не позволяват да се добие представа за използването на доброволните доклади в значителен брой държави членки, от наличните данни става ясно, че през периода на докладване са идентифицирани хиляди деца, постановени са над две хиляди осъдителни присъди и милиони изображения и видеоклипове са изтеглени от обращение, което намалява вторичната виктимизация. Следователно може да се заключи, че доброволното докладване е допринесло значително за защитата на голям брой деца, включително от продължаващо насилие, и изглежда, че Временният регламент е ефективен.
Twitter представи своя доклад, преди да бъде преименуван; в останалата част от настоящия доклад той ще бъде наричан „X“.
Meta и X не посочват изрично конкретния член.
Meta и X не посочват изрично конкретния член.
Доставчиците, посочени в скоби, са тези, които конкретно са докладвали за конкретните мерки. Ако някои доставчици не са включени в списъка, това не означава, че не прилагат тази мярка, а само че не са я посочили в доклада си.
Политика за поверителност на X, „4. Колко дълго съхраняваме информацията“, достъпна на адрес: https://twitter.com/bg/privacy.
Доставчиците, посочени в скоби, са тези, които са докладвали за конкретните мерки. Ако някои доставчици не са включени в списъка, това не означава, че не прилагат тази мярка, а само че не са я посочили в доклада си.
Информацията за организациите, действащи в обществен интерес, на които доставчиците на услуги докладват онлайн сексуално насилие над деца съгласно Регламента, е публикувана на адрес https://home-affairs.ec.europa.eu/policies/internal-security/child-sexual-abuse/legal-framework-protect-children_en в съответствие със задълженията на Комисията по член 8, параграф 2 от Временния регламент.
Доклад, представен от Германия в съответствие с член 8 от Регламент (ЕС) 2021/1232, получен на 18 октомври 2022 г. NCMEC публикува всички данни за получените доклади, свързани с държавите — членки на ЕС, включително Германия, в своите доклади на CyberTipline по държави. Вж.: NCMEC, 2021 CyberTipline Reports by Country CyberTipline Reports by Country (Доклади на CyberTipline по държави за 2021 г.) , осъществен достъп през юли 2023 г.; NCMEC, 2022 CyberTipline Reports by Country (Доклади на CyberTipline по държави за 2022 г.), осъществен достъп през юли 2023 г.
https://www.bka.de/SharedDocs/Kurzmeldungen/DE/Kurzmeldungen/230623_Mindestspeicherfristen_IP-Adressen.html
NCMEC, 2021 CyberTipline , според справка от ноември 2023 г.
Данните на NCMEC са достъпни тук .
Вж. например списък с примерни случаи в ЕС, които са започнали благодарение на доброволното докладване от страна на дружествата, в оценката на въздействието , придружаваща предложението за регламент за предотвратяване и борба със сексуалното насилие над деца (вж. по-специално приложение 7).
Доставчиците не смятат метаданните за ефективен инструмент за откриване на CSAM. Вж. по-специално стр. 10—11 от Pfefferkorn, R., Stanford Internet Observatory, Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers, 9 септември 2021 г.
Microsoft, Digital Crimes Unit .
Фондация за наблюдение на интернет (IWF), Годишен доклад за 2022 г. , стр. 129—133.
Вж. тук и тук за повече информация относно инструмента на Facebook за проактивно откриване на детска голота и неизвестно досега съдържание, използващо деца, с помощта на изкуствен интелект и машинно обучение.
Pfefferkorn, R.: Content-Oblivious Trust and Safety Techniques: Results from a Survey of Online Service Providers, Journal of Online Trust and Safety, февруари 2022 г., стр. 1—38.
Проектът Artemis на Microsoft е разработен в сътрудничество с The Meet Group, Roblox, Kik и Thorn.
За повече информация вж.: https://safety.twitch.tv/s/article/Our-Work-to-Combat-Online-Grooming?language=en_US .
Roblox филтрира публикациите и чатовете на играчи на възраст 12 години и по-малки за неподходящо съдържание и за предотвратяване на публикуването на лична информация, например домашни адреси. Тази система за филтриране обхваща всички области на комуникация в Roblox — публични и частни. Roblox, Safety Features: Chat, Privacy & Filtering , според справка от юли 2023 г.
Tech Coalition, New Technology to Help Companies Keep Young People Safe (Нови технологии, подпомагащи компаниите в опазването на младите хора) , 20 юни 2023 г.
Tech Coalition, New Technology to Help Companies Keep Young People Safe (Нови технологии, подпомагащи компаниите в опазването на младите хора) , 20 юни 2023 г.
DALL-E е система за изкуствен интелект, която може да създава реалистични изображения и произведения на изкуството от описание на естествен език.
Midjourney е генеративна програма и услуга за изкуствен интелект, която генерира изображения от описания на естествен език.
Европол, ChatGPT — the impact of Large Language Models on Law Enforcement (ChatGPT — въздействието, което големите езикови модели (LLM) оказват върху правоприлагането) , 2023 г., ISBN 978-92-95220-57-7, стр. 7.
Swanson, S. M., ChatGPT Generated Child Sex Abuse When Asked to Write BDSM Scenarios , Vice, 6 март 2023 г.; Mitchell, A., ChatGPT gives sick child sex abuse answer, breaking its rules, New York Post, 24 юли 2023 г.; Европол, ChatGPT — the impact of Large Language Models on Law Enforcement (ChatGPT — въздействието, което големите езикови модели (LLM) оказват върху правоприлагането) , 2023 г., ISBN 978-92-95220-57-7, стр. 5.
Fowler, G.A., Snapchat tried to make a safe AI. It chats with me about booze and sex , The Washington Post, 14 март 2023 г.; Vincent, J., Instagram is apparently testing an AI chatbot that lets you choose from 30 personalities , The Verge, 7 юли 2023 г.
Crawford, A., Smith, T., Illegal trade in AI child sex abuse images exposed , BBC, 27 юни 2023 г.
Thiel, D., Stroebel, M., and Portnoff, R. (2023 г.). Generative ML and CSAM: Implications and Mitigations (Генеративно машинно самообучение и CSAM: последици и смекчаващи мерки) . Stanford Digital Repository. Достъпна на https://purl.stanford.edu/jv206yg3793 . https://doi.org/10.25740/jv206yg3793 . Стр. 2.
Protect Children, Protect Children’s research in the dark web is revealing unprecedented data on CSAM users (Проучванията на Protect Children в тъмната мрежа разкриват безпрецедентни данни за потребителите на CSAM) , 6 юни 2021 г.; RAINN, What is Child Sexual Abuse Material (CSAM) (Какво е материал, съдържащ сексуално насилие над деца (CSAM) , 25 август 2022 г.
Breck Foundation, Is artificial intelligence putting children at risk? (Излага ли изкуственият интелект на риск децата?) , 9 февруари 2023 г., актуализирана на 3 април 2023 г.
Butler, J., AI tools could be used by predators to ‘automate child grooming’, eSafety commissioner warns (Комисарят по електронната безопасност предупреждава, че хищниците могат да използват инструменти с изкуствен интелект, за да „автоматизират сприятеляването с деца с цел сексуална злоупотреба“.) , The Guardian, 19 май 2023 г.
Предложение за регламент на Европейския парламент и на Съвета за определяне на правила за предотвратяване и борба със сексуалното насилие над деца, COM/2022/209 final .