EUROPA-KOMMISSIONEN
Bruxelles, den 14.2.2024
COM(2024) 64 final
RAPPORT FRA KOMMISSIONEN TIL EUROPA-PARLAMENTET OG RÅDET
om gennemførelsen af forordning (EU) 2021/784 om håndtering af udbredelsen af terrorrelateret indhold online
{SWD(2024) 36 final}
1.RESUMÉ
Med forordning (EU) 2021/784 om håndtering af udbredelsen af terrorrelateret indhold online får medlemsstaterne en retlig ramme på europæisk plan for at beskytte borgerne mod eksponering for terrorrelateret materiale online. Forordningen har til formål at sikre et velfungerende digitalt indre marked ved at imødegå misbrug af hostingtjenester til udbredelse af terrorrelateret indhold online til offentligheden. Med forordningen skal det forhindres, at terrorister udnytter internettet til at sprede deres budskaber med henblik på at intimidere, radikalisere, rekruttere og lette terrorangreb. Dette er af særlig relevans i den nuværende situation præget af konflikter og ustabilitet, som har indvirkning på Europas sikkerhed. Ruslands angrebskrig mod Ukraine og Hamas' terrorangreb mod Israel den 7. oktober 2023 resulterede i en stigning i udbredelsen af terrorrelateret indhold online.
Den lovgivningsmæssige ramme for bekæmpelse af ulovligt onlineindhold blev yderligere styrket med ikrafttrædelsen af forordningen om digitale tjenester den 16. november 2022. Forordningen om digitale tjenester regulerer forpligtelserne for digitale tjenester, der fungerer som formidlere i deres rolle som bindeled mellem forbrugere på den ene side og tjenester og indhold på den anden side, således at den beskytter brugere online bedre og bidrager til et mere sikkert onlinemiljø.
Forordningen om håndtering af udbredelsen af terrorrelateret indhold online trådte i kraft den 7. juni 2022. I henhold til forordningens artikel 22 forelægger Kommissionen en rapport for Europa-Parlamentet og Rådet om anvendelsen af forordningen ("gennemførelsesrapport").
Denne gennemførelsesrapport er baseret på en vurdering af oplysninger fra medlemsstaterne, Europol og hostingtjenesteyderne i overensstemmelse med de forpligtelser, der er fastsat i forordningen. På grundlag af denne vurdering kan de vigtigste resultater vedrørende forordningens gennemførelse sammenfattes som følger:
·Pr. 31. december 2023 har 23 medlemsstater udpeget kompetente myndigheder med beføjelse til at udstede påbud om fjernelse som fastsat i forordningen 1 . Listen over medlemsstaternes myndigheder findes på Kommissionens websted og ajourføres regelmæssigt. 2
·Pr. 31. december 2023 har Kommissionen modtaget oplysninger om mindst 349 påbud om fjernelse af terrorrelateret indhold udstedt af de kompetente myndigheder i seks medlemsstater (Spanien, Rumænien, Frankrig, Tyskland Tjekkiet og Østrig), hvilket i de fleste tilfælde har resulteret i hurtige opfølgende foranstaltninger fra hostingtjenesteydernes side for at fjerne eller deaktivere adgangen til terrorrelateret indhold. Dette viser, at de værktøjer, der er fastsat i forordningen, begynder at blive anvendt og på vellykket vis sikrer hostingtjenesteydernes hurtige fjernelse af terrorrelateret indhold, jf. artikel 3, stk. 3. Ifølge de oplysninger, som Kommissionen har modtaget, er disse påbud om fjernelse ikke blevet anfægtet.
·Der foregår en god koordinering mellem medlemsstaternes kompetente myndigheder og Europol, navnlig Europols internetindberetningsenhed (EU IRU), i forbindelse med anvendelsen af forordningen, navnlig hvad angår behandlingen af påbud om fjernelse.
·Europols værktøj "PERCI" 3 blev operationelt den 3. juli 2023. Nogle medlemsstater har anvendt værktøjet med succes til at fremsende både påbud om fjernelse og indberetninger 4 . Spanske, tyske, østrigske, franske og tjekkiske kompetente myndigheder har anvendt værktøjet til at fremsende påbud om fjernelse. Mellem lanceringen af PERCI den 3. juli og den 31. december 2023 er der samlet set blevet behandlet mindst 14 615 indberetninger i PERCI.
·Selv om forordningen ikke indeholder særlige foranstaltninger vedrørende indberetninger, er hostingtjenesteydernes reaktionsevne over for indberetninger ifølge de oplysninger, som Kommissionen har modtaget, blevet styrket siden forordningens ikrafttræden.
·Ud fra Kommissionens viden er der pr. 31. december 2023 ikke blevet konstateret nogen hostingtjenesteyder, der har været eksponeret for terrorrelateret indhold som defineret i forordningens artikel 5, stk. 4. En sådan konstatering er en forudsætning for anvendelsen af de specifikke foranstaltninger, der er beskrevet i nævnte artikel. Ikke desto mindre har hostingtjenesteyderne ifølge de gennemsigtighedsrapporter, som hostingtjenesteyderne har fremlagt, truffet foranstaltninger for at imødegå misbrug af deres tjenester til udbredelse af terrorrelateret indhold, navnlig ved at vedtage specifikke vilkår og betingelser og anvende andre bestemmelser og foranstaltninger til begrænsning af udbredelsen af terrorrelateret indhold.
·Hostingtjenesteyderne har også indført foranstaltninger til underretning om overhængende livsfare, jf. forordningens artikel 14, stk. 5.
For så vidt angår mindre hostingtjenesteydere iværksatte Kommissionen i 2021 en indkaldelse af forslag for at støtte disse i gennemførelsen af forordningen. Kommissionen tildelte i 2022 tre projekter (se afsnit 4.8.), som påbegyndte deres arbejde i 2023 og allerede er fremkommet med resultater med hensyn til at yde støtte til mindre virksomheder med henblik på at overholde forordningen.
Kommissionen indledte overtrædelsesprocedurer mod 22 medlemsstater for manglende udpegelse af kompetente myndigheder i henhold til forordningens artikel 12, stk. 1, og manglende overholdelse af deres forpligtelser i henhold til artikel 12, stk. 2, artikel 12, stk. 3, og artikel 18, stk. 1, ved den 26. januar 2023 at udsende åbningsskrivelser 5 . Efter indledningen af disse overtrædelsesprocedurer steg antallet af medlemsstater, der underretter de kompetente myndigheder med ansvar for håndteringen af påbud om fjernelse, som afspejlet i de oplysninger, der er offentliggjort i onlineregistret 6 . Derudover var 11 af de overtrædelsessager, der blev indledt i januar 2023, afsluttet pr. 21. december 2023 7 .
På grundlag af de oplysninger, der er modtaget fra medlemsstaterne og Europol og stillet til rådighed af hostingtjenesteyderne, vurderede Kommissionen, at anvendelsen af forordningen har haft en positiv indvirkning med hensyn til at begrænse udbredelsen af terrorrelateret indhold online.
2.BAGGRUND
Forordningen trådte i kraft den 7. juni 2022. Den har til formål at sikre et velfungerende digitalt indre marked ved at imødegå misbrug af hostingtjenester til udbredelse af terrorrelateret indhold online til offentligheden. Den giver medlemsstaterne målrettede værktøjer i form af påbud om fjernelse til håndtering af udbredelsen af terrorrelateret onlineindhold og giver medlemsstaterne mulighed for at anmode hostingtjenesteydere i alle størrelser om at træffe specifikke foranstaltninger for at beskytte deres tjenester mod at blive udnyttet af terroraktører, hvis de eksponeres for terrorrelateret indhold.
Med ikrafttrædelsen af forordningen om digitale tjenester den 16. november 2022 udvides de reguleringsmæssige rammer desuden gennem horisontal lovgivning med et bredt anvendelsesområde, der har til formål at sørge for et mere sikkert digitalt miljø for forbrugerne, effektive foranstaltninger til bekæmpelse af ulovligt indhold og mere gennemsigtige betingelser for levering af tjenester. Forordningen om digitale tjenester giver Kommissionen omfattende tilsyns-, undersøgelses- og håndhævelsesbeføjelser til at træffe foranstaltninger rettet mod meget store onlineplatforme og søgemaskiner. Disse foranstaltninger omfatter anmodninger om oplysninger og undersøgelser af virksomheders indholdsmoderation med mulighed for at pålægge bøder.
Forordningen om digitale tjenester gør det muligt at bekæmpe alle former for ulovligt indhold og giver Kommissionen mulighed for at anmode platformene om at fremlægge data for at påvise, at de lever op til deres egne forpligtelser vedrørende fjernelse af indhold. Forordningen om terrorrelateret onlineindhold udgør et endnu mere effektivt redskab over for denne specifikke form for ulovligt indhold med en retlig forpligtelse til at fjerne indhold inden for en time fra modtagelsen af et påbud om fjernelse og effektive sanktionsmekanismer.
Som fremhævet af Europol i rapporterne om situationen og tendenserne med hensyn til terrorisme (TE-SAT) 8 , der er blevet offentliggjort i de seneste år, udnytter terrorister i høj grad internettet til at sprede deres budskaber med henblik på at intimidere, radikalisere, rekruttere og lette terrorangreb. Selv om frivillige foranstaltninger og ikkebindende henstillinger har båret frugt med hensyn til at reducere tilgængeligheden af terrorrelateret indhold online, betød begrænsninger, herunder det lille antal hostingtjenesteydere, der indfører frivillige mekanismer 9 , samt fragmenteringen af procedurereglerne på tværs af medlemsstaterne, at effektiviteten af samarbejdet mellem medlemsstaterne og hostingtjenesteyderne var beskeden. Det var således nødvendigt at indføre lovgivningsmæssige foranstaltninger 10 . Derfor er en effektiv anvendelse af forordningen afgørende for at håndtere udbredelsen af terrorrelateret indhold online. Kommissionen har støttet de nationale kompetente myndigheder proaktivt i denne proces.
I henhold til forordningens artikel 22 havde Kommissionen pligt til at forelægge en rapport om anvendelsen af forordningen ("gennemførelsesrapport") for Europa-Parlamentet og Rådet senest den 7. juni 2023 på grundlag af oplysninger fra medlemsstaterne, som til dels byggede på oplysninger fra hostingtjenesteyderne (artikel 21). Den forsinkede forelæggelse af gennemførelsesrapporten skyldes på den ene side medlemsstaternes og hostingtjenesteydernes sene fremsendelse af centrale oplysninger til Kommissionen. På den anden side blev det anset for vigtigt i gennemførelsesrapporten at medtage anvendelsen af PERCI, som blev operationel den 3. juli 2023, og som siden da er blevet anvendt til behandling af påbud om fjernelse i henhold til forordningen.
Denne gennemførelsesrapport har udelukkende til formål at give et faktuelt overblik over relevante forhold vedrørende forordningens anvendelse. Den indeholder ingen fortolkninger af forordningen og giver ikke udtryk for nogen holdning til fortolkninger eller andre foranstaltninger, der er truffet i henhold til forordningen.
I overensstemmelse med forordningens artikel 21, stk. 2, skulle Kommissionen inden den samme dato (7. juni 2023) fastlægge et detaljeret program for overvågning af forordningens output, resultater og virkninger. Mere specifikt bør overvågningsprogrammet fastlægge de indikatorer, midler og intervaller, der skal anvendes ved indsamling af data og anden nødvendig dokumentation. Et sådant program er fastlagt i det ledsagende arbejdsdokument fra Kommissionens tjenestegrene. Programmet præciserer de foranstaltninger, som Kommissionen og medlemsstaterne skal træffe for at indsamle og analysere data og anden dokumentation for at overvåge forordningens fremskridt og virkninger og for at foretage en evaluering af forordningen i henhold til artikel 23.
3.RAPPORTENS GENSTAND OG METODE
Formålet med denne rapport er at vurdere anvendelsen af forordningen og dens hidtidige virkning med hensyn til at begrænse udbredelsen af terrorrelateret indhold online. Dette omfatter foranstaltninger truffet af medlemsstaterne og hostingtjenesteyderne, herunder ændringer af deres servicevilkår og fællesskabsretningslinjer og deres overholdelse af og reaktionsevne over for påbud om fjernelse.
Til dette formål indsamlede Kommissionen oplysninger fra medlemsstaterne, Europols internetindberetningsenhed (EU IRU) og hostingtjenesteydere, herunder oplysninger indeholdt i gennemsigtigheds- og overvågningsrapporterne i henhold til forordningens artikel 7, 8 og 21. Der blev modtaget oplysninger i henhold til artikel 8 og 21 fra 18 medlemsstater. Der blev indsamlet oplysninger om de foranstaltninger, som hostingtjenesteyderne har truffet, gennem deres årlige gennemsigtighedsrapporter, Europol og via direkte frivillig kommunikation med Kommissionens tjenestegrene. Denne gennemførelsesrapport indeholder de oplysninger, som Kommissionen har modtaget frem til den 31. december 2023.
Forpligtelser vedrørende overvågning og gennemsigtighed (artikel 21, 7 og 8)
Til udarbejdelsen af gennemførelsesrapporten er medlemsstaterne i henhold til forordningens artikel 21, stk. 1, forpligtede til at indsamle oplysninger fra deres kompetente myndigheder og hostingtjenesteydere under deres jurisdiktion og til senest den 31. marts hvert år at sende Kommissionen disse oplysninger. Dette omfatter oplysninger om de foranstaltninger, de i det foregående kalenderår har truffet i overensstemmelse med forordningen. Artikel 21, stk. 1, henviser til den type oplysninger, som medlemsstaterne bør indsamle om foranstaltninger, der er truffet for at overholde forordningen, herunder oplysninger om påbud om fjernelse, antal anmodninger om adgang til indhold opbevaret med henblik på efterforskning, klageprocedurer og administrativ og retslig prøvelse.
I henhold til forordningens artikel 7, stk. 1, skal hostingtjenesteyderne i deres vilkår og betingelser klart angive deres politik for håndtering af udbredelsen af terrorrelateret indhold, herunder, hvor det er relevant, en meningsfuld redegørelse for, hvordan specifikke foranstaltninger fungerer.
Desuden skal en hostingtjenesteyder, der har truffet foranstaltninger til at håndtere udbredelsen af terrorrelateret indhold, eller som i et givet kalenderår har været forpligtet til at træffe foranstaltninger i henhold til forordningen, offentliggøre en gennemsigtighedsrapport om disse foranstaltninger for det pågældende år, jf. forordningens artikel 7, stk. 2. Denne rapport bør offentliggøres inden den 1. marts det følgende år.
I forordningens artikel 7, stk. 3, fastsættes de oplysninger, som disse gennemsigtighedsrapporter som minimum bør indeholde, såsom foranstaltninger, der er truffet til identifikation og deaktivering af adgang til terrorrelateret indhold, antallet af indslag, der er fjernet og/eller genindsat, og resultatet af klager.
I henhold til forordningens artikel 8 skal medlemsstaternes udpegede kompetente myndigheder offentliggøre årlige gennemsigtighedsrapporter om deres aktiviteter i henhold til forordningen. I artikel 8, stk. 1, henvises der til de oplysninger, som disse rapporter som minimum bør indeholde 11 .
Pr. 31. december 2023 har 18 medlemsstater sendt oplysninger til Kommissionen om de foranstaltninger, de har truffet i overensstemmelse med forordningen, mens 23 medlemsstater har udpeget myndigheder med beføjelse til at udstede påbud om fjernelse som fastsat i forordningen.
4.SÆRLIGE PUNKTER TIL VURDERING
4.1. PÅBUD OM FJERNELSE (artikel 3)
Pr. 31. december 2023 var Kommissionen samlet set blevet underrettet om mindst 349 påbud om fjernelse sendt til Telegram, Meta, Justpaste.it, TikTok, DATA ROOM S.R.L., FLOKINET S.R.L., Archive.org, Soundsky, X, Jumpshare.com, Krakenfiles.com, Top4Top.net og Catbox af de kompetente myndigheder i Spanien, Rumænien, Frankrig, Tyskland, Østrig og Tjekkiet.
Den kompetente spanske myndighed – CITCO (Centro de Inteligencia contra el Terrorismo y el Crimen Organizado) – har udstedt 62 påbud om fjernelse, mens den kompetente rumænske myndighed (ANCOM – Autoritatea Națională pentru Administrare și Reglementare în Comunicații) og den kompetente franske myndighed (OCLCTIC – L'Office central de lutte contre la criminalité liée aux technologies de l'information et de la communication) har udstedt 26 påbud om fjernelse. Siden Hamas' terrorangreb mod Israel har den kompetente tyske myndighed (BKA – Bundeskriminalamt) udstedt mere end 249 påbud om fjernelse.
Den kompetente spanske myndighed har udstedt 62 påbud om fjernelse: 18 inden lanceringen af PERCI og 44 med brug af PERCI. Myndigheden tilvejebragte en detaljeret beskrivelse af fremsendelsen af og opfølgningen på de første påbud om fjernelse, der var udstedt, hvilket er meget relevant for bedre at forstå forordningens konsekvenser og virkninger.
Den 24. april 2023 udstedte den kompetente spanske myndighed de første to påbud om fjernelse 12 . De vedrørte to former for terrorrelateret indhold, hvoraf det ene vedrørte højreekstremisme, og det andet vedrørte jihadisme. Indholdet som omfattet af det første påbud om fjernelse var et PDF-dokument offentliggjort med ubegrænset adgang på Telegram, som slog til lyd for terrorrelateret vold og forherligede højreekstremistiske terrorangreb. Det terrorrelaterede indhold, der var genstand for det andet påbud om fjernelse, var en video med billeder af jihadister i kamp fra den såkaldte terrororganisation Islamisk Stat, som blev uploadet på Internet Archive. Både det ene og det andet indhold blev fjernet fra begge platforme inden for under en time, hvilket er i overensstemmelse med forordningens artikel 3, stk. 3. I den vurdering, der blev fremlagt af den kompetente spanske myndighed, blev det forklaret, at den havde valgt et påbud om fjernelse i stedet for en indberetning af to centrale årsager: opfyldelse af kravene i forordningen om påbud om fjernelse og uopsættelighed. Den kompetente spanske myndighed udstedte derefter yderligere påbud om fjernelse.
Den spanske myndighed fremhævede udfordringer i forbindelse med en hostingtjenesteyders (Meta) brug af en webformular til modtagelse af påbud om fjernelse i stedet for tilvejebringelsen af et direkte kontaktpunkt. Denne webformular førte også til problemer med hensyn til kommunikationen med den kompetente myndighed i den medlemsstat, hvor hostingtjenesteyderens hovedsæde er beliggende.
Den 13. juli 2023 udstedte den kompetente franske myndighed sit første påbud om fjernelse til en delingsplatform (Justpaste.it), som fjernede det terrorrelaterede indhold inden for en time. Det pågældende indhold var propaganda fra Al Qaeda, nærmere bestemt fra medieorganet Rikan Ka Mimber, under den indiske afdeling Al Qaeda Indian Sub continent (AQIS). Den komplette fjernelse af indholdet blev bekræftet på Europols PERCI-platform.
Den kompetente tyske myndighed udstedte henholdsvis seks, 16 og fem påbud om fjernelse den 16., 18. og 24. oktober 2023 rettet mod propaganda fra Hamas og Palæstinensisk Islamisk Jihad. Adgangen til indholdet blev deaktiveret i EU i overensstemmelse med forordningens artikel 3, stk. 3. Den kompetente tyske myndighed havde først fremsendt indberetninger og efterfølgende udstedt påbud om fjernelse, eftersom der ikke blev fulgt op på disse indberetninger. Efter Hamas' angreb den 7. oktober 2023 har den kompetente tyske myndighed udstedt 249 påbud om fjernelse, i de fleste tilfælde til Telegram 13 .
Den kompetente tjekkiske myndighed og den kompetente østrigske myndighed udstedte henholdsvis 2 og 8 påbud om fjernelse til X og Telegram.
For så vidt angår en hostingtjenesteyders anvendelse af en webformular til modtagelse af påbud om fjernelse, anførte de spanske myndigheder to problemstillinger: 1) I forbindelse med forordningens artikel 3, stk. 2, giver en webformular ikke medlemsstaternes kompetente myndigheder mulighed for at sende oplysninger om de gældende procedurer og frister inden udstedelsen af det første påbud om fjernelse til hostingtjenesteyderen. 2) I forbindelse med artikel 4, stk. 1, giver en webformular ikke mulighed for samtidig at fremsende en kopi af påbuddet om fjernelse til den kompetente myndighed i den medlemsstat, hvor hostingtjenesteyderen har sit hovedsæde, og til hostingtjenesteyderens retlige repræsentant.
4.2 GRÆNSEOVERSKRIDENDE PÅBUD OM FJERNELSE (artikel 4)
For så vidt angår de første to påbud om fjernelse, der blev udstedt i april 2023, kunne den kompetente spanske myndighed ikke sende kopier til myndigheden i den medlemsstat, hvor hostingtjenesteyderen havde sit hovedsæde eller sin retlige repræsentant, da ingen af de to hostingtjenesteydere på daværende tidspunkt havde hovedsæde eller udpeget en retlig repræsentant i EU. For så vidt angår de efterfølgende påbud om fjernelse sendte den kompetente spanske myndighed kopier til den kompetente myndighed i den medlemsstat, hvor hostingtjenesteyderen havde sit hovedsæde eller havde udpeget sin retlige repræsentant.
Medlemsstaterne anførte, at fremsendelsen af påbud om fjernelse til hostingtjenesteydere, der er etableret i tredjelande, og som endnu ikke har opfyldt deres forpligtelse til at udpege en retlig repræsentation i EU, var en udfordring. I den forbindelse støttede Kommissionen medlemsstaterne i at sikre, at hostingtjenesteyderne opfylder deres forpligtelse til at udpege en retlig repræsentant i EU og til at etablere et kontaktpunkt (forordningens artikel 15, stk. 1), herunder en e-mailadresse, for at sikre øjeblikkelig handling. Inden for rammerne af forskellige fora, herunder EU's internetforum, har Kommissionen endvidere mindet hostingtjenesteyderne om deres forpligtelser.
Ifølge Kommissionens oplysninger har ingen kompetent myndighed i den medlemsstat, hvor hostingtjenesteyderen har sit hovedsæde, indtil videre kontrolleret et påbud om fjernelse i henhold til forordningens artikel 4 for at fastslå, om det udgør en alvorlig eller åbenbar overtrædelse af forordningen eller de grundlæggende rettigheder og frihedsrettigheder, da der endnu ikke er indgivet en begrundet anmodning om kontrol. Som følge heraf har ingen myndighed hidtil konstateret, at et påbud om fjernelse således er i strid med denne forordning eller de grundlæggende rettigheder.
Indtil videre har ingen hostingtjenesteyder genindsat det indhold (eller adgangen hertil), som har været genstand for et påbud om fjernelse efter kontrol i overensstemmelse med forordningens artikel 4, fordi en sådan kontrol og anmodninger om genindsættelse endnu ikke har fundet sted. Derfor foreligger der ingen oplysninger om, hvor lang tid det normalt tager at genindsætte indhold eller adgang hertil, eller om de "nødvendige foranstaltninger", som hostingtjenesteyderne har truffet for at genindsætte indholdet eller adgangen til indholdet.
4.3. RETSMIDLER (artikel 9)
Ifølge Kommissionens oplysninger har hostingtjenesteyderne indtil videre ikke anfægtet påbud om fjernelse eller afgørelser i henhold til artikel 5, stk. 4, ved de relevante domstole. Ikke desto mindre hævdede én hostingtjenesteyder, at det var umuligt at efterkomme et påbud om fjernelse.
Ifølge oplysningerne fra medlemsstaterne 14 har mindst 12 medlemsstater indført "effektive procedurer", der gør det muligt for hostingtjenesteydere og indholdsleverandører at anfægte et påbud om fjernelse udstedt og/eller en afgørelse truffet i henhold til artikel 4, stk. 4, eller artikel 5, stk. 4, 6 eller 7, ved domstolene af den kompetente myndighed i disse medlemsstater (artikel 9, stk. 1 og 2). I de medlemsstater, hvor der er indført sådanne procedurer, vedrører procedurerne typisk retssager. Hvorvidt disse procedurer er "effektive" eller specifikke for forordningen, kan imidlertid ikke fastslås på baggrund af de aktuelle data, der er modtaget fra medlemsstaterne, da ingen afgørelser hidtil er blevet anfægtet.
4.4. SPECIFIKKE FORANSTALTNINGER OG GENNEMSIGTIGHED FORBUNDET HERMED (artikel 5 og 7)
Ifølge de foreliggende oplysninger er ingen hostingtjenesteydere hidtil blevet anset for at være blevet eksponeret for terrorrelateret indhold som omhandlet i forordningens artikel 5, stk. 4. Som følge heraf finder kravet om at træffe de specifikke foranstaltninger, der er fastsat i nævnte artikel, (endnu) ikke anvendelse på nogen hostingtjenesteyder.
Det kan dog bemærkes, at flere hostingtjenesteydere ifølge de gennemsigtighedsrapporter, som hostingtjenesteyderne har fremlagt, har truffet foranstaltninger for at imødegå misbrug af deres tjenester til udbredelse af terrorrelateret indhold, navnlig vedtagelse af specifikke vilkår og betingelser og anvendelse af andre bestemmelser og foranstaltninger til begrænsning af udbredelsen af terrorrelateret indhold. Som nævnt ovenfor skal hostingtjenesteyderne i henhold til artikel 7 sikre gennemsigtighed i denne henseende, ikke blot gennem gennemsigtighedsrapportering, men også ved at medtage klare oplysninger i deres vilkår og betingelser.
4.5. OVERHÆNGENDE LIVSFARE (artikel 14, stk. 5)
I henhold til forordningens artikel 14, stk. 5, skal hostingtjenesteydere, som får kendskab til terrorrelateret indhold, der indebærer en overhængende livsfare, straks underrette de myndigheder, der er kompetente til at efterforske og retsforfølge strafbare handlinger i de berørte medlemsstater. Hvis det ikke er muligt at identificere de berørte medlemsstater, videregiver hostingtjenesteyderen oplysningerne til Europol med henblik på hensigtsmæssig opfølgning.
Pr. 31. december 2023 var Kommissionen blevet underrettet om ni tilfælde, hvor Europols EU-internetindberetningsenhed havde modtaget oplysninger om terrorrelateret indhold, der indebærer en overhængende livsfare. Da forordningens artikel 14, stk. 5, ikke indeholder en forpligtelse til at underrette Europol i alle tilfælde, kan antallet af underretninger være højere. Spanien havde som den eneste medlemsstat tilvejebragt oplysninger om anvendelsen af artikel 14, stk. 5. Den 18. april 2023 modtog de spanske myndigheder en meddelelse fra Amazon om formodet terrorrelateret indhold, der indebærer en overhængende livsfare, på videospilplatformen Twitch. Indholdet blev vurderet til ikke at opfylde betingelserne for terrorrelateret indhold, der indebærer en overhængende livsfare som omhandlet i forordningen.
4.6. SAMARBEJDE MELLEM HOSTINGTJENESTEYDERE, KOMPETENTE MYNDIGHEDER OG EUROPOL (artikel 14)
Som nævnt ovenfor har Europol udviklet en platform med navnet "PERCI" til støtte for forordningens gennemførelse ved at centralisere, koordinere og lette fremsendelsen af påbud om fjernelse og indberetninger fra medlemsstaterne til hostingtjenesteydere. Platformen har været operationel siden den 3. juli 2023. Europol indførte forud for den fulde gennemførelse af PERCI beredskabsordninger til støtte for den manuelle fremsendelse af påbud om fjernelse, undgåelse af forstyrrelser i igangværende efterforskninger og kriseberedskab i situationer, der indebærer en overhængende livsfare.
PERCI er et fælles system, der muliggør samarbejde mellem kompetente myndigheder, hostingtjenesteydere og Europol som fastsat i forordningens artikel 14 med hensyn til forhold, der er omfattet af forordningen. PERCI er mere konkret:
·en cloudbaseret løsning, der skal garantere sikkerhed og databeskyttelse i skyen
·en fælles platform for samarbejdsbaseret kommunikation og koordinering i realtid, som støtter hurtig fjernelse af terrorrelateret indhold
·en platform, der letter kontrolprocessen ved grænseoverskridende påbud om fjernelse
·en platform, der styrker undgåelsen af forstyrrelser, hvilket er vigtigt for at undgå, at en medlemsstats kompetente myndighed sender et påbud om fjernelse rettet mod indhold, der er genstand for en igangværende efterforskning i en anden medlemsstat
·en platform, der gør det muligt for hostingtjenesteydere at modtage påbud om fjernelse på en ensartet og standardiseret måde fra en enkelt kanal.
PERCI muliggør på særskilt vis endvidere fremsendelsen af indberetninger.
På nuværende tidspunkt letter PERCI — foruden platformens relevans i forbindelse med indberetninger (jf. betragtning 40 i forordningen) — fremsendelsen af påbud om fjernelse (artikel 3 og 4), medlemsstaternes rapportering (artikel 8) og koordinering samt undgåelse af forstyrrelser af igangværende efterforskninger med hensyn til det indhold, som der skal fremsendes et påbud om fjernelse for (artikel 14). PERCI er ved at blive videreudviklet for at kunne støtte yderligere områder som omfattet af forordningen, herunder kontrol af grænseoverskridende påbud om fjernelse (artikel 4) 15 .
Medlemsstaterne har bekræftet, at følgende har gjort sig gældende i henhold til forordningens artikel 14:
·De kompetente myndigheder udveksler oplysninger, koordinerer og samarbejder med andre kompetente myndigheder.
·De kompetente myndigheder udveksler oplysninger, koordinerer og samarbejder med Europol.
·Der er indført mekanismer til at styrke samarbejdet og samtidig undgå forstyrrelser af efterforskninger i andre medlemsstater.
·De fleste medlemsstater betragter PERCI som det foretrukne værktøj til fremsendelse af påbud om fjernelse, da det gør det muligt at koordinere indsatsen gennem undgåelsen af forstyrrelser.
4.7. VIRKNINGER PÅ INDBERETNINGER
Indberetninger af terrorrelateret indhold er et frivilligt værktøj, der allerede blev anvendt før forordningens vedtagelse. Selv om forordningen ikke indeholder særlige regler om indberetninger i overensstemmelse med betragtning 40, er der intet i forordningen, der forhindrer medlemsstaterne og Europol i at anvende indberetninger som et instrument til at håndtere terrorrelateret indhold online.
Siden oprettelsen af EU's internetindberetningsenhed under Europol i 2015 har enheden aktivt identificeret terrorrelateret indhold online og indberettet dette til hostingtjenesteydere samt udviklet værktøjer (dvs. PERCI og tidligere IRMA 16 ) for at lette fremsendelsen af indberetninger.
Ifølge oplysninger som forelagt Kommissionen fortsætter medlemsstaternes myndigheder med at anvende indberetninger over for visse hostingtjenesteydere. Efterfølgende kan de overveje at udstede påbud om fjernelse til hostingtjenesteydere, der ikke reagerer på indberetninger, eller af andre årsager såsom uopsætteligheden med hensyn til at få indholdet fjernet.
4.8. STØTTE TIL MINDRE HOSTINGTJENESTEYDERE MED HENBLIK PÅ GENNEMFØRELSE AF FORORDNINGEN
Forordningen omfatter forskellige forpligtelser for hostingtjenesteydere. De store hostingtjenesteydere har typisk den tekniske kapacitet, menneskelige kontrolkapacitet og viden til at gennemføre forordningen, mens de mindre hostingtjenesteydere muligvis råder over mere begrænsede finansielle, tekniske og menneskelige ressourcer og ekspertise til dette formål. På samme tid oplever mindre hostingtjenesteydere i stigende grad en udnyttelse af deres tjenester fra ondsindede aktørers side. Dette kan også tilskrives de større hostingtjenesteyderes effektive indholdsmoderation. Denne tendens viser, at foranstaltningerne til indholdsmoderation har været vellykkede, men fremhæver på samme tid behovet for at støtte mindre hostingtjenesteydere i at øge deres kapacitet og viden med henblik på opfyldelse af kravene i forordningen.
For at imødegå denne udfordring iværksatte Kommissionen en indkaldelse af forslag under Fonden for Intern Sikkerhed for at støtte mindre hostingtjenesteydere i gennemførelsen af forordningen 17 . Kommissionen udvalgte tre projekter 18 til støtte for dem med hensyn til tre aspekter. Første aspekt omhandlede information om og øget kendskab til forordningens regler og krav, andet aspekt vedrørte udvikling, gennemførelse og udbredelse af de værktøjer og rammer, der er nødvendige for at håndtere udbredelsen af terrorrelateret indhold online, og tredje aspekt omhandlede udveksling af erfaringer og bedste praksis i hele branchen.
De tre projekter indledte deres arbejde i 2023 og har allerede leveret værdifulde resultater. Inden for rammerne af projektet FRISCO 19 blev det i kortlægningsrapporten bl.a. konstateret, at mikrohostingtjenesteydere og små hostingtjenesteydere har en tendens til at have meget begrænset kendskab til og viden om forordningen. De potentielle vanskeligheder, de kan stå over for med hensyn til at reagere på påbud om fjernelse inden for en time, blev påpeget, da de ofte ikke råder over døgnbemandede tjenester. Manglende ressourcer er en udfordring, og det samme gælder etableringen af kommunikationslinjer med de retshåndhævende myndigheder. Over halvdelen af de hostingtjenesteydere, der blev undersøgt af kontrahenterne, sikrer ikke moderation af brugergenereret indhold og anførte, at de aldrig var stødt på terrorrelateret indhold på deres platforme. Disse hostingtjenesteydere vil sandsynligvis træffe ad hoc-foranstaltninger, hvis de møder denne form for indhold på deres platforme.
Gennem disse tre projekter støttes mindre hostingtjenesteydere i deres bestræbelser på at overholde forordningens regler, herunder ved at etablere kontaktpunkter og gennemførelsesmekanismer for klager fra brugerne.
Desuden kan forordningens artikel 3, stk. 2 — i henhold til hvilken der skal gives rettidige oplysninger om gældende procedurer og frister til hostingtjenesteydere, der ikke tidligere har fået udstedt et påbud om fjernelse — være relevant, navnlig for mindre hostingtjenesteydere.
4.9. BESKYTTELSE AF DE GRUNDLÆGGENDE RETTIGHEDER
Forordningen indeholder forskellige sikkerhedsforanstaltninger til styrkelse af ansvarligheden og gennemsigtigheden i forbindelse med de foranstaltninger, der træffes for at fjerne terrorrelateret indhold online. I denne forbindelse henvises der til ovenstående, navnlig oplysningerne om retsmidler, rapportering og den særlige mekanisme for grænseoverskridende påbud om fjernelse.
Kommissionen forelægger i henhold til forordningens artikel 23 i forbindelse med evalueringen af forordningen endvidere rapporter om funktionsmåden og effektiviteten af sikkerhedsmekanismerne, navnlig dem fastsat i artikel 4, stk. 4, artikel 6, stk. 3, og artikel 7-11. Disse sikkerhedsforanstaltninger vedrører klager, retsmidler og sanktionsmekanismer, der vedtages og gennemføres til imødegåelse af risikoen for fejlagtig fjernelse af terrorrelateret indhold online for at beskytte indholdsleverandører og hostingtjenesteydere. Vurderingen af sikkerhedsmekanismernes funktionsmåde og effektivitet vil derfor indgå i evalueringen i henhold til artikel 23.
I den forbindelse omfatter det overvågningsprogram, der er omhandlet i forordningens artikel 21, stk. 2, en ramme af indikatorer til evaluering af forordningens virkninger på de grundlæggende rettigheder, som vil indgå i evalueringen af forordningen.
Overvågningsprogrammet vil støtte den vurdering, der skal foretages som led i evalueringen, af funktionsmåden og effektiviteten af de sikkerhedsmekanismer, der gennemføres inden for rammerne af forordningen, og deres virkning på de grundlæggende rettigheder. Dette virkningsområde afspejler de to områder, der er nævnt i forordningens artikel 23: a) funktionsmåden og effektiviteten af sikkerhedsmekanismerne, navnlig dem fastsat i artikel 4, stk. 4, artikel 6, stk. 3, og artikel 7-11, og b) virkningen af denne forordnings anvendelse på grundlæggende rettigheder, navnlig ytrings- og informationsfriheden, respekten for privatlivet og beskyttelsen af personoplysninger.
4.10. KOMPETENTE MYNDIGHEDER (artikel 13)
I henhold til forordningens artikel 13 skal medlemsstaterne sikre, at deres kompetente myndigheder har de nødvendige beføjelser og tilstrækkelige ressourcer til at nå målene for og opfylde deres forpligtelser i henhold til forordningen. Nogle medlemsstater har gennemført følgende foranstaltninger for at sikre, at de kompetente myndigheder har de nødvendige beføjelser og tilstrækkelige ressourcer:
·oprettelse af nye organer/direktorater
·tildeling af ekstra midler og yderligere personale og
·udarbejdelse af nye lovgivningsmæssige rammer.
5. KONKLUSION
Det er yderst vigtigt, at alle værktøjer og foranstaltninger på EU-plan gennemføres fuldt ud for hurtigt at bekæmpe ulovligt indhold, der udbredes online. Dette er især tilfældet i lyset af det store omfang af sådant ulovligt indhold, som udbredelsen af indhold i forbindelse med Hamas' angreb på Israel for nylig vidner om.
Forordningen bidrager til at øge den offentlige sikkerhed i hele EU for at forhindre, at hostingtjenesteydere, der opererer på det indre marked, udnyttes af terrorister til at sprede deres budskaber med henblik på at intimidere, radikalisere, rekruttere og lette terrorangreb.
Der er gjort fremskridt efter indledningen af overtrædelsesprocedurer i januar 2023. Pr. 31. december 2023 har 23 medlemsstater udpeget kompetente myndigheder i henhold til artikel 12, stk. 1, som afspejlet i onlineregistret, hvilket har resulteret i en mere systematisk anvendelse af de foranstaltninger og værktøjer, der er fastsat i forordningen. Derudover var 11 af de 22 overtrædelsessager, der blev indledt i januar 2023, afsluttet pr. 21. december 2023. Kommissionen opfordrer de resterende medlemsstater til at træffe de nødvendige foranstaltninger for at udpege de kompetente myndigheder i henhold til artikel 12, stk. 1, og opfylde deres forpligtelser i henhold til artikel 12, stk. 2, artikel 12, stk. 3, og artikel 18, stk. 1.
Generelt har medlemsstaterne rapporteret om en problemfri fremsendelse af påbud om fjernelse til hostingtjenesteydere med støtte fra Europol. På grundlag af de oplysninger, der er modtaget fra medlemsstaterne og Europol, er der siden forordningens ikrafttræden blevet fremsendt mindst 349 påbud om fjernelse af terrorrelateret indhold. I 10 tilfælde fjernede/deaktiverede en hostingtjenesteyder ikke adgangen til terrorrelateret indhold inden for den maksimale periode på en time, der er fastsat i forordningen.
Ifølge oplysninger fra medlemsstaterne og Europol er reaktionsevnen over for indberetninger af terrorrelateret indhold blevet bedre, siden forordningen trådte i kraft, på trods af at forordningen ikke indeholder nogen bestemmelser herom. Europol har endvidere i ni tilfælde modtaget oplysninger fra hostingtjenesteydere om terrorrelateret indhold, der indebærer en overhængende livsfare, jf. artikel 14, stk. 5.
Der er blevet indført mere effektive kommunikationskanaler og -procedurer, navnlig siden lanceringen af PERCI-platformen den 3. juli 2023, hvilket har resulteret i en mere systematisk tilgang til fremsendelse af påbud om fjernelse, mens PERCI også anvendes til fremsendelse af et stort antal indberetninger. Medlemsstaterne og Europol udtrykte en forventning om, at indførelsen af PERCI vil gavne anvendelsen af disse instrumenter til bekæmpelse af terrorrelateret indhold online.
Kommissionen vurderer på denne baggrund, at forordningen generelt har haft en positiv indvirkning med hensyn til at begrænse udbredelsen af terrorrelateret indhold online. I 10 ud af 349 tilfælde overskred den pågældende hostingtjenesteyder ikke desto mindre den maksimale periode på en time, der er fastsat i forordningen, til at fjerne terrorrelateret indhold eller deaktivere adgangen hertil.
Kommissionen støtter proaktivt medlemsstaterne og hostingtjenesteyderne, herunder gennem tekniske workshopper afholdt før og efter forordningens ikrafttræden. Den seneste fandt sted den 24. november 2023. Kommissionen støtter endvidere mindre hostingtjenesteydere for at sikre en fuldstændig og hurtig anvendelse af forordningen og hjælpe dem med at imødegå de hidtil opståede udfordringer.
Kommissionen vil fortsat overvåge forordningens gennemførelse og anvendelse. Kommissionen vil nøje overvåge resultaterne af de instrumenter, der er fastsat i forordningen, gennem overvågningsprogrammet. Dette vil indgå i evalueringen af forordningen i henhold til artikel 23.
Det onlineregister, som Kommissionen har oprettet i henhold til forordningens artikel 12, stk. 4, anfører de kompetente myndigheder, der er omhandlet i artikel 12, stk. 1, og det kontaktpunkt, der er udpeget eller etableret i henhold til artikel 12, stk. 2, for hver kompetent myndighed. Registret ajourføres regelmæssigt på baggrund af meddelelser fra medlemsstaterne. List of national competent authority (authorities) and contact points (europa.eu) (liste over national kompetent myndighed (myndigheder) og kontaktpunkter).
List of national competent authority (authorities) and contact points (liste over national kompetent myndighed (myndigheder) og kontaktpunkter).
PERCI (Plateforme Européenne de Retraits des Contenus illégaux sur Internet) er en platform udviklet og forvaltet af Europol til fjernelse af ulovligt indhold online. Den støtter gennemførelsen af forordningen ved bl.a. at tilvejebringe en teknisk løsning til behandling af indberetninger og påbud om fjernelse til hostingtjenesteydere.
Indberetninger er en mekanisme til at advare hostingtjenesteyderne, som efterfølgende frivilligt kan vurdere, hvorvidt indholdet er i overensstemmelse med deres egne vilkår og betingelser. I henhold til forordningen (betragtning 40) har indberetninger vist sig at være effektive og bør forblive tilgængelige som supplement til påbud om fjernelse.
Jf. pressemeddelelse: Terrorrelateret onlineindhold (europa.eu).
List of national competent authority (authorities) and contact points (europa.eu) (liste over national kompetent myndighed (myndigheder) og kontaktpunkter). Der er oplysninger om 23 medlemsstaters myndigheder med kompetence til udstedelse af påbud om fjernelse i henhold til artikel 12, stk. 1, litra a), i onlineregistret.
Finland, Malta, Tjekkiet, Danmark, Rumænien, Sverige, Letland, Spanien, Litauen, Østrig og Slovakiet.
Europols TE-SAT 2023 https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_TE-SAT_2023.pdf og 2022 https://www.europol.europa.eu/cms/sites/default/files/documents/Tesat_Report_2022_0.pdf .
Kommissionen, (2018) Impact Assessment accompanying the Proposal for a Regulation on preventing the dissemination of terrorist content online, SWD(2018) 408 final, tilgået den 4.5.2023 på: https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=SWD:2018:408:FIN .
Ibidem.
Jf. ordlyden i forordning (EU) 2021/784, artikel 8, stk. 1, https://eur-lex.europa.eu/legal-content/DA/TXT/HTML/?uri=CELEX:32021R0784 .
Ministerio del Interior | El CITCO culmina la retirada de Internet de dos contenidos que alentaban al terrorismo .
Ifølge de oplysninger, Kommissionen råder over.
Det bør bemærkes, at de tilvejebragte oplysninger ikke nødvendigvis er fuldstændige. Der er brug for yderligere vurderinger for at få et fuldstændigt og ajourført overblik over, hvordan medlemsstaterne har gennemført kravet om at sikre, at der er adgang til effektive klageprocedurer.
Nærmere oplysninger: — artikel 3 og artikel 4: fremsendelse af påbud om fjernelse, — artikel 3, stk. 6-8: feedback fra hostingtjenesteydere, — artikel 4, stk. 3-7: kontrolmekanisme, — artikel 7: rapportering, — artikel 14, stk. 1: undgåelse af forstyrrelser, koordinering, forhindring af dobbeltarbejde, — artikel 14, stk. 3: sikker kommunikationskanal, — artikel 14, stk. 4: brug af et særligt værktøj som udviklet af Europol, — artikel 14, stk. 5: videregivelse af oplysninger om "overhængende livsfare", — betragtning 40: fremsendelse af indberetninger.
Europol udviklede applikationen til administration af internetindberetning (IRMA) i 2016 til støtte for indberetning (markering) af ulovligt indhold til onlinetjenesteudbydere. Oprindeligt fik Europols personale og specialiserede enheder (IRU) adgang til IRMA i syv medlemsstater. Den 3. juli 2023 blev IRMA erstattet af PERCI.
1) AI-baseret ramme for støtte til mikro- (og små) hostingtjenesteydere i forbindelse med indberetning og fjernelse af terrorrelateret indhold online (ALLIES), 2) bekæmpelse af terrorrelateret indhold online (FRISCO) og 3) teknologi til bekæmpelse af terror i Europa (Technology Against Terrorism Europe, TATE). Link til yderligere oplysninger: Funding & tenders (europa.eu).
Gennemført over en periode på seks måneder, der slutter i maj 2023. Rapporten er baseret på feedback fra 48 europæiske hostingtjenesteydere, 33 svar fra vores onlineundersøgelse og 15 fra interviews. FRISCO, D2.1: Mapping Report on needs and barriers for compliance Understanding small and micro hosting service providers' needs and awareness in relation to implementing the TCO Regulation requirements, tilgængelig på Deliverables | Frisco (friscoproject.eu) .