EVROPSKA KOMISIJA

Bruselj, 14.2.2024

COM(2024) 64 final

POROČILO KOMISIJE EVROPSKEMU PARLAMENTU IN SVETU

o izvajanju Uredbe (EU) 2021/784 o obravnavanju razširjanja terorističnih spletnih vsebin

{SWD(2024) 36 final}

1.POVZETEK

Uredba (EU) 2021/784 o obravnavanju razširjanja terorističnih spletnih vsebin zagotavlja pravni okvir na evropski ravni za države članice za zaščito državljanov pred izpostavljenostjo terorističnim spletnim vsebinam. Namen Uredbe je zagotoviti nemoteno delovanje digitalnega enotnega trga z obravnavanjem zlorabe storitev gostovanja za razširjanje terorističnih spletnih vsebin v javnosti. Njen cilj je teroristom preprečiti uporabo interneta za razširjanje njihovih sporočil, katerih namen je ustrahovanje, radikalizacija, novačenje in omogočanje terorističnih napadov. To je zlasti pomembno v sedanjih razmerah konfliktov in nestabilnosti, ki vplivajo na varnost Evrope. Zaradi ruske vojne agresije proti Ukrajini in terorističnega napada Hamasa na Izrael 7. oktobra 2023 se je povečalo širjenje terorističnih vsebin na spletu.

Regulativni okvir za obravnavanje nezakonitih spletnih vsebin je bil dodatno okrepljen z začetkom veljavnosti akta o digitalnih storitvah 16. novembra 2022. Akt o digitalnih storitvah ureja obveznosti digitalnih storitev, ki delujejo kot posredniki pri povezovanju potrošnikov z vsebinami, storitvami in blagom, s čimer bolje ščiti uporabnike na spletu in prispeva k varnejšemu spletnemu okolju.

Uredba o obravnavanju razširjanja terorističnih spletnih vsebin se je začela uporabljati 7. junija 2022. Komisija v skladu s členom 22 Uredbe Evropskemu parlamentu in Svetu predloži poročilo o uporabi Uredbe (v nadaljnjem besedilu: poročilo o izvajanju).

To poročilo o izvajanju temelji na oceni informacij, ki jih zagotovijo države članice, Europol in ponudniki storitev gostovanja v skladu z obveznostmi iz Uredbe. Na podlagi take ocene je mogoče ključne ugotovitve v zvezi z izvajanjem Uredbe povzeti tako:

·do 31. decembra 2023 je 23 držav članic imenovalo pristojne organe s pooblastilom za izdajo odredb o odstranitvi, kot so določene v Uredbi 1 . Seznam organov držav članic je na voljo na spletnem mestu Komisije in se redno posodablja 2 ;

·Komisija je do 31. decembra 2023 prejela informacije o vsaj 349 odredbah o odstranitvi terorističnih vsebin, ki so jih izdali pristojni organi šestih držav članic (Španije, Romunije, Francije, Nemčije, Češke in Avstrije), kar je v večini primerov privedlo do hitrih nadaljnjih ukrepov ponudnikov storitev gostovanja za odstranitev terorističnih vsebin ali blokiranje dostopa do njih. To dokazuje, da se orodja iz Uredbe začenjajo uporabljati in uspešno zagotavljajo, da ponudniki storitev gostovanja hitro odstranijo teroristične vsebine v skladu s členom 3(3). Glede na informacije, ki jih je prejela Komisija, te odredbe o odstranitvi niso bile izpodbijane;

·usklajevanje med pristojnimi organi držav članic in Europolom, zlasti Europolovo enoto za prijavljanje internetnih vsebin, pri uporabi Uredbe poteka dobro, zlasti pri obdelavi odredb o odstranitvi;

·orodje Europola „PERCI“ 3 je začelo delovati 3. julija 2023. To orodje nekatere države članice uspešno uporabljajo za pošiljanje odredb o odstranitvi in obvestil 4 . Orodje so za pošiljanje odredb o odstranitvi uporabili španski, nemški, avstrijski, francoski in češki pristojni organi. Od začetka delovanja orodja PERCI 3. julija do 31. decembra 2023 je bilo z njim obdelanih skupaj vsaj 14 615 obvestil;

·čeprav Uredba ne vsebuje posebnih ukrepov v zvezi z obvestili, se je po informacijah, ki jih je prejela Komisija, od začetka uporabe Uredbe povečala tudi odzivnost na obvestila ponudnikov storitev gostovanja;

·po podatkih Komisije ni bil do 31. decembra 2023 noben ponudnik storitev gostovanja opredeljen kot izpostavljen terorističnim vsebinam, kot je opredeljeno v členu 5(4) Uredbe. Ta opredelitev je osnovni pogoj za uporabo posebnih ukrepov iz navedenega člena. Kljub temu so ponudniki storitev gostovanja glede na poročila o preglednosti, ki so jih predložili, sprejeli ukrepe za obravnavanje zlorabe njihovih storitev za razširjanje terorističnih vsebin, zlasti s sprejetjem posebnih pogojev ter uporabo drugih določb in ukrepov za omejitev razširjenja terorističnih vsebin;

·ponudniki storitev gostovanja so sprejeli tudi ukrepe za obveščanje o neposredni grožnji za življenje v skladu s členom 14(5) Uredbe.

Kar zadeva manjše ponudnike storitev gostovanja, je Komisija leta 2021 objavila razpis za zbiranje predlogov, da bi jih podprla pri izvajanju Uredbe. Komisija je v letu 2022 izbrala tri projekte (glej oddelek 4.8.), ki so se začeli izvajati leta 2023 in so že prinesli nekaj rezultatov pri zagotavljanju podpore malim podjetjem za izpolnjevanje zahtev iz Uredbe.

Komisija je 26. januarja 2023 s pošiljanjem uradnih opominov začela postopke za ugotavljanje kršitev proti 22 državam članicam, ker niso imenovale pristojnih organov v skladu s členom 12(1) Uredbe ter niso izpolnile svojih obveznosti iz člena 12(2) in (3) ter člena 18(1) 5 . Po začetku teh postopkov za ugotavljanje kršitev se je število držav članic, ki so uradno sporočile pristojne organe, odgovorne za obravnavanje odredb o odstranitvi, povečalo, kot je razvidno iz informacij, objavljenih v spletnem registru 6 . Poleg tega je bilo do 21. decembra 2023 zaključenih 11 postopkov za ugotavljanje kršitev, začetih januarja 2023 7 .

Komisija je na podlagi informacij, ki jih je prejela od držav članic in Europola ter ki so jih dali na voljo ponudniki storitev gostovanja, ocenila, da je uporaba Uredbe pozitivno vplivala na omejevanje širjenja terorističnih spletnih vsebin.

2.OZADJE

Uredba se je začela uporabljati 7. junija 2022. Njen namen je zagotoviti nemoteno delovanje digitalnega enotnega trga z obravnavanjem zlorabe storitev gostovanja za razširjanje terorističnih spletnih vsebin v javnosti. Državam članicam zagotavlja ciljno usmerjena orodja v obliki odredb o odstranitvi za obravnavanje razširjanja terorističnih spletnih vsebin in jim omogoča, da od ponudnikov storitev gostovanja vseh velikosti zahtevajo sprejetje posebnih ukrepov za zaščito njihovih storitev pred izkoriščanjem s strani terorističnih akterjev, kadar so izpostavljene terorističnim vsebinam.

Poleg tega se je z začetkom veljavnosti akta o digitalnih storitvah 16. novembra 2022 regulativno okolje razširilo s horizontalno zakonodajo s širokim področjem uporabe, katere cilj je zagotoviti varnejši digitalni prostor za potrošnike, učinkovite ukrepe za boj proti nezakonitim vsebinam in preglednejše pogoje storitev. Akt o digitalnih storitvah Komisiji podeljuje obsežna nadzorna, preiskovalna in izvršilna pooblastila za sprejemanje ukrepov, naslovljenih na zelo velike spletne platforme in iskalnike. Ti ukrepi vključujejo zahteve za informacije in preiskave ukrepov podjetij za moderiranje vsebin z možnostjo naložitve glob.

Akt o digitalnih storitvah omogoča obravnavanje vseh oblik nezakonitih vsebin, Komisija pa lahko platforme pozove k predložitvi podatkov, ki dokazujejo, da izpolnjujejo svoje zaveze glede odstranjevanja vsebin. Uredba o terorističnih spletnih vsebinah zagotavlja še učinkovitejše orodje za to specifično obliko nezakonitih vsebin, saj določa pravno obveznost odstranitve vsebin v eni uri po prejemu odredbe o odstranitvi in učinkovite mehanizme sankcioniranja.

Kot je Europol poudaril v poročilih o stanju in trendih na področju terorizma (TE-SAT) 8 , objavljenih v zadnjih letih, teroristi obširno uporabljajo internet za razširjanje svojih sporočil, katerih namen je ustrahovanje, radikalizacija, novačenje in omogočanje terorističnih napadov. Čeprav so prostovoljni ukrepi in nezavezujoča priporočila obrodili sadove za zmanjšanje razpoložljivosti terorističnih spletnih vsebin, sta bili zaradi omejitev, vključno z majhnim številom ponudnikov storitev gostovanja, ki sprejemajo prostovoljne mehanizme 9 , in razdrobljenosti postopkovnih pravil po državah članicah uspešnost in učinkovitost sodelovanja med državami članicami in ponudniki storitev gostovanja omejeni, zaradi česa je bilo treba sprejeti regulativne ukrepe 10 . Zato je za obravnavanje razširjanja terorističnih spletnih vsebin ključna učinkovita uporaba Uredbe. Komisija v tem postopku proaktivno podpira pristojne nacionalne organe.

Komisija je morala v skladu s členom 22 Uredbe Evropskemu parlamentu in Svetu do 7. junija 2023 predložiti poročilo o uporabi Uredbe (v nadaljnjem besedilu: poročilo o izvajanju), in sicer na podlagi informacij, ki so jih predložile države članice, ki so se delno oprle na informacije, ki so jih predložili ponudniki storitev gostovanja (člen 21). Zamuda pri predložitvi poročila o izvajanju je po eni strani posledica poznega posredovanja ključnih informacij držav članic in ponudnikov storitev gostovanja Komisiji. Po drugi strani se je zdelo pomembno, da se v poročilu o izvajanju upošteva uporaba orodja PERCI, ki je začelo delovati 3. julija 2023 in se od takrat uporablja za obdelavo odredb o odstranitvi v skladu z Uredbo.

Namen tega poročila o izvajanju je zgolj zagotoviti dejanski pregled pomembnih zadev v zvezi z uporabo Uredbe. Poročilo ne vsebuje nobene razlage Uredbe in ne izraža nobenega mnenja o razlagah ali drugih ukrepih, sprejetih pri uporabi Uredbe.

Komisija je morala v skladu s členom 21(2) Uredbe do istega datuma (7. junija 2023) vzpostaviti podroben program za spremljanje dosežkov, rezultatov in učinkov Uredbe. Natančneje, v programu spremljanja je bilo treba določiti kazalnike, načine in časovne intervale za zbiranje podatkov in drugih potrebnih dokazov. Ta program je določen v priloženem delovnem dokumentu služb Komisije. V njem so določeni ukrepi, ki jih morajo Komisija in države članice sprejeti pri zbiranju in analizi podatkov in drugih dokazov za spremljanje napredka in učinkov Uredbe ter za oceno Uredbe v skladu z njenim členom 23.

3.CILJ IN METODOLOGIJA POROČILA

Cilj tega poročila je oceniti uporabo Uredbe in njen dosedanji vpliv na omejevanje razširjanja terorističnih spletnih vsebin. To vključuje ukrepe, ki so jih sprejeli države članice in ponudniki storitev gostovanja, kot so spremembe njihovih pogojev uporabe in smernic skupnosti ter njihova skladnost in odzivnost na odredbe o odstranitvi.

V ta namen je Komisija zbrala informacije držav članic, Europolove enote za prijavljanje internetnih vsebin in ponudnikov storitev gostovanja, vključno z informacijami iz poročil o preglednosti in spremljanju na podlagi členov 7, 8 in 21 Uredbe. Informacije v skladu s členoma 8 in 21 je poslalo 18 držav članic. Informacije o ukrepih, ki so jih sprejeli ponudniki storitev gostovanja, so bile zbrane z njihovimi letnimi poročili o preglednosti, prek Europola in z neposrednim prostovoljnim komuniciranjem s službami Komisije. To poročilo o izvajanju vključuje informacije, ki jih je Komisija prejela do 31. decembra 2023.

Obveznosti spremljanja in preglednosti (členi 21, 7 in 8)

Države članice morajo za pripravo poročila o izvajanju v skladu s členom 21(1) Uredbe od svojih pristojnih organov in ponudnikov storitev gostovanja pod njihovo sodno pristojnostjo zbrati informacije in jih poslati Komisiji vsako leto do 31. marca. To vključuje informacije o ukrepih, ki so jih sprejeli v skladu z Uredbo v predhodnem koledarskem letu. Člen 21(1) se nanaša na vrsto informacij, ki bi jih morale države članice zbirati o ukrepih, sprejetih za izpolnjevanje obveznosti iz Uredbe, kot so podrobnosti o odredbah o odstranitvi, število zahtev za dostop do vsebin, shranjenih za namene preiskav, pritožbeni postopki ter upravni in sodni pregledi.

V skladu s členom 7(1) Uredbe ponudniki storitev gostovanja v svojih pogojih jasno določijo politiko za obravnavanje razširjanja terorističnih vsebin, po potrebi vključno s smiselno razlago delovanja posebnih ukrepov.

Poleg tega v skladu s členom 7(2) Uredbe ponudnik storitev gostovanja, ki sprejme ukrepe za obravnavanje razširjanja terorističnih vsebin ali ki je moral v določenem koledarskem letu sprejeti ukrepe na podlagi Uredbe, da javnosti na voljo poročilo o preglednosti glede teh ukrepov v zadevnem letu. To poročilo je treba objaviti pred 1. marcem naslednjega leta.

Člen 7(3) Uredbe določa minimalne informacije, ki bi jih morala vključevati ta poročila o preglednosti, kot so ukrepi, sprejeti za prepoznavanje terorističnih vsebin in onemogočanje dostopa do njih, število odstranjenih in/ali ponovno objavljenih vsebin ter izid pritožb.

V skladu s členom 8 Uredbe imenovani pristojni organi držav članic objavijo letna poročila o preglednosti v zvezi s svojimi dejavnostmi iz Uredbe. Člen 8(1) se nanaša na minimalne informacije, ki bi jih morala vključevati ta poročila 11 .

Do 31. decembra 2023 je informacije o ukrepih, sprejetih v skladu z Uredbo, Komisiji poslalo 18 držav članic, 23 držav članic pa je imenovalo organe s pooblastilom za izdajo odredb o odstranitvi, kot je določeno v Uredbi.

4.POSAMEZNE TOČKE OCENE

4.1    ODREDBE O ODSTRANITVI (člen 3)

Komisija je bila do 31. decembra 2023 obveščena o skupno vsaj 349 odredbah o odstranitvi, ki so jih pristojni organi Španije, Romunije, Francije, Nemčije, Avstrije in Češke poslali platformam Telegram, Meta, Justpaste.it, TikTok, DATA ROOM S.R.L., FLOKINET S.R.L., Archive.org, Soundcloud, X, Jumpshare.com, Krakenfiles.com, Top4Top.net in Catbox.

Španski pristojni organ, tj. CITCO (Centro de Inteligencia contra el Terrorismo y el Crimen Organizado), je poslal 62 odredb o odstranitvi, romunski pristojni organ (ANCOM – Autoritatea Națională pentru Administrare și Reglementare în Comunicații) je poslal dve odredbi o odstranitvi, francoski pristojni organ (OCLCTIC – L'Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication) pa jih je poslal 26. Od terorističnega napada gibanja Hamas na Izrael je nemški pristojni organ (BKA – Bundeskriminalamt) poslal 249 odredb o odstranitvi.

Španski pristojni organ je poslal 62 odredb o odstranitvi: 18 pred začetkom delovanja orodja PERCI in 44 prek tega orodja. Predložil je podroben opis pošiljanja odredb o odstranitvi in nadaljnjih ukrepov po prvih izdanih odredbah, kar je zelo pomembno za boljše razumevanje posledic in učinkov Uredbe.

Španski pristojni organ je prvi dve odredbi o odstranitvi izdal 24. aprila 2023 12 . Povezani sta bili z dvema terorističnima vsebinama, od katerih se je ena nanašala na desničarski terorizem, druga pa na džihadizem. Vsebina, ki je bila predmet prve odredbe o odstranitvi, je obsegala dokument PDF, ki je bil objavljen na platformi Telegram z neomejenim dostopom, v njem pa so podpirali teroristično nasilje in poveličevali desničarske teroristične napade. Teroristična vsebina, ki je bila predmet druge odredbe o odstranitvi, je bil videoposnetek s posnetki džihadistov iz t. i. teroristične organizacije Islamske države med spopadom, ki je bil naložen v Internet Archive. Ti vsebini sta bili z obeh platform odstranjeni v manj kot eni uri, kar je v skladu s členom 3(3) Uredbe. V oceni, ki jo je zagotovil španski pristojni organ, je bilo pojasnjeno, da so se za odredbo o odstranitvi in ne za obvestilo odločili iz dveh glavnih razlogov: zaradi skladnosti z zahtevami iz Uredbe glede odredb o odstranitvi in nujnosti. Španski pristojni organ je nato poslal dodatne odredbe o odstranitvi:

Španski pristojni organ je poudaril izzive, povezane s tem, da je en ponudnik storitev gostovanja (Meta) za prejemanje odredb o odstranitvi uporabljal spletni obrazec, namesto da bi zagotovil neposredno kontaktno točko. Ta spletni obrazec je povzročil težave tudi pri komuniciranju s pristojnim organom države članice, v kateri je glavni sedež ponudnika storitev gostovanja.

Francoski pristojni organ je prvo odredbo o odstranitvi izdal 13. julija 2023 za platformo za izmenjavo informacij (Justpaste.it), ki je teroristično vsebino odstranila v eni uri. Ciljna vsebina je bila propaganda Al Kaide, natančneje njenega medijskega organa Rikan Ka Mimber njene indijske veje Al Kaida na Indijski podcelini. Popolna odstranitev vsebine je bila potrjena na Europolovi platformi PERCI.

Nemški pristojni organ je 16., 18. in 24. oktobra 2023 izdal 6, 16 oziroma 5 odredb o odstranitvi, usmerjenih v propagando gibanja Hamas in palestinskega islamskega džihada. Dostop do vsebine je bil v EU blokiran v skladu s členom 3(3) Uredbe. Nemški pristojni organ je naprej poslal obvestila, nato pa je izdal odredbe o odstranitvi, saj v zvezi s temi obvestili niso bili sprejeti ukrepi. Po napadu Hamasa 7. oktobra 2023 je nemški pristojni organ poslal 249 odredb o odstranitvi, večinoma platformi Telegram 13 .

Češki pristojni organ in avstrijski pristojni organ sta izdala dve oziroma osem odredb o odstranitvi platformi X oziroma Telegramu.

Kar zadeva uporabo spletnega obrazca za prejemanje odredb o odstranitvi s strani ponudnika storitev gostovanja, so španski organi navedli dve težavi: (1) v okviru člena 3(2) Uredbe spletni obrazec pristojnim organom držav članic ne omogoča pošiljanja informacij o veljavnih postopkih in rokih pred izdajo prve odredbe o odstranitvi ponudniku storitev gostovanja; (2) v okviru člena 4(1) spletni obrazec ne omogoča sočasne predložitve kopije odredbe o odstranitvi pristojnemu organu države članice, v kateri ima ponudnik storitev gostovanja glavni sedež, in pravnemu zastopniku ponudnika storitev gostovanja.

4.2    ČEZMEJNE ODREDBE O ODSTRANITVI (člen 4)

Španski pristojni organ v zvezi s prvima odredbama o odstranitvi, izdanima aprila 2023, ni mogel poslati kopij organu države članice, v kateri je imel ponudnik storitev gostovanja glavni sedež ali pravnega zastopnika, saj noben od obeh ponudnikov storitev gostovanja takrat ni imel glavnega sedeža ali pravnega zastopnika v EU. Pri poznejših odredbah o odstranitvi je španski pristojni organ kopije poslal pristojnemu organu države članice, v kateri je imel ponudnik storitev gostovanja glavni sedež ali je imenoval pravnega zastopnika.

Države članice so poročale o težavi v zvezi s pošiljanjem odredb o odstranitvi ponudnikom storitev gostovanja s sedežem v tretjih državah, ki še niso izpolnile obveznosti imenovanja pravnega zastopnika v EU. V zvezi s tem je Komisija podprla države članice pri zagotavljanju, da ponudniki storitev gostovanja izpolnijo obveznost imenovanja pravnega zastopnika v EU in zagotovitve kontaktne točke (člen 15(1) Uredbe), kot je elektronski naslov, da se zagotovi takojšnje ukrepanje. Poleg tega je Komisija ponudnike storitev gostovanja na njihove obveznosti opozorila na različnih forumih, med drugim na internetnem forumu EU.

Glede na informacije, ki so na voljo Komisiji, noben pristojni organ države članice, v kateri ima ponudnik storitev gostovanja glavni sedež, odredbe o odstranitvi doslej še ni pregledal v skladu s členom 4 Uredbe, da bi ugotovil, ali resno ali očitno krši Uredbo ali temeljne pravice in svoboščine, saj še ni bila predložena nobena utemeljena zahteva za pregled. Zato noben organ doslej še ni ugotovil, da so bile s katero koli odredbo o odstranitvi na ta način kršene ta uredba ali temeljne pravice.

Noben ponudnik storitev gostovanja doslej ni ponovno objavil vsebine (ali dostopa do te vsebine), ki je bila predmet odredbe o odstranitvi, na podlagi pregleda v skladu s členom 4 Uredbe, ker do takega pregleda in zahtev za ponovno objavo še ni prišlo. Zato informacije o tem, kako dolgo običajno traja, da se vsebina ponovno objavi ali da se ponovno omogoči dostop do nje, ali o „potrebnih ukrepih“, ki jih ponudniki storitev gostovanja sprejmejo za ponovno objavo vsebine ali dostopa do nje, niso na voljo.

4.3    PRAVNA SREDSTVA (člen 9)

Glede na informacije, ki so na voljo Komisiji, ponudniki storitev gostovanja doslej še niso izpodbijali odredb o odstranitvi ali odločitev na podlagi člena 5(4) pred ustreznimi sodišči. Kljub temu je eden od ponudnikov storitev gostovanja trdil, da odredbe o odstranitvi ni mogoče izvršiti.

Glede na informacije, ki so jih predložile države članice 14 , ima vsaj 12 držav članic vzpostavljene „učinkovite postopke“, ki ponudnikom storitev gostovanja in ponudnikom vsebin omogočajo izpodbijanje odredbe o odstranitvi in/ali odločitve, sprejete v skladu s členom 4(4) ali členom 5(4), (6) ali (7), pred sodišči pristojnega organa teh držav članic (člen 9(1) in (2)). V državah članicah, v katerih so vzpostavljeni ti postopki, se taki postopki večinoma nanašajo na pravdne postopke. Vendar na podlagi trenutnih podatkov, prejetih od držav članic, ni mogoče ugotoviti, ali so ti postopki „učinkoviti“ ali specifični za Uredbo, saj doslej ni bila izpodbijana nobena odločitev.

4.4    POSEBNI UKREPI IN Z NJIMI POVEZANA PREGLEDNOST (člena 5 in 7)

Glede na razpoložljive informacije ni bilo za nobenega ponudnika storitev gostovanja doslej ugotovljeno, da je bil izpostavljen teroristični vsebini v smislu člena 5(4) Uredbe. Zato se zahteva po sprejetju posebnih ukrepov iz navedenega člena (še) ne uporablja za nobenega ponudnika storitev gostovanja.

Kljub temu je mogoče navesti, da je glede na poročila o preglednosti, ki so jih predložili ponudniki storitev gostovanja, več teh ponudnikov sprejelo ukrepe za obravnavanje zlorabe njihovih storitev za razširjanje terorističnih vsebin, zlasti s sprejetjem posebnih pogojev ter uporabo drugih določb in ukrepov za omejitev razširjanja terorističnih vsebin. Kot je navedeno zgoraj, morajo ponudniki storitev gostovanja v skladu s členom 7 zagotoviti preglednost v zvezi s tem ne le s poročanjem o preglednosti, temveč tudi z vključitvijo jasnih informacij v svoje pogoje.

4.5    NEPOSREDNA GROŽNJA ZA ŽIVLJENJE (člen 14(5))

Člen 14(5) Uredbe določa, da kadar ponudniki storitev gostovanja ugotovijo teroristično vsebino, ki vključuje neposredno grožnjo za življenje, o tem takoj obvestijo organe, pristojne za preiskovanje in pregon kaznivih dejanj v zadevnih državah članicah. Kadar ni mogoče ugotoviti zadevne države članice ali držav članic, ponudnik storitev gostovanja informacije pošlje Europolu za ustrezno nadaljnje ukrepanje.

Komisija je bila do 31. decembra 2023 obveščena o devetih primerih, v katerih je Europolova enota za prijavljanje internetnih vsebin v EU prejela informacije o terorističnih vsebinah, ki vključujejo neposredno grožnjo za življenje. Ker člen 14(5) Uredbe ne določa obveznosti obveščanja Europola v vseh primerih, je mogoče, da je število uradnih obvestil večje. Edina država članica, ki je predložila informacije o uporabi člena 14(5), je bila Španija. Organi Španije so 18. aprila 2023 prejeli sporočilo družbe Amazon o domnevni teroristični vsebini, ki vključuje neposredno grožnjo za življenje, na platformi za videoigre Twitch. Ocenjeno je bilo, da vsebina ne ustreza pogojem za teroristične vsebine, ki vključujejo neposredno grožnjo za življenje, v smislu Uredbe.

4.6    SODELOVANJE MED PONUDNIKI STORITEV GOSTOVANJA, PRISTOJNIMI ORGANI IN EUROPOLOM (člen 14)

Kot je navedeno zgoraj, je Europol razvil platformo, imenovano „PERCI“, za podporo izvajanju Uredbe s centralizacijo, usklajevanjem in omogočanjem pošiljanja odredb o odstranitvi in obvestil držav članic ponudnikom storitev gostovanja. Platforma deluje od 3. julija 2023. Europol je pred celovito uvedbo orodja PERCI vzpostavil ureditve za nepredvidene dogodke v podporo ročnemu pošiljanju odredb o odstranitvi, dekonflikciji vsebine, da bi se izognili poseganju v tekoče preiskave, in kriznemu odzivanju v primerih „neposredne grožnje za življenje“.

PERCI je enoten sistem, ki omogoča sodelovanje med pristojnimi organi, ponudniki storitev gostovanja in Europolom, kot je predvideno v členu 14 Uredbe v zvezi z zadevami, ki jih zajema Uredba. Konkretneje, orodje PERCI:

·je rešitev v oblaku, ki je zasnovana za zagotavljanje varnosti in varstva podatkov v oblaku,

·je enotna platforma za skupno komunikacijo in usklajevanje v realnem času, ki podpira hitro odstranjevanje terorističnih vsebin,

·olajšuje postopek pregleda čezmejnih odredb o odstranitvi,

·krepi dekonflikcijo, ki je pomembna za preprečitev, da bi pristojni organ države članice poslal odredbo o odstranitvi, usmerjeno v vsebino, ki je predmet preiskave v drugi državi članici,

·ponudnikom storitev gostovanja omogoča, da odredbe o odstranitvi prejemajo na enoten in standardiziran način prek enega kanala.

Orodje PERCI posebej omogoča tudi pošiljanje obvestil.

Orodje PERCI poleg tega, da je pomembno v zvezi z obvestili (glej uvodno izjavo 40 Uredbe), trenutno olajšuje pošiljanje odredb o odstranitvi (člena 3 in 4), poročanje držav članic (člen 8) in usklajevanje med njimi ter dekonflikcijo v primeru navzkrižja s tekočimi preiskavami vsebine, za katero naj bi bila poslana odredba o odstranitvi (člen 14). Orodje PERCI se trenutno nadalje razvija za podporo dodatnim nalogam, ki izhajajo iz Uredbe, kot je pregled čezmejnih odredb o odstranitvi (člen 4) 15 .

Države članice so potrdile, da v skladu s členom 14 Uredbe:

·si pristojni organi izmenjujejo informacije, se usklajujejo in sodelujejo z drugimi pristojnimi organi,

·si pristojni organi izmenjujejo informacije, se usklajujejo in sodelujejo z Europolom,

·so vzpostavljeni mehanizmi za krepitev sodelovanja ob preprečevanju poseganja v preiskave, ki se izvajajo v drugih državah članicah,

·večina držav članic meni, da je orodje PERCI prednostno orodje za pošiljanje odredb o odstranitvi, saj omogoča usklajevanje ukrepanja z dekonflikcijo.

4.7     UČINKI NA OBVESTILA

Obvestila o terorističnih vsebinah so prostovoljno orodje, ki se je uporabljalo že pred sprejetjem Uredbe. Čeprav Uredba ne vsebuje posebnih pravil o obvestilih, v skladu z njeno uvodno izjavo 40 noben element v Uredbi državam članicam in Europolu ne preprečuje uporabe obvestil kot instrumenta za obravnavanje terorističnih spletnih vsebin.

Enota Europola za prijavljanje internetnih vsebin v EU je od svoje ustanovitve leta 2015 dejavna na področju prepoznavanja terorističnih spletnih vsebin in obveščanja ponudnikov storitev gostovanja o teh vsebinah ter na področju vzpostavljanja orodij (tj. orodje PERCI in prej orodje IRMA 16 ) za olajšanje pošiljanja obvestil.

Glede na informacije, ki so bile predložene Komisiji, organi držav članic obvestila še naprej uporabljajo v zvezi z nekaterimi ponudniki storitev gostovanja, vendar bi lahko razmislili o izdajanju odredb o odstranitvi ponudnikom storitev gostovanja, ki se ne odzivajo na obvestila, ali iz drugih razlogov, kot je nujnost odstranitve vsebine.

4.8    PODPORA MANJŠIM PONUDNIKOM STORITEV GOSTOVANJA PRI IZVAJANJU UREDBE

Uredba vsebuje različne obveznosti za ponudnike storitev gostovanja. Čeprav imajo večji ponudniki storitev gostovanja običajno tehnične zmogljivosti, človeške zmogljivosti za preverjanje in znanje za izvajanje Uredbe, so lahko finančni, tehnični in človeški viri ter strokovno znanje in izkušnje, ki jih imajo manjši ponudniki za ta namen, bolj omejeni. Hkrati so manjši ponudniki storitev gostovanja vse pogosteje tarča zlonamernih akterjev, ki bi izkoriščali njihove storitve. To bi bilo lahko tudi posledica prizadevanj večjih ponudnikov storitev gostovanja za učinkovito moderiranje vsebin. Čeprav ta trend odraža uspeh ukrepov za moderiranje vsebin, poudarja tudi potrebo po podpori manjšim ponudnikom storitev gostovanja pri povečanju njihove zmogljivosti in znanja za izpolnjevanje zahtev iz Uredbe.

Da bi se Komisija odzvala na ta izziv, je v okviru Sklada za notranjo varnost objavila razpis za zbiranje predlogov, da bi manjše ponudnike storitev gostovanja podprla pri izvajanju Uredbe 17 . Izbrala je tri projekte 18 , da bi jih podprla s pristopom na treh ravneh. Prvič, z obveščanjem in ozaveščanjem o pravilih in zahtevah iz Uredbe, drugič, z razvojem, izvajanjem in uvajanjem orodij in okvirov, potrebnih za obravnavanje razširjanja terorističnih spletnih vsebin, ter, tretjič, z izmenjavo izkušenj in dobrih praks v industriji.

Ti trije projekti so se začeli izvajati leta 2023 in so že prinesli dragocene rezultate. V poročilu o pregledu v okviru projekta FRISCO 19 je bilo na primer ugotovljeno, da sta ozaveščenost in znanje o Uredbi mikro in malih ponudnikov storitev gostovanja zelo omejena, pri čemer so bile poudarjene morebitne težave, s katerimi bi se lahko ti srečali pri odzivu na odredbe o odstranitvi v eni uri, saj pogosto ne zagotavljajo storitev 24 ur na dan vse dni v tednu. Pomanjkanje virov, pa tudi vzpostavitev poti komuniciranja z organi kazenskega pregona predstavljata velik izziv. Več kot polovica ponudnikov storitev gostovanja, ki so jih anketirali izvajalci, ne moderirajo vsebin, ki so jih ustvarili uporabniki, pri čemer so navedli, da na svojih platformah niso nikoli naleteli na teroristične vsebine. Če se taka vsebina pojavi na platformah teh ponudnikov storitev gostovanja, bodo ti ponudniki verjetno sprejeli ad hoc ukrepe.

V okviru teh treh projektov se malim ponudnikom storitev gostovanja zagotavlja podpora pri njihovih prizadevanjih za skladnost s pravili Uredbe, tudi z vzpostavitvijo kontaktnih točk in izvajanjem mehanizmov za pritožbe uporabnikov.

Poleg tega je lahko za manjše ponudnike storitev gostovanja pomemben zlasti člen 3(2) Uredbe, s katerim se zahteva pravočasno zagotavljanje informacij o veljavnih postopkih in rokih ponudnikom storitev gostovanja, ki jim predhodno še ni bila izdana odredba o odstranitvi.

4.9     ZAŠČITNI UKREPI NA PODROČJU TEMELJNIH PRAVIC

Uredba vključuje različne zaščitne ukrepe za okrepitev odgovornosti in preglednosti v zvezi z ukrepi, sprejetimi za odstranjevanje terorističnih spletnih vsebin. V zvezi s tem je treba napotiti na zgoraj navedeno, zlasti na zagotovljene informacije o pravnih sredstvih, poročanju in posebnem mehanizmu za čezmejne odredbe o odstranitvi.

Poleg tega se s členom 23 Uredbe zahteva, da Komisija v okviru ocene Uredbe poroča o delovanju in učinkovitosti zaščitnih mehanizmov, zlasti tistih iz člena 4(4), člena 6(3) in členov 7 do 11. Taki zaščitni ukrepi se nanašajo na pritožbe, pravna sredstva in mehanizme kazni, ki so bili sprejeti in uvedeni zoper tveganje napačne odstranitve terorističnih spletnih vsebin za zaščito ponudnikov vsebin in ponudnikov storitev gostovanja. Ocena delovanja in učinkovitosti zaščitnih mehanizmov bo zato del ocene na podlagi člena 23.

V zvezi s tem je v programu spremljanja iz člena 21(2) Uredbe določen okvir kazalnikov za oceno učinkov Uredbe na temeljne pravice, ki se bo upošteval v oceni Uredbe.

V okviru programa spremljanja bo podprta presoja delovanja in učinkovitosti mehanizmov zaščitnih ukrepov, ki se izvajajo v okviru Uredbe, ter njihovega učinka na temeljne pravice, izvedena pa bo v okviru ocene. To področje vplivov odraža dve področji iz člena 23 Uredbe: (a) delovanje in učinkovitost zaščitnih mehanizmov, zlasti tistih iz člena 4(4), člena 6(3) in členov 7 do 11, ter (b) učinek uporabe te uredbe na temeljne pravice, zlasti na svobodo izražanja in obveščanja, spoštovanje zasebnega življenja in varstvo osebnih podatkov.

4.10 PRISTOJNI ORGANI (člen 13)

Države članice morajo v skladu s členom 13 Uredbe zagotoviti, da imajo njihovi pristojni organi potrebna pooblastila in zadostne vire za doseganje ciljev in izpolnjevanje obveznosti iz Uredbe. Nekatere države članice so za zagotovitev, da imajo pristojni organi potrebna pooblastila in zadostne vire, izvedle naslednje ukrepe:

·ustanovitev novih organov/direktoratov,

·dodelitev dodatnih sredstev in dodatnega osebja ter

·oblikovanje novih zakonodajnih okvirov.

5. SKLEPNA UGOTOVITEV

Izjemno pomembno je, da se vsa orodja in ukrepi na ravni EU v celoti izvajajo za hitro obravnavo nezakonitih vsebin, ki se razširjajo na spletu. To velja zlasti zaradi velikega obsega takih nezakonitih vsebin, kot se je nedavno pokazalo z razširjanjem vsebin, povezanih z napadom Hamasa na Izrael.

Uredba prispeva k povečanju javne varnosti po vsej Uniji, da bi se preprečilo, da bi teroristi izkoriščali ponudnike storitev gostovanja, ki delujejo na notranjem trgu, za razširjanje svojih sporočil, katerih namen je ustrahovanje, radikalizacija, novačenje in omogočanje terorističnih napadov.

Po začetku postopkov za ugotavljanje kršitev januarja 2023 je bil dosežen napredek. Do 31. decembra 2023 je 23 držav članic v skladu s členom 12(1) imenovalo pristojne organe, kot je razvidno iz spletnega registra, kar je privedlo do bolj sistematične uporabe ukrepov in orodij iz Uredbe. Poleg tega je bilo do 21. decembra 2023 zaključenih 11 od 22 postopkov za ugotavljanje kršitev, ki so se začeli januarja 2023. Komisija poziva preostale države članice, naj sprejmejo potrebne ukrepe za imenovanje pristojnih organov v skladu s členom 12(1) ter izpolnijo svoje obveznosti iz člena 12(2) in (3) ter člena 18(1).

Na splošno so države članice poročale o nemotenem pošiljanju odredb o odstranitvi ponudnikom storitev gostovanja ob podpori Europola. Na podlagi informacij, prejetih od držav članic in Europola, je bilo od začetka uporabe Uredbe poslanih vsaj 349 odredb o odstranitvi terorističnih vsebin. V desetih primerih ponudnik storitev gostovanja terorističnih vsebin ni odstranil oziroma blokiral dostopa do njih v največ enournem obdobju, določenem z Uredbo.

Glede na informacije, prejete od držav članic in Europola, se je od začetka uporabe Uredbe odzivanje na obvestila o terorističnih vsebinah povečalo, čeprav Uredba ne vsebuje nobenih pravil v zvezi s tem. Poleg tega je Europol od ponudnikov storitev gostovanja v devetih primerih prejel informacije o terorističnih vsebinah, ki vključujejo neposredno grožnjo za življenje, kot to določa člen 14(5).

Vzpostavljeni so učinkovitejši komunikacijski kanali in postopki, zlasti od začetka delovanja platforme PERCI 3. julija 2023, kar je privedlo do bolj sistematičnega pristopa k pošiljanju odredb o odstranitvi, orodje PERCI pa se uporablja tudi za pošiljanje številnih obvestil. Države članice in Europol so izrazili pričakovanje, da bo uvedba orodja PERCI koristna za uporabo teh instrumentov za boj proti terorističnim spletnim vsebinam.

Na podlagi tega Komisija ocenjuje, da je Uredba na splošno pozitivno vplivala na omejevanje razširjanja terorističnih spletnih vsebin. Kljub temu so ciljni ponudniki storitev gostovanja v desetih od 349 primerov prekoračili največ enourno obdobje, določeno v Uredbi za odstranitev terorističnih vsebin ali blokiranje dostopa do njih.

Komisija proaktivno podpira države članice in ponudnike storitev gostovanja, tudi s tehničnimi delavnicami, organiziranimi pred začetkom uporabe Uredbe in po njem. Zadnja taka delavnica je potekala 24. novembra 2023. Komisija podpira tudi manjše ponudnike storitev gostovanja, da bi zagotovila popolno in hitro uporabo Uredbe ter jim pomagala pri reševanju dosedanjih izzivov.

Komisija bo še naprej spremljala izvajanje in uporabo Uredbe. Delovanje instrumentov iz Uredbe bo pozorno spremljala prek programa spremljanja, ki se bo upošteval v oceni Uredbe v skladu s členom 23.

(1)

 V spletnem registru, ki ga je Komisija vzpostavila v skladu s členom 12(4) Uredbe, so navedeni pristojni organi iz člena 12(1) in kontaktna točka, imenovana ali vzpostavljena na podlagi člena 12(2) za vsak pristojni organ. Redno se posodablja na podlagi obvestil, prejetih od držav članic. Seznam pristojnih nacionalnih organov in kontaktnih točk (europa.eu) .

(2)

  Seznam pristojnih nacionalnih organov (organov) in kontaktnih točk.

(3)

PERCI (Plateforme Européenne de Retraits des Contenus illégaux sur Internet) je platforma za odstranjevanje nezakonitih spletnih vsebin, ki jo je razvil in jo upravlja Europol. Poleg drugih funkcij orodje podpira izvajanje Uredbe z zagotavljanjem tehnične rešitve za obdelavo obvestil in odredb o odstranitvi za ponudnike storitev gostovanja.

(4)

Obvestila so mehanizem opozarjanja ponudnikov storitev gostovanja, da lahko ponudnik prostovoljno preuči združljivost te vsebine s svojimi pogoji. V Uredbi (uvodna izjava 40) je navedeno, da so se obvestila izkazala za učinkovita in bi morala biti poleg odredb o odstranitvi še naprej na voljo.

(5)

Glej sporočilo za javnost: Teroristične spletne vsebine (europa.eu).

(6)

  Seznam pristojnih nacionalnih organov in kontaktnih točk (europa.eu) . V spletnem registru so na voljo informacije o organih 23 držav članic, pristojnih za izdajo odredb o odstranitvi v skladu s členom 12(1)(a).

(7)

Proti Finski, Malti, Češki, Danski, Romuniji, Švedski, Latviji, Španiji, Litvi, Avstriji in Slovaški.

(8)

Poročili Europola TE-SAT za leti 2023  https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_TE-SAT_2023.pdf  in 2022 https://www.europol.europa.eu/cms/sites/default/files/documents/Tesat_Report_2022_0.pdf . 

(9)

 Evropska komisija (2018), Ocena učinka, priložena Predlogu uredbe o preprečevanju razširjanja terorističnih spletnih vsebin, SWD(2018) 408 final, obiskano 4. maja 2023 na povezavi: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=SWD:2018:408:FIN .

(10)

Prav tam.

(11)

 Glej besedilo Uredbe (EU) 2021/784, člen 8(1): https://eur-lex.europa.eu/legal-content/SL/TXT/HTML/?uri=CELEX:32021R0784 .

(12)

  Ministerio del Interior | Ministerio del Interior | El CITCO culmina la retirada de Internet de dos contenidos que alentaban al terrorismo .

(13)

V skladu z informacijami, ki so na voljo Komisiji.

(14)

Opozoriti je treba, da predložene informacije niso nujno popolne. Potrebne bi bile nadaljnje ocene za celovit in popolnoma posodobljen pregled nad tem, kako so države članice izpolnile zahtevo po zagotavljanju razpoložljivosti učinkovitih pravnih sredstev.

(15)

 Podrobneje: – člena 3 in 4: pošiljanje odredb o odstranitvi; – člen 3(6)–(8): povratne informacije ponudnikov storitev gostovanja; – člen 4(3)–(7): mehanizem pregleda; – člen 7: poročanje; – člen 14(1): dekonflikcija, usklajevanje, preprečevanje podvajanja; – člen 14(3): varen komunikacijski kanal; – člen 14(4): uporaba namenskega orodja, ki ga je vzpostavil Europol; – člen 14(5): komunikacija o „neposredni grožnji za življenje“; – uvodna izjava 40: pošiljanje obvestil.

(16)

Europol je leta 2016 razvil aplikacijo za upravljanje obvestil o spletnih vsebinah (IRMA), da bi podprl pošiljanje obvestil o nezakonitih vsebinah (označevanje teh vsebin) ponudnikom spletnih storitev. Sprva je bil dostop do aplikacije IRMA odobren osebju Europola in specializiranim enotam (IRU) v sedmih državah članicah. Aplikacijo IRMA je 3. julija 2023 nadomestilo orodje PERCI.

(17)

  https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/isf/wp-call/2021-2022/call-fiche_isf-2021-ag-tco_en.pdf

(18)

 (1) Okvir na podlagi umetne inteligence za podpiranje mikro (in malih) ponudnikov storitev gostovanja pri poročanju o spletnih terorističnih vsebinah in njihovem odstranjevanju (ALLIES), (2) boj proti terorističnim spletnim vsebinam (FRISCO) in (3) tehnologija proti terorizmu v Evropi (TATE). Povezava za več informacij: Portal za financiranje in javne razpise (europa.eu).

(19)

 Priprava poročila je trajala šest mesecev, zaključila pa se je maja 2023. Poročilo temelji na povratnih informacijah 48 evropskih ponudnikov storitev gostovanja, 33 odgovorih v spletni anketi in 15 intervjujih. FRISCO, D2.1: Mapping Report on needs and barriers for compliance Understanding small and micro HSPs’ needs and awareness in relation to implementing the TCO Regulation requirements (Poročilo o pregledu potreb in ovir za skladnost Razumevanje potreb in ozaveščenosti malih in mikro ponudnikov storitev gostovanja v zvezi z izvajanjem zahtev iz uredbe o terorističnih spletnih vsebinah), ki je na voljo na spletnem mestu  Dosežki | . Frisco (friscoproject.eu) .