EUROPSKA KOMISIJA
Bruxelles, 14.2.2024.
COM(2024) 64 final
IZVJEŠĆE KOMISIJE EUROPSKOM PARLAMENTU I VIJEĆU
o provedbi Uredbe(EU) 2021/784 o borbi protiv širenja terorističkog sadržaja na internetu
{SWD(2024) 36 final}
EUROPSKA KOMISIJA
Bruxelles, 14.2.2024.
COM(2024) 64 final
IZVJEŠĆE KOMISIJE EUROPSKOM PARLAMENTU I VIJEĆU
o provedbi Uredbe(EU) 2021/784 o borbi protiv širenja terorističkog sadržaja na internetu
{SWD(2024) 36 final}
1.SAŽETAK
Uredbom (EU) 2021/784 o borbi protiv širenja terorističkog sadržaja na internetu uspostavlja se europski pravni okvir kojim se državama članicama omogućuje da zaštite građane od terorističkog sadržaja na internetu. Uredbom se nastoji osigurati neometano funkcioniranje jedinstvenog digitalnog tržišta borbom protiv zlouporabe usluga smještaja na poslužitelju za širenje u javnosti terorističkog sadržaja na internetu. Njome se nastoji spriječiti da se teroristi služe internetom za širenje poruka radi zastrašivanja, radikalizacije, regrutiranja i olakšavanja terorističkih napada. To je posebno važno u aktualnom kontekstu sukoba i nestabilnosti, koji utječe na sigurnost Europe. Agresivni rat Rusije protiv Ukrajine i teroristički napad Hamasa na Izrael 7. listopada 2023. doveli su do porasta širenja terorističkog sadržaja na internetu.
Regulatorni okvir za suzbijanje nezakonitog sadržaja na internetu dodatno je ojačan stupanjem na snagu Akta o digitalnim uslugama 16. studenoga 2022. Aktom o digitalnim uslugama uređuju se odgovornost pružatelja digitalnih usluga koji djeluju kao posrednici u njihovoj ulozi povezivanja potrošača sa sadržajem, uslugama i robom, čime se bolje štite korisnici na internetu i doprinosi sigurnijem internetskom okruženju.
Uredba o borbi protiv širenja terorističkih sadržaja na internetu počela se primjenjivati 7. lipnja 2022. U skladu s člankom 22. te uredbe Komisija Europskom parlamentu i Vijeću podnosi izvješće o primjeni uredbe („izvješće o provedbi”).
Izvješće o provedbi temelji se na ocjeni informacija koje su dostavili države članice, Europol i pružatelji usluga smještaja na poslužitelju u skladu s obvezama utvrđenima u uredbi. Na temelju te ocjene ključni nalazi o provedbi uredbe mogu se sažeti kako slijedi:
·do 31. prosinca 2023. 23 države članice imenovale su nadležna tijela s ovlastima za izdavanje naloga za uklanjanje kako je utvrđeno u uredbi 1 . Popis tijela država članica dostupan je na internetskim stranicama Komisije i redovito se ažurira 2 ;
·do 31. prosinca 2023. Komisija je primila informacije o najmanje 349 naloga za uklanjanje terorističkog sadržaja koja su izdala nadležna tijela šest država članica (Španjolske, Rumunjske, Francuske, Njemačke, Češke i Austrije), a koji su u većini slučajeva doveli do brzog postupanja pružatelja usluga smještaja na poslužitelju i uklanjanja terorističkog sadržaja ili blokiranja pristupa tom sadržaju. To dokazuje da se alati predviđeni uredbom počinju upotrebljavati i da se njima može uspješno osigurati da pružatelji usluga smještaja na poslužitelju brzo uklone teroristički sadržaj u skladu s člankom 3. stavkom 3. Prema informacijama koje je primila Komisija nijedan nalog za uklanjanje nije osporen;
·ostvarena je dobra koordinacija država članica, nadležnih tijela i Europola, konkretno Europolove jedinice za prijavljivanje neprihvatljivog internetskog sadržaja (EU IRU), pri primjeni uredbe, osobito pri obradi naloga za uklanjanje;
·Europolov alat „PERCI” 3 pušten je u rad 3. srpnja 2023. Neke države članice uspješno su ga upotrijebile za slanje naloga za uklanjanje i prijava 4 . Španjolska, njemačka, austrijska, francuska i češka nadležna tijela upotrijebila su taj alat za slanje naloga za uklanjanje. Od njegova pokretanja 3. srpnja do 31. prosinca 2023. PERCI je upotrijebljen za obradu najmanje 14 615 prijava;
·iako uredba ne sadržava posebne mjere povezane s prijavama, informacije koje je primila Komisija pokazuju da od početka primjene uredbe pružatelji usluga smještaja na poslužitelju češće reagiraju na prijave;
·prema saznanjima Komisije, do 31. prosinca 2023. nije utvrđeno da je ijedan pružatelj usluga smještaja na poslužitelju bio izložen terorističkom sadržaju u smislu članka 5. stavka 4. uredbe. To je utvrđenje preduvjet za primjenu posebnih mjera iz tog članka. Unatoč tome, izvješća o transparentnosti koja su dostavili pružatelji usluga smještaja na poslužitelju pokazuju da su proveli mjere suzbijanja zlouporabe njihovih usluga za širenje terorističkog sadržaja, konkretno da su donijeli posebne uvjete te primijenili druge odredbe i mjere kojima se ograničava širenje terorističkog sadržaja;
·ujedno su donijeli mjere za obavješćivanje o neposrednoj opasnosti po život u skladu s člankom 14. stavkom 5. uredbe.
Kad je riječ o manjim pružateljima usluga smještaja na poslužitelju, Komisija je 2021. objavila poziv na dostavu prijedloga za potporu takvim pružateljima u provedbi uredbe. Komisija je 2022. dodijelila ugovore trima projektima (vidjeti odjeljak 4.8.) koji su započeli s radom 2023., a već bilježe određene rezultate u podupiranju malih poduzeća u provedbi uredbe.
Komisija je pokrenula postupak zbog povrede protiv 22 države članice jer nisu imenovale nadležna tijela u skladu s člankom 12. stavkom 1. uredbe i jer nisu ispunile svoje obveze iz članka 12. stavaka 2. i 3. te članka 18. stavka 1., slanjem službenih opomena 5 26. siječnja 2023. Nakon pokretanja tih postupaka zbog povrede povećao se broj država članica koje su obavijestile Komisiju o nadležnim tijelima odgovornima za rješavanje naloga za uklanjanje, kao što je vidljivo iz informacija objavljenih u internetskom registru 6 . Osim toga, do 21. prosinca 2023. zaključeno je 11 predmeta zbog povrede pokrenutih u siječnju 2023. 7
Komisija je, na temelju informacija koje je primila od država članica, Europola i pružatelja usluga smještaja na poslužitelju, ocijenila da je primjena uredbe pozitivno utjecala na ograničavanje širenja terorističkog sadržaja na internetu.
2.KONTEKST
Uredba se počela primjenjivati 7. lipnja 2022. Njome se nastoji osigurati neometano funkcioniranje jedinstvenog digitalnog tržišta borbom protiv zlouporabe usluga smještaja na poslužitelju za širenje u javnosti terorističkog sadržaja na internetu. Ona državama članicama pruža ciljane alate, u obliku naloga za uklanjanje, za suzbijanje širenja terorističkog sadržaja na internetu te im omogućuje da od pružatelja usluga smještaja na poslužitelju svih veličina zatraže da poduzmu konkretne mjere kako bi zaštitili svoje usluge od toga da ih teroristički akteri iskorištavaju kada su izloženi terorističkom sadržaju.
Osim toga, stupanjem na snagu Akta o digitalnim uslugama 16. studenoga 2022. regulatorno okruženje prošireno je horizontalnim zakonodavstvom sa širokim područjem primjene čiji je cilj osigurati sigurniji digitalni prostor za potrošače, djelotvorne mjere za suzbijanje nezakonitog sadržaja i transparentnije uvjete pružanja usluga. Aktom o digitalnim uslugama Komisiji se dodjeljuju široke nadzorne, istražne i provedbene ovlasti za poduzimanje mjera usmjerenih na vrlo velike internetske platforme i tražilice. Te mjere uključuju zahtjeve za informacije i istrage o mjerama poduzeća za moderiranje sadržaja uz mogućnost izricanja novčanih kazni.
Aktom o digitalnim uslugama omogućuje se suzbijanje svih oblika nezakonitog sadržaja, čime se Komisiji omogućuje da od platformi zatraži da dostave podatke kojima dokazuju da ispunjavaju svoje obveze u pogledu uklanjanja sadržaja. Uredba o terorističkom sadržaju na internetu još je snažniji alat za taj konkretan oblik nezakonitog sadržaja s pravnom obvezom uklanjanja sadržaja u roku od sat vremena od primitka naloga za uklanjanje i učinkovitim mehanizmima sankcioniranja.
Kao što Europol ističe u izvješćima o stanju i trendovima u području terorizma (TE-SAT) 8 objavljenima proteklih godina, teroristi se uvelike služe internetom kako bi širili svoje poruke radi zastrašivanja, radikalizacije, regrutiranja i olakšavanja terorističkih napada. Iako su dobrovoljne mjere i neobvezujuće preporuke dovele do manje dostupnosti terorističkog sadržaja na internetu, okolnosti kao što su mali broj pružatelja usluga smještaja na poslužitelju koji su uveli dobrovoljne mehanizme 9 i fragmentiranost postupovnih pravila u državama članicama ograničile su djelotvornost i učinkovitost suradnje među državama članicama i pružateljima usluga smještaja na poslužitelju, zbog čega je bilo nužno uspostaviti regulatorne mjere 10 . Stoga je djelotvorna primjena uredbe ključna za suzbijanje širenja terorističkog sadržaja na internetu. Komisija proaktivno podupire nacionalna nadležna tijela u tom postupku.
U skladu s člankom 22. uredbe Komisija je do 7. lipnja 2023. morala Europskom parlamentu i Vijeću podnijeti izvješće o primjeni te uredbe („izvješće o provedbi”), izrađeno na temelju informacija koje su dostavile države članice, a koje su se djelomično oslonile na informacije koje su dostavili pružatelji usluga smještaja na poslužitelju (članak 21.). S jedne strane, do kašnjenja u podnošenju izvješća o provedbi došlo je jer su države članice i pružatelji usluga smještaja na poslužitelju Komisiji kasno dostavili ključne informacije. S druge strane, smatralo se važnim da izvješće o provedbi obuhvaća upotrebu PERCI-ja, koji je pušten u rad 3. srpnja 2023. i koji se otad koristi za obradu naloga za uklanjanje u skladu s uredbom.
Ovim izvješćem o provedbi nastoji se dati samo činjenični pregled relevantnih pitanja povezanih s primjenom uredbe. U njemu se ni na koji način ne tumači uredba niti se izražava mišljenje o tumačenjima ili drugim mjerama poduzetima pri primjeni uredbe.
U skladu s člankom 21. stavkom 2. uredbe, Komisija je do istog datuma (7. lipnja 2023.) morala uspostaviti detaljan program za praćenje ostvarenja, rezultata i učinaka uredbe. Konkretnije, u programu praćenja trebali bi se utvrditi pokazatelji te sredstva i vremenski intervali za prikupljanje podataka i drugih potrebnih dokaza. Takav program utvrđen je u popratnom radnom dokumentu službi Komisije. U njemu se navode mjere koje Komisija i države članice trebaju poduzeti pri prikupljanju i analizi podataka i drugih dokaza radi praćenja napretka i učinaka uredbe te za provedbu evaluacije uredbe u skladu s njezinim člankom 23.
3.CILJ I METODOLOGIJA IZVJEŠĆA
Cilj je ovog izvješća ocijeniti primjenu uredbe i njezina dosadašnjeg učinka na ograničavanje širenja terorističkog sadržaja na internetu. To uključuje radnje država članica i pružatelja usluga smještaja na poslužitelju, kao što su izmjene njihovih uvjeta i smjernica zajednice te njihovo reagiranje na naloge za uklanjanje i postupanje u skladu s njima.
Komisija je u tu svrhu prikupila informacije od država članica, Europolove jedinice za prijavljivanje neprihvatljivog internetskog sadržaja (EU IRU) i pružatelja usluga smještaja na poslužitelju, među ostalim informacije iz izvješća o transparentnosti i izvješća o praćenju iz članaka 7., 8. i 21. uredbe. Informacije iz članaka 8. i 21. dostavilo je 18 država članica. Informacije o radnjama pružatelja usluga smještaja na poslužitelju prikupljene su iz njihovih godišnjih izvješća o transparentnosti, od Europola i izravnom dobrovoljnom komunikacijom sa službama Komisije. Ovo izvješće o provedbi uključuje informacije koje je Komisija primila do 31. prosinca 2023.
Praćenje i obveze transparentnosti (članci 21., 7. i 8.)
Za izradu izvješća o provedbi, u skladu s člankom 21. stavkom 1. uredbe, države članice moraju prikupljati informacije od svojih nadležnih tijela i od pružatelja usluga smještaja na poslužitelju u svojoj nadležnosti i poslati ih Komisiji svake godine do 31. ožujka. To uključuje informacije o mjerama koje su poduzeli u skladu s uredbom u prethodnoj kalendarskoj godini. U članku 21. stavku 1. navode se vrste informacija koje bi države članice trebale prikupiti o mjerama poduzetima radi usklađivanja s uredbom, kao što su pojedinosti o nalozima za uklanjanje, broj zahtjeva za pristup sadržaju koji se čuva radi provedbe istraga, broj postupaka za podnošenje pritužbi i broj postupaka upravnog ili sudskog preispitivanja.
U skladu s člankom 7. stavkom 1. uredbe pružatelji usluga smještaja na poslužitelju u svojim uvjetima jasno utvrđuju svoju politiku za borbu protiv širenja terorističkog sadržaja, uključujući prema potrebi smisleno objašnjenje funkcioniranja posebnih mjera.
Osim toga, u skladu s člankom 7. stavkom 2. uredbe pružatelj usluga smještaja na poslužitelju koji je u određenoj kalendarskoj godini poduzeo radnje za borbu protiv širenja terorističkog sadržaja ili je bio dužan poduzeti mjere na temelju te uredbe čini dostupnim javnosti izvješće o transparentnosti za te radnje u toj godini. Izvješće bi trebalo objaviti do 1. ožujka naredne godine.
U članku 7. stavku 3. uredbe utvrđuju se minimalne informacije koje bi izvješća o transparentnosti trebala sadržavati, kao što su mjere provedene radi identificiranja i onemogućavanja pristupa terorističkom sadržaju, broj jedinica terorističkog sadržaja koji je uklonjen i/ili vraćen te ishodi pritužbi.
U skladu s člankom 8. uredbe imenovana nadležna tijela država članica objavljuju godišnja izvješća o transparentnosti za svoje aktivnosti na temelju uredbe. U članku 8. stavku 1. navode se minimalne informacije koje bi ta izvješća trebala sadržavati. 11
Do 31. prosinca 2023. 18 država članica poslalo je Komisiji informacije o radnjama koje su poduzele u skladu s uredbom, a 23 države članice imenovale su tijela s ovlastima za izdavanje naloga za uklanjanje kako je utvrđeno u uredbi.
4.SPECIFIČNE TOČKE OCJENE
4.1. NALOZI ZA UKLANJANJE (članak 3.)
Do 31. prosinca 2023. Komisija je obaviještena o najmanje 349 naloga za uklanjanje koje su društvima Telegram, Meta, Justpaste.it, TikTok, DATA ROOM S.R.L., FLOKINET S.R.L., Archive.org, Soundcloud, X, Jumpshare.com, Krakenfiles.com, Top4Top.net i Catbox uputila nadležna tijela Španjolske, Rumunjske, Francuske, Njemačke, Austrije i Češke.
Španjolsko nadležno tijelo CITCO (Centro de Inteligencia contra el Terrorismo y el Crimen Organizado) poslalo je 62 naloga za uklanjanje, rumunjsko nadležno tijelo (ANCOM – Autoritatea Națională pentru Administrare și Reglementare în Comunicații) poslalo je dva naloga za uklanjanje, a francusko nadležno tijelo (OCLCTIC – L'Office central de lutte contre la criminalité liée aux technologies de l'information et de la communication) 26 naloga za uklanjanje. Od terorističkog napada Hamasa na Izrael njemačko nadležno tijelo (BKA – Bundeskriminalamt) poslalo je više od 249 naloga za uklanjanje.
Španjolsko nadležno tijelo dostavilo je 62 naloga za uklanjanje: 18 prije pokretanja PERCI-ja i 44 naloga putem PERCI-ja. Izradilo je detaljan opis dostave prvih naloga za uklanjanje i daljnjeg postupanja po njima, što je vrlo važno za bolje razumijevanje posljedica i učinaka uredbe.
Španjolsko nadležno tijelo izdalo je prva dva naloga za uklanjanje 24. travnja 2023. 12 Odnosila su se na dvije pojave terorističkog sadržaja, jednu povezanu s desničarskim terorizmom i drugu povezanu s džihadizmom. Sadržaj na koji se odnosio prvi nalog za uklanjanje bio je dokument u PDF formatu objavljen na društvenoj mreži Telegram kojemu se moglo neograničeno pristupiti i u kojem se zagovaralo terorističko nasilje te su se veličali desničarski teroristički napadi. Teroristički sadržaj koji je bio predmet drugog naloga za uklanjanje bio je videozapis s prizorima borbe džihadista iz takozvane terorističke organizacije Islamske države, objavljen na stranici Internet Archive. Ta dva sadržaja uklonjena su s obje platforme u manje od sat vremena, što je u skladu s člankom 3. stavkom 3. uredbe. U svojoj je ocjeni španjolsko nadležno tijelo objasnilo da su se odlučili za nalog za uklanjanje, a ne prijavu zbog dvaju glavnih razloga: radi usklađenosti sa zahtjevima iz uredbe koji se odnose na naloge za uklanjanje i zbog hitnosti. Španjolsko nadležno tijelo zatim je dostavilo nove naloge za uklanjanje.
Španjolsko tijelo izdvojilo je probleme povezane s činjenicom da jedan pružatelj usluga smještaja na poslužitelju (Meta) zaprima naloge za uklanjanje putem internetskog obrasca umjesto da je imenovao točku za izravan kontakt. Taj je internetski obrazac uzrokovao probleme i u komunikaciji s nadležnim tijelom države članice u kojoj se nalazi glavni poslovni nastan pružatelja usluga smještaja na poslužitelju.
Francusko nadležno tijelo izdalo je prvi nalog za uklanjanje 13. srpnja 2023. platformi za dijeljenje sadržaja (Justpaste.it), koja je teroristički sadržaj uklonila u manje od sat vremena. Sadržaj o kojem je bila riječ bio je propaganda Al Qaide, konkretnije njezina medijskog tijela Rikan Ka Mimber, iz njezinog indijskog ogranka Al Qaida na Indijskom potkontinentu (AQIS). Potpuno uklanjanje sadržaja potvrđeno je na Europolovoj platformi PERCI.
Njemačko nadležno tijelo izdalo je 6, 16 i 5 naloga za uklanjanje 16., 18. i 24. listopada 2023. protiv propagande Hamasa odnosno Palestinskog islamskog džihada. Pristup sadržaju blokiran je u EU-u u skladu s člankom 3. stavkom 3. uredbe. Njemačko nadležno tijelo najprije je poslalo prijave, a zatim je izdalo naloge za uklanjanje jer se nije postupilo po prijavama. Nakon napada Hamasa 7. listopada 2023. njemačko nadležno tijelo poslalo je 249 naloga za uklanjanje, uglavnom platformi Telegram. 13
Češko nadležno tijelo izdalo je dva, a austrijsko nadležno tijelo osam naloga za uklanjanje platformi X, odnosno Telegram.
Kad je riječ o upotrebi internetskog obrasca koji jedan pružatelj usluga smještaja na poslužitelju koristi za zaprimanje naloga za uklanjanje, španjolska tijela navela su dva problema: 1. u kontekstu članka 3. stavka 2. uredbe internetski obrazac nadležnim tijelima država članica ne omogućuje slanje informacija o primjenjivim postupcima i rokovima prije izdavanja prvog naloga za uklanjanje pružatelju usluga smještaja na poslužitelju te 2. u kontekstu članka 4. stavka 1. internetski obrazac ne omogućuje istovremeno dostavljanje primjerka naloga za uklanjanje nadležnom tijelu države članice u kojoj pružatelj usluga smještaja na poslužitelju ima glavni poslovni nastan i pravnom zastupniku pružatelja usluga smještaja na poslužitelju.
4.2. PREKOGRANIČNI NALOZI ZA UKLANJANJE (članak 4.)
Za prva dva naloga za uklanjanje izdana u travnju 2023. španjolsko nadležno tijelo nije moglo poslati primjerke tijelu države članice u kojoj pružatelj usluga smještaja na poslužitelju ima glavni poslovni nastan ili pravnog zastupnika jer nijedan od to dvoje pružatelja usluga smještaja na poslužitelju u to vrijeme nije imao glavni poslovni nastan niti je imenovao pravnog zastupnika u EU-u. Za naloge za uklanjanje izdane nakon toga španjolsko nadležno tijelo poslalo je primjerke nadležnom tijelu države članice u kojoj je pružatelj usluga smještaja na poslužitelju imao glavni poslovni nastan ili je imenovao pravnog zastupnika.
Države članice izvijestile su Komisiju da je slanje naloga za uklanjanje pružateljima usluga smještaja na poslužitelju sa sjedištem u trećim zemljama koji još nisu ispunili obvezu imenovanja pravnog zastupnika u EU-u problematično. U tom je kontekstu Komisija pružila podršku državama članicama kako bi osigurale da pružatelji usluga smještaja na poslužitelju ispune svoju obvezu imenovanja pravnog zastupnika u EU-u i dostave podatke o točki za kontakt (članak 15. stavak 1. uredbe), kao što je e-adresa, kako bi se osiguralo hitno djelovanje. Nadalje, Komisija je na raznim forumima podsjetila pružatelje usluga smještaja na poslužitelju na njihove obveze, među ostalim na Internetskom forumu EU-a.
Prema informacijama kojima raspolaže Komisija nijedno nadležno tijelo neke države članice u kojoj pružatelj usluga smještaja na poslužitelju ima glavni poslovni nastan još nije provjeravalo nalog za uklanjanje u skladu s člankom 4. uredbe kako bi utvrdilo krši li se tim nalogom ozbiljno ili očito tu uredbu ili temeljna prava i slobode jer dosad još nije podnesen nijedan obrazložen zahtjev za provjeru. Zbog toga još nijedno tijelo nije utvrdilo da se nekim nalogom za uklanjanje na taj način krši tu uredbu ili temeljna prava.
Nijedan pružatelj usluga smještaja na poslužitelju još nije vratio neki sadržaj (ili mu ponovno omogućio pristup) za koji je izdan nalog za uklanjanje koji je provjeren u skladu s člankom 4. uredbe jer se takva provjera još nije odvila, odnosno zahtjevi za vraćanje sadržaja još nisu podneseni. Stoga nema informacija o tome koliko vraćanje sadržaja ili ponovno omogućivanje pristupa tom sadržaju obično traje, odnosno o „potrebnim mjerama” koje su pružatelji usluga smještaja na poslužitelju proveli da bi vratili sadržaj ili mu ponovno omogućili pristup.
4.3. PRAVNI LIJEKOVI (članak 9.)
Informacije kojima Komisija raspolaže pokazuju da pružatelji usluga smještaja na poslužitelju još nisu osporili neki nalog za uklanjanje ili odluku na temelju članka 5. stavka 4. pred nadležnim sudovima. Međutim, jedan pružatelj usluga smještaja na poslužitelju tvrdio je da nije bilo moguće izvršiti jedan nalog za uklanjanje.
Prema informacijama koje su dostavile države članice 14 njih barem 12 ima uspostavljene „djelotvorne postupke” u okviru kojih pružatelji usluga smještaja na poslužitelju i pružatelji sadržaja mogu osporiti izdani nalog za uklanjanje i/ili odluku donesenu na temelju članka 4. stavka 4. ili članka 5. stavaka 4., 6. ili 7. pred sudovima tih država članica nadležnog tijela (članak 9. stavci 1. i 2.). U državama članicama koje su uspostavile takve postupke uglavnom se radi o parničnim postupcima pokrenutima tužbom. Međutim, na temelju podataka koji su dosad zaprimljeni od država članica nije moguće utvrditi jesu li ti postupci „djelotvorni” ili posebno namijenjeni provedbi uredbe zbog toga što još nije osporena nijedna odluka.
4.4. POSEBNE MJERE I POVEZANA TRANSPARENTNOST (članci 5. i 7.)
Prema dostupnim informacijama do danas nije utvrđeno da je ijedan pružatelj usluga smještaja na poslužitelju bio izložen terorističkom sadržaju u smislu članka 5. stavka 4. uredbe. Zbog toga se zahtjev za poduzimanje posebnih mjera utvrđen u tom članku (još) ne primjenjuje ni na jednog pružatelja usluga smještaja na poslužitelju.
Unatoč tome, može se istaknuti da izvješća o transparentnosti koja su dostavili pružatelji usluga smještaja na poslužitelju pokazuju da je nekoliko tih pružatelja provelo mjere suzbijanja zlouporabe njihovih usluga za širenje terorističkog sadržaja, konkretno da su donijeli posebne uvjete te primijenili druge odredbe i mjere kojima se ograničava širenje terorističkog sadržaja. Kao što je prethodno istaknuto, u skladu s člankom 7. pružatelji usluga smještaja na poslužitelju moraju osigurati transparentnost u tom pogledu ne samo na način da izvješćuju o transparentnosti, već i na način da u svojim uvjetima navedu jasne informacije.
4.5. NEPOSREDNA OPASNOST PO ŽIVOT (članak 14. stavak 5.)
U skladu s člankom 14. stavkom 5. uredbe, ako pružatelji usluga smještaja na poslužitelju otkriju bilo kakav teroristički sadržaj koji uključuje neposrednu opasnost po život, oni o tome odmah obavješćuju tijela nadležna za istragu i kazneni progon kaznenih djela u dotičnim državama članicama. Ako nije moguće utvrditi dotične države članice, pružatelj usluga smještaja na poslužitelju prosljeđuje informacije Europolu radi primjerenog daljnjeg postupanja.
Komisija je do 31. prosinca 2023. obaviještena o devet slučajeva u kojima je Europolova jedinica EU-a za prijavljivanje neprihvatljivog internetskog sadržaja primila informacije o terorističkom sadržaju koji uključuje neposrednu opasnost po život. S obzirom na to da članak 14. stavak 5. uredbe ne sadržava obvezu obavješćivanja Europola u svim slučajevima, broj obavijesti mogao bi biti i veći. Jedina država članica koja je dostavila informacije o primjeni članka 14. stavka 5. bila je Španjolska. Španjolska tijela primila su 18. travnja 2023. obavijest od Amazona o navodnom terorističkom sadržaju koji je sadržavao neposrednu opasnost po život na platformi za prijenos videoigara Twitch. Ocijenjeno je da sadržaj ne ispunjava uvjete za teroristički sadržaj koji uključuje neposrednu opasnost po život u smislu uredbe.
4.6. SURADNJA PRUŽATELJÂ USLUGA SMJEŠTAJA NA POSLUŽITELJU, NADLEŽNIH TIJELA I EUROPOLA (članak 14.)
Kao što je prethodno navedeno, Europol je izradio platformu zvanu „PERCI” radi provedbe uredbe centralizacijom, koordinacijom i olakšavanjem slanja naloga za uklanjanje i prijava država članica pružateljima usluga smještaja na poslužitelju. Platforma radi od 3. srpnja 2023. Prije potpune provedbe PERCI-ja Europol je uspostavio postupke za nepredviđene slučajeve za potporu ručnom slanju naloga za uklanjanje, otklanjanje kolizija sadržaja kako bi se izbjeglo ometanje istraga koje su u tijeku i za hitno reagiranje u situacijama „neposredne opasnosti po život”.
PERCI je jedinstveni sustav koji omogućuje suradnju nadležnih tijela, pružateljâ usluga smještaja na poslužitelju i Europola, kako je predviđeno člankom 14. uredbe, u pitanjima obuhvaćenima uredbom. Konkretnije, PERCI:
·rješenje je utemeljeno na računalstvu u oblaku osmišljeno kako bi se zajamčile sigurnost i zaštita podataka u oblaku,
·jedinstvena je platforma za suradnju, komunikaciju i koordinaciju u stvarnom vremenu koja omogućuje brzo uklanjanje terorističkog sadržaja,
·olakšava postupak provjeravanja prekograničnih naloga za uklanjanje,
·potiče izbjegavanje kolizija, koje je važno da bi se izbjegle situacije u kojima nadležno tijelo jedne države članice pošalje nalog za uklanjanje sadržaja koji je predmet aktualne istrage u nekoj drugoj državi članici,
·omogućuje pružateljima usluga smještaja na poslužitelju da zaprimaju naloge za uklanjanje na jedinstven i standardiziran način iz jednog izvora.
PERCI zasebno od toga omogućuje i slanje prijava.
PERCI trenutačno, osim što je važan za prijave (vidjeti uvodnu izjavu 40. uredbe), olakšava slanje naloga za uklanjanje (članci 3. i 4.), izvješćivanje država članica (članak 8.) i koordinaciju među njima, kao i izbjegavanje kolizija s aktualnim istragama sadržaja za koji se namjerava poslati nalog za uklanjanje (članak 14.). PERCI se trenutačno proširuje kako bi podržavao dodatne zadatke koji proizlaze iz uredbe, kao što je provjeravanje prekograničnih naloga za uklanjanje (članak 4.) 15 .
Države članice potvrdile su da u skladu s člankom 14. uredbe:
·nadležna tijela razmjenjuju informacije, koordiniraju se i surađuju s drugim nadležnim tijelima,
·nadležna tijela razmjenjuju informacije, koordiniraju se i surađuju s Europolom,
·postoje uspostavljeni mehanizmi za poboljšavanje suradnje uz istovremeno izbjegavanje ometanja istraga koje se provode u drugim državama članicama,
·većina država članica smatra PERCI najpoželjnijim alatom za slanje naloga za uklanjanje jer omogućuje koordinaciju djelovanja izbjegavanjem kolizija.
4.7. UČINCI NA PRIJAVE
Prijave terorističkog sadržaja dobrovoljan su alat koji se upotrebljavao i prije donošenja uredbe. Iako uredba ne sadržava nikakva konkretna pravila o prijavama, u skladu s uvodnom izjavom 40. ništa u uredbi ne sprečava države članice i Europol da upotrebljavaju prijave kao instrument za borbu protiv terorističkog sadržaja na internetu.
Od svoje uspostave 2015. Europolova jedinica EU-a za prijavljivanje neprihvatljivog internetskog sadržaja aktivno radi na prepoznavanju terorističkog sadržaja na internetu i njegovu prijavljivanju pružateljima usluga smještaja na poslužitelju, kao i na uvođenju alata (npr. PERCI i ranije IRMA 16 ) kojima se olakšava slanje prijava.
Informacije dostavljene Komisiji pokazuju da se tijela država članica i dalje služe prijavama kad je riječ o određenim pružateljima usluga smještaja na poslužitelju, ali mogu razmotriti izdavanje naloga za uklanjanje za pružatelje usluga smještaja na poslužitelju koji ne reagiraju na prijave ili zbog drugih razloga, kao što je potreba za hitnim uklanjanjem sadržaja.
4.8. POTPORA MANJIM PRUŽATELJIMA USLUGA SMJEŠTAJA NA POSLUŽITELJU U PROVEDBI UREDBE
Uredba sadržava razne obveze za pružatelje usluga smještaja na poslužitelju. Dok veliki pružatelji usluga smještaja na poslužitelju obično imaju tehničke sposobnosti, kapacitete za ljudsku provjeru i znanje potrebno za provedbu uredbe, manji pružatelji mogu imati ograničenije financijske, tehničke i ljudske resurse te stručno znanje potrebno u tu svrhu. Istovremeno su manji pružatelji usluga smještaja na poslužitelju sve češće izloženi napadima zlonamjernih aktera koji žele iskoristiti njihove usluge. Razlog za to može biti i to što veći pružatelji usluga smještaja na poslužitelju djelotvorno moderiraju sadržaj. Taj trend pokazuje da su mjere moderiranja sadržaja uspješne, no ukazuje i na potrebu da se malim pružateljima usluga smještaja na poslužitelju pomogne povećati kapacitete i stručno znanje kako bi ispunili zahtjeve iz uredbe.
Kako bi riješila taj problem, Komisija je objavila poziv na dostavu prijedloga u okviru Fonda za unutarnju sigurnost kako bi se manje pružatelje usluga smještaja na poslužitelju poduprlo u provedbi uredbe 17 . Komisija je odabrala tri projekta 18 kako bi im pomogla primjenom trostrukog pristupa. Prvo, informiranjem i osvještavanjem o pravilima i zahtjevima iz uredbe; drugo, izradom, uvođenjem i puštanjem u rad alata i okvira potrebnih za borbu protiv širenja terorističkog sadržaja na internetu; te treće, razmjenom iskustava i najboljih primjera iz prakse u cijeloj industriji.
Ta su tri projekta započela s radom 2023. i već su ostvareni vrijedni rezultati. Na primjer, u izvješću o mapiranju u okviru projekta FRISCO 19 utvrđeno je da mikropružatelji i mali pružatelji usluga smještaja na poslužitelju nisu dobro osviješteni i upoznati s uredbom te su istaknute moguće poteškoće s kojima bi se mogli susresti pri pokušaju ispunjavanja naloga za uklanjanje u roku od sat vremena jer obično ne raspolažu službama koje su dostupne svaki dan u svako doba. Problem je manjak resursa, kao i uspostava komunikacijskih kanala s tijelima za izvršavanje zakonodavstva. Više od polovine pružatelja usluga smještaja na poslužitelju koje su ispitali izvođači ne moderiraju korisnički generiran sadržaj i naveli su da se nikad nisu susreli s terorističkim sadržajem na svojim platformama. Ti pružatelji usluga smještaja na poslužitelju vjerojatno će poduzeti ad hoc mjere ako se takav sadržaj pojavi na njihovim platformama.
U okviru tih triju projekata malim pružateljima usluga smještaja na poslužitelju pruža se potpora u njihovim nastojanjima da zadovolje pravila uredbe, među ostalim uspostavom točaka za kontakt i provedbenih mehanizama za pritužbe korisnika.
Osim toga, članak 3. stavak 2. uredbe, kojim se propisuje da se pružateljima usluga smještaja na poslužitelju kojima prethodno nije izdan nijedan nalog za uklanjanje pravovremeno pružaju informacije o primjenjivim postupcima i rokovima, može biti posebno relevantan manjim pružateljima usluga smještaja na poslužitelju.
4.9. MJERE KOJIMA SE ŠTITE TEMELJNA PRAVA
Uredba obuhvaća razne zaštitne mjere za povećanje odgovornosti i transparentnosti u vezi s mjerama provedenima radi uklanjanja terorističkog sadržaja na internetu. U tom se pogledu upućuje na prethodno navedeno, osobito na informacije o pravnim lijekovima, izvješćivanju i posebnom mehanizmu prekograničnih naloga za uklanjanje.
Nadalje, člankom 23. uredbe propisuje se da Komisija u kontekstu evaluacije uredbe izvješćuje o funkcioniranju i djelotvornosti zaštitnih mehanizama, posebice onih predviđenih člankom 4. stavkom 4., člankom 6. stavkom 3. i člancima od 7. do 11. Takve zaštitne mjere odnose se na pritužbe, pravne lijekove i mehanizme kazni koji su doneseni i provedeni za suzbijanje rizika od pogrešnog uklanjanja terorističkog sadržaja na internetu radi zaštite pružatelja sadržaja i pružatelja usluga smještaja na poslužitelju. Procjena funkcioniranja i djelotvornosti zaštitnih mehanizama stoga će biti dio evaluacije u skladu s člankom 23.
U tom se pogledu u programu za praćenje iz članka 21. stavka 2. uredbe daje okvir pokazatelja za evaluaciju učinaka uredbe na temeljna prava, koja će se uzeti u obzir pri evaluaciji uredbe.
Programom praćenja poduprijet će se ocjenjivanje funkcioniranja i djelotvornosti zaštitnih mehanizama koji se provode u kontekstu uredbe i njihova učinka na temeljna prava, koje će se provesti u okviru evaluacije. To područje učinka obuhvaća dva područja navedena u članku 23. uredbe: (a) funkcioniranje i djelotvornost zaštitnih mehanizama, posebice onih predviđenih člankom 4. stavkom 4., člankom 6. stavkom 3. i člancima od 7. do 11. i (b) učinak primjene te uredbe na temeljna prava, a osobito na slobodu izražavanja i informiranja, poštovanje privatnog života i zaštitu osobnih podataka.
4.10. NADLEŽNA TIJELA (članak 13.)
U skladu s člankom 13. uredbe države članice moraju osigurati da njihova nadležna tijela raspolažu potrebnim ovlastima i dovoljnim sredstvima za postizanje ciljeva uredbe i ispunjavanje svojih obveza na temelju te uredbe. Neke države članice provele su sljedeće mjere kako bi osigurale da nadležna tijela raspolažu potrebnim ovlastima i dovoljnim sredstvima:
·osnivanje novih tijela/uprava,
·dodjela dodatnih sredstava i zapošljavanje dodatnog osoblja i
·izrada novih zakonodavnih okvira.
5. ZAKLJUČAK
Iznimno je važno da se svi alati i mjere na razini EU-a u potpunosti provode kako bi se brzo riješio problem nezakonitog sadržaja koji se širi na internetu. To posebno vrijedi zbog samih razmjera takvog nezakonitog sadržaja o čemu svjedoči nedavno širenje sadržaja povezanog s napadom Hamasa na Izrael.
Uredba doprinosi povećanju javne sigurnosti u cijeloj Uniji tako što se teroriste sprečava da iskorištavaju pružatelje usluga smještaja na poslužitelju koji posluju na unutarnjem tržištu kako bi širili svoje poruke radi zastrašivanja, radikalizacije, regrutiranja i olakšavanja terorističkih napada.
Nakon pokretanja postupaka zbog povrede u siječnju 2023. ostvaren je napredak. Do 31. prosinca 2023. 23 države članice imenovale su nadležna tijela u skladu s člankom 12. stavkom 1., kao što je vidljivo iz internetskog registra, što je dovelo do sustavnije upotrebe mjera i alata predviđenih uredbom. Osim toga, do 21. prosinca 2023. zaključeno je 11 od 22 predmeta zbog povrede pokrenutih u siječnju 2023. Komisija poziva preostale države članice da poduzmu potrebne mjere kako bi imenovale nadležna tijela u skladu s člankom 12. stavkom 1. i ispunile svoje obveze iz članka 12. stavaka 2. i 3. te članka 18. stavka 1.
Države članice općenito su izvijestile o nesmetanom slanju naloga za uklanjanje pružateljima usluga smještaja na poslužitelju uz potporu Europola. Informacije primljene od država članica i Europola pokazuju da su od početka primjene uredbe poslana najmanje 349 naloga za uklanjanje terorističkog sadržaja. U 10 slučajeva jedan pružatelj usluga smještaja na poslužitelju nije uklonio teroristički sadržaj / blokirao pristup takvom sadržaju u roku od sat vremena propisanom uredbom.
Informacije primljene od država članica i Europola ukazuju na to da je od početka primjene uredbe zabilježeno povećanje postupanja po prijavama terorističkog sadržaja, unatoč tome što uredba ne sadržava nikakva pravila za takve prijave. Nadalje, Europol je u devet slučajeva primio informacije od pružatelja usluga smještaja na poslužitelju o terorističkom sadržaju koji uključuje neposrednu opasnost po život, u skladu s člankom 14. stavkom 5.
Od puštanja platforme PERCI u rad 3. srpnja 2023. postoje učinkovitiji komunikacijski kanali i postupci, što je dovelo do sustavnijeg pristupa slanju naloga za uklanjanje, a PERCI se pritom upotrebljava i za slanje velikog broja prijava. Države članice i Europol očekuju da će uvođenje platforme PERCI doprinijeti upotrebi tih instrumenata za suzbijanje terorističkog sadržaja na internetu.
Komisija je na temelju toga ocijenila da je uredba općenito pozitivno utjecala na ograničavanje širenja terorističkog sadržaja na internetu. Međutim, u 10 od 349 slučajeva pružatelj usluga smještaja na poslužitelju kojem je poslan nalog nije postupio po njemu u maksimalnom roku od sat vremena koji je propisan uredbom za uklanjanje terorističkog sadržaja ili blokiranje pristupa tom sadržaju.
Komisija proaktivno pruža potporu državama članicama i pružateljima usluga smještaja na poslužitelju, među ostalim u okviru tehničkih radionica koje su se održale prije i nakon početka primjene uredbe. Posljednja radionica održala se 24. studenog 2023. Komisija podržava i manje pružatelje usluga smještaja na poslužitelju kako bi se osigurala potpuna i brza primjena uredbe te im pomaže u rješavanju problema s kojima su se dosad susreli.
Komisija će i dalje pratiti provedbu i primjenu uredbe. Komisija će pomno pratiti uspješnost instrumenata iz uredbe u okviru programa praćenja, koja će se uzeti u obzir pri evaluaciji uredbe u skladu s člankom 23.
U internetskom registru, koji je Komisija uspostavila u skladu s člankom 12. stavkom 4. uredbe, navode se nadležna tijela iz članka 12. stavka 1. i točka za kontakt imenovana ili uspostavljena u skladu s člankom 12. stavkom 2. za svako nadležno tijelo. Redovito se ažurira na temelju obavijesti od država članica. Popis nacionalnih nadležnih tijela i točaka za kontakt (europa.eu).
PERCI (Plateforme Européenne de Retraits des Contenus illégaux sur Internet) platforma je za uklanjanje nezakonitog sadržaja na internetu, a razvio ju je i njome upravlja Europol. Podupire provedbu uredbe kao tehničko rješenje koje, među ostalim, pružateljima usluga smještaja na poslužitelju omogućuje obradu prijava i naloga za uklanjanje.
Prijave su mehanizam za upozoravanje pružatelja usluga smještaja na poslužitelju na sadržaj za koji pružatelj može dobrovoljno razmotriti je li u skladu s njegovim uvjetima. U uredbi (uvodna izjava 40.) navodi se da su prijave djelotvorne i da bi trebale i dalje biti dostupne uz naloge za uklanjanje.
Vidjeti priopćenje za medije: Teroristički sadržaj na internetu (europa.eu).
Popis nacionalnih nadležnih tijela i točaka za kontakt (europa.eu). Internetski registar sadržava informacije o tijelima 23 države članice nadležnima za izdavanje naloga za uklanjanje u skladu s člankom 12. stavkom 1. točkom (a).
Finska, Malta, Češka, Danska, Rumunjska, Švedska, Latvija, Španjolska, Litva, Austrija i Slovačka.
Europol’s TE-SAT 2023 https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_TE-SAT_2023.pdf and 2022 https://www.europol.europa.eu/cms/sites/default/files/documents/Tesat_Report_2022_0.pdf
Europska komisija (2018.), Procjena učinka uz Prijedlog uredbe o sprečavanju širenja terorističkih sadržaja na internetu, SWD(2018) 408 final, pristup 4.5.2023. na adresi: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=SWD:2018:408:FIN .
Isto.
Vidjeti tekst Uredbe (EU) 2021/784, članak 8. stavak 1.: https://eur-lex.europa.eu/legal-content/HR/TXT/HTML/?uri=CELEX:32021R0784 .
Ministerio del Interior | El CITCO culmina la retirada de Internet de dos contenidos que alentaban al terrorismo .
Prema informacijama koje su dostupne Komisiji.
Valja napomenuti da dostavljene informacije nisu nužno potpune. Bile bi potrebne daljnje procjene da bi se mogao dati potpun i aktualan pregled načina na koji su države članice provele zahtjev za osiguravanje dostupnosti djelotvornog postupka pravne zaštite.
Više pojedinosti dostupno je u: — člancima 3. i 4.: slanje naloga za uklanjanje; — članku 3. stavcima od 6. do 8.: povratne informacije pružatelja usluga smještaja na poslužitelju; — članku 4. stavcima od 3. do 7.: mehanizam provjere; — članku 7.: izvješćivanje; — članku 14. stavku 1.: izbjegavanje kolizija, koordinacija, izbjegavanje udvostručavanja napora; — članku 14. stavku 3.: siguran komunikacijski kanal; — članku 14. stavku 4.: upotreba namjenskog alata koji je uspostavio Europol; — članku 14. stavku 5.: obavješćivanje o „neposrednoj opasnosti po život”; — uvodnoj izjavi 40.: slanje prijava.
Europol je 2016. izradio aplikaciju za upravljanje prijavama neprihvatljivog internetskog sadržaja (IRMA) kako bi podupro prijavljivanje (dojavljivanje) nezakonitog sadržaja pružateljima internetskih usluga. Izvorno je pristup IRMA-i odobren osoblju Europola i specijaliziranim jedinicama (IRU) u sedam država članica. Od 3. srpnja 2023. IRMA-u je zamijenio PERCI.
1. Okvir utemeljen na umjetnoj inteligenciji za podupiranje mikropružatelja (i malih pružatelja) usluga smještaja na poslužitelju u prijavljivanju i uklanjanju terorističkog sadržaja na internetu (ALLIES), 2. Borba protiv terorističkog sadržaja na internetu (FRISCO) i 3. Tehnologija protiv terorizma u Europi (TATE). Poveznica za više informacija: Financiranje i ponude (europa.eu) .
Projekt se provodio u razdoblju od šest mjeseci do svibnja 2023. Izvješće se temelji na povratnim informacijama 48 europskih pružatelja usluga smještaja na poslužitelju, 33 odgovora dana u našoj internetskoj anketi i 15 temeljitih intervjua. FRISCO, D2.1: Mapping Report on needs and barriers for compliance Understanding small and micro hosting service providers’ needs and awareness in relation to implementing the TCO Regulation requirements, dostupno na Rezultati | Frisco (friscoproject.eu) .