EVROPSKA KOMISIJA

Bruselj, 28.9.2017

COM(2017) 555 final

SPOROČILO KOMISIJE EVROPSKEMU PARLAMENTU, SVETU, EVROPSKEMU EKONOMSKO-SOCIALNEMU ODBORU IN ODBORU REGIJ

Boj proti nezakonitim spletnim vsebinam

Povečanje odgovornosti spletnih platform

1.Uvod

1 Spletne platforme so pomembno gonilo za inovacije in rast v digitalnem gospodarstvu. Omogočile so dostop do informacij, kot ga še ni bilo, in njihovo izmenjavo ter nove tržne priložnosti, zlasti za mala in srednje velika podjetja (MSP). Spletne platforme danes za večino ljudi na internetu nudijo tudi glavno točko dostopa do informacij in drugih vsebin, bodisi z iskalnimi orodji, družbenimi omrežji, mikroblogerskimi stranmi ali platformami za izmenjavo posnetkov. Poslovni modeli platform so se nedavno razvili v smeri večje povezanosti med uporabniki in vsebino – zlasti za ciljno usmerjeno oglaševanje. Te platforme povezujejo milijarde uporabnikov z ogromnimi količinami vsebine in informacij ter državljanom in podjetjem nudijo inovativne storitve.

2 Vendar pa znatna razširitev nezakonitih vsebin, ki jih je možno naložiti, posledično pa se lahko do njih dostopi na spletu, povzroča resne pomisleke, na katere se je treba zavzeto in učinkovito odzvati. Kar je nezakonito izven spleta, je nezakonito tudi na spletu. Hujskanje k terorizmu, ksenofobni in rasistični govor, ki javno spodbuja sovraštvo in nasilje, kot tudi otroška pornografija so nezakoniti v EU. Naraščajoča dosegljivost terorističnega materiala na spletu in širjenje takšnih vsebin sta resna grožnja varnosti in dostojanstvu žrtev. Evropska unija je na to odgovorila z nekaterimi ukrepi. Vendar odkrivanje in odstranjevanje nezakonitih spletnih vsebin pomenita takojšen izziv za današnjo digitalno družbo.

3 4 Zaskrbljen zaradi terorističnih napadov v EU in širjenja spletne teroristične propagande je Evropski svet na zasedanju 22. in 23. junija 2017 izjavil, da za zadevni sektor pričakuje, da bo „razvil novo tehnologijo in orodja za izboljšanje samodejnega odkrivanja in odstranjevanja vsebine, ki ščuva k terorističnim dejanjem. To bi bilo treba po potrebi dopolniti z ustreznimi zakonodajnimi ukrepi na ravni EU“. Te pozive so v svojih izjavah ponovili tudi voditelji držav članic G7 in G20 na svojih nedavnih srečanjih na vrhu. Podobno je Evropski parlament v svoji resoluciji o spletnih platformah iz junija 2017 pozval te platforme „naj okrepijo ukrepe za boj proti nezakonitim in škodljivim spletnim vsebinam“ in Komisijo, da naj predstavi ukrepe za obravnavo teh vprašanj.

Spletne platforme, ki omogočajo dostop vsebinam večini spletnih uporabnikov, imajo pomembno družbeno odgovornost v smislu zaščite uporabnikov in družbe na splošno ter v smislu preprečevanja kriminalcem in drugim osebam, vpletene v kršitve na spletu, da bi izrabili njihove storitve. Odprti digitalni prostori, ki jih nudijo, ne smejo postati valilnica terorizma, sovražnega govora, zlorabe otrok ali trgovine z ljudmi, ali prostori, kjer zakoni ne veljajo. Jasno je, da širjenje nezakonitih spletnih vsebin lahko spodkoplje zaupanje državljanov v digitalno okolje, lahko pa tudi ogrozi nadaljnji gospodarski razvoj ekosistemov platform in enotnega digitalnega trga. Spletne platforme bi morale odločno okrepiti ukrepe za obravnavanje te težave kot del odgovornosti, ki izvira iz njihove osrednje vloge v družbi.

Boj proti nezakonitim spletnim vsebinam mora potekati ob ustreznih in čvrstih zaščitnih ukrepih, da se zagotovi varstvo različnih temeljnih pravic, ki so s tem ogrožene. Glede na svojo vse bolj pomembno vlogo pri zagotavljanju dostopa do informacij lahko imajo spletne platforme ključno vlogo tudi pri doseganju tega ravnovesja. Boj proti nezakonitim spletnim vsebinam v EU bi moral upoštevati ukrepe EU na globalni ravni in na njih temeljiti.

2.Ozadje

6 7 8 9 Evropska unija je že odgovorila na izziv, ki ga predstavljajo nezakonite spletne vsebine, in sicer z zavezujočimi ter nezavezujočimi ukrepi. Ti ukrepi politike zajemajo direktivo za boj proti spolni zlorabi in spolnemu izkoriščanju otrok ter otroški pornografiji, direktivo o boju proti terorizmu in predlagane reforme avtorskih pravic ter direktive o avdiovizualnih medijskih storitvah (DAVMS).

10 11 12 13 14 15 16 17 Te zakonodajne ukrepe dopolnjuje nabor nezakonodajnih ukrepov, kot so kodeks ravnanja za odpravo nezakonitega sovražnega govora na spletu, prizadevanje internetnega foruma EU za boj proti teroristični propagandi, memorandum o soglasju glede prodaje ponarejenega blaga, obvestilo Komisije o tržnem nadzoru proizvodov, ki se prodajajo prek spleta, spletna prodaja proizvodov iz prehranske verige, akcijski načrt EU za boj proti nedovoljeni trgovini s prostoživečimi vrstami, smernice o direktivi o nepoštenih poslovnih praksah ali skupni ukrepi nacionalnih organov znotraj mreže za sodelovanje na področju varstva potrošnikov. Evropska strategija za boljši internet za otroke je pobuda za samourejanje s ciljem izboljšanja spletnega okolja za otroke in mladino zaradi tveganj izpostavljenosti nasilnim ali spolno izkoriščevalskim vsebinam ali kibernetskemu ustrahovanju.

18 V svojih sporočilih iz leta 2016 in 2017 je Komisija poudarila potrebo po odgovornejšem ravnanju spletnih platform in okrepljenem samouravnavanju v EU za odstranjevanje nezakonitih vsebin. Poleg tega se je Komisija zavezala k izboljšanemu usklajevanju različnih sektorskih dialogov s platformami in k preučitvi potreb po smernicah za formalne postopke prijave in ukrepanja. To bi moralo biti opravljeno v sinergiji z že obstoječimi dialogi in delom na drugih področjih (ter brez poseganja vanje), kot npr. v okviru evropske agende za varnost ali na področju sovražnega govora.

19 20 21 22 Nedavna poročila o nekaterih izmed teh značilnih sektorskih pobud kažejo določen napredek. V primeru sovražnega govora poročila iz junija 2017 kažejo porast odstranjevanja, in sicer z 28 na 59 % vzorca prijavljenih vsebin iz nekaterih držav EU v šestmesečnem obdobju, vendar so opazne znatne razlike med platformami. V enakem obdobju so opazne tudi nekatere izboljšave v hitrosti odstranjevanja, medtem ko je do 28 % odstranitev prišlo šele po enem tednu. To kaže, da lahko neregulativni pristop ustvari določene rezultate, zlasti ko ga spremljajo ukrepi za olajšanje sodelovanja med vsemi zadevnimi operaterji. V okviru internetnega foruma EU za boj proti terorističnim vsebinam je bilo 80 do 90 % vsebin, ki jih je označil Europol, odstranjenih od njegove ustanovitve. Kar zadeva vsebine s spolno zlorabo otrok, je sistem posebnih prijavnih točk INHOPE že leta 2015 poročal o 91-odstotni učinkovitosti odstranjevanja v 72 urah, pri čemer je bila vsaka tretja vsebina odstranjena v 24 urah.

Različni tekoči sektorski dialogi so tudi pokazali na občutne podobnosti med postopki za odkrivanje, identificiranje, odstranjevanje in preprečevanje ponovnega nalaganja v različnih sektorjih. Te ugotovitve so bile vključene v to sporočilo.

23 Na ravni EU je splošni zakonodajni okvir za odstranjevanje nezakonitih vsebin direktiva o elektronskem poslovanju, ki med drugim harmonizira pogoje, pod katerimi lahko imajo določene spletne platforme koristi od izjem od odgovornosti za nezakonite vsebine, ki jih gostujejo na enotnem digitalnem trgu.

24 25 26 Nezakonite vsebine na spletnih platformah se lahko širijo predvsem z uporabo spletnih storitev, ki omogočajo nalaganje vsebin tretjih strani. Takšne „gostiteljske“ storitve so pod določenimi pogoji zajete v členu 14 direktive o elektronskem poslovanju. Ta člen določa, da ponudnik gostiteljske storitve ni odgovoren za podatek, ki ga je shranil na zahtevo tretje strani, pod pogojem, da (a) ponudnik dejansko ne ve za nezakonito dejavnost ali podatek in mu glede odškodninskih zahtevkov niso znana dejstva ali okoliščine, iz katerih je očitno, da gre za nezakonito dejavnost ali podatek, ali (b) ponudnik, takoj ko za to izve ali se tega zave, nemudoma ukrepa in odstrani ali onemogoči dostop do podatka. Hkrati naj bi bila ta direktiva „ustrezna podlaga za razvoj hitrih in zanesljivih postopkov za odstranitev in blokiranje dostopa do nezakonitih podatkov“.

Poleg tega člen 15 državam članicam prepoveduje, da predpišejo splošno obveznost ponudnikom, ko opravljajo storitev iz [člena 14] „za nadzor podatkov pri njihovem prenosu ali shranjevanju, pa tudi ne za dejavno raziskovanje okoliščin, na podlagi katerih se domneva, da gre za nezakonito dejavnost.“ Hkrati uvodna izjava 47 direktive navaja, da se to nanaša samo na splošne obveznosti glede nadzora in „se ne nanaša na nadzorne obveznosti v posebnih primerih in zlasti ne posega v odredbe, ki jih sprejmejo nacionalni organi skladno z nacionalno zakonodajo.“

V tem smislu se je Komisija v sporočilu o spletnih platformah iz leta 2016 zavezala, da bo ohranjala uravnovešen in predvidljiv režim odgovornosti za spletne platforme kot ključni regulativni okvir za podporo digitalnim inovacijam na enotnem digitalnem trgu.

Trenutno v EU ni harmoniziranega in celostnega pristopa za odstranjevanje nezakonitih vsebin. Dejansko v EU obstajajo različni pristopi, odvisni od države članice, kategorije vsebin ali vrste spletne platforme. Bolj usklajen pristop bi omogočal uspešnejši boj proti nezakonitim vsebinam. To bi bilo koristno tudi za razvoj enotnega digitalnega trga in zmanjšalo bi stroške doseganja skladnosti z mnogimi pravili za spletne platforme, tudi za nove ponudnike.

28 Pomembno je poudariti, da ta pravni okvir ne opredeljuje, sploh pa ne harmonizira pojmovanja tega, kaj je „nezakonita“ vsebina. Kaj je nezakonito, je določeno s posebno zakonodajo na ravni EU in nacionalni ravni. Medtem ko so npr. vrsta, značilnosti in škoda vsebin, povezanih s terorizmom, sovražnega govora, ali vsebin, povezanih s spolno zlorabo otrok ali trgovino z ljudmi, zelo različne od kršenja pravic intelektualne lastnine, pravil o varnosti izdelkov, nezakonitih spletnih trgovinskih praks ali spletnih aktivnosti, ki so žaljive, sodijo vse te različne vrste nezakonitih vsebin v isti vseobsežni pravni okvir iz direktive o elektronskem poslovanju. Poleg tega to sporočilo zaradi pomembnih podobnosti v postopku odstranjevanja teh različnih vrst vsebin zajema celoten nabor nezakonitih spletnih vsebin, hkrati pa priznava značilne sektorske razlike, kjer je to ustrezno in utemeljeno.

V EU so sodišča in nacionalni pristojni organi, vključno z organi kazenskega pregona, pristojni za pregon kriminala in ob upoštevanju dolžnega pravnega postopanja za nalaganje kazenskih sankcij, povezanih z nezakonitostjo določenih aktivnosti ali informacij na spletu. Hkrati imajo spletne platforme pravico preprečiti uporabo svoje infrastrukture in poslov za kriminalna dejanja, so pa tudi odgovorne za zaščito svojih uporabnikov in preprečevanje nezakonitih vsebin na svojih platformah ter običajno imajo tehnična sredstva za odkrivanje in odstranjevanje takšnih vsebin. Zato je še toliko bolj pomembno, da spletne platforme obsežno vlagajo v razvoj naprednih tehnologij za proaktivno zbiranje informacij o vsebinah, ki se razširjajo v njihovih prostorih, in vedenju uporabnikov. Medtem ko so hitre odločitve pri odstranjevanju nezakonitih vsebin pomembne, obstaja tudi potreba pa ustrezni uporabi varoval. To tudi zahteva ravnovesje med vlogami javnih in zasebnih organov.

Smernice in načela iz tega sporočila zato niso usmerjeni samo v odkrivanje in odstranjevanje nezakonitih vsebin; obravnavajo tudi pomisleke v zvezi z odstranjevanjem zakonitih vsebin, kar se včasih imenuje „čezmerno odstranjevanje“ in vpliva na svobodo izražanja ter medijski pluralizem. Zato bi bilo treba predvideti ustrezna varovala in jih prilagoditi določeni obravnavani vrsti nezakonitih vsebin.

29 Nedvomno obstaja javni interes v zvezi z vsebinami, ki niso nujno nezakonite, ampak potencialno škodljive, kot so lažne novice ali vsebine, škodljive mladoletnikom. Vendar se to sporočilo osredotoča na odkrivanje in odstranjevanje nezakonitih vsebin.

3.Odkrivanje in prijavljanje nezakonitih vsebin

Cilj tega dela je določiti, kaj bi morali storiti spletne platforme, pristojni organi in uporabniki, da nezakonite vsebine odkrijejo hitro in uspešno.

Spletne platforme se lahko seznanijo z obstojem nezakonitih vsebin na različne načine po različnih kanalih. Takšni kanali za prijave vključujejo (i) sodne naloge ali upravne odločbe; (ii) obvestila pristojnih organov (npr. organov kazenskega pregona), specializirane „zaupanja vredne prijavitelje“, imetnike pravic intelektualne lastnine ali običajne uporabnike ali (iii) lastne preiskave ali seznanjenost platform.

Poleg pravnih obveznosti, ki izhajajo iz zakonodaje EU in nacionalne zakonodaje ter njihove „dolžnosti skrbnega ravnanja“, kar je del njihove odgovornosti, bi morale spletne platforme uporabnikom zagotoviti varno spletno okolje, ki ni prijazno do kriminalnega ali drugega nezakonitega izkoriščanja in ki odvrača ter preprečuje kriminalna dejanja in druge kršitve na spletu.

4.Sodišča in pristojni organi

30 V skladu z zakonodajo EU in/ali nacionalno zakonodajo lahko nacionalna sodišča in v določenih primerih pristojni organi spletnim platformam izdajo zavezujoče naloge ali upravne sklepe in od njih zahtevajo odstranitev nezakonitih vsebin ali blokiranje dostopa do njih. 

Glede na to, da je hitra odstranitev nezakonitih vsebin pogosto ključna pri omejitvi njihovega širjenja in škode, bi morale spletne platforme imeti možnost hitrega sprejemanja odločitev o morebitnih ukrepih proti nezakonitim spletnim vsebinam, ne da bi za to potrebovale sodni nalog ali upravno odločbo, zlasti ko domnevne nezakonite vsebine odkrije organ kazenskega pregona, ki jih o njih obvesti. Hkrati bi morale spletne platforme uvesti ustrezna varovala, ko v zvezi s tem izvršujejo svoje odgovornosti, da zagotovijo pravice uporabnikov do učinkovitega pravnega sredstva.

31 Spletne platforme bi zato morale imeti ustrezna sredstva za razumevanje pravnih okvirov, v katerih delujejo. Prav tako bi morale, kjer je ustrezno, tesno sodelovati z organi kazenskega pregona in drugimi pristojnimi organi, zlasti tako, da so hitro in učinkovito dosegljive za zahteve, da nemudoma odstranijo nezakonite vsebine, ter da, kjer je ustrezno, organom kazenskega pregona prijavijo znake spletnih kriminalnih aktivnosti. V izogib podvajanju prizadevanj in prijav ter posledičnemu zmanjšanju uspešnosti in učinkovitosti odstranjevanja bi si morali organi kazenskega pregona in drugi pristojni organi prav tako prizadevati za medsebojno sodelovanje pri opredelitvi učinkovitih digitalnih vmesnikov, ki olajšajo hitro in zanesljivo posredovanje prijav, ter pri zagotavljanju učinkovitega odkrivanja in poročanja o nezakonitih vsebinah. Kontaktne točke, ki jih vzpostavijo platforme in organi, so ključ za ustrezen potek takšnega sodelovanja.

32 Kar zadeva teroristične vsebine, je Europol ustanovil enoto za prijavljanje internetnih vsebin, kjer varnostni strokovnjaki analizirajo teroristične vsebine in o tem obveščajo spletne platforme (nekatere države članice pa imajo svoje nacionalne enote za prijavljanje internetnih vsebin).

5.Prijave

6.Zaupanja vredni prijavitelji

Nezakonite spletne vsebine se odstranijo hitreje in bolj zanesljivo, če spletne platforme namestijo mehanizme, ki nudijo poseben kanal za prijavitelje s posebnimi izkušnjami v prijavljanju morebitnih nezakonitih vsebin na njihovih spletnih straneh. To so t. i. zaupanja vredni prijavitelji, ki so specializirani subjekti s posebnim strokovnim znanjem v odkrivanju nezakonitih vsebin in namenske strukture za odkrivanje takšnih vsebin na spletu.

V primerjavi z običajnimi uporabniki lahko zaupanja vredni prijavitelji prispevajo svoje izkušnje in opravljajo visokokakovostno delo, kar bi se moralo izkazati v prijavah višje kakovosti in hitrejšem odstranjevanju. Spletne platforme se spodbuja, da uporabljajo obstoječe mreže zaupanja vrednih prijaviteljev. Na primer kar zadeva teroristične vsebine, ima enota za prijavljanje internetnih vsebin pri Europolu potrebna strokovna znanja, da oceni, ali je določena vsebina na spletu povezana s terorizmom in nasilnim ekstremizmom, ter to znanje uporabi kot zaupanja vredni prijavitelj, in sicer poleg svoje vloge organa kazenskega pregona. Mreža posebnih prijavnih točk INHOPE za prijavljanje vsebin v zvezi s spolno zlorabo otrok je še en primer zaupanja vrednega prijavitelja; za sovražni govor so specializirane organizacije civilne družbe ali poljavni organi, specializirani za odkrivanje in prijavljanje nezakonitih spletnih rasističnih in ksenofobnih vsebin.

Da se zagotovi visoka kakovost prijav in hitrejše odstranjevanje nezakonitih vsebin bi lahko zadevni sektor na ravni EU sprejel merila, ki temeljijo zlasti na spoštovanju temeljnih pravic in demokratičnih vrednot. To se lahko izvede z mehanizmi za samourejanje ali v okviru standardizacije EU, na podlagi česar se lahko določeni subjekt obravnava kot zaupanja vredni prijavitelj, kar dopušča zadostno prožnost za upoštevanje posebnih značilnosti vsebine in vloge drugih zaupanja vrednih prijaviteljev. Ostala takšna merila bi lahko vključevala standarde za interno usposabljanje, postopkovne standarde in zagotavljanje kakovosti, med drugim pa tudi pravna varovala, kar zadeva neodvisnost, navzkrižje interesov ter varovanje zasebnosti in osebnih podatkov ter drugo. Ta varovala so še posebej pomembna v omejenem številu primerov, ko platforme vsebino lahko odstranijo na podlagi prijave zaupanja vrednega prijavitelja, ne da bi dodatno preverjale zakonitost samih vsebin. V teh omejenih primerih bi se zaupanja vredne prijavitelje lahko nadziralo na podlagi takšnih meril, certifikacijska shema pa bi potrjevala zaupanja vredni status. V vseh primerih bi morala biti na voljo zadostna varovala, da se prepreči zloraba sistema, kot je predstavljeno v oddelku 4.3.

Pristojni organi bi morali imeti možnost sodelovati, kjer je ustrezno, v mehanizmih poročanja zaupanja vrednih prijaviteljev.

Najti je treba ustrezno ravnovesje med zagotavljanjem visoke kakovosti prijav od zaupanja vrednih prijaviteljev, obsegom dodatnih ukrepov, ki bi jih podjetja sprejela v zvezi z zaupanja vrednimi prijavitelji, in bremenom pri zagotavljanju teh standardov kakovosti. Kjer bi z vidika uveljavljenih standardov prišlo do zlorabe mehanizmov zaupanja vrednih prijaviteljev, bi bilo treba status zaupanja vrednega prijavitelja odvzeti.

7.Prijave uporabnikov

Za uspešen boj proti nezakonitim spletnim vsebinam bi bilo treba spodbuditi običajne uporabnike, da prijavijo nezakonite vsebine spletnim platformam, morali pa bi tudi zaupati, da bodo upravičene prijave deležne hitre obravnave in odziva.

Kjer so vsebine javno razpoložljive, bi takšni prijavni mehanizmi morali biti tudi na voljo splošni javnosti, na da bi se moral prijavitelj vpisati kot uporabnik. Za izboljšanje učinkovitosti in natančnosti ocene potencialno nezakonitih vsebin bi takšni mehanizmi morali omogočiti enostavno prijavo po elektronski poti.

Cilj predloga Komisije za revizijo direktive o avdiovizualnih medijskih storitvah je oblikovati obveznost za ponudnike platform za izmenjavo posnetkov, da vzpostavijo in upravljajo mehanizme za uporabnike, da prijavijo ali označijo avdiovizualne vsebine, ki lahko negativno vplivajo na telesni, umski ali moralni razvoj mladoletnikov, kot tudi vsebine, ki spodbujajo nasilje ali sovraštvo.

8.Zagotavljanje visoke kakovosti prijav

Takšni mehanizmi bi morali biti vidni, enostavno dostopni, uporabnikom prijazni in kontekstualni. Prav tako bi morali omogočati enostavno prijavo različnih vrst vsebin, npr. z izbiro s seznama kategorij razlogov, zaradi katerih se domneva, da je vsebina nezakonita. Kjer je tehnično izvedljivo, se lahko uporabijo načini, pri katerih se lahko prijava opravi takoj ob prvem stiku z vsebino ali pa se uporabniku ponudi ponoven vpis ob istih uporabniških podatkih.

Takšne zadostno utemeljene in podrobne prijave omogočijo platformi, da morebitno nezakonito spletno vsebino hitro najdejo, izdelajo zanesljivo oceno nezakonitosti vsebine in hitro ukrepajo, kjer je primerno. Natančna raven potrebnih podrobnosti, ki jih platforme zahtevajo za hitro sprejemanje odločitev, se lahko znatno razlikuje od ene vrste vsebine do druge.

Od uporabnikov se običajno ne bi smelo zahtevati, da se identificirajo, ko prijavljajo vsebine, ki jih ocenijo kot nezakonite, razen če je ta podatek potreben za določitev zakonitosti vsebine (npr. uveljavljanje pravic do intelektualne lastnine). Te velja še zlasti, ko je ogrožena njihova varnost ali ko bi odkritje identitete lahko imelo pravne posledice. Uporabnike bi bilo treba spodbujati, da svoje prijave posredujejo preko zaupanja vrednih prijaviteljev, kjer ti obstajajo, ko želijo ohraniti anonimnost v razmerju do platform.

Vendar bi prijavitelji morali imeti možnost, da v prijavi prostovoljno predložijo kontaktne podatke, da jih lahko spletna platforma zaprosi za dodatne informacije ali da jih platforma obvesti o predvidenih nadaljnjih korakih. V takšnem primeru bi prijavitelj moral prejeti potrdilo o prejemu in sporočilo, v katerem bodo navedeni ukrepi, ki sledijo prijavi.

Potrdilo o sprejemu ne preprečuje samo tega, da mora prijavitelj preveriti, ali je na podlagi prijave prišlo do ukrepanja, ampak je lahko tudi dokaz v obravnavah na sodišču ali izvensodnih obravnavah v skladu s pravili, ki veljajo za takšne obravnave.

9.Proaktivni ukrepi spletnih platform

10.Proaktivni ukrepi in izjeme od odgovornosti

Spletne platforme bi glede na svojo osrednjo vlogo, zmogljivosti in pripadajoče odgovornosti morale sprejeti uspešne proaktivne ukrepe za odkrivanje in odstranjevanje nezakonitih spletnih vsebin, ne pa se samo omejiti na odzivanje na prejete prijave. Poleg tega pri določenih kategorijah nezakonitih vsebin mogoče ne bi bilo možno v celoti odstraniti tveganja resne škode, če platforme ne bi sprejele takšnih proaktivnih ukrepov.

Komisija meni, da takšni prostovoljni proaktivni ukrepi za spletne platforme ne pomenijo samodejne izgube izjeme od odgovornosti iz člena 14 direktive o elektronskem poslovanju.

Prvič, ta izjema od odgovornosti je na voljo samo ponudnikom „gostiteljskih“ storitev, ki izpolnjujejo pogoje iz člena 14 navedene direktive; med takšne ponudnike storitev sodijo tisti, katerih dejavnost je shranjevanje podatkov na prošnjo tretjih strani in ki nimajo aktivne vloge v smislu seznanjenosti s podatki ali nadzorom nad njimi 33 . 

Uvodna izjava 38 predloga Komisije za direktivo o avtorskih pravicah na enotnem digitalnem trgu z dne 14. septembra 2016 v tem smislu navaja: „Glede na člen 14 [direktive o elektronskem poslovanju] je treba preveriti, ali ima ponudnik storitev dejavno vlogo, tudi z optimizacijo predstavitve naloženih del ali predmetov urejanja ali njihove promocije, ne glede na naravo sredstev, ki jih v ta namen uporablja.“.

Zlasti z vidika člena 14 direktive o elektronskem poslovanju v zadevi L'Oréal/eBay Sodišče pojasnjuje, da „zgolj zato, ker [spletna platforma] v svojem strežniku shranjuje ponudbe za prodajo, določa podrobna pravila svoje storitve, zanjo prejema plačilo in strankam daje splošne informacije, [ji] ne more biti odvzeta možnost sklicevanja na izjeme v zvezi z odgovornostjo, ki jih določa [člen 14 direktive o elektronskem poslovanju]“ 34 . Vendar je Sodišče odločilo, da do odvzema možnosti sklicevanja na izjemo pride v primeru, da je „[spletna platforma] dajal[a] pomoč, ki je obsegala zlasti optimizacijo predstavitve ponudb za prodajo ali njihovo promocijo“ 35 .

To kaže, da samo dejstvo, da spletna platforma sprejme določene ukrepe v zvezi z zagotavljanjem svojih storitev na splošno, ne pomeni nujno, da ima aktivno vlogo pri posamezni vsebini zadev, ki jih shranjuje, in da spletna platforma zato lahko koristi izjemo od odgovornosti. Z vidika Komisije je možno, dejansko pa tudi nujno, da bi takšni ukrepi obsegali proaktivne ukrepe za odkrivanje in odstranjevanje nezakonitih spletnih vsebin, zlasti kjer navedeni ukrepi sodijo med pogoje uporabe spletne platforme. To je skladno z ravnotežjem med različnimi interesi, ki jih skuša uresničiti direktiva o elektronskem poslovanju 36 . Dejansko poudarja, da je v interesu vseh vpletenih strani, da sprejmejo in izvajajo hitre ter zanesljive postopke za odstranitev in blokiranje dostopa do nezakonitih podatkov 37 . Čeprav direktiva spletne platforme izvzema iz splošne obveznosti dejavnega raziskovanja okoliščin, 38 prav tako priznava pomembnost prostovoljnih shem. 39

Drugič, v skladu s členom 14 direktive o elektronskem poslovanju so lahko ponudniki storitev, ki sodijo v področje uporabe navedene določbe, izvzeti iz odgovornosti samo pod dvema pogojema: (a) ponudniki dejansko ne vedo za nezakonito dejavnost ali podatek in jim glede odškodninskih zahtevkov niso znana dejstva ali okoliščine, iz katerih je očitno, da gre za nezakonito dejavnost ali podatek, ali (b) ponudniki, takoj ko za to izvedo ali se tega zavedo, nemudoma ukrepajo in odstranijo informacije ali onemogočijo dostop do njih.

Sodišče je pojasnilo, da ta pogoja vključujeta „kateri koli položaj, v katerem [zadevna spletna platforma] tako ali drugače izve za ta dejstva ali okoliščine, [na podlagi katerih bi moral skrben gospodarski subjekt ugotoviti zadevno nezakonitost]“ in da to obsega, poleg prijave od tretje strani, primer, ko platforma „odkrije obstoj nezakonite dejavnosti ali podatka na podlagi preizkusa, opravljenega na lastno pobudo“ 40 .

Iz tega sledi, da proaktivni ukrepi spletnih platform za odkrivanje in odstranjevanje nezakonitih vsebin lahko vodijo k temu, da platforma pridobi znanje ali se zave nezakonitih aktivnosti ali nezakonitih podatkov, kar bi posledično lahko vodilo k izgubi izjeme od odgovornosti v skladu s točko (a) člena 14(1) direktive o elektronskem poslovanju. Vendar ima spletna platforma v takšnih primerih še vedno možnost takojšnjega ukrepanja in odstranitve ali onemogočitve dostopa do zadevnih informacij, ko je s tem seznanjena ali se tega zave. Če ravna tako, je spletna platforma še naprej upravičena do izjeme od odgovornosti na podlagi točke (b) člena 14(1). Zato skrbi v zvezi z izgubo izjeme od odgovornosti ne bi smele ovirati ali izključiti uporabe učinkovitih proaktivnih prostovoljnih ukrepov, ki jih to sporočilo želi spodbuditi.

11.Uporaba tehnologije za odkrivanje nezakonitih vsebin

Glede na količino podatkov, ki jih posredujejo spletne platforme, in tehnološki napredek pri obdelavi podatkov ter umetno inteligenco, postaja uporaba tehnologij za samodejno odkrivanje in filtriranje vse bolj pomembno orodje v boju proti nezakonitim spletnim vsebinam. Številne velike platforme uporabljajo kakšno vrsto algoritma za ujemanje, in sicer na osnovi različnih tehnologij, od enostavnega filtriranja metapodatkov do zgoščevanja vsebin in uporabe „prstnih odtisov“.

Direktiva o elektronskem poslovanju navaja, da določbe o odgovornosti ne bi smele ovirati razvoja in uporabe tehničnih sistemov za zaščito in prepoznavanje ter tehničnih instrumentov za nadzor, ki jih omogoča digitalna tehnika. 41 Kot direktiva pojasnjuje, mora takšno delovanje potekati v mejah veljavne zakonodaje EU in nacionalne zakonodaje, zlasti kar zadeva varovanje zasebnosti in osebnih podatkov ter prepoved državam članicam, da predpišejo splošno obveznost nadzora 42 .

Sektorska zakonodaja lahko določi obvezna pravila za spletne platforme, da sprejmejo ukrepe, npr. v zvezi z avtorskimi pravicami, da zagotovijo odkrivanje in odstranjevanje nezakonitih vsebin, tudi ko so upravičene do izjeme od odgovornosti iz člena 14 direktive o elektronskem poslovanju.

Na splošno se uporaba in nadaljnji razvoj takšne tehnologije spodbujata zlasti, ko grozi resna škoda, kot je v svojih sklepih z dne 22. junija 2017 pozval Evropski svet 43 . Samodejna orodja in filtri se lahko uporabljajo za odkrivanje potencialno nezakonitih vsebin, zasebne in javne raziskave pa napredujejo pri razvoju takšnih orodij. Na primer na področju avtorskih pravic je samodejno prepoznavanje vsebine že leta uspešno orodje.

Komisija podpira nadaljnje raziskave in inovativne pristope, ki presegajo najsodobnejše dosežke, s ciljem izboljšanja natančnosti tehničnih sredstev za odkrivanje nezakonitih vsebin 44 . Prav tako spodbuja sektor , da zagotovi uspešno uvajanje inovacij, ki lahko prispevajo k povečani učinkovitosti in uspešnosti postopkov za samodejno prepoznavanje.

V večini primerov trenutne dobre prakse v sektorju pomenijo uporabo samodejnih orodij za izločitev spornih vsebin, ki jih preverijo človeški strokovnjaki, ki morajo nato morda tudi oceniti nezakonitost takšnih vsebin. To načelo uporabe človeških virov je na splošno pomemben element samodejnih postopkov za določitev nezakonitosti določene vsebine, zlasti tam, kjer je veliko napak ali je treba upoštevati okoliščine. 

12.Odstranjevanje nezakonitih vsebin

45 V interesu celotne družbe je, da platforme čim prej odstranijo nezakonite vsebine. Hkrati odstranitev takšnih vsebin ne bi smela ovirati pregona morebitnega kršenja zakona ali drugih posledic. V tem smislu je izmenjava dokazov med javnimi organi in spletnimi platformami pomembna politika. Čezmejni dostop do dokazov bi bilo treba olajšati s prihodnjo zakonodajno pobudo na tem področju. Odstranitev nezakonitih vsebin s strani platform ne bi smela vplivati na preiskave ali pregon kaznivih dejanj na temelju zakonodaje Unije ali nacionalne zakonodaje.

Prav tako bi morala biti dostopna čvrsta varovala za omejitev tveganj pri odstranjevanju nezakonitih vsebin, ki bi jih podpiral nabor smiselnih obveznosti glede preglednosti, da se poveča odgovornost v postopku odstranjevanja.

13.Zagotavljanje hitrega odstranjevanje vsebin in prijavljanje kriminalnih dejanj organom kazenskega pregona

Direktiva o elektronskem poslovanju od spletnih platform zahteva, da „nemudoma“ odstranijo nezakonito vsebino, ko so se z njo seznanile, če želijo še naprej imeti uveljavljati izjemo od odgovornosti. Kaj to pomeni v praksi, je odvisno od podrobnosti posameznega primera, zlasti pa od vrste nezakonite vsebine, natančnosti prijave in morebitne povzročene škode.

Dejansko različne vrste vsebin zahtevajo različne vrste informacij o okoliščinah, da se določi zakonitost določene vsebine. Na primer, medtem ko je lažje določiti nezakonitost vsebine s spolno zlorabo otrok, določitev nezakonitosti žaljivih izjav na splošno zahteva pozorno analizo pripadajočega sobesedila.

Ko grozi resna škoda, na primer pri hujskanju k terorističnim dejanjem, je hitra odstranitev še posebej pomembna in zanjo lahko veljajo določeni roki.

Nekateri prostovoljni pristopi, kot je kodeks ravnanja za odpravo nezakonitega sovražnega govora na spletu, določajo okvirne roke za odstranitev, npr. v tem kodeksu v večini primerov 24 ur.

Popolnoma samodejno odstranjevanje ali zadržanje vsebine je lahko še posebej uspešno in bi se moralo uporabiti v okoliščinah, kjer je malo dvoma o nezakonitosti, npr. ko na odstranitev opozorijo organi kazenskega pregona ali ko je nezakonita vsebina znana, ker je bila v preteklosti že odstranjena, pri čemer se uporabijo varovala iz oddelka4.3.

Na splošno naj bi odstranjevanje na podlagi prijav zaupanja vrednih prijaviteljev potekalo hitreje zaradi kakovosti in natančnosti zagotovljenih informacij v prijavi in zaupanja vrednega statusa prijaviteljev.

V primerih, ko grozi resna škoda zaradi kršenja pravic do intelektualne lastnine, se lahko potencialna škoda zaradi takšnega kršenja tesno poveže s hitrostjo odstranitve.

Jasno poročanje platform o času, potrebnem za obdelavo zahtevkov za odstranitev glede na vrsto vsebine, bo olajšalo oceno hitrosti ukrepanja in povečalo širšo odgovornost platform.

V določenih primerih, zlasti ko je spletnim platformam težje oceniti zakonitost določene vsebine in bi bila odločitev lahko sporna, lahko negotove primere zaupajo tretjim stranem, da pridobijo nasvet. V različnih državah članicah imajo to vlogo organi za samourejanje ali pristojni organi. Takšno sodelovanje se močno priporoča kot del okrepljenega sodelovanja med spletnimi platformami in pristojnimi organi.

46 Spletne platforme bi morale organom kazenskega pregona posredovati prijavo, ko se seznanijo z dokazi o kriminalnih dejanjih ali drugih prestopkih ali naletijo nanje, da zadevne organe opozorijo in jim omogočijo preiskavo ter pregon posameznikov, ki ustvarjajo takšne vsebine, ali pa v primerih, ko storitev zlorabljajo organizirane kriminalne ali teroristične skupine. V tem primeru morajo izpolniti veljavne pravne obveznosti, vključno z Uredbo (EU) 2016/679 o varstvu osebnih podatkov. To je lahko ustrezno tudi v primerih ponudbe in prodaje izdelkov ter poslovnih praks, ki niso skladni z zakonodajo EU.

Potreba po sodelovanju z organi kazenskega pregona pri preiskavah in pregonu kriminalnih dejanj lahko v nekaterih primerih vodi k temu, da se platforme vzdržijo odstranitve obstoječe nezakonite vsebine, ko to zahteva določena tekoča preiskava, in sicer pod natančnim nadzorom nacionalnih organov ter popolnoma v skladnosti z nacionalnimi pravili za kazenski pregon.

47 48 49 Organi kazenskega pregona bi morali za ustrezno ukrepanje na podlagi teh prijav vzpostaviti potrebne zmogljivosti. Primer dobre prakse za kontaktne točke je portal SIRIUS, ki ga je vzpostavil Europol za podporo državam članicam pri spletnih protiterorističnih preiskavah, vključno s spodbujanjem sodelovanja med platformami in organi kazenskega pregona v EU.

14.Izboljšanje preglednosti

15.Preglednost politike spletnih platform o vsebini

Presojo, ali je vsebina zakonita ali nezakonita, ureja zakonodaja EU ali nacionalna zakonodaja. Hkrati lahko pogoji uporabe platform določene vrste vsebin obravnavajo kot nezaželeno ali neprimerno.

50 Spletne platforme bi morale v svojih pogojih uporabe razkriti podrobne politike o vsebini in o tem jasno obvestiti uporabnike. Ti pogoji ne bi smeli samo opredeliti politike odstranjevanja ali onemogočanja dostopa do vsebin, temveč tudi predstaviti varovala, ki preprečujejo, da bi ukrepi v zvezi z vsebino vodili k čezmernemu odstranjevanju. Pogoji uporabe spletnih platform bi kot del povečane preglednosti iz splošne politike o odstranjevanju morali še posebej predstaviti vsako možnost za uporabnike, da ugovarjajo sklepom o odstranitvi. To bi moralo zmanjšati morebitni negativni učinek na temeljne pravice uporabnikov do svobodnega izražanja in informacij.

16.Preglednost postopkov prijave in ukrepanja

Poročanje o preglednosti bi moralo vsebovati tudi rezultat uporabe politik platform o ravnanju z vsebinami.

Ob upoštevanju razlik, značilnih za vsebine, bi ta poročila lahko imela koristi od standardizacije na enotnem digitalnem trgu. To bi omogočilo boljše spremljanje, olajšalo elektronsko združevanje takšnih podatkov in pripomoglo k izogibanju nepotrebnim oviram za čezmejno ponudbo gostiteljskih storitev.

Posebno pozornost bi bilo treba nameniti manjšim spletnim platformam in MSP, da se jim omogoči zagotavljanje takšnih podatkov o preglednosti, vsaka podporna aktivnost, kot je standardizacija, pa bi morala zagotoviti čim manjše upravne ovire.

Komisija bo v strukturiranem dialogu s sektorjem še naprej preučevala potencial standardizacije ob upoštevanju postopkov prijavljanja in poročanja o preglednosti sistemov za odstranjevanje ter rezultatov.

17.Varovala proti čezmejnemu odstranjevanju in zlorabljanju sistema

Hitro ukrepanje, vključno s filtri pri nalaganju ali samodejnim odkrivanjem, ki je usmerjeno v zagotavljanje hitrega odstranjevanja nezakonitih vsebin, zlasti tam, kjer se v postopku ne uporabljajo človeški viri, lahko vplivajo na točnost odločitev, vključno s tveganjem, da se odstranijo zakonite vsebine. Zato je pomembno zagotoviti, da je na razpolago dovolj varoval, da se pomotoma odstranjene vsebine ponovno naložijo.

18.Ugovor na prijavo

Na splošno bi tisti, ki so vsebino naložili, morali imeti možnost ugovarjati odstranitvi s protiprijavo. To velja tudi v primerih, ko je odstranjevanje vsebin samodejno.

Na primer v skladu s členom 28a predloga spremembe direktive o avdiovizualnih medijskih storitvah morajo države članice zagotoviti, da so za reševanje sporov med uporabniki in ponudniki platform za izmenjavo videov zaradi uporabe ustreznih ukrepov, ki jih sprejmejo navedene platforme, na voljo mehanizmi za pritožbe in pravna sredstva.

Če so v protiprijavi podani utemeljeni razlogi za stališče, da prijavljena aktivnost ali podatki niso nezakoniti, bi moral ponudnik platforme vsebino, ki je bila odstranjena, vrniti brez nepotrebnega odlašanja ali pa bi moral uporabniku dopustiti ponovno naložitev, brez poseganja v pogoje uporabe platforme.

Možnost ugovora odločitvi o odstranitvi bi morala voditi k zmanjšanju števila neupravičenih odstranitev zakonitih vsebin in bi lahko pomenila tudi možnost predložitve dokazov za mehanizme izvensodne poravnave ali postopke pritožbe na sodišču.

V določenih okoliščinah obveščanje ponudnika vsebine in/ali možnost protiprijave ne bi bila ustrezna, zlasti ko bi to posegalo v preiskovalne pristojnosti organov držav članic za preprečevanje, odkrivanje in pregon kriminalnih dejanj, kot v primeru vsebin s spolno zlorabo otrok.

19.Ukrepi proti zlonamernim prijavam in protiprijavam

52 Postopki prijav in ukrepanja se včasih lahko zlorabijo s slabimi praksami ali zlonamerno. Takšne prakse bi bilo treba odločno preprečevati, npr. z degradiranjem nujnosti obravnave prijav od prijavitelja z velikim številom poslanih neveljavnih prijav ali ki prejme veliko protiprijav ali z odvzemom statusa zaupanja vrednega prijavitelja, in sicer na osnovi uveljavljenih in preglednih meril. Te politike bi morale biti jasno opisane v pogojih uporabe spletnih platform in biti del splošnega poročanja o preglednosti spletnih platform, da se poveča javna odgovornost. Podobni ukrepi bi morali veljati za zlonamerne protiprijave.

20.Preprečevanje ponovnega pojavljanja nezakonitih vsebin

Nezakonite vsebine se po odkritju in odstranitvi ne bi smele ponovno pojaviti na spletu. Učinkovito in uspešno preprečevanje ponovnega pojavljanja na osnovi obstoječih dobrih praks ter ustrezna varovala so ključni za dobro delujoč sistem. Preprečevanje širjenja znanih nezakonitih vsebin med platformami zahteva tesnejše sodelovanje med ponudniki spletnih storitev ob polnem spoštovanju veljavnih zakonov o varovanju konkurence. Prav tako je pomembno povečati sodelovanje organov kazenskega pregona z manjšimi in manj odpornimi podjetji, ki lahko postanejo priljubljene platforme kriminalcev in drugih oseb, vpletenih v kršitve na spletu, če se presodi, da so ranljivejša od drugih.

21.Ukrepi proti ponovnim kršiteljem

53 Da se prepreči ponovno pojavljanje nezakonitih vsebin s strani uporabnikov, ki takšne vsebine znova in znova nalagajo, je veliko platform že uvedlo ukrepe proti ponovnim kršiteljem, kot je začasna preprečitev dostopa do uporabniških računov ali njihov izbris ali ukrepi za nevidno prepoved.

To bi moralo veljati tudi za primere, ko je kršitelj ista oseba, ko je zadevna vsebina iste vrste in ko je uporabnik, kjer je ustrezno, bil takoj obveščen o prejetih prijavah proti njemu in prihodnji začasni preprečitvi dostopa do uporabniškega računa ali njegovem izbrisu. To bi uporabniku omogočilo, da bi ugovarjal odločitvi, in mu olajšalo dostop do pravnega sredstva proti ukrepu, če je to v skladu z veljavno zakonodajo ter pogodbo med uporabnikom in platformo. Tudi v takšnih primerih mora vsakršna obdelava osebnih podatkov v celoti spoštovati zadevno zakonodajo o varstvu podatkov.

Ponovno velja, da se ponudnika vsebine ne bi smelo obveščati v primerih, ko bi to posegalo v preiskovalne pristojnosti organov držav članic za preprečevanje, odkrivanje in pregon kriminalnih dejanj, ko je za to zagotovljena potrebna pravna podlaga.

22.Samodejni filtri za ponovno nalaganje

Poleg tehnologij za odkrivanje morebitnih nezakonitih vsebin iz oddelka 3.3 se tehnološka orodja lahko z višjo stopnjo zanesljivosti uporabljajo tudi za označevanje in filtriranje (odstranjevanje in zadrževanje) vsebin, ki so že bile odkrite in ocenjene kot nezakonite. Komisija zato močno spodbuja nadaljnjo uporabo takšnih orodij, vendar ob varovalih kot so reverzibilnost in izjeme, navedene spodaj.

To se trenutno dogaja s „podatkovno zbirko ključnikov“, ki se uporablja za teroristične vsebine in jo je razvil internetni forum EU, ali pa na področju avtorskih pravic ali vsebin s spolno zlorabo otrok, vendar tudi za vsebine, ki so jih organi kazenskega pregona označili kot neskladne z ustrezno zakonodajo. Te prakse so prinesle dobre rezultate. Vendar je njihova uspešnost odvisna od nadaljnjih izboljšav za omejitev napačne identifikacije vsebin in olajšanje odločitev na podlagi okoliščin ter od potrebnih varoval za reverzibilnost.

Na primer s tem, ko temelji na praksi na področju avtorskih pravic pri samodejnem prepoznavanju vsebin, Komisijin predlog o avtorskih pravicah na enotnem digitalnem trgu priznava takšne tehnologije, dokler so primerne in sorazmerne, kot možno sredstvo med drugim za preprečevanje razpoložljivosti vsebin brez dovoljenja na zadevnih spletnih servisih.

Samodejni postopki za zadrževanje vsebin po odstranitvi bi morali tudi dopuščati izjeme na podlagi sobesedila in v primerih, ko je bila odstranjena vsebina spremenjena in usklajena s pravnimi ali drugimi zahtevami. Obseg in čas uporabe izjem na podlagi sobesedila bi morala tudi upoštevati poseben značaj vsebine in vsako povezano varnostno grožnjo kot tudi možnost začasne odstranitve takšne vsebine, dokler se ne sprejme bolj poglobljena ocena.

Spletne platforme bi morale zagotoviti tudi neprekinjeno posodabljanje svojih orodij, da se zagotovi zajem vseh nezakonitih vsebin, in sicer v skladu s spremenljivimi taktikami in ravnanjem kriminalcev in drugih oseb, vpletenih v kršitve na spletu. V primeru orodij, ki se uporabljajo za teroristične vsebine, bi se ta morala prilagoditi tako, da bi zajemala nove in pretekle vsebine ter zagotovila hiter pregled in odstranitev. Takšne vsebine bi bilo treba dodati orodjem za vse platforme, kot je že omenjena „podatkovna zbirka ključnikov“ (ki se trenutno uporablja za teroristične vsebine). Takšen tehnološki razvoj bi moral potekati ob sodelovanju med spletnimi platformami, pristojnimi organi in drugimi deležniki, vključno s civilno družbo.

23.Zaključek

Porast nezakonitih vsebin, ki jih gostijo spletne platforme, povzroča resno škodo družbi, vključno s tveganji za integriteto, dostojanstvo in zdravje naših državljanov. Brez ustreznega obravnavanja bo, gledano širše, takšna škoda spodkopala zaupanje v digitalne storitve, na koncu pa še v enotni digitalni trg, ki je glavno gonilo inovacij, rasti in zaposlovanja. Četudi takšne vsebine ustvarjajo in nalagajo tretje strani, naraščajoči vpliv spletnih platform na družbo, ki izhaja iz njihove vloge vratarja za vsebine in podatke, veča njihovo odgovornost do uporabnikov in širše družbe. Zato bi morale biti spletne platforme proaktivne pri izločanju nezakonitih vsebin in preprečevanju njihovega ponovnega pojavljanja, uvesti bi morale uspešne postopke prijav in ukrepanja, vzpostaviti dobro delujoče vmesnike za sodelovanje s tretjimi stranmi (kot so zaupanja vredni prijavitelji) in posebno pozornost nameniti prijavam nacionalnih organov kazenskega pregona. Kjer spletne platforme odločijo, katere vsebine bi bilo v skladu z zakonom treba obravnavati kot nezakonite, bi bilo treba uvesti ustrezni sistem nadzora in ravnotežja.

To sporočilo daje smernice in kot takšno ne spreminja veljavnega zakonodajnega okvira ali vsebuje pravno zavezujočih pravil; glavni namen je usmerjati spletne platforme pri načinih, po katerih lahko izpolnjujejo svojo odgovornost, kar zadeva spopadanje z nezakonitimi vsebinami, ki jih gostijo. Cilj je tudi širiti dobre postopkovne prakse na različne vrste nezakonitih vsebin, da se spodbuja tesnejše sodelovanje med platformami in pristojnimi organi. Sporočilo kot takšno opisuje evropski pristop k obravnavanju nezakonitih vsebin za spletne platforme, pri čemer združuje potrebo po hitri in uspešni odstranitvi nezakonitih vsebin ter preprečevanju in pregonu kriminalnih dejanj z varovanjem svobode govora na spletu. Te smernice bodo dopolnile in okrepile tekoče sektorske dialoge.

Posebno pozornost bi bilo treba nameniti manjšim spletnim platformam, da bodo zmožne izvajati takšne postopke, pri čemer je veliko elementov iz tega sporočila bilo oblikovanih ob upoštevanju njihovih potreb. Ne glede na to bo Komisija preučila nadaljnja sredstva za podporo uporabi smernic tudi pri manjših platformah.

Enotni digitalni trg zahteva večjo skladnost odzivov javnih politik preko geografskih meja. Kot prvi korak s tem sporočilom zato Komisija zagotavlja skupna orodja za obravnavo skupnih izzivov pri odstranjevanju nezakonitih vsebin.

(1)

Trenutno je vsako sekundo na Twitterju objavljenih okoli 8 000 sporočil, na Instagramu 1 000 fotografij, na Googlu je opravljenih 60 000 poizvedovanj, na YouTubu pa je pogledanih 70 000 posnetkov. Glej http://www.internetlivestats.com/.

(2)

Glej oddelek 2.

(3)

Sklepi zasedanja Evropskega sveta, ST 8 2017 INIT, 22. in 23. junij 2017, taorminska izjava skupine G7, 26. maj 2017 in izjava voditeljev skupine G20, 8. julij 2017.

(4)

Resolucija Evropskega parlamenta z dne 15. junija 2017 o spletnih platformah (2016/2274(INI)).

(5)

Tukaj predstavljeni elementi so bili oblikovani na podlagi posvetovanj s širšo javnostjo, ciljnih posvetovanj ter delavnic z deležniki.

(6)

Glej nedavno poročilo Komisije Evropskemu parlamentu in Svetu o oceni izvajanja ukrepov iz člena 25 Direktive 2011/93/EU z dne 13. decembra 2011 o boju proti spolni zlorabi in spolnemu izkoriščanju otrok ter otroški pornografiji.

(7)

Direktiva (EU) 2017/541 o boju proti terorizmu zavezuje države članice, da sprejmejo potrebne ukrepe za zagotovitev takojšnje odstranitve spletnih vsebin, ki pomenijo ščuvanje k storitvi terorističnih dejanj (člen 21). Platforme v okviru internetnega foruma EU prostovoljno odstranijo teroristične vsebine na osnovi prijav enote za prijavljanje internetnih vsebin v okviru Europola.

(8)

COM(2016) 593.

(9)

COM(2016) 287.

(10)

http://ec.europa.eu/justice/fundamental-rights/files/hate_speech_code_of_conduct_en.pdf

(11)

http://europa.eu/rapid/press-release_IP-15-6243_en.htm

(12)

http://ec.europa.eu/transparency/regdoc/rep/3/2016/EN/3-2016-3724-EN-F1-1.PDF

(13)

UL C 250 z dne 1.8.2017

(14)

  http://ec.europa.eu/environment/cites/pdf/WAP_EN_WEB.pdf

(15)

SWD(2016)163 z dne 25.5.2016

(16)

http://ec.europa.eu/internal_market/scoreboard/performance_by_governance_tool/consumer_protection_cooperation_network/index_en.htm

(17)

Sporočilo COM(2012) 196 final (boljši internet za otroke): https://ec.europa.eu/digital-single-market/en/alliance-better-protect-minors-online  

(18)

COM(2016) 288 in COM(2017) 228.

(19)

  http://europa.eu/rapid/press-release_IP-17-1471_sl.htm

(20)

http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=71674

(21)

http://europa.eu/rapid/press-release_IP-17-544_en.htm

(22)

http://www.inhope.org/Libraries/Annual_reports/INHOPE_Annual_Report_2015.sflb.ashx?download=true

(23)

Direktiva 2000/31/ES o elektronskem poslovanju z dne 8. junija 2000.

(24)

Treba je poudariti, da na podlagi direktive o elektronskem poslovanju lahko izjeme od odgovornosti iz členov 12 do 14 izkoristijo samo tisti ponudniki storitev informacijske družbe, ki spadajo med posredne ponudnike storitev (tj. zagotavljajo izključni prenos, shranjevanje v predpomnilniku oziroma gostiteljstvo). Uvodna izjava 42 navaja, da se izjeme v zvezi z odgovornostjo nanašajo samo na primere, ko je dejavnost „bolj tehnična, samodejna in pasivna, torej ponudnik storitve informacijske družbe ne pozna niti ne more nadzorovati podatkov, ki se prenašajo ali shranjujejo.“

(25)

Večina platform nudi gostiteljske storitve za vsebine, ki jih naložijo njihovi uporabniki.

(26)

Uvodna izjava 40 direktive o elektronskem poslovanju. To sporočilo se osredotoča bolj na ponudnike gostiteljskih storitev kot na ponudnike izključnega prenosa (člen 12) ali shranjevanja v predpomnilniku (člen 13).

(27)

Gostiteljska storitev je storitev informacijske družbe, pri kateri se shranjujejo podatki prejemnika storitve. Ta kategorija lahko zajema različne akterje, od spletnih tržnic, platform za izmenjavo posnetkov, družbenih omrežij, blogerskih spletišč ali spletišč za ocene do oddelkov za komentarje bralcev na novičarskih straneh.

(28)

Primeri področij, ki so vključena (ali se predlaga njihova vključitev) v zakonodajo EU, obsegajo hujskanje k terorizmu, sovražni govor, spolno zlorabo otrok, pravice intelektualne lastnine, varnost izdelkov, ponudbo in prodajo živilskih ali tobačnih izdelkov in ponarejenih zdravil, pravila o zaščiti potrošnikov ali ukrepe za varnost izdelkov itd. Leta 2016 je Komisija tudi pojasnila preglednost, ki velja za spletne platforme, in obveznosti iz poklicne skrbnosti iz Direktive 2005/29/ES o nepoštenih poslovnih praksah, kjer spletne platforme delujejo kot trgovci v razmerju do potrošnikov.

(29)

Predlog za revizijo direktive o avdiovizualnih medijskih storitvah to vprašanje obravnava v smislu avdiovizualnih vsebin.

(30)

Člen 14(3) direktive o elektronskem poslovanju navaja, da ta člen „ne posega v možnost, da sodišče ali upravni organ skladno s pravnimi sistemi držav članic od ponudnika storitve zahteva ustavitev ali preprečitev kršitve.“ Na primer Direktiva 2004/48/ES o uveljavljanju pravic intelektualne lastnine navaja v členu 11, da „države članice zagotovijo tudi, da imajo imetniki pravic možnost vložitve zahteve za sodno odredbo proti posrednikom, katerih storitve uporablja tretja stranka za kršitev pravice intelektualne lastnine, brez poseganja v člen 8(3) Direktive 2001/29/ES.“

(31)

Člen 15(2) direktive o elektronskem poslovanju določa, da „države članice lahko določijo, da morajo ponudniki storitev informacijske družbe nemudoma obvestiti pristojne organe o domnevnih nezakonitih dejavnostih ali podatkih prejemnikov njihove storitve ali da morajo pristojnim organom na zahtevo sporočiti podatke, na podlagi katerih je možno identificirati prejemnike njihove storitve, s katerimi so sklenili dogovore o shranjevanju.“

(32)

V smislu člena 5 Direktive (EU) 2017/541 o boju proti terorizmu.

(33)

Uvodna izjava 42 direktive o elektronskem poslovanju. Glej Google Francija, 114 in 120; sodba z dne 12. julija 2011 v zadevi C324/09, L'Oréal/eBay, točka 113.

(34)

eBay 115

(35)

eBay 116

(36)

Uvodna izjava 41 direktive o elektronskem poslovanju.

(37)

Uvodna izjava 40 direktive o elektronskem poslovanju.

(38)

Člen 15(1) direktive o elektronskem poslovanju.

(39)

Uvodna izjava 40 direktive o elektronskem poslovanju.

(40)

eBay 120–121

(41)

Uvodna izjava 40 direktive o elektronskem poslovanju.

(42)

Uvodna izjava 40 in člen 15(1) direktive o elektronskem poslovanju.

(43)

http://www.consilium.europa.eu/en/press/press-releases/2017/06/22-euco-security-defence/

(44)

Trenutna prizadevanja sektorja na področju raziskav in inovacij so usmerjena v razvoj analitičnih orodij za boljše razumevanje naravnih jezikov, informacijskih kaskad in družbenih omrežij ter odkrivanje virov podatkov, vzorcev širjenja in lažnih identitet. Komisija raziskave in inovacije na tem področju podpira tudi s financiranjem projektov, usmerjenih v orodja za samodejno preverjanje verodostojnosti vsebin na družbenih omrežjih, ki jih ustvarijo uporabniki. Ta orodja lahko pomagajo pri odkrivanju neresnic v besedilih, slikah ali posnetkih ter podpirajo sledenje lažnim novicam. Vendar ugotavljanje nezakonitosti takšnih vsebin presega njihove trenutne funkcijske zmogljivosti.

(45)

Več informacij na https://ec.europa.eu/info/law/better-regulation/initiatives/ares-2017-3896097_sl in https://ec.europa.eu/home-affairs/what-we-do/policies/organized-crime-and-human-trafficking/e-evidence_en.

(46)

Člen 6(1)(c) v povezavi s členom 6(4).

(47)

V skladu s členom 15(2) direktive o elektronskem poslovanju „države članice lahko določijo, da morajo ponudniki storitev informacijske družbe nemudoma obvestiti pristojne organe o domnevnih nezakonitih dejavnostih ali podatkih prejemnikov njihove storitve ali da morajo pristojnim organom na zahtevo sporočiti podatke, na podlagi katerih je možno identificirati prejemnike njihove storitve, s katerimi so sklenili dogovore o shranjevanju.“

(48)

Shaping Internet Research Investigations Unified System

(49)

Europol bo še naprej spodbujal vzpostavljanje novih enotnih kontaktnih točk z zagotavljanjem ustreznega usposabljanja organov kazenskega pregona v državah, kjer takšnih točk še ni.

(50)

V skladu s členom 12 splošne uredbe o varstvu podatkov platforme v primeru obdelave osebnih podatkov zagotovijo pregledne politike o zasebnosti.

(51)

Poročanje o lastnih preiskavah, splošnih prijavah uporabnikov, prijavah organov kazenskega pregona itd.

(52)

Dokazi kažejo, da takšne podatke uporabljajo konkurenti (Notice and Takedown in Everyday Practice, J Urban et al., UC Berkeley, 2016) in da je bila praksa samodejnega oblikovanja prijav zlorabljena za povezovanje z umetno ustvarjeno vsebino (poročilo Googla o preglednosti).

(53)

Nevidna prepoved („shadow banning“) je ukrep za blokiranje uporabnika od spletne skupnosti na način, da se uporabnik ne zaveda, da je bil blokiran.