EUROPSKA KOMISIJA

Bruxelles, 28.9.2017.

COM(2017) 555 final

KOMUNIKACIJA KOMISIJE EUROPSKOM PARLAMENTU, VIJEĆU, EUROPSKOM GOSPODARSKOM I SOCIJALNOM ODBORU I ODBORU REGIJA

Suzbijanje nezakonitog sadržaja na internetu

Povećanje odgovornosti internetskih platformi

1.Uvod

1 Internetske platforme važni su pokretači inovacija i rasta u digitalnom gospodarstvu. Omogućile su dosad nezabilježen pristup informacijama i njihove razmjene, kao i nove prilike na tržištu, posebno za mala i srednja poduzeća (MSP). Internetske platforme danas su mnogim ljudima glavna pristupna točka za pristup informacijama i ostalom sadržaju posredstvom tražilica, društvenih mreža, stranica s mikroblogovima ili platforma za razmjenu video sadržaja. Poslovni modeli platformi također su se u novije vrijeme razvijali prema bližim vezama između korisnika i sadržaja – posebno za ciljano oglašavanje. Te platforme povezuju milijarde korisnika s velikim količinama sadržaja i informacija te građanima i poduzećima pružaju inovativne usluge.

2 Međutim, vrlo je zabrinjavajuće znatno širenje nezakonitog sadržaja koji se može učitati i kojem se stoga može pristupiti na internetu na što treba snažno i djelotvorno odgovoriti. Ono što je nezakonito izvan interneta, nezakonito je i na internetu. Poticanje na terorizam i na ksenofobni i rasistički govor kojim se javno potiče na mržnju i nasilje te materijal koji prikazuje spolno zlostavljanje djece nezakoniti su u EU-u. Sve veća dostupnost terorističkih materijala na internetu i širenje takvog sadržaja ozbiljna su prijetnja sigurnosti i dostojanstvu žrtava. Europska unija odgovorila je na te probleme određenim brojem mjera. Međutim, otkrivanje i uklanjanje nezakonitog sadržaja na internetu izazov su za današnje digitalno društvo koji treba žurno riješiti.

3 4 Izražavajući zabrinutost zbog niza terorističkih napada u EU-u i širenja terorističke propagande na internetu, Europsko vijeće je na sastanku održanom 22. – 23. lipnja 2017. izjavilo da „očekuje od industrije... da razvije nove tehnologije i alate za poboljšanje automatskog otkrivanja sadržaja kojima se potiče na teroristička djela te njihova uklanjanja. To bi, prema potrebi, trebalo dopuniti relevantnim zakonodavnim mjerama na razini EU-a.” Ti su pozivi ponovljeni u izjavama koje su objavili vođe skupina G7 i G20 na nedavnim sastancima na vrhu. Slično tomu, Europski parlament je u svojoj Rezoluciji o internetskim platformama iz lipnja 2017. poticao te platforme da „postrože mjere za borbu protiv nezakonitog i štetnog sadržaja”, te je pozvao Komisiju da predstavi prijedloge kojima će riješiti ta pitanja.

Internetske platforme kojima se većini korisnika interneta omogućuje pristup sadržaju imaju važnu društvenu odgovornost zaštititi korisnike i društvo općenito te spriječiti zločince i druge osobe koje se bave nezakonitim aktivnostima na internetu da iskorištavaju njihove usluge. Otvoreni digitalni prostori koje oni osiguravaju ne smiju postati plodno tlo za, primjerice, terorizam, nezakoniti govor mržnje, zlostavljanje djece ili trgovanje ljudima niti prostori na kojima se ne primjenjuje vladavina prava. Nedvojbeno je da se širenjem nezakonitog sadržaja na internetu može narušiti povjerenje građana u digitalno okruženje, ali bi se mogao ugroziti i daljnji gospodarski razvoj ekosustava platformi i jedinstvenog digitalnog tržišta. Internetske platforme trebale bi, u skladu sa svojom odgovornošću koja proizlazi iz njihove središnje uloge u društvu, odlučno pojačati mjere usmjerene na rješavanje tog problema.

Borba protiv nezakonitog sadržaja na internetu mora se voditi s pomoću odgovarajućih i čvrstih zaštitnih mjera kojima će se osigurati zaštita različitih ugroženih temeljnih prava. Zbog sve važnije uloge u osiguravanju pristupa informacijama, internetske platforme imaju ključnu ulogu u postizanju takve ravnoteže. Borba protiv nezakonitog sadržaja na internetu unutar EU-a trebala bi se temeljiti na djelovanju EU-a na globalnoj razini i uzimati ga u obzir.

2.Kontekst

6 7 8 9 Europska unija već je odgovorila na izazov nezakonitog sadržaja na internetu s pomoću obvezujućih i neobvezujućih mjera. Ti odgovori u području politike uključuju Direktivu o suzbijanju seksualnog zlostavljanja i seksualnog iskorištavanja djece i dječje pornografije, Direktivu o terorizmu, predložene mjere u kontekstu reforme autorskih prava i Direktivu o audiovizualnim medijskim uslugama (AVMSD).

10 11 12 13 14 15 16 17 Postojeće i predložene zakonodavne mjere dopunjene su nizom nezakonodavnih mjera, kao što je Kodeks postupanja za borbu protiv nezakonitog govora mržnje na internetu, rad internetskog foruma EU-a u pogledu terorističke propagande, Memorandum o razumijevanju o prodaji krivotvorene robe, Obavijest Komisije o nadzoru tržišta u pogledu proizvoda koji se prodaju na internetu, internetska prodaja proizvoda iz prehrambenog lanca, Akcijski plan EU-a za suzbijanje nezakonite trgovine divljom faunom i florom, Smjernice za Direktivu o nepoštenoj poslovnoj praksi ili zajedničke mjere nacionalnih nadležnih tijela u okviru mreže za suradnju u zaštiti potrošača. Europska strategija za bolji internet za djecu jest samoregulacijska inicijativa čiji je cilj poboljšati internetsko okruženje za djecu i mlade s obzirom na rizik izloženosti materijalu kao što je nasilni materijal ili materijal koji se može iskoristiti za spolno zlostavljanje ili zlostavljanje na internetu.

18 Komisija je u svojim komunikacijama iz 2016. i 2017. naglasila da internetske platforme moraju postupati odgovornije i pojačati samoregulacijske napore usmjerene na uklanjanje nezakonitog sadržaja. Nadalje, Komisija se obvezala poboljšati koordinaciju različitih sektorskih dijaloga s platformama i istražiti potrebu za smjernicama o službenim postupcima prijava i djelovanja. To bi trebalo činiti u sinergiji s dijalozima koji su već u tijeku i aktivnostima pokrenutima u drugim područjima, na primjer u okviru Europskog programa sigurnosti ili u području nezakonitog govora mržnje, i ne bi ih trebalo dovoditi u pitanje.

19 20 21 22 U nedavnim izvješćima o nekima od tih sektorskih inicijativa opisan je određeni napredak. Kada je riječ o nezakonitom govoru mržnje, u izvješćima iz 2017. istaknuto je na uzorku prijavljenog sadržaja da se uklanjanje takvog sadržaja u nekim državama EU-a povećalo s 28 na 59 posto u razdoblju od šest mjeseci, ali da među platformama postoje velike razlike. U istom razdoblju zabilježen je napredak i u pogledu brzine uklanjanja, ali je 28 posto sadržaja ipak uklonjeno tek nakon tjedan dana. To pokazuje da se određeni rezultati mogu postići i neregulatornim pristupom, posebno u kombinaciji s mjerama kojima se olakšava suradnja među svim uključenim subjektima. Od osnivanja internetskog foruma EU-a koji se bavi sadržajem povezanim s terorizmom uklonjeno je otprilike 80 – 90 posto sadržaja kojeg je označio Europol. U kontekstu materijala koji prikazuje spolno zlostavljanje djece, sustav linija za pomoć INHOPE već je 2015. prijavio učinkovitost uklanjanja od 91 % u roku od 72 sata, pri čemu bi u roku od 24 sata bila uklonjena jedna trećina tih materijala.

Tijekom različitih sektorskih dijaloga otkrivene su i znatne sličnosti u postupcima za otkrivanje, utvrđivanje, uklanjanje i sprječavanje ponovnog učitavanja u različitim sektorima. Ova Komunikacija temelji se na tim nalazima.

23 Na razini EU-a opći pravni okvir za uklanjanje nezakonitog sadržaja čini Direktiva o elektroničkoj trgovini, kojom se, među ostalim, usklađuju uvjeti pod kojima određene internetske platforme mogu iskoristiti izuzeće od odgovornosti za nezakoniti sadržaj koji smještaju na poslužitelju na cijelom jedinstvenom digitalnom tržištu.

24 25 26 Nezakoniti sadržaj na internetskim platformama može se posebno širiti s pomoću internetskih usluga koje dopuštaju učitavanje sadržaja treće strane. Takve usluge „smještaja informacija na poslužitelju” pod određenim su uvjetima obuhvaćene člankom 14. Direktive o elektroničkoj trgovini. Tim se člankom utvrđuje da davatelj usluga smještaja na poslužitelju nije odgovoran za informacije pohranjene na zahtjev trećih stana, pod uvjetom: (a) da davatelj nema stvarnog znanja o protuzakonitoj aktivnosti ili informaciji i, u pogledu zahtjeva za naknadu štete, ne zna za činjenice ili okolnosti iz kojih bi bila vidljiva protuzakonita aktivnost ili informacija ili (b), da davatelj, odmah po dobivanju takvog saznanja ili spoznaje žurno djeluje kako bi uklonio te informacije ili onemogućio pristup informacijama. Istodobno bi Direktiva trebala biti „primjerena osnova za izradu brzih i pouzdanih postupaka uklanjanja i onemogućavanja pristupa nezakonitim informacijama”.

Nadalje, člankom 15. zabranjuje se državama članicama da uvedu „opću obvezu za davatelje usluga da pri pružanju usluga iz [članka 14] prate informacije koje prenose ili pohranjuju niti opću obvezu da aktivno traže činjenice ili okolnosti koje bi ukazivale na protuzakonite aktivnosti.” Istodobno se u uvodnoj izjavi 47. Direktive podsjeća da se to odnosi samo na obvezu praćenja opće naravi i „to se ne odnosi na obveze praćenja u pojedinom slučaju, a posebno ne utječe na naloge državnih tijela u skladu s nacionalnim zakonodavstvom”.

U tom kontekstu Komisija se u svojoj Komunikaciji o internetskim platformama iz 2016. obvezala održavati uravnotežen i predvidljiv sustav odgovornosti za internetske platforme, kao ključni regulatorni okvir kojim se podupiru digitalne inovacije na cijelom jedinstvenom digitalnom tržištu.

Trenutačno u EU-u ne postoji usklađen i dosljedan pristup uklanjanju nezakonitog sadržaja. Štoviše, u EU-u postoje različiti pristupi ovisno o državama članicama, kategoriji sadržaja ili vrsti internetske platforme. Usklađenijim pristupom povećala bi se djelotvornost borbe protiv nezakonitog sadržaja. On bi koristio i razvoju jedinstvenog digitalnog tržišta i smanjio trošak usklađivanja s mnoštvom pravila za internetske platforme, uključujući novim sudionicima na tržištu.

28 Važno je naglasiti da se tim pravnim okvirom ne definira, a još manje usklađuje, „nezakoniti” sadržaj. Nezakonitost se utvrđuje u skladu s posebnim zakonodavstvom na razini EU-a i nacionalnim zakonodavstvom. Iako su, na primjer, priroda i obilježja materijala povezanog s terorizmom , nezakonitog govora mržnje ili materijala koji prikazuje spolno zlostavljanje djece ili materijala povezanog s trgovanjem ljudima i štete koja se njima uzrokuje znatno drugačiji od povreda prava intelektualnog vlasništva, pravila o sigurnosti proizvoda, nezakonite poslovne prakse na internetu ili internetskih aktivnosti klevetničke prirode, sve te različite vrste nezakonitog sadržaja obuhvaćene su istim općim pravnim okvirom utvrđenim Direktivom o elektroničkoj trgovini. Nadalje, zbog znatnih sličnosti u postupku uklanjanja tih različitih vrsta sadržaja, ovom Komunikacijom obuhvaćen je čitav raspon nezakonitog sadržaja na internetu, ali se, prema potrebi i kada je to opravdano, uzimaju u obzir razlike specifične za određene sektore.

U EU-u su sudovi i nacionalna nadležna tijela, uključujući tijela za kazneni progon, nadležni za kazneni progon kaznenih djela i određivanje kaznenih sankcija u zakonitom postupku pokrenutom zbog nezakonitosti određene djelatnosti ili informacija na internetu. Internetske platforme istodobno imaju pravo spriječiti uporabu svoje infrastrukture i poslovne djelatnosti za počinjenje kaznenih djela, odgovorne su zaštititi svoje korisnike i spriječiti nezakoniti sadržaj na svojoj platformi i obično posjeduju tehnička sredstva za utvrđivanje i uklanjanje takvog sadržaja. Zbog toga je još važnije da su internetske platforme uložile znatna sredstva u razvoj naprednih tehnologija za proaktivno prikupljanje informacija o sadržaju koji kruži na njima i o ponašanju korisnika. Unatoč važnosti brzog donošenja odluka o uklanjanju nezakonitog sadržaja, potrebno je primijeniti određene zaštitne mjere. To zahtijeva ravnotežu uloga između javnih i privatnih tijela.

Smjernice i načela utvrđeni u ovoj Komunikaciji stoga se ne odnose samo na otkrivanje i uklanjanje nezakonitog sadržaja. Njima se također nastoje riješiti problemi povezani s uklanjanjem zakonitog sadržaja, što se ponekad naziva „prekomjerno uklanjanje”, koje utječe na slobodu izražavanja i pluralizam medija. Stoga treba predvidjeti prikladne zaštitne mjere i prilagoditi ih posebnoj vrsti predmetnog nezakonitog sadržaja.

29 Nedvojbeno je da se javljaju pitanja javnog interesa u pogledu sadržaja koji nije nužno nezakonit, ali bi mogao biti štetan, kao što su lažne vijesti ili sadržaj koji je štetan za maloljetnike. Međutim, ova Komunikacija usmjerena je na otkrivanje i uklanjanje nezakonitog sadržaja.

3.Otkrivanje i prijavljivanje nezakonitog sadržaja 

Cilj je ovog odjeljka utvrditi što bi internetske platforme, nadležna tijela i korisnici trebali učiniti kako bi mogli brzo i učinkovito otkrivati nezakoniti sadržaj.

Internetske platforme mogu postati svjesne postojanja nezakonitog sadržaja na različite načine i kroz različite kanale. Takvi kanali za prijavljivanje uključuju i. sudske naloge ili upravne odluke; ii. prijave nadležnih tijela (npr. tijela za kazneni progon), specijaliziranih „provjerenih označivača”, nositelja prava intelektualnog vlasništva ili običnih korisnika ili iii. vlastite istrage ili saznanja platformi.

Povrh pravnih obveza koje proizlaze iz zakonodavstva EU-a i nacionalnog zakonodavstva i „dužne pažnje” koja je dio njihovih odgovornosti, internetske platforme trebale bi korisnicima osigurati sigurno internetsko okruženje u kojem se ne podržavaju kriminal i druge vrste nezakonitog iskorištavanja, odnosno u kojem se odvraća od kriminala i ostalih prekršaja na internetu i u kojem se oni sprječavaju.

4.Sudovi i nadležna tijela

30 U skladu sa zakonodavstvom EU-a i/ili nacionalnim zakonodavstvom, nacionalni sudovi i, u određenim slučajevima, nadležna tijela mogu izdavati obvezujuće naloge ili upravne odluke upućene internetskim platformama kojima se od njih traži da uklone nezakoniti sadržaj ili da onemoguće pristup tom sadržaju. 

Budući da je brzo uklanjanje nezakonitog materijala često ključno kako bi se ograničilo daljnje širenje i dodatna šteta, internetske platforme trebale bi moći donositi brze odluke o mogućim mjerama protiv nezakonitog sadržaja na internetu koje se ne moraju temeljiti na sudskom nalogu ili upravnoj odluci, posebno kada nezakoniti sadržaj otkrije i prijavi tijelo za kazneni progon. Internetske platforme trebale bi istodobno uspostaviti prikladne zaštitne mjere kada izvršavaju svoje odgovornosti u tome pogledu, kako bi zajamčile pravo korisnika na učinkovit pravni lijek.

31 Internetske platforme trebale bi stoga imati nužna sredstva za razumijevanje pravnih okvira u kojima djeluju. One bi također trebale, prema potrebi, blisko surađivati s tijelima za kazneni progon i s drugim nadležnim tijelima, posebno osiguravanjem da im se brzo i djelotvorno mogu podnositi zahtjevi za žurno uklanjanje nezakonitog sadržaja te kako bi, prema potrebi, mogle upozoriti tijela za kazneni progon na znakove zločinačkih aktivnosti na internetu. Kako bi se izbjeglo udvostručavanje napora i prijava čime se smanjuje učinkovitost i djelotvornost postupka uklanjanja, tijela za kazneni progon i druga nadležna tijela trebala bi nastojati surađivati u definiranju djelotvornih digitalnih sučelja kojima se olakšava brzo i pouzdano podnošenje prijave i učinkovito identificiranje nezakonitog sadržaja i izvješćivanje o njemu. Kako bi se omogućilo pravilno funkcioniranje takve suradnje, platforme i nadležna tijela moraju uspostaviti kontaktne točke.

32 Za teroristički sadržaj u Europolu je uspostavljena Jedinica EU-a za rad u vezi s prijavljenim internetskim sadržajima (IRU) u kojoj stručnjaci za sigurnost ocjenjuju i upućuju na teroristički sadržaj na internetskoj platformi (a neke države članice imaju svoje jedinice za rad u vezi s prijavljenim internetskim sadržajima).

5.Prijave

6.Provjereni označivači

Uklanjanje nezakonitog sadržaja na internetu brže je i pouzdanije kada internetske platforme uspostave mehanizme kojima se osigurava povlašteni kanal onim podnositeljima prijave koji su posebno stručni za prijavljivanje potencijalno nezakonitog sadržaja na svojem web-mjestu. To su takozvani „provjereni označivači”, odnosno specijalizirani stručnjaci za otkrivanje nezakonitog sadržaja i posebne strukture za otkrivanje i prepoznavanje takvog sadržaja na internetu.

Za razliku od običnih korisnika, može se očekivati da će provjereni označivači pridonijeti svojom stručnošću i da će njihov rad biti vrlo kvalitetan, što bi trebalo dovesti do kvalitetnijih prijava i bržeg uklanjanja sadržaja. Potiče se internetske platforme da iskoriste postojeće mreže provjerenih označivača. Na primjer, stručnjaci Europolove Jedinice za rad u vezi s prijavljenim internetskim sadržajima mogu ocijeniti ima li određeni internetski sadržaj obilježja terorizma ili nasilnog ekstremizma i oni stoga svojoj ulozi tijela za kazneni progon mogu pridodati i ulogu provjerenih označivača. Još jedan primjer provjerenog označivača je mreža linija za prijavljivanje materijala koji prikazuje spolno zlostavljanje djece INHOPE. Kada je riječ o sadržaju nezakonitih govora mržnje, organizacije civilnog društva i polu-javna tijela specijalizirani su za utvrđivanje i prijavljivanje rasističkog i ksenofobnog sadržaja na internetu.

Kako bi se osiguralo kvalitetno prijavljivanje i brže uklanjanje nezakonitog sadržaja, industrija na razini EU-a trebala bi dogovoriti kriterije koji se posebno temelje na poštovanju temeljnih prava i demokratskih vrijednosti. To se može postići s pomoću samoregulacijskih mehanizama ili u okviru normizacijskog okvira EU-a unutar kojeg se određeni subjekt može smatrati provjerenim označivačem, čime se omogućava dostatna fleksibilnost da se uzmu u obzir obilježja koja su specifična za određeni sadržaj i uloga provjerenog označivača. Drugi takvi kriteriji mogli bi uključivati unutarnje standarde osposobljavanja, standarde postupka i osiguranje kvalitete te pravne zaštitne mjere u pogledu neovisnosti, sukoba interesa, zaštite privatnosti i osobnih podataka i ostalo. Te su zaštitne mjere posebno važne u ograničenom broju slučajeva kada platforme smiju uklanjati sadržaj na temelju prijave provjerenog označivača bez da dodatno same provjeravaju zakonitost tog sadržaja. U tim ograničenim slučajevima provjereni označivači mogli bi biti podložni reviziji u skladu s tim kriterijima, a sustavom certifikacije mogao bi se potvrđivati status provjerenog označivača. U svim slučajevima trebale bi biti dostupne dostatne zaštitne mjere za sprječavanje zlouporabe sustava, kako je opisano u odjeljku 4.3.

Nadležnim tijelima trebalo bi, prema potrebi, omogućiti sudjelovanje u mehanizmima prijavljivanja provjerenih označivača.

Treba uspostaviti razumnu ravnotežu između osiguravanja visoke kvalitete prijava provjerenih označivača, opsega dodatnih mjera koje bi trgovačka društva poduzela u pogledu provjerenih označivača i opterećenja koje donosi osiguravanje tih standarda kvalitete. U slučaju zlouporabe mehanizama provjerenih označivača u odnosu na utvrđene norme, trebalo bi ukinuti povlasticu statusa provjerenog označivača.

7.Prijave korisnika

Kako bi borba protiv nezakonitog sadržaja na internetu bila djelotvorna, obični korisnici trebali bi imati mogućnost upozoriti internetske platforme ne nezakoniti sadržaj i imati povjerenja da će se opravdane prijave uzeti u obzir i brzo rješavati.

Ako je sadržaj javno dostupan, takvi mehanizmi prijavljivanja trebali bi biti dostupni i općoj javnosti, odnosno ne bi se trebalo biti nužno prijaviti kao korisnik. Kako bi se poboljšala učinkovitost i točnost procjene mogućeg nezakonitog sadržaja, takvim mehanizmom trebalo bi se omogućiti jednostavno prijavljivanje elektroničkim sredstvima.

Cilj je Komisijina prijedloga o reviziji Direktive o audiovizualnim medijskim uslugama davateljima usluge platforme za razmjenu video sadržaja propisati obvezu uspostave mehanizama s pomoću kojih korisnici mogu prijavljivati ili označavati audiovizualni sadržaj koji može ugroziti fizički, psihički ili moralni razvoj maloljetnika i sadržaj kojim se potiče na nasilje ili mržnju te obvezu upravljanja tim mehanizmima.

8.Osiguravanje visokokvalitetnih prijava

Takvi mehanizmi za prijavljivanje trebali bi biti vidljivi, lako dostupni, jednostavni za korištenje i kontekstualni. Njima bi trebalo omogućiti i jednostavno prijavljivanje različitih vrsta sadržaja, odnosno odabirom s popisa onih kategorija u pogledu kojih se sadržaj smatra nezakonitim. Ako je tehnički izvedivo, mogu se koristiti elementi kao što su oni kojima se omogućuje podnošenje prijave nakon prvog susreta s materijalom ili oni kojima se omogućuje ponovna uporaba podataka za prijavu.

Platforma na temelju takvih dostatno obrazloženih i podrobnih prijava može brzo pronaći potencijalno nezakonit sadržaj, izvršiti pouzdanu provjeru nezakonitosti sadržaja i, prema potrebi, žurno djelovati. Količina pojedinosti koje su platformama potrebne za brzo donošenje utemeljenih odluka može se znatno razlikovati ovisno o vrsti sadržaja.

Korisnici ne bi trebali imati obvezu identificirati se kada prijavljuju ono što smatraju nezakonitim sadržajem, osim ako su te informacije potrebne za utvrđivanje zakonitosti sadržaja (npr. utvrđivanje vlasništva u slučaju prava intelektualnog vlasništva). To se posebno primjenjuje kada bi mogla biti ugrožena njihova sigurnost ili kada bi otkrivanje nečijeg identiteta moglo imati pravne posljedice. Korisnike koji žele ostati anonimni na platformama treba poticati da prijave podnose posredstvom provjerenih označivača.

Međutim, podnositelji prijava trebali bi imati mogućnost dobrovoljno podnijeti svoje podatke za kontakt u prijavi kako bi internetska platforma mogla tražiti dodatne informacije ili obavijestiti podnositelja prijave o planiranim daljnjim mjerama. U tom slučaju podnositelj prijave trebao bi dobiti potvrdu primitka i obavijest o daljnjim mjerama koje će se poduzeti na temelju prijave. 

Potvrdom o primitku osigurava se da podnositelj prijave ne mora provjeravati jesu li poduzete mjere u pogledu njegove prijave i ona može služiti kao dokaz u sudskim ili izvansudskim postupcima u skladu s pravilima koja se primjenjuju na takve postupke.

9.Proaktivne mjere internetskih platformi

10.Proaktivne mjere i izuzeće od odgovornosti

S obzirom na središnju ulogu i sposobnosti internetskih platformi i njihove povezane odgovornosti, one bi trebale donositi djelotvorne proaktivne mjere za otkrivanje i uklanjanje nezakonitog sadržaja na internetu i ne ograničavati se samo na reagiranje na zaprimljene prijave. Nadalje, za određene kategorije nezakonitog sadržaja možda neće biti moguće potpuno ostvariti cilj smanjenja rizika od ozbiljne štete ako platforme ne budu poduzimale takve proaktivne mjere.

Komisija smatra da internetska platforma poduzimanjem takvih dobrovoljnih, proaktivnih mjera ne gubi automatski mogućnost izuzeća od odgovornosti koje je predviđeno u članku 14. Direktive o elektroničkoj trgovini.

Prvo, to izuzeće od odgovornosti dostupno je samo davateljima usluga „smještaja informacija na poslužitelju” koji ispunjavaju uvjete iz članka 14. te Direktive. To su davatelji usluga čije se djelatnosti sastoje od pohrane informacija na zahtjev trećih strana i koji nemaju toliko aktivnu ulogu da bi imali znanja o tim informacijama ili kontrolu nad njima 33 . 

U uvodnoj izjavi 38. Komisijinog prijedloga Direktive o autorskim pravima na jedinstvenom digitalnom tržištu od 14. rujna 2016. navedeno je sljedeće: „U odnosu na članak 14. [Direktive o elektroničkoj trgovini], nužno je provjeriti ima li pružatelj usluge aktivnu ulogu, među ostalim poboljšavanjem prikaza učitanih djela ili sadržaja ili njihovom promidžbom, neovisno o prirodi sredstava koja se za to upotrebljavaju.”

Posebno u pogledu članka 14. Direktive o elektroničkoj trgovini, u predmetu L'Oréal protiv eBaya, Sud EU-a objasnio je da „sama činjenica da [internetska platforma] na svojem poslužitelju pohranjuje ponude za prodaju, utvrđuje uvjete prodaje, prima naknadu za uslugu i pruža opće informacije korisnicima ne može utjecati na to da joj se uskrati izuzeće od odgovornosti predviđeno [člankom 14. Direktive o elektroničkoj trgovini]” 34 . Međutim, taj učinak postoji, kako je odlučio Sud, „ako je, s druge strane, [internetska platforma] pružila pomoć koja posebno uključuje poboljšanje prikaza predmetnih ponuda za prodaju ili promoviranje tih ponuda.” 35 .

To znači da sama činjenica da internetska platforma poduzima određene mjere povezane s općim pružanjem svojih usluga ne znači nužno da ima aktivnu ulogu u pogledu pojedinačnih stavki sadržaja koje pohranjuje i da internetska platforma ne može iz tog razloga iskoristiti izuzeće od odgovornosti. Komisija smatra da takve mjere mogu, i trebale bi, uključivati i proaktivne mjere za otkrivanje i uklanjanje nezakonitog sadržaja na internetu, posebno ako su se takve mjere poduzimaju u okviru primjene uvjeta za pružanje usluge internetske platforme. To će biti u skladu s ravnotežom između različitih interesa koji se žele postići Direktivom o elektroničkoj trgovini 36 . Ona podsjeća da je u interesu svih uključenih stranaka donositi i provoditi brze i pouzdane postupke za uklanjanje i onemogućavanje pristupa nezakonitim informacijama 37 . Iako se tom Direktivom isključuje obveza internetskih platformi da aktivno traže činjenice, 38 njome se potvrđuje važnost dobrovoljnih mjera. 39  

Drugo, u skladu s člankom 14. Direktive o elektroničkoj trgovini, davatelji usluga obuhvaćeni područjem primjene te odredbe mogu imati koristi od izuzeća od odgovornosti samo ako su ispunjena dva uvjeta, odnosno: (a) davatelji nemaju stvarnog znanja o protuzakonitoj aktivnosti ili informaciji i, u pogledu zahtjeva za naknadu štete, ne znaju za činjenice ili okolnosti iz kojih bi bila vidljiva protuzakonita aktivnost ili informacija ili (b) davatelji, odmah po dobivanju takvog saznanja ili spoznaje žurno djeluju kako bi uklonili te informacije ili onemogućili pristup informacijama.

Sud je objasnio da je tim uvjetima obuhvaćena „svaka situacija u kojoj predmetna [internetska platforma] sazna, na bilo koji način, za [činjenice ili okolnosti na temelju kojih je dobar gospodarstvenik uz dužnu pažnju trebao prepoznati predmetnu nezakonitost]” i da to uključuje, osim prijave treće strane, situaciju kada „platforma, tijekom istrage pokrenute na njezinu inicijativu, otkrije nezakonitu aktivnost ili nezakonite informacije” 40 . 

Iz toga slijedi da internetska platforma poduzimanjem proaktivnih mjera za otkrivanje i uklanjanje nezakonitog sadržaja može saznati za nezakonite aktivnosti ili nezakonite informacije, što bi moglo dovesti do gubitka prava na izuzeće od odgovornosti u skladu s člankom 14. stavkom 1. točkom (a) Direktive o elektroničkoj trgovini. Međutim, u takvim slučajevima internetska platforma, kada sazna za te informacije ili aktivnosti, ipak može brzo djelovati kako bi uklonila predmetne informacije ili im onemogućila pristup. Ako to učini, internetska platforma i dalje može iskoristiti izuzeće od odgovornosti u skladu s člankom 14. stavkom 1. točkom (b). Stoga zabrinutost zbog mogućeg gubitka prava na izuzeće od odgovornosti ne bi trebala odvraćati od primjene djelotvornih proaktivnih dobrovoljnih mjera koja se nastoji potaknuti ovom Komunikacijom ili sprječavati njihovu primjenu.

11.Uporaba tehnologije za otkrivanje nezakonitog sadržaja

S obzirom na obujam materijala koji su dostupni posredstvom internetskih platformi i uzimajući u obzir tehnološki napredak u obradi informacija i strojnoj inteligenciji, uporaba tehnologija za automatsko otkrivanje i filtriranje postaje još važniji alat u borbi protiv nezakonitog sadržaja na internetu. Mnoge velike platforme sada se koriste nekim vrstama algoritama uparivanja koje se temelje na različitim tehnologijama, od jednostavnog filtriranja metapodataka do raspršivanja i označivanja (fingerprinting) sadržaja radi praćenja.

U Direktivi o elektroničkoj trgovini objašnjeno je da se odredbama o odgovornosti ne bi smio onemogućiti razvoj i učinkovit rad tehničkih sustava zaštite i identifikacije kao i instrumenata tehničkog nadzora koje omogućuje digitalna tehnologija. 41 U Direktivi je objašnjeno i da se takvi postupci moraju odvijati unutar granica primjenjivih pravila EU-a i nacionalnog prava, posebno pravila o zaštiti privatnosti i osobnih podataka i zabrane državama članicama da određuju opće obveze praćenja 42 .

U posebnom sektorskom zakonodavstvu mogu se internetskim platformama odrediti obvezna pravila za poduzimanje mjera, na primjer u propisima o autorskom pravu kako bi se pridonijelo osiguranju otkrivanja i uklanjanja nezakonitog sadržaja, i u slučaju kada imaju pravo na izuzeće od odgovornosti predviđeno u članku 14. Direktive o elektroničkoj trgovini.

Uporaba i daljnji razvoj takve tehnologije potiču se posebno kada postoji opasnost od ozbiljne štete, na što se poziva u Zaključcima Europskog vijeća od 22. lipnja 2017. 43 Za utvrđivanje potencijalno nezakonitog sadržaja mogu se upotrebljavati automatski alati i filtri, a javna i privatna istraživanja usmjerena na razvoj takvih alata dobro napreduju. Na primjer, automatsko prepoznavanje sadržaja već je nekoliko godina djelotvoran alat u području autorskih prava.

Komisija podupire daljnje istraživanje i inovativne pristupe u daljnjem razvoju najnovije tehnologije kako bi se poboljšala preciznost tehničkih sredstava za utvrđivanje nezakonitog sadržaja 44 . Ona također potiče industriju da osigura učinkovito prihvaćanje inovacija kojima bi se moglo pridonijeti većoj učinkovitosti i djelotvornosti postupaka automatskog otkrivanja. 

U većini slučajeva sada je najbolja praksa u industriji upotrijebiti automatske alate za sužavanje skupa spornog sadržaja koji će ljudski stručnjaci potom provjeriti i za koji će možda trebati procijeniti je li nezakonite prirode. To načelo uključivanja ljudskog elementa u načelu je važan dio automatskih postupaka kojima se nastoji utvrditi nezakonitost određenog sadržaja, posebno u područjima u kojima postoje visoke stope pogreške ili u kojima je potrebna kontesktualizacija. 

12.Uklanjanje nezakonitog sadržaja 

45 U interesu je čitavog društva da platforme što brže moguće uklanjaju nezakoniti sadržaj. Istodobno se uklanjanjem takvog sadržaja ne bi trebao onemogućavati kazneni progon ili druge mjere koje se poduzimaju zbog povrede zakona. Važna politika u tom pogledu jest razmjena dokaza među javnim tijelima i internetskim platformama. Budućom zakonodavnom inicijativom o tome pitanju trebao bi se olakšati prekogranični pristup dokazima. Platforme uklanjanjem nezakonitog sadržaja ne bi trebale utjecati na istrage ili kazneni progon djela koja u skladu s pravom Unije ili nacionalnim pravom utvrđena kao kaznena djela.

Trebale bi biti dostupne i snažne zaštitne mjere kojima će se ograničiti rizik od uklanjanja zakonitog sadržaja i koje će se poduprijeti smislenim obvezama transparentnosti u cilju povećanja odgovornosti postupaka uklanjanja.

13.Osiguravanje brzog uklanjanja i prijavljivanje zločina tijelima za kazneni progon

Direktivom o elektroničkoj trgovini zahtijeva se od internetskih platformi da, nakon što su saznale za nezakoniti sadržaj, „žurno” djeluju kako bi ga uklonile, ako žele da se na njih i dalje primjenjuje izuzeće od odgovornosti. Što će to značiti u praksi ovisit će o posebnostima svakog pojedinog slučaja, posebno o vrsti nezakonitog sadržaja, točnosti prijave i mogućoj uzrokovanoj šteti.

U praksi je za utvrđivanje zakonitosti različitih vrsta sadržaja potrebna različita količina kontekstualnih informacija. Na primjer, dok je nezakonitu prirodu materijala koji prikazuje spolno zlostavljanje djece lakše utvrditi, za utvrđivanje nezakonitosti klevetničkih izjava u načelu je potrebna pažljiva analiza konteksta u kojem su one dane.

Žurno uklanjanje posebno je važno ako postoji opasnost od ozbiljne štete, na primjer u slučajevima poticanja na terorizam, i u tim se situacijama mogu primjenjivati određeni vremenski rokovi.  

Nekim dobrovoljnim postupcima, kao što je Kodeks postupanja za borbu protiv nezakonitog govora mržnje na internetu, osigurani su okvirni ciljevi u pogledu vremena uklanjanja koje u slučaju ovog Kodeksa postupanja u većini slučajeva iznosi 24 sata.

Posebno djelotvorno može biti potpuno automatizirano brisanje ili suspendiranje sadržaja koje treba primjenjivati kada, s obzirom na okolnosti, nema sumnje u nezakonitost materijala, na primjer u slučajevima materijala čije uklanjanje traže tijela za kazneni progon ili dobro poznatog nezakonitog sadržaja koji je prethodno uklonjen u skladu sa zaštitnim mjerama iz odjeljka 4.3.

U načelu uklanjanje na temelju prijave provjerenog označivača treba provoditi brže zbog kvalitete i točnosti informacija navedenih u obavijesti i provjerenog statusa označivača.

U slučajevima kada postoji opasnost od gospodarske štete zbog povrede prava intelektualnog vlasništva, moguća gospodarska šteta koja nastaje zbog takve povrede može biti blisko povezana s brzinom uklanjanja.

Platforme mogu jasnim izvješćivanjem o vremenu koje je potrebno za obradu zahtjeva za uklanjanje prema vrstama sadržaja pridonijeti lakšoj procjeni žurnosti poduzetih mjera i proširenju svoje odgovornosti. 

U određenim slučajevima, posebno kad je internetskim platformama teško procijeniti zakonitost određene stavke sadržaja i kada je riječ o odluci koja bi mogla biti sporna, moglo bi biti korisno da one u slučaju dvojbe zatraže savjet treće strane. Tu ulogu u različitim državama članicama imaju samoregulacijska ili nadležna tijela. Takva suradnja snažno se potiče kao dio pojačane suradnje između internetskih platformi i nadležnih tijela.

46 Naposljetku, internetske platforme trebale bi prijaviti tijelima za kazneni progon sva saznanja ili dokaze o kaznenim ili drugim djelima kako bi upozorila nadležna tijela ili im omogućila istrage i kazneni progon pojedinaca koji stvaraju takav sadržaj ili zlouporabe usluga od strane organiziranog kriminala ili terorističkih skupina. One bi pritom trebale poštovati primjenjive pravne zahtjeve, među ostalim Uredbu (EU)  2016/679 o zaštiti osobnih podataka.To može biti primjereno i u slučajevima ponuda i prodaje proizvoda i trgovačke prakse koji nisu u skladu sa zakonodavstvom EU-a.

Zbog potrebe za suradnjom s tijelima za kazneni progon u istrazi i kaznenom progonu kaznenih djela platforme će se u nekim slučajevima možda morati suzdržati od uklanjanja nezakonitog sadržaja kada je to potrebno u okviru posebne istrage koja je u tijeku. To se odvija pod strogim nadzorom nacionalnih tijela i u skladu s nacionalnim pravilima o kaznenom postupku.

47 48 49 Tijela za kazneni progon trebala bi pojačati nužne kapacitete za odgovarajuće djelovanje na temelju tih prijava. Primjer najbolje prakse u pogledu točaka za kontakt jest portal SIRIUS kojeg je uspostavio Europol kako bi podržao protuterorističke istrage na internetu koje provode države članice, uključujući olakšavanjem suradnje između platformi i tijela za kazneni progon EU-a.

14.Povećanje transparentnosti 

15.Transparentnost politike sadržaja internetskih platformi

Pitanje zakonitosti ili nezakonitosti sadržaja uređeno je pravom EU-a i nacionalnim pravom. Istodobno se u skladu s uvjetima pružanja usluga internetskih platformi određene vrste sadržaja mogu smatrati nepoželjnima ili upitnima.

50 Internetske platforme trebale bi u svojim uvjetima pružanja usluga objavljivati podroban opis svoje politike sadržaja i to jasno priopćiti svojim korisnicima. U tim uvjetima ne bi se trebala definirati samo politika uklanjanja sadržaja ili onemogućivanja pristupa sadržaju već bi se trebale navoditi i zaštitne mjere kojima se osigurava da se mjerama povezanima sa sadržajem ne uzrokuje prekomjerno uklanjanje. U uvjetima pružanja usluga internetskih platformi trebalo bi jasno navesti mogućnosti korisnika za osporavanje odluka o uklanjanju kao dio pojačane transparentnosti opće politike uklanjanja tih platformi. Time bi se trebalo pridonijeti i smanjenju mogućeg negativnog utjecaja na temeljna prava korisnika na slobodu izražavanja i informiranja.

16.Transparentnost postupaka prijave i djelovanja

Izvješćivanjem o transparentnosti trebao bi biti obuhvaćen i ishod primjene politika platformi za upravljanje sadržajem.

Uzimajući u obzir razlike specifične za sadržaj, izvješća o transparentnosti trebalo bi standardizirati na cijelom jedinstvenom digitalnom tržištu. Time bi se omogućilo bolje praćenje, olakšalo bi se elektroničko objedinjavanje takvih informacija i moglo bi se pridonijeti izbjegavanju nepotrebnih prepreka prekograničnom pružanju usluga smještaja na poslužitelju.

Posebnu pozornost trebalo bi posvetiti tome da se manjim internetskim platformama i MSP-ovima omogući da pružaju takve podatke o transparentnosti, a pomoćnim aktivnostima, kao što je standardizacija, trebalo bi osigurati da administrativno opterećenje bude što manje.

Komisija će dalje istraživati, u okviru strukturiranih dijaloga s industrijom, mogućnosti standardizacije postupaka prijavljivanja i izvješćivanja o transparentnosti sustava uklanjanja i ishoda.

17.Zaštitne mjere protiv prekomjernog uklanjanja i zlouporabe sustava

Žurno djelovanje, uključujući mjere za filtriranje pri učitavanju ili automatsko otkrivanje kojima se osigurava brzo uklanjanje nezakonitog sadržaja, posebno kada u postupak nisu uključeni ljudi, može utjecati na ispravnost odluke, uključujući na rizik od uklanjanja zakonitog sadržaja. Stoga je važno osigurati da su dostupne dostatne zaštitne mjere kako bi se osiguralo ponovno postavljanje sadržaja koji je uklonjen greškom.

18.Osporavanje prijave

U načelu bi se osobama koje su dostavile sadržaj trebala dati mogućnost osporavanja odluke podnošenjem odgovora na prijavu. To se primjenjuje i u slučaju automatskog uklanjanja sadržaja.

Na primjer, u skladu s člankom 28.a prijedloga o izmjeni Direktive o audiovizualnim medijskim uslugama, države članice moraju osigurati da su dostupni mehanizmi za podnošenje pritužbi i pravnu zaštitu za rješavanje sporova između korisnika i pružatelja usluga platforma za razmjenu video sadržaja povezanih s primjenom odgovarajućih mjera koje poduzimaju te platforme.

Ako je u odgovoru na prijavu navedena razumna osnova na temelju koje se može smatrati da prijavljena aktivnost ili informacija nije nezakonita, davatelj usluge platforme trebao bi bez odlaganja vratiti sadržaj koji je uklonjen ili korisniku dopustiti ponovno učitavanje tog sadržaja, ne dovodeći u pitanje uvjete pružanja usluge platforme.

Mogućnost osporavanja odluka trebala bi dovesti do smanjenja broja neopravdanih uklanjanja zakonitog sadržaja i njome bi se trebali osigurati dokazi za mehanizme za izvansudsko rješavanje sporova ili za žalbene sudske postupke.

U određenim okolnostima obavješćivanje pružatelja sadržaja i/ili dopuštanje odgovora na prijavu ne bi bilo primjereno, posebno u slučajevima kada bi to utjecalo na istražne ovlasti nadležnih tijela država članica koje su nužne za sprječavanje, otkrivanje i kazneni progon kaznenih djela, kao u slučaju materijala koji prikazuje spolno zlostavljanje djece.

19.Mjere protiv zlonamjernih prijava i odgovora na prijave

52 Postupci prijave i djelovanja mogu se ponekad zloupotrebljavati lošom praksom ili zlonamjerno. Takvu praksu trebalo bi snažno obeshrabrivati, na primjer ukidanjem povlaštenog tretmana prijava podnositelja koji šalje veliki broj nevažećih prijava ili zaprima veliki broj odgovora na prijave, ili oduzimanjem statusa provjerenog označivača, u skladu s utvrđenim i transparentnim kriterijima. Te politike trebalo bi jasno opisati u uvjetima pružanja usluge internetske platforme i one bi trebale biti dio općeg izvješćivanja o transparentnosti internetskih platformi, kako bi se povećala odgovornost javnosti. Slične mjere trebalo bi uspostaviti u odnosu na zloupotrebljavajuće odgovore na prijave.

20.Sprječavanje ponovne pojave nezakonitog sadržaja

Kada je jednom otkriven i uklonjen, nezakoniti sadržaj ne bi se trebao ponovno pojavljivati na internetu. Učinkovito i djelotvorno sprječavanje ponovne pojave na temelju postojeće dobre prakse i na temelju odgovarajućih zaštitnih mjera od ključne je važnosti za sustav koji dobro funkcionira. Za sprječavanje širenja poznatog nezakonitog materijala na platformama potrebna je bliža suradnja između davatelja usluga na internetu u skladu s primjenjivim pravilima prava tržišnog natjecanja. Također je važno pojačati suradnju tijela za kazneni progon s manjim, manje otpornim trgovačkim društvima, koja bi mogla postati preferirana platforma zločinaca i drugih počinitelja povreda na internetu, ako ih budu smatrali ranjivijima od ostalih.

21.Mjere protiv višestrukih počinitelja povreda

53 Kako bi se izbjegla ponovna pojava nezakonitog sadržaja koji postavljaju korisnici koji stalno postavljaju istu vrstu sadržaja kojom se vrše povrede, mnoge internetske platforme već su uspostavile mjere protiv višestrukih počinitelja povreda, kao što su obustava ili zatvaranje računa ili mjere prikrivenog zabranjivanja.

To bi se trebalo primjenjivati kada je počinitelj povrede isti, kada je predmetni sadržaj iste prirode i kada je, ako je to opravdano, korisnik pravodobno obaviješten o prijavama koje su zaprimljene protiv njega/nje i o obustavi ili zatvaranju računa. Time bi se korisniku omogućilo da ospori odluku i olakšao bi se pristup pravnoj zaštiti protiv mjere, ako je to prikladno u skladu s ugovorom između korisnika i platforme i primjenjivog prava. I u takvim slučajevima obrada osobnih podataka mora biti potpuno u skladu s primjenjivim pravilima o zaštiti podataka.

Ponavljamo još jednom, pružatelja sadržaja ne bi trebalo informirati ni obavješćivati ako bi to moglo utjecati na istražne ovlasti država članica koje su nužne za sprječavanje, otkrivanje i kazneni progon kaznenih djela, ako za to postoji nužna pravna osnova.

22.Filtri za automatsko ponovno učitavanje

Povrh tehnologija koje se upotrebljavaju za utvrđivanje potencijalno nezakonitog sadržaja koje su navedene u odjeljku 3.3., tehnološki alati mogu se upotrebljavati s višim stupnjem pouzdanosti za označavanje i filtriranje (uklanjanje i onemogućivanje ponovnog učitavanja) sadržaja za koji je utvrđeno da je nezakonit i koji je ocijenjen nezakonitim. Komisija stoga snažno potiče daljnju uporabu takvih alata podložno zaštitnim mjerama kao što su reverzibilnost i iznimke, kako je navedeno u nastavku.

To se trenutačno odvija u pogledu „Baze podataka hashtagova” koja se upotrebljava u odnosu na teroristički sadržaj i koja je razvijena u okviru internetskog foruma EU-a ili u području autorskog prava ili materijala koji prikazuje spolno zlostavljanje djece, ali i za proizvode koje su tijela za kazneni progon označila kao nesukladne s primjenjivim zakonodavstvom. Tim su praksama ostvareni dobri rezultati. Međutim, njihova djelotvornost ovisi o daljnjim unaprjeđenjima kojima će se ograničiti pogrešno utvrđivanje sadržaja i olakšati donošenje odluka u skladu s kontekstom i nužnih zaštitnih mjera reverzibilnosti.

Na primjer, na temelju prakse u području autorskog prava u pogledu automatskog prepoznavanja sadržaja, u prijedlogu Komisije o autorskom pravu na jedinstvenom digitalnom tržištu takve se tehnologije, ako su primjerene i razmjerne, priznaju kao moguće sredstvo za, među ostalim, sprječavanje dostupnosti nelicenciranog sadržaja u okviru relevantnih internetskih usluga.

U okviru automatskih postupaka kojima se onemogućuje ponovno učitavanje uklonjenog sadržaja trebalo bi dopustiti iznimke povezane s kontekstom i slučajeve kada se uklonjeni sadržaj izmijeni i uskladi s pravnim ili drugim zahtjevima. Područjem primjene i vremenskim okvirom za iznimke povezane s kontekstom trebalo bi uzeti u obzir posebnu prirodu sadržaja i povezane prijetnje sigurnosti te mogućnost privremene suspenzije takvog sadržaja dok ne bude provedena detaljnija procjena.

Internetske platforme trebale bi osigurati i stalno ažuriranje svojih alata kako bi se osiguralo otkrivanje nezakonitog sadržaja, u skladu s promjenama taktike i ponašanja zločinaca i ostalih počinitelja povreda na internetu. Alate koji se upotrebljavaju za teroristički sadržaj trebalo bi prilagoditi tako da mogu prepoznavati novi i stari sadržaj i osigurati njegovo brzo preispitivanje i uklanjanje. Takav sadržaj trebalo bi unijeti u alate kojima se mogu koristiti sve platforme, kao što je spomenuta baza podataka hashtagova (koja se trenutačno upotrebljava za teroristički sadržaj). Takav tehnološki razvoj trebao bi se odvijati na temelju suradnje među internetskim platformama, nadležnim tijelima i ostalim dionicima, uključujući civilno društvo.

23.Zaključci

Povećanje količine nezakonitog sadržaja na internetskim platformama uzrokuje stvarnu štetu društvu, uključujući opasnosti za cjelovitost, dostojanstvo i zdravlje naših građana. Ako se takva šteta ne spriječi na primjeren način, to će dovesti do smanjenja povjerenja u digitalne usluge i u konačnici u jedinstveno digitalno tržište koje je ključni pokretač inovacija, rasta i zapošljavanja. Iako takav sadržaj stvaraju i učitavaju treće osobe, internetske platforme, zbog sve većeg utjecaja u društvu koji proizlazi iz njihove uloge čuvara sadržaja i informacija, imaju sve veće odgovornosti prema svojim korisnicima i društvu u cjelini. One bi stoga trebale proaktivno uklanjati nezakoniti sadržaj, sprječavati njegovo ponovno pojavljivanje, uspostaviti djelotvorne postupke prijave i djelovanja i sučelja s trećim stranama (kao što su provjereni označivači) koja dobro funkcioniraju te davati posebnu prednost prijavama nacionalnih tijela za kazneni progon. Ako internetske platforme odlučuju o tome koji bi se sadržaj trebao smatrati nezakonitim, u skladu sa zakonom, trebalo bi uspostaviti odgovarajući mehanizam provjera.

U ovoj Komunikaciji daju se smjernice i stoga se njome ne mijenja primjenjivi pravni okvir i ona ne sadržava pravno obvezujuća pravila. Njezin je glavni cilj internetskim platformama dati smjernice o tome kako mogu ispuniti svoje odgovornosti u pogledu nezakonitog sadržaja koji smještaju na poslužitelju. Njome se također nastoji uskladiti dobra praksa postupanja u slučaju različitih vrsta nezakonitog sadržaja u cilju promicanja bliže suradnje među platformama i nadležnim tijelima. U njoj se stoga prikazuje europski pristup rješavanju problema nezakonitog sadržaja na internetskim platformama kombiniranjem potrebe za brzim i djelotvornim uklanjanjem nezakonitog sadržaja i za sprječavanjem i kaznenim progonom kaznenih dijela uz zaštitu prava na slobodu govora na internetu. Ovim smjernicama dopunit će se i pojačati dijalozi o različitim sektorima koji su u tijeku.

Posebno bi trebalo osigurati da takve postupke mogu provoditi manje internetske platforme i mnogi elementi ove Komunikacije osmišljeni su vodeći računa o njihovim posebnim potrebama. Međutim, Komisija će istražiti dodatne načine za podupiranje prihvaćanja smjernica i za manje platforme.

Jedinstveno digitalno tržište zahtijeva veću usklađenost odgovora javne politike preko zemljopisnih granica. Ova Komunikacija stoga je prvi korak Komisije ka osiguravanju zajedničkih alata za rješavanje zajedničkog izazova uklanjanja nezakonitog sadržaja.

(1)

Svake sekunde na Twitteru se objavljuje otprilike 8 000 unosa, na Instagramu se objavljuje 1 000 fotografija, na Googleu se obavlja 60 000 pretraživanja, a na YouTubeu se pregledava 70 000 videozapisa. Vidjeti http://www.internetlivestats.com/

(2)

Vidjeti odjeljak 2.

(3)

Zaključci Europskog vijeća, ST 8 2017 INIT, 22. i 23. lipnja 2017., Izjava skupine G7 iz Taormine, 26. svibnja 2017., i Deklaracija vođa skupine G20 , 8. srpnja 2017.

(4)

Rezolucija Europskog parlamenta od 15. lipnja 2017. o internetskim platformama (2016/2274(INI)).

(5)

Ovdje prikazani elementi temelje se na nizu javnih i ciljanih savjetovanja i radionica dionika.

(6)

Vidjeti nedavno izvješće Komisije Europskom Parlamentu i Vijeću o ocjeni provedbe mjera iz članka 25. Direktive 2011/93/EU od 13. prosinca 2011. o suzbijanju seksualnog zlostavljanja i seksualnog iskorištavanja djece i dječje pornografije.

(7)

Direktivom o terorizmu (EU) 2017/541 obvezuju se države članice da poduzmu potrebne mjere kako bi osigurale žurno uklanjanje internetskog sadržaja koji je javno poticanje na počinjenje kaznenog djela terorizma (članak 21.). U ovom području, u kontekstu internetskog foruma EU-a, platforme dobrovoljno uklanjaju teroristički sadržaj u skladu s uputama Europolove Jedinice za rad u vezi s prijavljenim internetskim sadržajima (IRU)

(8)

COM (2016) 593

(9)

COM (2016) 287

(10)

http://ec.europa.eu/justice/fundamental-rights/files/hate_speech_code_of_conduct_en.pdf

(11)

http://europa.eu/rapid/press-release_IP-15-6243_en.htm

(12)

http://ec.europa.eu/transparency/regdoc/rep/3/2016/EN/3-2016-3724-EN-F1-1.PDF

(13)

SL C 250 od 1.8.2017.

(14)

  http://ec.europa.eu/environment/cites/pdf/WAP_EN_WEB.pdf  

(15)

SWD(2016)163 od 25.5.2016.

(16)

http://ec.europa.eu/internal_market/scoreboard/performance_by_governance_tool/consumer_protection_cooperation_network/index_en.htm

(17)

Komunikacija COM(2012) 196 final (Bolji internet za djecu (BIK)): https://ec.europa.eu/digital-single-market/en/alliance-better-protect-minors-online  

(18)

COM(2016) 288 i COM(2017) 228.

(19)

  http://europa.eu/rapid/press-release_IP-17-1471_en.htm  

(20)

http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=71674

(21)

http://europa.eu/rapid/press-release_IP-17-544_en.htm.

(22)

http://www.inhope.org/Libraries/Annual_reports/INHOPE_Annual_Report_2015.sflb.ashx?download=true

(23)

Direktiva 2000/31/EZ od 8. lipnja 2000. o elektroničkoj trgovini.

(24)

Treba napomenuti da, u skladu s Direktivom o elektroničkoj trgovini, izuzeće od odgovornosti iz članaka 12. – 14. mogu iskoristiti samo davatelji usluga informacijskog društva koji se mogu smatrati posrednim davateljima usluga (tj. koji pružaju samo usluge prijenosa, privremenog smještaja ili smještaja). U uvodnoj izjavi 42. objašnjava se da aktivnosti mogu biti obuhvaćene izuzećem od odgovornosti jedino ako su „samo tehničke, automatske i pasivne naravi, što podrazumijeva da davatelj usluga informacijskog društva nije upoznat s informacijama koje se prenose ili pohranjuju niti ima kontrolu nad njima.”

(25)

Većina internetskih platformi nudi usluge smještaja sadržaja koji učitavaju njihovi korisnici.

(26)

Uvodna izjava 40. Direktive o elektroničkoj trgovini. Imajte na umu da je ova Komunikacija usmjerena na davatelje usluga smještaja, a ne na davatelje koji su samo prijenosnici (članak 12.) ili davatelji usluga privremenog smještaja (članak 13.)

(27)

Usluga smještaja informacija na poslužitelju usluga je informacijskog društva koja se sastoji od pohrane informacija dobivenih od primatelja usluge. Ovom kategorijom mogu biti obuhvaćeni različiti dionici, od internetskih tržišta, platformi za razmjenu video sadržaja, društvenih mreža, blogova ili web-mjesta za ocjenjivanje do odjeljaka s komentarima korisnika na stranicama internetskih novina.

(28)

Primjeri područja obuhvaćenih (ili predloženih) u okviru prava EU-a uključuju poticanje na terorizam, nezakonit govor mržnje, spolno zlostavljanje djece, prava intelektualnog vlasništva, sigurnost proizvoda, ponudu i prodaju hrane ili duhana i krivotvorenih lijekova, pravila o zaštiti potrošača ili mjera za sigurnost proizvoda i slično. Komisija je 2016. u Direktivi 2005/29/EZ o nepoštenoj poslovnoj praksi objasnila i obveze transparentnosti i profesionalne pažnje kada platforme postupaju kao trgovci prema potrošačima.

(29)

To je obuhvaćeno prijedlogom o reviziji Direktive o audiovizualnim medijskim uslugama u kontekstu audiovizualnog sadržaja.

(30)

U članku 14. stavku 3. Direktive o elektroničkoj trgovini objašnjeno je da članak 14. „ne utječe na mogućnost da sud ili upravno tijelo, u skladu s pravnim sustavom države članice, od davatelja usluga zahtijeva okončanje ili sprečavanje prekršaja”. Na primjer, u članku 11. Direktive 2004/48/EZ o provedbi prava intelektualnog vlasništva propisano je da „Države članice također osiguravaju da nositelji prava mogu zatražiti sudski nalog protiv posrednika čije usluge koristi treća stranka za povredu prava intelektualnog vlasništva, ne dovodeći u pitanje članak 8. stavak 3. Direktive 2001/29/EZ.”

(31)

Člankom 15. stavkom 2. Direktive o elektroničkoj trgovini propisano je da „Države članice mogu utvrditi obveze za davatelje usluga informacijskog društva da odmah obavijeste nadležna tijela javne vlasti o navodnim protuzakonitim aktivnostima ili informacijama koje poduzimaju odnosno pružaju primatelji njihove usluge ili obvezu da nadležnim tijelima na njihov zahtjev dostave informacije koje omogućuju identifikaciju primatelja njihovih usluga s kojima imaju sporazume o pohrani informacija.”

(32)

U smislu članka 5. Direktive (EU) 2017/541 o suzbijanju terorizma.

(33)

Uvodna izjava 42. Direktive o elektroničkoj trgovini. Vidi Google Francuska, 114. i 120.; Presuda od 12. srpnja 2011., predmet C324/09, L'Oréal protiv eBaya, točka 113.

(34)

eBay 115.

(35)

eBay 116.

(36)

Uvodna izjava 41. Direktive o elektroničkoj trgovini.

(37)

Uvodna izjava 40. Direktive o elektroničkoj trgovini.

(38)

Članak 15. stavak 1. Direktive o elektroničkoj trgovini.

(39)

Uvodna izjava 40. Direktive o elektroničkoj trgovini.

(40)

eBay 120. – 121.

(41)

Uvodna izjava 40. Direktive o elektroničkoj trgovini.

(42)

Uvodna izjava 40. i članak 15. stavak 1. Direktive o elektroničkoj trgovini.

(43)

http://www.consilium.europa.eu/en/press/press-releases/2017/06/22-euco-security-defence/

(44)

Trenutačni napori industrije u području istraživanja i inovacija usmjereni su na razvoj analitičkih alata za bolje razumijevanje prirodnog jezika, mnoštva informacija na društvenim mrežama, utvrđivanje izvora informacija, uzoraka širenja i lažnih identiteta. Komisija je podupirala istraživanje i inovacije u ovom području financiranjem projekata usmjerenih na razvoj alata za automatsku provjeru kako bi se mogla provjeravati istinitost sadržaja koji stvaraju korisnici na društvenim mrežama. Tim alatima može se olakšati utvrđivanje mogućih lažnih informacija u tekstovima, slikama ili videozapisima i podupirati praćenje lažnih vijesti. Međutim, njima se zbog njihovih trenutačnih funkcionalnih značajki ne može utvrditi nezakonita priroda takvog sadržaja.

(45)

Za više informacija vidjeti https://ec.europa.eu/info/law/better-regulation/initiatives/ares-2017-3896097_en i https://ec.europa.eu/home-affairs/what-we-do/policies/organized-crime-and-human-trafficking/e-evidence_en.

(46)

Članak 6. stavak 1. točka (c) u vezi s člankom 6. stavkom 4.

(47)

U skladu s člankom 15. stavkom 2. Direktive o elektroničkoj trgovini „Države članice mogu utvrditi obveze za davatelje usluga informacijskog društva da odmah obavijeste nadležna tijela javne vlasti o navodnim protuzakonitim aktivnostima ili informacijama koje poduzimaju odnosno pružaju primatelji njihove usluge ili obvezu da nadležnim tijelima na njihov zahtjev dostave informacije koje omogućuju identifikaciju primatelja njihovih usluga s kojima imaju sporazume o pohrani informacija.”

(48)

Oblikovanje ujednačenog sustava za istrage istraživanjem na internetu

(49)

Europol će dalje olakšavati stvaranje novih jedinstvenih kontaktnih točaka osiguravanjem relevantnog osposobljavanja za tijela za kazneni progon u zemljama u kojima one još nisu uspostavljene.

(50)

U slučaju obrade osobnih podataka, platformama se osiguravaju transparentne politike zaštite privatnosti u skladu s člankom 12. Opće uredbe o zaštiti podataka.

(51)

Izvješćivanje o vlastitim istragama, općim prijavama korisnika, prijavama tijela za kazneni progon itd.

(52)

Dokazi pokazuju da takve informacije iskorištavaju konkurenti (Prijava i uklanjanje u svakodnevnoj praksi, J Urban i ostali, UC Berkeley, 2016.) i da se praksa automatskog stvaranja prijava zloupotrebljavala za povezivanje s umjetno stvorenim sadržajem (Googleovo izvješće o transparentnosti).

(53)

„Prikriveno zabranjivanje” postupak je kojim se korisniku onemogućuje pristup zajednici na internetu tako da on toga nije svjestan.