EUROPSKA KOMISIJA

Bruxelles, 10.12.2021.

COM(2021) 819 final

IZVJEŠĆE KOMISIJE EUROPSKOM PARLAMENTU, VIJEĆU, EUROPSKOM GOSPODARSKOM I SOCIJALNOM ODBORU I ODBORU REGIJA

Zaštita temeljnih prava u digitalnom dobu –










Godišnje izvješće za 2021. o primjeni Povelje EU-a o temeljnim pravima

Zaštita temeljnih prava u digitalnom dobu – 

Godišnje izvješće za 2021. o primjeni 
Povelje EU-a o temeljnim pravima 

Sadržaj

Zaštita temeljnih prava u digitalnom dobu – Godišnje izvješće za 2021. o primjeni Povelje EU-a o temeljnim pravima    

1.    Uvod    

2.    Provedba nove strategije za jačanje primjene Povelje o temeljnim pravima u EU-u    

3.    Povelja kao orijentir EU-a za digitalno doba    

4.    Pronalaženje rješenja za probleme moderiranja sadržaja na internetu    

5.    Zaštita temeljnih prava u okviru primjene umjetne inteligencije    

6.    Rješavanje problema digitalnog jaza    

7.    Zaštita osoba koje rade putem platformi    

8.    Nadziranje digitalnog nadzora    

9.    Udruživanje snaga kako bi digitalno doba postalo prilika za temeljna prava    

1.Uvod

Povelja Europske unije o temeljnim pravima 1 moćan je instrument koji se upotrebljava za zaštitu, promicanje i daljnje jačanje prava ljudi u Europskoj uniji. Ljude se temeljnim pravima ne štiti samo od neopravdanih zadiranja kao što su cenzura ili masovni nadzor, već im se omogućuje i da u potpunosti iskoriste prava i prilike koje im se pružaju u životu. Uvijek je moguće poboljšati uvjete i mjeru u kojima ljudi mogu ostvarivati svoja prava. Povelja može biti putokaz za aktivnosti u području politika u cijelom EU-u. Ljudi postaju tim jači što više znaju o pravima koja su im zajamčena Poveljom i načinu na koji se mogu pozivati na njih.

Pandemija bolesti COVID-19 stavila je na kušnju zaštitu i jamstva naših temeljnih prava i sloboda. Svako ograničenje temeljnih prava mora biti nužno i proporcionalno. To se zahtijeva Poveljom Europske unije o temeljnim pravima, koja je obvezujući pravni akt EU-a. Njome se štiti i promiče širok niz prava povezanih s ljudskim dostojanstvom, slobodom, ravnopravnošću i solidarnošću te je svi nacionalni sudovi mogu primjenjivati u predmetima u kojima se provodi pravo Unije i relevantno je za konačnu presudu.

Kako bi se svi bolje upoznali s Poveljom, Europska komisija od 2010. objavljuje izvješća o njezinoj provedbi. Ovo je izdanje prvo u kojem se primjenjuje novi pristup najavljen u strategiji za jačanje primjene Povelje o temeljnim pravima u EU-u (strategija za Povelju) 2 . Godišnje izvješće bit će usmjereno na određenu temu koja se uređuje pravom Unije te će se u njemu pomnije razmatrati najbolji primjeri iz prakse u tom području i problemi s kojima se države članice pritom suočavaju. Time se omogućuje sustavno razmatranje kretanja u određenom području radi pokazivanja kako se različita prava mogu međusobno ojačavati te kako politička, društvena i gospodarska kretanja mogu istodobno utjecati na više prava.

Tema je izdanja za 2021. zaštita temeljnih prava u digitalnom dobu, u skladu sa strateškim usmjerenjem Europske komisije na digitalnu tranziciju.

2.Provedba nove strategije za jačanje primjene Povelje o temeljnim pravima u EU-u 

Strategijom za Povelju, koju je Komisija donijela 2020., nastoji se osigurati da se Povelja primjenjuje u potpunosti, čime će temeljna prava postati stvarnost za sve. Strategijom za Povelju utvrđuje se okvir za zajednički rad na temeljnim pravima u cijelom EU-u za sljedećih 10 godina i ona uživa punu potporu država članica 5 . Provedba ciljeva utvrđenih u strategiji za Povelju usmjerava se na temelju četiriju prioriteta opisanih u nastavku.

2.1.Podupiranje i praćenje djelotvorne primjene Povelje u državama članicama

Nacionalne i lokalne uprave, parlamenti i tijela za izvršavanje zakonodavstva ključni su za promicanje i zaštitu prava iz Povelje te stvaranje poticajnog okruženja za organizacije civilnog društva i borce za prava. Komisija blisko surađuje s državama članicama kako bi im pomogla u djelotvornoj provedbi prava i politika Unije, i to na način koji je potpuno usklađen s Poveljom.

Komisija državama članicama pomaže i u provedbi programa financiranih sredstvima EU-a u skladu Poveljom. Uredbom o zajedničkim odredbama 6 utvrđuju se pravila koja se moraju poštovati pri upotrebi sredstava iz više fondova EU-a 7 . Njome se od država članica zahtijeva da uspostave i primjenjuju djelotvorne mehanizme za osiguravanje usklađenosti programa financiranih sredstvima EU-a s Poveljom, kao što su mehanizmi za izvješćivanje odbora za praćenje o slučajevima pritužbi povezanih s Poveljom ili neusklađenosti operacija koje primaju potporu iz fondova s Poveljom. Komisija će i dalje pružati tehničku pomoć državama članicama da osiguraju da se osmišljavanje i provedba programa koji se financiraju iz fondova EU-a provode u skladu s Poveljom.

U okviru jednog posebnog programa financiranja (program Građani, ravnopravnost, prava i vrijednosti (CERV)) Komisija je uvela nove mogućnosti za nacionalna, regionalna i lokalna tijela da dobiju financiranje za projekte kojima se promiče kultura vrijednosti i jača svijest o Povelji 8 . Gradovi imaju važnu ulogu u promicanju takve kulture i zaštiti temeljnih prava. Određen broj gradova dosad se priključio mreži „gradova ljudskih prava” i ugradio temeljna prava u oblikovanje svojih politika 9 . Agencija Europske unije za temeljna prava na svojem Forumu o temeljnim pravima u listopadu 2021. objavila je izvješće od naslovom „Ljudska prava u EU-u: okvir za jačanje prava na lokalnoj razini” 10 . Taj okvir uključuje alate kojima se gradonačelnicima, lokalnim tijelima vlasti i upravama te organizacijama koje djeluju na lokalnoj razini pomaže da u svoj rad integriraju standarde ljudskih prava. Kao daljnje djelovanje na temelju Akcijskog plana EU-a za antirasizam za razdoblje 2020.–2025. 11 Komisija je u studenome 2021. pokrenula „Nagradu za europske prijestolnice uključenosti i raznolikosti” 12 . U okviru toga dodjeljivat će se nagrade za najbolje primjere iz prakse koji mogu biti izvor nadahnuća ostalim europskim gradovima, velegradovima i regijama za stvaranje okruženja s većom razinom raznolikosti i uključivosti za njihove stanovnike. 

Komisija je u strategiji za Povelju pozvala države članice da imenuju kontaktnu točku za Povelju radi daljnjeg olakšavanja suradnje i razmjene informacija u području primjene Povelje. Do danas je 17 država članica imenovalo takvu kontaktnu točku za Povelju. Njihova je uloga ključna za širenje informacija i najboljih praksi o primjeni Povelje te koordiniranje izgradnje kapaciteta u zemlji. Njihov rad objavljuje se na novoj stranici o najboljim praksama država članica u pogledu Povelje pokrenutoj na europskom portalu e-pravosuđe u prosincu 2021. 13

Komisija je, kao čuvarica Ugovorâ, poduzimala konkretne mjere za osiguravanje poštovanja prava ugrađenih u Povelju u slučajevima u kojima su se ta prava kršila nacionalnim zakonodavstvom ili praksama kojima se provodi pravo Unije, na primjer pokretanjem postupaka zbog povrede prava. U prvom redu, Komisija je djelovala kako bi osigurala poštovanje:

·slobode udruživanja nevladinih organizacija i prava na zaštitu osobnih podataka njihovih donatora,

·akademske slobode,

·slobode izražavanja i medijskog pluralizma,

·ljudskog dostojanstva,

·prava na poštovanje privatnog života,

·prava svih osoba, uključujući LGBTIQ osobe, da ih se ne diskriminira na osnovi spola i spolne orijentacije.

Komisija je u svim državama članicama pratila izvanredne mjere poduzete tijekom pandemije bolesti COVID-19 i njihov učinak, osobito na vladavinu prava, temeljna prava i usklađenost s ostalim pravilima iz prava Unije, kako je prikazano u Izvješću o vladavini prava za 2021. i poglavljima o pojedinačnim zemljama 14 .

2.2.Jačanje položaja organizacija civilnog društva, boraca za prava i pravnih stručnjaka

Organizacije civilnog društva i neovisna nacionalna tijela za ljudska prava ključni su partneri institucijama EU-a i državama članicama u promicanju i zaštiti temeljnih prava, demokracije i vladavine prava. Imaju ključnu ulogu u informiranju ljudi o njihovim pravima i pomaganju ljudima da dobiju djelotvornu sudsku zaštitu. Te organizacije moraju moći raditi u poticajnom okruženju, bez neopravdanih regulatornih ograničenja, prepreka financiranju ili čak kampanja ocrnjivanja 15 te ujedno moraju moći izgrađivati svoje kapacitete. Neke države članice i dalje nemaju potpuno funkcionalne nacionalne institucije za ljudska prava, koje su važna poveznica između vlade i civilnog društva 16 . Države članice pozivaju se da osnuju takve institucije i osiguraju im sredstva za potpuno neovisno djelovanje.

Komisija u okviru svojeg godišnjeg izvješća o vladavini prava pomno prati položaj organizacija civilnog društva i izvješćuje o kretanjima povezanima s okvirom za civilno društvo. U Izvješću o vladavini prava za 2021. navodi se da je pandemija bolesti COVID-19 utjecala na organizacije civilnog društva, i to ne samo zbog ograničenja slobode kretanja i okupljanja, već i s obzirom na financiranje. Prema tom izvješću, sudjelovanje civilnog društva u osmišljavanju i provedbi mjera povezanih sa suzbijanjem bolesti COVID-19 općenito je bilo ograničeno 17 . U Izvješću o vladavini prava za 2020. utvrđene su mjere kojima se ograničavala sloboda izražavanja organizacija civilnog društva 18 . Naime, podaci koje je prikupila FRA 19 pokazuju da mnoge organizacije civilnog društva smatraju da su od ožujka 2020. nacionalne mjere za suzbijanje pandemije negativno utjecale na njihove aktivnosti. Iako su zabilježile porast potražnje za svojim uslugama, većina njih suočavala se s poteškoćama u mogućnosti nastavka pružanja tih usluga. Praktični problemi uključivali su otkazivanje aktivnosti, psihološki utjecaj na osoblje i smanjenje radnog doprinosa volontera.

Komisija borce za prava i organizacije civilnog društva dodatno podupire namjenskim financiranjem, na primjer putem poziva na podnošenje prijedloga za zaštitu i promicanje vrijednosti EU-a, koji je u potpunosti usmjeren na male i lokalne organizacije civilnog društva i u okviru kojeg se isplaćuju sredstva u iznosu od 51 milijuna EUR za razdoblje 2021.–2022. 20 Poseban poziv u vrijednosti od 2 milijuna EUR objavljen je za potporu za vođenje sporova i izgradnju kapaciteta povezanih s primjenom Povelje 21 .

Komisija promiče i izgradnju kapaciteta i informiranje o Povelji za suce i druge pravne stručnjake. Komisija je u prosincu 2020. donijela novu europsku strategiju za pravosudnu izobrazbu za razdoblje 2021.–2024. 22 , a u ožujku 2021. objavila je poziv na podnošenje prijedloga za potporu projektima pravosudne izobrazbe u koji su uključena temeljna prava kao jedan od ključnih prioriteta 23 . Provedeno je nekoliko projekata pravosudne izobrazbe o Povelji, a sufinancirala ih je Komisija u okviru svojeg programa Pravosuđe za razdoblje 2014.–2020. 24 Materijali za pravosudnu izobrazbu o temeljnim pravima dostupni su pravosudnim stručnjacima na platformi pokrenutoj u prosincu 2020. 25

2.3.Iskorištavanje punog potencijala Povelje o temeljnim pravima u donošenju odluka EU-a

Institucije, tijela, uredi i agencije EU-a moraju poštovati Povelju u svim svojim aktivnostima. Komisija jača svoje unutarnje kapacitete za osiguravanje usklađenosti s Poveljom i ažurira svoj paket instrumenata za bolju regulativu 26 , uključujući smjernice iz 2011. o razmatranju temeljnih prava pri provođenju procjena učinka 27 . Osmišljava i posebno osposobljavanje o Povelji i alat za e-učenje kako bi pomogla osoblju pri procjenama učinka politika i zakonodavnih prijedloga Komisije na temeljna prava. Alat za e-učenje bit će javno dostupan i mogao bi se, zajedno s ažuriranim paketom instrumenata i smjernicama za bolju regulativu, pokazati kao korisno sredstvo drugim institucijama EU-a te zakonodavcima i oblikovateljima politika u državama članicama. Komisija je spremna poduprijeti Europski parlament i Vijeće kako bi se osiguralo da djelotvorno primjenjuju Povelju u svojem radu.

2.4Informiranje građana

Zajedno s donošenjem ovog izvješća Komisija pokreće i kampanju za informiranje o Povelji kako bi informirala građane o njihovim pravima i tome kome se trebaju obratiti ako su njihova prava prekršena. Kampanja će se provoditi na internetu, putem događanja za medije i društvenih mreža, upotrebom oznake #RightHereRightNow. Bit će usmjerena na niz posebnih prava, kao što su nediskriminacija i ravnopravnost, prava djeteta, sloboda izražavanja i informiranja te pravo na djelotvoran pravni lijek i na pošteno suđenje. U širenje informacija u okviru te kampanje bit će uključeni ključni partneri, kao što su organizacije civilnog društva, nacionalne institucije i tijela za ljudska prava, FRA te druga tijela i agencije EU-a. Kampanja će uključivati poveznice s drugim informativnim kampanjama o pravima i s konferencijom o budućnosti Europe. Komisija je na sve službene jezike EU-a prevela i svoju internetsku stranicu o Povelji na internetskim stranicama Europa 28 te je pokrenula novu verziju europskog portala e-pravosuđe, na kojem se nalaze informacije o primjeni Povelje i o tome gdje se može dobiti pomoć 29 .

3.Povelja kao orijentir EU-a za digitalno doba

Europska komisija kao svoj prioritet odredila je oblikovanje digitalne tranzicije tako da od nje svi imaju koristi i da se nikoga ne zapostavi. Danas je sve teže razlikovati ono što se nekoć opisivalo kao „svijet izvan interneta” i „svijet na internetu”. To sa sobom nosi niz problema u osiguravanju poštovanja temeljnih prava u digitalnom okruženju koje se brzo mijenja.

Digitalna tehnologija sve je prisutnija u svim područjima našeg društva i može se upotrebljavati na mnoge različite i često korisne načine. Zahvaljujući digitalnim rješenjima ostvaruje se napredak u znanstvenim istraživanjima, povećava se industrijska proizvodnja, olakšava se tranzicija prema održivosti i olakšava se pružanje niza usluga te su ona danas glavni kanal za privatnu i javnu komunikaciju. Ona povećavaju mogućnost ljudi da sudjeluju u demokratskim raspravama i da se informiraju o bilo kojoj temi. Konkretnije, sustavi umjetne inteligencije mogu služiti za poticanje inovacija i povećanje blagostanja te ih pojedinci mogu upotrebljavati u svim područjima života, primjerice, u području zdravstvene zaštite, za prevođenje ili kao potporu pri odlučivanju. Digitalna automatizacija pomaže u učinkovitijem organiziranju rada te omogućuje dosad neviđene razine koordinacije. Prikupljanjem podataka o ljudskim djelovanjima i učincima tih djelovanja ljudima se pomaže razumjeti i oblikovati svijet.

Istodobno, određene primjene tehnologije dovode do opasnosti od ograničavanja djelotvornosti zaštite koja se jamči temeljnim pravima. Širenje nezakonitog sadržaja kao što su govor mržnje i seksualno zlostavljanje djece ugrožava pravo žrtve na dostojanstvo, a širenje dezinformacija dovodi u pitanje demokratsku raspravu i naše pravo na pristup informacijama. Ako su procesi ili čak odlučivanje automatizirani, može biti teško osigurati transparentnost i odgovornost za ishode, na primjer ako se za odlučivanje o raspodjeli posla upotrebljava složeni softver. Ako informacije ne postoje ili ih je teško dobiti, može biti teško ocijeniti i otkloniti povrede temeljnih prava.

Što se određeni automatizirani alat u ostvarivanju rezultata više oslanja na vanjske čimbenike, kao što su podaci, doprinosi ljudi ili drugih sustava, to je teže osigurati da se tim alatom prava ne krše već od samog početka, na primjer zbog određenih ukorijenjenih pristranosti koje mogu utjecati na donošenje odluka u kontekstu rada. Što se više podataka prikuplja o ljudima, to je lakše pratiti te ljude i narušavati njihovu privatnost. Mrežni učinci mogu smanjiti moć pojedinaca u odnosu na velike organizacije, na primjer na internetskim tržištima ili platformama za rad, na kojima pojedinci imaju malu pregovaračku moć ili male mogućnosti da se organiziraju. Istodobno, društvene mreže koriste se za širenje mržnje i nezakonitog sadržaja, primjerice kad se njima širi nezakonit govor mržnje, materijal koji sadržava seksualno zlostavljanje djece ili teroristički sadržaj. Nadalje, potrebno je još mnogo rada da bi se svima pomoglo u ostvarivanju koristi od novih i korisnih alata u situacijama u kojima je pristup internetu nedostatan ili nema dovoljno opreme ili znanja o načinu upotrebe tih alata.

Ovisno o kontekstu ti se problemi mogu javljati pojedinačno ili u kombinaciji. Mogu se međusobno pojačavati i istodobno utjecati na više temeljnih prava, što treba uzeti u obzir pri rješavanju tih problema. U ovom se izvješću prikazuju neki od ključnih aspekata u kojima se javljaju problemi za temeljna prava koji proizlaze iz upotrebe digitalne tehnologije. Izvješće pokazuje koja su prava pogođena u tim kontekstima, kako se razvija situacija u državama članicama EU-a te kako države članice i Europska komisija primjenjuju Povelju kako bi prevladale te različite probleme te zaštitile i promicale prava ljudi.

4.Pronalaženje rješenja za probleme moderiranja sadržaja na internetu

Internetski posrednici kao što su platforme društvenih mreža imaju važnu ulogu u životu svakog pojedinca i potiču nove oblike interakcija među pojedincima, javnim upravama i poduzećima. Upotreba tih platformi dovela je do znatnog porasta dostupnih informacija te se upotrebom tih platformi ljudima pružaju veće mogućnosti za ostvarivanje prava na slobodu izražavanja i pristup informacijama, čime su nastala i brojna mjesta za aktivizam i okupljanje pojedinaca i civilnog društva na internetu.

Velike platforme novi su gradski trgovi ·Neke internetske platforme postale su toliko važne u olakšavanju razmjene informacija da imaju veliku ulogu u demokratskim raspravama. ·Budući da više od polovine stanovništva EU-a upotrebljava društvene mreže, pri čemu taj broj doseže gotovo 90 % među stanovništvom u dobi od 16 do 24 godine, učinci načina na koji su te platforme osmišljene i standarda koji se na njima primjenjuju imaju dalekosežne društvene posljedice 30 . ·Alati i mehanizmi koji se na tim platformama primjenjuju za moderiranje sadržaja i poticanje ljudi da provode što više vremena koristeći se njihovim uslugama imaju veliku ulogu u oblikovanju informacija i mišljenja s kojima se ljudi susreću na internetu. ·Pronalaženje rješenja za nezakonit sadržaj na tim velikim platformama zahtjevno je jer su one postale veliki javni prostori za razmjenu informacija, a pritom nemaju pravnu obvezu da uzimaju u obzir javni interes.

Istodobno, upotreba internetskih platformi pojačala je društvene probleme poput polarizacije 31 ili širenja nezakonitog sadržaja, često sa znatnim negativnim učincima na temeljna prava, kao što su zaštita prava djeteta, zaštita potrošača, sloboda primanja i širenja informacija te zaštita intelektualnog vlasništva.

Razmjeri i brzina širenja internetskog sadržaja koji sam po sebi nije nezakonit, kao što su dezinformacije i teorije zavjere, mogu utjecati na demokratske rasprave, povjerenje u institucije te, kao što se pokazalo nakon izbijanja pandemije bolesti COVID-19, na zdravlje, sigurnost i jednako postupanje.

Demokracija u EU-u suočava se s mnogim izazovima, uključujući populizam, sve polariziranije političke rasprave i opadanje povjerenja javnosti u demokratske procese uzrokovano dezinformacijama 32 . Ti fenomeni pojačavaju se zbog koordiniranog uplitanja trećih zemalja ili privatnih interesa u izbore, širenja dezinformacija ili nedostatne transparentnosti i odgovornosti u ciljanim političkim oglasima. Izražava se i zabrinutost da određene skupine nisu dovoljno uključene ili da se s njima ne surađuje u dovoljnoj mjeri, što se odnosi, primjerice, na mlade ili starije osobe ili osobe s invaliditetom. Etničke manjine, uključujući romske zajednice, te žene i LGBTIQ osobe više ili manje i ovisno o kontekstu ustručavaju se angažirati kao politički kandidati zbog straha od zastrašivanja, prijetnji, uznemiravanja i govora mržnje. U tim okolnostima mjere za zaštitu temeljnih prava izravno pridonose očuvanju vrijednosti EU-a o održivom, ravnopravnom, demokratskom i participativnom društvu u kojem prevladavaju tolerancija, nediskriminacija i pluralizam.

Sloboda izražavanja, uključujući izražavanje na internetu, neizostavan je dio svake demokracije. U svim zakonodavnim ili nezakonodavnim mjerama koje se odnose na moderiranje sadržaja i odgovornost internetskih posrednika za sadržaj u okviru njihovih usluga mora se voditi računa o tome da pravo na slobodu govora uključuje pravo na izražavanje ideja koje se mogu smatrati kritikama, uvredljivima, pogrdnima ili prijepornima te o tome da se pravo na slobodu govora smije ograničiti samo pod vrlo strogim uvjetima, među ostalim i u pogledu širenja navodno nezakonitog sadržaja kao što je materijal koji sadržava govor mržnje. Međutim, Europski sud za ljudska prava jasno je naglasio i da države smiju, a možda čak imaju i pozitivnu dužnost, suzbijati sve oblike izražavanja kojima se širi, potiče, promiče ili opravdava mržnja prema osobama ili skupinama koje pripadaju određenoj etničkoj skupini ili vjeroispovijesti 33 .

Dezinformacije i pogrešne informacije najčešće nisu nezakonite iako mogu biti uznemirujuće ili uvredljive. Kad je riječ o govoru koji je zaštićen slobodom izražavanja, država ima osnovnu obvezu suzdržati se od uplitanja i cenzure, ali država isto tako ima i pozitivnu obvezu osigurati povoljno okruženje za uključivu i pluralističku javnu raspravu, osobito kad je riječ o izborima, i za ostvarivanje slobode medija. Takve mjere prelaze okvire moderiranja sadržaja i povezane su s temeljnijim mjerama obrazovanja i informiranja.

Privatni subjekti kao što su internetske platforme sami utvrđuju svoje uvjete i poslovni model u okviru ostvarivanja svojeg prava na slobodu ugovaranja i slobodu poduzetništva i pritom ne dobivaju upute države o sadržaju koji bi bili obvezni smjestiti na svoje poslužitelje. U tom kontekstu platforme bi mogle poduzeti mjere koje znatno utječu na korisnike i njihova prava. Protiv takvih privatnih odluka nije uvijek dostupan pravni lijek kojim bi se omogućilo da se takve odluke dovedu u ravnotežu s pravima i legitimnim interesima pojedinaca i da se osigura određen stupanj predvidljivosti. Ako internetske platforme prekomjerno uklanjaju zakonit sadržaj, mogu znatno ograničiti slobodu izražavanja i informiranja.

4.1.Stanje na razini država članica

U okviru ciljanog savjetovanja za potrebe ovog izvješća sudionici iz civilnog društva prijavili su probleme u državama članicama prouzročene određenim nezakonitim sadržajem na internetu, kao što su kampanje ocrnjivanja i napadi na one koji štite prava drugih osoba. Prijavljeno je da je takav sadržaj bio nerazmjerno usmjeren na žene, osobito žene druge boje kože ili žene koje pripadaju ranjivim skupinama kao što su migrantkinje i Romkinje, te na LGBTIQ osobe. Djeca koja upotrebljavaju internetske platforme izložena su neprimjerenom, štetnom i nasilnom sadržaju te predatorima na internetu, čime se povećavaju i rizici od mamljenja i novačenja u ekstremistička okruženja. Prijavljeno je da se na internetu pojačava seksualno nasilje nad djecom, primjerice zbog povećane potražnje za materijalima koji sadržavaju seksualno zlostavljanje djece.

Organizacije civilnog društva navele su i dezinformacije kao problem koji utječe na zdravlje i sigurnost, kao i na demokratske rasprave u nekoliko država članica. Postoji opća zabrinutost zbog nedovoljne transparentnosti (oznake, upozorenja o razmjeni, obavijesti o izloženosti) i nedovoljne medijske pismenosti u odnosu na lažni ili obmanjujući sadržaj.

Dok se širenje nezakonitog sadržaja i dezinformacija smatralo prijetnjom, organizacije civilnog društva koje su sudjelovale u savjetovanju upozorile su i na učinke na slobodu izražavanja koji nastaju kad se za suzbijanje takvih prijetnji primjenjuju loše postavljene politike moderiranja sadržaja. Organizacije civilnog društva navele su da se zaštita autorskog prava zloupotrebljavala u svrhu ušutkivanja osoba na internetu i da su se zakoni o kleveti i veličanju terorizma upotrebljavali za ograničavanje djelovanja pojedinaca. Niska točnost automatiziranih sustava za moderiranje sadržaja, naročito kad se upotrebljavaju za sadržaj kod kojeg procjena njegove zakonitosti ovisi o visokoj razini kontekstualizacije, dovela je do zabrinutosti u pogledu neopravdanih učinaka na slobodu izražavanja koji nastaju zbog nedovoljno selektivnog uklanjanja sadržaja i ušutkivanja određenih izjava i mišljenja, među ostalim onih koje izražavaju pripadnici manjina. Prema tvrdnjama članova akademske zajednice i ispitanika u ciljanom savjetovanju, demokratska rasprava može se narušiti i primjenom algoritama za prilagođavanje prikaza sadržaja korisnicima jer su ti algoritmi usmjereni na povećanje prihoda od oglašavanja, a ne na pružanje javnosti pouzdanih informacija u javnom interesu. Slične tvrdnje da algoritmi koji se upotrebljavaju za prilagodbu sadržaja koji korisnici vide uzrokuju štetu iznijeli su i zviždači putem medija 34 . Osim učinaka koje primjena tih sustava ima na temeljna prava, ispitanici u ciljanom savjetovanju tvrde da se sustavi često primjenjuju netransparentno ili nedovoljno transparentno i uz vrlo malu odgovornost za ishode.

Nekoliko država članica EU-a zakonski je uredilo poslovanje pružatelja digitalnih usluga s poslovnim nastanom na njihovim državnim područjima. Tim zakonima nastoji se osigurati da pružatelji usluga poštuju određena postupovna pravila kad korisnici ili nadležna tijela prijave nezakonit sadržaj. Ti zakoni ponekad obuhvaćaju određene kategorije nezakonitog sadržaja kao što su povrede autorskog prava ili nezakonit govor mržnje. Međutim, konkretni zahtjevi iz tih zakona često se razlikuju s obzirom na nekoliko elemenata:

·informacije potrebne za prijavljivanje nezakonitog sadržaja,

·mogućnost osoba koje su objavile taj sadržaj da odgovore na prijavu,

·vremenski okvir u kojem pružatelji usluga moraju reagirati na prijavu,

·potencijalne obvezne mjere protiv zloupotrebe prijava, ili

·mogućnost prosljeđivanja spornih slučajeva na rješavanje neovisnoj trećoj strani.

U novije je vrijeme, s obzirom na sve veću zabrinutost oko širenja govora mržnje i terorističkog sadržaja, nekoliko država članica donijelo, predložilo ili predvidjelo donijeti dodatna pravila posebno usmjerena na određene kategorije nezakonitog sadržaja, koja ponekad obuhvaćaju i pružatelje usluga s poslovnim nastanom izvan njihova državnog područja. Međutim, postoji znatna pravna rascjepkanost koja proizlazi iz pojedinačnih nastojanja država članica da pronađu rješenje za nezakonit sadržaj na internetu i da uvedu razne vrste zaštitnih mjera za slobodu izražavanja. Nekoliko država članica 35 te Vijeće 36 i Europski parlament 37 pozvali su da se ti problemi oko kojih su svi zabrinuti riješe na razini EU-a. Nadalje, određen broj država članica primijetio je da nedostatak prekogranične suradnje među nacionalnim tijelima sprečava djelotvoran nadzor internetskih platformi koje posluju prekogranično 38 .

4.2.Odgovor u okviru politike EU-a

Na temelju poziva država članica na razini EU-a doneseno je nekoliko sektorskih inicijativa kojima se nastoji riješiti problem određenih vrsta nezakonitog sadržaja, kao što je sadržaj koji se odnosi na terorizam, seksualno zlostavljanje djece, poticanje na mržnju i nasilje, trgovanje ljudima, nesigurne proizvode i povrede autorskog prava, pri čemu se istodobno jamči zaštita temeljnih prava.

Direktiva o audiovizualnim medijskim uslugama

Revidirana Direktiva o audiovizualnim medijskim uslugama (AVMSD) donesena je 2018. Direktiva uključuje mjere za zaštitu maloljetnika od audiovizualnog sadržaja i komercijalnih komunikacija koje bi im mogle uzrokovati fizičku, psihičku ili moralnu štetu. Države članice moraju osigurati i da audiovizualne medijske usluge ne sadržavaju nikakvo poticanje na nasilje ili mržnju protiv osoba na temelju bilo kojeg od razloga iz članka 21. Povelje Europske unije o temeljnim pravima. Rok za prenošenje te direktive bio je 19. rujna 2020. Komisija je u studenome 2020. pokrenula postupke zbog povrede (službene opomene) protiv 23 države članice koje nisu prenijele Direktivu pa su je mnoge prenijele sljedeće godine. U rujnu 2021. Komisija je poslala drugo upozorenje (obrazložena mišljenja) devet država članica jer nisu dostavile obavijesti o potpunom prenošenju. Provedba revidirane Direktive o audiovizualnim medijskim uslugama ključna je ne samo za sudionike na tržištu, već i za pojedince (uključujući gledatelje i maloljetnike).

Direktiva o autorskom pravu na jedinstvenom digitalnom tržištu

Direktiva o autorskom pravu 39 donesena je u travnju 2019. i njome se nastoji osigurati da nositelji prava dobiju pravičnu naknadu za korištenje njihovih djela. Time se uspostavlja ravnoteža među konkurentnim temeljnim pravima kao što su pravo na intelektualno vlasništvo, sloboda izražavanja i informiranja, sloboda znanosti, pravo na obrazovanje i pravo na kulturnu raznolikost. Direktivom se uvode obvezne iznimke od autorskog prava kojima se štiti sloboda izražavanja korisnika koji proizvode i učitavaju sadržaj u okviru usluga dijeljenja sadržaja putem interneta. Direktivom se od Komisije zahtijevalo da organizira dijalog s dionicima radi raspravljanja o najboljoj praksi u smislu suradnje između pružatelja usluge dijeljenja sadržaja putem interneta i nositelja prava, pri čemu bi se posebno uzela u obzir potreba za uspostavljanjem ravnoteže između temeljnih prava i primjene iznimaka i ograničenja. Nakon tog dijaloga, Komisija je u lipnju 2021. donijela smjernice radi potpore usklađenoj primjeni članka 17. Direktive, u kojem se utvrđuju nova pravila o korištenju zaštićenog sadržaja od strane pružatelja usluge dijeljenja sadržaja putem interneta 40 . U tim se smjernicama daju praktična objašnjenja glavnih odredaba članka 17., čime se sudionicima na tržištu pomaže da se bolje usklade s nacionalnim propisima koji se temelje na Direktivi te se uzimaju u obzir stajališta koja su iznijeli dionici i države članice.

Kodeks postupanja za borbu protiv nezakonitog rasističkog i ksenofobičnog govora mržnje

Komisija je 2016. potpisala dobrovoljni kodeks postupanja s velikim internetskim platformama kako bi osigurala da se obavijesti o nezakonitom rasističkom i ksenofobičnom govoru mržnje brzo procjenjuju, ne samo u odnosu na uvjete za pružanje usluga tih poduzeća, već i u odnosu na zakone država članica kojima se provodi pravo Unije o kriminalizaciji rasističkog i ksenofobičnog govora mržnje 41 . Pridržavanje tog kodeksa postupanja redovito se prati 42 . Njime se ostvaruju dobri rezultati, a potaknuo je i primjenu suradničkog pristupa među internetskim platformama, državama članicama i civilnim društvom kako bi se osigurala visoka kvaliteta moderiranja sadržaja u situacijama u kojima je potrebno temeljito razumijevanje kulturnog, jezičnog i povijesnog konteksta spornog sadržaja.

Preporuka o sigurnosti novinara i drugih medijskih djelatnika

Zbog poticanja na mržnju na internetu, prijetnji fizičkim nasiljem, ali i kibersigurnosnih rizika te nezakonitog nadzora, sigurnost je postala velik problem za novinare. Europska komisija izdala je 16. rujna 2021. Preporuku za zaštitu, sigurnost i jačanje položaja novinara 43 . U Preporuci se države članice potiču na promicanje suradnje između internetskih platformi i organizacija sa stručnim znanjem u borbi protiv prijetnji upućenih novinarima, primjerice tako da ih potiču na preuzimanje uloge pouzdanih prijavitelja. Novinari i drugi medijski djelatnici nisu samo meta poticanja na mržnju na internetu i prijetnji fizičkim nasiljem, već mogu podlijegati nezakonitom nadzoru, a u Preporuci se navodi da bi relevantna nacionalna tijela za kibersigurnost novinarima koji žele saznati jesu li im uređaji ili internetski računi ugroženi trebala na zahtjev pomoći u dobivanju usluga forenzičkih istražitelja u području kibersigurnosti. Države članice trebale bi ujedno promicati redoviti dijalog između takvih tijela za kibersigurnost, medija i industrije, prvenstveno kako bi novinari razvili razumijevanje kiberprostora i digitalne vještine.

Uredba o borbi protiv širenja terorističkog sadržaja na internetu

Sigurnost i poštovanje temeljnih prava nisu međusobno proturječni nego dosljedni i komplementarni ciljevi. Da bi se ostvarila sigurnost i u internetskom i u fizičkom okruženju potrebno se boriti protiv nezakonitog sadržaja na internetu. Kako bi se osiguralo uklanjanje terorističkog sadržaja, Europski parlament i Vijeće donijeli su 2021. Uredbu o borbi protiv širenja terorističkog sadržaja na internetu 44 . Uredba sadržava niz zaštitnih mjera za temeljna prava, osobito za slobodu izražavanja. Primjerice, nacionalna nadležna tijela mogu izdavati naloge za uklanjanje samo za teroristički sadržaj kako je definiran Uredbom i u tim se nalozima mora obrazložiti zašto se određeni materijal smatra terorističkim sadržajem. Uredbom se izuzima sadržaj koji se širi u obrazovne, novinarske, umjetničke ili istraživačke svrhe ili u svrhu jačanja svijesti o terorističkoj aktivnosti. Internetske platforme nemaju obvezu upotrebljavati automatizirane alate za proaktivno identificiranje ili uklanjanje terorističkog sadržaja, ali ako se upotrebljavaju tehničke mjere, radi osiguravanja točnosti trebaju se primjenjivati zaštitne mjere, osobito ljudski nadzor i provjera. Od ožujka 2023. države članice i internetske platforme morat će izdavati i godišnja izvješća o mjerama koje su poduzete za uklanjanje terorističkog sadržaja i o funkcioniranju svakog automatiziranog alata koji se koristio.

Zakonodavstvo o borbi protiv seksualnog zlostavljanja djece na internetu

Dok su regulatorne mjere za borbu protiv nezakonitog sadržaja uvelike bile usmjerene na javno dostupan sadržaj, kao što je sadržaj objavljen na društvenim medijima ili internetskim stranicama, potrebno je pronaći rješenje i za problem materijala koji sadržava seksualno zlostavljanje djece i razmjenjuje se interpersonalnom komunikacijom, među ostalim putem alata za interpersonalnu komunikaciju na društvenim mrežama. Privremenim zakonodavstvom 45 , koje je stupilo na snagu u kolovozu 2021., osigurava se da određene internetske komunikacijske usluge, kao što su usluge elektroničke pošte i slanja poruka na internetu, u mjeri u kojoj je to prijeko potrebno mogu nastaviti upotrebljavati posebne tehnologije za otkrivanje materijala koji sadržava seksualno zlostavljanje djece te takav materijal prijaviti i ukloniti, uz primjenu niza jamstava da će privatnost i osobni podaci biti zaštićeni u skladu s Općom uredbom o zaštiti podataka. Postoji rizik da će mehanizmi za otkrivanje seksualnog zlostavljanja djece u interpersonalnim komunikacijama utjecati na temeljna prava, ponajprije povjerljivost komunikacija, zaštitu osobnih podataka ili slobodu izražavanja. Privremenom uredbom nastoji se ublažiti taj utjecaj ograničavanjem na primjenu tehnologija kojima se privatnost narušava u što manjoj mjeri u skladu s najsuvremenijim dostignućima u industriji. Uredbom se predviđaju i mehanizmi pravne zaštite koji se moraju uspostaviti kako bi se osiguralo da pojedinci mogu podnositi pritužbe pružateljima usluga ako se njihov sadržaj pogreškom ukloni. Komisija izrađuje i zakonodavni prijedlog kojim će se ta privremena mjera zamijeniti, a pružateljima usluga dati pravna sigurnost i osigurati ujednačen pristup za otkrivanje, uklanjanje i prijavljivanje materijala koji sadržava seksualno zlostavljanje djece, uz istodobno osiguravanje ravnoteže između prava djeteta i potrebe za zaštitom djece od seksualnog zlostavljanja te prava na privatni život i prava na komunikaciju svih korisnika internetskih usluga.

Strategija EU-a za suzbijanje trgovine ljudima 2021.–2025.

Rješavanje problema digitalnog poslovnog modela trgovaca ljudima jedan je od prioriteta Strategije EU-a za suzbijanje trgovine ljudima 2021.–2025. 46 , koju je Komisija predstavila u travnju 2021. Pružatelji internetskih usluga i povezana poduzeća dio su rješenja u okviru kojeg se borba protiv trgovine ljudima podupire identifikacijom i uklanjanjem internetskog sadržaja povezanog s iskorištavanjem i zlostavljanjem žrtava takve trgovine. Komisija će voditi dijalog s relevantnim internetskim i tehnološkim poduzećima kako bi se smanjila upotreba internetskih platformi za vrbovanje i iskorištavanje žrtava. Usto, Komisija će olakšati eventualne slične dijaloge koje će države članice voditi na nacionalnoj razini.

Prijedlog uredbe o Aktu o digitalnim uslugama

Prijedlogom uredbe o Aktu o digitalnim uslugama 47 , koji je Komisija donijela u prosincu 2020. i o kojem suzakonodavci trenutačno raspravljaju, utvrđuju se obveze internetskih posrednika. Ne dovodeći u pitanje sektorska pravila EU-a kao što su pravila o autorskom pravu ili terorističkom sadržaju na internetu, prijedlogom se propisuje jedinstveni horizontalni skup pravila za uravnoteženo upravljanje moderiranjem sadržaja na internetu u EU-u.

Njime se predviđa primjerena zaštita svih temeljnih prava, uključujući slobodu izražavanja korisnika i njihovo pravo na privatni život te slobodu poduzetništva i slobodu ugovaranja platformi i njihova prava na intelektualno vlasništvo. Nastoji se i ublažiti rizike za osobe u ranjivim položajima i ranjive skupine kako bi ih se zaštitilo od prijetnji, zastrašivanja ili diskriminirajućeg ponašanja te bi se njime zaštitilo pravo na ljudsko dostojanstvo svih korisnika internetskih usluga.

Prema prijedlogu uredbe ti bi se ciljevi ostvarili na načine navedene u nastavku.

·Uvelike bi se očuvao postojeći sustav odgovornosti za internetske posrednike, uključujući zabranu opće obveze praćenja ili obveze aktivnog utvrđivanja činjenica. Taj se pristup temelji na postojećoj Direktivi o elektroničkoj trgovini 48 . Nastoje se predvidjeti: i. proporcionalna i primjerena zaštita prava na slobodu izražavanja, ograničavanjem poticaja za uklanjanje zakonitog sadržaja i prava na slobodu poduzetništva, osiguravanjem proporcionalnosti u djelovanjima koja se zahtijevaju od internetskih posrednika i zaštitom njihovih legitimnih poslovnih korisnika i ii. pitanja od javnog interesa povezana sa širenjem različitih vrsta nezakonitog sadržaja, osiguravanjem da posrednici brzo uklanjaju takav sadržaj u okviru uvjeta propisanih zakonodavstvom.

·Utvrdile bi se jasne i proporcionalne obveze dužne pažnje za internetske posrednike kako bi se osiguralo da se problem nezakonitog sadržaja rješava primjereno i transparentno te da korisnici mogu tražiti svoja prava. Prijedlogom se predviđa i skup strogih zaštitnih mjera za postupke moderiranja sadržaja, uključujući one koji se temelje na privatno utvrđenim uvjetima poslovanja.

·Za vrlo velike internetske platforme – one koje su zbog svojeg dosega stekle središnju, sistemsku ulogu u olakšavanju javne rasprave – uvela bi se obveza procjenjivanja i ublažavanja rizika koji proizlaze iz njihovih usluga, među ostalim i za određena temeljna prava (poštovanje privatnog i obiteljskog života, sloboda izražavanja i informiranja, nediskriminacija i prava djeteta). U strategijama za ublažavanje rizika potrebno je uzeti u obzir i potencijalne negativne učinke algoritama za umnožavanje sadržaja na platformama, kao što su sustavi za preporučivanje ili sustavi oglašavanja. Vrlo velike platforme podliježu i povećanoj odgovornosti, čime se korisnicima daje više izbora u njihovim interakcijama na internetu, a neovisnim revizorima i provjerenim istraživačima omogućuje se da provjeravaju sustave tih platformi.

Borba protiv dezinformacija i reguliranje političkog oglašavanja na internetu

Širenje dezinformacija, pogrešnih informacija i teorija zavjere može dovesti do polarizirajućih rasprava i ugroziti zdravlje, sigurnost i okoliš. Širenjem dezinformacija može se i otežati sposobnost ljudi da donose odluke utemeljene na točnim činjenicama. U nekim slučajevima dezinformacije čine govor koji država može legitimno ograničiti (poput rasističkog i ksenofobičnog poticanja na nasilje i mržnju). Međutim, širenje dezinformacija vrlo je često zaštićeno pravom na slobodu izražavanja, čak i ako za te dezinformacije ne postoje nikakvi znanstveni dokazi niti se one temelje na stvarnim događajima. Kad je riječ o zaštićenom govoru, države se moraju suzdržavati od cenzure. Kako bi bile učinkovite, mjere za ograničavanje dosega dezinformacija i teorija zavjere moraju biti popraćene poticanjem povoljnog okruženja za uključivu i pluralističku javnu raspravu. To je osobito relevantno kad je riječ o izborima.

Komisija je u tom kontekstu 2020. i 2021. nastavila razvijati nekoliko mjera kojima je nastojala povećati transparentnost u internetskom okruženju i odgovornost sudionika, radi jačanja položaja korisnika i poticanja otvorene demokratske rasprave na internetu. Te su mjere uključivale: i. pružanje potpore neovisnim provjeravateljima činjenica i akademskim istraživačima, ponajprije putem Europskog opservatorija za digitalne medije 49 , ii. mjere za povećanje medijske pismenosti i iii. praćenje samoregulatornog Kodeksa o suzbijanju dezinformacija 50 . Na temelju ishoda tih aktivnosti praćenja Komisija je izdala i smjernice o tome kako bi trenutačni i novi potpisnici Kodeksa, uključujući aplikacije za razmjenu privatnih poruka, sektor oglašavanja i druge relevantne dionike, mogli poboljšati opseg i primjenu Kodeksa i osigurati pouzdaniji okvir za praćenje 51 .

U svrhu promicanja demokratske rasprave u akcijskom planu za europsku demokraciju 52 utvrđuju se mjere za promicanje slobodnih i poštenih izbora, jačanje slobode medija i suzbijanje dezinformacija. To uključuje prijedlog o transparentnosti i ciljanju u političkom oglašavanju, donesen u studenome 2021. 53 , kao dio mjera usmjerenih na zaštitu integriteta izbora i otvorenu demokratsku raspravu. Prema predloženim pravilima zahtijevalo bi se da svaki politički oglas bude jasno označen kao takav i da sadržava informaciju o tome tko ga je platio i koliko. Političke tehnike ciljanja i isticanja trebalo bi javno objasniti na dosad najdetaljniji način i zabraniti upotrebu osjetljivih osobnih podataka bez izričitog pristanka dotične osobe. Naposljetku, u novom Akcijskom planu za digitalno obrazovanje (2021.–2027.) 54 predlaže se izrada smjernica za nastavno osoblje o suzbijanju dezinformacija i promicanju digitalne pismenosti.

Prijedlog nove uredbe o općoj sigurnosti proizvoda

Osim toga, kako bi se osigurali dodatni sektorski zahtjevi, Komisija je u lipnju 2021., kao dio preispitivanja okvira EU-a za sigurnost proizvoda, donijela i objavila Prijedlog nove uredbe o općoj sigurnosti proizvoda 55 . Tim prijedlogom, koji se temelji na Prijedlogu akta o digitalnim uslugama, uveli bi se dodatni zahtjevi za internetska tržišta u pogledu nesigurnih proizvoda kao posebne kategorije nezakonitog sadržaja. Suzakonodavci trenutačno raspravljaju o prijedlogu.

5.Zaštita temeljnih prava u okviru primjene umjetne inteligencije 

Primjena tehnologija umjetne inteligencije može imati znatne pozitivne učinke na naša društva. Njome se može povećati učinkovitost raznih postupaka ili se mogu poticati inovacije i istraživanja. Može se upotrebljavati i za promicanje različitih temeljnih prava, kao što su pravo na slobodu izražavanja i informiranja ili pravo na zdravstvenu zaštitu te za ostvarivanje napretka u važnim pitanjima od javnog interesa kao što su javna sigurnost ili javno zdravlje.

S druge strane, ako se umjetna inteligencija bez odgovarajućih zaštitnih mjera i kontrola kvalitete upotrebljava za automatiziranje ili podupiranje procesa donošenja odluka ili za aktivnosti kao što je nadzor, to može dovesti i do kršenja prava pojedinaca. Takva kršenja prava mogu biti velikih razmjera, ovisno o tome koliko široko se sustav upotrebljava, te ih može biti teško spriječiti ili otkriti ako sustav umjetne inteligencije nije dovoljno transparentan ili ljudi nisu svjesni da se takav sustav primjenjuje. Primjerice, upotreba umjetne inteligencije za izvođenje informacija o ljudima može utjecati na zaštitu podataka i privatnost. Pristranost u algoritmima ili podacima za učenje, kao što je rodna pristranost ili pristranost u odnosu na etničko ili rasno podrijetlo, može dovesti do nepravednih i diskriminirajućih ishoda. Ako je sustav za procjenjivanje potencijalnog uspjeha u radu poučen uglavnom podacima o muškarcima, vjerojatno će imati lošije rezultate ako ga se primijeni za analiziranje podataka o ženama, pa će to vjerojatno dovesti do diskriminacije. Osim toga, primjena umjetne inteligencije može utjecati i na prava na ljudsko dostojanstvo, dobru upravu, zaštitu potrošača, socijalnu sigurnost i socijalnu pomoć, slobodu izražavanja, slobodu okupljanja, obrazovanje, azil, kolektivno pregovaranje i djelovanje, poštene i pravične radne uvjete, pristup preventivnoj zdravstvenoj zaštiti, kulturnu i jezičnu raznolikost, zaštitu podataka i poštovanje privatnog života te na prava ranjivih skupina kao što su djeca. Ako se ti sustavi upotrebljavaju u kontekstu kaznenog progona ili pravosuđa, mogu utjecati i na pretpostavku nedužnosti te na pravo na pravično suđenje i pravo na obranu. Nadalje, nedostupnost ili nepostojanje relevantnih informacija o automatiziranim sustavima otežava djelotvorno izvršavanje obveza povezanih s temeljnim pravima i pristup pojedinaca pravnim lijekovima.

5.1.Stanje i mjere na razini država članica

Države članice EU-a posljednjih su godina nastojale riješiti probleme koji proizlaze iz primjene tehnologija umjetne inteligencije. Mnoge su izradile nacionalne strategije za umjetnu inteligenciju 56 u kojima su istaknule potrebu da se poštuju temeljna prava. Osim toga, države članice izradile su ili planiraju izraditi smjernice i etičke standarde kojima se korisnicima alata umjetne inteligencije pomaže u osiguravanju transparentnosti, sljedivosti i otpornosti te u otklanjanju potencijalnih pristranosti i pronalaženju djelotvornih načina za ispunjavanje njihovih obveza poštovanja temeljnih prava. U nekim su slučajevima za izradu smjernica i razvoj stručnog znanja zaduženi članovi akademske zajednice 57 ili stručne skupine osnovane u tu svrhu 58 . 

Države članice, djelujući zajedno na razini EU-a, istaknule su da je potrebno osigurati da se prava iz Povelje poštuju u potpunosti te su pozvale na preispitivanje postojećeg relevantnog zakonodavstva kako bi se osiguralo da je svrsishodno radi iskorištavanja novih mogućnosti i rješavanja problema nastalih upotrebom umjetne inteligencije 59 . U listopadu 2020., 26 od 27 država članica donijelo je dokument pod naslovom „Povelja o temeljnim pravima u kontekstu umjetne inteligencije i digitalnih promjena” 60 , u kojem su pozvale na rješavanje problema netransparentnosti, složenosti, pristranosti, određenog stupnja nepredvidivosti i djelomično autonomnog ponašanja određenih sustava umjetne inteligencije kako bi se osigurala njihova usklađenost s temeljnim pravima i olakšala provedba pravnih propisa. Države članice naglasile su da je važno da se u to uključe razni dionici, među ostalim i iz civilnog društva, kako bi mogli pridonijeti svojim stručnim znanjem.

U trenutku donošenja ovog izvješća ni jedna država članica EU-a nije donijela posebno zakonodavstvo kojim bi se rješavala pitanja povezana s temeljnim pravima proizišla iz upotrebe umjetne inteligencije 61 . Umjesto toga čini se da su se tijela u državama članicama oslanjala na postojeće zakonodavstvo. Jedan je talijanski sud 2017. talijanskom Ministarstvu obrazovanja naložio da objavi algoritam za automatizirano donošenje odluka koji je upotrebljavalo za upravljanje mobilnošću radnika, i to na temelju prava na pristup dokumentima, koje omogućuje i pravo na djelotvoran pravni lijek 62 . Finski Nacionalni sud za nediskriminaciju i jednakost u odluci iz 2018. smatrao je da je u slučaju ocjenjivanja kreditne sposobnosti na temelju statističkih podataka koji se odnose na spol, boravište, dob i jezik umjesto na temelju pojedinačne procjene riječ o diskriminaciji 63 . Nizozemski sud ukinuo je u veljači 2020. zakonodavni akt kojim je uspostavljen sustav za otkrivanje prijevara i to na temelju temeljnog prava na privatni život kako je ugrađeno u Europsku konvenciju o ljudskim pravima 64 . Sustav SyRI (engl. System Risk Indication) upotrebljavao se za analiziranje podataka koje su prikupila razna javna tijela u svrhu otkrivanja osoba koje bi mogle počiniti prijevaru povezanu sa socijalnim naknadama. Nizozemski sud utvrdio je da upotreba sustava SyRI nije bila dovoljno transparentna i da zadiranje u pravo na privatnost primjenom tog sustava nije bilo proporcionalno cilju otkrivanja prijevara.

Ti primjeri pokazuju da su se države članice već suočile s problemima proizišlima iz upotrebe umjetne inteligencije u odnosu na temeljna prava. Pristupom za rješavanje problema povezanih s umjetnom inteligencijom koji je Komisija predložila nastoji se ojačati djelotvorna zaštita temeljnih prava te istodobno poticati inovacije u području umjetne inteligencije.

5.2.Komisijin prijedlog o reguliranju visokorizične umjetne inteligencije

Komisija je u travnju 2021. iznijela Prijedlog uredbe o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) 65 . Ključni su ciljevi predloženog akta o umjetnoj inteligenciji zaštita temeljnih prava i sigurnosti te stvaranje jedinstvenog tržišta za pouzdane sustave umjetne inteligencije. Prijedlogom se nastoji osigurati da se visokorizični sustavi umjetne inteligencije projektiraju i upotrebljavaju u skladu s temeljnim pravima te da nadležna nacionalna tijela i sudovi mogu djelotvornije istraživati i otklanjati moguća kršenja obveza povezanih s temeljnim pravima. 

U prijedlogu se primjenjuje pristup koji se temelji na riziku. Potpuno se zabranjuju određeni sustavi umjetne inteligencije, primjerice oni u kojima se primjenjuju subliminalne tehnike i oni koje upotrebljavaju javna tijela u svrhu vrednovanja građana, jer su u suprotnosti s vrijednostima EU-a. Zabranjuje se i primjena sustava za daljinsku biometrijsku identifikaciju na javnim mjestima za potrebe kaznenog progona, osim ako se primjenjuju jasno utvrđene iznimke i zaštitne mjere.

Prije stavljanja na tržište ili u upotrebu visokorizični sustavi umjetne inteligencije morat će ispuniti određeni skup zahtjeva i zadovoljiti na ocjenjivanjima sukladnosti. Tim se zahtjevima osigurava da visokorizični sustavi umjetne inteligencije imaju odgovarajuću dokumentaciju i da su prošli odgovarajuće testiranje te se osiguravaju odgovarajuća kvaliteta podataka, sljedivost, ljudski nadzor, pouzdanost, točnost i kibersigurnost. Primjenjivat će se u slučajevima kad se sustavi umjetne inteligencije upotrebljavaju u važnim područjima, kao što su biometrijska identifikacija, obrazovanje, zapošljavanje, osnovne javne i privatne usluge, kao što su krediti ili naknade u okviru javne pomoći, kazneni progon, migracije i nadzor granice te pravosuđe. Sustavi umjetne inteligencije koji su sigurnosni sastavni dijelovi određenih reguliranih proizvoda (npr. strojeva, medicinskih proizvoda) isto će tako biti obuhvaćeni istim zahtjevima te će ih biti potrebno provjeriti prije nego što se budu mogli staviti na tržište EU-a ili u upotrebu.

Prijedlogom se osigurava da proizvođači sustava umjetne inteligencije pružaju odgovarajuće informacije korisnicima tih sustava, kao što su poduzeća u interakciji s klijentima ili javna tijela koja donose odluke, kako bi se osigurala prikladna upotreba njihovih aplikacija i kako bi im se omogućilo da ispune svoje obveze u skladu s propisima o temeljnim pravima.

Ako bi upotrebom sustava umjetne inteligencije došlo do kršenja temeljnih prava, djelotvorna pravna zaštita za pogođene osobe olakšat će se zahvaljujući transparentnosti i sljedivosti sustava umjetne inteligencije, u kombinaciji sa strogim ex post kontrolama koje provode nadležna tijela. Nadzorna tijela nadležna za provedbu temeljnih prava, kao što su tijela za zaštitu podataka, tijela za ravnopravnost ili tijela za zaštitu potrošača, imat će pristup cjelokupnoj dokumentaciji o visokorizičnim sustavima umjetne inteligencije obuhvaćenoj njihovim područjem nadležnosti. Moći će surađivati s tijelima za nadzor tržišta kako bi se, prema potrebi, testirali odgovarajući sustavi umjetne inteligencije.

Za određene sustave umjetne inteligencije rizik od manipulacija svest će se na najmanju mjeru obvezama u pogledu transparentnosti prema pogođenim osobama, naročito u slučaju chat botova (računalni programi koji mogu odgovarati na pitanja putem internetskog chata) ili uvjerljivog krivotvorenog sadržaja (engl. deep fakes; umjetno generirana ili manipulirana slika, audiozapis ili videozapis koji nalikuje stvarnim osobama, predmetima, mjestima ili drugim subjektima ili događajima i za koje se pogrešno čini da su vjerodostojni ili istiniti). Osobe bi trebalo obavijestiti i kad se upotrebljavaju sustavi za prepoznavanje emocija ili sustavi za biometrijsku kategorizaciju jer će im to pomoći u ostvarivanju njihovih prava na temelju postojećeg zakonodavstva o zaštiti podataka.

O prijedlogu se trenutačno pregovara sa suzakonodavcima.

5.3.Međudjelovanje sa sektorskim zakonodavstvom – primjer kreditne sposobnosti i određivanja kreditne ocjene

Prijedlog akta o umjetnoj inteligenciji primjenjivat će se zajedno s drugim zakonodavstvom u kojem se utvrđuju materijalna pravila za primjenu sustava umjetne inteligencije u jasno određenim kontekstima. Na primjer, davatelji kredita često primjenjuju tehnike automatiziranog donošenja odluka, uključujući sustave umjetne inteligencije, za potrebe procjena kreditne sposobnosti ili određivanja kreditne ocjene. Takvi davatelji kredita oslanjaju se na različite podatke, od kojih mnogi nisu dobiveni od potrošača niti su mu poznati. To izaziva zabrinutost u pogledu zaštite osobnih podataka, izravne ili neizravne diskriminacije 66 i zaštite potrošača 67 . Direktiva o potrošačkim kreditima 68 i Direktiva o hipotekarnim kreditima 69 sadržavaju odredbe o procjenama kreditne sposobnosti. Komisija je u lipnju 2021. donijela novi Prijedlog direktive o potrošačkim kreditima, kojim se trenutačno važeća Direktiva o potrošačkim kreditima stavlja izvan snage i zamjenjuje. U njemu se predlažu pravila o odobravanju kredita potrošačima prema kojima će države članice morati donijeti propise o dokumentiranju postupaka i informacijama koje se upotrebljavaju u procjenama kreditne sposobnosti. Osim toga, procjene će se morati temeljiti na relevantnim i točnim informacijama o financijskim i ekonomskim okolnostima (npr. prihodi i rashodi) i ne bi se smjele temeljiti na podacima kao što su podaci s društvenih mreža. Potrošači će imati i pravo na objašnjenje načina na koji je donesena odluka o njihovoj kreditnoj sposobnosti, pravo da izraze svoje stajalište i pravo na ljudsku intervenciju, pri čemu se preslikavaju načela o automatiziranom donošenju odluka iz Opće uredbe o zaštiti podataka 70 . Novi prijedlog uključuje i članak o nediskriminaciji, u kojem se propisuje da se uvjetima koji se trebaju ispuniti da bi se dobio kredit ne smije diskriminirati potrošače sa zakonitim boravištem u Uniji na temelju njihova državljanstva ili mjesta boravka ili po bilo kojoj osnovi iz članka 21. Povelje o temeljnim pravima. O prijedlogu se trenutačno pregovara sa suzakonodavcima.

5.4.Vještine

Ako se upotrebljavaju sustavi umjetne inteligencije, radnici moraju imati odgovarajuće vještine kako bi se osiguralo poštovanje temeljnih prava i postojanje odgovarajućeg ljudskog nadzora. Kako bi djelotvorno ispunjavala svoje zadaće, i nadzorna tijela trebat će imati osoblje s posebnim tehničkim vještinama. Komisija je u rujnu 2020. donijela Akcijski plan za digitalno obrazovanje za razdoblje 2021.–2027. 71 Njime se nastoje promicati digitalne vještine, među ostalim i u odnosu na umjetnu inteligenciju 72 , te uključuje izradu etičkih smjernica u području umjetne inteligencije i upotrebe podataka u obrazovanju i osposobljavanju. Nadalje, sve države članice koje su donijele nacionalne strategije za umjetnu inteligenciju uključile su u njih komponentu koja se odnosi na vještine, primjerice, putem reformi obrazovnih sustava radi jačanja računalnog razmišljanja ili putem inicijativa za prilagodbu politika cjeloživotnog učenja i prekvalifikacije 73 .

6.Rješavanje problema digitalnog jaza

Digitalna povezanost i posjedovanje digitalnih kompetencija omogućuju aktivno sudjelovanje u društvu. Sve veći broj osnovnih aktivnosti premješta se na internet, od traženja zaposlenja, obavljanja posla na daljinu, školovanja ili interakcije s javnom upravom do zakazivanja termina kod liječnika. No nisu svi na internetu. Nekorištenje interneta može omesti ljude u ostvarivanju svojih prava. Može primjerice utjecati na prava osoba u demokratskom društvu, uključujući njihovo pravo na slobodu izražavanja i informiranja te pravo biti biran na lokalnim izborima, s obzirom na to da se političke kampanje sve više vode na internetu. Te poteškoće s pristupom javnim uslugama povećale su se za osobe bez potrebne opreme ili digitalnih znanja nakon izbijanja pandemije bolesti COVID-19, kad su uredi bili zatvoreni, a od građana se tražilo da s nacionalnim upravama komuniciraju putem interneta.

Ta pojava često se naziva „digitalni jaz”. Danas 46 % Europljana još uvijek nema osnovne digitalne vještine 74 . To se potvrđuje u europskom stupu socijalnih prava u kojem se digitalna komunikacija uključuje među osnovne usluge kojima bi svatko trebao imati pristup te se poziva na donošenje mjera potpore onima kojima je potpora potrebna 75 . Osobe koje nemaju stalan pristup internetu, potrebne vještine za upotrebu tih usluga ili ne mogu pristupiti digitalnom proizvodu ili usluzi zbog tjelesnog invaliditeta ili kognitivnog poremećaja sve više su u opasnosti od isključivanja i suočavaju se s poteškoćama u ostvarivanju svojih prava.

Osobe koje nisu povezane s internetom mogu se naći u situaciji da ne mogu ostvariti svoja prava pristupa javnim uslugama kojima se može pristupiti isključivo digitalnim sredstvima ili da im u tome treba pomoć.Na primjer, Haut Conseil du Travail (Visoko vijeće za socijalni rad), savjetodavno tijelo francuskog Ministarstva za socijalna pitanja, procjenjuje da se svaka peta osoba u Francuskoj suočava s poteškoćama pri obavljanju administrativnih postupaka putem interneta te upozorava da bi se digitalizacijom moglo ugroziti načelo jednakog pristupa javnim uslugama ako se ne zadrže alternativni načini pristupa 76 . Slično tomu, s obzirom na to da sve više gospodarskih aktivnosti ima i digitalnu komponentu, ostvarivanje prava na pristup uslugama od općeg gospodarskog interesa sve se više uvjetuje pristupom internetu. Djeca koja kod kuće nemaju uređaj povezan s internetom imaju poteškoća sa sudjelovanjem u školi na daljinu, što utječe na prava djeteta i pravo na obrazovanje. Nadalje, ako internetske stranice i mobilne aplikacije nisu prilagođene potrebama osoba s invaliditetom, to im može onemogućiti ostvarivanje prava na integraciju.

S obzirom na probleme koji proizlaze iz digitalnog jaza, države članice i Komisija provode niz mjera kako bi osigurale da se nikoga ne zapostavi. Kako je najavljeno u Akcijskom planu za provedbu europskog stupa socijalnih prava 77 , Komisija će 2022. objaviti izvješće o pristupu osnovnim uslugama, koje će obuhvaćati i pristup digitalnoj komunikaciji, u kojem će se dati prikaz trenutačnog stanja u državama skupine EU-27 kao i pregled postojećih nacionalnih mjera i dobrih primjera iz prakse te mjera i dobrih primjera iz prakse na razini EU-a kojima se podupire pristup za osobe kojima je to potrebno.

6.1.Opće smanjenje digitalnog jaza

Činjenica da su se tijekom pandemije mnoge aktivnosti premjestile na internet nije samo problem, već i prilika. Države članice izradile su projekte koje će EU financirati kako bi se pomoglo u oporavku gospodarstva od pada prouzročenog pandemijom. Ti projekti uključuju mjere za otklanjanje digitalnog jaza i ostvarivanje uključivih digitalnih prava te za rješavanje problema povezanih s digitalizacijom rada. Kao primjeri toga mogu se navesti dva nacionalna plana. Rumunjska planira ulagati u stvaranje obrazovnog sadržaja i pristupačnih resursa, kao što su videosadržaji i interaktivne lekcije, te razvijati pristupačne programe za digitalnu pismenost namijenjene učenicima i studentima s invaliditetom. Njemačka nastoji pomoći u nabavi digitalnih uređaja za učitelje i nastavnike u cijeloj zemlji. Osim toga, izradit će platformu za digitalno cjeloživotno učenje pri čemu će se posebna pozornost posvetiti pružanju potpore osobama s najnižim formalnim kvalifikacijama.

Općenitije gledano, u državama članicama postoji niz obećavajućih inicijativa 78 . Belgija je u veljači 2021. objavila javni poziv na podnošenje prijedloga za projekte kojima se podupiru poduzetnice pogođene pandemijom bolesti COVID-19, među ostalim pružanjem smjernica za digitalizaciju. Belgija ulaže i u lokalne organizacije koje nastoje poboljšati digitalne vještine mladih osoba koje se nalaze u nesigurnom gospodarskom položaju.

Portugal mobilizira mlade volontere za pomaganje u edukaciji odraslih osoba o digitalnoj tranziciji, a to se temelji na nacionalnoj mreži od 1 500 centara za osposobljavanje te na nizu besplatnih alata i resursa. Očekuje se da će se tim programom digitalnog uključivanja obuhvatiti milijun ljudi, a provodit će se u partnerstvu s lokalnim tijelima i lokalnim organizacijama 79 .

Slično principu inicijative WiFi4EU 80  Italija subvencionira internetski pristup za određene osobe te je započela projekt „Piazza Wifi Italia” 81 , kojim se za više od 400 000 ljudi omogućuje da se putem posebne aplikacije lako i besplatno povezuju s besplatnom WiFi mrežom koja se proteže kroz cijelu zemlju. Taj je projekt u ožujku 2020. proširen na zdravstvene objekte, uključujući bolnice.

Digitalna infrastruktura vjerojatno će se nastaviti razvijati, a EU je poduzeo mjere u nizu područja kako bi poboljšao povezivost. Glavni je cilj povezivosti u digitalnom desetljeću da svako europsko kućanstvo ima pristup brzom internetu do 2025. i gigabitnoj povezivosti do 2030. 82  Komisija i države članice dogovorile su se u ožujku 2021. o paketu mjera za povezivost, kojim se potiče uvođenje digitalnih mreža i olakšava pristup 5G spektru. Preispitivanjem Direktive o smanjenju troškova širokopojasnog interneta, koje se planira za 2022., nastoji se dodatno poduprijeti uvođenje digitalnih mreža smanjivanjem administrativnog opterećenja te troškova i brzine uvođenja takvih mreža. Nadalje, Komisijinom dugoročnom vizijom za ruralna područja 83 iz lipnja 2021. nastoje se smanjiti razlike između urbanih i ruralnih područja omogućivanjem pristupa brzoj internetskoj vezi, 5G mreži (među ostalim i financiranjem sredstvima EU-a 84 ) i digitalnoj tehnologiji te jačanjem digitalnih kompetencija. Širokopojasne veze velike brzine ključan su element koji omogućuje digitalnu tranziciju i oporavak u razdoblju nakon izbijanja pandemije bolesti COVID-19. Komisija se obvezala smanjiti razlike u mogućnostima digitalnog pristupa u ruralnim područjima te će EU ulagati sredstva u mrežnu infrastrukturu, standard za bežični prijenos podataka i svjetlovodne mreže kako bi se osiguralo da svatko u EU-u ima pristup energetski učinkovitoj infrastrukturi za digitalno povezivanje koja će odgovarati i budućim potrebama.

6.2.Javna uprava

Digitalna tehnologija omogućuje ljudima da ostvaruju koristi od šireg pristupa javnim uslugama i informacijama koje im mogu pomoći u njihovu svakodnevnom životu i ostvarivanju njihovih prava, a osobito slobode poslovnog nastana i slobode pružanja usluga. Od donošenja Deklaracije iz Malmöa , koja je potpisana 2009. na sastanku na vrhu u Švedskoj, države članice EU-a ostvarivale su stalan napredak u osuvremenjivanju javnih uprava 85 . Deklaracijom iz Tallinna iz 2017. dan je poticaj digitalizaciji javnih usluga za građane i prekograničnih javnih usluga za poduzeća 86 . U Berlinskoj deklaraciji iz prosinca 2020. među obvezama koje su države članice preuzele navedeni su i koraci koje treba poduzeti radi zaštite temeljnih prava na internetu 87 , a Lisabonskom deklaracijom iz lipnja 2021. nastoji se osigurati da se „nikoga ne zapostavi”. Aktivnosti država članica uključuju i digitalizaciju pravosuđa 88 .

Države članice primjenjuju različite pristupe kako bi osigurale pristup javnim uslugama u pokušaju da smanje taj digitalni jaz i istodobno ispune zahtjeve tog digitalnog doba. Primjerice, Francuska je odabrala zadržati više načina za pristup javnim uslugama kako bi se izbjegle bilo kakve prepreke. Građani nisu obvezni komunicirati s upravom elektroničkim putem. Danska se odlučila za drukčiji pristup, koji uključuje primjenu strategije koja se temelji na načelu „digitalizacija kao standard”, te je 2014. upotrebu elektroničkih sredstava učinila obveznim za sve oblike komunikacije s upravom. Kako bi riješila problem digitalnog jaza, država financira mjere kao što su besplatna personalizirana podrška u knjižnicama 89 , pomoć u kupnji opreme i doprinosi za internetske pretplate. Slično tomu, u Nizozemskoj su vlada i lokalne knjižnice pokrenule inicijativu „informacijske točke za digitalnu upravu”, u okviru koje osposobljeni zaposlenik knjižnice odgovara na pitanja građana i pomaže im s tradicionalnim uslugama digitalne uprave, kao što su porezne prijave i socijalne usluge, te s novijim uslugama kao što su aplikacije povezane s bolešću COVID-19.

6.3.Zdravstvena zaštita

Pandemija je uzrokovala povećanje pružanja zdravstvene zaštite putem interneta, npr. putem virtualnih konzultacija ili putem aplikacija i softvera razvijenih u dijagnostičke ili terapeutske svrhe. Nekim osobama, kao što su stanovnici ruralnih područja ili malih otoka, taj trend olakšava dobivanje medicinske potpore, dok je drugim osobama to nova prepreka. Mjerama za premošćivanje digitalnog jaza može se poboljšati položaj osoba bez pristupa ili kompetencija. Primjerice, Poljska je uvela „internetski račun pacijenta”, internetski alat kojim se pacijentima daje pristup informacijama o njihovu prošlom, sadašnjem ili planiranom liječenju te im se omogućuje da riješe niz pitanja (e-recepti, evidencije o povijesti dolazaka na liječenje, e-uputnice, e-bolovanja i prava) bez potrebe za osobnim dolaskom u zdravstvenu ustanovu.

6.4.Obrazovanje

Nekoliko država članica ima politike i programe za poticanje pristupa tehnologiji i jačanje digitalnih kompetencija u kontekstu formalnog obrazovanja. Primjerice, Grčka učenicima i studentima kojima je to potrebno daje bonove za kupnju opreme kao što su tableti ili računala te im osigurava odgovarajuće edukacijske programe putem virtualne „Akademije za digitalne vještine” pokrenute 2020.

Na razini EU-a Akcijskim planom za digitalno obrazovanje 90 (2021.–2027.) objavljenim u rujnu 2020. utvrđuje se dugoročna strateška vizija za održivu i uključivu digitalnu transformaciju u obrazovanju i osposobljavanju. Njime se promiče pravo svih osoba na pristup visokokvalitetnom digitalnom obrazovanju i jednak pristup infrastrukturi, s posebnim naglaskom na poticanje sudjelovanja djevojčica i žena u predmetima iz STEM područja (znanost, tehnologija, inženjerstvo i matematika).

6.5.Integracija osoba s invaliditetom

Europskim zakonikom elektroničkih komunikacija 91 osigurava se jednak pristup elektroničkim komunikacijskim uslugama za krajnje korisnike s invaliditetom i izbor tih usluga za takve korisnike, čime se olakšava njihovo sudjelovanje u digitalnom društvu. Europski akt o pristupačnosti 92 stupit će na snagu 2025. i njime će se proširiti uključenost osoba s invaliditetom i starijih osoba u digitalni svijet tako što će se niz ključnih proizvoda i usluga privatnog i javnog sektora učiniti pristupačnijima. Direktivom o pristupačnosti interneta iz 2016. 93 zahtijeva se od država članica da osiguraju da internetske stranice i mobilne aplikacije tijela javnog sektora budu pristupačne osobama s invaliditetom, kao što su slabovidne osobe, osobe s oštećenjima sluha ili osobe s motoričkim poteškoćama. Na taj se način njome promiču sloboda izražavanja i informiranja, pravo na obrazovanje, sloboda izbora zanimanja i pravo na rad, nediskriminacija, integracija osoba s invaliditetom, pristup uslugama od općeg gospodarskog interesa, pravo na pristup dokumentima, pravo na slobodu kretanja i boravka na području Unije, sloboda poslovnog nastana i sloboda pružanja usluga.

Direktiva se može provesti na različite načine. Primjerice, Slovenija je osuvremenila svoj državni portal za e-upravu tako da ga mogu upotrebljavati slijepe i slabovidne osobe, gluhe i nagluhe osobe, osobe s disleksijom i korisnici sa smanjenom sposobnošću razumijevanja. Tekstualni opisi postupaka, na primjer, popraćeni su kratkim videozapisima, koji sadržavaju i prijevod na znakovni jezik. U Grčkoj su tijekom pandemije digitalni školski udžbenici prilagođeni tako da im mogu pristupiti osobe sa svim kategorijama invaliditeta.

7.Zaštita osoba koje rade putem platformi

Internetske platforme sastoje se od širokog niza višestranih platformi, društvenih mreža, trgovina kreativnog sadržaja, trgovina aplikacija, internetskih stranica za uspoređivanje cijena, platformi za ekonomiju suradnje te internetskih tražilica. One olakšavaju interakciju između korisnika i poduzeća. Digitalne radne platforme, kao posebna podskupina internetskih platformi, postale su karakteristična značajka digitalnog gospodarstva.

Radom putem platformi ljudi su dobili nove gospodarske mogućnosti, što im je omogućilo da se bave aktivnostima u nepunom radnom vremenu i općenito im omogućilo pristup tržištu rada. Međutim, rad putem platformi istodobno dovodi i do problema u pogledu temeljnih prava, uključujući zaštitu osobnih podataka, privatnost, prava radnika na informiranje i savjetovanje, pravo na kolektivno pregovaranje i djelovanje te poštene i pravične radne uvjete. Od 28 milijuna osoba za koje se procjenjuje da rade putem digitalnih radnih platformi, „lažno” samozaposlenih moglo bi biti do 5,5 milijuna 94 . Iako su u ugovorima s platformama na kojima rade opisani kao samozaposlene osobe, u stvarnosti podliježu kontroli i nadzoru, koji su karakteristični za status „radnika”. Postoje i problemi koji proizlaze iz poslovnih modela koji se temelje na algoritmima, kao što su nedostatak informacija i savjetovanja s osobama koje rade putem platformi i njihovim predstavnicima o tome kako se algoritmi upotrebljavaju i kako utječu na radne uvjete u okviru rada putem platformi. Osim toga, kad je riječ o upotrebi algoritama, postojeća sredstva pravne zaštite nedostatna su, a obveze nejasne.

Rad putem platformi Rad putem platforme obično uključuje tri strane: platformu, osobu koja radi putem nje i klijenta (privatne osobe ili poduzeća). U određenim bi slučajevima mogla biti uključena i četvrta strana, na primjer restorani koji dostavljaju hranu. Digitalne radne platforme obično sebe definiraju kao posrednike, a odnos između strana kao samozapošljavanje. Poslovi koji se obavljaju na digitalnim radnim platformama mogu obuhvaćati sve od poslova kao što su računalno programiranje i grafički dizajn do jednostavnih poslova kao što je označivanje slika.

Predsjednica Komisije Ursula von der Leyen u svojim je političkim smjernicama najavila potrebu za poboljšanjem uvjeta rada putem platformi 95 . To je dodatno naglašeno krizom uzrokovanom bolešću COVID-19 i sve većom rasprostranjenosti poslovnih modela koji se temelje na platformama. U nedavnoj rezoluciji Europskog parlamenta 96 ističe se da je rad putem platformi izazvao zabrinutost zbog nesigurnosti ili loših radnih uvjeta, nepostojanja ili otežanog pristupa odgovarajućoj socijalnoj zaštiti, rascjepkanih i nepredvidivih prihoda te nedostatka mjera zaštite zdravlja i sigurnosti na radu. Poziva se na snažno djelovanje EU-a kako bi se riješio problem pogrešne klasifikacije radnog statusa i poboljšala transparentnost u upotrebi algoritama, među ostalim za predstavnike radnika.

7.1.Stanje i mjere na razini država članica

Kako bi se spriječilo nepošteno tržišno natjecanje na štetu radnika i utrka u snižavanju standarda u praksi zapošljavanja i socijalnih standarda, EU je utvrdio minimalnu razinu radnih prava koja se primjenjuje na radnike u svim državama članicama. Propisi EU-a koji se odnose na rad i socijalna pitanja s godinama su postali sve brojniji. Osim toga, nacionalni odgovori na probleme koji proizlaze iz rada putem platformi razlikuju se među državama članicama. Neke države članice donijele su nacionalne propise za poboljšanje radnih uvjeta ili pristupa socijalnoj zaštiti u okviru rada putem platformi. U velikom broju država članica sudovi su donosili presude o pitanju pogrešne klasifikacije radnog statusa. U nekim državama članicama socijalni partneri i poduzeća koja djeluju na platformama uključili su se u pregovore o kolektivnim ugovorima.

Francuska je 2016. donijela zakonodavstvo, u obliku izmjene Zakona o radu, kojim se predviđaju radna i socijalna prava za osobe koje rade putem platformi bez obzira na sektor gospodarske djelatnosti. Zakon se primjenjuje na tehnološki i ekonomski ovisne samozaposlene osobe. Njime se daje pristup sustavu dobrovoljnog osiguranja od nesreća na radu, platforme su obvezne plaćati premije osiguranja ili pružati kolektivno osiguranje svojim radnicima te se jamči pravo na kolektivno djelovanje i daljnje školovanje. Osim toga, najviši sud za privatne radne sporove (Kasacijski sud) naglasio je u dvjema presudama da se radnicima koji rade putem platformi u sektoru naručivanja vožnji mora priznati status radnika ako platforma može davati upute i zahtijevati njihovo izvršenje 97 . Međutim, i dalje se vodi rasprava o stvarnom statusu osoba koje rade putem platformi, u tom i u drugim sektorima.

Talijanska regija Lacij donijela je 2019. propise 98 za poboljšanje radnih uvjeta i socijalne zaštite za sve radnike koji rade putem platformi bez obzira na njihov radni status. Ti propisi sadržavaju zaštitne mjere za nesreće na radu, odgovarajuće osposobljavanje u području zaštite na radu te osiguranje od odgovornosti i nesreća. Njima se zabranjuje i plaćanje po obavljenom zadatku. Osim toga, Italija je 2019. donijela nacionalno zakonodavstvo za poboljšanje radnih uvjeta samozaposlenih dostavljača hrane 99 . Nadalje, u srpnju 2021. talijansko tijelo za zaštitu podataka naredilo je poduzeću Deliveroo Italy plaćanje novčane kazne u iznosu od 2,5 milijuna EUR zbog netransparentne upotrebe algoritama i nerazmjernog prikupljanja podataka o radnicima. Tijelo je utvrdilo povrede nekih odredaba Opće uredbe o zaštiti podataka i nacionalnog zakonodavstva o zaštiti privatnosti, talijanskog Zakona o radničkim pravima i prethodno navedenih propisa o zaštiti radnika 100 .

Španjolska je u svibnju 2021. donijela zakonodavstvo kojim je uvedena pretpostavka da se osobe koje rade putem platformi u sektorima dostave hrane i paketa smatraju radnicima, čime je teret dokazivanja suprotnog prebačen na platforme 101 . Nadalje, tim se zakonom platforme obvezuje da sindikatima daju informacije o algoritamskom upravljanju, uključujući digitalno praćenje rezultata i automatiziranu dodjelu zadataka. Propisuje se da sva poduzeća (a ne samo platforme za dostavu) moraju informirati svoje radnike o parametrima i pravilima na kojima se temelje automatizirani sustavi koji mogu utjecati na radne uvjete, pristup zaposlenju i zadržavanje radnog mjesta.

Njemačka je objavila dokumente o politici o budućnosti rada koji su se odnosili na uključivanje samozaposlenih osoba koje se bave radom putem platformi u mirovinski sustav i sustav osiguranja te poboljšanje njihova osiguranja od nesreća na radu.

U studenome 2020. i Portugal je objavio dokument o politici o budućnosti rada koji se odnosio na uvođenje zakonske pretpostavke o statusu osoba koje rade putem platformi, načine povećanja socijalne zaštite za samozaposlene osobe i načine poticanja kolektivnog zastupanja radnika koji rade putem platformi. Portugal je 2018. donio zakonodavstvo o pojedinačnom i plaćenom prijevozu putnika kojim je propisao ograničenja radnog vremena za vozače 102 .

7.2.Zajednički pristup EU-a

S obzirom na nacionalne pristupe koji se osmišljavaju za rješavanje različitih problema povezanih s radom putem platformi, postoji opasnost od pojave rascjepkanosti među različitim nacionalnim zakonodavnim inicijativama. Komisija je utvrdila niz problema povezanih s radom putem platformi te se s europskim socijalnim partnerima u dvjema fazama savjetovala o potrebi za inicijativom o radu putem platformi i njezinom mogućem smjeru. Europski socijalni partneri složili su se oko problema koje treba riješiti, ali nisu bili istog mišljenja kad je riječ o konkretnom djelovanju na razini EU-a. Osim toga, Komisija je razmijenila mišljenja s mnogim dionicima, uključujući namjenske i bilateralne sastanke s platformama, udruženjima radnika na platformama, sindikatima, predstavnicima država članica, stručnjacima iz akademske zajednice i međunarodnih organizacija te predstavnicima civilnog društva 103 . Komisija je predložila direktivu za poboljšanje radnih uvjeta radnika koji rade putem platformi na razini EU-a osiguravanjem ispravnog utvrđivanja njihova radnog statusa, promicanjem transparentnosti, pravednosti i odgovornosti u algoritamskom upravljanju radom na platformama te poboljšanjem transparentnosti rada na platformama, među ostalim u prekograničnim situacijama, uz istodobno podupiranje uvjeta za održivi rast digitalnih radnih platformi u Uniji.

8.Nadziranje digitalnog nadzora

Pravo na zaštitu podataka i pravo na privatnost ključna su temeljna prava u digitalnom dobu. Ona su ujedno i prava „koja omogućuju ostvarivanje drugih prava” jer se njima olakšava i povećava zaštita drugih temeljnih prava na koja nadzor države ili privatne osobe može utjecati, kao što su ljudsko dostojanstvo, sloboda izražavanja, sloboda mišljenja, savjesti i vjeroispovijesti ili sloboda okupljanja, pravo na pravično suđenje i na djelotvorni pravni lijek ili nediskriminacija. Zahvaljujući Općoj uredbi o zaštiti podataka, Direktivi o zaštiti podataka za potrebe kaznenog progona i Direktivi o e-privatnosti Europa je postala predvodnicom u području zaštite temeljnih prava na internetu. Sve veća digitalizacija u svim područjima života dovodi do problema povezanih sa zaštitom podataka te zaštitom privatnog i obiteljskog života. Drugim zakonodavstvom, kao što je Akt o upravljanju podacima, o kojem su suzakonodavci nedavno postigli politički dogovor, nastoji se potaknuti nastanak snažnog podatkovnog gospodarstva reguliranjem posredničkih usluga u području podataka, podatkovnog altruizma i ponovne uporabe zaštićenih javnih podataka, u skladu sa sustavom zaštite podataka.

U praksi se taj strogi pravni okvir EU-a stalno stavlja na kušnju. Organizacije za zaštitu potrošača i organizacije civilnog društva čije je djelovanje usmjereno na temeljna prava osuđuju neizvršavanje zakonodavstva u slučajevima kršenja Opće uredbe o zaštiti podataka 104 . Posljednjih su godina EU i države članice donijeli niz mjera za zaštitu javne sigurnosti i rješavanje sigurnosnih problema s pomoću moderne tehnologije. U tom su kontekstu organizacije civilnog društva izrazile zabrinutost u pogledu proporcionalnosti politika nadzora i sigurnosnih politika, primjerice, u slučaju nadzora granica EU-a 105 ili u slučaju važećih ili predloženih zakonodavnih akata kojima bi se tijelima dopustilo da pretražuju privatne komunikacije u sigurnosne svrhe 106 . Civilno društvo i organizacije iz pojedinih sektora gospodarstva izrazili su i zabrinutost u pogledu onoga što smatraju pokušajima država članica da oslabe primjenu enkripcije 107 .

Tijela za zaštitu podataka i nacionalni sudovi zajamčili su djelotvoran pravni lijek kad god mjere nadzora koje provode privatni i javni subjekti čine povredu temeljnih prava. Primjeri su sljedeći: i. odluka švedskog tijela za zaštitu podataka o upotrebi kamera koje kontrolori karata u javnom prijevozu nose na tijelu u Stockholmu, u kojoj se kritiziralo nedostatak transparentnosti i prekomjerno prikupljanje podataka, što je dovelo do novčane kazne u iznosu od 16,1 milijun SEK 108 ili ii. odluka francuskog Državnog vijeća (Conseil d’Etat) prema kojoj je policija morala prestati upotrebljavati bespilotne letjelice za provjeru poštovanja pravila o ograničavanju socijalnih kontakata jer su te letjelice imale tehničku sposobnost identificirati pojedine osobe i nisu se upotrebljavale u skladu s propisima o zaštiti podataka 109 .

Predloženi europski okvir za digitalni identitet omogućit će svakom građaninu EU-a i osobi s boravištem u EU-u da na dobrovoljnoj osnovi upotrebljava pouzdan i siguran digitalni novčanik pod potpunom kontrolom korisnika kao samosuvereno sredstvo za pristup digitalnim javnim i privatnim uslugama te dijeljenje različitih atributa i vjerodajnica 110 .

8.1.Zadržavanje podataka

Od 2014. Sud EU-a u više je navrata utvrdio da nacionalni zakoni o zadržavanju telekomunikacijskih metapodataka (podataka o prometu i lokaciji) u svrhe kaznenog progona i obavještajne svrhe ne ispunjavaju zahtjeve iz prava Unije. Sud je presudio da ti nacionalni zakoni predstavljaju ozbiljno i nerazmjerno zadiranje u prava na privatnost i zaštitu podataka jer se s pomoću metapodataka o komunikacijama mogu otkriti informacije o velikom broju aspekata privatnog života predmetnih osoba 111 . Iako je potvrdio da se mjerama zadržavanja podataka nastoje ostvariti zakoniti ciljevi od javnog interesa, Sud je više puta utvrdio, uz određene iznimke 112 , da su pravu Unije protivne zakonodavne mjere kojima se pružateljima elektroničkih komunikacijskih usluga nalaže, kao preventivna mjera, opće i neselektivno zadržavanje podataka o prometu i lokaciji. Komisija je u strategiji EU-a za suzbijanje organiziranog kriminala za razdoblje 2021.–2025. od 14. travnja 2021. najavila da će analizirati i opisati moguće pristupe zadržavanju podataka u skladu s presudama Suda kako bi se odgovorilo na potrebe tijela za izvršavanje zakonodavstva i pravosudnih tijela na način koji je operativno koristan, tehnički moguć i pravno utemeljen, što uključuje i potpuno poštovanje temeljnih prava, te da će se savjetovati s državama članicama do kraja lipnja 2021. Komisija trenutačno vodi postupak savjetovanja pa će pomno razmotriti rezultate tog savjetovanja prije donošenja odluke o mogućim daljnjim koracima.

8.2.Enkripcija

Enkripcija je od ključne važnosti za zaštitu temeljnih prava i osiguravanje sustava i transakcija. Zakonodavstvom EU-a enkripcija se predviđa kao mjera za osiguravanje zaštite temeljnih prava kao što su privatnost, zaštita osobnih podataka 113 i sloboda izražavanja te radi osiguravanja kibersigurnosti 114 . Nadalje, enkripcija je važna i za zaštitu poslovnih tajni, čime se ljudima pomaže u ostvarivanju koristi od prava na bavljenje poduzetništvom. Od početka pandemije bolesti COVID-19 usporedno sa sve većom upotrebom digitalnih alata u svim područjima života povećao se broj kibernapada. Takvim je napadima prouzročena velika šteta poduzećima i ključnim uslugama, uključujući zdravstvene sustave, te su ugrožena prava ljudi, što je istaknulo važnost enkripcije za javne i privatne subjekte s obzirom na to da se njome štiti povjerljivost informacija 115 .

Međutim, upotreba enkripcije omogućuje i počiniteljima kaznenih djela da prikriju svoj identitet i sakriju sadržaj svojih komunikacija. Kao odgovor na pozive država članica Komisija se obvezala razmotriti uravnotežena tehnička, operativna i pravna rješenja za te probleme. Tim se rješenjima mora očuvati djelotvornost enkripcije u zaštiti privatnosti i sigurnosti komunikacija te istodobno djelotvorno reagirati na kriminal i terorizam 116 . Komisija namjerava 2022. „predložiti daljnje korake za zakonit i ciljani pristup šifriranim informacijama za potrebe kaznenih istraga i kaznenog progona koji će se temeljiti na detaljnom mapiranju načina na koje se države članice bave pitanjima šifriranja te na procesu koji uključuje više dionika i kojem je cilj istražiti i ocijeniti konkretne opcije (pravne, etičke i tehničke)” 117 .

8.3.Daljinska biometrijska identifikacija

Pravilima EU-a o zaštiti podataka u načelu se zabranjuje obrada biometrijskih podataka u svrhu jedinstvene identifikacije pojedinca, osim pod posebnim uvjetima 118 . Obrada takvih podataka mora imati pravnu osnovu koja se temelji na zakonodavstvu o zaštiti podataka. Takva pravna osnova mogla bi biti dobrovoljno dana privola svih predmetnih osoba, koju je u praksi teško dobiti, ili, alternativno, propis EU-a ili države članice kojim se nastoji ostvariti važan javni interes, kao što je sprečavanje konkretne i neposredne prijetnje od terorističkog napada. U području izvršavanja zakonodavstva obrada je zakonski odobrena. Ako se obrada biometrijskih podataka temelji na određenom propisu, taj propis mora biti proporcionalan cilju koji se nastoji ostvariti, njime se mora poštovati bit prava na zaštitu podataka i drugih temeljnih prava te u njemu moraju biti predviđene prikladne i posebne mjere za zaštitu temeljnih prava i interesa predmetnih osoba.

Organizacije civilnog društva zabrinjava sve veća primjena tehnologija za daljinsku biometrijsku identifikaciju u nekoliko država članica te su pozvale na zabranu primjene tih tehnologija 119 . Primjenu sustava za daljinsku biometrijsku identifikaciju kritizirali su i Europski nadzornik za zaštitu podataka, Europski odbor za zaštitu podataka, koji se sastoji od nacionalnih tijela za zaštitu podataka 120 , i druga nacionalna tijela za temeljna prava, kao što je Defenseur des Droits u Francuskoj 121 . Postoje brojni primjeri situacija u kojima su tijela za zaštitu podataka intervenirala kako bi zaustavila nezakonitu primjenu takve tehnologije, na primjer u školi u Francuskoj, u policiji u Švedskoj ili u jednom supermarketu u Nizozemskoj 122 .

Osim postojećeg okvira, uredba o umjetnoj inteligenciji, koju je Komisija predložila u travnju 2021. (vidjeti poglavlje 4.), uključuje zabranu daljinske biometrijske identifikacije u stvarnom vremenu na javnim mjestima i dopušta je za potrebe izvršavanja zakonodavstva s trima ograničenim iznimkama i pod uvjetom da se primjenjuju posebne zaštitne mjere 123 .

8.4.Obrazovanje

Tijekom pandemije bolesti COVID-19 ustanove za obrazovanje i osposobljavanje upotrebljavale su različite internetske platforme i alate. Upotreba komercijalnih rješenja i softvera za digitalno učenje, koji su često bili uvedeni kao „brzo rješenje”, u svrhu praćenja učenika i studenata pri polaganju ispita na daljinu, dovela je do zabrinutosti da bi se njima, zbog načina na koji su osmišljeni, moglo iskorištavati podatke korisnika za ostvarivanje zarade, a ne u svrhu smislene pedagoške prakse.

Europska platforma za digitalno obrazovanje, uspostavljena u okviru akcijskog plana za digitalno obrazovanje, forum je za osmišljavanje mjera za osiguravanje jače međusektorske suradnje, promicanje razmjene među nastavnim osobljem, osmišljavanje načina za osiguravanje kvalitete te osiguravanje poštovanja zaštite podataka i privatnosti. Među njima će ključnu ulogu imati osiguravanje kvalitete i povjerenje: prvo radi promicanja zajedničkog razumijevanja ključnih standarda kvalitete za digitalno obrazovanje, a drugo kako bi se osiguralo poštovanje ključnih načela u pogledu upotrebe podataka, etike i privatnosti. Osim povećanja razine digitalne pripravnosti europskih ustanova za obrazovanje i osposobljavanje, ta dva elementa mogu povećati suradnju i poboljšati ukupnu kvalitetu dostupnih digitalnih rješenja.

8.5.Zdravlje

Mnogi dijelovi odgovora na pandemiju bolesti COVID-19 uključuju obradu osobnih podataka, uključujući zdravstvene podatke, koji zbog svoje osjetljivosti podliježu dodatnim pravilima na temelju Opće uredbe o zaštiti podataka. Obrada osobnih podataka mora biti ograničena na ono što je nužno i proporcionalno za ostvarivanje predviđenog cilja i mora biti u skladu sa zahtjevima iz Opće uredbe o zaštiti podataka. To je usmjeravalo pristup EU-a u odgovoru na pandemiju. Primjerice, Komisija je dala smjernice 124 državama članicama o aplikacijama za borbu protiv pandemije te ih je podupirala u njihovu radu na paketu mjera tako što im je osigurala zahtjeve za aplikacije 125 i tehničke specifikacije za interoperabilnost 126 nacionalnih aplikacija za upozoravanje u EU-u. Komisija je uspostavila pristupnik kako bi omogućila slanje tih upozorenja preko granica i među aplikacijama različitih država članica. Osim toga, predložila je uspostavljanje platforme za razmjenu podataka iz obrazaca za lociranje putnika 127 radi potpore prekograničnom otkrivanju kontakata u kontekstu prijevoza. Kao sljedeći korak obvezala se predložiti pravni okvir EU-a za koordinirani pristup bilježenju nedavnih putovanja u mjeri potrebnoj za suzbijanje širenja bolesti COVID-19, na temelju iskustva s obrascima za lociranje putnika.

Nadalje, Europski parlament i Vijeće donijeli su 14. lipnja 2021. Uredbu o uspostavi sustava EU digitalne COVID potvrde, čiji je cilj olakšati slobodno kretanje tijekom pandemije bolesti COVID-19 128 . Uspostavljena je infrastruktura za potporu izdavanju i provjeri potvrda o cijepljenju, testiranju i preboljenju radi pojednostavnjivanja provjere javnozdravstvenih mjera pri putovanju (npr. za izuzeća od zahtjeva za karantenu). Radi lakše upotrebe potvrde su dostupne i u digitalnom i u papirnatom obliku. U svim su slučajevima kategorije podataka i obrada podataka ograničeni na ono što je nužno za predmetnu svrhu, primjerice, osobama koje provjeravaju potvrde zabranjeno je čuvati sadržaj tih potvrda nakon provjere. Nadalje, okvirom povjerenja koji je uspostavljen za EU digitalne COVID potvrde osigurava se mogućnost provjeravanja potvrda izvan interneta, a da se pritom o provjeri ne obavješćuje izdavatelja potvrde ni bilo koju treću stranu. Transparentnost je uvijek od ključne važnosti, i za osiguravanje pravne usklađenosti s Poveljom i primjenjivim zakonodavstvom i za uspostavljanje i održavanje povjerenja. Ishodi pokazuju da je, kad su mjere pažljivo osmišljene, zaštita podataka dosljedna i može pomoći u prihvaćanju javnozdravstvenih mjera te osiguravanju potrebne fleksibilnosti okvira EU-a za zaštitu podataka.

Komisija trenutačno izrađuje zakonodavni prijedlog o europskom prostoru za zdravstvene podatke (EHDS), čije se donošenje očekuje početkom 2022. EHDS-om se nastoji olakšati pružanje digitalnih zdravstvenih usluga i promicati pristup zdravstvenim podacima za potrebe istraživanja, inovacija, oblikovanja politika i regulatornih aktivnosti i pritom dodatno poboljšati kontrolu koju osobe imaju nad svojim osobnim podacima. Inicijativa o EHDS-u bit će potpuno u skladu s primjenjivim pravilima EU-a o zaštiti podataka.

8.6.Izvršavanje

Nadležna nacionalna nadzorna tijela za praćenje i izvršavanje pravila za zaštitu podataka i pravila o privatnosti temelj su sustava upravljanja zaštitom podataka u EU-u. Ta tijela i nacionalni sudovi odgovorni su za praćenje i izvršavanje pravila iz Opće uredbe o zaštiti podataka, nacionalnih zakona kojima se prenosi Direktiva o zaštiti podataka za potrebe kaznenog progona 129 i Direktiva o e-privatnosti. Jedan je od ključnih ciljeva Komisije da države članice ispravno i djelotvorno provode ta pravila. Države članice na temelju prava Unije imaju obvezu osigurati da njihova tijela za zaštitu podataka budu neovisna i dodjeljivati im dovoljno resursa za obavljanje njihovih nadzornih zadaća 130 . Komisija prati kretanja koja se odnose na neovisnost, zadaće, ovlasti i resurse nadzornih tijela te, ako se države članice ne pridržavaju pravila EU-a, pokreće postupke zbog povrede prava kako bi osigurala djelotvornu provedbu tih pravila.

Tijela za zaštitu podataka surađuju s Europskim odborom za zaštitu podataka (EDPB) kako bi se osigurala dosljednost u izvršavanju Opće uredbe o zaštiti podataka, osobito u prekograničnim predmetima. Nakon tri godine primjene Opće uredbe o zaštiti podataka djelotvornost te suradnje nailazi na kritike 131 te će EDPB nastaviti raditi na povećanju učinkovitosti 132 . Komisija se slaže sa stajalištem Vijeća 133 , Europskog parlamenta i EDPB-a 134 da se naglasak sad mora staviti na poboljšanje provedbe i na mjere za jačanje izvršavanja prava Unije o zaštiti podataka.

8.7.Zaštita osobnih podataka izvan EU-a

Ključni je aspekt zaštite temeljnih prava u internetskom okruženju osiguravanje kontinuiteta zaštite pojedinaca nakon što njihovi podaci izađu iz EU-a. Budući da se osobni podaci lako kreću preko granica u današnjem povezanom svijetu i da su prijenosi podataka postali sastavni dio trgovine, regulatorne suradnje, pa čak i društvene interakcije, zaštita zajamčena Općom uredbom o zaštiti podataka i Direktivom o zaštiti podataka pri izvršavanju zakonodavstva bila bi neučinkovita kad bi bila ograničena na obradu unutar EU-a.

U tom je kontekstu Komisija nastavila s provedbom svojeg ambicioznog programa usmjerenog na promicanje visoke razine zaštite u slučajevima kad se podaci europskih građana prenose u inozemstvo te, istodobno, na olakšavanje protoka podataka. To je uključivalo suradnju s ključnim partnerima kako bi se postigao „nalaz o primjerenosti” u kojem se utvrđuje da određena treća zemlja pruža razinu zaštite osobnih podataka koja je „u načelu istovjetna” razini zaštite u EU-u. Time su ostvareni važni rezultati, kao što su donošenje dviju odluka o primjerenosti za Ujedinjenu Kraljevinu (jedne na temelju Opće uredbe o zaštiti podataka i druge na temelju Direktive o zaštiti podataka za potrebe kaznenog progona) i zaključenje pregovora o primjerenosti s Južnom Korejom.

Nadalje, nakon što je Sud EU-a poništio prethodni nalaz o primjerenosti europsko-američkog sustava zaštite privatnosti, EU i SAD intenzivirali su pregovore o novom okviru EU-a i SAD-a za zaštitu privatnosti za transatlantske prijenose podataka koji su potpuno u skladu sa sudskom praksom Suda EU-a.

Osim toga, Komisija je u lipnju 2020. donijela osuvremenjene standardne ugovorne klauzule za prijenos osobnih podataka u treće zemlje u kojima se odražavaju novi zahtjevi na temelju Opće uredbe o zaštiti podataka i koje su prilagođene potrebama modernog digitalnog gospodarstva. To su ogledne klauzule o zaštiti podataka koje izvoznik podataka i uvoznik podataka mogu dobrovoljno uključiti u svoje ugovorne aranžmane (npr. ugovor o uslugama za koji je potreban prijenos osobnih podataka) i kojima se nastoji osigurati odgovarajuća zaštita podataka.

Osim toga, Komisija nastavlja sudjelovati u inicijativi o „slobodnom protoku podataka uz puno povjerenje”, koju je 2019. pokrenuo Japan, a koju su nakon toga podržale skupine G20 i G7. Središnji je dio tog koncepta, o kojem se trenutačno raspravlja u okviru OECD-a uz aktivno sudjelovanje EU-a i njegovih država članica, utvrđivanje granice između zakonitog pristupa vlade, uz odgovarajuća ograničenja i zaštitne mjere, i nedozvoljenog državnog nadzora.

9.Udruživanje snaga kako bi digitalno doba postalo prilika za temeljna prava

Uzimajući u obzir međusobno povezane probleme i odgovarajuće mjere razmotrene u ovom izvješću, nema sumnje u to da su EU i njegove države članice predani zaštiti i promicanju temeljnih prava u digitalnom dobu te da surađuju kako bi pronašli najbolje načine da to i ostvare. Primjeri navedeni u prethodnim poglavljima neke su od brojnih prilika za učenje jednih od drugih i za oblikovanje promjena koje donosi digitalna tranzicija na pozitivan način.

Komisija upotrebljava mnoge instrumente kako bi osigurala da se prava ugrađena u Povelju poštuju – i pri oblikovanju svojih zakonodavnih inicijativa i inicijativa u području politika i kad izvršava pravo Unije. Konkretno, Komisija će u svojim predstojećim inicijativama 2022. pomno procijeniti učinke na temeljna prava te nastojati uravnotežiti te učinke. Te inicijative uključuju zakonodavne prijedloge o:

-pravu na popravak,

-kiberotpornosti,

-uslugama digitalne mobilnosti,

-trenutnom plaćanju,

-uzajamnom pristupu informacijama koje se odnose na sigurnost za najizloženije službenike između EU-a i ključnih trećih zemalja,

-Aktu o slobodi medija, i

-obvezujućim standardima za tijela za jednakost.

Nadalje, u kontekstu digitalnog desetljeća Komisija će predložiti uključivanje skupa digitalnih načela u međuinstitucijsku svečanu izjavu Europske komisije, Europskog parlamenta i Vijeća. Tom će se izjavom informirati korisnike i usmjeravati oblikovatelje politika i digitalne operatore o europskom putu prema digitalnoj transformaciji.

Komisija poziva Europski parlament, Vijeće i države članice da iskoriste ovo godišnje izvješće o primjeni Povelje EU-a o temeljnim pravima za uključivanje u razmjene stajališta o problemima i mogućnostima u pogledu zaštite temeljnih prava u digitalnom dobu. Izražava zadovoljstvo činjenicom da se Vijeće obvezalo održavati razmjene stajališta na temelju izvješća Komisije 135 te bi pozdravila i takvu raspravu u Europskom parlamentu. U prvom redu, te razmjene mogle bi pomoći da se bolje razmotre predstojeća pitanja, naročito borba protiv govora mržnje i dezinformacija, kako osigurati sustav provjere i ravnoteže za mjere nadzora te, kao općenitije pitanje, kako djelotvornije izvršavati propise radi zaštite temeljnih prava u digitalnom okruženju. Te razmjene mogu pomoći u oblikovanju kretanja u području politika na konstruktivan i koristan način.

Ta zajednička nastojanja da se Povelju učini djelotvornom u digitalnom dobu, zajedno s akcijskim planom za europsku demokraciju 136 i europskim mehanizmom vladavine prava 137 , pokazuju predanost EU-a promicanju i zaštiti vrijednosti na kojima se temelji.

(1)

  Povelja Europske unije o temeljnim pravima (SL C 326, 26.10.2012., str. 391.–407.).

(2)

Komunikacija Komisije „Strategija za jačanje primjene Povelje o temeljnim pravima u EU-u” (COM(2020) 711 final)  

(3)

Države članice svoje su doprinose iznijele u okviru Radne skupine za temeljna prava, prava građana i slobodno kretanje osoba (FREMP), koja djeluje u okviru Vijeća.

(4)

  https://fra.europa.eu/en/publication/2021/fundamental-rights-report-2021  

(5)

  https://data.consilium.europa.eu/doc/document/ST-6795-2021-INIT/hr/pdf

(6)

Uredba (EU) 2021/1060 od 24. lipnja 2021. o utvrđivanju zajedničkih odredaba o Europskom fondu za regionalni razvoj, Europskom socijalnom fondu plus, Kohezijskom fondu, Fondu za pravednu tranziciju i Europskom fondu za pomorstvo, ribarstvo i akvakulturu te financijskih pravila za njih i za Fond za azil, migracije i integraciju, Fond za unutarnju sigurnost i Instrument za financijsku potporu u području upravljanja granicama i vizne politike, SL L 231, 30.6.2021., str. 159.

(7)

Za razdoblje 2021.–2027.: Europski fond za regionalni razvoj, Kohezijski fond, Europski socijalni fond plus, Fond za pravednu tranziciju, Europski fond za pomorstvo i ribarstvo, Fond za azil i migracije, Fond za unutarnju sigurnost i Instrument za upravljanje granicama i vize.

(8)

  https://ec.europa.eu/info/funding-tenders/opportunities/portal/screen/programmes/cerv . U okviru  Poziva na podnošenje prijedloga za bratimljenje gradova i mreže gradova iz programa CERV za 2021. se na raspolaganje stavljaju sredstva u iznosu od 4,2 milijuna EUR. Više informacija dostupno je ovdje: Funding & tenders (europa.eu) .

(9)

  https://humanrightscities.net/  

(10)

  https://fra.europa.eu/en/publication/2021/human-rights-cities-framework  

(11)

 Komunikacija Komisije „Unija ravnopravnosti: Akcijski plan EU-a za antirasizam za razdoblje 2020.–2025.”, COM(2020) 565 final

(12)

  https://eudiversity2022.eu/the-award/apply/  

(13)

  https://e-justice.europa.eu/37134/EN/member_states_best_practices_on_the_charter .

(14)

COM(2021) 700 final, dostupno na https://ec.europa.eu/info/policies/justice-and-fundamental-rights/upholding-rule-law/rule-law/rule-law-mechanism/2021-rule-law-report_en .

(15)

FRA, Zaštita prostora za djelovanje civilnog društva, 2021.,  https://fra.europa.eu/en/publication/2021/civic-space-challenges .

(16)

Vidjeti strategiju za Povelju, op. cit., odjeljak 2. „Jačanje položaja organizacija civilnog društva, boraca za prava i pravnih stručnjaka”. Vidjeti izvješće FRA-e „Snažne i učinkovite nacionalne institucije za ljudska prava – poteškoće, obećavajući pristupi i prilike”, dostupno na: https://fra.europa.eu/en/publication/2020/strong-effective-nhris . U poglavljima o pojedinačnim zemljama Izvješća o vladavini prava za 2021. izvješćuje se o stanju s akreditacijom nacionalnih institucija za ljudska prava: https://ec.europa.eu/info/policies/justice-and-fundamental-rights/upholding-rule-law/rule-law/rule-law-mechanism/2021-rule-law-report/2021-rule-law-report-communication-and-country-chapters_en .

(17)

Izvješće o vladavini prava za 2021., str. 24.

(18)

Izvješće o vladavini prava za 2020., str. 16. EUR-Lex – 52020SC0316 – HR – EUR-Lex (europa.eu)

(19)

  https://fra.europa.eu/en/news/2021/findings-fra-consultation-covid-19-impact-civil-society ; FRA, Zaštita prostora za djelovanje civilnog društva, op. cit., vidjeti odjeljak 1.3. „Pandemija bolesti COVID-19 pogoršava probleme s kojima se suočava civilno društvo”, str. 16.

(20)

  Program rada CERV-a za razdoblje 2021.–2022 .  

(21)

  Poziv na podnošenje prijedloga za promicanje izgradnje kapaciteta i informiranja o Povelji Europske unije o temeljnim pravima .

(22)

  COM(2020) 713 final .

(23)

Program Pravosuđe, poziv na podnošenje prijedloga JUST-2021-JTRA, dostupno na: https://ec.europa.eu/info/funding-tenders/opportunities/portal/screen/home  

(24)

Npr https://era-comm.eu/charter-of-fundamental-rights/seminar-materials/ ; http://charterclick.ittig.cnr.it:3000/ ; http://help.elearning.ext.coe.int/  

(25)

  Europska platforma za osposobljavanje .

(26)

  Paket instrumenata za bolju regulativu | Europska komisija (europa.eu) .

(27)

  Operativne smjernice o razmatranju temeljnih prava pri procjenama učinka koje provodi Europska komisija | Europska komisija (europa.eu) .

(28)

  Vaša prava u EU-u | Europska komisija (europa.eu) .

(29)

  https://e-justice.europa.eu/581/HR/fundamental_rights  

(30)

  https://ec.europa.eu/eurostat/web/products-datasets/-/isoc_sk_dskl_i

(31)

 Vidjeti primjere novih sistemskih društvenih rizika koje predstavljaju internetske platforme u procjeni učinka priloženoj Prijedlogu uredbe o jedinstvenom tržištu digitalnih usluga (Akt o digitalnim uslugama), SWD(2020) 348 final , str. 40. („Procjena učinka za Akt o digitalnim uslugama”).

(32)

 Studija Europskog parlamenta koju je zatražio pododbor DROI „Utjecaj dezinformacija na demokratske procese i ljudska prava u svijetu”, Carme Colomina, Héctor Sánchez Margalef, Richard Youngs, dostupno na: https://www.europarl.europa.eu/RegData/etudes/STUD/2021/653635/EXPO_STU(2021)653635_EN.pdf  

(33)

Presuda od 6. srpnja 2006. u predmetu Erbakan protiv Turske, t. 56.

(34)

 Vidjeti, na primjer,  https://www.theguardian.com/technology/2021/oct/10/frances-haugen-takes-on-facebook-the-making-of-a-modern-us-hero  

(35)

  https://digital-strategy.ec.europa.eu/en/summary-report-open-public-consultation-digital-services-act-package  

(36)

  Zaključci Vijeća od 9. lipnja 2020., „Oblikovanje digitalne budućnosti Europe” i  zaključci s izvanrednog sastanka Europskog vijeća od 1. i 2. listopada 2020.

(37)

 Rezolucija Europskog parlamenta od 20. listopada 2020. s preporukama Komisiji o Aktu o digitalnim uslugama: poboljšanje funkcioniranja jedinstvenog tržišta ( 2020/2018(INL) ); Rezolucija Europskog parlamenta od 20. listopada 2020. s preporukama Komisiji o Aktu o digitalnim uslugama: prilagodba odredbi trgovinskog i građanskog prava za poduzeća koja posluju na internetu ( 2020/2019(INL) ).

(38)

Procjena učinka za Akt o digitalnim uslugama, odjeljak 2.3.6. Ograničena suradnja među državama članicama i nedostatak povjerenja.

(39)

  Direktiva (EU) 2019/790 o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu , SL L 130, 17.5.2019.

(40)

 Komunikacija Komisije, Smjernice za primjenu članka 17. Direktive 2019/790 o autorskom pravu na jedinstvenom digitalnom tržištu, COM(2021) 288 final .

(41)

  Okvirna odluka Vijeća 2008/913/PUP od 28. studenoga 2008. o suzbijanju određenih oblika i načina izražavanja rasizma i ksenofobije kaznenopravnim sredstvima , SL L 328, 6.12.2008.

(42)

Posljednji postupak praćenja proveden je 2021.: Kodeks postupanja EU-a za borbu protiv nezakonitog govora mržnje na internetu | Europska komisija (europa.eu) .

(43)

 Preporuka Komisije o jamčenju zaštite, sigurnosti i jačanja položaja novinara i drugih medijskih djelatnika u Europskoj uniji, 16.9.2021.,  C(2021) 6650 final .

(44)

  Uredba 2021/784 o borbi protiv širenja terorističkog sadržaja na internetu , SL L 172, 17.5.2021.

(45)

  Uredba 2021/1232 o privremenom odstupanju od određenih odredbi Direktive 2002/58/EZ u pogledu tehnologija koje pružatelji brojevno neovisnih interpersonalnih komunikacijskih usluga upotrebljavaju za obradu osobnih i drugih podataka u svrhu borbe protiv seksualnog zlostavljanja djece na internetu , SL L 274, 30.7.2021.

(46)

 Komunikacija o Strategiji EU-a za suzbijanje trgovanja ljudima 2021.–2025.,  COM(2021) 171 final .

(47)

 Prijedlog uredbe o jedinstvenom tržištu digitalnih usluga (Akt o digitalnim uslugama) i izmjeni Direktive 2000/31/EZ, COM(2020) 825 final .

(48)

  Direktiva 2000/31/EZ o određenim pravnim aspektima usluga informacijskog društva na unutarnjem tržištu, posebno elektroničke trgovine („Direktiva o elektroničkoj trgovini”), SL L 178, 17.7.2000.

(49)

  EDMO – Ujedinjeni protiv dezinformacija .

(50)

  Kodeks o suzbijanju dezinformacija | Izgradnja digitalne budućnosti Europe (europa.eu) .

(51)

  https://ec.europa.eu/commission/presscorner/detail/hr/ip_21_2585

(52)

  Akcijski plan za europsku demokraciju | Europska komisija (europa.eu) .

(53)

 Prijedlog uredbe o transparentnosti i ciljanju u političkom oglašavanju, COM(2021) 731 final .

(54)

  Akcijski plan za digitalno obrazovanje (2021.–2027.) | Obrazovanje i osposobljavanje (europa.eu) .

(55)

 Prijedlog uredbe o općoj sigurnosti proizvoda, izmjeni Uredbe (EU) br. 1025/2012 Europskog parlamenta i Vijeća te o stavljanju izvan snage Direktive Vijeća 87/357/EEZ i Direktive 2001/95/EZ Europskog parlamenta i Vijeća, COM(2021) 346 final .

(56)

 Do lipnja 2021. 20 država članica i Norveška objavile su svoje nacionalne strategije za umjetnu inteligenciju, a sedam država članica bilo je u završnoj fazi izrade nacrta. https://knowledge4policy.ec.europa.eu/ai-watch/national-strategies-artificial-intelligence_en  

(57)

 Na primjer, članovi akademske zajednice sa Sveučilišta u Utrechtu u travnju 2021. razvili su Kodeks dobre digitalne javne uprave za nizozemska tijela zasnovan na temeljnim pravima. https://www.rijksoverheid.nl/documenten/rapporten/2021/04/30/code-goed-digitaal-openbaar-bestuur

(58)

 Primjer za to je njemačka „Komisija za etiku podataka” i stručno znanje koje je objavila 2019.: https://www.bmjv.de/DE/Themen/FokusThemen/Datenethikkommission/Datenethikkommission_node.html

(59)

 Sastanak Europskog vijeća (19. listopada 2017.) – zaključci EUCO 14/17 , str. 8., i Zaključci o koordiniranom planu o umjetnoj inteligenciji (11. veljače 2019.) 6177/19, 2019.

(60)

  https://data.consilium.europa.eu/doc/document/ST-11481-2020-INIT/hr/pdf  

(61)

Finska je izvijestila da je u tijeku rad na izradi nacrta zakonodavnog prijedloga o automatiziranom donošenju administrativnih odluka, koji bi trebao biti dovršen do kraja 2021. U ovom se izvješću navođenjem primjera mjera država članica (u području zakonodavstva, financiranja i dr.) nastoje prikazati različite vrste mjera. Nije moguće navesti sve inicijative u okviru svake teme te se odabir u velikoj mjeri temelji na informacijama koje su države članice dostavile u lipnju 2021.

(62)

T.A.R., Rim, odj. III-bis, 22. ožujka 2017, br. 3769.

(63)

  https://www.yvtltk.fi/material/attachments/ytaltk/tapausselosteet/45LI2c6dD/YVTltk-tapausseloste-_21.3.2018-luotto-moniperusteinen_syrjinta-S-en_2.pdf  

(64)

  https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878  

(65)

 Prijedlog uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije, COM(2021) 206 final .

(66)

   Primjerice, u travnju 2019. finski ombudsman za zaštitu podataka naredio je financijskom kreditnom društvu Svea Ekonomi da ispravi svoje prakse procjenjivanja kreditne sposobnosti, s obzirom na to da gornja dobna granica nije bila prihvatljiv čimbenik jer dob ne opisuje solventnost ni spremnost na plaćanje.

(67)

Izvješće o procjeni učinka priloženo Prijedlogu direktive o ugovorima o potrošačkim kreditima kojom se stavlja izvan snage i zamjenjuje Direktiva 2008/48/EZ, COM(2021) 347 final.

(68)

Direktiva 2008/48/EZ Europskog parlamenta i Vijeća od 23. travnja 2008. o ugovorima o potrošačkim kreditima i stavljanju izvan snage Direktive Vijeća 87/102/EEZ, SL L 133, 22.5.2008., str. 66.

(69)

Direktiva 2014/17/ЕU Europskog parlamenta i Vijeća od 4. veljače 2014. o ugovorima o potrošačkim kreditima koji se odnose na stambene nekretnine i o izmjeni direktiva 2008/48/EZ i 2013/36/EU i Uredbe (EU) br. 1093/2010, Tekst značajan za EGP, SL L 60, 28.2.2014., str. 34.

(70)

   Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka)

(71)

  Akcijski plan za digitalno obrazovanje (2021.–2027.) | Obrazovanje i osposobljavanje (europa.eu) .

(72)

  https://ec.europa.eu/education/education-in-the-eu/digital-education-action-plan/action-8_hr  

(73)

  https://knowledge4policy.ec.europa.eu/ai-watch/national-strategies-artificial-intelligence_en  

(74)

  https://eur-lex.europa.eu/legal-content/HR/TXT/?uri=CELEX%3A52020DC0624 i Statistički podaci | Eurostat (europa.eu) .

(75)

  Europski stup socijalnih prava u 20 načela | Europska komisija (europa.eu) , vidjeti načelo 20.

(76)

  https://solidarites-sante.gouv.fr/IMG/pdf/pourquoi_et_comment_les_travailleurs_sociaux_se_saisissent_des_outils_numeriques.pdf , str .4.

(77)

  Akcijski plan za provedbu europskog stupa socijalnih prava (europa.eu) .

(78)

U ovom se izvješću ne mogu navesti sve inicijative, pa se odabranim inicijativama u nastavku nastoje prikazati različite vrste mjera. Prikazane inicijative temelje se na informacijama koje su države članice dostavile u lipnju 2021.

(79)

  Resolução do Conselho de Ministros n.º 30/2020 – DRE

(80)

  https://digital-strategy.ec.europa.eu/hr/activities/wifi4eu  

(81)

  https://www.wifi.italia.it/it/  

(82)

 Komunikacija Komisije „Digitalni kompas 2030.: europski pristup za digitalno desetljeće”,  COM(2021) 118 final .

(83)

  Dugoročna vizija za ruralna područja EU-a | Europska komisija (europa.eu) .

(84)

Financiranje sredstvima Europskog fonda za regionalni razvoj, Europskog poljoprivrednog fonda za ruralni razvoj, Instrumenta za povezivanje Europe 2.0 i Mehanizma za oporavak i otpornost bit će na raspolaganju za ostvarivanje ciljeva povezivosti EU-a do 2025.

(85)

  https://ec.europa.eu/digital-single-market/sites/digital-agenda/files/ministerial-declaration-on-egovernment-malmo.pdf  

(86)

  https://digital-strategy.ec.europa.eu/en/news/ministerial-declaration-egovernment-tallinn-declaration  

(87)

  https://ec.europa.eu/isa2/news/eu-member-states-sign-berlin-declaration-digital-society_en  

(88)

Napredak ostvaren u tom području navodi se u Izvješću Komisije o vladavini prava za 2021.: https://eur-lex.europa.eu/legal-content/HR/TXT/?uri=CELEX:52021DC0700&qid=1636866247025  

Vidjeti i Komunikaciju Komisije o digitalizaciji pravosuđa u EU-u, COM(2020) 710 final i popratni dokument SWD(2020) 540 od 2. prosinca 2020.

(89)

Takva podrška postoji i drugdje, ali za potrebe prikaza tog pristupa dovoljno je navesti odabrane primjere. Cilj ovog izvješća nije dati potpuni prikaz mjera, već se nastoji dati pregled ideja i pristupa.

(90)

  Akcijski plan za digitalno obrazovanje (2021.–2027.) | Obrazovanje i osposobljavanje (europa.eu) .

(91)

  Direktiva (EU) 2018/1972 o Europskom zakoniku elektroničkih komunikacija (preinaka) , SL L 321, 17.12.2018.

(92)

  Direktiva (EU) 2019/882 o zahtjevima za pristupačnost proizvoda i usluga , SL L 151, 7.6.2019.

(93)

  Direktiva (EU) 2016/2102 o pristupačnosti internetskih stranica i mobilnih aplikacija tijela javnog sektora , SL L 327, 2.12.2016.

(94)

   Vidjeti Izvješće o procjeni učinka priloženo Prijedlogu direktive o poboljšanju radnih uvjeta u radu putem platformi, SWD(2021) 396 final .

(95)

COM(2021) 762.

(96)

Rezolucija Europskog parlamenta od 16. rujna 2021. o pravednim radnim uvjetima, pravima i socijalnoj zaštiti radnika koji rade preko platformi – novi oblici zapošljavanja povezani s digitalnim razvojem ( 2019/2186(INI) ). 

(97)

Presude u predmetu Take Eat Easy (18. studenoga 2018., predmet 17-20.079) i u predmetu Uber (4. ožujka 2020., predmet 19-13.316).

(98)

Regione Lazio, Legge Regionale 12 aprile 2019, n.4, dostupno na internetu .

(99)

L. 2 novembre 2019, n. 128, Conversione in legge, con modificazioni, del decreto-legge 3 settembre 2019, n. 101, dostupno na internetu .

(100)

Odluka talijanskog tijela za zaštitu podataka, dostupna na internetu .

(101)

Kraljevska uredba sa zakonskom snagom 9/2021 od 11. svibnja 2021., dostupna na internetu .

(102)

Lei n°45/2018 Regime jurídico da atividade de trasporte individual e remunderado de passageiros em veículos descaracterizadosa partir de plataforma electrónica. Dostupno na internetu .

(103)

 Vidjeti Prilog A.3.1. Izvješća o procjeni učinka priloženog Prijedlogu direktive o poboljšanju radnih uvjeta u radu putem platformi, SWD(2021) 396 final .

(104)

 Npr.  https://www.beuc.eu/publications/beuc-x-2020-074_two_years_of_the_gdpr_a_cross-border_data_protection_enforcement_case_from_a_consumer_perspective.pdf i https://www.accessnow.org/cms/assets/uploads/2021/05/Three-Years-Under-GDPR-report.pdf  

(105)

  https://edri.org/our-work/technological-testing-grounds-border-tech-is-experimenting-with-peoples-lives/  

(106)

Vidjeti na primjer https://edri.org/wp-content/uploads/2020/10/20201020-EDRi-Open-letter-CSAM-and-encryption-FINAL.pdf  ili  https://netzpolitik.org/2021/finfisher-wir-verklagen-das-bka-auf-den-staatstrojaner-vertrag/  

(107)

Vidjeti na primjer  https://www.statewatch.org/news/2020/november/eu-council-set-to-adopt-declaration-against-encryption/  ili  https://data.consilium.europa.eu/doc/document/ST-13084-2020-REV-1/en/pdf?utm_source=dsms- ili https://www.bitkom.org/sites/default/files/2020-12/201211_pp_bitkom_grundsatzerklarung-verschlusselung_0.pdf auto&utm_medium=email&utm_campaign=Encryption%3A+Council+adopts+resolution+on+security+through+encryption+and+security+despite+encryption  

(108)

  https://edpb.europa.eu/news/national-news/2021/unlawful-use-body-cams-stockholms-public-transport_en ; https://www.imy.se/tillsyner/storstockholms-lokaltrafik-sl/  

(109)

  https://www.conseil-etat.fr/actualites/actualites/le-conseil-d-etat-ordonne-a-l-etat-de-cesser-immediatement-la-surveillance-par-drone-du-respect-des-regles-sanitaires  

(110)

  COM(2021) 281 final

(111)

Vidjeti, primjerice, presudu od 2. ožujka 2021. u predmetu C-746/18, Prokuratuur, ECLI:EU:C:2021:152.

(112)

Vidjeti presudu od 6. listopada 2020. u spojenim predmetima C-511/18, C-512/18 i C-520/18, La Quadrature du Net i drugi, ECLI:EU:C:2020:791, u kojoj je Sud dopustio opće zadržavanje podataka o prometu i lokaciji u svrhu zaštite od ozbiljnih prijetnji nacionalnoj sigurnosti, IP adresa dodijeljenih izvoru komunikacije u svrhu borbe protiv teških kaznenih djela i podataka o građanskom identitetu u svrhu općenite borbe protiv kriminala.

(113)

Članak 32. stavak 1. točka (a), članak 34. stavak 3. točka (a), članak 6. stavak 4. točka (e) i uvodna izjava 83. Uredbe (EU) 2016/679 o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ; uvodna izjava 60. i članak 31. stavak 3. točka (a) Direktive o zaštiti podataka za potrebe kaznenog progona; uvodna izjava 20. u vezi s člankom 4. Direktive 2002/58/EZ o e-privatnosti.

(114)

Članak 40. stavak 1. i uvodna izjava 96. Europskog zakonika elektroničkih komunikacija; uvodna izjava 40. Uredbe (EU) 2019/881 (Akt o kibersigurnosti).

(115)

Europski odbor za zaštitu podataka (EDPB) donio je Smjernice 1/2021 o primjerima za obavijest o povredi podataka (verzija za javno savjetovanje). Enkripcija ima važnu ulogu u smanjenju rizika od povreda osobnih podataka.

(116)

Ta je obveza dio strategije za sigurnosnu uniju iz srpnja 2020.

(117)

Strategija za suzbijanje organiziranog kriminala, donesena 14. travnja 2021.

(118)

Vidjeti članak 9. Opće uredbe o zaštiti podataka i članak 10. Direktive o zaštiti podataka za potrebe kaznenog progona. Prema Općoj uredbi o zaštiti podataka takva se obrada može provoditi samo na temelju ograničenog broja razloga, među kojima je značajni javni interes najvažniji. U tom se slučaju obrada mora temeljiti na pravu Unije ili nacionalnom pravu koje je proporcionalno i kojim se poštuje bit prava na zaštitu podataka i propisuju odgovarajuće zaštitne mjere. Prema Direktivi o zaštiti podataka za potrebe kaznenog progona takva obrada mora biti strogo nužna, u načelu odobrena na temelju prava EU-a ili nacionalnog prava, i na nju se moraju primjenjivati odgovarajuće zaštitne mjere.

(119)

  https://edri.org/our-work/biometric-mass-surveillance-flourishes-in-germany-and-the-netherlands/ i https://reclaimyourface.eu/  

(120)

  https://edps.europa.eu/press-publications/press-news/press-releases/2021/edpb-edps-call-ban-use-ai-automated-recognition_en  

(121)

  https://www.defenseurdesdroits.fr/fr/communique-de-presse/2021/07/technologies-biometriques-la-defenseure-des-droits-appelle-au-respect  

(122)

Nizozemsko tijelo za zaštitu podataka: Dutch DPA issues Formal Warning to a Supermarket for its use of Facial Recognition Technology | Europski odbor za zaštitu podataka (europa.eu) ; švedsko tijelo za zaštitu podataka novčano kaznilo policiju zbog upotrebe sustava Clearview Sweden fines police for illegal facial recognition tech use – POLITICO Pro ; francusko tijelo za zaštitu podataka o upotrebi tehnologije za biometrijsko prepoznavanje u školama: French privacy watchdog says facial recognition trial in high schools is illegal – POLITICO Pro

(123)

Člankom 5. stavkom 1. točkom (d) Prijedloga predviđa se da takva upotreba mora biti strogo nužna za i. ciljanu potragu za konkretnim potencijalnim žrtvama kaznenih djela, uključujući nestalu djecu; ii. sprečavanje konkretne, znatne i neposredne prijetnje životu ili tjelesnoj sigurnosti pojedinaca ili terorističkog napada; ili iii. otkrivanje počinitelja kaznenog djela ili osumnjičenika za kazneno djelo iz europskog uhidbenog naloga koje je u dotičnoj državi članici kažnjivo najvišom kaznom zatvora od najmanje tri godine. Takvu upotrebu mora odobriti sudsko ili drugo neovisno tijelo i mora biti ograničena vremenski, zemljopisno i na određene baze podataka.

(124)

  https://eur-lex.europa.eu/legal-content/HR/TXT/?uri=CELEX:52020XC0417(08)  

(125)

  https://ec.europa.eu/health/sites/health/files/ehealth/docs/covid-19_apps_en.pdf  

(126)

https://ec.europa.eu/health/sites/health/files/ehealth/docs/contacttracing_mobileapps_guidelines_en.pdf  

(127)

  https://eur-lex.europa.eu/legal-content/HR/TXT/?uri=CELEX%3A02017D0253-20210726

(128)

  http://data.europa.eu/eli/reg/2021/953/oj?locale=hr , popraćen dokumentom https://eur-lex.europa.eu/eli/reg/2021/954/oj?locale=hr  

(129)

  https://eur-lex.europa.eu/eli/dir/2016/680/2016-05-04?locale=hr  

(130)

EDPB-ov pregled resursa koje su države članice stavile na raspolaganje tijelima za zaštitu osobnih podataka i mjera izvršenja koje su provela tijela za zaštitu podataka od 5. kolovoza 2021., objavljen 11. kolovoza na  https://edpb.europa.eu/system/files/2021-08/edpb_report_2021_overviewsaressourcesandenforcement_v3_en_0.pdf .

(131)

Vidjeti npr. Rezoluciju Europskog parlamenta 2020/2717(RSP).

(132)

Strategija Europskog odbora za zaštitu podataka 2021.–2023., donesena 15. prosinca 2020., dostupna na edpb_strategy2021-2023_hr.pdf (europa.eu) .

(133)

Stajalište Vijeća i zaključci o primjeni Opće uredbe o zaštiti podataka (GDPR) – donošenje, 14994/1/19 REV 1, 19. prosinca 2019., dostupno na  pdf (europa.eu) .

(134)

Godišnje izvješće EDPB-a za 2020., 2. lipnja 2021., dostupno na  Godišnje izvješće EDPB-a za 2020. | Europski odbor za zaštitu podataka (europa.eu) .

(135)

  Zaključci Vijeća o jačanju primjene Povelje o temeljnim pravima u Europskoj uniji od 8. ožujka 2021., točka 26.

(136)

 Komunikacija Komisije o akcijskom planu za europsku demokraciju, COM(2020) 790 final .

(137)

  https://ec.europa.eu/info/policies/justice-and-fundamental-rights/upholding-rule-law/rule-law/rule-law-mechanism_hr