Povzetek mnenja Evropskega nadzornika za varstvo podatkov o priporočilu za Sklep Sveta o odobritvi začetka pogajanj v imenu Evropske unije za konvencijo Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

(2022/C 458/04)

(Celotno besedilo tega mnenja je na voljo v angleščini, francoščini in nemščini na spletišču ENVP https://edps.europa.eu)

Evropska komisija je 18. avgusta 2022 izdala priporočilo za sklep Sveta o odobritvi začetka pogajanj v imenu Evropske unije za konvencijo Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: konvencija) v skladu s členom 218 PDEU.

Evropski nadzornik za varstvo podatkov (v nadaljnjem besedilu: ENVP) ob upoštevanju „čezmejne“ narave umetne inteligence pozdravlja splošni cilj Sveta Evrope, da se oblikuje prvi pravno zavezujoč mednarodni instrument o umetni inteligenci, ki temelji na standardih Sveta Evrope na področju človekovih pravic, demokracije in pravne države. ENVP zato podpira začetek pogajanj v imenu Unije o konvenciji in pozdravlja vlogo Unije pri spodbujanju zaupanja vredne umetne inteligence, ki je skladna z vrednotami Unije.

ENVP je seznanjen z dejstvom, da bi vsebino konvencije v EU urejal predlagani akt o umetni inteligenci, in podpira prizadevanja Komisije, da bi zagotovila skladnost konvencije s predlaganim aktom o umetni inteligenci ob upoštevanju prihodnjega razvoja zakonodajnega postopka. Vendar meni, da je konvencija pomembna priložnost za dopolnitev predlaganega akta o umetni inteligenci z okrepljenimi ukrepi za zaščito temeljnih pravic oseb, na katere vplivajo umetnointeligenčni sistemi, zato se zavzema za to, da konvencija zagotovi jasne in stroge zaščitne ukrepe za osebe, na katere vpliva uporaba umetnointeligenčnih sistemov.

Glede na navedeno ENVP podaja štiri glavna priporočila v zvezi s pogajalskimi smernicami:

—	v splošnih ciljih pogajanj o konvenciji bi moral biti večji poudarek na zaščitnih ukrepih in pravicah, ki jih je treba zagotoviti posameznikom – in skupinam posameznikov –, ki so subjekti umetnointeligenčnih sistemov, v skladu z glavno usmeritvijo in cilji Sveta Evrope;

—	v posebno pogajalsko smernico bi bilo treba vključiti izrecno sklicevanje na skladnost konvencije z obstoječim pravnim okvirom EU o varstvu podatkov;

—	v skladu s pristopom, ki temelji na tveganju, bi bilo treba zastaviti cilj, da se prepovejo umetnointeligenčni sistemi, ki predstavljajo nesprejemljiva tveganja;

—	konvencija bi morala spodbujati pristop vgrajenega in privzetega varstva podatkov v vseh fazah življenjskega cikla umetnointeligenčnih sistemov.

Poleg tega mnenje vsebuje dodatna priporočila glede vključitve minimalnih postopkovnih zaščitnih ukrepov ter minimalnih zahtev glede preglednosti, razložljivosti in možnosti revizije, skladnosti in nadzornih mehanizmov v konvencijo, glede čezmejnega sodelovanja med pristojnimi organi, ki jih imenujejo pogodbenice konvencije za nadzor zaščitnih ukrepov, in pravic, ki jih je treba zagotoviti v skladu s konvencijo.

1. UVOD

Evropska komisija je 18. avgusta 2022 izdala priporočilo za sklep Sveta o odobritvi začetka pogajanj v imenu Evropske unije za konvencijo Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (1) v skladu s členom 218 PDEU (v nadaljnjem besedilu: priporočilo).

Cilj priporočila je podeliti pooblastilo za začetek pogajanj v imenu Unije o prihodnji konvenciji Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: konvencija), sprejeti pogajalske smernice in imenovati Komisijo za pogajalca Unije (2).

Komisija v obrazložitvenem memorandumu (3) poudarja, da se pogajanja o konvenciji nanašajo na zadeve, ki so v izključni pristojnosti Unije, tudi zaradi znatnega prekrivanja med predhodnim osnutkom konvencije, ki ga je pripravil Odbor Sveta Evrope za umetno inteligenco, na eni strani in predlogom Komisije o uredbi o umetni inteligenci (v nadaljnjem besedilu: predlagani akt o umetni inteligenci) (4) na drugi strani, kar zadeva njuno področje uporabe in vsebino (5).

V obrazložitvenem memorandumu (6) k priporočilu je poudarjeno, da je v predhodnem osnutku predlagana vključitev naslednjih določb:

—	namen in področje uporabe (okvirne) konvencije;

—	opredelitve pojmov umetnointeligenčni sistem, življenjski cikel, ponudnik, uporabnik in „umetnointeligenčni subjekt“;

—	nekatera temeljna načela, vključno s postopkovnimi zaščitnimi ukrepi in pravicami za umetnointeligenčne subjekte, ki bi veljala za vse umetnointeligenčne sisteme, ne glede na njihovo stopnjo tveganja;

—	dodatni ukrepi za javni sektor in umetnointeligenčne sisteme z „nesprejemljivo“ ali „pomembno“ stopnjo tveganja, opredeljeno na podlagi metodologije ocene tveganja in učinka (ki naj bi bila določena pozneje v prilogi h konvenciji);

—	mehanizmi nadaljnjega spremljanja in sodelovanja med pogodbenicami;

—	končne določbe, vključno z možnostjo, da države članice EU v okviru medsebojnih odnosov uporabljajo pravo EU za zadeve, ki jih zajema konvencija, in možnostjo, da h konvenciji pristopi Unija.

V priporočilu je v uvodnih izjavah 6 in 7 poudarjeno, da lahko sklenitev konvencije vpliva na obstoječa in predvidena prihodnja pravila Unije. Za zaščito celovitosti prava Unije ter usklajenost določb mednarodnega prava in prava Unije je treba Komisijo pooblastiti, da se v imenu Unije pogaja o konvenciji.

To mnenje ENVP je izdano kot odgovor na posvetovanje Evropske komisije dne 18. avgusta 2022 v skladu s členom 42(1) uredbe EU o varstvu podatkov (7). ENVP pozdravlja sklic na to posvetovanje v uvodni izjavi 8 priporočila.

8. SKLEPNE UGOTOVITVE

49.

Glede na navedeno ENVP podaja naslednja priporočila:

(1)	naj se večji poudarek nameni prizadevanju, „da bi se zagotovili visoka raven varstva človekovih pravic in ohranitev evropskih vrednot“ v skladu z naravo in mandatom Sveta Evrope;

(2)

naj se v pogajalskih smernicah (5) in (11) za besedno zvezo „pravom EU o enotnem trgu in drugimi področji prava EU“ črta izraz „vključno s“, da bi se bolje odrazil medsebojni vpliv med splošnimi načeli in temeljnimi pravicami na eni strani ter sekundarno zakonodajo (zakonodajo EU o enotnem trgu in drugimi področji prava) na drugi strani.

(3)

naj se doda posebna pogajalska smernica, ki opozarja na potrebo po vzpostavitvi ustreznega ravnovesja med javnim interesom in interesi oseb, ki so subjekti umetnointeligenčnih sistemov, da se zagotovi popolno spoštovanje pravice do zasebnosti in varstva osebnih podatkov ter drugih zadevnih temeljnih pravic, zlasti pravice do domneve nedolžnosti in poštenega sojenja, pravice do dobrega upravljanja in načela nediskriminacije;

(4)	naj se v pogajalski smernici določi, da bi morala konvencija določati nekatere minimalne postopkovne zaščitne ukrepe in pravice za osebe, na katere vpliva uporaba umetnointeligenčnih sistemov;

(5)	naj se v pogajalski smernici določi, da bi morala konvencija določati minimalne zahteve glede preglednosti, razložljivosti in možnosti revizije umetnointeligenčnih sistemov;

(6)	naj se v pogajalsko smernico (14) vključi zahteva, da je treba prav tako oceniti in ublažiti družbena/skupinska tveganja, ki jih predstavljajo umetnointeligenčni sistemi;

(7)	naj se v pogajalskih smernicah zahteva prepoved umetnointeligenčnih sistemov, ki predstavljajo nesprejemljiva tveganja, in zagotovi okvirni seznam takih umetnointeligenčnih sistemov;

(8)	naj se vključi pogajalska smernica, ki vsebuje zahtevo, da bi morala konvencija spodbujati sprejetje pristopa vgrajenega in privzetega varstva podatkov v vseh fazah življenjskega cikla umetnointeligenčnih sistemov;

(9)

naj se natančneje opredeli vsebina pogajalske smernice (17), in sicer:

—	pri umetnointeligenčnih sistemih velikega tveganja naj predhodno preverjanje skladnosti opravijo tretje osebe;

—	umetnointeligenčni sistemi velikega tveganja naj bodo ob vsaki bistveni spremembi predmet novega postopka preverjanja skladnosti;

—	naj se opredeli predmet in pravni učinek certifikatov;

—	naj se določi, da lahko tehnični standardi po eni strani pozitivno vplivajo na usklajevanje proizvodov in storitev; po drugi strani pa je njihova vloga zagotoviti tehnične specifikacije pravil, ki so že določena z zakonom;

(10)	naj se vključi pogajalska smernica, v skladu s katero bi morala konvencija določati, da morajo imeti pristojni nadzorni organi ustrezna preiskovalna in izvršilna pooblastila;

(11)	naj se doda pogajalska smernica, katere namen je zagotoviti, da bo konvencija olajšala in spodbujala čezmejno sodelovanje med pristojnimi organi.

Bruslju, 13. oktobra 2022

Wojciech Rafał WIEWIÓROWSKI

(1) COM(2022) 414 final.

(2) COM(2022) 414 final, str. 3.

(3) COM(2022) 414 final, str. 5.

(4) Predlog uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (COM(2021) 206 final).

(5) Glej tudi uvodno izjavo 5 priporočila.

(6) COM(2022) 414 final., str. 2 in 3.

(7) Uredba (EU) 2018/1725 Evropskega parlamenta in Sveta z dne 23. oktobra 2018 o varstvu posameznikov pri obdelavi osebnih podatkov v institucijah, organih, uradih in agencijah Unije in o prostem pretoku takih podatkov ter o razveljavitvi Uredbe (ES) št. 45/2001 in Sklepa št. 1247/2002/ES (UL L 295, 21.11.2018, str. 39).