Sažetak Mišljenja Europskog nadzornika za zaštitu podataka o Preporuci za odluku Vijeća o odobravanju otvaranja pregovora u ime Europske unije o konvenciji Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava

(2022/C 458/04)

(Cjeloviti tekst ovog Mišljenja dostupan je na engleskom, francuskom i njemačkom jeziku na mrežnom mjestu EDPS-a)https://edps.europa.eu)

Europska komisija je 18. kolovoza 2022. izdala Preporuku za odluku Vijeća o odobravanju otvaranja pregovora u ime Europske unije o konvenciji Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava („konvencija”) na temelju članka 218. UFEU-a.

U pogledu „prekogranične” prirode umjetne inteligencije EDPS pozdravlja opći cilj Vijeća Europe, i to pripremu prvog pravno obvezujućeg međunarodnog instrumenta o umjetnoj inteligenciji koji se temelji na normama Vijeća Europe o ljudskim pravima, demokraciji i vladavini prava. U skladu s time EDPS podržava otvaranje pregovora o konvenciji u ime EU-a i pozdravlja njezinu ulogu u promicanju pouzdane umjetne inteligencije koja je u skladu s vrijednostima EU-a.

EDPS uzima u obzir činjenicu da bi sadržaj konvencije u EU-u bio reguliran predloženim Aktom o umjetnoj inteligenciji te prihvaća Komisijin cilj osiguranja usklađenosti te konvencije s predloženim Aktom o umjetnoj inteligenciji, uzimajući u obzir budući razvoj zakonodavnog postupka. S druge strane, EDPS smatra da konvencija predstavlja važnu mogućnost za dopunu predloženog Akta o umjetnoj inteligenciji jačanjem zaštite temeljnih prava svih osoba na koje utječu sustavi umjetne inteligencije te se stoga zalaže za to da se konvencijom osiguraju jasna i snažna postupovna jamstva za osobe na koje utječu sustavi umjetne inteligencije.

U skladu s gore navedenim EDPS predlaže četiri osnovne preporuke za pregovaračke smjernice:

—	u općim ciljevima u sklopu pregovora o konvenciji trebalo bi pridati veću važnost postupovnim jamstvima i pravima za osobe i skupine osoba na koje utječu sustavi umjetne inteligencije, u skladu s osnovnim usmjerenjem i ciljevima Vijeća Europe

—	u posebnu smjernicu trebalo bi uključiti izričito upućivanje na usklađenost konvencije s postojećim pravnim okvirom EU-a o zaštiti podataka

—	u skladu s pristupom koji se temelji na riziku trebalo bi uvesti cilj kojim se zabranjuje da sustavi umjetne inteligencije predstavljaju neprihvatljive rizike

—	konvencija bi trebala promicati primjenu pristupa tehničke i integrirane zaštite podataka u svakoj fazi životnog ciklusa sustava umjetne inteligencije.

Osim toga, u Mišljenju se navode daljnje preporuke o uključivanju minimalnih postupovnih jamstava u konvenciju, kao i minimalnih uvjeta transparentnosti, objašnjivosti i mogućnosti revizije mehanizama usklađenosti i kontrole, o prekograničnoj suradnji među nadležnim tijelima koja trebaju imenovati stranke konvencije za nadzor postupovnih jamstava i prava koja se osiguravaju konvencijom.

1. UVOD

Cilj je Preporuke odobriti otvaranje pregovora u ime EU-a za buduću konvenciju Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava („konvencija”), usvojiti pregovaračke smjernice te imenovati Komisiju pregovaračem EU-a (2).

U svojem obrazloženju (3), Komisija naglašava da se pregovori o konvenciji odnose na pitanja koja su u isključivoj nadležnosti EU-a, među ostalim i zbog znatnog preklapanja između „nultog nacrta” konvencije koji je proslijedio Odbor za umjetnu inteligenciju (CAI) Vijeća Europe s jedne strane, i Komisijina Prijedloga uredbe o umjetnoj inteligenciji („predloženi akt o umjetnoj inteligenciji”) (4), s druge strane, u pogledu njihova područja primjene i sadržaja (5).

U obrazloženju (6) Preporuke naglašava se da se u „nultom nacrtu” predlaže uključivanje sljedećih odredbi:

—	svrhe i područja primjene (okvirne) konvencije

—	definicija sustava umjetne inteligencije, životnog ciklusa, dobavljača, korisnika i „osobe na koju utječe umjetna inteligencija”

—	određenih temeljnih načela, uključujući postupovna jamstva i prava osoba na koje umjetna inteligencija utječe, koja bi se primjenjivala na sve sustave umjetne inteligencije, bez obzira na njihovu razinu rizika

—	dodatnih mjera za javni sektor kao i sustave umjetne inteligencije koji predstavljaju „neprihvatljive” i „značajne” razine rizika utvrđene na temelju metodologije procjene rizika i učinka (koja će se utvrditi naknadno u prilogu konvenciji)

—	mehanizma za naknadne aktivnosti i suradnju među strankama

—	završnih odredbi, uključujući mogućnost da države članice EU-a u svojim međusobnim odnosima primjenjuju pravo EU-a na pitanja obuhvaćena konvencijom te mogućnost da EU pristupi konvenciji.

U uvodnim izjavama 6. i 7. Preporuke naglašava se da sklapanje konvencije može utjecati na postojeća i buduća pravila Unije. U svrhu zaštite cjelovitosti prava Unije i osiguranja dosljednosti između odredbi međunarodnog prava i prava EU-a, Komisiju bi trebalo ovlastiti da pregovara o konvenciji.

EDPS izdaje ovo Mišljenje kao odgovor na savjetovanje s Europskom komisijom od 18. kolovoza 2022., u skladu s člankom 42. stavkom 1. EUDPR-a (7). EDPS također pozdravlja upućivanje na to savjetovanje u uvodnoj izjavi 8. Preporuke.

8. ZAKLJUČCI

49.

S obzirom na prethodno navedeno, EDPS daje sljedeće preporuke:

(1)	pridati veću važnost cilju „osiguranja visoke razine zaštite ljudskih prava i očuvanja europskih vrijednosti”, u skladu s prirodom i mandatom Vijeća Europe

(2)	izbrisati riječ „uključujući” nakon „pravo jedinstvenog tržišta EU-a i druga područja prava” u smjernicama 5. i 11. kako bi se bolje odrazilo međudjelovanje općih načela i temeljnih prava s jedne strane, i sekundarnog prava (prava jedinstvenog tržišta EU-a i drugih područja prava) s druge strane.

(3)

dodati posebnu smjernicu u kojoj se podsjeća na nužnost postizanja prave ravnoteže između javnog interesa i interesa osoba na koje utječu sustavi umjetne inteligencije kako bi se osiguralo potpuno poštovanje prava na privatnost i zaštitu osobnih podataka te drugih obuhvaćenih temeljnih prava, posebno prava na pretpostavku nedužnosti i na pošteno suđenje, prava na dobru upravu i načela nediskriminacije

(4)	navesti u smjernici da bi se konvencijom trebala osigurati određena minimalna postupovna jamstva i prava osoba na koje utječe korištenje sustava umjetne inteligencije

(5)	navesti u smjernici da bi se konvencijom trebali predvidjeti minimalni uvjeti transparentnosti, objašnjivosti i mogućnosti revizije sustava umjetne inteligencije

(6)	u smjernici 14. pojasniti da se društveni/grupni rizici koje predstavljaju sustavi umjetne inteligencije također moraju procijeniti i ublažiti

(7)	u pregovaračkim smjernicama navesti da se određene sustave umjetne inteligencije, koji predstavljaju neprihvatljive rizike, treba zabraniti te navesti okviran popis takvih sustava umjetne inteligencije

(8)	uključiti pregovaračku smjernicu u skladu s kojom bi se konvencijom trebalo promicati usvajanje pristupa integrirane i zadane zaštite podataka u svakoj fazi životnog ciklusa sustava umjetne inteligencije

(9)

navesti sadržaj smjernice 17. kako slijedi:

—	za visokorizičnu umjetnu inteligenciju mora se provesti ex ante ocjena sukladnosti koju provodi treća strana

—	visokorizični sustavi umjetne inteligencije trebali bi podlijegati novom postupku ocijene sukladnosti kad god dođe do znatne promjene

—	navesti predmet i pravni učinak certifikacija

—	navesti da tehničke norme s jedne strane mogu imati pozitivan učinak na usklađivanje proizvoda i usluga, a s druge je strane njihova funkcija osigurati tehničke specifikacije pravila već utvrđenih zakonom

(10)	uključiti smjernicu prema kojoj bi se konvencijom trebalo predvidjeti da se nadležnim nadzornim tijelima moraju dodijeliti odgovarajuće istražne i provedbene ovlasti

(11)	dodati pregovaračku smjernicu čiji je cilj osigurati da se konvencijom olakšava i potiče prekograničnu suradnju među nadležnim tijelima.

U Bruxellesu 13. listopada 2022

Wojciech Rafał WIEWIÓROWSKI

(1) COM(2022) 414 final.

(2) COM (2022) 414 final, str. 3.

(3) COM (2022) 414 final, str. 5.

(4) Prijedlog Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije, COM(2021) 206 final.

(5) Vidjeti također uvodnu izjavu 5. Preporuke.

(6) COM(2022) 414 final, stranice 2. i 3.

(7) Uredba (EU) 2018/1725 Europskog parlamenta i Vijeća od 23. listopada 2018. o zaštiti pojedinaca u vezi s obradom osobnih podataka u institucijama, tijelima, uredima i agencijama Unije i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Uredbe (EZ) br. 45/2001 i Odluke br. 1247/2002/EZ (SL L 295, 21.11.2018., str. 39.).