(1)

Svet je s Sklepom (EU) 2022/2349 (1) pooblastil Komisijo, da v imenu Unije začne pogajanja za Konvencijo Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi. Pogajanja so se 17. maja 2024 uspešno zaključila s parafiranjem Okvirne konvencije o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: Konvencija) in njenim sprejetjem s strani Odbora ministrov Sveta Evrope.

(2)

V Konvenciji so določena splošna načela in obveznosti, ki bi jih morale pogodbenice Konvencije spoštovati, da bi zagotovile varstvo človekovih pravic, demokracije in pravne države v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih (UI) sistemov.

(3)

Evropski parlament in Svet sta 13. junija 2024 na podlagi členov 16 in 114 Pogodbe o delovanju Evropske unije (PDEU) sprejela Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta (2), ki vsebuje harmonizirana pravila, ki na splošno temeljijo na popolni harmonizaciji in ki urejajo dajanje na trg, dajanje v uporabo in uporabo sistemov UI v Uniji. Ta pravila se neposredno uporabljajo v državah članicah, razen če je v navedeni uredbi izrecno določeno drugače. Konvencija se v Uniji izvaja izključno z Uredbo (EU) 2024/1689 in drugim ustreznim pravnim redom Unije, kadar je ustrezno.

(4)

Dejavnosti v življenjskem ciklu sistemov UI, povezane z zaščito interesov nacionalne varnosti, so izključene iz področja uporabe Konvencije. Uredba (EU) 2024/1689, ki bo glavni pravni akt Unije za izvajanje Konvencije, iz svojega področja uporabe izključuje tudi sisteme UI, ki so dani na trg ali v uporabo ali se uporabljajo s spremembami ali brez njih izključno za namene nacionalne varnosti, in izhodne podatke sistemov UI, ki se v Uniji uporabljajo izključno za take namene, ne glede na vrsto subjekta, ki izvaja te dejavnosti. Poleg tega nacionalna varnost ostaja v izključni pristojnosti vsake države članice, kakor je določeno v členu 4, odstavek 2, Pogodbe o Evropski uniji (PEU). Zato bi bilo treba v stališču Unije, ki se izrazi na Konferenci pogodbenic, ustanovljeni s Konvencijo, spoštovati navedene omejitve. Komisija zlasti ne bi smela razpravljati ali sprejemati stališč o dejavnostih v življenjskem ciklu sistemov UI, povezanih z zaščito interesov nacionalne varnosti, na zasedanjih Konference pogodbenic.

(5)

Glede na to, da osebno in stvarno področje uporabe Konvencije ter materialne določbe Konvencije v veliki meri sovpadajo z Uredbo (EU) 2024/1689, ki jo dopolnjuje drug ustrezen pravni red Unije, lahko sklenitev Konvencije vpliva na skupna pravila Unije ali spremeni njihovo področje uporabe v smislu člena 3, odstavek 2, PDEU. Taki drugi ustrezni pravni akti Unije vključujejo pravne akte, namenjene izvajanju temeljnih pravic iz Listine Evropske unije o temeljnih pravicah, kot so zakonodaja Unije o nediskriminaciji, vključno z direktivama Sveta 2000/43/ES (3) in 2000/78/ES (4); pravni red Unije o varstvu osebnih podatkov, vključno z uredbama (EU) 2016/679 (5) in (EU) 2022/2065 (6) Evropskega parlamenta in Sveta, katerih namen je zagotoviti varno, predvidljivo in zaupanja vredno spletno okolje v katerem se spoštujejo temeljne pravice, vključno s pravico do svobode izražanja ter pravico do prejemanja in širjenja informacij; Uredbo (EU) 2024/900 Evropskega parlamenta in Sveta (7) ter zakonodajo o varnosti proizvodov in zakonodajo o odgovornosti za proizvode z napako, vključno z Direktivo Sveta 85/374/EGS (8). Unija ima zato izključno zunanjo pristojnost za podpis Konvencije. Posledično bi morala izključno Unija postati pogodbenica Konvencije, s pridržkom njene poznejše sklenitve.

(6)

Konferenca pogodbenic bo imela pomembno vlogo pri učinkovitem izvajanju Konvencije, tudi s pripravo posebnih priporočil v zvezi z njeno razlago in uporabo. Konferenca pogodbenic bo preučila tudi morebitne spremembe Konvencije. V skladu s členom 218, odstavek 9, PDEU bi moral Svet na predlog Komisije sprejeti sklepe o določitvi stališč, ki se v imenu Unije zastopajo na Konferenci pogodbenic, kadar ta organ sprejema akte s pravnim učinkom, zlasti poslovnik Konference pogodbenic. Med pogajanjem glede tega poslovnika, ki ga je treba soglasno sprejeti v 12 mesecih od začetka veljavnosti Konvencije, si bo Unija prizadevala zagotoviti, da bo imela 27 glasov, kar ustreza številu njenih držav članic. Če bo Unija imela 27 glasov, bi morala Komisija, ki Unijo zastopa, zagotoviti intenzivno usklajevanje z državami članicami, da bi na Konferenci pogodbenic zastopali enotna stališča in da bi uveljavljala svojo pravico do glasovanja v imenu Unije. Tako intenzivno usklajevanje je zlasti pomembno, ker so vse države članice tudi članice Sveta Evrope, hkrati pa je treba upoštevati, da se umetna inteligenca razvija hitro in je zato na tem področju potreben usklajen okvir na svetovni ravni. Da bi zagotovili intenzivno usklajevanje, bi moral biti Svet vključen v oblikovanje vseh stališč, ne glede na njihovo naravo, tudi tistih, ki temeljijo na členu 16, odstavek 1, PEU in členu 218, odstavek 9, PDEU. Če Uniji kljub najboljšim prizadevanjem to ne bi uspelo dobiti 27 glasov, bi bilo treba zagotoviti, da dobi število glasov, ki odraža njeno pomembnost v Svetu Evrope in ji omogoča ustrezno obrambo njenih interesov, zato bi morala Komisija predlagati, da bi morale imeti države članice na podlagi člena 2, odstavek 1, PDEU in ob polnem spoštovanju izključne pristojnosti Unije pravico, da pristopijo h Konvenciji skupaj z Unijo.

(7)

Komisija bo povabila vsako državo članico, da pošlje enega predstavnika, ki bo spremljal predstavništvo Komisije kot del delegacije Unije na zasedanjih Konference pogodbenic. Spoštovati je treba načelo lojalnega sodelovanja.

(8)

Kar zadeva vse druge sporazume, ki bi lahko bili sklenjeni v prihodnosti pod okriljem Sveta Evrope ali drugih mednarodnih forumov, tudi na področju umetne inteligence, ter kar zadeva vse morebitne spremembe Konvencije, bi bilo treba razdelitev zunanjih pristojnosti med Unijo in državami članicami oceniti glede na posebne značilnosti vsakega takega instrumenta. Izredno pomembno je, da lahko Unija in njene države članice še naprej neposredno in dejavno izražajo mnenje Unije ter dosledno in usklajeno zagovarjajo njene interese v skladu s Pogodbama.

(9)

V skladu s Pogodbama bi morala Komisija zagotoviti podpis Konvencije s pridržkom njene poznejše sklenitve –