EVROPSKA KOMISIJA

Bruselj, 3.6.2025

COM(2025) 265 final

2025/0136(NLE)

Predlog

SKLEP SVETA

o sklenitvi, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

OBRAZLOŽITVENI MEMORANDUM

(1)OZADJE PREDLOGA

•Razlogi za predlog in njegovi cilji

Unija je z Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci 1 (v nadaljnjem besedilu: akt o umetni inteligenci) sprejela prvo celovito uredbo o umetni inteligenci, ki določa standard na svetovni ravni. Akt o umetni inteligenci, ki je začel veljati 1. avgusta 2024, v celoti harmonizira pravila za dajanje na trg, dajanje v uporabo ter za uporabo umetnointeligenčnih sistemov v državah članicah 2 , da bi spodbujali inovacije in uvajanje zaupanja vredne umetne inteligence ter hkrati zagotovili varovanje zdravja, varnosti in temeljnih pravic, vključno z demokracijo, pravno državo in okoljem.

Različne mednarodne organizacije, vključno s Svetom Evrope, so prav tako okrepile svoja prizadevanja za urejanje umetne inteligence, pri čemer priznavajo čezmejno naravo umetne inteligence in potrebo po mednarodnem sodelovanju za reševanje skupnih izzivov, ki jih prinašajo te tehnologije.

Odbor Sveta Evrope za umetno inteligenco 3 je med junijem 2022 in marcem 2024 pripravil pravno zavezujočo okvirno konvencijo (v nadaljnjem besedilu: Konvencija), da bi obravnaval morebitna tveganja, ki jih umetna inteligenca pomeni za človekove pravice, demokracijo in pravno državo.

Odbor ministrov Sveta Evrope je 17. maja 2024 sprejel besedilo Konvencije 4 in se dogovoril, da bo ta na voljo za podpis 5. septembra 2024 v Vilni (Litva), ter pozval članice Sveta Evrope, druge tretje države, ki so sodelovale pri pripravi Konvencije, in Unijo, naj ob tej priložnosti razmislijo o njenem podpisu, pri čemer je opozoril, da lahko h Konvenciji pristopijo tudi druge države nečlanice 5 .

Unija je Konvencijo podpisala 5. septembra 2024, po sprejetju Sklepa Sveta (EU) 2024/2218 z dne 28. avgusta 2024 o podpisu, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi 6 . Konvencijo so ob tej priložnosti podpisale tudi Andora, Gruzija, Islandija, Izrael, Črna gora, Norveška, Republika Moldavija, San Marino, Združeno kraljestvo in Združene države Amerike. Ta konvencija je na voljo za podpis tudi drugim državam članicam Sveta Evrope in tretjim državam, ki so kadar koli sodelovale pri njeni pripravi. Odbor ministrov Sveta Evrope lahko po začetku njene veljavnosti v skladu s postopkom iz člena 31 Konvencije povabi katero koli državo nečlanico Sveta Evrope, ki ni sodelovala pri pripravi te konvencije, da k njej pristopi.

V zvezi s tem je namen tega predloga sklepa Sveta začeti postopek za sklenitev Konvencije v imenu Unije pod pogoji iz Sklepa Sveta 2024/2218 o odobritvi njenega podpisa. Sklenitev prvega mednarodnega sporazuma o umetni inteligenci je dragocena priložnost za Unijo, da spodbuja skupni pristop k ureditvi umetne inteligence na mednarodni ravni in zagotovi okvir za sodelovanje s članicami Sveta Evrope in tretjimi državami, ki postanejo pogodbenice Konvencije.

·Vsebina Konvencije

Cilj Konvencije je zagotoviti, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov v celoti skladne s človekovimi pravicami, demokracijo in pravno državo.

Pogodbenice Konvencije jo bodo morale izvajati z ustreznimi zakonodajnimi, upravnimi ali drugimi ukrepi za uveljavitev njenih določb v skladu s postopnim in diferenciranim pristopom, odvisno od resnosti in verjetnosti negativnih vplivov. Konvencijo bi bilo treba v Uniji izvajati izključno z aktom o umetni inteligenci, ki v celoti harmonizira pravila za dajanje na trg, dajanje v uporabo ter za uporabo umetnointeligenčnih sistemov, in po potrebi z drugim zadevnim pravnim redom Unije.

Področje uporabe Konvencije zajema umetnointeligenčne sisteme, ki bi lahko posegali v človekove pravice, demokracijo in pravno državo, pri čemer sledi diferenciranemu pristopu. Načela in obveznosti iz Konvencije se bodo uporabljala za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki jih izvajajo javni organi ali zasebni akterji, ki delujejo v njihovem imenu. Kar zadeva zasebni sektor, morajo pogodbenice tveganja in vplive, ki izhajajo iz dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki jih izvajajo zasebni akterji, obravnavati na način, ki je skladen s ciljem in namenom Konvencije, vendar se lahko odločijo, ali bodo uporabile obveznosti iz Konvencije ali sprejele druge ustrezne ukrepe. Temu predlogu sklepa Sveta je priložen osnutek izjave, ki Unijo zavezuje, da bo z aktom o umetni inteligenci in drugim ustreznim pravnim redom Unije izvajala načela in obveznosti iz poglavij II do VI Konvencije za dejavnosti zasebnih akterjev, ki dajejo na trg, dajejo v uporabo ter uporabljajo umetnointeligenčne sisteme v Uniji.

Dejavnosti umetne inteligence, povezane z nacionalno varnostjo, so izključene iz področja uporabe Konvencije, pri čemer se razume, da se morajo v vsakem primeru izvajati na način, ki je skladen z veljavnim mednarodnim pravom o človekovih pravicah, ter ob spoštovanju demokratičnih institucij in postopkov. Konvencija izključuje tudi raziskovalne in razvojne dejavnosti v zvezi z umetnointeligenčnimi sistemi, ki še niso na voljo za uporabo, razen če bi testiranje ali podobne dejavnosti lahko posegale v človekove pravice, demokracijo in pravno državo. V skladu s Statutom Sveta Evrope zadeve v zvezi z nacionalno obrambo ne spadajo na področje uporabe Konvencije.

Konvencija nadalje določa sklop splošnih obveznosti in temeljnih načel, vključno z varstvom človekovega dostojanstva in avtonomije posameznika ter spodbujanjem enakosti in nediskriminacije. Poleg tega zahteva spoštovanje zasebnosti, varstvo osebnih podatkov, preglednost in nadzor, da se zagotovi odgovornost. Eno od načel je namenjeno tudi varnim inovacijam in eksperimentiranju v nadzorovanih okoljih.

V posebnem poglavju o pravnih sredstvih je prav tako predviden sklop ukrepov, katerih cilj je zagotoviti razpoložljivost dostopnih in učinkovitih pravnih sredstev v primeru kršitev človekovih pravic, ki so posledica dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov. Vključuje tudi učinkovita procesna jamstva in zaščitne ukrepe za osebe, na pravice katerih je znatno vplivala uporaba umetnointeligenčnih sistemov. Poleg tega bi bilo treba posameznike obvestiti, da njihova interakcija poteka z umetnointeligenčnim sistemom in ne s človekom.

Konvencija vključuje tudi poglavje o ukrepih za ocenjevanje in zmanjšanje tveganj in škodljivih vplivov, ki jih je treba izvajati ponavljajoče, da se ugotovijo dejanski in morebitni vplivi na človekove pravice, demokracijo in pravno državo ter sprejmejo ustrezni preprečevalni ukrepi in ukrepi za zmanjšanje tveganj.

Poleg tega Konvencija določa, da bi morale pogodbenice oceniti potrebo po prepovedih ali moratorijih na nekatere uporabe umetnointeligenčnih sistemov, ki se štejejo za nezdružljive s spoštovanjem človekovih pravic, delovanjem demokracije ali pravno državo.

Konvencija zagotavlja mehanizem za nadaljnje ukrepanje v okviru konference pogodbenic, ki jo sestavljajo predstavniki pogodbenic, ki se bodo redno posvetovali, da bi olajšali učinkovito uporabo in izvajanje Konvencije.

Predvideva tudi mehanizem za mednarodno sodelovanje med pogodbenicami Konvencije ter v odnosih s tretjimi državami in ustreznimi deležniki, da se doseže namen Konvencije.

Poleg tega bi morala vsaka pogodbenica na nacionalni ravni vzpostaviti ali določiti enega ali več učinkovitih mehanizmov za nadzor skladnosti z obveznostmi iz Konvencije, kot so jih določile pogodbenice.

•Skladnost z veljavnimi predpisi s področja zadevne politike

Konvencija določa splošna načela in obveznosti za varstvo človekovih pravic, demokracije in pravne države, ki so v celoti skladni in usklajeni s cilji akta o umetni inteligenci ter podrobnimi zahtevami za umetnointeligenčne sisteme in obveznostmi, naloženimi ponudnikom in uvajalcem takih sistemov.

Opredelitev umetnointeligenčnega sistema v Konvenciji je v celoti usklajena z opredelitvijo iz akta o umetni inteligenci, saj oba temeljita na opredelitvi takih sistemov v načelih za umetno inteligenco Organizacije za gospodarsko sodelovanje in razvoj 7 , s čimer se zagotavlja skupno razumevanje, katere digitalne tehnologije sestavljajo umetno inteligenco.

Preglednost je še en skupni element obeh pravnih instrumentov, ki vključuje ukrepe v zvezi z identifikacijo vsebin, ustvarjenih z umetno inteligenco, in obveščanjem oseb, ki so v interakciji z umetnointeligenčnimi sistemi. Oba pravna instrumenta vključujeta tudi ustrezne določbe o ocenah tveganja in učinka ter obvladovanju tveganja, vodenju evidenc, razkritju (pooblaščenim telesom in organom ter po potrebi prizadetim osebam), sledljivosti in razložljivosti, varnih inovacijah in eksperimentiranju v nadzorovanih okoljih ter sklop ukrepov, ki omogočajo učinkovita pravna sredstva, vključno s pravico do zahtevanja informacij in dostopanja do njih, pritožbe pristojnemu organu ter postopkovnih jamstev.

Nadzorni sistem, predviden v Konvenciji, je tudi v celoti skladen s celovitim sistemom upravljanja in izvrševanja iz akta o umetni inteligenci, ki ga sestavlja izvrševanje na ravni Unije in nacionalni ravni, s postopki za dosledno izvajanje pravil Unije v vseh državah članicah. Konvencija zlasti predvideva enega ali več učinkovitih nadzornih mehanizmov na nacionalni ravni, ki morajo svoje naloge opravljati neodvisno in nepristransko ter imeti potrebna pooblastila, strokovno znanje in vire za učinkovito izpolnjevanje nalog nadzora nad izpolnjevanjem obveznosti iz Konvencije, kot so jih določile pogodbenice.

Čeprav se bo akt o umetni inteligenci uporabljal za umetnointeligenčne sisteme, ki so dani na trg, dani v uporabo ali se uporabljajo v Uniji, ima Konvencija širši geografski doseg, ki zajema članice Sveta Evrope in tretje države po svetu, ki lahko postanejo pogodbenice Konvencije. Konvencija je zato edinstvena priložnost za spodbujanje zaupanja vredne umetne inteligence zunaj Unije v prvi mednarodni pravno zavezujoči pogodbi, ki temelji na odločnem pristopu k ureditvi umetne inteligence z vidika človekovih pravic.

Konvencija in akt o umetni inteligenci sta sestavni del regulativnega pristopa k umetni inteligenci s skladnimi zavezami, ki se vzajemno krepijo na več mednarodnih ravneh, in skupnim ciljem zagotavljanja zaupanja vredne umetne inteligence.

•Skladnost z drugimi politikami Unije

Konvencija ima skupne cilje tudi z drugimi politikami in zakonodajo Unije, katerih cilj je izvajanje temeljnih pravic, zapisanih v Listini Evropske unije o temeljnih pravicah 8 .

Zlasti je načelo enakosti in nediskriminacije, zapisano v Konvenciji, v celoti skladno z zakonodajo Unije o nediskriminaciji in bo spodbujalo vključevanje vidikov enakosti v zasnovo, razvoj in uporabo umetnointeligenčnih sistemov ter učinkovito izvajanje prepovedi diskriminacije, kot je določeno v veljavnem mednarodnem in domačem pravu pogodbenic.

Konvencija je poleg tega skladna s pravnim redom Unije na področju varstva podatkov, vključno s splošno uredbo o varstvu podatkov 9 v zvezi s temeljnimi pravicami do zasebnosti in varstva osebnih podatkov, z učinkovitimi jamstvi in zaščitnimi ukrepi, ki morajo biti vzpostavljeni za posameznike, v skladu z veljavnimi domačimi in mednarodnimi pravnimi obveznostmi pogodbenic.

Ukrepi, predvideni v Konvenciji in namenjeni zaščiti demokratičnih procesov pogodbenic v okviru dejavnosti v življenjskem ciklu umetnointeligenčnega sistema, so v celoti skladni s cilji in podrobnimi pravili iz akta o digitalnih storitvah 10 (in kodeksa ravnanja glede dezinformacij 11 ), ki ureja zagotavljanje posredniških storitev v Uniji, da bi se zagotovilo varno, predvidljivo in zaupanja vredno spletno okolje, v katerem se spoštujejo temeljne pravice, vključno s pravico do svobode izražanja ter pravico do prejemanja in širjenja informacij. Prav tako so v skladu z uredbo o preglednosti in ciljanju v političnem oglaševanju 12 , ki vključuje posebno zahtevo glede preglednosti za umetnointeligenčne sisteme, ki se uporabljajo za razširjanje političnega oglaševanja. Ukrepi so v skladu tudi s politikami Unije na področju demokracije ter svobodnih, poštenih in odpornih volitev 13 , vključno z akcijskim načrtom za evropsko demokracijo iz leta 2020 14 , svežnjem o krepitvi demokracije in integriteti volitev 15 ter nedavnim svežnjem za obrambo demokracije 16 iz leta 2023.

Konvencija je v skladu s splošno digitalno strategijo Unije, saj prispeva k spodbujanju tehnologije, ki deluje za ljudi, kar je eden od treh glavnih stebrov usmeritve in ciljev politike, navedenih v sporočilu Oblikovanje digitalne prihodnosti Evrope 17 . Cilj slednjega je zagotoviti, da se bo umetna inteligenca razvijala na način, ki spoštuje pravice ljudi in si zasluži njihovo zaupanje, s čimer bo Evropa postala pripravljena na digitalno dobo in bodo naslednja leta postala digitalno desetletje 18 .

Poleg tega Evropska deklaracija o digitalnih pravicah in načelih za digitalno desetletje 19 vsebuje več digitalnih pravic in načel, ki so usklajeni s cilji in načeli Konvencije, pri čemer oba instrumenta spodbujata odločen in na človekovih pravicah temelječ pristop k tehnologiji.

Konvencija je skladna tudi s strategijo EU o otrokovih pravicah 20 in evropsko strategijo za boljši internet za otroke (BIK+) 21 , katerih cilj je zagotoviti, da so otroci na spletu zaščiteni, spoštovani in opolnomočeni pri soočanju z izzivi novih virtualnih svetov in umetne inteligence.

2.PRAVNA PODLAGA, SUBSIDIARNOST IN SORAZMERNOST

•Pravna podlaga

Predlog sklepa o odobritvi sklenitve Konvencije v imenu Unije se predloži Svetu v skladu s členom 218(6), točka (a)(v), PDEU.

Postopkovna pravna podlaga za sklep Sveta – člen 218(6), točka (a)(v), PDEU – določa, da Svet na predlog Komisije kot pogajalke sprejme sklep o sklenitvi sporazuma po odobritvi Evropskega parlamenta pri sporazumih na področjih, za katera velja redni zakonodajni postopek. Prvi pododstavek člena 218(8) PDEU za sprejetje sklepa Sveta določa glasovanje s kvalificirano večino.

Materialna pravna podlaga za sklep po členu 218(6), točka (a)(v), PDEU je odvisna predvsem od cilja in vsebine sporazuma. Če se v skladu z ustaljeno sodno prakso izkaže, da ima ukrep EU dva cilja ali dva sestavna dela, pri čemer je eden glavni ali prevladujoč cilj ali del, drugi pa zgolj postranski, mora v skladu s sodno prakso ukrep temeljiti na samo eni pravni podlagi, in sicer tisti, ki se zahteva za glavni ali prevladujoči cilj oziroma del. Če se ugotovi, da ima ukrep hkrati več ciljev ali delov, ki so neločljivo povezani, ne da bi bil eden v razmerju do drugih postranski, tako da se uporabljajo različne določbe Pogodbe, mora ukrep izjemoma temeljiti na različnih ustreznih pravnih podlagah.

Kar zadeva materialno pravno podlago, stvarno področje uporabe Konvencije spada na področje uporabe akta o umetni inteligenci, tudi kar zadeva izvzetje iz področja uporabe v zvezi z umetnointeligenčnimi sistemi, ki se uporabljajo izključno za raziskave in razvoj, nacionalno varnost in vojaške dejavnosti. Zgornja analiza je pokazala tudi, da so načela in obveznosti iz Konvencije v veliki meri zajeti in se prekrivajo s podrobnejšimi zahtevami za umetnointeligenčne sisteme ter posebnimi obveznostmi ponudnikov in uvajalcev takih sistemov v skladu z aktom o umetni inteligenci. Če Svet sprejme predlagani sklep in Unija sklene Konvencijo, bo akt o umetni inteligenci predstavljal primarno zakonodajo EU za prenos Konvencije v pravni red EU s popolnoma harmoniziranimi pravili o dajanju na trg, dajanju v uporabo ter uporabi umetnointeligenčnih sistemov v Uniji, ki se neposredno uporabljajo v vseh državah članicah, razen če akt o umetni inteligenci izrecno določa drugače 22 .

Glede na to, da so področje uporabe in cilji Konvencije usklajeni in popolnoma skladni s področjem uporabe in cilji akta o umetni inteligenci ter da se oba pravna instrumenta znatno prekrivata, je materialna pravna podlaga za sklenitev Konvencije člen 114 PDEU, ki je primarna pravna podlaga akta o umetni inteligenci.

Narava mednarodnih sporazumov (sporazum, ki zadeva „le EU“, ali „mešani“ sporazum) je odvisna od združljivosti določene vsebine z izključno in deljeno pristojnostjo EU.

Člen 3(2) PDEU določa, da ima Unija izključno pristojnost „za sklenitev mednarodnega sporazuma, […] kolikor lahko vpliva na skupna pravila ali spremeni njihovo področje uporabe“. Mednarodni sporazum lahko vpliva na skupna pravila ali spremeni njihovo področje uporabe, kadar se področje, ki ga zajema sporazum, prekriva s pravom Unije ali je že v veliki meri zajeto v njem 23 .

Osebno področje uporabe Konvencije je v celoti usklajeno z aktom o umetni inteligenci, saj oba pravna instrumenta načeloma zajemata javne in zasebne akterje (pri čemer je uporaba načel in obveznosti Konvencije neobvezna za zasebne akterje, ki ne delujejo v imenu javnih organov), medtem ko stvarno področje uporabe obeh pravnih instrumentov iz veljavnih pravil izključuje dejavnosti umetne inteligence, izrecno povezane z nacionalno varnostjo, vojsko in raziskovanjem.

Glede na to, da se osebno in stvarno področje uporabe Konvencije prekrivata z aktom o umetni inteligenci, lahko sklenitev Konvencije vpliva na skupna pravila Unije ali spremeni njihovo področje uporabe v smislu člena 3(2) PDEU. Zato bi bilo treba šteti, da ima Unija izključno zunanjo pristojnost za sklenitev Konvencije, Konvencijo pa bi bilo treba skleniti v imenu Unije kot sporazum, ki zadeva „le EU“, saj je bil podpisan v skladu z odobritvijo iz Sklepa Sveta (EU) 2024/2218.

•Sorazmernost

Konvencija ne presega tistega, kar je potrebno za doseganje ciljev politike z razvojem skladnega pristopa k ureditvi umetne inteligence na mednarodni ravni.

Konvencija določa splošni pravni okvir za umetno inteligenco, ki je prožen in pogodbenicam omogoča, da konkretno oblikujejo izvedbene okvire. Pristop, ki temelji na tveganju, zagotavlja tudi sorazmernost pravil in omogoča razlikovanje izvedbenih ukrepov na način, ki je sorazmeren s tveganji, na podoben način kot akt o umetni inteligenci.

•Izbira instrumenta

Izbrani instrument je predlog sklepa Sveta na podlagi člena 218(6), točka (a)(v), PDEU.

3.REZULTATI NAKNADNIH OCEN, POSVETOVANJ Z DELEŽNIKI IN OCEN UČINKA

•Temeljne pravice

Cilj Konvencije je obravnavati morebitna tveganja in škodo za človekove pravice z zagotavljanjem, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov usklajene z načeli spoštovanja človekovih pravic, demokracije in pravne države, hkrati pa priznava potencial umetne inteligence za zaščito in olajšanje uveljavljanja teh pravic v digitalnem okolju ter izboljšanje družbene in okoljske blaginje ter tehnološkega napredka.

Namen konkretnih načel in obveznosti, predvidenih v Konvenciji, je varovati in spoštovati človekove pravice, zapisane v več mednarodnih in regionalnih instrumentih 24 , kot se uporabljajo za pogodbenice, vključno z Listino Unije o temeljnih pravicah in mednarodnimi instrumenti o človekovih pravicah, ki jih je sklenila Unija.

Konvencija tako določa skupni minimalni standard za uporabo varstva človekovih pravic v okviru umetne inteligence, hkrati pa varuje obstoječe varstvo človekovih pravic in pogodbenicam omogoča, da zagotovijo širše varstvo s strožjimi zaščitnimi ukrepi.

4.PRORAČUNSKE POSLEDICE

Konvencija predvideva finančne prispevke držav nečlanic za dejavnosti konference pogodbenic. Medtem ko bodo vsi člani Sveta Evrope prispevali iz rednega proračuna Sveta Evrope v skladu s Statutom Sveta Evrope, bodo pogodbenice, ki niso članice, zagotovile izvenproračunske prispevke. Prispevek nečlanice Sveta Evrope skupaj določita Odbor ministrov in zadevna nečlanica.

Konvencija ne posega v nacionalne zakone in predpise pogodbenic, ki urejajo proračunske pristojnosti in postopke za proračunska sredstva. Okvirna konvencija ne opredeljuje oblike prispevkov, vključno z zneski in načini, pogodbenic, ki niso članice Sveta Evrope. Pravna podlaga za prispevek teh pogodbenic bodo okvirna konvencija in akti, ki določajo ta prispevek 25 . 

5.DRUGI ELEMENTI

•Načrti za izvedbo ter ureditev spremljanja, ocenjevanja in poročanja

Konferenca pogodbenic, ki jo sestavljajo predstavniki pogodbenic, bo spremljala učinkovito izvajanje Konvencije s strani pogodbenic in v ta namen pripravila posebna priporočila. Konferenca pogodbenic bo preučila tudi morebitne spremembe Konvencije.

Vsaka pogodbenica bo morala konferenci pogodbenic v prvih dveh letih po pridružitvi in nato v rednih časovnih presledkih predložiti poročilo, v katerem bodo podrobno opisani ukrepi, sprejeti za izvajanje Konvencije. Pogodbenice se nadalje spodbuja k sodelovanju pri izpolnjevanju ciljev Konvencije. To mednarodno sodelovanje lahko vključuje izmenjavo ustreznih informacij o umetni inteligenci in njenem potencialu, da negativno ali pozitivno vpliva na človekove pravice, demokracijo in pravno državo.

Za zagotovitev spremljanja in izvajanja Konvencije bo morala vsaka pogodbenica določiti enega ali več učinkovitih nadzornih mehanizmov na nacionalni ravni. Na ravni Unije bo Komisija zagotovila spremljanje in izvajanje Konvencije v skladu s Pogodbama.

Uvodne izjave tega predloga za sklenitev Konvencije potrjujejo, da bi moral v skladu s členom 218(9) PDEU Svet na predlog Komisije sprejeti sklepe o določitvi stališč, ki se v imenu Unije zastopajo na Konferenci pogodbenic, kadar ta organ sprejema akte s pravnim učinkom, zlasti poslovnik Konference pogodbenic. Med pogajanjem glede tega poslovnika, ki ga je treba soglasno sprejeti v 12 mesecih od začetka veljavnosti Konvencije 26 , si bo Unija prizadevala zagotoviti, da bo imela 27 glasov, kar ustreza številu njenih držav članic. Če bo Unija imela 27 glasov, si bo Komisija, ki Unijo zastopa, prizadevala zagotoviti okrepljeno usklajevanje z državami članicami, da bi na Konferenci pogodbenic zastopali enotna stališča in da bi uveljavljala svojo pravico do glasovanja v imenu Unije. Tako okrepljeno usklajevanje je zlasti pomembno, ker so vse države članice tudi članice Sveta Evrope, hkrati pa je treba upoštevati, da se umetna inteligenca razvija hitro in je zato na tem področju potreben usklajen okvir na svetovni ravni. Da bi zagotovili okrepljeno usklajevanje, bi moral biti Svet vključen v oblikovanje vseh stališč, ne glede na njihovo naravo, tudi tistih, ki temeljijo na členu 16(1) PEU in členu 218(9) PDEU. Če Uniji kljub najboljšim prizadevanjem ne bi uspelo dobiti 27 glasov, bi bilo treba zagotoviti, da dobi število glasov, ki odraža njeno pomembnost v Svetu Evrope in ji omogoča ustrezno obrambo njenih interesov, zato bo Komisija predlagala, da bi morale imeti države članice na podlagi člena 2(1) PDEU in ob polnem spoštovanju izključne pristojnosti Unije pravico, da pristopijo h Konvenciji skupaj z Unijo.

Komisija bo povabila vsako državo članico, da pošlje enega predstavnika, ki bo spremljal predstavništvo Komisije kot del delegacije Unije na zasedanjih Konference pogodbenic. Spoštovati je treba načelo lojalnega sodelovanja.

2025/0136 (NLE)

Predlog

SKLEP SVETA

o sklenitvi, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

SVET EVROPSKE UNIJE JE –

ob upoštevanju Pogodbe o delovanju Evropske unije in zlasti člena 114 Pogodbe v povezavi s členom 218(6), točka (a)(v), Pogodbe,

ob upoštevanju predloga Evropske komisije,

ob upoštevanju odobritve Evropskega parlamenta,

ob upoštevanju naslednjega:

(1)V skladu s Sklepom Sveta (EU) 2024/2218 27 je bila 5. septembra 2024 v imenu Evropske unije podpisana Okvirna konvencija Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: Konvencija) s pridržkom njene poznejše sklenitve.

(2)Konvencija določa splošna načela in obveznosti, ki bi jih morale pogodbenice Konvencije spoštovati, da bi zagotovile varstvo človekovih pravic, demokracije in pravne države v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov.

(3)Evropski parlament in Svet sta 13. junija 2024 na podlagi členov 16 in 114 Pogodbe o delovanju Evropske unije (PDEU) sprejela Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta 28 , ki vsebuje harmonizirana pravila, ki na splošno temeljijo na popolni harmonizaciji in ki urejajo dajanje na trg, dajanje v uporabo in uporabo umetnointeligenčnih sistemov v Uniji. Ta pravila se neposredno uporabljajo v državah članicah, razen če je v navedeni uredbi izrecno določeno drugače. Konvencija se v Uniji izvaja izključno z Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta in drugim ustreznim pravnim redom Unije, kadar je ustrezno.

(4)Dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, povezane z zaščito interesov nacionalne varnosti, so izključene iz področja uporabe Konvencije. Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta, ki bo glavni pravni akt Unije za izvajanje Konvencije, iz svojega področja uporabe izključuje tudi umetnointeligenčne sisteme, ki so dani na trg ali v uporabo ali se uporabljajo s spremembami ali brez njih izključno za namene nacionalne varnosti, in izhodne podatke umetnointeligenčnih sistemov, ki se v Uniji uporabljajo izključno za take namene, ne glede na vrsto subjekta, ki izvaja te dejavnosti. Poleg tega nacionalna varnost ostaja v izključni pristojnosti vsake države članice, kakor je določeno v členu 4(2) Pogodbe o Evropski uniji (PEU). Zato bi bilo treba v stališču Unije, ki se izrazi na Konferenci pogodbenic, ustanovljeni s Konvencijo, spoštovati navedene omejitve. Komisija zlasti ne bi smela razpravljati ali sprejemati stališč o dejavnostih v življenjskem ciklu umetnointeligenčnih sistemov, povezanih z zaščito interesov nacionalne varnosti, na zasedanjih Konference pogodbenic.

(5)Glede na to, da osebno in stvarno področje uporabe Konvencije ter materialne določbe Konvencije v veliki meri sovpadajo z Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta, ki jo dopolnjuje drug ustrezen pravni red Unije, lahko sklenitev Konvencije vpliva na skupna pravila Unije ali spremeni njihovo področje uporabe v smislu člena 3(2) PDEU. Taki drugi ustrezni pravni akti Unije vključujejo pravne akte, namenjene izvajanju temeljnih pravic iz Listine Evropske unije o temeljnih pravicah, kot so zakonodaja Unije o nediskriminaciji, vključno z direktivama Sveta 2000/43/ES 29 in 2000/78/ES 30 ; pravni red Unije o varstvu osebnih podatkov, vključno z uredbama (EU) 2016/679 31 in (EU) 2022/2065 32 Evropskega parlamenta in Sveta, katerih namen je zagotoviti varno, predvidljivo in zaupanja vredno spletno okolje, v katerem se spoštujejo temeljne pravice, vključno s pravico do svobode izražanja ter pravico do prejemanja in širjenja informacij; Uredbo (EU) 2024/900 Evropskega parlamenta in Sveta o političnem oglaševanju 33 ter zakonodajo o varnosti proizvodov in zakonodajo o odgovornosti za proizvode z napako, vključno z Direktivo Sveta 85/374/EGS 34 . Unija ima zato izključno zunanjo pristojnost za podpis Konvencije. Posledično bi morala izključno Unija postati pogodbenica Konvencije.

(6)Konferenca pogodbenic bo imela pomembno vlogo pri učinkovitem izvajanju Konvencije, tudi s pripravo posebnih priporočil v zvezi z njeno razlago in uporabo. Konferenca pogodbenic bo preučila tudi morebitne spremembe Konvencije. V skladu s členom 218(9) PDEU bi moral Svet na predlog Komisije sprejeti sklepe o določitvi stališč, ki se v imenu Unije zastopajo na Konferenci pogodbenic, kadar ta organ sprejema akte s pravnim učinkom, zlasti poslovnik Konference pogodbenic. Med pogajanjem glede tega poslovnika, ki ga je treba soglasno sprejeti v 12 mesecih od začetka veljavnosti Konvencije, si bo Unija prizadevala zagotoviti, da bo imela 27 glasov, kar ustreza številu njenih držav članic. Če bo Unija imela 27 glasov, bi morala Komisija, ki Unijo zastopa, zagotoviti okrepljeno usklajevanje z državami članicami, da bi na Konferenci pogodbenic zastopali enotna stališča in da bi uveljavljala svojo pravico do glasovanja v imenu Unije. Tako okrepljeno usklajevanje je zlasti pomembno, ker so vse države članice tudi članice Sveta Evrope, hkrati pa je treba upoštevati, da se umetna inteligenca razvija hitro in je zato na tem področju potreben usklajen okvir na svetovni ravni. Da bi zagotovili okrepljeno usklajevanje, bi moral biti Svet vključen v oblikovanje vseh stališč, ne glede na njihovo naravo, tudi tistih, ki temeljijo na členu 16(1) PEU in členu 218(9) PDEU. Če Uniji kljub najboljšim prizadevanjem to ne bi uspelo dobiti 27 glasov, bi bilo treba zagotoviti, da dobi število glasov, ki odraža njeno pomembnost v Svetu Evrope in ji omogoča ustrezno obrambo njenih interesov, zato bo Komisija predlagala, da bi morale imeti države članice na podlagi člena 2(1) PDEU in ob polnem spoštovanju izključne pristojnosti Unije pravico, da pristopijo h Konvenciji skupaj z Unijo.

(7)Komisija bo povabila vsako državo članico, da pošlje enega predstavnika, ki bo spremljal predstavništvo Komisije kot del delegacije Unije na zasedanjih Konference pogodbenic. Spoštovati je treba načelo lojalnega sodelovanja.

(8)Kar zadeva vse druge sporazume, ki bi lahko bili sklenjeni v prihodnosti pod okriljem Sveta Evrope ali drugih mednarodnih forumov, tudi na področju umetne inteligence, ter kar zadeva vse morebitne spremembe Konvencije, bi bilo treba razdelitev zunanjih pristojnosti med Unijo in državami članicami oceniti glede na posebne značilnosti vsakega takega instrumenta. Izredno pomembno je, da lahko Unija in njene države članice še naprej neposredno in dejavno izražajo mnenje Unije ter dosledno in usklajeno zagovarjajo njene interese v skladu s Pogodbama.

(9)Zato bi bilo treba Konvencijo odobriti v imenu Unije –

SPREJEL NASLEDNJI SKLEP:

Člen 1

Sklenitev Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: Konvencija) se odobri v imenu Unije.

Besedilo Konvencije za sklenitev je priloženo temu sklepu kot Priloga I.

Člen 2

Izjave, ki se predložijo generalnemu sekretarju Sveta Evrope in so priložene temu sklepu v Prilogi II, se odobrijo v imenu Unije.

Člen 3

Konvencija se v Uniji izvaja izključno z Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci ter drugim ustreznim pravnim redom Unije, kadar je ustrezno.

Člen 4

Ta sklep začne veljati […].

V Bruslju,

   Za Svet

   predsednik

(1)    Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci).

(2)    Akt o umetni inteligenci, uvodni izjavi 1 in 8.

(3)     Sklep o delu Odbora za umetno inteligenco na 132. seji Odbora ministrov – Nadaljnje spremljanje, CM/Inf(2022)20, DD(2022)245 .

(4)    Okvirna konvencija Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi, Vilna 5.IX.2024, CETS 225.

(5)    CM/Del/Dec(2024)133/4.

(6)    Sklep Sveta (EU) 2024/2218 z dne 28. avgusta 2024 o podpisu, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi, ST/12385/2024/INIT, UL L, 2024/2218.

(7)    Opredelitev umetnointeligenčnega sistema s strani OECD je bila posodobljena 8. novembra 2023 (C(2023)151 in C/M(2023)14, točka 218), da bi zagotovili njeno nadaljnjo tehnično ustreznost in odražanje tehnološkega razvoja, tudi v zvezi z generativno umetno inteligenco.

(8)

   Listina Evropske unije o temeljnih pravicah (UL C 326, 26.10.2012, str. 391).

(9)    Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (UL L 119, 4.5.2016, str. 1).

(10)    Uredba (EU) 2022/2065 Evropskega parlamenta in Sveta z dne 19. oktobra 2022 o enotnem trgu digitalnih storitev in spremembi Direktive 2000/31/ES (Akt o digitalnih storitvah) (UL L 277, 27.10.2022, str. 1).

(11)     Kodeks ravnanja glede dezinformacij | Oblikovanje digitalne prihodnosti Evrope .

(12)    Uredba (EU) 2024/900 Evropskega parlamenta in Sveta z dne 13. marca 2024 o preglednosti in ciljanju v političnem oglaševanju (PE/90/2023/REV/1) (UL L, 2024/900, 20.3.2024).

(13)     Zaščita demokracije – Evropska komisija (europa.eu) .

(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_sl .

(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en .

(16)    Sporočilo Komisije o obrambi demokracije (COM(2023) 630 final).

(17)    Sporočilo Komisije, Oblikovanje digitalne prihodnosti Evrope (COM(2020) 67 final).

(18)    Sporočilo Komisije, Digitalni kompas za leto 2030: evropska pot v digitalno desetletje  (COM(2021) 118 final).

(19)     Evropska deklaracija o digitalnih pravicah in načelih za digitalno desetletje (COM(2022) 28 final).

(20)    Sporočilo Komisije, Strategija EU o otrokovih pravicah (COM(2021) 142 final).

(21)    Sporočilo Komisije, Digitalno desetletje za otroke in mlade: nova evropska strategija za boljši internet za otroke (BIK+) (COM(2022) 212 final).

(22)    Glej člen 1 in uvodno izjavo 1 akta o umetni inteligenci.

(23)    Npr. zadeva C-114/12, Komisija/Svet (sorodne pravice RTV organizacij), ECLI:EU:C:2014:2151, točki 68 in 69; mnenje 1/13, Pristop tretjih držav k Haaški konvenciji, ECLI:EU:C:2014:2303, točke 71–74; zadeva C‑66/13, Green Network, ECLI:EU:C:2014:2399, točke 27–33; mnenje 3/15, Marakeška pogodba o olajšanem dostopu do objavljenih del za slepe in slabovidne osebe ter osebe z drugimi motnjami branja, ECLI:EU:C:2017:114, točke 105–108.

(24)    Kot so Splošna deklaracija človekovih pravic iz leta 1948, Konvencija o varstvu človekovih pravic in temeljnih svoboščin iz leta 1950 (ETS št. 5), Mednarodni pakt o državljanskih in političnih pravicah iz leta 1966, Mednarodni pakt o ekonomskih, socialnih in kulturnih pravicah iz leta 1966, Evropska socialna listina iz leta 1961 (ETS št. 35) ter njihovi protokoli, pa tudi Evropska socialna listina (spremenjena) iz leta 1996 (ETS št. 163), Konvencija Združenih narodov o otrokovih pravicah iz leta 1989 ter Konvencija Združenih narodov o pravicah invalidov iz leta 2006.

(25)    Glej odstavek 134 obrazložitvenega poročila k Okvirni konvenciji Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi.

(26)    V skladu s členom 30(3) Konvencije začne Konvencija „veljati prvi dan meseca po poteku treh mesecev po dnevu, ko se je pet podpisnic, vključno z najmanj tremi državami članicami Sveta Evrope, strinjalo, da jih ta konvencija zavezuje“.

(27)    Sklep Sveta (EU) 2024/2218 z dne 28. avgusta 2024 o podpisu, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi, ST/12385/2024/INIT, UL L, 2024/2218, 4.9.2024.

(28)    Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci) ( UL L, 2024/1689, 12.7.2024, ELI:  http://data.europa.eu/eli/reg/2024/1689/oj ).

(29)    Direktiva Sveta 2000/43/ES z dne 29. junija 2000 o izvajanju načela enakega obravnavanja oseb ne glede na raso ali narodnost ( UL L 180, 19.7.2000, str. 22 ).

(30)    Direktiva Sveta 2000/78/ES z dne 27. novembra 2000 o splošnih okvirih enakega obravnavanja pri zaposlovanju in delu ( UL L 303, 2.12.2000, str. 16 ).

(31)    Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) ( UL L 119, 4.5.2016, str. 1 ).

(32)    Uredba (EU) 2022/2065 Evropskega parlamenta in Sveta z dne 19. oktobra 2022 o enotnem trgu digitalnih storitev in spremembi Direktive 2000/31/ES (Akt o digitalnih storitvah) ( UL L 277, 27.10.2022, str. 1 ).

(33)    Uredba (EU) 2024/900 Evropskega parlamenta in Sveta z dne 13. marca 2024 o preglednosti in ciljanju v političnem oglaševanju ( UL L, 2024/900, 20.3.2024, ELI:  http://data.europa.eu/eli/reg/2024/900/oj ).

(34)    Direktiva (EU) 2024/2853 Evropskega parlamenta in Sveta z dne 23. oktobra 2024 o odgovornosti za proizvode z napako in razveljavitvi Direktive Sveta 85/374/EGS, PE/7/2024/REV/1, UL L, 2024/2853, 18.11.2024.

EVROPSKA KOMISIJA

Bruselj, 3.6.2025

COM(2025) 265 final

PRILOGI

k

Predlogu sklepa Sveta

o sklenitvi, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

PRILOGA I

Besedilo Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

Vilna, 5. septembra 2024

Uvod

Države članice Sveta Evrope in druge podpisnice te konvencije so se –

ob upoštevanju, da je cilj Sveta Evrope doseči večjo enotnost med svojimi članicami, zlasti na podlagi spoštovanja človekovih pravic, demokracije in pravne države;

ob priznavanju pomena spodbujanja sodelovanja med pogodbenicami te konvencije in razširitve takega sodelovanja na druge države z enakimi vrednotami;

zavedajoč se pospešenega razvoja na področju znanosti in tehnologije ter korenitih sprememb, ki jih prinašajo dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki imajo potencial za spodbujanje človekove blaginje, posameznikovega in družbenega dobrega počutja, trajnostnega razvoja, enakosti spolov ter opolnomočenja vseh žensk in deklet, pa tudi drugih pomembnih ciljev in interesov s krepitvijo napredka in inovacij;

ob priznavanju, da lahko dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov nudijo edinstvene priložnosti za varstvo in spodbujanje človekovih pravic, demokracije in pravne države;

z zaskrbljenostjo, da lahko nekatere dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov razvrednotijo človekovo dostojanstvo in avtonomijo, človekove pravice, demokracijo ter načelo pravne države;

z zaskrbljenostjo zaradi tveganj diskriminacije v digitalnih okoljih, zlasti tistih, ki vključujejo umetnointeligenčne sisteme, in njihovega morebitnega učinka ustvarjanja ali povečevanja neenakosti, vključno s tistimi, ki jih doživljajo ženske in posamezniki v ranljivem položaju v zvezi z uveljavljanjem svojih človekovih pravic ter svojim polnim, enakopravnim in učinkovitim sodelovanjem v gospodarskih, socialnih, kulturnih in političnih zadevah;

z zaskrbljenostjo zaradi zlorab umetnointeligenčnih sistemov in ob nasprotovanju uporabi takih sistemov za represivne namene, s čimer se krši mednarodno pravo o človekovih pravicah, vključno s samovoljnimi ali nezakonitimi praksami nadzora in cenzure, ki spodkopavajo zasebnost in avtonomijo posameznikov;

zavedajoč se dejstva, da so človekove pravice, demokracija in pravna država neločljivo povezani;

v prepričanju, da je treba prednostno vzpostaviti globalno uporaben pravni okvir, ki bo določal skupna splošna načela in pravila za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov ter učinkovito ohranjal skupne vrednote in izkoriščal koristi umetne inteligence za spodbujanje teh vrednot na način, ki bo spodbujal odgovorne inovacije;

ob priznavanju potrebe po spodbujanju digitalne pismenosti in znanja o zasnovi, razvoju, uporabi in razgradnji umetnointeligenčnih sistemov ter zaupanja vanje;

ob priznavanju okvirne narave te konvencije, ki se lahko dopolni z dodatnimi instrumenti za obravnavo posebnih vprašanj v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov;

ob poudarjanju, da je ta konvencija namenjena obravnavanju posebnih izzivov, ki se pojavljajo v celotnem življenjskem ciklu umetnointeligenčnih sistemov, in spodbujanju upoštevanja širših tveganj in učinkov, povezanih s temi tehnologijami, med drugim na zdravje ljudi in okolja, ter socialno-ekonomskih vidikov, kot sta zaposlovanje in delo;

ob upoštevanju ustreznih prizadevanj drugih mednarodnih in nadnacionalnih organizacij ter forumov za spodbujanje mednarodnega razumevanja in sodelovanja na področju umetne inteligence;

ob upoštevanju veljavnih mednarodnih instrumentov o človekovih pravicah, kot so Splošna deklaracija človekovih pravic iz leta 1948, Konvencija o varstvu človekovih pravic in temeljnih svoboščin iz leta 1950 (ETS št. 5), Mednarodni pakt o državljanskih in političnih pravicah iz leta 1966, Mednarodni pakt o ekonomskih, socialnih in kulturnih pravicah iz leta 1966, Evropska socialna listina iz leta 1961 (ETS št. 35) ter njihovi protokoli, pa tudi Evropska socialna listina (spremenjena) iz leta 1996 (ETS št. 163);

ob upoštevanju Konvencije Združenih narodov o otrokovih pravicah iz leta 1989 in Konvencije Združenih narodov o pravicah invalidov iz leta 2006;

ob upoštevanju pravic posameznikov do zasebnosti in varstva osebnih podatkov, kot je ustrezno in določeno na primer s Konvencijo o varstvu posameznikov glede na avtomatsko obdelavo osebnih podatkov iz leta 1981 (ETS št. 108) in njenimi protokoli;

ob potrditvi zavezanosti pogodbenic varovanju človekovih pravic, demokracije in pravne države ter spodbujanju zaupanja v umetnointeligenčne sisteme s to konvencijo –

dogovorile o naslednjem:

Poglavje I – Splošne določbe

Člen 1 – Cilj in namen

(1)Namen določb te konvencije je zagotoviti, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov v celoti skladne s človekovimi pravicami, demokracijo in pravno državo.

(2)Vsaka pogodbenica sprejme ali ohrani ustrezne zakonodajne, upravne ali druge ukrepe za uveljavitev določb te konvencije. Ti ukrepi se stopnjujejo in razlikujejo glede na resnost in verjetnost pojava škodljivih vplivov na človekove pravice, demokracijo in pravno državo v celotnem življenjskem ciklu umetnointeligenčnih sistemov. To lahko vključuje posebne ali horizontalne ukrepe, ki se uporabljajo ne glede na vrsto uporabljene tehnologije.

(3)Ta konvencija za zagotovitev učinkovitega izvajanja njenih določb s strani pogodbenic vzpostavlja mehanizem spremljanja in določa mednarodno sodelovanje.

Člen 2 – Opredelitev umetnointeligenčnih sistemov

V tej konvenciji „umetnointeligenčni sistem“ pomeni sistem, temelječ na napravah, ki za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okolja. Različni umetnointeligenčni sistemi se razlikujejo po stopnjah avtonomije in prilagodljivosti po uvedbi.

Člen 3 – Področje uporabe

(1)Področje uporabe te konvencije zajema dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki bi lahko posegale v človekove pravice, demokracijo in pravno državo, kot sledi:

(a)vsaka pogodbenica uporablja to konvencijo za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki jih izvajajo javni organi ali zasebni akterji, ki delujejo v njihovem imenu;

(b)vsaka pogodbenica obravnava tveganja in vplive, ki izhajajo iz dejavnosti zasebnih akterjev v življenjskem ciklu umetnointeligenčnih sistemov, v obsegu, ki ni zajet v pododstavku (a), na način, ki je skladen s ciljem in namenom te konvencije.

Vsaka pogodbenica v izjavi, ki jo predloži generalnemu sekretarju Sveta Evrope ob podpisu ali deponiranju svoje listine o ratifikaciji, sprejetju, odobritvi ali pristopu, navede, kako namerava izvajati to obveznost bodisi z uporabo načel in obveznosti iz poglavij II do VI te konvencije za dejavnosti zasebnih akterjev bodisi s sprejetjem drugih ustreznih ukrepov za izpolnitev obveznosti iz tega pododstavka. Pogodbenice lahko kadar koli in na enak način spremenijo svoje izjave.

Pri izvajanju obveznosti iz tega pododstavka pogodbenica ne sme odstopati od svojih mednarodnih obveznosti, sprejetih za varstvo človekovih pravic, demokracije in pravne države, ali jih omejevati.

(2)Pogodbenici ni treba uporabljati te konvencije za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki so povezane z zaščito njenih interesov nacionalne varnosti, pri čemer se razume, da se take dejavnosti izvajajo v skladu z veljavnim mednarodnim pravom, vključno z obveznostmi mednarodnega prava o človekovih pravicah, ter ob spoštovanju njenih demokratičnih institucij in postopkov.

(3)Brez poseganja v člen 13 in člen 25(2) se ta konvencija ne uporablja za raziskovalne in razvojne dejavnosti v zvezi z umetnointeligenčnimi sistemi, ki še niso na voljo za uporabo, razen če se testiranje ali podobne dejavnosti izvajajo tako, da bi lahko posegale v človekove pravice, demokracijo in pravno državo.

(4)Zadeve v zvezi z nacionalno obrambo ne spadajo na področje uporabe te konvencije.

Poglavje II – Splošne obveznosti

Člen 4 – Varstvo človekovih pravic

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov skladne z obveznostmi varstva človekovih pravic, kot so določene v veljavnem mednarodnem pravu in njenem notranjem pravu.

Člen 5 – Integriteta demokratičnih procesov in spoštovanje pravne države

(1)Vsaka pogodbenica sprejme ali ohrani ukrepe, katerih namen je zagotoviti, da se umetnointeligenčni sistemi ne uporabljajo za razvrednotenje integritete, neodvisnosti in učinkovitosti demokratičnih institucij in postopkov, vključno z načelom delitve oblasti, spoštovanjem neodvisnosti sodstva in dostopom do pravnega varstva.

(2)Vsaka pogodbenica sprejme ali ohrani ukrepe za zaščito svojih demokratičnih procesov v okviru dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, vključno s pravičnim dostopom posameznikov do javne razprave in sodelovanjem v njej ter njihovo zmožnostjo svobodnega oblikovanja mnenj.

Poglavje III – Načela, povezana z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov

Člen 6 – Splošni pristop

To poglavje določa splošna skupna načela, ki jih vsaka pogodbenica izvaja v zvezi z umetnointeligenčnimi sistemi na način, ki ustreza njenemu nacionalnemu pravnemu sistemu in drugim obveznostim iz te konvencije.

Člen 7 – Človekovo dostojanstvo in avtonomija posameznika

Vsaka pogodbenica sprejme ali ohrani ukrepe za spoštovanje človekovega dostojanstva in avtonomije posameznika v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 8 – Preglednost in nadzor

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da so vzpostavljene ustrezne zahteve glede preglednosti in nadzora, prilagojene posebnim okoliščinam in tveganjem, v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov, tudi v zvezi z opredelitvijo vsebin, ki jih ustvarijo umetnointeligenčni sistemi.

Člen 9 – Odgovornost

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev odgovornosti za škodljive vplive na človekove pravice, demokracijo in pravno državo, ki izhajajo iz dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 10 – Enakost in nediskriminacija

(1)Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov spoštujejo enakost, vključno z enakostjo spolov, in prepoved diskriminacije, kot je določeno v veljavnem mednarodnem in notranjem pravu.

(2)Vsaka pogodbenica se zavezuje sprejetju ali ohranitvi ukrepov za odpravo neenakosti, da bi dosegla poštene, pravične in enakopravne rezultate v skladu s svojimi veljavnimi domačimi in mednarodnimi obveznostmi na področju človekovih pravic, v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 11 – Varstvo zasebnosti in osebnih podatkov

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da so v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov:

(a)zaščitene pravice posameznikov do zasebnosti in njihovih osebnih podatkov, tudi z veljavnimi domačimi in mednarodnimi zakoni, standardi in okviri, ter

(b)za posameznike uvedena učinkovita jamstva in zaščitni ukrepi v skladu z veljavnimi domačimi in mednarodnimi pravnimi obveznostmi.

Člen 12 – Zanesljivost

Vsaka pogodbenica po potrebi sprejme ukrepe za spodbujanje zanesljivosti umetnointeligenčnih sistemov in zaupanja v njihove rezultate, kar bi lahko vključevalo zahteve v zvezi z ustrezno kakovostjo in varnostjo v celotnem življenjskem ciklu umetnointeligenčnih sistemov.

Člen 13 – Varne inovacije

Da bi spodbudili inovacije in hkrati preprečili negativne učinke na človekove pravice, demokracijo in pravno državo, je vsaka pogodbenica pozvana, naj po potrebi omogoči vzpostavitev nadzorovanih okolij za razvoj in testiranje umetnointeligenčnih sistemov ter eksperimentiranje z njimi pod nadzorom svojih pristojnih organov.

Poglavje IV – Pravna sredstva

Člen 14 – Pravna sredstva

(1)Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev razpoložljivosti dostopnih in učinkovitih pravnih sredstev za kršitve človekovih pravic, ki so posledica dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, kolikor je to potrebno zaradi njenih mednarodnih obveznosti in v skladu z njenim nacionalnim pravnim sistemom.

(2)V podporo odstavka 1 vsaka pogodbenica sprejme ali ohrani ukrepe, ki vključujejo:

(a)ukrepe za zagotovitev, da so ustrezne informacije o umetnointeligenčnih sistemih, ki bi lahko znatno vplivali na človekove pravice in njihovo ustrezno uporabo, dokumentirane, posredovane pooblaščenim organom za dostop do teh informacij in, kadar je to ustrezno in veljavno, dane na voljo ali sporočene prizadetim osebam;

(b)ukrepe za zagotovitev, da informacije iz pododstavka (a) zadostujejo, da lahko prizadete osebe izpodbijajo sprejete odločitve, ki v celoti ali v veliki meri temeljijo na uporabi sistema, in, kadar je to ustrezno in primerno, uporabo samega sistema, ter

(c)učinkovito možnost zadevnih oseb, da vložijo pritožbo pri pristojnih organih.

Člen 15 – Postopkovna jamstva

(1)Vsaka pogodbenica zagotovi, da so, kadar umetnointeligenčni sistem znatno vpliva na uživanje človekovih pravic, osebam, ki jih ta sistem zadeva, na voljo učinkovita procesna jamstva, zaščitni ukrepi in pravice v skladu z veljavnim mednarodnim in domačim pravom.

(2)Vsaka pogodbenica si prizadeva zagotoviti, kakor je ustrezno glede na okoliščine, da so osebe, ki so v interakciji z umetnointeligenčnimi sistemi, obveščene, da njihova interakcija poteka s takimi sistemi in ne s človekom.

Poglavje V – Ocena in zmanjševanje tveganj in škodljivih vplivov

Člen 16 – Okvir za obvladovanje tveganj in vplivov

(1)Vsaka pogodbenica ob upoštevanju načel iz poglavja III sprejme ali ohrani ukrepe za opredeljevanje, ocenjevanje, preprečevanje in zmanjševanje tveganj, ki jih predstavljajo umetnointeligenčni sistemi, pri čemer upošteva dejanske in morebitne vplive na človekove pravice, demokracijo in pravno državo.

(2)Takšni ukrepi se po potrebi stopnjujejo in razlikujejo ter:

(a)ustrezno upoštevajo kontekst in predvideno uporabo umetnointeligenčnih sistemov, zlasti v zvezi s tveganji za človekove pravice, demokracijo in pravno državo;

(b)ustrezno upoštevajo resnost in verjetnost morebitnih vplivov;

(c)po potrebi upoštevajo stališča ustreznih deležnikov, zlasti oseb, na katerih pravice bi sistemi lahko učinkovali;

(d)se ponavljajoče izvajajo v vseh dejavnostih v življenjskem ciklu umetnointeligenčnega sistema;

(e)vključujejo spremljanje tveganj in škodljivih vplivov na človekove pravice, demokracijo in pravno državo;

(f)vključujejo dokumentacijo o tveganjih, dejanskih in morebitnih vplivih ter pristopu k obvladovanju tveganja in

(g)po potrebi zahtevajo testiranje umetnointeligenčnih sistemov, preden se dajo na voljo za prvo uporabo in kadar so bistveno spremenjeni.

(3)Vsaka pogodbenica sprejme ali ohrani ukrepe, katerih namen je zagotoviti ustrezno obravnavo škodljivih vplivov umetnointeligenčnih sistemov na človekove pravice, demokracijo in pravno državo. Take negativne vplive in ukrepe za njihovo odpravo bi bilo treba dokumentirati in jih upoštevati pri ustreznih ukrepih za obvladovanje tveganja, opisanih v odstavku 2.

(4)Vsaka pogodbenica oceni potrebo po moratoriju ali prepovedi ali drugih ustreznih ukrepih v zvezi z nekaterimi uporabami umetnointeligenčnih sistemov, kadar meni, da take uporabe niso združljive s spoštovanjem človekovih pravic, delovanjem demokracije ali pravno državo.

Poglavje VI – Izvajanje Konvencije

Člen 17 – Nediskriminacija

Izvajanje določb te konvencije s strani pogodbenic je zagotovljeno brez kakršne koli diskriminacije, v skladu z njihovimi mednarodnimi obveznostmi na področju človekovih pravic.

Člen 18 – Pravice invalidov in otrok

Vsaka pogodbenica v skladu s svojim notranjim pravom in veljavnimi mednarodnimi obveznostmi ustrezno upošteva vse posebne potrebe in ranljivosti v zvezi s spoštovanjem pravic invalidov in otrok.

Člen 19 – Javno posvetovanje

Vsaka pogodbenica si prizadeva zagotoviti, da se pomembna vprašanja v zvezi z umetnointeligenčnimi sistemi po potrebi ustrezno obravnavajo v okviru javne razprave in posvetovanja z več deležniki glede na socialne, gospodarske, pravne, etične, okoljske in druge zadevne posledice.

Člen 20 – Digitalna pismenost in spretnosti

Vsaka pogodbenica spodbuja in promovira ustrezno digitalno pismenost in digitalne spretnosti za vse segmente prebivalstva, vključno s posebnimi strokovnimi spretnostmi za tiste, ki so odgovorni za opredeljevanje, ocenjevanje, preprečevanje in zmanjševanje tveganj, ki jih predstavljajo umetnointeligenčni sistemi.

Člen 21 – Zaščita obstoječih človekovih pravic

Nobena določba te konvencije se ne razlaga, kot da omejuje človekove pravice ali druge povezane zakonske pravice in obveznosti, ki jih morebiti zagotavlja ustrezna zakonodaja pogodbenice ali kateri koli drug ustrezen mednarodni sporazum, katerega pogodbenica je, kot da odstopa od njih ali kakor koli drugače posega vanje.

Člen 22 – Širše varstvo

Nobena določba te konvencije se ne razlaga, kot da omejuje ali kakor koli drugače vpliva na možnost pogodbenice, da odobri širši varstveni ukrep, kot je določen v tej konvenciji.

Poglavje VII – Mehanizem spremljanja in sodelovanje

Člen 23 – Konferenca pogodbenic

(1)Konferenco pogodbenic sestavljajo predstavniki pogodbenic te konvencije.

(2)Pogodbenice se redno posvetujejo, da bi:

a. olajšale učinkovito uporabo in izvajanje te konvencije, vključno z opredelitvijo kakršnih koli težav in učinkov kakršnih koli pridržkov, podanih na podlagi člena 34(1), ali kakršne koli izjave na podlagi te konvencije;

b. preučile možnosti dopolnitve ali spremembe te konvencije;

c. obravnavale zadeve in zagotovile posebna priporočila v zvezi z razlago in uporabo te konvencije;

d. olajšale izmenjavo informacij o pravnem, političnem ali tehnološkem razvoju, ki je pomemben za izvajanje te konvencije, vključno z doseganjem ciljev iz člena 25;

e. po potrebi olajšale prijateljsko reševanje sporov v zvezi z uporabo te konvencije ter

f. olajšale sodelovanje z ustreznimi deležniki v zvezi s pomembnimi vidiki izvajanja te konvencije, po potrebi tudi z javnimi predstavitvami.

(3)Konferenco pogodbenic skliče generalni sekretar Sveta Evrope, kadar je to potrebno, vsekakor pa, kadar večina pogodbenic ali Odbor ministrov zahteva njen sklic.

(4)Konferenca pogodbenic soglasno sprejme svoj poslovnik v dvanajstih mesecih od začetka veljavnosti te konvencije.

(5)Sekretariat Sveta Evrope pomaga pogodbenicam pri izvajanju njihovih nalog v skladu s tem členom.

(6)Konferenca pogodbenic lahko Odboru ministrov predlaga ustrezne načine za vključitev ustreznega strokovnega znanja v podporo učinkovitemu izvajanju te konvencije.

(7)Vsaka pogodbenica, ki ni članica Sveta Evrope, prispeva k financiranju dejavnosti konference pogodbenic. Prispevek nečlanice Sveta Evrope skupaj določita Odbor ministrov in zadevna nečlanica.

(8)Konferenca pogodbenic se lahko odloči, da pogodbenici, ki ni več članica Sveta Evrope v skladu s členom 8 Statuta Sveta Evrope (ETS št. 1), omeji sodelovanje pri svojem delu zaradi hujše kršitve člena 3 Statuta. Podobno se lahko ukrepi v zvezi s katero koli pogodbenico, ki ni država članica Sveta Evrope, sprejmejo s sklepom Odbora ministrov o prekinitvi odnosov s to državo iz razlogov, podobnih tistim iz člena 3 Statuta.

Člen 24 – Obveznost poročanja

(1)Vsaka pogodbenica v prvih dveh letih po tem, ko je postala pogodbenica, nato pa v rednih časovnih presledkih konferenci pogodbenic predloži poročilo s podrobnostmi o sprejetih dejavnostih za izvajanje člena 3(1), pododstavka (a) in (b).

(2)Konferenca pogodbenic določi obliko in postopek poročila v skladu s svojim poslovnikom.

Člen 25 – Mednarodno sodelovanje

(1)Pogodbenice sodelujejo pri uresničevanju namena te konvencije. Pogodbenice se nadalje spodbuja, da po potrebi pomagajo državam, ki niso pogodbenice te konvencije, da ravnajo skladno s pogoji te konvencije in postanejo njene pogodbenice.

(2)Pogodbenice si po potrebi medsebojno izmenjujejo ustrezne in koristne informacije o vidikih, povezanih z umetno inteligenco, ki bi lahko znatno pozitivno ali negativno vplivali na uživanje človekovih pravic, delovanje demokracije in spoštovanje pravne države, vključno s tveganji in vplivi, ki so se pojavili v okviru raziskav in v zvezi z zasebnim sektorjem. Pogodbenice se spodbuja, da v takšne izmenjave informacij po potrebi vključijo ustrezne deležnike in države, ki niso pogodbenice te konvencije.

(3)Pogodbenice se spodbuja h krepitvi sodelovanja, po potrebi tudi z ustreznimi deležniki, da bi preprečile in zmanjšale tveganja in škodljive vplive na človekove pravice, demokracijo in pravno državo v okviru dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 26 – Učinkoviti mehanizmi nadzora

(1)Vsaka pogodbenica vzpostavi ali določi enega ali več učinkovitih mehanizmov za nadzor skladnosti z obveznostmi iz te konvencije.

(2)Vsaka pogodbenica zagotovi, da taki mehanizmi svoje naloge opravljajo neodvisno in nepristransko ter da imajo potrebna pooblastila, strokovno znanje in vire za učinkovito izpolnjevanje svojih nalog nadzora nad izpolnjevanjem obveznosti iz te konvencije, kot so jih določile pogodbenice.

(3)Če pogodbenica zagotovi več kot en tak mehanizem, sprejme ukrepe, kadar je to izvedljivo, za olajšanje učinkovitega sodelovanja med njimi.

(4)Če pogodbenica zagotovi mehanizme, ki se razlikujejo od obstoječih struktur za človekove pravice, sprejme ukrepe, kadar je to izvedljivo, za spodbujanje učinkovitega sodelovanja med mehanizmi iz odstavka 1 in obstoječimi nacionalnimi strukturami za človekove pravice.

Poglavje VIII – Končne določbe

Člen 27 – Učinki konvencije

(1)Če sta najmanj dve pogodbenici že sklenili sporazum ali pogodbo o zadevah, ki jih obravnava ta konvencija, ali sta kako drugače vzpostavili odnose v zvezi s temi zadevami, imata prav tako pravico do uporabe navedenega sporazuma ali pogodbe ali do ustrezne ureditve teh odnosov, če to storita na način, ki ni v nasprotju s ciljem in namenom te konvencije.

(2)Pogodbenice, ki so članice Evropske unije, v medsebojnih odnosih uporabljajo pravila Evropske unije, ki urejajo zadeve s področja uporabe te konvencije, brez poseganja v cilj in namen te konvencije ter brez poseganja v njeno polno uporabo z drugimi pogodbenicami. Enako velja za druge pogodbenice, če jih taka pravila zavezujejo.

Člen 28 – Spremembe

(1)Spremembe konvencije lahko predlaga vsaka pogodbenica, Odbor ministrov Sveta Evrope ali konferenca pogodbenic.

(2)Generalni sekretar vsak predlog za spremembo sporoči pogodbenicam.

(3)Vsaka sprememba, ki jo predlaga pogodbenica ali Odbor ministrov, se pošlje konferenci pogodbenic, ki Odboru ministrov predloži svoje mnenje o predlagani spremembi.

(4)Odbor ministrov preuči predlagano spremembo in kakršnokoli mnenje, ki ga prejme s strani konference pogodbenic, na podlagi česar lahko spremembo odobri.

(5)Besedilo kakršne koli spremembe, ki jo Odbor ministrov odobri v skladu z odstavkom 4, se pošlje pogodbenicam v sprejetje.

(6)Vsaka sprememba, odobrena v skladu z odstavkom 4, začne veljati trideseti dan po tem, ko so vse pogodbenice obvestile generalnega sekretarja o njenem sprejetju.

Člen 29 – Reševanje sporov

V primeru spora med pogodbenicami glede razlage ali uporabe te konvencije si te pogodbenice prizadevajo za rešitev spora s pogajanji ali na kateri koli drug miren način po lastni izbiri, vključno prek konference pogodbenic, kot je določeno v členu 23(2), pododstavek (e).

Člen 30 – Podpis in začetek veljavnosti

(1)Konvencija je na voljo za podpis državam članicam Sveta Evrope, državam nečlanicam, ki so sodelovale pri njeni pripravi, in Evropski uniji.

(2)Konvencijo je treba ratificirati, sprejeti ali odobriti. Listine o ratifikaciji, sprejetju ali odobritvi se deponirajo pri generalnem sekretarju Sveta Evrope.

(3)Konvencija začne veljati prvi dan meseca po poteku treh mesecev po dnevu, ko se je pet podpisnic, vključno z najmanj tremi državami članicami Sveta Evrope, strinjalo, da jih ta konvencija zavezuje v skladu z odstavkom 2.

(4)Za podpisnika, ki naknadno izrazi svojo privolitev, da ga ta konvencija zavezuje, le-ta začne veljati prvi dan meseca, ki sledi poteku treh mesecev po datumu deponiranja listine o ratifikaciji, sprejetju ali odobritvi.

Člen 31 – Pristop

(1)Po začetku veljavnosti te konvencije lahko Odbor ministrov Sveta Evrope po posvetovanju s pogodbenicami te konvencije in po pridobitvi njihove soglasne odobritve povabi katero koli državo nečlanico Sveta Evrope, ki ni sodelovala pri pripravi konvencije, da pristopi k njej s sklepom, ki ga sprejme večina, kakor določa 20. člen, odstavek (d), Statuta Sveta Evrope, in s soglasno izvolitvijo predstavnikov pogodbenic, ki so upravičeni sodelovati v Odboru ministrov.

(2)Za vsako državo pristopnico začne ta konvencija veljati prvi dan meseca po poteku treh mesecev po dnevu deponiranja listine o pristopu pri generalnem sekretarju Sveta Evrope.

Člen 32 – Ozemeljska veljavnost

(1)Vsaka država ali Evropska unija lahko ob podpisu ali deponiranju listine o ratifikaciji, sprejetju, odobritvi ali pristopu določi ozemlje ali ozemlja uporabe te konvencije.

(2)Vsaka pogodbenica lahko pozneje z izjavo, naslovljeno na generalnega sekretarja Sveta Evrope, razširi veljavnost te konvencije na katero koli drugo ozemlje, določeno v izjavi. Za tako ozemlje začne ta konvencija veljati prvi dan meseca po poteku treh mesecev po dnevu, ko je generalni sekretar Sveta Evrope prejel izjavo.

(3)Vsaka izjava, predložena v skladu s prejšnjima odstavkoma, se lahko umakne za katero koli ozemlje, določeno v navedeni izjavi, na podlagi uradnega obvestila, naslovljenega na generalnega sekretarja Sveta Evrope. Umik začne veljati prvi dan meseca po poteku treh mesecev po datumu, ko je generalni sekretar prejel tako uradno obvestilo.

Člen 33 – Zvezna klavzula

(1)Zvezno urejena država si lahko pridrži pravico do sprejetja obveznosti iz te konvencije v skladu s temeljnimi načeli, ki urejajo razmerje med centralno vlado in zveznimi državami ali podobnimi teritorialnimi enotami, ki jo sestavljajo, če se ta konvencija uporablja za centralno vlado zvezno urejene države.

(2)V zvezi z določbami te konvencije, katerih izvajanje spada pod pristojnost zveznih držav ali drugih podobnih teritorialnih enot, ki sestavljajo zvezno urejeno državo in jih ustavni sistem zvezno urejene države ne zavezuje k sprejetju zakonodajnih ukrepov, zvezna vlada seznani pristojne organe takih držav o navedenih določbah ter o svojem pozitivnem mnenju in jih spodbuja, da sprejmejo ustrezne ukrepe, da bi take določbe učinkovale.

Člen 34 – Pridržki

(1)Vsaka država lahko ob podpisu ali deponiranju svoje listine o ratifikaciji, sprejetju, odobritvi ali pristopu s pisnim uradnim obvestilom, naslovljenim na generalnega sekretarja Sveta Evrope, izjavi, da uveljavlja pridržek iz člena 33(1).

(2)V zvezi s to konvencijo ni mogoč noben drug pridržek.

Člen 35 – Odpoved

(1)Vsaka pogodbenica lahko to konvencijo kadar koli odpove z uradnim obvestilom, naslovljenim na generalnega sekretarja Sveta Evrope.

(2)Taka odpoved začne veljati prvi dan meseca po poteku treh mesecev po dnevu, ko je generalni sekretar prejel uradno obvestilo.

Člen 36 – Uradno obvestilo

Generalni sekretar Sveta Evrope uradno obvesti države članice Sveta Evrope, države nečlanice, ki so sodelovale pri pripravi te konvencije, Evropsko unijo, vsakega podpisnika, vsako državo pogodbenico, vsako pogodbenico pa tudi vsako državo, ki je bila povabljena k pristopu k tej konvenciji, o:

(a)vsakem podpisu;

(b)deponiranju vsake listine o ratifikaciji, sprejetju, odobritvi ali pristopu;

(c)vsakem dnevu začetka veljavnosti te konvencije v skladu s členom 30(3) in (4) ter členom 31(2);

(d)vsaki spremembi, sprejeti v skladu s členom 28, in dnevu začetka veljavnosti te spremembe;

(e)vsaki izjavi, podani v skladu s členom 3(1), pododstavek (b);

(f)vsakem pridržku in umiku pridržka na podlagi člena 34;

(g)vsaki odpovedi v skladu s členom 35;

(h)vsakem drugem dejanju, izjavi, uradnem obvestilu ali sporočilu v zvezi s to konvencijo.

V potrditev navedenega so spodaj podpisani, ki so bili za to ustrezno pooblaščeni, podpisali to konvencijo.

Sestavljeno v Vilni, dne 5. septembra 2024, v angleškem in francoskem jeziku, pri čemer sta besedili enako verodostojni, v enem izvodu, ki se hrani v arhivu Sveta Evrope. Generalni sekretar Sveta Evrope pošlje overjene kopije vsaki državi članici Sveta Evrope, državam nečlanicam, ki so sodelovale pri pripravi te konvencije, Evropski uniji in vsaki državi, ki je povabljena k pristopu k tej konvenciji.

PRILOGA II

1.Izjava Evropske unije o področju uporabe v zvezi z zasebnimi akterji v skladu s členom 3, odstavek 1, pododstavek (b), Konvencije 

Ob upoštevanju obveznosti iz člena 3, odstavek 1, pododstavek (b), Konvencije, da je treba obravnavati tveganja in vplive, ki izhajajo iz dejavnosti zasebnih akterjev v življenjskem ciklu umetnointeligenčnih sistemov, v obsegu, ki ni zajet v pododstavku (a) navedenega člena, na način, ki je skladen s ciljem in namenom Konvencije, Unija izjavlja, da bo z Uredbo (EU) 2024/1689 Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) izvajala načela in obveznosti iz poglavij II do VI Konvencije za dejavnosti zasebnih akterjev, ki dajejo na trg, dajejo v uporabo in uporabljajo umetnointeligenčne sisteme v Evropski uniji. Za te dejavnosti se lahko uporablja tudi drug ustrezen pravni red Unije, ki prispeva k izvajanju načel in obveznosti iz Konvencije.

2.Izjava Evropske unije o ozemeljskem področju uporabe v skladu s členom 32, odstavek 1, Konvencije 

Unija v zvezi s členom 32, odstavek 1, Konvencije izjavlja, da se Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi, kar zadeva pristojnost Unije, uporablja za ozemlja, na katerih se uporabljata Pogodbi EU, v skladu s členom 52 PEU in pod pogoji, ki so med drugim določeni v členu 355 PDEU.