EVROPSKA KOMISIJA

Bruselj, 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Predlog

SKLEP SVETA

o podpisu, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

OBRAZLOŽITVENI MEMORANDUM

1.OZADJE PREDLOGA

•Razlogi za predlog in njegovi cilji

Umetna inteligenca ponuja izjemne priložnosti, vendar lahko nekatere aplikacije in uporabe povzročijo tudi škodo in tveganja za temeljne pravice posameznikov in druge javne interese.

Unija je z Uredbo (EU) 2024/[…] Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (v nadaljnjem besedilu: akt o umetni inteligenci) sprejela prvo celovito uredbo o umetni inteligenci, ki določa standard na svetovni ravni. Akt o umetni inteligenci je bil sprejet 12. junija 2024 ( 1 ) in bo začel veljati 20 dni po objavi v Uradnem listu. Akt o umetni inteligenci v celoti harmonizira pravila za dajanje na trg, dajanje v uporabo ter za uporabo umetnointeligenčnih sistemov v državah članicah ( 2 ), da bi spodbujali inovacije in uvajanje zaupanja vredne umetne inteligence ter hkrati zagotovili varovanje zdravja, varnosti in temeljnih pravic, vključno z demokracijo, pravno državo in okoljem.

Različne mednarodne organizacije, vključno s Svetom Evrope, so prav tako okrepile svoja prizadevanja za urejanje umetne inteligence, pri čemer priznavajo čezmejno naravo umetne inteligence in potrebo po mednarodnem sodelovanju za reševanje skupnih izzivov, ki jih prinašajo te tehnologije.

Odbor Sveta Evrope za umetno inteligenco ( 3 ) od junija 2022 pripravlja pravno zavezujočo okvirno konvencijo (v nadaljnjem besedilu: Konvencija), da bi obravnaval morebitna tveganja, ki jih umetna inteligenca pomeni za človekove pravice, demokracijo in pravno državo. Unija se je o Konvenciji pogajala na podlagi četrte možnosti iz člena 216(1) PDEU, v skladu s katero se lahko Unija pogaja ( 4 ) o mednarodnem sporazumu in ga sklene, kadar sporazum „lahko vpliva na skupna pravila ali spremeni njihovo področje uporabe“. Evropska komisija je Unijo zastopala pri pogajanjih o Konvenciji v skladu s členom 218(3) Pogodbe o delovanju Evropske unije (PDEU) in na podlagi Sklepa Sveta o odobritvi začetka pogajanj v imenu Evropske unije ( 5 ).

Unija je dejavno sodelovala v pogajanjih in si prizadevala zagotoviti skladnost Konvencije s pravom Unije in aktom o umetni inteligenci ter kakovost in dodano vrednost Konvencije kot prve mednarodne pogodbe o umetni inteligenci. V tem okviru je bil cilj Unije tudi mednarodni doseg Konvencije.

Po več krogih pogajanj je Odbor Sveta za umetno inteligenco na 10. plenarnem zasedanju, ki je potekalo od 11. do 14. marca 2024, odobril besedilo Konvencije. Odbor ministrov Sveta Evrope je 17. maja 2024 sprejel Konvencijo in se dogovoril, da bo ta na voljo za podpis 5. septembra 2024 v Vilni (Litva) na neformalni konferenci ministrov in ministric za pravosodje, ter pozval članice Sveta Evrope, druge tretje države, ki so sodelovale pri pripravi Konvencije, in Unijo, naj ob tej priložnosti razmislijo o njenem podpisu, pri čemer je opozoril, da lahko h Konvenciji pristopijo tudi druge države nečlanice ( 6 ).

V zvezi s tem je namen tega predloga začeti postopek podpisa Konvencije s strani Unije, da bi jo nato ratificirala s predlogom Svetu o sprejetju sklepa o pooblastitvi Unije za podpis Konvencije v skladu s členom 218(5) PDEU. Konvencija je v celoti skladna s pravom Unije na splošno in zlasti z aktom o umetni inteligenci ter bo med drugimi članicami Sveta Evrope in ključnimi mednarodnimi partnerji, ki lahko postanejo pogodbenice Konvencije, spodbujala ključne koncepte iz pristopa Unije k ureditvi umetne inteligence na svetovni ravni.

Vsebina Konvencije

Cilj Konvencije je zagotoviti, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov v celoti skladne s človekovimi pravicami, demokracijo in pravno državo.

Pogodbenice Konvencije jo bodo morale izvajati z ustreznimi zakonodajnimi, upravnimi ali drugimi ukrepi za uveljavitev njenih določb v skladu s postopnim in diferenciranim pristopom, odvisno od resnosti in verjetnosti negativnih vplivov. Konvencijo bi bilo treba v Uniji izvajati izključno z aktom o umetni inteligenci, ki v celoti harmonizira pravila za dajanje na trg, dajanje v uporabo ter za uporabo umetnointeligenčnih sistemov, in po potrebi z drugim zadevnim pravnim redom Unije. 

Področje uporabe Konvencije zajema umetnointeligenčne sisteme, ki bi lahko posegali v človekove pravice, demokracijo in pravno državo, pri čemer sledi diferenciranemu pristopu. Načela in obveznosti iz Konvencije se bodo uporabljala za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki jih izvajajo javni organi ali zasebni akterji, ki delujejo v njihovem imenu. Kar zadeva zasebni sektor, morajo pogodbenice tveganja in vplive, ki izhajajo iz dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki jih izvajajo zasebni akterji, obravnavati na način, ki je skladen s ciljem in namenom Konvencije, vendar se lahko odločijo, ali bodo uporabile obveznosti iz Konvencije ali sprejele druge ustrezne ukrepe. Pogodbenice bodo morale predložiti izjavo o svoji odločitvi v zvezi s tem ob podpisu Konvencije ali pristopu k njej. Unija bi morala ob sklenitvi Konvencije predložiti izjavo, da bo z aktom o umetni inteligenci in drugim ustreznim pravnim redom Unije izvajala načela in obveznosti iz poglavij II do VI Konvencije za dejavnosti zasebnih akterjev, ki dajejo na trg, dajejo v uporabo ter uporabljajo umetnointeligenčne sisteme v Uniji.

Dejavnosti umetne inteligence, povezane z nacionalno varnostjo, so izključene iz področja uporabe Konvencije, pri čemer se razume, da se morajo v vsakem primeru izvajati na način, ki je skladen z veljavnim mednarodnim pravom o človekovih pravicah, ter ob spoštovanju demokratičnih institucij in postopkov. Konvencija izključuje tudi raziskovalne in razvojne dejavnosti v zvezi z umetnointeligenčnimi sistemi, ki še niso na voljo za uporabo, razen če bi testiranje ali podobne dejavnosti lahko posegale v človekove pravice, demokracijo in pravno državo. V skladu s Statutom Sveta Evrope zadeve v zvezi z nacionalno obrambo ne spadajo na področje uporabe Konvencije.

Konvencija nadalje določa sklop splošnih obveznosti in temeljnih načel, vključno z varstvom človekovega dostojanstva in avtonomije posameznika ter spodbujanjem enakosti in nediskriminacije. Poleg tega zahteva spoštovanje zasebnosti, varstvo osebnih podatkov, preglednost in nadzor, da se zagotovi odgovornost. Eno od načel je namenjeno tudi varnim inovacijam in eksperimentiranju v nadzorovanih okoljih.

V posebnem poglavju o pravnih sredstvih je prav tako predviden sklop ukrepov, katerih cilj je zagotoviti razpoložljivost dostopnih in učinkovitih pravnih sredstev v primeru kršitev človekovih pravic, ki so posledica dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov. Vključuje tudi učinkovita procesna jamstva in zaščitne ukrepe za osebe, na pravice katerih je znatno vplivala uporaba umetnointeligenčnih sistemov. Poleg tega bi bilo treba posameznike obvestiti, da njihova interakcija poteka z umetnointeligenčnim sistemom in ne s človekom.

Konvencija vključuje tudi poglavje o ukrepih za ocenjevanje in zmanjšanje tveganj in škodljivih vplivov, ki jih je treba izvajati ponavljajoče, da se ugotovijo dejanski in morebitni vplivi na človekove pravice, demokracijo in pravno državo ter sprejmejo ustrezni preprečevalni ukrepi in ukrepi za zmanjšanje tveganj.

Poleg tega Konvencija določa, da bi morale pogodbenice oceniti potrebo po prepovedih ali moratorijih na nekatere uporabe umetnointeligenčnih sistemov, ki se štejejo za nezdružljive s spoštovanjem človekovih pravic, delovanjem demokracije ali pravno državo.

Konvencija zagotavlja mehanizem za nadaljnje ukrepanje v okviru konference pogodbenic, ki jo sestavljajo predstavniki pogodbenic, ki se bodo redno posvetovali, da bi olajšali učinkovito uporabo in izvajanje Konvencije. Predvideva tudi mehanizem za mednarodno sodelovanje med pogodbenicami Konvencije ter v odnosih s tretjimi državami in ustreznimi deležniki, da se doseže namen Konvencije.

Poleg tega bi morala vsaka pogodbenica na nacionalni ravni vzpostaviti ali določiti enega ali več učinkovitih mehanizmov za nadzor skladnosti z obveznostmi iz Konvencije, kot so jih določile pogodbenice.

•Skladnost z veljavnimi predpisi s področja zadevne politike

Konvencija določa splošna načela in obveznosti za varstvo človekovih pravic, demokracije in pravne države, ki so v celoti skladni in usklajeni s cilji akta o umetni inteligenci ter podrobnimi zahtevami za umetnointeligenčne sisteme in obveznostmi, naloženimi ponudnikom in uvajalcem takih sistemov.

Opredelitev umetnointeligenčnega sistema v Konvenciji je v celoti usklajena z opredelitvijo iz akta o umetni inteligenci, saj oba temeljita na opredelitvi takih sistemov v načelih za umetno inteligenco Organizacije za gospodarsko sodelovanje in razvoj ( 7 ), s čimer se zagotavlja skupno razumevanje, katere digitalne tehnologije sestavljajo umetno inteligenco.

Preglednost je še en skupni element obeh pravnih instrumentov, ki vključuje ukrepe v zvezi z identifikacijo vsebin, ustvarjenih z umetno inteligenco, in obveščanjem oseb, ki so v interakciji z umetnointeligenčnimi sistemi. Oba pravna instrumenta vključujeta tudi ustrezne določbe o ocenah tveganja in učinka ter obvladovanju tveganja, vodenju evidenc, razkritju (pooblaščenim telesom in organom ter po potrebi prizadetim osebam), sledljivosti in razložljivosti, varnih inovacijah in eksperimentiranju v nadzorovanih okoljih ter sklop ukrepov, ki omogočajo učinkovita pravna sredstva, vključno s pravico do zahtevanja informacij in dostopanja do njih, pritožbe pristojnemu organu ter postopkovnih jamstev.

Nadzorni sistem, predviden v Konvenciji, je tudi v celoti skladen s celovitim sistemom upravljanja in izvrševanja iz akta o umetni inteligenci, ki ga sestavlja izvrševanje na ravni Unije in nacionalni ravni, s postopki za dosledno izvajanje pravil Unije v vseh državah članicah. Konvencija zlasti predvideva enega ali več učinkovitih nadzornih mehanizmov na nacionalni ravni, ki morajo svoje naloge opravljati neodvisno in nepristransko ter imeti potrebna pooblastila, strokovno znanje in vire za učinkovito izpolnjevanje nalog nadzora nad izpolnjevanjem obveznosti iz Konvencije, kot so jih določile pogodbenice.

Čeprav se bo akt o umetni inteligenci uporabljal za umetnointeligenčne sisteme, ki so dani na trg, dani v uporabo ali se uporabljajo v Uniji, ima Konvencija širši geografski doseg, ki zajema članice Sveta Evrope in tretje države po svetu, ki lahko postanejo pogodbenice Konvencije. Konvencija je zato edinstvena priložnost za spodbujanje zaupanja vredne umetne inteligence zunaj Unije v prvi mednarodni pravno zavezujoči pogodbi, ki temelji na odločnem pristopu k ureditvi umetne inteligence z vidika človekovih pravic.

Konvencija in akt o umetni inteligenci sta sestavni del regulativnega pristopa k umetni inteligenci s skladnimi zavezami, ki se vzajemno krepijo na več mednarodnih ravneh, in skupnim ciljem zagotavljanja zaupanja vredne umetne inteligence.

•Skladnost z drugimi politikami Unije

Konvencija ima skupne cilje tudi z drugimi politikami in zakonodajo Unije, katerih cilj je izvajanje temeljnih pravic, zapisanih v Listini Evropske unije o temeljnih pravicah ( 8 ).

Zlasti je načelo enakosti in nediskriminacije, zapisano v Konvenciji, v celoti skladno z zakonodajo Unije o nediskriminaciji in bo spodbujalo vključevanje vidikov enakosti v zasnovo, razvoj in uporabo umetnointeligenčnih sistemov ter učinkovito izvajanje prepovedi diskriminacije, kot je določeno v veljavnem mednarodnem in domačem pravu pogodbenic.

Konvencija je poleg tega skladna s pravnim redom Unije na področju varstva podatkov, vključno s splošno uredbo o varstvu podatkov ( 9 ) v zvezi s temeljnimi pravicami do zasebnosti in varstva osebnih podatkov, z učinkovitimi jamstvi in zaščitnimi ukrepi, ki morajo biti vzpostavljeni za posameznike, v skladu z veljavnimi domačimi in mednarodnimi pravnimi obveznostmi pogodbenic.

Ukrepi, predvideni v Konvenciji, ki so namenjeni zaščiti demokratičnih procesov pogodbenic v okviru dejavnosti v življenjskem ciklu umetnointeligenčnega sistema, so v celoti skladni s cilji in podrobnimi pravili iz akta o digitalnih storitvah ( 10 ), ki ureja zagotavljanje posredniških storitev v Uniji, da bi se zagotovilo varno, predvidljivo in zaupanja vredno spletno okolje, v katerem se spoštujejo temeljne pravice, vključno s pravico do svobode izražanja ter pravico do prejemanja in širjenja informacij. Skladni so tudi z uredbo o preglednosti in ciljanju v političnem oglaševanju ( 11 ), kodeksom ravnanja glede dezinformacij ( 12 ) in politikami Unije na področju demokracije ter svobodnih, poštenih in odpornih volitev ( 13 ), vključno z akcijskim načrtom za evropsko demokracijo iz leta 2020 ( 14 ), svežnjem o volitvah in integriteti ( 15 ) ter nedavnim svežnjem za obrambo demokracije ( 16 ) iz leta 2023.

Konvencija je v skladu s splošno digitalno strategijo Unije, saj prispeva k spodbujanju tehnologije, ki deluje za ljudi, kar je eden od treh glavnih stebrov usmeritve in ciljev politike, navedenih v sporočilu Oblikovanje digitalne prihodnosti Evrope ( 17 ). Cilj slednjega je zagotoviti, da se bo umetna inteligenca razvijala na način, ki spoštuje pravice ljudi in si zasluži njihovo zaupanje, s čimer bo Evropa postala pripravljena na digitalno dobo in bodo naslednja leta postala digitalno desetletje ( 18 ).

Poleg tega Evropska deklaracija o digitalnih pravicah in načelih za digitalno desetletje ( 19 ) vsebuje več digitalnih pravic in načel, ki so usklajeni s cilji in načeli Konvencije, pri čemer oba instrumenta spodbujata odločen in na človekovih pravicah temelječ pristop k tehnologiji.

Konvencija je skladna tudi s strategijo EU o otrokovih pravicah ( 20 ) in evropsko strategijo za boljši internet za otroke (BIK+) ( 21 ), katerih cilj je zagotoviti, da so otroci na spletu zaščiteni, spoštovani in opolnomočeni pri soočanju z izzivi novih virtualnih svetov in umetne inteligence.

2.PRAVNA PODLAGA, SUBSIDIARNOST IN SORAZMERNOST

•Pravna podlaga

Predlog sklepa o odobritvi podpisa Konvencije v imenu Unije se predloži Svetu v skladu s členom 218(5) PDEU.

Materialna pravna podlaga za sklep po členu 218(5) PDEU je odvisna predvsem od cilja in vsebine sporazuma. Če se pri preizkusu akta Unije izkaže, da ima ta dva cilja ali dva sestavna dela, pri čemer je eden od njiju glavni ali prevladujoč, drugi pa stranski, mora v skladu s sodno prakso akt temeljiti na samo eni pravni podlagi, in sicer tisti, ki se zahteva za glavni ali prevladujoči cilj oziroma sestavni del.

Kar zadeva materialno pravno podlago, stvarno področje uporabe Konvencije sovpada s področjem uporabe akta o umetni inteligenci ( 22 ), tudi glede izvzetja iz področja uporabe v zvezi z raziskavami in razvojem, nacionalno varnostjo in obrambnimi dejavnostmi. Načela in obveznosti iz Konvencije sovpadajo s podrobnejšimi zahtevami za umetnointeligenčne sisteme ter posebnimi obveznostmi ponudnikov in uvajalcev takih sistemov v skladu z aktom o umetni inteligenci in drugo ustrezno zakonodajo Unije. Če Svet sprejme predlagani sklep in Unija podpiše Konvencijo, bo akt o umetni inteligenci predstavljal primarno zakonodajo Unije za prenos Konvencije v pravni red Unije s popolnoma usklajenimi pravili o dajanju na trg, dajanju v uporabo ter uporabi umetnointeligenčnih sistemov v Uniji, ki se neposredno uporabljajo v državah članicah, razen če akt o umetni inteligenci izrecno določa drugače ( 23 ).

Glede na to, da so področje uporabe in cilji Konvencije usklajeni in popolnoma skladni s področjem uporabe in cilji akta o umetni inteligenci ter da osebno in stvarno področje uporabe obeh pravnih instrumentov sovpadata, je materialna pravna podlaga za sklenitev Konvencije člen 114 PDEU, ki je primarna pravna podlaga akta o umetni inteligenci.

Narava mednarodnih sporazumov (sporazum, ki se nanaša „samo na EU“ ali „mešani“ sporazum) je odvisna od združljivosti določene vsebine s pristojnostmi Unije.

Člen 3(2) PDEU določa, da ima Unija izključno pristojnost „za sklenitev mednarodnega sporazuma, […] kolikor lahko vpliva na skupna pravila ali spremeni njihovo področje uporabe“. Mednarodni sporazum lahko vpliva na skupna pravila ali spremeni njihovo področje uporabe, kadar je področje, ki ga zajema sporazum, v veliki meri že zajeto s pravom Unije ( 24 ).

Osebno področje uporabe Konvencije je v celoti usklajeno z aktom o umetni inteligenci, saj oba pravna instrumenta načeloma zajemata javne in zasebne akterje (pri čemer je uporaba načel in obveznosti Konvencije neobvezna za zasebne akterje, ki ne delujejo v imenu javnih organov), medtem ko stvarno področje uporabe obeh pravnih instrumentov iz veljavnih pravil izključuje dejavnosti umetne inteligence, povezane z nacionalno varnostjo, obrambo in raziskovanjem.

Glede na to, da osebno in stvarno področje uporabe Konvencije sovpadata z osebnim in stvarnim področjem akta o umetni inteligenci, lahko sklenitev Konvencije vpliva na skupna pravila Unije ali spremeni njihovo področje uporabe v smislu člena 3(2) PDEU. Zato bi bilo treba šteti, da ima Unija izključno zunanjo pristojnost za sklenitev Konvencije, Konvencijo pa bi bilo treba podpisati v imenu Unije kot sporazum, ki se nanaša „samo na EU“, s pridržkom njene poznejše sklenitve.

•Sorazmernost

Konvencija določa splošni pravni okvir za umetno inteligenco, ki je prožen in pogodbenicam omogoča, da konkretno oblikujejo izvedbene okvire. Pristop, ki temelji na tveganju, zagotavlja tudi sorazmernost pravil in omogoča razlikovanje izvedbenih ukrepov na način, ki je sorazmeren s tveganji, na podoben način kot akt o umetni inteligenci.

•Izbira instrumenta

3.REZULTATI NAKNADNIH OCEN, POSVETOVANJ Z DELEŽNIKI IN OCEN UČINKA

•Naknadne ocene/preverjanja primernosti obstoječe zakonodaje

•Posvetovanja z deležniki

Evropska komisija ni izvedla posebnega posvetovanja z deležniki o tem predlogu.

Priprava Konvencije je bilo skupno prizadevanje Odbora Sveta Evrope za umetno inteligenco, ki je vključeval vseh 46 držav članic Sveta Evrope ter države opazovalke, vključno s Kanado, Japonsko, Mehiko, Svetim sedežem, Združenimi državami Amerike in Evropsko unijo. Sodelovalo je tudi več drugih držav nečlanic, med drugim Avstralija, Argentina, Kostarika, Izrael, Peru in Urugvaj.

V skladu z zavezo Sveta Evrope, da bo sodeloval z različnimi deležniki, je pri razvoju Konvencije sodelovalo tudi 68 mednarodnih predstavnikov civilne družbe, akademskih krogov, industrije in drugih mednarodnih organizacij, s čimer se je zagotovil celovit in vključujoč pristop. Razvoj Konvencije je prav tako vključeval sodelovanje z več drugimi mednarodnimi organizacijami, vključno z Organizacijo za varnost in sodelovanje v Evropi (OVSE), Organizacijo za gospodarsko sodelovanje in razvoj (OECD) ter Organizacijo Združenih narodov za izobraževanje, znanost in kulturo (UNESCO). Poleg tega so k procesu prispevali zadevni organi in odbori v okviru Sveta Evrope. Sodelovanje Unije je vodila Evropska komisija. Kot opazovalci so bili prisotni tudi predstavniki Agencije Evropske unije za temeljne pravice in Evropskega nadzornika za varstvo podatkov.

•Zbiranje in uporaba strokovnih mnenj

Pogajalska stališča Unije za Konvencijo so bila pripravljena v posvetovanju s posebnim odborom, ki ga je imenoval Svet (delovna skupina Sveta za telekomunikacije in informacijsko družbo).

•Ocena učinka

•Primernost in poenostavitev ureditve

•Temeljne pravice

Cilj Konvencije je obravnavati morebitna tveganja in škodo za človekove pravice z zagotavljanjem, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov usklajene z načeli spoštovanja človekovih pravic, demokracije in pravne države, hkrati pa priznava potencial umetne inteligence za zaščito in olajšanje uveljavljanja teh pravic v digitalnem okolju ter izboljšanje družbene in okoljske blaginje ter tehnološkega napredka.

Namen konkretnih načel in obveznosti, predvidenih v Konvenciji, je varovati in spoštovati človekove pravice, zapisane v več mednarodnih in regionalnih instrumentih ( 25 ), kot se uporabljajo za pogodbenice, vključno z Listino Unije o temeljnih pravicah in mednarodnimi instrumenti o človekovih pravicah, ki jih je sklenila Unija.

Konvencija tako določa skupni minimalni standard za uporabo varstva človekovih pravic v okviru umetne inteligence, hkrati pa varuje obstoječe varstvo človekovih pravic in pogodbenicam omogoča, da zagotovijo širše varstvo s strožjimi zaščitnimi ukrepi.

4.PRORAČUNSKE POSLEDICE

Konvencija predvideva finančne prispevke držav nečlanic za dejavnosti konference pogodbenic. Medtem ko bodo vsi člani Sveta Evrope prispevali iz rednega proračuna Sveta Evrope v skladu s Statutom Sveta Evrope, bodo pogodbenice, ki niso članice, zagotovile izvenproračunske prispevke. Prispevek nečlanice Sveta Evrope skupaj določita Odbor ministrov in zadevna nečlanica.

Konvencija ne posega v nacionalne zakone in predpise pogodbenic, ki urejajo proračunske pristojnosti in postopke za proračunska sredstva. Prav tako državam nečlanicam omogoča, da zagotovijo svoje prispevke v okviru odobrenih proračunskih omejitev, ki jih določi njihova zakonodajna veja, brez poseganja v morebitne predhodne sporazume.

5.DRUGI ELEMENTI

•Načrti za izvedbo ter ureditev spremljanja, ocenjevanja in poročanja

Konferenca pogodbenic, ki jo sestavljajo predstavniki pogodbenic, bo spremljala, ali pogodbenice učinkovito izpolnjujejo cilje Konvencije in izvajajo njene določbe.

Vsaka pogodbenica bo morala konferenci pogodbenic v prvih dveh letih po pridružitvi in nato v rednih časovnih presledkih predložiti poročilo, v katerem bodo podrobno opisani ukrepi, sprejeti za izvajanje Konvencije.

Pogodbenice se nadalje spodbuja k sodelovanju pri izpolnjevanju ciljev Konvencije. To mednarodno sodelovanje lahko vključuje izmenjavo ustreznih informacij o umetni inteligenci in njenem potencialu, da negativno ali pozitivno vpliva na človekove pravice, demokracijo in pravno državo.

Za zagotovitev učinkovitega spremljanja in izvajanja bo morala vsaka pogodbenica določiti enega ali več učinkovitih nadzornih mehanizmov na nacionalni ravni.

2024/0150 (NLE)

Predlog

SKLEP SVETA

o podpisu, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

SVET EVROPSKE UNIJE JE –

ob upoštevanju Pogodbe o delovanju Evropske unije in zlasti člena 114 v povezavi s členom 218(5) Pogodbe,

ob upoštevanju predloga Evropske komisije,

ob upoštevanju naslednjega:

(1)Svet je 21. novembra 2022 pooblastil Evropsko komisijo, da v imenu Unije začne pogajanja za konvencijo Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: Konvencija). Evropska komisija se je o Konvenciji pogajala v imenu Unije. Pogajanja so se 17. maja 2024 uspešno zaključila s parafiranjem Konvencije in njenim sprejetjem s strani Odbora ministrov Sveta Evrope ( 26 ).

(2)Konvencija določa splošna načela in obveznosti, ki bi jih morale pogodbenice konvencije spoštovati, da bi zagotovile varstvo človekovih pravic, demokracije in pravne države v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov.

(3)Unija je 12. junija 2024 sprejela Uredbo (EU) 2024/… (v nadaljnjem besedilu: akt o umetni inteligenci)( 27 ), ki temelji predvsem na členu 114 PDEU in določa popolnoma harmonizirana pravila, ki urejajo dajanje na trg, dajanje v uporabo ter uporabo umetnointeligenčnih sistemov v Uniji in ki se neposredno uporabljajo v državah članicah, razen če akt o umetni inteligenci izrecno določa drugače. Konvencija se v Uniji izvaja izključno z aktom o umetni inteligenci in drugim ustreznim pravnim redom Unije, kadar je to ustrezno.

(4)Glede na to, da osebno in stvarno področje uporabe Konvencije sovpada z aktom o umetni inteligenci in drugim zadevnim pravnim redom Unije, lahko sklenitev Konvencije vpliva na skupna pravila Unije ali spremeni njihovo področje uporabe v smislu člena 3(2) Pogodbe o delovanju Evropske unije. Iz tega sledi, da ima Unija izključno zunanjo pristojnost za podpis Konvencije, zato bi morala le Unija postati pogodbenica Konvencije, s pridržkom njene poznejše sklenitve.

(5)V skladu s Pogodbama mora Evropska komisija zagotoviti podpis Konvencije s pridržkom njene poznejše sklenitve –

SPREJEL NASLEDNJI SKLEP:

Člen 1

Podpis Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: Konvencija) se odobri v imenu Unije s pridržkom sklenitve navedene konvencije.

Besedilo Konvencije za podpis je priloženo temu sklepu.

Člen 2

Ta sklep začne veljati .

V Bruslju,

(1)     Uredba (EU) 2024/… Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci ter spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci) (UL 2024, L…) .

(2)    Akt o umetni inteligenci, uvodni izjavi 1 in 8.

(3)     Sklep o delu Odbora za umetno inteligenco na 132. seji Odbora ministrov – Nadaljnje spremljanje, CM/Inf(2022)20, DD(2022)245 .

(4)    Sodba Sodišča z dne 20. novembra 2018, združeni zadevi C-626/15 in C-659/16, Komisija/Svet (ZMO na Antarktiki), ECLI:EU:C:2018:925, točka 112.

(5)    Sklep Sveta (EU) 2022/2349 z dne 21. novembra 2022 o odobritvi začetka pogajanj v imenu Evropske unije o konvenciji Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (UL L 311, 2.12.2022, str. 138).

(6)    CM/Del/Dec(2024)133/4.

(7)    Opredelitev umetnointeligenčnega sistema s strani OECD je bila posodobljena 8. novembra 2023 (C(2023)151 in C/M(2023)14, točka 218), da bi zagotovili njeno nadaljnjo tehnično ustreznost in odražanje tehnološkega razvoja, tudi v zvezi z generativno UI.

(8)

   Listina Evropske unije o temeljnih pravicah (UL C 326, 26.10.2012, str. 391).

(9)    Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (UL L 119, 4.5.2016, str. 1).

(10)    Uredba (EU) 2022/2065 Evropskega parlamenta in Sveta z dne 19. oktobra 2022 o enotnem trgu digitalnih storitev in spremembi Direktive 2000/31/ES (Akt o digitalnih storitvah) (UL L 277, 27.10.2022, str. 1).

(11)    Uredba (EU) 2024/900 Evropskega parlamenta in Sveta z dne 13. marca 2024 o preglednosti in ciljanju v političnem oglaševanju (PE/90/2023/REV/1) (UL L, 2024/900, 20.3.2024).

(12)     https://disinfocode.eu/introduction-to-the-code/

(13)     Zaščita demokracije – Evropska komisija (europa.eu) .

(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_sl

(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en

(16)    Sporočilo Komisije o obrambi demokracije (COM(2023) 630 final).

(17)    Sporočilo Komisije, Oblikovanje digitalne prihodnosti Evrope (COM(2020) 67 final).

(18)    Sporočilo Komisije, Digitalni kompas za leto 2030: evropska pot v digitalno desetletje  (COM(2021) 118 final).

(19)     Evropska deklaracija o digitalnih pravicah in načelih za digitalno desetletje (COM(2022) 28 final).

(20)    Sporočilo Komisije, Strategija EU o otrokovih pravicah (COM(2021) 142 final).

(21)    Sporočilo Komisije, Digitalno desetletje za otroke in mlade: nova evropska strategija za boljši internet za otroke (BIK+) (COM(2022) 212 final).

(22)    Svet ga je sprejel 21. maja 2024, v Uradnem listu pa naj bi bil objavljen julija 2024.

(23)    Glej člen 1 in uvodno izjavo 1 akta o umetni inteligenci.

(24)    Npr. zadeva C-114/12, Komisija/Svet (sorodne pravice RTV organizacij), ECLI:EU:C:2014:2151, točki 68 in 69; mnenje 1/13, Pristop tretjih držav k Haaški konvenciji, ECLI:EU:C:2014:2303, točke 71–74; zadeva C-66/13, Green Network, ECLI:EU:C:2014:2399, točke 27–33; mnenje 3/15, Marakeška pogodba o olajšanem dostopu do objavljenih del za slepe in slabovidne osebe ter osebe z drugimi motnjami branja, ECLI:EU:C:2017:114, točke 105–108.

(25)    Kot so Splošna deklaracija človekovih pravic iz leta 1948, Konvencija o varstvu človekovih pravic in temeljnih svoboščin iz leta 1950 (ETS št. 5), Mednarodni pakt o državljanskih in političnih pravicah iz leta 1966, Mednarodni pakt o ekonomskih, socialnih in kulturnih pravicah iz leta 1966, Evropska socialna listina iz leta 1961 (ETS št. 35) ter njihovi protokoli, pa tudi Evropska socialna listina (spremenjena) iz leta 1996 (ETS št. 163), Konvencija Združenih narodov o otrokovih pravicah iz leta 1989 ter Konvencija Združenih narodov o pravicah invalidov iz leta 2006.

(26)    Sklep Sveta (EU) 2022/2349 z dne 21. novembra 2022 o odobritvi začetka pogajanj v imenu Evropske unije o konvenciji Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi ( UL L 311, 2.12.2022, str. 138 ).

(27)    Uredba (EU) 2024/… Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci ter spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (akt o umetni inteligenci) (UL 2024, L…).

EVROPSKA KOMISIJA

Bruselj, 26.6.2024

COM(2024) 264 final

PRILOGA

k

Predlogu SKLEPA SVETA

o podpisu, v imenu Evropske unije, Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

Besedilo Okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

Uvod

Države članice Sveta Evrope in druge podpisnice te konvencije so se –

ob upoštevanju, da je cilj Sveta Evrope doseči večjo enotnost med svojimi članicami, zlasti na podlagi spoštovanja človekovih pravic, demokracije in pravne države;

ob priznavanju pomena spodbujanja sodelovanja med pogodbenicami te konvencije in razširitve takega sodelovanja na druge države z enakimi vrednotami;

zavedajoč se pospešenega razvoja na področju znanosti in tehnologije ter korenitih sprememb, ki jih prinašajo dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki imajo potencial za spodbujanje človekove blaginje, posameznikovega in družbenega dobrega počutja, trajnostnega razvoja, enakosti spolov ter opolnomočenja vseh žensk in deklet, pa tudi drugih pomembnih ciljev in interesov s krepitvijo napredka in inovacij;

ob priznavanju, da lahko dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov nudijo edinstvene priložnosti za varstvo in spodbujanje človekovih pravic, demokracije in pravne države;

z zaskrbljenostjo, da lahko nekatere dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov razvrednotijo človekovo dostojanstvo in avtonomijo, človekove pravice, demokracijo ter načelo pravne države;

z zaskrbljenostjo zaradi tveganj diskriminacije v digitalnih okoljih, zlasti tistih, ki vključujejo umetnointeligenčne sisteme, in njihovega morebitnega učinka ustvarjanja ali povečevanja neenakosti, vključno s tistimi, ki jih doživljajo ženske in posamezniki v ranljivem položaju v zvezi z uveljavljanjem svojih človekovih pravic ter svojim polnim, enakopravnim in učinkovitim sodelovanjem v gospodarskih, socialnih, kulturnih in političnih zadevah;

z zaskrbljenostjo zaradi zlorab umetnointeligenčnih sistemov in ob nasprotovanju uporabi takih sistemov za represivne namene, s čimer se krši mednarodno pravo o človekovih pravicah, vključno s samovoljnimi ali nezakonitimi praksami nadzora in cenzure, ki spodkopavajo zasebnost in avtonomijo posameznikov;

zavedajoč se dejstva, da so človekove pravice, demokracija in pravna država neločljivo povezani;

v prepričanju, da je treba prednostno vzpostaviti globalno uporaben pravni okvir, ki bo določal skupna splošna načela in pravila za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov ter učinkovito ohranjal skupne vrednote in izkoriščal koristi umetne inteligence za spodbujanje teh vrednot na način, ki bo spodbujal odgovorne inovacije;

ob priznavanju potrebe po spodbujanju digitalne pismenosti in znanja o zasnovi, razvoju, uporabi in razgradnji umetnointeligenčnih sistemov ter zaupanja vanje;

ob priznavanju okvirne narave te konvencije, ki se lahko dopolni z dodatnimi instrumenti za obravnavo posebnih vprašanj v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov;

ob poudarjanju, da je ta konvencija namenjena obravnavanju posebnih izzivov, ki se pojavljajo v celotnem življenjskem ciklu umetnointeligenčnih sistemov, in spodbujanju upoštevanja širših tveganj in učinkov, povezanih s temi tehnologijami, med drugim na zdravje ljudi in okolja, ter socialno-ekonomskih vidikov, kot sta zaposlovanje in delo;

ob upoštevanju ustreznih prizadevanj drugih mednarodnih in nadnacionalnih organizacij ter forumov za spodbujanje mednarodnega razumevanja in sodelovanja na področju umetne inteligence;

ob upoštevanju veljavnih mednarodnih instrumentov o človekovih pravicah, kot so Splošna deklaracija človekovih pravic iz leta 1948, Konvencija o varstvu človekovih pravic in temeljnih svoboščin iz leta 1950 (ETS št. 5), Mednarodni pakt o državljanskih in političnih pravicah iz leta 1966, Mednarodni pakt o ekonomskih, socialnih in kulturnih pravicah iz leta 1966, Evropska socialna listina iz leta 1961 (ETS št. 35) ter njihovi protokoli, pa tudi Evropska socialna listina (spremenjena) iz leta 1996 (ETS št. 163);

ob upoštevanju Konvencije Združenih narodov o otrokovih pravicah iz leta 1989 in Konvencije Združenih narodov o pravicah invalidov iz leta 2006;

ob upoštevanju pravic posameznikov do zasebnosti in varstva osebnih podatkov, kot je ustrezno in določeno na primer s Konvencijo o varstvu posameznikov glede na avtomatsko obdelavo osebnih podatkov iz leta 1981 (ETS št. 108) in njenimi protokoli;

ob potrditvi zavezanosti pogodbenic varovanju človekovih pravic, demokracije in pravne države ter spodbujanju zaupanja v umetnointeligenčne sisteme s to konvencijo –

dogovorile o naslednjem:

Poglavje I – Splošne določbe

Člen 1 – Cilj in namen

(1)Namen določb te konvencije je zagotoviti, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov v celoti skladne s človekovimi pravicami, demokracijo in pravno državo.

(2)Vsaka pogodbenica sprejme ali ohrani ustrezne zakonodajne, upravne ali druge ukrepe za uveljavitev določb te konvencije. Ti ukrepi se stopnjujejo in razlikujejo glede na resnost in verjetnost pojava škodljivih vplivov na človekove pravice, demokracijo in pravno državo v celotnem življenjskem ciklu umetnointeligenčnih sistemov. To lahko vključuje posebne ali horizontalne ukrepe, ki se uporabljajo ne glede na vrsto uporabljene tehnologije.

(3)Ta konvencija za zagotovitev učinkovitega izvajanja njenih določb s strani pogodbenic vzpostavlja mehanizem spremljanja in določa mednarodno sodelovanje.

Člen 2 – Opredelitev umetnointeligenčnih sistemov

V tej konvenciji „umetnointeligenčni sistem“ pomeni sistem, temelječ na napravah, ki za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okolja. Različni umetnointeligenčni sistemi se razlikujejo po stopnjah avtonomije in prilagodljivosti po uvedbi.

Člen 3 – Področje uporabe

(1)Področje uporabe te konvencije zajema dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki bi lahko posegale v človekove pravice, demokracijo in pravno državo, kot sledi:

(a)vsaka pogodbenica uporablja to konvencijo za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki jih izvajajo javni organi ali zasebni akterji, ki delujejo v njihovem imenu;

(b)vsaka pogodbenica obravnava tveganja in vplive, ki izhajajo iz dejavnosti zasebnih akterjev v življenjskem ciklu umetnointeligenčnih sistemov, v obsegu, ki ni zajet v pododstavku (a), na način, ki je skladen s ciljem in namenom te konvencije.

Vsaka pogodbenica v izjavi, ki jo predloži generalnemu sekretarju Sveta Evrope ob podpisu ali deponiranju svoje listine o ratifikaciji, sprejetju, odobritvi ali pristopu, navede, kako namerava izvajati to obveznost bodisi z uporabo načel in obveznosti iz poglavij II do VI te konvencije za dejavnosti zasebnih akterjev bodisi s sprejetjem drugih ustreznih ukrepov za izpolnitev obveznosti iz tega pododstavka. Pogodbenice lahko kadar koli in na enak način spremenijo svoje izjave.

Pri izvajanju obveznosti iz tega pododstavka pogodbenica ne sme odstopati od svojih mednarodnih obveznosti, sprejetih za varstvo človekovih pravic, demokracije in pravne države, ali jih omejevati.

(2)Pogodbenici ni treba uporabljati te konvencije za dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki so povezane z zaščito njenih interesov nacionalne varnosti, pri čemer se razume, da se take dejavnosti izvajajo v skladu z veljavnim mednarodnim pravom, vključno z obveznostmi mednarodnega prava o človekovih pravicah, ter ob spoštovanju njenih demokratičnih institucij in postopkov.

(3)Brez poseganja v člen 13 in člen 25(2) se ta konvencija ne uporablja za raziskovalne in razvojne dejavnosti v zvezi z umetnointeligenčnimi sistemi, ki še niso na voljo za uporabo, razen če se testiranje ali podobne dejavnosti izvajajo tako, da bi lahko posegale v človekove pravice, demokracijo in pravno državo.

(4)Zadeve v zvezi z nacionalno obrambo ne spadajo na področje uporabe te konvencije.

Poglavje II – Splošne obveznosti

Člen 4 – Varstvo človekovih pravic

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da so dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov skladne z obveznostmi varstva človekovih pravic, kot so določene v veljavnem mednarodnem pravu in njenem notranjem pravu.

Člen 5 – Integriteta demokratičnih procesov in spoštovanje pravne države

(1)Vsaka pogodbenica sprejme ali ohrani ukrepe, katerih namen je zagotoviti, da se umetnointeligenčni sistemi ne uporabljajo za razvrednotenje integritete, neodvisnosti in učinkovitosti demokratičnih institucij in postopkov, vključno z načelom delitve oblasti, spoštovanjem neodvisnosti sodstva in dostopom do pravnega varstva.

(2)Vsaka pogodbenica sprejme ali ohrani ukrepe za zaščito svojih demokratičnih procesov v okviru dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, vključno s pravičnim dostopom posameznikov do javne razprave in sodelovanjem v njej ter njihovo zmožnostjo svobodnega oblikovanja mnenj.

Poglavje III – Načela, povezana z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov

Člen 6 – Splošni pristop

To poglavje določa splošna skupna načela, ki jih vsaka pogodbenica izvaja v zvezi z umetnointeligenčnimi sistemi na način, ki ustreza njenemu nacionalnemu pravnemu sistemu in drugim obveznostim iz te konvencije.

Člen 7 – Človekovo dostojanstvo in avtonomija posameznika

Vsaka pogodbenica sprejme ali ohrani ukrepe za spoštovanje človekovega dostojanstva in avtonomije posameznika v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 8 – Preglednost in nadzor

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da so vzpostavljene ustrezne zahteve glede preglednosti in nadzora, prilagojene posebnim okoliščinam in tveganjem, v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov, tudi v zvezi z opredelitvijo vsebin, ki jih ustvarijo umetnointeligenčni sistemi.

Člen 9 – Odgovornost

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev odgovornosti za škodljive vplive na človekove pravice, demokracijo in pravno državo, ki izhajajo iz dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 10 – Enakost in nediskriminacija

(1)Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov spoštujejo enakost, vključno z enakostjo spolov, in prepoved diskriminacije, kot je določeno v veljavnem mednarodnem in notranjem pravu.

(2)Vsaka pogodbenica se zavezuje sprejetju ali ohranitvi ukrepov za odpravo neenakosti, da bi dosegla poštene, pravične in enakopravne rezultate v skladu s svojimi veljavnimi domačimi in mednarodnimi obveznostmi na področju človekovih pravic, v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 11 – Varstvo zasebnosti in osebnih podatkov

Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da so v zvezi z dejavnostmi v življenjskem ciklu umetnointeligenčnih sistemov:

(a)zaščitene pravice posameznikov do zasebnosti in njihovih osebnih podatkov, tudi z veljavnimi domačimi in mednarodnimi zakoni, standardi in okviri, ter

(b)za posameznike uvedena učinkovita jamstva in zaščitni ukrepi v skladu z veljavnimi domačimi in mednarodnimi pravnimi obveznostmi.

Člen 12 – Zanesljivost

Vsaka pogodbenica po potrebi sprejme ukrepe za spodbujanje zanesljivosti umetnointeligenčnih sistemov in zaupanja v njihove rezultate, kar bi lahko vključevalo zahteve v zvezi z ustrezno kakovostjo in varnostjo v celotnem življenjskem ciklu umetnointeligenčnih sistemov.

Člen 13 – Varne inovacije

Da bi spodbudili inovacije in hkrati preprečili negativne učinke na človekove pravice, demokracijo in pravno državo, je vsaka pogodbenica pozvana, naj po potrebi omogoči vzpostavitev nadzorovanih okolij za razvoj in testiranje umetnointeligenčnih sistemov ter eksperimentiranje z njimi pod nadzorom svojih pristojnih organov.

Poglavje IV – Pravna sredstva

Člen 14 – Pravna sredstva

(1)Vsaka pogodbenica sprejme ali ohrani ukrepe za zagotovitev razpoložljivosti dostopnih in učinkovitih pravnih sredstev za kršitve človekovih pravic, ki so posledica dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, kolikor je to potrebno zaradi njenih mednarodnih obveznosti in v skladu z njenim nacionalnim pravnim sistemom.

(2)V podporo odstavka 1 vsaka pogodbenica sprejme ali ohrani ukrepe, ki vključujejo:

(a)ukrepe za zagotovitev, da so ustrezne informacije o umetnointeligenčnih sistemih, ki bi lahko znatno vplivali na človekove pravice in njihovo ustrezno uporabo, dokumentirane, posredovane pooblaščenim organom za dostop do teh informacij in, kadar je to ustrezno in veljavno, dane na voljo ali sporočene prizadetim osebam;

(b)ukrepe za zagotovitev, da informacije iz pododstavka (a) zadostujejo, da lahko prizadete osebe izpodbijajo sprejete odločitve, ki v celoti ali v veliki meri temeljijo na uporabi sistema, in, kadar je to ustrezno in primerno, uporabo samega sistema, ter

(c)učinkovito možnost zadevnih oseb, da vložijo pritožbo pri pristojnih organih.

Člen 15 – Postopkovna jamstva

(1)Vsaka pogodbenica zagotovi, da so, kadar umetnointeligenčni sistem znatno vpliva na uživanje človekovih pravic, osebam, ki jih ta sistem zadeva, na voljo učinkovita procesna jamstva, zaščitni ukrepi in pravice v skladu z veljavnim mednarodnim in domačim pravom.

(2)Vsaka pogodbenica si prizadeva zagotoviti, kakor je ustrezno glede na okoliščine, da so osebe, ki so v interakciji z umetnointeligenčnimi sistemi, obveščene, da njihova interakcija poteka s takimi sistemi in ne s človekom.

Poglavje V – Ocena in zmanjševanje tveganj in škodljivih vplivov

Člen 16 – Okvir za obvladovanje tveganj in vplivov

(1)Vsaka pogodbenica ob upoštevanju načel iz poglavja III sprejme ali ohrani ukrepe za opredeljevanje, ocenjevanje, preprečevanje in zmanjševanje tveganj, ki jih predstavljajo umetnointeligenčni sistemi, pri čemer upošteva dejanske in morebitne vplive na človekove pravice, demokracijo in pravno državo.

(2)Takšni ukrepi se po potrebi stopnjujejo in razlikujejo ter:

(a)ustrezno upoštevajo kontekst in predvideno uporabo umetnointeligenčnih sistemov, zlasti v zvezi s tveganji za človekove pravice, demokracijo in pravno državo;

(b)ustrezno upoštevajo resnost in verjetnost morebitnih vplivov;

(c)po potrebi upoštevajo stališča ustreznih deležnikov, zlasti oseb, na katerih pravice bi sistemi lahko učinkovali;

(d)se ponavljajoče izvajajo v vseh dejavnostih v življenjskem ciklu umetnointeligenčnega sistema;

(e)vključujejo spremljanje tveganj in škodljivih vplivov na človekove pravice, demokracijo in pravno državo;

(f)vključujejo dokumentacijo o tveganjih, dejanskih in morebitnih vplivih ter pristopu k obvladovanju tveganja in

(g)po potrebi zahtevajo testiranje umetnointeligenčnih sistemov, preden se dajo na voljo za prvo uporabo in kadar so bistveno spremenjeni.

(3)Vsaka pogodbenica sprejme ali ohrani ukrepe, katerih namen je zagotoviti ustrezno obravnavo škodljivih vplivov umetnointeligenčnih sistemov na človekove pravice, demokracijo in pravno državo. Take negativne vplive in ukrepe za njihovo odpravo bi bilo treba dokumentirati in jih upoštevati pri ustreznih ukrepih za obvladovanje tveganja, opisanih v odstavku 2.

(4)Vsaka pogodbenica oceni potrebo po moratoriju ali prepovedi ali drugih ustreznih ukrepih v zvezi z nekaterimi uporabami umetnointeligenčnih sistemov, kadar meni, da take uporabe niso združljive s spoštovanjem človekovih pravic, delovanjem demokracije ali pravno državo.

Poglavje VI – Izvajanje Konvencije

Člen 17 – Nediskriminacija

Izvajanje določb te konvencije s strani pogodbenic je zagotovljeno brez kakršne koli diskriminacije, v skladu z njihovimi mednarodnimi obveznostmi na področju človekovih pravic.

Člen 18 – Pravice invalidov in otrok

Vsaka pogodbenica v skladu s svojim notranjim pravom in veljavnimi mednarodnimi obveznostmi ustrezno upošteva vse posebne potrebe in ranljivosti v zvezi s spoštovanjem pravic invalidov in otrok.

Člen 19 – Javno posvetovanje

Vsaka pogodbenica si prizadeva zagotoviti, da se pomembna vprašanja v zvezi z umetnointeligenčnimi sistemi po potrebi ustrezno obravnavajo v okviru javne razprave in posvetovanja z več deležniki glede na socialne, gospodarske, pravne, etične, okoljske in druge zadevne posledice.

Člen 20 – Digitalna pismenost in spretnosti

Vsaka pogodbenica spodbuja in promovira ustrezno digitalno pismenost in digitalne spretnosti za vse segmente prebivalstva, vključno s posebnimi strokovnimi spretnostmi za tiste, ki so odgovorni za opredeljevanje, ocenjevanje, preprečevanje in zmanjševanje tveganj, ki jih predstavljajo umetnointeligenčni sistemi.

Člen 21 – Zaščita obstoječih človekovih pravic

Nobena določba te konvencije se ne razlaga, kot da omejuje človekove pravice ali druge povezane zakonske pravice in obveznosti, ki jih morebiti zagotavlja ustrezna zakonodaja pogodbenice ali kateri koli drug ustrezen mednarodni sporazum, katerega pogodbenica je, kot da odstopa od njih ali kakor koli drugače posega vanje.

Člen 22 – Širše varstvo

Nobena določba te konvencije se ne razlaga, kot da omejuje ali kakor koli drugače vpliva na možnost pogodbenice, da odobri širši varstveni ukrep, kot je določen v tej konvenciji.

Poglavje VII – Mehanizem spremljanja in sodelovanje

Člen 23 – Konferenca pogodbenic

(1)Konferenco pogodbenic sestavljajo predstavniki pogodbenic te konvencije.

(2)Pogodbenice se redno posvetujejo, da bi:

a. olajšale učinkovito uporabo in izvajanje te konvencije, vključno z opredelitvijo kakršnih koli težav in učinkov kakršnih koli pridržkov, podanih na podlagi člena 34(1), ali kakršne koli izjave na podlagi te konvencije;

b. preučile možnosti dopolnitve ali spremembe te konvencije;

c. obravnavale zadeve in zagotovile posebna priporočila v zvezi z razlago in uporabo te konvencije;

d. olajšale izmenjavo informacij o pravnem, političnem ali tehnološkem razvoju, ki je pomemben za izvajanje te konvencije, vključno z doseganjem ciljev iz člena 25;

e. po potrebi olajšale prijateljsko reševanje sporov v zvezi z uporabo te konvencije ter

f. olajšale sodelovanje z ustreznimi deležniki v zvezi s pomembnimi vidiki izvajanja te konvencije, po potrebi tudi z javnimi predstavitvami.

(3)Konferenco pogodbenic skliče generalni sekretar Sveta Evrope, kadar je to potrebno, vsekakor pa, kadar večina pogodbenic ali Odbor ministrov zahteva njen sklic.

(4)Konferenca pogodbenic soglasno sprejme svoj poslovnik v dvanajstih mesecih od začetka veljavnosti te konvencije.

(5)Sekretariat Sveta Evrope pomaga pogodbenicam pri izvajanju njihovih nalog v skladu s tem členom.

(6)Konferenca pogodbenic lahko Odboru ministrov predlaga ustrezne načine za vključitev ustreznega strokovnega znanja v podporo učinkovitemu izvajanju te konvencije.

(7)Vsaka pogodbenica, ki ni članica Sveta Evrope, prispeva k financiranju dejavnosti konference pogodbenic. Prispevek nečlanice Sveta Evrope skupaj določita Odbor ministrov in zadevna nečlanica.

(8)Konferenca pogodbenic se lahko odloči, da pogodbenici, ki ni več članica Sveta Evrope v skladu s členom 8 Statuta Sveta Evrope (ETS št. 1), omeji sodelovanje pri svojem delu zaradi hujše kršitve člena 3 Statuta. Podobno se lahko ukrepi v zvezi s katero koli pogodbenico, ki ni država članica Sveta Evrope, sprejmejo s sklepom Odbora ministrov o prekinitvi odnosov s to državo iz razlogov, podobnih tistim iz člena 3 Statuta.

Člen 24 – Obveznost poročanja

(1)Vsaka pogodbenica v prvih dveh letih po tem, ko je postala pogodbenica, nato pa v rednih časovnih presledkih konferenci pogodbenic predloži poročilo s podrobnostmi o sprejetih dejavnostih za izvajanje člena 3(1), pododstavka (a) in (b).

(2)Konferenca pogodbenic določi obliko in postopek poročila v skladu s svojim poslovnikom.

Člen 25 – Mednarodno sodelovanje

(1)Pogodbenice sodelujejo pri uresničevanju namena te konvencije. Pogodbenice se nadalje spodbuja, da po potrebi pomagajo državam, ki niso pogodbenice te konvencije, da ravnajo skladno s pogoji te konvencije in postanejo njene pogodbenice.

(2)Pogodbenice si po potrebi medsebojno izmenjujejo ustrezne in koristne informacije o vidikih, povezanih z umetno inteligenco, ki bi lahko znatno pozitivno ali negativno vplivali na uživanje človekovih pravic, delovanje demokracije in spoštovanje pravne države, vključno s tveganji in vplivi, ki so se pojavili v okviru raziskav in v zvezi z zasebnim sektorjem. Pogodbenice se spodbuja, da v takšne izmenjave informacij po potrebi vključijo ustrezne deležnike in države, ki niso pogodbenice te konvencije.

(3)Pogodbenice se spodbuja h krepitvi sodelovanja, po potrebi tudi z ustreznimi deležniki, da bi preprečile in zmanjšale tveganja in škodljive vplive na človekove pravice, demokracijo in pravno državo v okviru dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov.

Člen 26 – Učinkoviti mehanizmi nadzora

(1)Vsaka pogodbenica vzpostavi ali določi enega ali več učinkovitih mehanizmov za nadzor skladnosti z obveznostmi iz te konvencije.

(2)Vsaka pogodbenica zagotovi, da taki mehanizmi svoje naloge opravljajo neodvisno in nepristransko ter da imajo potrebna pooblastila, strokovno znanje in vire za učinkovito izpolnjevanje svojih nalog nadzora nad izpolnjevanjem obveznosti iz te konvencije, kot so jih določile pogodbenice.

(3)Če pogodbenica zagotovi več kot en tak mehanizem, sprejme ukrepe, kadar je to izvedljivo, za olajšanje učinkovitega sodelovanja med njimi.

(4)Če pogodbenica zagotovi mehanizme, ki se razlikujejo od obstoječih struktur za človekove pravice, sprejme ukrepe, kadar je to izvedljivo, za spodbujanje učinkovitega sodelovanja med mehanizmi iz odstavka 1 in obstoječimi nacionalnimi strukturami za človekove pravice.

Poglavje VIII – Končne določbe

Člen 27 – Učinki konvencije

(1)Če sta najmanj dve pogodbenici že sklenili sporazum ali pogodbo o zadevah, ki jih obravnava ta konvencija, ali sta kako drugače vzpostavili odnose v zvezi s temi zadevami, imata prav tako pravico do uporabe navedenega sporazuma ali pogodbe ali do ustrezne ureditve teh odnosov, če to storita na način, ki ni v nasprotju s ciljem in namenom te konvencije.

(2)Pogodbenice, ki so članice Evropske unije, v medsebojnih odnosih uporabljajo pravila Evropske unije, ki urejajo zadeve s področja uporabe te konvencije, brez poseganja v cilj in namen te konvencije ter brez poseganja v njeno polno uporabo z drugimi pogodbenicami. Enako velja za druge pogodbenice, če jih taka pravila zavezujejo.

Člen 28 – Spremembe

(1)Spremembe konvencije lahko predlaga vsaka pogodbenica, Odbor ministrov Sveta Evrope ali konferenca pogodbenic.

(2)Generalni sekretar vsak predlog za spremembo sporoči pogodbenicam.

(3)Vsaka sprememba, ki jo predlaga pogodbenica ali Odbor ministrov, se pošlje konferenci pogodbenic, ki Odboru ministrov predloži svoje mnenje o predlagani spremembi.

(4)Odbor ministrov preuči predlagano spremembo in kakršnokoli mnenje, ki ga prejme s strani konference pogodbenic, na podlagi česar lahko spremembo odobri.

(5)Besedilo kakršne koli spremembe, ki jo Odbor ministrov odobri v skladu z odstavkom 4, se pošlje pogodbenicam v sprejetje.

(6)Vsaka sprememba, odobrena v skladu z odstavkom 4, začne veljati trideseti dan po tem, ko so vse pogodbenice obvestile generalnega sekretarja o njenem sprejetju.

Člen 29 – Reševanje sporov

V primeru spora med pogodbenicami glede razlage ali uporabe te konvencije si te pogodbenice prizadevajo za rešitev spora s pogajanji ali na kateri koli drug miren način po lastni izbiri, vključno prek konference pogodbenic, kot je določeno v členu 23(2), pododstavek (e).

Člen 30 – Podpis in začetek veljavnosti

(1)Konvencija je na voljo za podpis državam članicam Sveta Evrope, državam nečlanicam, ki so sodelovale pri njeni pripravi, in Evropski uniji.

(2)Konvencijo je treba ratificirati, sprejeti ali odobriti. Listine o ratifikaciji, sprejetju ali odobritvi se deponirajo pri generalnem sekretarju Sveta Evrope.

(3)Konvencija začne veljati prvi dan meseca po poteku treh mesecev po dnevu, ko se je pet podpisnic, vključno z najmanj tremi državami članicami Sveta Evrope, strinjalo, da jih ta konvencija zavezuje v skladu z odstavkom 2.

(4)Za podpisnika, ki naknadno izrazi svojo privolitev, da ga ta konvencija zavezuje, le-ta začne veljati prvi dan meseca, ki sledi poteku treh mesecev po datumu deponiranja listine o ratifikaciji, sprejetju ali odobritvi.

Člen 31 – Pristop

(1)Po začetku veljavnosti te konvencije lahko Odbor ministrov Sveta Evrope po posvetovanju s pogodbenicami te konvencije in po pridobitvi njihove soglasne odobritve povabi katero koli državo nečlanico Sveta Evrope, ki ni sodelovala pri pripravi konvencije, da pristopi k njej s sklepom, ki ga sprejme večina, kakor določa 20. člen, odstavek (d), Statuta Sveta Evrope, in s soglasno izvolitvijo predstavnikov pogodbenic, ki so upravičeni sodelovati v Odboru ministrov.

(2)Za vsako državo pristopnico začne ta konvencija veljati prvi dan meseca po poteku treh mesecev po dnevu deponiranja listine o pristopu pri generalnem sekretarju Sveta Evrope.

Člen 32 – Ozemeljska veljavnost

(1)Vsaka država ali Evropska unija lahko ob podpisu ali deponiranju listine o ratifikaciji, sprejetju, odobritvi ali pristopu določi ozemlje ali ozemlja uporabe te konvencije.

(2)Vsaka pogodbenica lahko pozneje z izjavo, naslovljeno na generalnega sekretarja Sveta Evrope, razširi veljavnost te konvencije na katero koli drugo ozemlje, določeno v izjavi. Za tako ozemlje začne ta konvencija veljati prvi dan meseca po poteku treh mesecev po dnevu, ko je generalni sekretar Sveta Evrope prejel izjavo.

(3)Vsaka izjava, predložena v skladu s prejšnjima odstavkoma, se lahko umakne za katero koli ozemlje, določeno v navedeni izjavi, na podlagi uradnega obvestila, naslovljenega na generalnega sekretarja Sveta Evrope. Umik začne veljati prvi dan meseca po poteku treh mesecev po datumu, ko je generalni sekretar prejel tako uradno obvestilo.

Člen 33 – Zvezna klavzula

(1)Zvezno urejena država si lahko pridrži pravico do sprejetja obveznosti iz te konvencije v skladu s temeljnimi načeli, ki urejajo razmerje med centralno vlado in zveznimi državami ali podobnimi teritorialnimi enotami, ki jo sestavljajo, če se ta konvencija uporablja za centralno vlado zvezno urejene države.

(2)V zvezi z določbami te konvencije, katerih izvajanje spada pod pristojnost zveznih držav ali drugih podobnih teritorialnih enot, ki sestavljajo zvezno urejeno državo in jih ustavni sistem zvezno urejene države ne zavezuje k sprejetju zakonodajnih ukrepov, zvezna vlada seznani pristojne organe takih držav o navedenih določbah ter o svojem pozitivnem mnenju in jih spodbuja, da sprejmejo ustrezne ukrepe, da bi take določbe učinkovale.

Člen 34 – Pridržki

(1)Vsaka država lahko ob podpisu ali deponiranju svoje listine o ratifikaciji, sprejetju, odobritvi ali pristopu s pisnim uradnim obvestilom, naslovljenim na generalnega sekretarja Sveta Evrope, izjavi, da uveljavlja pridržek iz člena 33(1).

(2)V zvezi s to konvencijo ni mogoč noben drug pridržek.

Člen 35 – Odpoved

(1)Vsaka pogodbenica lahko to konvencijo kadar koli odpove z uradnim obvestilom, naslovljenim na generalnega sekretarja Sveta Evrope.

(2)Taka odpoved začne veljati prvi dan meseca po poteku treh mesecev po dnevu, ko je generalni sekretar prejel uradno obvestilo.

Člen 36 – Uradno obvestilo

Generalni sekretar Sveta Evrope uradno obvesti države članice Sveta Evrope, države nečlanice, ki so sodelovale pri pripravi te konvencije, Evropsko unijo, vsakega podpisnika, vsako državo pogodbenico, vsako pogodbenico pa tudi vsako državo, ki je bila povabljena k pristopu k tej konvenciji, o:

(a)vsakem podpisu;

(b)deponiranju vsake listine o ratifikaciji, sprejetju, odobritvi ali pristopu;

(c)vsakem dnevu začetka veljavnosti te konvencije v skladu s členom 30(3) in (4) ter členom 31(2);

(d)vsaki spremembi, sprejeti v skladu s členom 28, in dnevu začetka veljavnosti te spremembe;

(e)vsaki izjavi, podani v skladu s členom 3(1), pododstavek (b);

(f)vsakem pridržku in umiku pridržka na podlagi člena 34;

(g)vsaki odpovedi v skladu s členom 35;

(h)vsakem drugem dejanju, izjavi, uradnem obvestilu ali sporočilu v zvezi s to konvencijo.

V potrditev navedenega so spodaj podpisani, ki so bili za to ustrezno pooblaščeni, podpisali to konvencijo.

Sestavljeno v [kraj], dne …. [mesec] 202[4], v angleškem in francoskem jeziku, pri čemer sta besedili enako verodostojni, v enem izvodu, ki se shrani v arhivih Sveta Evrope. Generalni sekretar Sveta Evrope pošlje overjene kopije vsaki državi članici Sveta Evrope, državam nečlanicam, ki so sodelovale pri pripravi te konvencije, Evropski uniji in vsaki državi, ki je povabljena k pristopu k tej konvenciji.