EUROPSKA KOMISIJA
Bruxelles, 26.6.2024.
COM(2024) 264 final
2024/0150(NLE)
Prijedlog
ODLUKE VIJEĆA
o potpisivanju u ime Europske unije Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
EUROPSKA KOMISIJA
Bruxelles, 26.6.2024.
COM(2024) 264 final
2024/0150(NLE)
Prijedlog
ODLUKE VIJEĆA
o potpisivanju u ime Europske unije Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
OBRAZLOŽENJE
1.KONTEKST PRIJEDLOGA
•Razlozi i ciljevi prijedloga
Umjetna inteligencija (UI) otvara sjajne prilike, ali neke njezine primjene mogu biti štetne i ugroziti temeljna prava pojedinaca i druge javne interese.
Donošenjem Uredbe (EU) 2024/[....] Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o UI-ju) Unija je donijela prvu sveobuhvatnu regulativu u području umjetne inteligencije i postavila globalne standarde. Akt o UI-ju donesen je 12. lipnja 2024. ( 1 ) sa stupanjem na snagu 20 dana od objave u Službenom listu. U njemu su potpuno usklađena pravila za stavljanje na tržište, stavljanje u uporabu i korištenje sustava umjetne inteligencije u državama članicama ( 2 ) s ciljem promicanja inovacija i uvođenja pouzdane umjetne inteligencije uz zaštitu zdravlja, sigurnosti i temeljnih prava, među kojima su demokracija, vladavina prava i okoliš.
Razne međunarodne organizacije, uključujući Vijeće Europe, također su intenzivirale rad na reguliranju umjetne inteligencije, svjesne njezine prekogranične prirode i potrebe za međunarodnom suradnjom u pronalaženju rješenja za zajedničke probleme koji nastaju zbog tih tehnologija.
Odbor za umjetnu inteligenciju Vijeća Europe ( 3 ), koji je počeo s radom u lipnju 2022., razradio je pravno obvezujuću Okvirnu konvenciju (dalje u tekstu „Konvencija”) u kojoj su obuhvaćeni potencijalni rizici koje UI predstavlja za ljudska prava, demokraciju i vladavinu prava. Unija je dogovorila Konvenciju u skladu s četvrtom mogućnosti iz članka 216. stavka 1. UFEU-a, na temelju čega Unija može dogovoriti 4 i sklopiti međunarodni sporazum ako „... bi [to] moglo utjecati na zajednička pravila ili promijeniti njihovo područje primjene”. U pregovorima o Konvenciji Europska komisija zastupala je Uniju u skladu s člankom 218. stavkom 3. Ugovora o funkcioniranju Europske unije („UFEU”) i na temelju Odluke Vijeća o odobravanju otvaranja pregovora u ime Europske unije ( 5 ).
Unija je aktivno sudjelovala u pregovorima i radila na kompatibilnosti Konvencije i prava Unije, njezinoj dosljednosti s Aktom o UI-ju i kvaliteti i dodanoj vrijednosti Konvencije kao prvog međunarodnog sporazuma o UI-ju. U tom je kontekstu jedan od ciljeva Unije bio i međunarodni doseg.
Nakon više krugova pregovora Odbor za umjetnu inteligenciju odobrio je tekst Konvencije na svojem 10. plenarnom zasjedanju, koje se održalo od 11. do 14. ožujka 2024. Odbor ministara Vijeća Europe prihvatio je Konvenciju 17. svibnja 2024. i složio se da je otvori za potpisivanje 5. rujna 2024. u Vilniusu, povodom neslužbene konferencije ministara pravosuđa. Pozvao je članice Vijeća Europe, treće zemlje koje su sudjelovale u sastavljanju Konvencije i Uniju da razmotre mogućnost njezina potpisivanja na tom sastanku i podsjetio da Konvenciji mogu pristupiti i zemlje koje nisu članice EU-a ( 6 ).
Imajući to u vidu, svrha ovog prijedloga je pokretanje postupka kojim će Unija potpisati Konvenciju s namjerom da je potom ratificira. U prijedlogu se predlaže Vijeću da donese odluku kojom ovlašćuje Uniju da potpiše Konvenciju u skladu s člankom 218. stavkom 5. UFEU-a. Konvencija je općenito potpuno usklađena s pravom Unije, a posebno s Aktom o umjetnoj inteligenciji. U njoj se bitni koncepti koji proizlaze iz Unijina pristupa regulaciji umjetne inteligencije na globalnoj razini promiču među članovima Vijeća Europe i najvažnijim međunarodnim partnerima koji mogu postati stranke Konvencije.
Sadržaj Konvencije
Cilj Konvencije je zajamčiti da su aktivnosti u životnom vijeku sustava umjetne inteligencije potpuno kompatibilne s ljudskim pravima, demokracijom i vladavinom prava.
Stranke Konvencije trebat će je provoditi donošenjem odgovarajućih pravnih, administrativnih i drugih mjera kako bi se njezine odredbe primijenile u praksi, pri čemu pristup mora biti postupan i diferenciran, ovisno o težini i vjerojatnosti negativnih posljedica. U Uniji bi se Konvencija trebala provoditi isključivo Aktom o UI-ju, koji sadržava potpuno usklađena pravila za stavljanje na tržište, stavljanje u uporabu i korištenje sustava umjetne inteligencije, i, ovisno o slučaju, drugom relevantnom pravnom stečevinom Unije.
Područje primjene Konvencije obuhvaća sustave umjetne inteligencije koji potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava, pri čemu se primjenjuje diferencirani pristup. Načela i obveze iz Konvencije primjenjuju se na aktivnosti javnih tijela i privatnih subjekata koji rade u njihovo ime u životnom vijeku sustava umjetne inteligencije. Kad je riječ o privatnom sektoru, stranke su dužne uzeti u obzir rizike i posljedice koji proizlaze iz aktivnosti privatnih subjekata u životnom vijeku sustava umjetne inteligencije na način koji je u skladu s ciljem i svrhom Konvencije, ali mogu odabrati hoće li primjenjivati obveze iz Konvencije ili poduzeti druge odgovarajuće mjere. Prilikom potpisivanja ili pristupanja Konvenciji stranke su dužne dati izjavu o tom odabiru. Unija bi nakon pristupanja Konvenciji trebala dati izjavu da će kroz Akt o UI-ju i drugu relevantnu pravnu stečevinu Unije primjenjivati načela i ispunjavati obveze iz poglavlja od II. do VI. Konvencije na aktivnosti privatnih subjekata koji u Uniji stavljaju na tržište, stavljaju u uporabu i koriste sustave umjetne inteligencije.
Aktivnosti umjetne inteligencije koje se odnose na nacionalnu sigurnost isključene su iz područja primjene Konvencije, ali podrazumijeva se da se u svakom slučaju obavljaju u skladu s primjenjivim međunarodnim pravom o ljudskim pravima i uz poštovanje demokratskih institucija i procesa. Iz njezina područja primjene isključene su i aktivnosti istraživanja i razvoja koje se odnose na UI sustave koji još nisu dostupni za korištenje, osim ako njihovo testiranje i slične aktivnosti potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava. Prema Statutu Vijeća Europe pitanja koja se odnose na nacionalnu obranu ne spadaju u područje primjene Konvencije.
U Konvenciji su navedene opće obveze i temeljna načela, među ostalim zaštita ljudskog dostojanstva i osobne autonomije i promoviranje ravnopravnosti i nediskriminacije. Uz to se traži poštovanje privatnosti i zaštite osobnih podataka te transparentnost i nadzor kako bi se zajamčilo preuzimanje odgovornosti. Jedno od načela je sigurno inoviranje i eksperimentiranje u kontroliranim okruženjima.
U poglavlju o pravnim lijekovima opisan je skup mjera čiji je cilj dostupnost pristupačnih i djelotvornih pravnih lijekova za povrede ljudskih prava nastale zbog aktivnosti u životnom ciklusu sustava umjetne inteligencije. Definirana su djelotvorna proceduralna jamstva i zaštitne mjere za osobe na čija prava znatno utječe korištenje sustava umjetne inteligencije. Fizičke osobe ujedno bi trebale biti obaviještene o tome da su u interakciji sa sustavom umjetne inteligencije, a ne s ljudskim bićem.
Jedno poglavlje Konvencije sadržava mjere za procjenjivanje i ublažavanje rizika i negativnih posljedica koje se trebaju provoditi iterativno s ciljem utvrđivanja stvarnih i potencijalnih utjecaja na ljudska prava, demokraciju i vladavinu prava i poduzimanja primjerenih mjera prevencije i ublažavanja.
U Konvenciji se navodi i da bi stranke trebale procjenjivati treba li uvesti zabranu ili moratorij za neke primjene sustava umjetne inteligencije koje se smatraju nespojivima s poštovanjem ljudskih prava, funkcioniranjem demokracije ili vladavinom prava.
U Konvenciji je utvrđen mehanizam za praćenje u okviru Konferencije stranaka, čiji su članovi zastupnici stranaka koji će se redovito konzultirati kako bi olakšali djelotvornu primjenu i provedbu Konvencije. Predviđen je i mehanizam za međunarodnu suradnju među strankama Konvencije i u odnosima s trećim zemljama i relevantnim dionicima kako bi se postigla svrha Konvencije.
Svaka stranka trebala bi na nacionalnoj razini uspostaviti ili odrediti djelotvorne mehanizme za nadzor poštovanja obveza na temelju Konvencije, kako ih stranke primjenjuju.
•Dosljednost s postojećim odredbama politike u tom području
U Konvenciji su utvrđene opće obveze i načela za zaštitu ljudskih prava, demokracije i vladavine prava koji su potpuno dosljedni i usklađeni s ciljevima Akta o umjetnoj inteligenciji i detaljnim zahtjevima za UI sustave i obvezama propisanima dobavljačima i subjektima koji uvode takve sustave.
Definicija UI sustava u Konvenciji potpuno je usklađena s definicijom iz Akta o UI-ju jer se obje temelje na definiciji takvih sustava iz načela za umjetnu inteligenciju Organizacije za gospodarsku suradnju i razvoj ( 7 ), čime se postiže zajedničko poimanje toga koje digitalne tehnologije čine AI.
Za potrebe reguliranja UI sustava i u Konvenciji i u Aktu o UI-ju primjenjuje se pristup temeljen na riziku. Oba akta sadržavaju posebne odredbe o procjenjivanju rizika i posljedica i o mjerama za ublažavanje rizika. Sam Akt o UI-ju navodi brojne bitne zabrane i visokorizične primjene za UI sustave u svim javnim i privatnim sektorima, među ostalim u području demokracije i pravosuđa. U tom aktu detaljno su utvrđena pravila i postupci za razvoj, stavljanje na tržište i uvođenje UI sustava u tim područjima koji će osigurati da se temeljna prava, demokracija i vladavina prava poštuju u cijelom životnom vijeku UI sustava.
Konvencija sadržava načela i obveze već utvrđene u Aktu o UI-ju, npr. mjere za zaštitu ljudskih prava, sigurnost, pouzdanost, odgovornost, upravljanje podacima, zaštitu podataka, transparentnost, nadzor, ravnopravnost, nediskriminaciju, digitalne vještine i digitalnu pismenost.
Transparentnost je jedan od zajedničkih elemenata tih pravnih instrumenata, uključujući mjere za identifikaciju sadržaja generiranog umjetnom inteligencijom i upozoravanje osoba da su u interakciji s UI sustavima. Oba pravna instrumenta uključuju i relevantne odredbe o procjenjivanju rizika i posljedica, upravljanju rizicima, evidenciji, davanju informacija (ovlaštenim tijelima i, ovisno o slučaju, zahvaćenim osobama), sljedivosti, objašnjivosti, sigurnom inoviranju i eksperimentiranju u kontroliranim okruženjima te skup mjera koje omogućuju djelotvorne pravne lijekove, uključujući pravo na traženje i dobivanje informacija i podnošenje pritužbe nadležnom tijelu i postupovna jamstva.
Sustav nadzora predviđen u Konvenciji potpuno je dosljedan sa sveobuhvatnim sustavom upravljanja i praktične provedbe iz Akta o UI-ju sastavljenim od provedbenih mjera na nacionalnoj razini i na razini Unije s postupcima za dosljednu provedbu propisa Unije u svim državama članicama. U Konvenciji je predviđeno da postoji najmanje jedan djelotvoran nadzorni mehanizam na nacionalnoj razini koji je neovisan, nepristran i s dovoljnim ovlastima, stručnosti i resursima za djelotvorno obavljanje zadaće nadzora poštovanja obveza na temelju Konvencije, kako ih stranke primjenjuju.
Akt o UI-ju primjenjivat će se na UI sustave koji se stavljaju na tržište, stavljaju u uporabu ili koriste u Uniji. Geografsko područje primjene Konvencije je veće i obuhvaća zemlje članice Vijeća Europe i treće zemlje, koje mogu postati stranke Konvencije. Kao prvi međunarodni pravno obvezujući sporazum čija je osnova pristup reguliranju UI-ja koji se temelji na strogoj zaštiti ljudskih prava, Konvencija stvara jedinstvenu priliku da se izvan Unije potiče stvaranje UI-ja u koje se može imati povjerenje.
Konvencija i Akt o umjetnoj inteligenciji su temeljni dio regulatornog pristupa UI-ju s dosljednim i međusobno podupirućim obvezama na više međunarodnih razina. Zajednički im je cilj zajamčiti da se u umjetnu inteligenciju može imati povjerenje.
•Dosljednost u odnosu na druge politike Unije
Konvencija ima zajedničke ciljeve s drugim politikama i zakonodavstvom Unije o zaštiti i poštovanju temeljnih prava iz Povelje Europske unije o temeljnim pravima ( 8 ).
Konkretno, načelo ravnopravnosti i nediskriminacije u Povelji potpuno je dosljedno sa zakonodavstvom Unije o nediskriminaciji. To načelo podupire uvođenje elemenata ravnopravnosti u projektiranje, razvoj i korištenju UI sustava i efektivnu provedbu zabrane diskriminacije, kako je propisano na temelju primjenjivog međunarodnog i nacionalnog prava stranaka.
Konvencija je ujedno dosljedna s pravnom stečevinom Unije u području zaštite podataka, uključujući Opću uredbu o zaštiti podataka ( 9 ) u pitanju temeljnih prava na privatnost i zaštitu osobnih podataka s djelotvornim jamstvima i zaštitnim mjerama koje moraju postojati za fizičke osobe, u skladu s primjenjivim nacionalnim i međunarodnim pravnim obvezama stranaka.
Mjere Konvencije namijenjene za zaštitu demokratskih procesa stranki u kontekstu aktivnosti u životnom vijeku UI sustava potpuno su dosljedne s ciljevima i detaljnim pravilima Akta o digitalnim uslugama ( 10 ), koji regulira pružanje posredničkih usluga u Uniji s ciljem jamčenja sigurnog, predvidivog i pouzdanog virtualnog okruženja u kojem se poštuju temeljna prava, uključujući pravo na slobodu izražavanja i na primanje i davanje informacija. Dosljedne su i s Uredbom o transparentnosti i ciljanju u političkom oglašavanju ( 11 ), Kodeksom dobre prakse u suzbijanju dezinformacija ( 12 ) i Unijinim politikama u području demokracije, slobodnih, poštenih izbora i otpornosti izbornih procesa ( 13 ), među ostalim Akcijski plan za europsku demokraciju 2020. ( 14 ), paket mjera za integritet izbora ( 15 ) i nedavno doneseni paket mjera za obranu demokracije 2023. ( 16 ).
Konvencija je u skladu s općom digitalnom strategijom Unije jer pridonosi promicanju tehnologije u interesu građana, što je jedan od tri glavna stupa smjera i ciljeva politike najavljenih u Komunikaciji Izgradnja digitalne budućnosti Europe ( 17 ). Cilj je te komunikacije da se umjetna inteligencija razvija tako da se poštuju ljudska prava i stječe povjerenje građana kako bi se Europu pripremilo za digitalno doba i kako bi se naredne godine mogle nazvati digitalnim desetljećem ( 18 ).
Europska deklaracija o digitalnim pravima i načelima za digitalno desetljeće ( 19 ) navodi digitalna prava i načela koja su u skladu s ciljevima i načelima Konvencije. U oba se instrumenta promiče pristup tehnologiji koji se temelji na strogoj zaštiti ljudskih prava.
Konvencija je dosljedna i u skladu sa Strategijom EU-a o pravima djeteta ( 20 ) i Europskom strategijom za bolji internet za djecu (BIK+) ( 21 ), čiji je cilj osigurati zaštitu, poštovanje i bolju spremnost djece na internetu da se nose s novim virtualnim svjetovima i UI-jem.
2.PRAVNA OSNOVA, SUPSIDIJARNOST I PROPORCIONALNOST
•Pravna osnova
Prijedlog odluke kojom se ovlašćuje potpisivanje Konvencije u ime Europske unije podnosi se Vijeću na temelju članka 218. stavka 5. UFEU-a.
Materijalnopravna osnova za odluku na temelju članka 218. stavka 5. UFEU-a prije svega ovisi o cilju i sadržaju sporazuma. U skladu sa sudskom praksom, ako se analizom mjere Unije utvrdi da ona ima dvije svrhe ili dvije komponente i ako se može utvrditi da je jedna svrha ili komponenta glavna ili dominantna, a druga tek sporedna, ta se mjera mora temeljiti na jedinstvenoj pravnoj osnovi, to jest onoj koja je potrebna za glavnu ili dominantnu svrhu odnosno komponentu.
Kad je riječ o materijalnopravnoj osnovi, materijalno područje primjene Konvencije podudara se s onim Akta o UI-ju ( 22 ), među ostalim po tome što se iz tog područja izuzimaju aktivnosti za potrebe istraživanja i razvoja, nacionalne sigurnosti i obrane. Načela i obveze u Konvenciji podudaraju se s detaljnijim zahtjevima za UI sustave i specifičnim obvezama dobavljača i subjekata koji uvode takve sustave propisanima u Aktu o UI-ju i drugom relevantnom zakonodavstvu Unije. Ako Vijeće prihvati predloženu odluku pa Unija potpiše Konvenciju, Akt o UI-ju bit će primarno zakonodavstvo Unije kojim će se Konvencija integrirati u pravni poredak Unije, s potpuno usklađenim pravilima za stavljanje na tržište, stavljanje u uporabu i korištenje UI sustava u Uniji koja se izravno primjenjuju u državama članicama, osim ako je u Aktu o UI-ju izričito propisano drugačije ( 23 ).
Budući da su područje primjene i ciljevi Konvencije u skladu i potpuno dosljedni s područjem primjene i ciljevima Akta o UI-ju i da su osobna i materijalna područje primjene oba instrumenta jednaka, materijalnopravna osnova za pristupanje Konvenciji je članak 114. UFEU-a, koji je primarna pravna osnova Akta o UI-ju.
Priroda međunarodnih sporazuma („samo EU” ili „mješoviti”) ovisi o spojivosti konkretnog predmeta s nadležnostima Unije.
U članku 3. stavku 2. UFEU-a propisano je da Unija ima isključivu nadležnost „za sklapanje međunarodnog sporazuma [...] u mjeri u kojoj bi njegovo sklapanje moglo utjecati na zajednička pravila ili izmijeniti njihov opseg”. Međunarodni sporazum može utjecati na zajednička pravila ili izmijeniti njihov opseg kad je područje obuhvaćeno sporazumom u velikoj mjeri obuhvaćeno pravom Unije ( 24 ).
Osobno područje primjene Konvencije potpuno je u skladu s Aktom o UI-ju po tome što oba pravna instrumenta barem načelno obuhvaćaju javne i privatne subjekte (opcionalna primjena načela i obveza iz Konvencije na privatne subjekte koji ne rade u ime javnih tijela), a iz materijalnog područja primjene oba instrumenta od primjene propisa izuzete su aktivnosti umjetne inteligencije koje se odnose na istraživanje i razvoj, nacionalnu sigurnost i obranu.
Budući da se i osobno i materijalno područje primjene Konvencije podudara s tim područjima Akta o UI-ju, pristupanje Konvenciji može utjecati na zajednička pravila Unije ili izmijeniti njihov opseg u smislu članka 3. stavka 2. UFEU-a. Stoga bi se trebalo smatrati da Unija ima isključivu vanjsku nadležnost za pristupanje Konvenciji te bi Konvenciju trebalo potpisati u ime Unije kao sporazum koji sklapa samo EU, uz uvjet njegova naknadnog sklapanja.
•Proporcionalnost
Stvaranjem dosljednog pristupa reguliranju UI-ja na međunarodnoj razini Konvencija ne prelazi ono što je potrebno za postizanje predmetnih ciljeva politike.
Konvencija definira opći pravni okvir za UI koji omogućuje fleksibilnost i strankama prepušta da same koncipiraju provedbene okvire. Pristup temeljen na riziku jamči proporcionalnost propisa i omogućuje da se provedbene mjere razlikuju proporcionalno rizicima, slično kao u Aktu o UI-ju.
•Odabir instrumenta
Odabrani instrument je prijedlog odluke Vijeća na temelju članka 218. stavka 5. UFEU-a.
3.REZULTATI EX POST EVALUACIJA, SAVJETOVANJA S DIONICIMA I PROCJENA UČINKA
•Ex post evaluacije/provjere primjerenosti postojećeg zakonodavstva
Nije primjenjivo.
•Savjetovanja s dionicima
Komisija nije organizirala posebna savjetovanja s dionicima za ovaj prijedlog.
Na Konvenciji je radio Odbor za umjetnu inteligenciju Vijeća Europe koji je okupio svih 46 zemalja članica Vijeća Europe i države promatrače, među kojima su bili Kanada, Japan, Meksiko, Sveta Stolica, Sjedinjene Američke Države i Europska unija. Sudjelovalo je i nekoliko zemalja koje nisu članice, među ostalim Australija, Argentina, Kostarika, Izrael, Peru i Urugvaj.
Vijeće Europe uvijek nastoji uključiti različite dionike pa je u rad na Konvenciji uključen doprinos 68 međunarodnih predstavnika civilnog društva, znanstvene zajednice, industrije i drugih međunarodnih organizacija, što je jamčilo sveobuhvatnost i uključivost. U sastavljanju Konvencije surađivalo se i s drugim međunarodnim organizacijama, među ostalima s Organizacijom za europsku sigurnost i suradnju (OESS), Organizacijom za gospodarsku suradnju i razvoj (OECD) i Organizacijom Ujedinjenih naroda za obrazovanje, znanost i kulturu (UNESCO). U procesu su sudjelovala i relevantna tijela i odbori Vijeća Europe. Za Unijino sudjelovanje bila je odgovorna Komisija. Kao promatrači bili su prisutni predstavnici Agencije Europske unije za temeljna prava i Europskog nadzornika za zaštitu podataka.
•Prikupljanje i primjena stručnog znanja
Stajališta Unije u dogovorima o Konvenciji pripremljena su u suradnji s posebnim odborom koji je imenovalo Vijeće (Radna skupina Vijeća za telekomunikacije i informacijsko društvo).
•Procjena učinka
Nije primjenjivo.
•Primjerenost i pojednostavnjenje propisa
Nije primjenjivo.
•Temeljna prava
Cilj je Konvencije pronaći rješenja za potencijalne rizike i štete za ljudska prava tako što će osigurati da su aktivnosti u životnom vijeku UI sustava u skladu s načelima poštovanja ljudskih prava, demokracije i vladavine prava i istovremeno uzeti u obzir potencijal UI-ja za zaštitu i ostvarivanje tih prava u digitalnom okruženju i za poboljšavanje dobrobiti po društvo i okoliš i tehnološkog napretka.
Cilj je konkretnih načela i obveza predviđenih u Konvenciji zaštita i poštovanje ljudskih prava, koja su utvrđena u brojnim međunarodnim i regionalnim instrumentima ( 25 ) koji se primjenjuju na stranke, uključujući Povelju Europske unije o temeljnim pravima i međunarodne instrumente o temeljnim pravima kojima je Unija pristupila.
Konvencija uvodi minimalni zajednički standard za zaštitu ljudskih prava u kontekstu UI-ja, a pri tome čuva postojeću zaštitu ljudskih prava i omogućava strankama da je prošire strožim zaštitnim mjerama.
4.UTJECAJ NA PRORAČUN
Konvencija predviđa da će zemlje nečlanice Konferencije stranaka davati financijske doprinose. Sve zemlje članice Vijeća Europe doprinosit će na uobičajeni način proračunu u skladu sa Statutom Vijeća Europe, a stranke koje to nisu davat će izvanproračunske doprinose. Doprinos stranke koja nije članica Vijeća Europe dogovorit će zajednički ta zemlja i Odbor ministara.
Konvencija ne zadire u nacionalne zakone i propise stranaka koji se odnose na proračunske ovlasti i administrativne postupke odobravanja proračunskih sredstava. Zemljama nečlanicama omogućuje da doprinose u okviru odobrenih proračunskih ograničenja koje donese njihovo zakonodavno tijelo, ne dovodeći u pitanje prethodne sporazume.
5.DRUGI ELEMENTI
•Planovi provedbe i mehanizmi praćenja, evaluacije i izvješćivanja
Konferencija stranaka sastavljena od predstavnika stranaka pratit će ostvaruju li se djelotvorno ciljevi Konvencije i provode li stranke njezine odredbe.
U roku od prve dvije godine od pristupanja svaka stranka dužna je Konferenciji stranaka dostaviti izvješće s detaljnim pregledom mjera poduzetih radi provedbe Konvencije. Nakon toga podnosit će to izvješće u redovitim intervalima.
Stranke se potiču na suradnju u ostvarivanju ciljeva Konvencije. Ta međunarodna suradnja može uključivati razmjenu relevantnih informacija o UI-ju i potencijalu UI-ja da pozitivno i negativno utječe na ljudska prava, demokraciju i vladavinu prava.
Da bi se zajamčilo djelotvorno praćenje i provedba, svaka stranka trebat će definirati barem jedan djelotvorni nadzorni mehanizam na nacionalnoj razini.
2024/0150 (NLE)
Prijedlog
ODLUKE VIJEĆA
o potpisivanju u ime Europske unije Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
VIJEĆE EUROPSKE UNIJE,
uzimajući u obzir Ugovor o funkcioniranju Europske unije, a posebno njegov članak 114. u vezi s člankom 218. stavkom 5.,
uzimajući u obzir prijedlog Europske komisije,
budući da:
(1)Vijeće je 21. studenog 2022. Europskoj komisiji odobrilo otvaranje pregovora u ime Europske unije o konvenciji Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava (dalje u tekstu „Konvencija”). Europska komisija sudjelovala je u pregovorima o Konvenciji u ime Europske unije. Pregovori su završeni 17. svibnja 2024., kad je Konvencija parafirana i kad ju je donio Odbor ministara Vijeća Europe ( 26 ).
(2)U Konvenciji su utvrđeni opća načela i obveze koje su njezine stranke dužne poštovati radi zaštite ljudskih prava, demokracije i vladavine prava s obzirom na aktivnosti u životnom vijeku UI sustava.
(3)Unija je 12. lipnja 2024. donijela Uredbu (EU) 2024/... (Akt o UI-ju) ( 27 ), prvenstveno na temelju članka 114. UFEU-a, s potpuno usklađenim pravilima za stavljanje na tržište, stavljanje u uporabu i korištenje UI sustava u Uniji koja se izravno primjenjuju u državama članicama, osim ako je u Aktu o UI-ju izričito propisano drugačije. Konvencija bi se trebala u Uniji provoditi isključivo na temelju Akta o UI-ju i, ovisno o slučaju, druge relevantne pravne stečevine Unije.
(4)Budući da se i osobno i materijalno područje primjene Konvencije podudara s tim područjima Akta o umjetnoj inteligenciji i drugom relevantnom pravnom stečevinom Unije, pristupanje Konvenciji može utjecati na zajednička pravila Unije ili izmijeniti njihov opseg u smislu članka 3. stavka 2. Ugovora o funkcioniranju Europske unije. Stoga Unija ima isključivu vanjsku nadležnost za potpisivanje Konvencije te bi samo Unija trebala postati stranka Konvencije, uz uvjet naknadnom pristupanju Konvenciji.
(5)U skladu s Ugovorima odgovornost je Europske komisije da se pobrine za potpisivanje Konvencije, uz uvjet naknadnom pristupanju Konvenciji,
DONIJELO JE OVU ODLUKU:
Članak 1.
Ovim se odobrava potpisivanje Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava („Konvencija”) u ime Unije, podložno naknadnom pristupanju toj konvenciji.
Tekst Konvencije koja se potpisuje priložen je ovoj Odluci.
Članak 2.
Ova Odluka stupa na snagu .
Sastavljeno u Bruxellesu,
Za Vijeće
Predsjednik
Povelja Europske unije o temeljnim pravima, SL C 326, 26.10.2012., str. 391.
EUROPSKA KOMISIJA
Bruxelles, 26.6.2024.
COM(2024) 264 final
PRILOG
Prijedlogu ODLUKE VIJEĆA
o potpisivanju u ime Europske unije Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
Tekst Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
Preambula
Zemlje članice Vijeća Europe i druge potpisnice ove Konvencije,
Imajući u vidu da je cilj Vijeća Europe postići veće jedinstvo među članicama, posebno na temelju poštovanja ljudskih prava, demokracije i vladavine prava;
Prepoznajući važnost poticanja suradnje među strankama Konvencije i proširenja takve suradnje na druge zemlje koje dijele iste vrijednosti;
Svjesne sve bržeg razvoja znanosti i tehnologije i suštinskih promjena koje proizlaze iz takvih aktivnosti u životnom vijeku sustava umjetne inteligencije s potencijalom da ubrzavanjem napretka i inovacija dovedu do poboljšanja ljudskog blagostanja i društvene dobrobiti, održivog razvoja, rodne ravnopravnosti i osnaživanja svih žena i djevojčica i drugih važnih ciljeva i interesa;
Imajući u vidu da aktivnosti u životnom vijeku sustava umjetne inteligencije mogu ponuditi dosad neviđene prilike za promicanje i zaštitu ljudskih prava, demokracije i vladavine prava;
Zabrinute da neke aktivnosti u životnom vijeku sustava umjetne inteligencije mogu ugroziti ljudsko dostojanstvo, osobnu autonomiju, ljudska prava, demokraciju i vladavinu prava;
Zabrinute zbog opasnosti od diskriminacije u digitalnom kontekstu, posebno u vezi sa sustavima umjetne inteligencije, i njezina potencijala za stvaranje ili pogoršanje nejednakosti, među ostalim onih kakve doživljavaju žene i pojedinci u ranjivom položaju u ostvarivanju svojih ljudskih prava i punog, ravnopravnog i stvarnog sudjelovanja u gospodarskim, društvenim, kulturnim i političkim pitanjima;
Zabrinute zbog zlouporabe sustava umjetne inteligencije i protivne iskorištavanju takvih sustava za represiju kojom se krši međunarodno pravo o ljudskim pravima, uključujući arbitraran ili nezakonit nadzor i cenzure koje narušavaju privatnost i osobnu autonomiju;
Svjesne da su ljudska prava, demokracija i vladavina prava suštinski povezani;
Uvjerene da je potrebno prioritetno uspostaviti globalno primjenjiv pravni okvir sa zajedničkim općim načelima i pravilima kojima se uređuju aktivnosti u životnom vijeku sustava umjetne inteligencije kojim će se djelotvorno čuvati zajedničke vrijednosti i iskoristiti prednosti umjetne inteligencije za promicanje tih vrijednosti na način pogodan za odgovorno inoviranje;
Prepoznajući potrebu za promicanjem digitalne pismenosti, znanja i povjerenja u projektiranje, razvoj, korištenje i rashodovanje sustava umjetne inteligencije;
Imajući u vidu okvirnost ove Konvencije, koja se može dopuniti dodatnim instrumentima za rješavanje specifičnih problema koji se odnose na aktivnosti u životnom vijeku sustava umjetne inteligencije;
Ističući da je svrha Konvencije obraditi konkretna pitanja koja se javljaju u cijelom životnom vijeku sustava umjetne inteligencije i potaknuti razmatranje općenitijih rizika i posljedica povezanih s tim tehnologijama, uključujući rizike za ljudsko zdravlje i okoliš, i društveno-gospodarskih aspekata, kao što su zapošljavanje i rad;
Uzimajući u obzir relevantan rad koji druge međunarodne i nadnacionalne organizacije i forumi ulažu u međunarodno razumijevanje i suradnju u području umjetne inteligencije;
Imajući u vidu primjenjive međunarodne instrumente za zaštitu ljudskih prava, kao što su Opća deklaracija o pravima čovjeka iz 1948., Europska konvencija za zaštitu ljudskih prava i temeljnih sloboda iz 1950. (ETS br. 5), Međunarodni pakt o građanskim i političkim pravima iz 1966., Međunarodni pakt o gospodarskim, socijalnim i kulturnim pravima iz 1966., Europska socijalna povelja iz 1961. (ETS br. 35) i njihovi protokoli i Europska socijalna povelja (revidirana) iz 1996. (ETS br. 163);
Imajući u vidu Konvenciju Ujedinjenih naroda o pravima djeteta iz 1989. i Konvenciju Ujedinjenih naroda o pravima osoba s invaliditetom iz 2006.;
Imajući u vidu prava pojedinaca na privatnost i na zaštitu osobnih podataka, kako se primjenjuju i kako su im dana, npr. Konvencijom za zaštitu osoba glede automatizirane obrade osobnih podataka iz 1981. (ETS br. 108) i njezinim protokolima;
Potvrđujući ovom Konvencijom predanost stranaka zaštiti ljudskih prava, demokracije i vladavine prava i potičući pouzdanost sustava umjetne inteligencije;
sporazumjele su se kako slijedi:
Poglavlje I. – Opće odredbe
Članak 1. – Predmet i svrha
(1)Cilj je odredaba Konvencije zajamčiti da su aktivnosti u životnom vijeku sustava umjetne inteligencije potpuno kompatibilne s ljudskim pravima, demokracijom i vladavinom prava.
(2)Svaka stranka donosi ili zadržava odgovarajuće zakonodavne, administrativne ili druge mjere za provedbu odredaba ove Konvenciji. Te mjere moraju biti stupnjevane i diferencirane ovisno o težini i vjerojatnosti da će doći do negativnih posljedica za ljudska prava, demokraciju i vladavinu prava unutar cijelog životnog vijeka sustava umjetne inteligencije. To može uključivati specifične ili horizontalne mjere koje se primjenjuju neovisno o vrsti korištene tehnologije.
(3)Kako bi se osiguralo da stranke djelotvorno provode njezine odredbe, u Konvenciji se definira mehanizam za praćenje i uspostavlja međunarodna suradnja.
Članak 2. – Definicija sustava umjetne inteligencije
Za potrebe ove Konvencije „sustav umjetne inteligencije” znači strojni sustav koji za eksplicitne ili implicitne ciljeve iz ulaznih vrijednosti koje prima zaključuje kako generirati izlazne vrijednosti kao što su predviđanja, sadržaj, preporuke ili odluke koji mogu utjecati na fizička ili virtualna okruženja. Sustavi umjetne inteligencije razlikuju se ovisno o stupnju autonomije i prilagodljivosti nakon uvođenja.
Članak 3. — Područje primjene
(1)Područje primjene Konvencije obuhvaća aktivnosti u životnom vijeku sustava umjetne inteligencije koje potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava.
(a)Svaka stranka primjenjuje ovu Konvenciju na aktivnosti javnih tijela i privatnih subjekata koji rade u njihovo ime u životnom vijeku sustava umjetne inteligencije.
(b)Svaka stranka dužna je uzeti u obzir rizike i posljedice koji proizlaze iz aktivnosti privatnih subjekata u životnom vijeku sustava umjetne inteligencije u mjeri u kojoj to nije obuhvaćeno u podstavku (a), pri čemu to čini u skladu s ciljem i svrhom Konvencije.
Svaka stranka u izjavi koju dostavlja glavnom tajniku Vijeća Europa u trenutku potpisivanja ili polaganja svoje isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju dužna je navesti kako namjerava provesti ovu obvezu, bilo primjenom načela i obveza utvrđenih u poglavljima od II. do VI. ove Konvencije bilo poduzimanjem drugih primjerenih mjera za ispunjavanje obveza navedenih u ovom podstavku. Stranke mogu na isti način izmijeniti svoje izjave u bilo kojem trenutku.
U izvršavanju obveza na temelju ovog podstavka stranka ne može odstupiti od svojih međunarodnih obveza preuzetih radi zaštite ljudskih prava, demokracije i vladavine prava ni ograničiti njihovu primjenu.
(2)Stranka nije obvezna primjenjivati ovu Konvenciju na aktivnosti u životnom vijeku sustava umjetne inteligencije koje se odnose na zaštitu interesa nacionalne sigurnosti, ali podrazumijeva se da se takve aktivnosti obavljaju u skladu s međunarodnim pravnim obvezama, uključujući međunarodno pravo o ljudskim pravima, i uz poštovanje demokratskih institucija i procesa.
(3)Ne dovodeći u pitanje članak 13. i članak 25. stavak 2., ova Konvencija ne primjenjuje se na aktivnosti istraživanja i razvoja koje se odnose na sustave umjetne inteligencije koji još nisu dostupni za korištenje, osim ako se njihovo testiranje i slične aktivnosti izvode tako da potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava.
(4)Predmeti koji se odnose na nacionalnu obranu ne spadaju u područje primjene Konvencije.
Poglavlje II. – Opće obveze
Članak 4. – Zaštita ljudskih prava
Svaka stranka donosi ili zadržava mjere kako bi osigurala da su aktivnosti u životnom vijeku sustava umjetne inteligencije u skladu s obvezama zaštite ljudskih prava utvrđenima u primjenjivom međunarodnom pravu i nacionalnom pravu te stranke.
Članak 5. – Integritet demokratskih procesa i poštovanje vladavine prava
(1)Svaka stranka donosi ili zadržava mjere kojima nastoji osigurati da se sustavi umjetne inteligencije ne koriste za ugrožavanje integriteta, neovisnosti i djelotvornosti demokratskih institucija i procesa, uključujući načelo diobe vlasti, poštovanje neovisnosti pravosuđa i pristup pravosuđu.
(2)Svaka stranka donosi ili zadržava mjere za zaštitu svojih demokratskih procesa u kontekstu aktivnosti u životnom vijeku sustava umjetne inteligencije, uključujući pravedan pristup pojedinaca javnoj raspravi i njihovu sposobnost slobodnog izražavanja mišljenja.
Poglavlje III. – Načela koja se odnose na aktivnosti u životnom vijeku sustava umjetne inteligencije
Članak 6. – Opći pristup
U ovom poglavlju utvrđuju se opća zajednička načela koja svaka stranka provodi za sustave umjetne inteligencije na način koji je u skladu s njezinim nacionalnim pravnim sustavom i drugim obvezama iz Konvencije.
Članak 7. – Ljudsko dostojanstvo i osobna autonomija
Svaka stranka donosi ili zadržava mjere za poštovanje ljudskog dostojanstva i osobne autonomije u odnosu na aktivnosti u životnom vijeku sustava umjetne inteligencije.
Članak 8. – Transparentnost i nadzor
Svaka stranka donosi ili zadržava mjere kako bi osigurala da su uvedeni primjereni zahtjevi za transparentnost i nadzor prilagođeni specifičnim kontekstima i rizicima za aktivnosti u životnom vijeku sustava umjetne inteligencije, među ostalim s obzirom na identifikaciju sadržaja koji generiraju sustavi umjetne inteligencije.
Članak 9. – Odgovornost
Svaka stranka donosi ili zadržava mjere kako bi osigurala odgovornost za negativne posljedice koje aktivnosti u životnom vijeku sustava umjetne inteligencije imaju za ljudska prava, demokraciju i vladavinu prava.
Članak 10. – Ravnopravnost i nediskriminacija
(1)Svaka stranka donosi ili zadržava mjere kako bi osigurala da aktivnosti u životnom vijeku sustava umjetne inteligencije budu u skladu s načelom ravnopravnosti, uključujući rodnu, i sa zabranom diskriminacije, kako je propisano u primjenjivom međunarodnom i nacionalnom pravu.
(2)Svaka stranka donosi ili zadržava mjere čiji je cilj u kontekstu aktivnosti u životnom vijeku sustava umjetne inteligencije prevladati neravnopravnosti kako bi se postigli pošteni, pravedni i podjednaki rezultati, u skladu s primjenjivim nacionalnim i međunarodnim pravnim obvezama u području ljudskih prava.
Članak 11. – Zaštita privatnosti i osobnih podataka
Svaka stranka donosi ili zadržava mjere kako bi s obzirom na aktivnosti u životnom vijeku sustava umjetne inteligencije osigurala:
(a)da su prava pojedinaca na privatnost i njihovi osobni podaci zaštićeni, među ostalim primjenjivim nacionalnim i međunarodnim pravom, normama i okvirima; i
(b)da su uspostavljene djelotvorne zaštitne mjere za pojedince u skladu s primjenjivim nacionalnim i međunarodnim pravnim obvezama.
Članak 12. – Pouzdanost
Svaka stranka prema potrebi poduzima mjere za promicanje pouzdanosti sustava umjetne inteligencije i povjerenja u njihove rezultate, što može uključivati zahtjeve za primjerenu kvalitetu i sigurnost unutar cijelog životnog vijeka sustava umjetne inteligencije.
Članak 13. – Sigurno inoviranje
Kako bi se poticale inovacije, a ujedno izbjegavale negativne posljedice za ljudska prava, demokraciju i vladavinu prava, svaka se stranka poziva na to da prema potrebi uspostavi kontrolirana okruženja za razvoj, eksperimentiranje i testiranje sustava umjetne inteligencije pod nadzorom svojih nadležnih tijela.
Poglavlje IV. – Pravni lijekovi
Članak 14. – Pravni lijekovi
(1)Svaka stranka, u mjeri u kojoj su pravni lijekovi potrebni na temelju njezinih međunarodnih obveza i u skladu s njezinim nacionalnim pravnim sustavom, donosi ili zadržava mjere kako bi osigurala dostupnost pristupačnih i djelotvornih pravnih lijekova za povrede ljudskih prava koje proizlaze iz aktivnosti u životnom vijeku sustava umjetne inteligencije.
(2)Za potrebe stavka 1. svaka stranka donosi ili zadržava mjere, uključujući:
(a)mjere kojima osigurava da su relevantne informacije o sustavima umjetne inteligencije s potencijalom da znatno utječu na ljudska prava i o korištenju tih sustava dokumentirane, dostavljene tijelima ovlaštenima za pristup tim informacijama, a prema potrebi i dostupne ili dostavljene osobama čija su prava povrijeđena;
(b)mjere kojima osigurava da su informacije iz podstavka (a) dovoljne da bi osobe čija su prava povrijeđena mogle osporiti odluke donesene korištenjem sustava ili one koje su se u znatnoj mjeri temeljile na njegovu korištenju, a prema potrebi i samo korištenje sustava; i
(c)realnu mogućnost da osobe čija su prava povrijeđena podnesu pritužbu nadležnim tijelima.
Članak 15. – Postupovna jamstva
(1)Svaka stranka dužna se pobrinuti da, u slučajevima u kojima sustav umjetne inteligencije znatno utječe na uživanje ljudskih prava, zahvaćene osobe imaju djelotvorna proceduralna jamstva, zaštitne mjere i prava u skladu s primjenjivim međunarodnim i nacionalnim pravom.
(2)Svaka stranka nastoji da osobe koje su interakciji sa sustavima umjetne inteligencije budu na način primjeren situaciji obaviještene o tome da je riječ o interakciji s takvim sustavima, a ne s ljudima.
Poglavlje V. – Procjenjivanje i ublažavanje rizika i negativnih posljedica
Članak 16. – Okvir za upravljanje rizicima i posljedicama
(1)Uzimajući u obzir načela utvrđena u poglavlju III., svaka stranka donosi ili zadržava mjere za identifikaciju, procjenjivanje, prevenciju i ublažavanje rizika zbog sustava umjetne inteligencije tako što razmatraju njihove trenutačne i potencijalne posljedice za ljudska prava, demokraciju i vladavinu prava.
(2)Takve mjere moraju na primjeren način biti stupnjevane i diferencirane te:
(a)uzeti u obzir kontekst i predviđeno korištenje sustava umjetne inteligencije, a posebno rizike za ljudska prava, demokraciju i vladavinu prava;
(b)uzeti u obzir težinu i vjerojatnost mogućih posljedica;
(c)prema potrebi razmotriti perspektive relevantnih dionika, a posebno osoba čija bi prava mogla biti povrijeđena;
(d)biti iterativno primjenjivane na sve aktivnosti u životnom vijeku sustava umjetne inteligencije;
(e)uključivati praćenje rizika i negativnih posljedica za ljudska prava, demokraciju i vladavinu prava;
(f)obuhvaćati dokumentiranje rizika, stvarnih i potencijalnih utjecaja i pristupa upravljanju rizicima; i
(g)tražiti prema potrebi obvezno testiranje sustava umjetne inteligencije prije nego što ih se stavi na raspolaganje za prvu uporabu i nakon svake znatne preinake.
(3)Svaka stranka donosi ili zadržava mjere za adekvatno pristupanje negativnim posljedicama sustava umjetne inteligencije na ljudska prava, demokraciju i vladavinu prava. Takve negativne posljedice i s njima povezane mjere treba dokumentirati te se na njima trebaju temeljiti relevantne mjere za upravljanje rizicima opisane u stavku 2.
(4)Svaka stranka procjenjuje potrebu za moratorijem, zabranom ili drugim odgovarajućim mjerama za određene primjene sustava umjetne inteligencije ako smatra da su nespojive s poštovanjem ljudskih prava, funkcioniranjem demokracije ili vladavinom prava.
Poglavlje VI. – Provedba Konvencije
Članak 17. – Nediskriminacija
Stranke provode odredbe ove Konvencije bez diskriminacije po bilo kojoj osnovi, u skladu sa svojim međunarodnim obvezama u području ljudskih prava.
Članak 18. – Prava osoba s invaliditetom i djece
Svaka stranka u skladu sa svojim nacionalnim pravom i primjenjivim međunarodnim pravnim obvezama na odgovarajući način uzima u obzir sve posebne potrebe i ranjivosti u vezi s poštovanjem prava osoba s invaliditetom i djece.
Članak 19. – Javno savjetovanje
Svaka stranka nastoji da se važna pitanja postavljena u vezi sa sustavima umjetne inteligencije prema potrebi razmotre u javnoj raspravi i višedioničkom savjetovanju s fokusom na socijalnim, gospodarskim, pravnim, etičkim, ekološkim i drugim bitnim implikacijama.
Članak 20. – Digitalna pismenost i vještine
Svaka stranka potiče i promiče odgovarajuću digitalnu pismenost i digitalne vještine u svim segmentima stanovništva, što obuhvaća specifične stručne vještine za osobe odgovorne za identifikaciju, procjenjivanje, prevenciju i ublažavanje rizika koje predstavljaju sustavi umjetne inteligencije.
Članak 21. – Zaštita priznatih ljudskih prava
Ništa u ovoj Konvenciji ne smije se tumačiti kao ograničenje, odstupanje ili neki drugi utjecaj na ljudska prava i druga s njima povezana zakonska prava i obveze koji mogu biti zajamčeni relevantnim zakonima stranke ili nekim međunarodnim sporazumom kojem je stranka.
Članak 22. – Stroža zaštita
Nijedna odredba ove Konvencije ne smije se tumačiti kao ograničenje ili sličan utjecaj na mogućnost stranke da uvede strože mjere zaštite od onih propisanih u ovoj Konvenciji.
Poglavlje VII. – Mehanizam za praćenje i suradnja
Članak 23. – Konferencija stranaka
(1)Konferencija stranaka sastoji se od predstavnika stranaka ove Konvencije.
(2)Stranke se povremeno sastaju s ciljem:
(a) olakšavanja djelotvorne primjene i provedbe ove Konvencije, uključujući utvrđivanje svih problema i posljedica rezervi na temelju članka 34. stavka 1. ili izjava danih u okviru Konvencije;
(b) razmatranja mogućih dopuna i izmjena Konvencije;
(c) razmatranja pitanja i donošenja konkretnih preporuka u vezi s tumačenjem i primjenom Konvencije;
(d) olakšavanja razmjene informacija o krupnim pravnim, političkim i tehnološkim promjenama, među ostalim u ostvarivanju ciljeva iz članka 25., bitnima za provedbu Konvencije;
(e) olakšavanje, ako bude potrebno, prijateljskog rješavanja sporova povezanih s primjenom Konvencije; i
(f) olakšavanje suradnje s relevantnim dionicima za specifične aspekte provedbe Konvencije, među ostalim u obliku javne rasprave.
(3)Konferenciju stranaka saziva glavni tajnik Vijeća Europe kad god je to potrebno i kad god to zatraži većina stranaka ili Odbor ministara.
(4)Konferencija stranaka dužna je konsenzusom usvojiti svoj poslovnik u roku od dvanaest mjeseci od stupanja na snagu ove Konvencije.
(5)U izvršavanju dužnosti u skladu s ovim člankom strankama pomaže Tajništvo Vijeća Europe.
(6)Konferencija stranaka može Odboru ministara predložiti primjerene načine za dobivanje relevantne stručne potpore radi djelotvorne provedbe ove Konvencije.
(7)Svaka stranka koja nije članica Vijeća Europe dužna je doprinositi financiranju aktivnosti Konferencije stranaka. Doprinos stranke koja nije članica Vijeća Europe dogovorit će zajednički ta zemlja i Odbor ministara.
(8)Konferencija stranaka može odlučiti da ograniči sudjelovanje stranke koja je prestala biti članica Vijeća Europe na temelju članka 8. Statuta Vijeća Europe (ETS br. 1) zbog teške povrede članka 3. Statuta. Prema svakoj stranki koja nije članica Vijeća Europe može se poduzeti takva mjera donošenjem odluke Odbora ministara o prekidu odnosa s tom zemljom iz razloga sličnih onima iz članka 3. Statuta.
Članak 24. – Obveza dostavljanja informacija
(1)Svaka stranka dužna je u roku od dvije godine od trenutka kad postane stranka podnijeti izvješće Konferenciji stranaka, i nakon toga periodički dostavljati informacije, o aktivnostima poduzetima radi provedbe članka 3. stavka 1. podstavaka (a) i (b).
(2)Konferencija stranaka u svojem poslovniku definira format i postupak sastavljanja tog izvješća.
Članak 25. – Međunarodna suradnja
(1)Stranke surađuju u postizanju svrhe Konvencije. Stranke se potiču da ovisno o primjerenosti slučaja pomažu zemljama koje nisu stranke Konvenciji da postupaju u skladu s odredbama Konvencije i da postanu njezine stranke.
(2)Stranke prema potrebi međusobno razmjenjuju relevantne i korisne informacije o aspektima umjetne inteligencije koji mogu imati znatan pozitivan i negativan utjecaj na uživanje ljudskih prava, funkcioniranje demokracije i poštovanje vladavine prava, uključujući rizike i utjecaje koji nastanu u kontekstu istraživanja i u odnosu na privatni sektor. Stranke se potiču da u takvu razmjenu informacija prema potrebi uključe relevantne dionike i zemlje koje nisu stranke Konvencije.
(3)Stranke se potiču na jačanje suradnje, prema potrebi i s relevantnim dionicima, kako bi sprečavale i ublažavale rizike i negativne posljedice za ljudska prava, demokraciju i vladavinu prava u kontekstu aktivnosti u životnom vijeku sustava umjetne inteligencije.
Članak 26. – Djelotvorni nadzorni mehanizmi
(1)Svaka stranka uspostavlja ili određuje najmanje jedan djelotvoran mehanizam za nadzor poštovanja obveza na temelju ove Konvencije.
(2)Svaka stranka osigurava da takvi mehanizmi funkcioniraju neovisno, nepristrano i s dovoljnim ovlastima, stručnosti i resursima za djelotvorno obavljanje zadaće nadzora poštovanja obveza na temelju ove Konvencije, kako ih stranke primjenjuju.
(3)Ako stranka odredi više takvih mehanizama, dužna je, ako je to praktično izvedivo, poduzeti mjere da olakša njihovu djelotvornu suradnju.
(4)Ako stranka uvede mehanizme koji se razlikuju od postojećih struktura za zaštitu ljudskih prava, dužna je, ako je to praktično izvedivo, poduzeti korake za promicanje djelotvorne suradnje između mehanizama iz stavka 1. i postojećih nacionalnih struktura za zaštitu ljudskih prava.
Poglavlje VIII. – Završne odredbe
Članak 27. – Učinci Konvencije
(1)Ako su barem dvije stranke već sklopile sporazum ili ugovor o pitanjima koja obuhvaća ova Konvencija ili su na neki drugi način uspostavile dogovor o takvim pitanjima, te stranke imaju pravo primjenjivati taj sporazum, ugovor ili dogovor sve dok to čine na način koji nije nespojiv s predmetom i svrhom ove Konvencije.
(2)Stranke koje su članice Europske unije u svojim međusobnim odnosima primjenjuju propise Europske unije o pitanjima koja obuhvaća ova Konvencija, ne dovodeći u pitanje predmet i svrhu ove Konvencije ni njezinu punu primjenu u odnosu na druge stranke. Isto vrijedi za druge stranke u mjeri u kojoj su obvezane takvim propisima.
Članak 28. – Izmjene
(1)Izmjene ove Konvencije može predložiti svaka stranka, Odbor ministara Vijeća Europe ili Konferencija stranaka.
(2)Glavni tajnik Vijeća Europe informira stranke o svakoj predloženoj izmjeni.
(3)Sve izmjene koje predloži stranka ili Odbor ministara dostavljaju se Konferenciji stranaka, koja Odboru ministara dostavlja svoje mišljenje o predloženim izmjenama.
(4)Odbor ministara razmatra predložene izmjene i mišljenje Konferencije stranaka te može odobriti izmjene.
(5)Tekst svake izmjene koju Odbor ministara odobri u skladu sa stavkom 4. podnosi se strankama radi prihvaćanja.
(6)Svaka izmjena odobrena u skladu sa stavkom 4. stupa na snagu tridesetog dana od dana nakon što sve stranke obavijeste glavnog tajnika o tome da su je prihvatile.
Članak 29. – Rješavanje sporova
U slučaju spora između stranaka u vezi s tumačenjem ili primjenom ove Konvencije one ga nastoje riješiti pregovorima ili na bilo koji drugi miroljubiv način po svojem izboru, među ostalim preko Konferencije stranaka, kako je propisano u članku 23. stavku 2. podstavku (e).
Članak 30. – Potpisivanje i stupanje na snagu
(1)Ova je Konvencija otvorena za potpisivanje zemljama članicama Vijeća Europe, zemljama nečlanicama koje su sudjelovale u njezinu sastavljanju i Europskoj uniji.
(2)Ova Konvencija podliježe ratifikaciji, prihvaćanju ili odobrenju. Isprave o ratifikaciji, prihvaćanju ili odobrenju polažu se kod glavnog tajnika Vijeća Europe.
(3)Ova Konvencija stupa na snagu prvoga dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma kad je pet potpisnica, od kojih su najmanje tri zemlje članice Vijeća Europe, izrazilo svoj pristanak da budu obvezane ovom Konvencijom u skladu s odredbom stavka 2.
(4)Za potpisnicu koja naknadno da svoj pristanak da je Konvencija obvezuje, ona stupa na snagu prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od dana polaganja isprave o ratifikaciji, prihvaćanju ili odobrenju.
Članak 31. – Pristupanje
(1)Nakon stupanja na snagu ove Konvencije Odbor ministara Vijeća Europe može, nakon konzultacija sa strankama ove Konvencije i dobivanja njihova jednoglasnog pristanka, pozvati bilo koju zemlju nečlanicu Vijeća Europe koja nije sudjelovala u njezinoj izradi da Konvenciji pristupi odlukom koju donese većina predviđena u članku 20.d Statuta Vijeća Europe i jednoglasnom odlukom predstavnika stranaka koji imaju ovlasti biti u Odboru ministara.
(2)Za svaku zemlju pristupnicu Konvencija stupa na snagu prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma polaganja isprave o pristupanju kod glavnog tajnika Vijeća Europe.
Članak 32. – Teritorijalna primjena
(1)Svaka zemlja ili Europska unija mogu, u trenutku potpisivanja ili polaganja svoje isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju, navesti područja na kojima će se ova Konvencija primjenjivati.
(2)Svaka stranka može u bilo kojem trenutku izjavom upućenom glavnom tajniku Vijeća Europe proširiti područje primjene ove Konvencije na bilo koje drugo područje navedeno u toj izjavi. Na tom prostoru Konvencija stupa na snagu prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma na koji glavni tajnik primi tu izjavu.
(3)Svaka izjava dana u skladu s prethodna dva stavka može se povući za bilo koje područje na koje se odnosi, i to slanjem obavijesti glavnom tajniku Vijeća Europe. Povlačenje počinje proizvoditi učinke prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma na koji glavni tajnik primi takvu obavijest.
Članak 33. – Savezna klauzula
(1)Savezna država može zadržati pravo na preuzimanje obveza na temelju ove Konvencije u skladu sa svojim temeljnim načelima kojima se uređuje odnos između njezine središnje vlade i članica saveza ili drugih sličnih teritorijalnih jedinica, pod uvjetom da se ova Konvencija primjenjuje na središnju vladu savezne države.
(2)S obzirom na odredbe ove Konvencije čija je primjena u nadležnosti članica saveza ili drugih sličnih teritorijalnih jedinica koje prema ustavu saveza nisu obvezne poduzimati zakonodavne mjere, savezna vlada informira nadležna tijela tih članica o navedenim odredbama i dostavlja svoje pozitivno mišljenje, potičući ih da poduzmu odgovarajuće mjere za njihovu primjenu.
Članak 34. – Rezerve
(1)Svaka stranka Konvencije može u trenutku potpisivanja ili polaganja svoje isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju izjaviti da koristi pravo iz članka 33. stavka 1. slanjem pisane obavijesti glavnom tajniku Vijeća Europe.
(2)To je jedina dopuštena rezerva prema ovoj Konvenciji.
Članak 35. – Otkazivanje
(1)Svaka stranka može u bilo kojem trenutku otkazati ovu Konvenciju slanjem obavijesti glavnom tajniku Vijeća Europe.
(2)Takvo otkazivanje proizvodi učinak prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma na koji glavni tajnik primi obavijest.
Članak 36. – Obavješćivanje
Glavni tajnik Vijeća Europe obavješćuje države članice Vijeća Europe, zemlje nečlanice koje su sudjelovale u sastavljanju ove Konvencije, Europsku uniju, sve potpisnice, sve zemlje ugovornice, sve strane i sve zemlje pozvane na pristupanje ovoj Konvenciji o:
(a)svakom potpisivanju;
(b)polaganju svake isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju;
(c)svakom datumu stupanja na snagu ove Konvencije u skladu s člankom 30. stavcima 3. i 4. i člankom 31. stavkom 2.;
(d)svakoj izmjeni u skladu s člankom 28. i datumu na koji ta izmjena stupa na snagu;
(e)svakoj izjavi podnesenoj u skladu s člankom 3. stavkom 1. podstavkom (b);
(f)svakoj rezervi ili povlačenju rezerve u skladu s člankom 34.;
(g)svakom otkazivanju u skladu s člankom 35.;
(h)svakom drugom činu, izjavi, obavijesti ili priopćenju koji se odnose na ovu Konvenciju.
U potvrdu toga dolje potpisani, propisno za to ovlašteni, potpisali su ovu Konvenciju.
Sastavljeno u [mjesto], [...datum] na engleskom i francuskom jeziku, pri čemu su oba teksta jednako vjerodostojna, u jednom primjerku, koji se pohranjuje u arhivu Vijeća Europe. Glavni tajnik Vijeća Europe dužan je dostaviti ovjerene kopije svakoj državi članici Vijeća Europe, zemljama nečlanicama koje su sudjelovale u sastavljanju ove Konvencije, Europskoj uniji i svakoj zemlji pozvanoj da pristupi Konvenciji.