EUROPSKA KOMISIJA
Bruxelles, 3.6.2025.
COM(2025) 265 final
2025/0136(NLE)
Prijedlog
ODLUKE VIJEĆA
o sklapanju, u ime Europske unije, Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
OBRAZLOŽENJE
(1)KONTEKST PRIJEDLOGA
•Razlozi i ciljevi prijedloga
Donošenjem Uredbe (EU) 2024/1689 Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji („Akt o UI-ju”) Unija je donijela prvu sveobuhvatnu regulativu u području umjetne inteligencije i postavila globalne standarde. Akt je stupio na snagu 1. kolovoza 2024. i u njemu su potpuno usklađena pravila za stavljanje na tržište, stavljanje u uporabu i korištenje sustava umjetne inteligencije u državama članicama s ciljem promicanja inovacija i uvođenja pouzdane umjetne inteligencije uz zaštitu zdravlja, sigurnosti i temeljnih prava, među kojima su demokracija, vladavina prava i okoliš.
Razne međunarodne organizacije, uključujući Vijeće Europe, također su intenzivirale rad na reguliranju umjetne inteligencije, svjesne njezine prekogranične prirode i potrebe za međunarodnom suradnjom u pronalaženju rješenja za zajedničke probleme koji nastaju zbog tih tehnologija.
Odbor za umjetnu inteligenciju Vijeća Europe od lipnja 2022. do ožujka 2024. razradio je pravno obvezujuću Okvirnu konvenciju (dalje u tekstu „Konvencija”) u kojoj su obuhvaćeni potencijalni rizici koje UI predstavlja za ljudska prava, demokraciju i vladavinu prava.
Odbor ministara Vijeća Europe prihvatio je tekst Konvencije 17. svibnja 2024. i složio se da je otvori za potpisivanje 5. rujna 2024. u Vilniusu u Litvi. Pozvao je članice Vijeća Europe, treće zemlje koje su sudjelovale u sastavljanju Konvencije i Uniju da razmotre mogućnost njezina potpisivanja na tom sastanku i podsjetio da Konvenciji mogu pristupiti i zemlje koje nisu članice EU-a.
Unija je Konvenciju potpisala 5. rujna 2024. nakon donošenja Odluke Vijeća (EU) 2024/2218 od 28. kolovoza 2024. o potpisivanju, u ime Europske unije, Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava. Konvenciju su tom prilikom potpisali i Andora, Crna Gora, Gruzija, Island, Izrael, Norveška, Republika Moldova, San Marino, Ujedinjena Kraljevina i Sjedinjene Američke Države. Otvorena je za potpisivanje drugim državama članicama Vijeća Europe i državama nečlanicama koje su sudjelovale u njezinoj izradi. Od njezina stupanja na snagu Odbor ministara Vijeća Europe može, u skladu s postupkom iz članka 31. Konvencije, pozvati bilo koju državu koja nije članica Vijeća Europe, a nije sudjelovala u izradi ove Konvencije, da joj pristupi.
U tom kontekstu svrha je ovog prijedloga odluke Vijeća pokrenuti postupak sklapanja Konvencije u ime Unije pod uvjetima utvrđenima u Odluci Vijeća 2024/2218 o odobravanju njezina potpisivanja. Sklapanje prvog međunarodnog sporazuma o umjetnoj inteligenciji vrijedna je prilika da Unija potakne zajednički pristup regulaciji umjetne inteligencije na međunarodnoj razini i izradi okvir za suradnju s članicama Vijeća Europe i trećim zemljama koje postanu stranke Konvencije.
·Sadržaj Konvencije
Cilj Konvencije je zajamčiti da su aktivnosti u životnom vijeku sustava umjetne inteligencije potpuno kompatibilne s ljudskim pravima, demokracijom i vladavinom prava.
Stranke Konvencije trebat će je provoditi donošenjem odgovarajućih pravnih, administrativnih i drugih mjera kako bi se njezine odredbe primijenile u praksi, pri čemu pristup mora biti postupan i diferenciran, ovisno o težini i vjerojatnosti negativnih posljedica. U Uniji bi se Konvencija trebala provoditi isključivo Aktom o UI-ju, koji sadržava potpuno usklađena pravila za stavljanje na tržište, stavljanje u uporabu i korištenje sustava umjetne inteligencije, i, ovisno o slučaju, drugom relevantnom pravnom stečevinom Unije.
Područje primjene Konvencije obuhvaća sustave umjetne inteligencije koji potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava, pri čemu se primjenjuje diferencirani pristup. Načela i obveze iz Konvencije primjenjuju se na aktivnosti javnih tijela i privatnih subjekata koji rade u njihovo ime u životnom vijeku sustava umjetne inteligencije. Kad je riječ o privatnom sektoru, stranke su dužne uzeti u obzir rizike i posljedice koji proizlaze iz aktivnosti privatnih subjekata u životnom vijeku sustava umjetne inteligencije na način koji je u skladu s ciljem i svrhom Konvencije, ali mogu odabrati hoće li primjenjivati obveze iz Konvencije ili poduzeti druge odgovarajuće mjere. Ovom je prijedlogu odluke Vijeća priložen nacrt izjave da se Unija kroz Akt o UI-ju i drugu relevantnu pravnu stečevinu Unije obvezuje da će načela i obveze iz poglavlja od II. do VI. Konvencije primjenjivati na aktivnosti privatnih subjekata koji u Uniji stavljaju na tržište, stavljaju u uporabu i koriste sustave umjetne inteligencije.
Aktivnosti umjetne inteligencije koje se odnose na nacionalnu sigurnost isključene su iz područja primjene Konvencije, ali podrazumijeva se da se u svakom slučaju obavljaju u skladu s primjenjivim međunarodnim pravom o ljudskim pravima i uz poštovanje demokratskih institucija i procesa. Iz njezina područja primjene isključene su i aktivnosti istraživanja i razvoja koje se odnose na UI sustave koji još nisu dostupni za korištenje, osim ako njihovo testiranje i slične aktivnosti potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava. Prema Statutu Vijeća Europe pitanja koja se odnose na nacionalnu obranu ne spadaju u područje primjene Konvencije.
U Konvenciji su navedene opće obveze i temeljna načela, među ostalim zaštita ljudskog dostojanstva i osobne autonomije i promoviranje ravnopravnosti i nediskriminacije. Uz to se traži poštovanje privatnosti i zaštite osobnih podataka te transparentnost i nadzor kako bi se zajamčilo preuzimanje odgovornosti. Jedno od načela je sigurno inoviranje i eksperimentiranje u kontroliranim okruženjima.
Jedno je poglavlje posvećeno pravnim lijekovima. U njemu je opisan skup mjera čiji je cilj dostupnost pristupačnih i djelotvornih pravnih lijekova za povrede ljudskih prava nastale zbog aktivnosti u životnom ciklusu sustava umjetne inteligencije. Definirana su djelotvorna proceduralna jamstva i zaštitne mjere za osobe na čija prava znatno utječe korištenje sustava umjetne inteligencije. Fizičke osobe ujedno bi trebale biti obaviještene o tome da su u interakciji sa sustavom umjetne inteligencije, a ne s ljudskim bićem.
Jedno poglavlje Konvencije sadržava mjere za procjenjivanje i ublažavanje rizika i negativnih posljedica koje se trebaju provoditi iterativno s ciljem utvrđivanja stvarnih i potencijalnih utjecaja na ljudska prava, demokraciju i vladavinu prava i poduzimanja primjerenih mjera prevencije i ublažavanja.
U Konvenciji se navodi i da bi stranke trebale procjenjivati treba li uvesti zabranu ili moratorij za neke primjene sustava umjetne inteligencije koje se smatraju nespojivima s poštovanjem ljudskih prava, funkcioniranjem demokracije ili vladavinom prava.
U Konvenciji je utvrđen mehanizam za praćenje u okviru Konferencije stranaka, čiji su članovi zastupnici stranaka koji će se redovito konzultirati kako bi olakšali djelotvornu primjenu i provedbu Konvencije.
Predviđen je i mehanizam za međunarodnu suradnju među strankama Konvencije i u odnosima s trećim zemljama i relevantnim dionicima kako bi se postigla svrha Konvencije.
Svaka stranka trebala bi na nacionalnoj razini uspostaviti ili odrediti djelotvorne mehanizme za nadzor poštovanja obveza na temelju Konvencije, kako ih stranke primjenjuju.
•Dosljednost s postojećim odredbama politike u tom području
U Konvenciji su utvrđene opće obveze i načela za zaštitu ljudskih prava, demokracije i vladavine prava koji su potpuno dosljedni i usklađeni s ciljevima Akta o umjetnoj inteligenciji i detaljnim zahtjevima za UI sustave i obvezama propisanima dobavljačima i subjektima koji uvode takve sustave.
Definicija UI sustava u Konvenciji potpuno je usklađena s definicijom iz Akta o UI-ju jer se obje temelje na definiciji takvih sustava iz načela za umjetnu inteligenciju Organizacije za gospodarsku suradnju i razvoj, čime se postiže zajedničko poimanje toga koje digitalne tehnologije čine UI.
Za potrebe reguliranja UI sustava i u Konvenciji i u Aktu o UI-ju primjenjuje se pristup temeljen na riziku. Oba akta sadržavaju posebne odredbe o procjenjivanju rizika i posljedica i o mjerama za ublažavanje rizika. Sam Akt o UI-ju navodi brojne bitne zabrane i visokorizične primjene za UI sustave u svim javnim i privatnim sektorima, među ostalim u području demokracije i pravosuđa. U tom aktu detaljno su utvrđena pravila i postupci za razvoj, stavljanje na tržište i uvođenje UI sustava u tim područjima koji će osigurati da se temeljna prava, demokracija i vladavina prava poštuju u cijelom životnom vijeku UI sustava.
Konvencija sadržava načela i obveze već utvrđene u Aktu o UI-ju, npr. mjere za zaštitu ljudskih prava, sigurnost, pouzdanost, odgovornost, upravljanje podacima, zaštitu podataka, transparentnost, nadzor, ravnopravnost, nediskriminaciju, digitalne vještine i digitalnu pismenost.
Transparentnost je jedan od zajedničkih elemenata tih pravnih instrumenata, uključujući mjere za identifikaciju sadržaja generiranog umjetnom inteligencijom i upozoravanje osoba da su u interakciji s UI sustavima. Oba pravna instrumenta uključuju i relevantne odredbe o procjenjivanju rizika i posljedica, upravljanju rizicima, evidenciji, davanju informacija (ovlaštenim tijelima i, ovisno o slučaju, zahvaćenim osobama), sljedivosti, objašnjivosti, sigurnom inoviranju i eksperimentiranju u kontroliranim okruženjima te skup mjera koje omogućuju djelotvorne pravne lijekove, uključujući pravo na traženje i dobivanje informacija i podnošenje pritužbe nadležnom tijelu i postupovna jamstva.
Sustav nadzora predviđen u Konvenciji potpuno je dosljedan sa sveobuhvatnim sustavom upravljanja i praktične provedbe iz Akta o UI-ju sastavljenim od provedbenih mjera na nacionalnoj razini i na razini Unije s postupcima za dosljednu provedbu propisa Unije u svim državama članicama. U Konvenciji je predviđeno da postoji najmanje jedan djelotvoran nadzorni mehanizam na nacionalnoj razini koji je neovisan, nepristran i s dovoljnim ovlastima, stručnosti i resursima za djelotvorno obavljanje zadaće nadzora poštovanja obveza na temelju Konvencije, kako ih stranke primjenjuju.
Akt o UI-ju primjenjivat će se na UI sustave koji se stavljaju na tržište, stavljaju u uporabu ili koriste u Uniji. Geografsko područje primjene Konvencije je veće i obuhvaća zemlje članice Vijeća Europe i treće zemlje, koje mogu postati stranke Konvencije. Kao prvi međunarodni pravno obvezujući sporazum čija je osnova pristup reguliranju UI-ja koji se temelji na strogoj zaštiti ljudskih prava, Konvencija stvara jedinstvenu priliku da se izvan Unije potiče stvaranje UI-ja u koje se može imati povjerenje.
Konvencija i Akt o umjetnoj inteligenciji su temeljni dio regulatornog pristupa UI-ju s dosljednim i međusobno podupirućim obvezama na više međunarodnih razina. Zajednički im je cilj zajamčiti da se u umjetnu inteligenciju može imati povjerenje.
•Dosljednost u odnosu na druge politike Unije
Konvencija ima zajedničke ciljeve s drugim politikama i zakonodavstvom Unije o zaštiti i poštovanju temeljnih prava iz Povelje Europske unije o temeljnim pravima.
Konkretno, načelo ravnopravnosti i nediskriminacije u Povelji potpuno je dosljedno sa zakonodavstvom Unije o nediskriminaciji. To načelo podupire uvođenje elemenata ravnopravnosti u projektiranje, razvoj i korištenju UI sustava i efektivnu provedbu zabrane diskriminacije, kako je propisano na temelju primjenjivog međunarodnog i nacionalnog prava stranaka.
Konvencija je ujedno dosljedna s pravnom stečevinom Unije u području zaštite podataka, uključujući Opću uredbu o zaštiti podataka u pitanju temeljnih prava na privatnost i zaštitu osobnih podataka s djelotvornim jamstvima i zaštitnim mjerama koje moraju postojati za fizičke osobe, u skladu s primjenjivim nacionalnim i međunarodnim pravnim obvezama stranaka.
Mjere Konvencije namijenjene za zaštitu demokratskih procesa stranki u kontekstu aktivnosti u životnom vijeku UI sustava potpuno su dosljedne s ciljevima i detaljnim pravilima Akta o digitalnim uslugama (i Kodeksa ponašanja u suzbijanju dezinformacija), koji regulira pružanje posredničkih usluga u Uniji s ciljem jamčenja sigurnog, predvidivog i pouzdanog virtualnog okruženja u kojem se poštuju temeljna prava, uključujući pravo na slobodu izražavanja i na primanje i davanje informacija. Dosljedne su i s Uredbom o transparentnosti i ciljanju u političkom oglašavanju, koja sadržava specifičan zahtjev u pogledu transparentnosti kad se UI sustavi upotrebljavaju za diseminaciju političkih oglasa. U skladu su i s Unijinim politikama u području demokracije, slobodnih, poštenih izbora i otpornosti izbornih procesa, među ostalim s Akcijskim planom za europsku demokraciju 2020., paketom mjera za jačanje demokracije i integriteta izbora i nedavno donesenim paketom mjera za obranu demokracije 2023.
Konvencija je u skladu s općom digitalnom strategijom Unije jer pridonosi promicanju tehnologije u interesu građana, što je jedan od tri glavna stupa smjera i ciljeva politike najavljenih u komunikaciji „Izgradnja digitalne budućnosti Europe”. Cilj je te komunikacije da se umjetna inteligencija razvija tako da se poštuju ljudska prava i stječe povjerenje građana kako bi se Europu pripremilo za digitalno doba i kako bi se naredne godine mogle nazvati digitalnim desetljećem.
Europska deklaracija o digitalnim pravima i načelima za digitalno desetljeće navodi digitalna prava i načela koja su u skladu s ciljevima i načelima Konvencije. U oba se instrumenta promiče pristup tehnologiji koji se temelji na strogoj zaštiti ljudskih prava.
Konvencija je dosljedna i u skladu sa Strategijom EU-a o pravima djeteta i Europskom strategijom za bolji internet za djecu (BIK+), čiji je cilj osigurati zaštitu, poštovanje i bolju spremnost djece na internetu da se nose s novim virtualnim svjetovima i UI-jem.
2.PRAVNA OSNOVA, SUPSIDIJARNOST I PROPORCIONALNOST
•Pravna osnova
Prijedlog odluke kojom se ovlašćuje sklapanje Konvencije u ime Europske unije podnosi se Vijeću na temelju članka 218. stavka 6. točke (a) podtočke v. UFEU-a.
Postupovnom pravnom osnovom Odluke Vijeća, odnosno člankom 218. stavkom 6. točkom (a) podtočkom v. UFEU-a, utvrđeno je da Vijeće donosi odluku o sklapanju sporazuma na prijedlog Komisije kao pregovarača i, ako sporazum obuhvaća područje za koje se primjenjuje redovni zakonodavni postupak, uz prethodnu suglasnost Europskog parlamenta. Člankom 218. stavkom 8. prvim podstavkom UFEU-a utvrđeno je da Vijeće donosi odluke kvalificiranom većinom.
Materijalna pravna osnova za odluku na temelju članka 218. stavka 6. točke (a) podtočke v. UFEU-a prije svega ovisi o cilju i sadržaju sporazuma. U skladu sa sudskom praksom, ako se ispitivanjem mjere EU-a utvrdi da ona ima dvostruku svrhu ili dvostruku komponentu i ako se može utvrditi da je jedna svrha ili komponenta glavna ili prevladavajuća, a druga tek sporedna, ta se mjera mora temeljiti na jedinstvenoj pravnoj osnovi, to jest onoj koja je potrebna za glavnu ili prevladavajuću svrhu odnosno komponentu. Iznimno, ako se s druge strane utvrdi da mjera istodobno slijedi više ciljeva ili da ima više sastavnih dijelova koji su neodvojivo povezani, a nijedan nije akcesoran u odnosu na drugi tako da su primjenjive različite odredbe Ugovora, takva se mjera mora temeljiti na različitim odgovarajućim pravnim osnovama.
Kad je riječ o materijalnoj pravnoj osnovi, materijalno područje primjene Konvencije obuhvaćeno je onim Akta o UI-ju, među ostalim po tome što su iz područja primjene izuzeti UI sustavi koji se koriste isključivo za aktivnosti istraživanja i razvoja, nacionalne sigurnosti te vojne aktivnosti. Prethodna analiza pokazala je, među ostalim, da su načela i obveze iz Konvencije u velikoj mjeri obuhvaćeni i preklapaju se s detaljnijim zahtjevima za UI sustave i specifičnim obvezama dobavljača i subjekata koji uvode takve sustave propisanima Aktom o UI-ju. Ako Vijeće prihvati predloženu odluku pa Unija sklopi Konvenciju, Akt o UI-ju bit će primarno zakonodavstvo EU-a kojim će se Konvencija integrirati u njegov pravni poredak, s potpuno usklađenim pravilima za stavljanje na tržište, stavljanje u upotrebu i korištenje UI sustava u Uniji koja se izravno primjenjuju u svim državama članicama, osim ako je u Aktu o UI-ju izričito propisano drugačije.
Budući da su područje primjene i ciljevi Konvencije u skladu i potpuno dosljedni s područjem primjene i ciljevima Akta o UI-ju i da se ti pravni instrumenti znatno preklapaju, materijalna pravna osnova za pristupanje Konvenciji je članak 114. UFEU-a, koji je primarna pravna osnova Akta o UI-ju.
Priroda međunarodnih sporazuma („samo EU” ili „mješoviti”) ovisi o spojivosti konkretnog predmeta s isključivim ili podijeljenim nadležnostima EU-a.
U članku 3. stavku 2. UFEU-a propisano je da Unija ima isključivu nadležnost „za sklapanje međunarodnog sporazuma [...] u mjeri u kojoj bi njegovo sklapanje moglo utjecati na zajednička pravila ili izmijeniti njihov opseg”. Međunarodni sporazum može utjecati na zajednička pravila ili izmijeniti njihov opseg kad se područje obuhvaćeno sporazumom preklapa s pravom Unije ili je u velikoj mjeri njime obuhvaćeno.
Osobno područje primjene Konvencije potpuno je u skladu s Aktom o UI-ju po tome što oba pravna instrumenta barem načelno obuhvaćaju javne i privatne subjekte (opcionalna primjena načela i obveza iz Konvencije na privatne subjekte koji ne rade u ime javnih tijela), a iz materijalnog područja primjene oba instrumenta od primjene propisa izuzete su aktivnosti umjetne inteligencije koje se isključivo odnose na nacionalnu sigurnost, vojsku i istraživanje.
Budući da se i osobno i materijalno područje primjene Konvencije i Akta o UI-ju preklapaju, pristupanje Konvenciji može utjecati na zajednička pravila Unije ili izmijeniti njihov opseg u smislu članka 3. stavka 2. UFEU-a. Stoga bi se trebalo smatrati da Unija ima isključivu vanjsku nadležnost za sklapanje Konvencije te bi Konvenciju trebalo sklopiti u ime Unije kao sporazum koji sklapa samo EU jer je potpisana na temelju ovlaštenja danog Odlukom Vijeća (EU) 2024/2218.
•Proporcionalnost
Stvaranjem dosljednog pristupa reguliranju UI-ja na međunarodnoj razini Konvencija ne prelazi ono što je potrebno za postizanje predmetnih ciljeva politike.
Konvencija definira opći pravni okvir za UI koji omogućuje fleksibilnost i strankama prepušta da same koncipiraju provedbene okvire. Pristup temeljen na riziku jamči proporcionalnost propisa i omogućuje da se provedbene mjere razlikuju proporcionalno rizicima, slično kao u Aktu o UI-ju.
•Odabir instrumenta
Odabrani instrument je prijedlog odluke Vijeća na temelju članka 218. stavka 6. točke (a) podtočke v. UFEU-a.
3.REZULTATI EX POST EVALUACIJA, SAVJETOVANJA S DIONICIMA I PROCJENA UČINKA
•Temeljna prava
Cilj je Konvencije pronaći rješenja za potencijalne rizike i štete za ljudska prava tako što će osigurati da su aktivnosti u životnom vijeku UI sustava u skladu s načelima poštovanja ljudskih prava, demokracije i vladavine prava i istovremeno uzeti u obzir potencijal UI-ja za zaštitu i ostvarivanje tih prava u digitalnom okruženju i za poboljšavanje dobrobiti po društvo i okoliš i tehnološkog napretka.
Cilj je konkretnih načela i obveza predviđenih u Konvenciji zaštita i poštovanje ljudskih prava, koja su utvrđena u brojnim međunarodnim i regionalnim instrumentima koji se primjenjuju na stranke, uključujući Povelju Europske unije o temeljnim pravima i međunarodne instrumente o temeljnim pravima kojima je Unija pristupila.
Konvencija uvodi minimalni zajednički standard za zaštitu ljudskih prava u kontekstu UI-ja, a pri tome čuva postojeću zaštitu ljudskih prava i omogućava strankama da je prošire strožim zaštitnim mjerama.
4.UTJECAJ NA PRORAČUN
Konvencija predviđa da će zemlje nečlanice Konferencije stranaka davati financijske doprinose. Sve zemlje članice Vijeća Europe doprinosit će na uobičajeni način proračunu u skladu sa Statutom Vijeća Europe, a stranke koje to nisu davat će izvanproračunske doprinose. Doprinos stranke koja nije članica Vijeća Europe dogovorit će zajednički ta zemlja i Odbor ministara.
Konvencija ne zadire u nacionalne zakone i propise stranaka koji se odnose na proračunske ovlasti i administrativne postupke odobravanja proračunskih sredstava. Okvirnom konvencijom nije propisan oblik u kojem se moraju utvrditi doprinosi, uključujući iznose i modalitete, stranaka koje nisu članice Vijeća Europe. Pravna osnova za doprinos tih stranaka bit će Okvirna konvencija i akt ili akti kojima je utvrđen taj doprinos.
5.DRUGI ELEMENTI
•Planovi provedbe i mehanizmi praćenja, evaluacije i izvješćivanja
Konferencija stranaka sastavljena od predstavnika stranaka pratit će provode li stranke Konvenciju djelotvorno i davati preporuke u tu svrhu. Konferencija stranaka razmotrit će i moguće izmjene Konvencije.
U roku od prve dvije godine od pristupanja svaka stranka dužna je Konferenciji stranaka dostaviti izvješće s detaljnim pregledom mjera poduzetih radi provedbe Konvencije. Nakon toga podnosit će to izvješće u redovitim intervalima. Stranke se potiču na suradnju u ostvarivanju ciljeva Konvencije. Ta međunarodna suradnja može uključivati razmjenu relevantnih informacija o UI-ju i potencijalu UI-ja da pozitivno i negativno utječe na ljudska prava, demokraciju i vladavinu prava.
Da bi se zajamčilo praćenje i provedba Konvencije, svaka stranka trebat će definirati barem jedan djelotvorni nadzorni mehanizam na nacionalnoj razini. Komisija će na razini Unije osigurati praćenje i provedbu Konvencije u skladu s Ugovorima.
Uvodne izjave ovog prijedloga za sklapanje Konvencije potvrđuju da bi u skladu s člankom 218. stavkom 9. UFEU-a Vijeće trebalo na prijedlog Komisije donijeti odluke kojima se utvrđuju stajališta koja u ime Unije treba zauzeti u Konferenciji stranaka kad je to tijelo pozvano donositi akte koji proizvode pravne učinke, osobito poslovnik Konferencije stranaka. Tijekom pregovora o tom poslovniku, kojeg treba donijeti konsenzusom u roku od 12 mjeseci od stupanja na snagu Konvencije, Unija će nastojati osigurati da joj se dodijeli 27 glasova, koji odražavaju broj njezinih država članica. U slučaju da se Uniji dodijeli 27 glasova, Komisija, koja predstavlja Uniju, nastojat će osigurati pojačanu koordinaciju s državama članicama radi izražavanja jedinstvenih stajališta prije Konferencije stranaka i ostvarivanja svojeg prava glasa u ime Unije. Ta pojačana koordinacija posebno je relevantna s obzirom na to da su sve države članice ujedno članice Vijeća Europe te imajući u vidu prirodu umjetne inteligencije koja se brzo mijenja, kao i potrebu za koherentnim globalno primjenjivim okvirom u tom području. Kako bi se postigla pojačana koordinacija, Vijeće bi trebalo sudjelovati u oblikovanju svih stajališta bez obzira na njihovu prirodu, među ostalim onih na temelju članka 16. stavka 1. UEU-a i članka 218. stavka 9. UFEU-a. Ako Unija unatoč svim nastojanjima ne uspije postići dodjelu 27 glasova, kako bi se osiguralo da Unija ima broj glasova koji odražava njezinu važnost u Vijeću Europe i koji joj omogućuje da na odgovarajući način brani svoje interese, Komisija će predložiti da države članice budu ovlaštene, na temelju članka 2. stavka 1. UFEU-a i uz potpuno poštovanje isključive nadležnosti Unije, pristupiti Konvenciji zajedno s Unijom.
Komisija će pozvati svaku državu članicu da pošalje jednog predstavnika koji će pratiti predstavništvo Komisije kao dio delegacije Unije na sastancima Konferencije stranaka. Treba poštovati načelo lojalne suradnje.
2025/0136 (NLE)
Prijedlog
ODLUKE VIJEĆA
o sklapanju, u ime Europske unije, Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
VIJEĆE EUROPSKE UNIJE,
uzimajući u obzir Ugovor o funkcioniranju Europske unije, a posebno njegov članak 114., u vezi s člankom 218. stavkom 6. točkom (a) podtočkom v.,
uzimajući u obzir prijedlog Europske komisije,
uzimajući u obzir suglasnost Europskog parlamenta,
budući da:
(1)U skladu s Odlukom Vijeća (EU) 2024/2218 Okvirna konvencija Vijeća Europe o umjetnoj inteligenciji i ljudskim pravima, demokraciji i vladavini prava („Konvencija”) potpisana je 5. rujna 2024. u ime Europske unije, podložno njezinu kasnijem sklapanju.
(2)U Konvenciji su utvrđeni opća načela i obveze koje su njezine stranke trebaju poštovati radi osiguravanja zaštite ljudskih prava, demokracije i vladavine prava s obzirom na aktivnosti unutar životnog ciklusa sustavâ umjetne inteligencije („UI sustavi”).
(3)Europski parlament i Vijeće su 13. lipnja 2024. donijeli, na temelju članaka 16. i 114. Ugovora o funkcioniranju Europske unije (UFEU), Uredbu (EU) 2024/1689 Europskog parlamenta i Vijeća, koja sadržava usklađena pravila, koja se općenito temelje na potpunom usklađivanju, a koja uređuju stavljanje na tržište, stavljanje u upotrebu i korištenje UI sustava u Uniji. Ta se pravila izravno primjenjuju u državama članicama, osim ako je u toj uredbi izričito propisano drugačije. Konvencija se u Uniji treba provoditi isključivo putem Uredbe (EU) 2024/1689 Europskog parlamenta i Vijeća i, ako je primjenjivo, druge relevantne pravne stečevine Unije.
(4)Aktivnosti unutar životnog ciklusa UI sustavâ povezane sa zaštitom interesa nacionalne sigurnosti isključene su iz područja primjene Konvencije. Uredbom (EU) 2024/1689 Europskog parlamenta i Vijeća, koja će biti glavni pravni akt Unije za provedbu Konvencije, isključeni su iz njezina područja primjene i UI sustavi koji se stavljaju na tržište, u upotrebu ili koji se upotrebljavaju, s izmjenama ili bez njih, isključivo u svrhe povezane s nacionalnom sigurnošću, te izlazne vrijednosti UI sustava koje se upotrebljavaju u Uniji isključivo u te svrhe, neovisno o vrsti subjekta koji obavlja te aktivnosti. Nadalje, nacionalna sigurnost ostaje isključiva odgovornost svake države članice kako je predviđeno u članku 4. stavku 2. Ugovora o Europskoj uniji (UEU). Stoga bi stajalište Unije koje treba izraziti na Konferenciji stranaka uspostavljenom Konvencijom trebalo poštovati navedene granice. Komisija bi se osobito trebala suzdržati od rasprave o aktivnostima unutar životnog ciklusa UI sustavâ povezanima sa zaštitom interesa nacionalne sigurnosti ili zauzimanja stajališta o njima na sastancima Konferencije stranaka.
(5)Budući da se osobno i materijalno područje primjene Konvencije te materijalne odredbe Konvencije u velikoj mjeri podudaraju s Uredbom (EU) 2024/1689 Europskog parlamenta i Vijeća, koja je dopunjena drugom relevantnom pravnom stečevinom Unije, sklapanje Konvencije može utjecati na zajednička pravila Unije ili izmijeniti njihov opseg u smislu članka 3. stavka 2. UFEU-a. Druga relevantna pravna stečevina Unije uključuje pravne akte o zaštiti i poštovanju temeljnih prava iz Povelje Europske unije o temeljnim pravima, primjerice propise Unije o nediskriminaciji, uključujući direktive Vijeća 2000/43/EZ i 2000/78/EZ, pravnu stečevinu Unije o zaštiti osobnih podataka, uključujući uredbe (EU) 2016/679 i (EU) 2022/2065 Europskog parlamenta i Vijeća, čiji je cilj sigurno, predvidljivo i pouzdano internetsko okruženje u kojem se poštuju temeljna prava, uključujući pravo na slobodu izražavanja i pravo na primanje i širenje informacija, Uredbu (EU) 2024/900 Europskog parlamenta i Vijeća o političkom oglašavanju te propise o sigurnosti proizvoda i o odgovornosti za neispravne proizvode, uključujući Direktivu Vijeća 85/374/EEZ. Unija stoga ima isključivu vanjsku nadležnost za sklapanje Konvencije. Stoga bi samo Unija trebala postati stranka Konvencije.
(6)Konferencija stranaka imat će važnu ulogu u djelotvornoj provedbi Konvencije, među ostalim davanjem posebnih preporuka u pogledu njezina tumačenja i primjene. Konferencija stranaka razmotrit će i moguće izmjene Konvencije. U skladu s člankom 218. stavkom 9. UFEU-a Vijeće bi na prijedlog Komisije trebalo donijeti odluke kojima se utvrđuju stajališta koja u ime Unije treba zauzeti u Konferenciji stranaka kada je to tijelo pozvano donositi akte koji proizvode pravne učinke, osobito poslovnik Konferencije stranaka. Tijekom pregovora o tom poslovniku, kojeg treba donijeti konsenzusom u roku od 12 mjeseci od stupanja na snagu Konvencije, Unija će nastojati osigurati da joj se dodijeli 27 glasova, koji odražavaju broj njezinih država članica. U slučaju da se Uniji dodijeli 27 glasova, Komisija, koja predstavlja Uniju, trebala bi osigurati pojačanu koordinaciju s državama članicama radi izražavanja jedinstvenih stajališta u Konferenciji stranaka i ostvarivanja svojeg prava glasa u ime Unije. Ta pojačana koordinacija posebno je relevantna jer su sve države članice ujedno članice Vijeća Europe te imajući u vidu prirodu umjetne inteligencije koja se brzo mijenja, kao i potrebu za koherentnim globalno primjenjivim okvirom u tom području. Kako bi se postigla pojačana koordinacija, Vijeće bi trebalo sudjelovati u oblikovanju svih stajališta bez obzira na njihovu prirodu, među ostalim onih na temelju članka 16. stavka 1. UEU-a i članka 218. stavka 9. UFEU-a. Ako Unija unatoč svim nastojanjima ne uspije postići dodjelu 27 glasova, kako bi se osiguralo da Unija ima broj glasova koji odražava njezinu važnost u Vijeću Europe i koji joj omogućuje da na odgovarajući način brani svoje interese, Komisija bi trebala predložiti da države članice budu ovlaštene, na temelju članka 2. stavka 1. UFEU-a i uz potpuno poštovanje isključive nadležnosti Unije, pristupiti Konvenciji zajedno s Unijom.
(7)Komisija će pozvati svaku državu članicu da pošalje jednog predstavnika koji će pratiti predstavništvo Komisije kao dio delegacije Unije na sastancima Konferencije stranaka. Treba poštovati načelo lojalne suradnje.
(8)U pogledu svih drugih sporazuma koji bi se mogli sklopiti u budućnosti pod pokroviteljstvom Vijeća Europe ili na drugim međunarodnim forumima, među ostalim u području umjetne inteligencije, kao i u pogledu svih izmjena Konvencije, podjelu vanjskih nadležnosti između Unije i država članica trebalo bi ocijeniti s obzirom na specifične značajke svakog takvog instrumenta. Iznimno je važno da Unija i njezine države članice i dalje imaju izravnu i aktivnu ulogu u izražavanju glasa Unije i obrani njegovih interesa na dosljedan i koordiniran način, u potpunosti u skladu s Ugovorima.
(9)Konvenciju bi trebalo odobriti u ime Unije,
DONIJELO JE OVU ODLUKU:
Članak 1.
Odobrava se sklapanje Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava („Konvencija”) u ime Unije.
Tekst Konvencije koja se sklapa priložen je ovoj Odluci kao Prilog I.
Članak 2.
Izjave koje se dostavljaju glavnom tajniku Vijeća Europe, priložene ovoj Odluci u Prilogu II., odobravaju se u ime Unije.
Članak 3.
Konvencija se u Uniji provodi isključivo putem Uredbe (EU) 2024/1689 Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i, ako je primjenjivo, druge relevantne pravne stečevine Unije.
Članak 4.
Ova Odluka stupa na snagu […].
Sastavljeno u Bruxellesu
Za Vijeće
Predsjednik
EUROPSKA KOMISIJA
Bruxelles, 3.6.2025.
COM(2025) 265 final
PRILOZI
Prijedlogu odluke Vijeća
o sklapanju, u ime Europske unije, Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
PRILOG I.
Tekst Okvirne konvencije Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava
Vilnius, 5. rujna 2024.
Preambula
Zemlje članice Vijeća Europe i druge potpisnice ove Konvencije,
Imajući u vidu da je cilj Vijeća Europe postići veće jedinstvo među članicama, posebno na temelju poštovanja ljudskih prava, demokracije i vladavine prava;
Prepoznajući važnost poticanja suradnje među strankama Konvencije i proširenja takve suradnje na druge zemlje koje dijele iste vrijednosti;
Svjesne sve bržeg razvoja znanosti i tehnologije i suštinskih promjena koje proizlaze iz takvih aktivnosti u životnom vijeku sustava umjetne inteligencije s potencijalom da ubrzavanjem napretka i inovacija dovedu do poboljšanja ljudskog blagostanja i društvene dobrobiti, održivog razvoja, rodne ravnopravnosti i osnaživanja svih žena i djevojčica i drugih važnih ciljeva i interesa;
Imajući u vidu da aktivnosti u životnom vijeku sustava umjetne inteligencije mogu ponuditi dosad neviđene prilike za promicanje i zaštitu ljudskih prava, demokracije i vladavine prava;
Zabrinute da neke aktivnosti u životnom vijeku sustava umjetne inteligencije mogu ugroziti ljudsko dostojanstvo, osobnu autonomiju, ljudska prava, demokraciju i vladavinu prava;
Zabrinute zbog opasnosti od diskriminacije u digitalnom kontekstu, posebno u vezi sa sustavima umjetne inteligencije, i njezina potencijala za stvaranje ili pogoršanje nejednakosti, među ostalim onih kakve doživljavaju žene i pojedinci u ranjivom položaju u ostvarivanju svojih ljudskih prava i punog, ravnopravnog i stvarnog sudjelovanja u gospodarskim, društvenim, kulturnim i političkim pitanjima;
Zabrinute zbog zlouporabe sustava umjetne inteligencije i protivne iskorištavanju takvih sustava za represiju kojom se krši međunarodno pravo o ljudskim pravima, uključujući arbitraran ili nezakonit nadzor i cenzure koje narušavaju privatnost i osobnu autonomiju;
Svjesne da su ljudska prava, demokracija i vladavina prava suštinski povezani;
Uvjerene da je potrebno prioritetno uspostaviti globalno primjenjiv pravni okvir sa zajedničkim općim načelima i pravilima kojima se uređuju aktivnosti u životnom vijeku sustava umjetne inteligencije kojim će se djelotvorno čuvati zajedničke vrijednosti i iskoristiti prednosti umjetne inteligencije za promicanje tih vrijednosti na način pogodan za odgovorno inoviranje;
Prepoznajući potrebu za promicanjem digitalne pismenosti, znanja i povjerenja u projektiranje, razvoj, korištenje i rashodovanje sustava umjetne inteligencije;
Imajući u vidu okvirnost ove Konvencije, koja se može dopuniti dodatnim instrumentima za rješavanje specifičnih problema koji se odnose na aktivnosti u životnom vijeku sustava umjetne inteligencije;
Ističući da je svrha Konvencije obraditi konkretna pitanja koja se javljaju u cijelom životnom vijeku sustava umjetne inteligencije i potaknuti razmatranje općenitijih rizika i posljedica povezanih s tim tehnologijama, uključujući rizike za ljudsko zdravlje i okoliš, i društveno-gospodarskih aspekata, kao što su zapošljavanje i rad;
Uzimajući u obzir relevantan rad koji druge međunarodne i nadnacionalne organizacije i forumi ulažu u međunarodno razumijevanje i suradnju u području umjetne inteligencije;
Imajući u vidu primjenjive međunarodne instrumente za zaštitu ljudskih prava, kao što su Opća deklaracija o pravima čovjeka iz 1948., Europska konvencija za zaštitu ljudskih prava i temeljnih sloboda iz 1950. (ETS br. 5), Međunarodni pakt o građanskim i političkim pravima iz 1966., Međunarodni pakt o gospodarskim, socijalnim i kulturnim pravima iz 1966., Europska socijalna povelja iz 1961. (ETS br. 35) i njihovi protokoli i Europska socijalna povelja (revidirana) iz 1996. (ETS br. 163);
Imajući u vidu Konvenciju Ujedinjenih naroda o pravima djeteta iz 1989. i Konvenciju Ujedinjenih naroda o pravima osoba s invaliditetom iz 2006.;
Imajući u vidu prava pojedinaca na privatnost i na zaštitu osobnih podataka, kako se primjenjuju i kako su im dana, npr. Konvencijom za zaštitu osoba glede automatizirane obrade osobnih podataka iz 1981. (ETS br. 108) i njezinim protokolima;
Potvrđujući ovom Konvencijom predanost stranaka zaštiti ljudskih prava, demokracije i vladavine prava i potičući pouzdanost sustava umjetne inteligencije;
sporazumjele su se kako slijedi:
Poglavlje I. – Opće odredbe
Članak 1. Predmet i svrha
(1)Cilj je odredaba Konvencije zajamčiti da su aktivnosti u životnom vijeku sustava umjetne inteligencije potpuno kompatibilne s ljudskim pravima, demokracijom i vladavinom prava.
(2)Svaka stranka donosi ili zadržava odgovarajuće zakonodavne, administrativne ili druge mjere za provedbu odredaba ove Konvenciji. Te mjere moraju biti stupnjevane i diferencirane ovisno o težini i vjerojatnosti da će doći do negativnih posljedica za ljudska prava, demokraciju i vladavinu prava unutar cijelog životnog vijeka sustava umjetne inteligencije. To može uključivati specifične ili horizontalne mjere koje se primjenjuju neovisno o vrsti korištene tehnologije.
(3)Kako bi se osiguralo da stranke djelotvorno provode njezine odredbe, u Konvenciji se definira mehanizam za praćenje i uspostavlja međunarodna suradnja.
Članak 2. Definicija sustava umjetne inteligencije
Za potrebe ove Konvencije „sustav umjetne inteligencije” znači strojni sustav koji za eksplicitne ili implicitne ciljeve iz ulaznih vrijednosti koje prima zaključuje kako generirati izlazne vrijednosti kao što su predviđanja, sadržaj, preporuke ili odluke koji mogu utjecati na fizička ili virtualna okruženja. Sustavi umjetne inteligencije razlikuju se ovisno o stupnju autonomije i prilagodljivosti nakon uvođenja.
Članak 3. – Područje primjene
(1)Područje primjene Konvencije obuhvaća aktivnosti u životnom vijeku sustava umjetne inteligencije koje potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava.
(a)Svaka stranka primjenjuje ovu Konvenciju na aktivnosti javnih tijela i privatnih subjekata koji rade u njihovo ime u životnom vijeku sustava umjetne inteligencije.
(b)Svaka stranka dužna je uzeti u obzir rizike i posljedice koji proizlaze iz aktivnosti privatnih subjekata u životnom vijeku sustava umjetne inteligencije u mjeri u kojoj to nije obuhvaćeno u podstavku (a), pri čemu to čini u skladu s ciljem i svrhom Konvencije.
Svaka stranka u izjavi koju dostavlja glavnom tajniku Vijeća Europa u trenutku potpisivanja ili polaganja svoje isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju dužna je navesti kako namjerava provesti ovu obvezu, bilo primjenom načela i obveza utvrđenih u poglavljima od II. do VI. ove Konvencije bilo poduzimanjem drugih primjerenih mjera za ispunjavanje obveza navedenih u ovom podstavku. Stranke mogu na isti način izmijeniti svoje izjave u bilo kojem trenutku.
U izvršavanju obveza na temelju ovog podstavka stranka ne može odstupiti od svojih međunarodnih obveza preuzetih radi zaštite ljudskih prava, demokracije i vladavine prava ni ograničiti njihovu primjenu.
(2)Stranka nije obvezna primjenjivati ovu Konvenciju na aktivnosti u životnom vijeku sustava umjetne inteligencije koje se odnose na zaštitu interesa nacionalne sigurnosti, ali podrazumijeva se da se takve aktivnosti obavljaju u skladu s međunarodnim pravnim obvezama, uključujući međunarodno pravo o ljudskim pravima, i uz poštovanje demokratskih institucija i procesa.
(3)Ne dovodeći u pitanje članak 13. i članak 25. stavak 2., ova Konvencija ne primjenjuje se na aktivnosti istraživanja i razvoja koje se odnose na sustave umjetne inteligencije koji još nisu dostupni za korištenje, osim ako se njihovo testiranje i slične aktivnosti izvode tako da potencijalno zadiru u ljudska prava, demokraciju i vladavinu prava.
(4)Predmeti koji se odnose na nacionalnu obranu ne spadaju u područje primjene Konvencije.
Poglavlje II. Opće obveze
Članak 4. Zaštita ljudskih prava
Svaka stranka donosi ili zadržava mjere kako bi osigurala da su aktivnosti u životnom vijeku sustava umjetne inteligencije u skladu s obvezama zaštite ljudskih prava utvrđenima u primjenjivom međunarodnom pravu i nacionalnom pravu te stranke.
Članak 5. Integritet demokratskih procesa i poštovanje vladavine prava
(1)Svaka stranka donosi ili zadržava mjere kojima nastoji osigurati da se sustavi umjetne inteligencije ne koriste za ugrožavanje integriteta, neovisnosti i djelotvornosti demokratskih institucija i procesa, uključujući načelo diobe vlasti, poštovanje neovisnosti pravosuđa i pristup pravosuđu.
(2)Svaka stranka donosi ili zadržava mjere za zaštitu svojih demokratskih procesa u kontekstu aktivnosti u životnom vijeku sustava umjetne inteligencije, uključujući pravedan pristup pojedinaca javnoj raspravi i njihovu sposobnost slobodnog izražavanja mišljenja.
Poglavlje III. Načela koja se odnose na aktivnosti u životnom vijeku sustava umjetne inteligencije
Članak 6. Opći pristup
U ovom poglavlju utvrđuju se opća zajednička načela koja svaka stranka provodi za sustave umjetne inteligencije na način koji je u skladu s njezinim nacionalnim pravnim sustavom i drugim obvezama iz Konvencije.
Članak 7. Ljudsko dostojanstvo i osobna autonomija
Svaka stranka donosi ili zadržava mjere za poštovanje ljudskog dostojanstva i osobne autonomije u odnosu na aktivnosti u životnom vijeku sustava umjetne inteligencije.
Članak 8. Transparentnost i nadzor
Svaka stranka donosi ili zadržava mjere kako bi osigurala da su uvedeni primjereni zahtjevi za transparentnost i nadzor prilagođeni specifičnim kontekstima i rizicima za aktivnosti u životnom vijeku sustava umjetne inteligencije, među ostalim s obzirom na identifikaciju sadržaja koji generiraju sustavi umjetne inteligencije.
Članak 9. Odgovornost
Svaka stranka donosi ili zadržava mjere kako bi osigurala odgovornost za negativne posljedice koje aktivnosti u životnom vijeku sustava umjetne inteligencije imaju za ljudska prava, demokraciju i vladavinu prava.
Članak 10. Ravnopravnost i nediskriminacija
(1)Svaka stranka donosi ili zadržava mjere kako bi osigurala da aktivnosti u životnom vijeku sustava umjetne inteligencije budu u skladu s načelom ravnopravnosti, uključujući rodnu, i sa zabranom diskriminacije, kako je propisano u primjenjivom međunarodnom i nacionalnom pravu.
(2)Svaka stranka donosi ili zadržava mjere čiji je cilj u kontekstu aktivnosti u životnom vijeku sustava umjetne inteligencije prevladati neravnopravnosti kako bi se postigli pošteni, pravedni i podjednaki rezultati, u skladu s primjenjivim nacionalnim i međunarodnim pravnim obvezama u području ljudskih prava.
Članak 11. Zaštita privatnosti i osobnih podataka
Svaka stranka donosi ili zadržava mjere kako bi s obzirom na aktivnosti u životnom vijeku sustava umjetne inteligencije osigurala:
(a)da su prava pojedinaca na privatnost i njihovi osobni podaci zaštićeni, među ostalim primjenjivim nacionalnim i međunarodnim pravom, normama i okvirima; i
(b)da su uspostavljene djelotvorne zaštitne mjere za pojedince u skladu s primjenjivim nacionalnim i međunarodnim pravnim obvezama.
Članak 12. Pouzdanost
Svaka stranka prema potrebi poduzima mjere za promicanje pouzdanosti sustava umjetne inteligencije i povjerenja u njihove rezultate, što može uključivati zahtjeve za primjerenu kvalitetu i sigurnost unutar cijelog životnog vijeka sustava umjetne inteligencije.
Članak 13. Sigurno inoviranje
Kako bi se poticale inovacije, a ujedno izbjegavale negativne posljedice za ljudska prava, demokraciju i vladavinu prava, svaka se stranka poziva na to da prema potrebi uspostavi kontrolirana okruženja za razvoj, eksperimentiranje i testiranje sustava umjetne inteligencije pod nadzorom svojih nadležnih tijela.
Poglavlje IV. Pravni lijekovi
Članak 14. Pravni lijekovi
(1)Svaka stranka, u mjeri u kojoj su pravni lijekovi potrebni na temelju njezinih međunarodnih obveza i u skladu s njezinim nacionalnim pravnim sustavom, donosi ili zadržava mjere kako bi osigurala dostupnost pristupačnih i djelotvornih pravnih lijekova za povrede ljudskih prava koje proizlaze iz aktivnosti u životnom vijeku sustava umjetne inteligencije.
(2)Za potrebe stavka 1. svaka stranka donosi ili zadržava mjere, uključujući:
(a)mjere kojima osigurava da su relevantne informacije o sustavima umjetne inteligencije s potencijalom da znatno utječu na ljudska prava i o korištenju tih sustava dokumentirane, dostavljene tijelima ovlaštenima za pristup tim informacijama, a prema potrebi i dostupne ili dostavljene osobama čija su prava povrijeđena;
(b)mjere kojima osigurava da su informacije iz podstavka (a) dovoljne da bi osobe čija su prava povrijeđena mogle osporiti odluke donesene korištenjem sustava ili one koje su se u znatnoj mjeri temeljile na njegovu korištenju, a prema potrebi i samo korištenje sustava; i
(c)realnu mogućnost da osobe čija su prava povrijeđena podnesu pritužbu nadležnim tijelima.
Članak 15. Postupovna jamstva
(1)Svaka stranka dužna se pobrinuti da, u slučajevima u kojima sustav umjetne inteligencije znatno utječe na uživanje ljudskih prava, zahvaćene osobe imaju djelotvorna proceduralna jamstva, zaštitne mjere i prava u skladu s primjenjivim međunarodnim i nacionalnim pravom.
(2)Svaka stranka nastoji da osobe koje su interakciji sa sustavima umjetne inteligencije budu na način primjeren situaciji obaviještene o tome da je riječ o interakciji s takvim sustavima, a ne s ljudima.
Poglavlje V. – Procjenjivanje i ublažavanje rizika i negativnih posljedica
Članak 16. Okvir za upravljanje rizicima i posljedicama
(1)Uzimajući u obzir načela utvrđena u poglavlju III., svaka stranka donosi ili zadržava mjere za identifikaciju, procjenjivanje, prevenciju i ublažavanje rizika zbog sustava umjetne inteligencije tako što razmatraju njihove trenutačne i potencijalne posljedice za ljudska prava, demokraciju i vladavinu prava.
(2)Takve mjere moraju na primjeren način biti stupnjevane i diferencirane te:
(a)uzeti u obzir kontekst i predviđeno korištenje sustava umjetne inteligencije, a posebno rizike za ljudska prava, demokraciju i vladavinu prava;
(b)uzeti u obzir težinu i vjerojatnost mogućih posljedica;
(c)prema potrebi razmotriti perspektive relevantnih dionika, a posebno osoba čija bi prava mogla biti povrijeđena;
(d)biti iterativno primjenjivane na sve aktivnosti u životnom vijeku sustava umjetne inteligencije;
(e)uključivati praćenje rizika i negativnih posljedica za ljudska prava, demokraciju i vladavinu prava;
(f)obuhvaćati dokumentiranje rizika, stvarnih i potencijalnih utjecaja i pristupa upravljanju rizicima; i
(g)tražiti prema potrebi obvezno testiranje sustava umjetne inteligencije prije nego što ih se stavi na raspolaganje za prvu uporabu i nakon svake znatne preinake.
(3)Svaka stranka donosi ili zadržava mjere za adekvatno pristupanje negativnim posljedicama sustava umjetne inteligencije na ljudska prava, demokraciju i vladavinu prava. Takve negativne posljedice i s njima povezane mjere treba dokumentirati te se na njima trebaju temeljiti relevantne mjere za upravljanje rizicima opisane u stavku 2.
(4)Svaka stranka procjenjuje potrebu za moratorijem, zabranom ili drugim odgovarajućim mjerama za određene primjene sustava umjetne inteligencije ako smatra da su nespojive s poštovanjem ljudskih prava, funkcioniranjem demokracije ili vladavinom prava.
Poglavlje VI. Provedba Konvencije
Članak 17. – Nediskriminacija
Stranke provode odredbe ove Konvencije bez diskriminacije po bilo kojoj osnovi, u skladu sa svojim međunarodnim obvezama u području ljudskih prava.
Članak 18. Prava osoba s invaliditetom i djece
Svaka stranka u skladu sa svojim nacionalnim pravom i primjenjivim međunarodnim pravnim obvezama na odgovarajući način uzima u obzir sve posebne potrebe i ranjivosti u vezi s poštovanjem prava osoba s invaliditetom i djece.
Članak 19. Javno savjetovanje
Svaka stranka nastoji da se važna pitanja postavljena u vezi sa sustavima umjetne inteligencije prema potrebi razmotre u javnoj raspravi i višedioničkom savjetovanju s fokusom na socijalnim, gospodarskim, pravnim, etičkim, ekološkim i drugim bitnim implikacijama.
Članak 20. Digitalna pismenost i vještine
Svaka stranka potiče i promiče odgovarajuću digitalnu pismenost i digitalne vještine u svim segmentima stanovništva, što obuhvaća specifične stručne vještine za osobe odgovorne za identifikaciju, procjenjivanje, prevenciju i ublažavanje rizika koje predstavljaju sustavi umjetne inteligencije.
Članak 21. Zaštita priznatih ljudskih prava
Ništa u ovoj Konvenciji ne smije se tumačiti kao ograničenje, odstupanje ili neki drugi utjecaj na ljudska prava i druga s njima povezana zakonska prava i obveze koji mogu biti zajamčeni relevantnim zakonima stranke ili nekim međunarodnim sporazumom kojem je stranka.
Članak 22. Stroža zaštita
Nijedna odredba ove Konvencije ne smije se tumačiti kao ograničenje ili sličan utjecaj na mogućnost stranke da uvede strože mjere zaštite od onih propisanih u ovoj Konvenciji.
Poglavlje VII. Mehanizam za praćenje i suradnja
Članak 23. Konferencija stranaka
(1)Konferencija stranaka sastoji se od predstavnika stranaka ove Konvencije.
(2)Stranke se povremeno sastaju s ciljem:
olakšavanja djelotvorne primjene i provedbe ove Konvencije, uključujući utvrđivanje svih problema i posljedica rezervi na temelju članka 34. stavka 1. ili izjava danih u okviru Konvencije;
razmatranja mogućih dopuna i izmjena Konvencije;
razmatranja pitanja i donošenja konkretnih preporuka u vezi s tumačenjem i primjenom Konvencije;
olakšavanja razmjene informacija o krupnim pravnim, političkim i tehnološkim promjenama, među ostalim u ostvarivanju ciljeva iz članka 25., bitnima za provedbu Konvencije;
olakšavanje, ako bude potrebno, prijateljskog rješavanja sporova povezanih s primjenom Konvencije; i
olakšavanje suradnje s relevantnim dionicima za specifične aspekte provedbe Konvencije, među ostalim u obliku javne rasprave.
(3)Konferenciju stranaka saziva glavni tajnik Vijeća Europe kad god je to potrebno i kad god to zatraži većina stranaka ili Odbor ministara.
(4)Konferencija stranaka dužna je konsenzusom usvojiti svoj poslovnik u roku od dvanaest mjeseci od stupanja na snagu ove Konvencije.
(5)U izvršavanju dužnosti u skladu s ovim člankom strankama pomaže Tajništvo Vijeća Europe.
(6)Konferencija stranaka može Odboru ministara predložiti primjerene načine za dobivanje relevantne stručne potpore radi djelotvorne provedbe ove Konvencije.
(7)Svaka stranka koja nije članica Vijeća Europe dužna je doprinositi financiranju aktivnosti Konferencije stranaka. Doprinos stranke koja nije članica Vijeća Europe dogovorit će zajednički ta zemlja i Odbor ministara.
(8)Konferencija stranaka može odlučiti da ograniči sudjelovanje stranke koja je prestala biti članica Vijeća Europe na temelju članka 8. Statuta Vijeća Europe (ETS br. 1) zbog teške povrede članka 3. Statuta. Prema svakoj stranki koja nije članica Vijeća Europe može se poduzeti takva mjera donošenjem odluke Odbora ministara o prekidu odnosa s tom zemljom iz razloga sličnih onima iz članka 3. Statuta.
Članak 24. Obveza dostavljanja informacija
(1)Svaka stranka dužna je u roku od dvije godine od trenutka kad postane stranka podnijeti izvješće Konferenciji stranaka, i nakon toga periodički dostavljati informacije, o aktivnostima poduzetima radi provedbe članka 3. stavka 1. podstavaka (a) i (b).
(2)Konferencija stranaka u svojem poslovniku definira format i postupak sastavljanja tog izvješća.
Članak 25. Međunarodna suradnja
(1)Stranke surađuju u postizanju svrhe Konvencije. Stranke se potiču da ovisno o primjerenosti slučaja pomažu zemljama koje nisu stranke Konvenciji da postupaju u skladu s odredbama Konvencije i da postanu njezine stranke.
(2)Stranke prema potrebi međusobno razmjenjuju relevantne i korisne informacije o aspektima umjetne inteligencije koji mogu imati znatan pozitivan i negativan utjecaj na uživanje ljudskih prava, funkcioniranje demokracije i poštovanje vladavine prava, uključujući rizike i utjecaje koji nastanu u kontekstu istraživanja i u odnosu na privatni sektor. Stranke se potiču da u takvu razmjenu informacija prema potrebi uključe relevantne dionike i zemlje koje nisu stranke Konvencije.
(3)Stranke se potiču na jačanje suradnje, prema potrebi i s relevantnim dionicima, kako bi sprečavale i ublažavale rizike i negativne posljedice za ljudska prava, demokraciju i vladavinu prava u kontekstu aktivnosti u životnom vijeku sustava umjetne inteligencije.
Članak 26. Djelotvorni nadzorni mehanizmi
(1)Svaka stranka uspostavlja ili određuje najmanje jedan djelotvoran mehanizam za nadzor poštovanja obveza na temelju ove Konvencije.
(2)Svaka stranka osigurava da takvi mehanizmi funkcioniraju neovisno, nepristrano i s dovoljnim ovlastima, stručnosti i resursima za djelotvorno obavljanje zadaće nadzora poštovanja obveza na temelju ove Konvencije, kako ih stranke primjenjuju.
(3)Ako stranka odredi više takvih mehanizama, dužna je, ako je to praktično izvedivo, poduzeti mjere da olakša njihovu djelotvornu suradnju.
(4)Ako stranka uvede mehanizme koji se razlikuju od postojećih struktura za zaštitu ljudskih prava, dužna je, ako je to praktično izvedivo, poduzeti korake za promicanje djelotvorne suradnje između mehanizama iz stavka 1. i postojećih nacionalnih struktura za zaštitu ljudskih prava.
Poglavlje VIII. Završne odredbe
Članak 27. Učinci Konvencije
(1)Ako su barem dvije stranke već sklopile sporazum ili ugovor o pitanjima koja obuhvaća ova Konvencija ili su na neki drugi način uspostavile dogovor o takvim pitanjima, te stranke imaju pravo primjenjivati taj sporazum, ugovor ili dogovor sve dok to čine na način koji nije nespojiv s predmetom i svrhom ove Konvencije.
(2)Stranke koje su članice Europske unije u svojim međusobnim odnosima primjenjuju propise Europske unije o pitanjima koja obuhvaća ova Konvencija, ne dovodeći u pitanje predmet i svrhu ove Konvencije ni njezinu punu primjenu u odnosu na druge stranke. Isto vrijedi za druge stranke u mjeri u kojoj su obvezane takvim propisima.
Članak 28. Izmjene
(1)Izmjene ove Konvencije može predložiti svaka stranka, Odbor ministara Vijeća Europe ili Konferencija stranaka.
(2)Glavni tajnik Vijeća Europe informira stranke o svakoj predloženoj izmjeni.
(3)Sve izmjene koje predloži stranka ili Odbor ministara dostavljaju se Konferenciji stranaka, koja Odboru ministara dostavlja svoje mišljenje o predloženim izmjenama.
(4)Odbor ministara razmatra predložene izmjene i mišljenje Konferencije stranaka te može odobriti izmjene.
(5)Tekst svake izmjene koju Odbor ministara odobri u skladu sa stavkom 4. podnosi se strankama radi prihvaćanja.
(6)Svaka izmjena odobrena u skladu sa stavkom 4. stupa na snagu tridesetog dana od dana nakon što sve stranke obavijeste glavnog tajnika o tome da su je prihvatile.
Članak 29. Rješavanje sporova
U slučaju spora između stranaka u vezi s tumačenjem ili primjenom ove Konvencije one ga nastoje riješiti pregovorima ili na bilo koji drugi miroljubiv način po svojem izboru, među ostalim preko Konferencije stranaka, kako je propisano u članku 23. stavku 2. podstavku (e).
Članak 30. Potpisivanje i stupanje na snagu
(1)Ova Konvencija bit će otvorena za potpisivanje državama članicama Vijeća Europe, državama nečlanicama koje su sudjelovale u njezinoj izradi i Europskoj uniji.
(2)Ova Konvencija podliježe ratifikaciji, prihvaćanju ili odobrenju. Isprave o ratifikaciji, prihvaćanju ili odobrenju polažu se kod glavnog tajnika Vijeća Europe.
(3)Ova Konvencija stupa na snagu prvoga dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma kad je pet potpisnica, od kojih su najmanje tri zemlje članice Vijeća Europe, izrazilo svoj pristanak da budu obvezane ovom Konvencijom u skladu s odredbom stavka 2.
(4)Za potpisnicu koja naknadno da svoj pristanak da je Konvencija obvezuje, ona stupa na snagu prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od dana polaganja isprave o ratifikaciji, prihvaćanju ili odobrenju.
Članak 31. Pristupanje
(1)Nakon stupanja na snagu ove Konvencije Odbor ministara Vijeća Europe može, nakon konzultacija sa strankama ove Konvencije i dobivanja njihova jednoglasnog pristanka, pozvati bilo koju zemlju nečlanicu Vijeća Europe koja nije sudjelovala u njezinoj izradi da Konvenciji pristupi odlukom koju donese većina predviđena u članku 20.d Statuta Vijeća Europe i jednoglasnom odlukom predstavnika stranaka koji imaju ovlasti biti u Odboru ministara.
(2)Za svaku zemlju pristupnicu Konvencija stupa na snagu prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma polaganja isprave o pristupanju kod glavnog tajnika Vijeća Europe.
Članak 32. Teritorijalna primjena
(1)Svaka zemlja ili Europska unija mogu, u trenutku potpisivanja ili polaganja svoje isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju, navesti područja na kojima će se ova Konvencija primjenjivati.
(2)Svaka stranka može u bilo kojem trenutku izjavom upućenom glavnom tajniku Vijeća Europe proširiti područje primjene ove Konvencije na bilo koje drugo područje navedeno u toj izjavi. Na tom prostoru Konvencija stupa na snagu prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma na koji glavni tajnik primi tu izjavu.
(3)Svaka izjava dana u skladu s prethodna dva stavka može se povući za bilo koje područje na koje se odnosi, i to slanjem obavijesti glavnom tajniku Vijeća Europe. Povlačenje počinje proizvoditi učinke prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma na koji glavni tajnik primi takvu obavijest.
Članak 33. Savezna klauzula
(1)Savezna država može zadržati pravo na preuzimanje obveza na temelju ove Konvencije u skladu sa svojim temeljnim načelima kojima se uređuje odnos između njezine središnje vlade i članica saveza ili drugih sličnih teritorijalnih jedinica, pod uvjetom da se ova Konvencija primjenjuje na središnju vladu savezne države.
(2)S obzirom na odredbe ove Konvencije čija je primjena u nadležnosti članica saveza ili drugih sličnih teritorijalnih jedinica koje prema ustavu saveza nisu obvezne poduzimati zakonodavne mjere, savezna vlada informira nadležna tijela tih članica o navedenim odredbama i dostavlja svoje pozitivno mišljenje, potičući ih da poduzmu odgovarajuće mjere za njihovu primjenu.
Članak 34. Rezerve
(1)Svaka stranka Konvencije može u trenutku potpisivanja ili polaganja svoje isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju izjaviti da koristi pravo iz članka 33. stavka 1. slanjem pisane obavijesti glavnom tajniku Vijeća Europe.
(2)To je jedina dopuštena rezerva prema ovoj Konvenciji.
Članak 35. Otkazivanje
(1)Svaka stranka može u bilo kojem trenutku otkazati ovu Konvenciju slanjem obavijesti glavnom tajniku Vijeća Europe.
(2)Takvo otkazivanje proizvodi učinak prvog dana mjeseca koji slijedi nakon isteka razdoblja od tri mjeseca od datuma na koji glavni tajnik primi obavijest.
Članak 36. – Obavješćivanje
Glavni tajnik Vijeća Europe obavješćuje države članice Vijeća Europe, zemlje nečlanice koje su sudjelovale u sastavljanju ove Konvencije, Europsku uniju, sve potpisnice, sve zemlje ugovornice, sve strane i sve zemlje pozvane na pristupanje ovoj Konvenciji o:
(a)svakom potpisivanju;
(b)polaganju svake isprave o ratifikaciji, prihvaćanju, odobrenju ili pristupanju;
(c)svakom datumu stupanja na snagu ove Konvencije u skladu s člankom 30. stavcima 3. i 4. i člankom 31. stavkom 2.;
(d)svakoj izmjeni u skladu s člankom 28. i datumu na koji ta izmjena stupa na snagu;
(e)svakoj izjavi podnesenoj u skladu s člankom 3. stavkom 1. podstavkom (b);
(f)svakoj rezervi ili povlačenju rezerve u skladu s člankom 34.;
(g)svakom otkazivanju u skladu s člankom 35.;
(h)svakom drugom činu, izjavi, obavijesti ili priopćenju koji se odnose na ovu Konvenciju.
U potvrdu toga dolje potpisani, propisno za to ovlašteni, potpisali su ovu Konvenciju.
Sastavljeno u Vilniusu, 5. rujna 2024. na engleskom i francuskom jeziku, pri čemu su oba teksta jednako vjerodostojna, u jednom primjerku, koji se pohranjuje u arhivu Vijeća Europe. Glavni tajnik Vijeća Europe dostavlja ovjerene preslike svakoj državi članici Vijeća Europe, državama nečlanicama koje su sudjelovale u njezinoj izradi, Europskoj uniji i svakoj državi koja je pozvana pristupiti ovoj Konvenciji.
PRILOG II.
1.Izjava Europske unije o području primjene u pogledu privatnih subjekata u skladu s člankom 3. stavkom 1. podstavkom (b) Konvencije
Podsjećajući na obvezu iz članka 3. stavka 1. podstavka (b) Konvencije da se moraju uzeti u obzir rizici i posljedice koji proizlaze iz aktivnosti privatnih subjekata u životnom vijeku sustava umjetne inteligencije u mjeri u kojoj to nije obuhvaćeno u podstavku (a) te odredbe, pri čemu se to čini u skladu s ciljem i svrhom Konvencije, Unija izjavljuje da će provedbom Uredbe (EU) 2024/1689 Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji („Akt o UI-ju”) primjenjivati načela i obveze utvrđene u poglavljima od II. do VI. Konvencije na aktivnosti privatnih subjekata koji u Europskoj uniji stavljaju na tržište, stavljaju na raspolaganje i koriste sustave umjetne inteligencije. Na te aktivnosti može se primjenjivati i druga relevantna pravna stečevina Unije koja može doprinijeti i provedbi načela i obveza iz Konvencije.
2.Izjava Europske unije o teritorijalnom području primjene u skladu s člankom 32. stavkom 1. Konvencije
Kad je riječ o članku 32. stavku 1. Konvencije, Unija izjavljuje da se Okvirna konvencija o umjetnoj inteligenciji i ljudskim pravima, demokraciji i vladavini prava primjenjuje, s obzirom na nadležnost Unije, na područja na kojima se primjenjuju Ugovori EU-a u skladu s člankom 52. UEU-a te pod uvjetima utvrđenima, među ostalim, u članku 355. UFEU-a.