(1)

Vijeće je Odlukom (EU) 2022/2349 (1) ovlastilo Komisiju za otvaranje pregovora u ime Unije o konvenciji Vijeća Europe o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava. Pregovori su uspješno završeni 17. svibnja 2024. parafiranjem Okvirne konvencije o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladavini prava („Konvencija”) te njezinim donošenju od strane Odbora ministara Vijeća Europe.

(2)

U Konvenciji su utvrđeni opća načela i obveze koje su njezine stranke trebaju poštovati radi osiguravanja zaštite ljudskih prava, demokracije i vladavine prava s obzirom na aktivnosti unutar životnog ciklusa sustavâ umjetne inteligencije (UI sustavi).

(3)

Europski parlamenti i Vijeće su 13. lipnja 2024. donijeli, na temelju članaka 16. i 114. Ugovora o funkcioniranju Europske unije (UFEU), Uredbu (EU) 2024/1689 (2) Europskog parlamenta i Vijeća, koja sadržava usklađena pravila, koja se općenito temelje na potpunom usklađivanju, a koja uređuju stavljanje na tržište, stavljanje u upotrebu i korištenje UI sustava u Uniji. Ta se pravila izravno primjenjuju u državama članicama, osim ako je u toj uredbi izričito propisano drugačije. Konvencija se u Uniji treba provoditi isključivo putem Uredbe (EU) 2024/1689 i, ako je primjenjivo, druge relevantne pravne stečevine Unije.

(4)

Aktivnosti unutar životnog ciklusa UI sustavâ povezane sa zaštitom interesa nacionalne sigurnosti isključene su iz područja primjene Konvencije. Uredbom (EU) 2024/1689, koja će biti glavni pravni akt Unije za provedbu Konvencije, isključeni su iz njezinog područja primjene i UI sustavi koji se stavljaju na tržište, u upotrebu ili koji se upotrebljavaju, s izmjenama ili bez njih, isključivo u svrhe povezane s nacionalnom sigurnošću, te izlazne vrijednosti UI sustava koje se upotrebljavaju u Uniji isključivo u te svrhe, neovisno o vrsti subjekta koji obavlja te aktivnosti. Nadalje, nacionalna sigurnost ostaje isključiva odgovornost svake države članice kako je predviđeno u članku 4. stavku 2. Ugovora o Europskoj uniji (UEU). Stoga bi stajalište Unije koje treba izraziti na Konferenciji stranaka uspostavljenom Konvencijom trebalo poštovati navedene granice. Komisija bi se osobito trebala suzdržati od rasprave o aktivnostima unutar životnog ciklusa UI sustavâ povezanima sa zaštitom interesa nacionalne sigurnosti ili zauzimanja stajališta o njima na sastancima Konferencije stranaka.

(5)

Budući da se osobno i materijalno područje primjene Konvencije te materijalne odredbe Konvencije u velikoj mjeri podudaraju s Uredbom (EU) 2024/1689, koja je dopunjena drugom relevantnom pravnom stečevinom Unije, sklapanje Konvencije može utjecati na zajednička pravila Unije ili izmijeniti njihov opseg u smislu članka 3. stavka 2. UFEU-a. Takva druga relevantna pravna stečevina Unije uključuje pravne akte čiji je cilj provedba temeljnih prava sadržanih u Povelji Europske unije o temeljnim pravima, kao što su zakonodavstvo Unije o nediskriminaciji, uključujući direktive Vijeća 2000/43/EZ (3) i 2000/78/EZ (4); pravna stečevina Unije o zaštiti osobnih podataka, uključujući uredbe (EU) 2016/679 (5) i (EU) 2022/2065 (6) Europskog parlamenta i Vijeća čiji je cilj osigurati sigurno, predvidljivo i pouzdano internetsko okružje u kojem se poštuju temeljna prava, među ostalim pravo na slobodu izražavanja i pravo na primanje i širenje informacija; Uredbu (EU) 2024/900 (7) Europskog parlamenta i Vijeća; te zakonodavstvo o sigurnosti proizvoda i zakonodavstvo o odgovornosti za neispravne proizvode, uključujući Direktivu Vijeća 85/374/EEZ (8). Unija stoga ima isključivu vanjsku nadležnost za potpisivanje Konvencije. Stoga bi samo Unija trebala postati stranka Konvencije, podložno njezinu kasnijem sklapanju.

(6)

Konferencija stranaka imat će važnu ulogu u djelotvornoj provedbi Konvencije, među ostalim davanjem posebnih preporuka u pogledu njezina tumačenja i primjene. Konferencija stranaka razmotrit će i moguće izmjene Konvencije. U skladu s člankom 218. stavkom 9. UFEU-a Vijeće bi na prijedlog Komisije trebalo donijeti odluke kojima se utvrđuju stajališta koja u ime Unije treba zauzeti u Konferenciji stranaka kada je to tijelo pozvano donositi akte koji proizvode pravne učinke, osobito poslovnik Konferencije stranaka. Tijekom pregovora o tom poslovniku, kojeg treba donijeti konsenzusom u roku od 12 mjeseci od stupanja na snagu Konvencije, Unija će nastojati osigurati da joj se dodijeli 27 glasova, koji odražavaju broj njezinih država članica. U slučaju da se Uniji dodijeli 27 glasova, Komisija, koja predstavlja Uniju, trebala bi osigurati pojačanu koordinaciju s državama članicama radi izražavanja jedinstvenih stajališta prije Konferencije stranaka i ostvarivanja svojeg prava glasa u ime Unije. Ta pojačana koordinacija posebno je relevantna s obzirom na to da su sve države članice ujedno članice Vijeća Europe te imajući u vidu prirodu umjetne inteligencije koja se brzo mijenja, kao i potrebu za koherentnim globalno primjenjivim okvirom u tom području. Kako bi se osigurala pojačana koordinacija, Vijeće bi trebalo sudjelovati u oblikovanju svih stajališta bez obzira na njihovu prirodu, među ostalim onih na temelju članka 16. stavka 1. UEU-a i članka 218. stavka 9. UFEU-a. Ako Unija unatoč svim nastojanjima ne uspije postići dodjelu 27 glasova, kako bi se osiguralo da Unija ima broj glasova koji odražava njezinu važnost u Vijeću Europe i koji joj omogućuje da na odgovarajući način brani svoje interese, Komisija bi trebala predložiti da države članice budu ovlaštene, na temelju članka 2. stavka 1. UFEU-a i uz potpuno poštovanje isključive nadležnosti Unije, pristupiti Konvenciji zajedno s Unijom.

(7)

Komisija će pozvati svaku državu članicu da pošalje jednog predstavnika koji će pratiti predstavništvo Komisije kao dio delegacije Unije na sastancima Konferencije stranaka. Treba poštovati načelo lojalne suradnje.

(8)

U pogledu svih drugih sporazuma koji bi se mogli sklopiti u budućnosti pod pokroviteljstvom Vijeća Europe ili na drugim međunarodnim forumima, među ostalim u području umjetne inteligencije, kao i u pogledu svih izmjena Konvencije, podjelu vanjskih nadležnosti između Unije i država članica trebalo bi ocijeniti s obzirom na specifične značajke svakog takvog instrumenta. Iznimno je važno da Unija i njezine države članice i dalje imaju izravnu i aktivnu ulogu u izražavanju glasa Unije i obrani njegovih interesa na dosljedan i koordiniran način, u potpunosti u skladu s Ugovorima.

(9)

U skladu s Ugovorima Komisija bi trebala osigurati potpisivanje Konvencije, podložno njezinu kasnijem sklapanju,