(1)

Odbor ministrov Sveta Evrope je leta 2021 ustanovil odbor za umetno inteligenco za obdobje 2022–2024, ki naj bi vzpostavil mednarodni pogajalski proces za oblikovanje pravnega okvira, namenjenega razvoju, oblikovanju in uporabi umetne inteligence, ki bo temeljil na standardih Sveta Evrope na področju človekovih pravic, demokracije in pravne države ter spodbujal inovacije.

(2)

Odbor ministrov Sveta Evrope je 30. junija 2022 odboru za umetno inteligenco naročil, naj v skladu s svojimi pristojnostmi hitro začne pripravo pravno zavezujočega presečnega instrumenta, bodisi konvencije ali okvirne konvencije o umetni inteligenci, ki bo temeljil na standardih Sveta Evrope na področju človekovih pravic, demokracije in pravne države, ki bo osredotočen na splošna skupna načela, ki bo spodbujal inovacije in bo odprt za sodelovanje tretjih držav, ob upoštevanju drugih ustreznih mednarodnih pravnih okvirov, ki že obstajajo ali so v pripravi.

(3)

Predsednik odbora za umetno inteligenco je nato predlagal predhodni osnutek konvencije ali okvirne konvencije Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljnjem besedilu: konvencija). Predhodni osnutek vključuje določbe o namenu in predmetu, področju uporabe, opredelitvah pojmov, temeljnih načelih, vključno s postopkovnimi zaščitnimi ukrepi in pravicami, ki veljajo za vse sisteme umetne inteligence, ne glede na njihovo stopnjo tveganja, dodatnih ukrepih za sisteme umetne inteligence v javnem sektorju in za sisteme umetne inteligence z „nesprejemljivo“ in „pomembno“ stopnjo tveganja, mehanizmu spremljanja in sodelovanja, končne določbe, vključno z možnostjo, da Unija pristopi h taki konvenciji, in dodatek, ki je v pripravi, o metodologiji za oceno tveganja in učinka sistemov umetne inteligence.

(4)

Unija je sprejela skupna pravila, na katera bodo vplivali elementi, obravnavani za namene konvencije. Ti elementi vključujejo zlasti celovit nabor pravil na področju enotnega trga za proizvode (1) in storitve (2), za katere se lahko uporabljajo sistemi umetne inteligence, ter sekundarno zakonodajo Unije (3), s katero se izvaja Listina EU o temeljnih pravicah (4), saj bosta razvoj in uporaba nekaterih sistemov umetne inteligence v določenih okoliščinah verjetno negativno vplivala na zadevne pravice.

(5)

Poleg tega je Komisija 21. aprila 2021 vložila zakonodajni predlog za uredbo o določitvi harmoniziranih pravil o umetni inteligenci, o katerem se trenutno pogajata Evropski parlament in Svet. Predvidena konvencija se v veliki meri prekriva z zakonodajnim predlogom v smislu področja uporabe, saj je cilj obeh instrumentov določiti pravila, ki veljajo za oblikovanje, razvoj in uporabo sistemov umetne inteligence, ki jih zagotavljajo in uporabljajo javni ali zasebni subjekti.

(6)

Zato lahko sklenitev konvencije vpliva na obstoječa in predvidena prihodnja skupna pravila Unije ali spremeni njihovo področje uporabe v smislu člena 3(2) Pogodbe o delovanju Evropske unije (PDEU).

(7)

Začeti bi bilo treba pogajanja za sklenitev konvencije v zvezi z zadevami, ki spadajo v izključno pristojnost Unije, za zaščito celovitosti prava Unije ter nadaljnjo usklajenost določb mednarodnega prava in prava Unije.

(8)

Konvencija bi lahko določila visoke mednarodne standarde v zvezi z ureditvijo umetne inteligence, ki vpliva na človekove pravice, delovanje demokracije in spoštovanje pravne države, zlasti v luči dela, ki ga je Svet Evrope že opravil na tem področju.

(9)

Ta sklep ne bi smel posegati v sodelovanje držav članic pri pogajanjih o konvenciji in v kakršno koli naknadno odločitev držav članic o sklenitvi, podpisu ali ratifikaciji konvencije ali pristop Unije h konvenciji.

(10)

Nacionalna varnost ostaja v izključni pristojnosti vsake države članice v skladu s členom 4(2) Pogodbe o Evropski uniji (PEU). Pri izvajanju Konvencije bi morale države članice v skladu s členom 216(2) PDEU opredeliti svoje bistvene varnostne interese in sprejeti ustrezne ukrepe za zagotovitev svoje notranje in zunanje varnosti, ne da bi se pri tem onemogočila uporaba prava Unije ali da bi bile izvzete iz obveznosti spoštovanja prava Unije.

(11)

Glede na poseben položaj, ki je posledica dejstva, da so vse države članice tudi članice Sveta Evrope, bi morale države članice, ki so prisotne pri pogajanjih o Konvenciji, v skladu z načelom lojalnega sodelovanja iz člena 4(3) PEU in ob popolnem medsebojnem spoštovanju podpirati pogajalca Unije pri izvajanju nalog, ki izhajajo iz Pogodb.

(12)

V skladu s členom 42(1) Uredbe (EU) 2018/1725 Evropskega parlamenta in Sveta (5) je bilo opravljeno posvetovanje z Evropskim nadzornikom za varstvo podatkov, ki je mnenje podal 13. oktobra 2022 (6) –