EUROPA-KOMMISSIONEN

Bruxelles, den 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Forslag til

RÅDETS AFGØRELSE

om undertegnelse på Den Europæiske Unions vegne af Europarådets rammekonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

BEGRUNDELSE

1.BAGGRUND FOR FORSLAGET

•Forslagets begrundelse og formål

Kunstig intelligens (AI) giver store muligheder, men visse anvendelser og formål kan også forårsage skade og risici for enkeltpersoners grundlæggende rettigheder og andre offentlige interesser.

Med Europa-Parlamentets og Rådets forordning (EU) 2024/[....] om harmoniserede regler om kunstig intelligens ("forordningen om kunstig intelligens") har Unionen vedtaget den første omfattende forordning om kunstig intelligens, der fastsætter en standard globalt. Forordningen om kunstig intelligens blev vedtaget den 12. juni 2024 ( 1 ) og træder i kraft senest 20 dage efter offentliggørelsen i Den Europæiske Unions Tidende. Forordningen om kunstig intelligens harmoniserer fuldt ud reglerne for markedsføring, ibrugtagning og anvendelse af AI-systemer i medlemsstaterne ( 2 ) med det formål at fremme innovation og udbredelse af pålidelig kunstig intelligens og samtidig beskytte sundhed, sikkerhed og grundlæggende rettigheder, herunder demokrati, retsstatsprincippet og miljøet.

Forskellige internationale organisationer, herunder Europarådet, har også øget deres indsats for at regulere kunstig intelligens, idet de anerkender den grænseoverskridende karakter af kunstig intelligens og behovet for internationalt samarbejde for at håndtere de fælles udfordringer, som disse teknologier medfører.

Siden juni 2022 har Europarådets Komité for Kunstig Intelligens (CAI) ( 3 ) udarbejdet en retligt bindende rammekonvention (i det følgende benævnt "konventionen") for at imødegå de potentielle risici, som AI udgør for menneskerettigheder, demokrati og retsstatsprincippet. Unionen forhandlede konventionen på grundlag af artikel 216, stk. 1, fjerde alternativ i TEUF, i henhold til hvilken Unionen kan forhandle 4 og indgå en international aftale, når denne "[...] kan berøre fælles regler eller ændre deres anvendelsesområde". Europa-Kommissionen repræsenterede Unionen i forhandlingerne om konventionen i overensstemmelse med artikel 218, stk. 3, i traktaten om Den Europæiske Unions funktionsmåde ("TEUF") og på grundlag af en rådsafgørelse om bemyndigelse til at indlede forhandlinger på Den Europæiske Unions vegne ( 5 ).

Unionen har deltaget aktivt i forhandlingerne og forfulgt målet om at sikre konventionens forenelighed med EU-retten, overensstemmelse med forordningen om kunstig intelligens samt konventionens kvalitet og merværdi som den første internationale traktat om kunstig intelligens. I den forbindelse har konventionens internationale rækkevidde også været et af Unionens mål.

Efter flere forhandlingsrunder godkendte CAI konventionens tekst på dens 10. plenarforsamling, som fandt sted den 11.-14. marts 2024. Den 17. maj 2024 vedtog Europarådets Ministerkomité konventionen, besluttede at åbne den for undertegnelse i Vilnius (Litauen) den 5. september 2024 i forbindelse med en uformel justitsministerkonference og opfordrede medlemmer af Europarådet, andre tredjelande, der deltog i dets udarbejdelse, og Unionen til at overveje at undertegne den ved denne lejlighed, samtidig med at den mindede om, at konventionen også er åben for tiltrædelse af ikke-medlemsstater ( 6 ).

I den forbindelse er formålet med dette forslag at indlede proceduren for Unionens undertegnelse af konventionen med henblik på efterfølgende at ratificere konventionen ved at foreslå Rådet at vedtage en afgørelse om bemyndigelse af Unionen til at undertegne konventionen i overensstemmelse med artikel 218, stk. 5, i TEUF. Konventionen er fuldt ud forenelig med EU-retten generelt og med forordningen om kunstig intelligens i særdeleshed og vil fremme nøglebegreber fra Unionens tilgang til AI-regulering globalt blandt andre medlemmer af Europarådet og centrale internationale partnere, der kan blive parter i konventionen.

Konventionens indhold

Formålet med konventionen er at sikre, at aktiviteter inden for AI-systemers livscyklus er i fuld overensstemmelse med menneskerettigheder, demokrati og retsstatsprincippet.

Konventionens parter skal gennemføre den ved hjælp af passende lovgivningsmæssige, administrative eller andre foranstaltninger til gennemførelse af dens bestemmelser efter en gradueret og differentieret tilgang afhængigt af de negative virkningers alvor og sandsynlighed. Konventionen bør udelukkende gennemføres i Unionen gennem forordningen om kunstig intelligens, som fuldt ud harmoniserer reglerne for markedsføring, ibrugtagning og anvendelse af AI-systemer og anden EU-ret, hvor det er relevant. 

Anvendelsesområdet for konventionen omfatter AI-systemer, der potentielt griber ind i menneskerettigheder, demokrati og retsstatsprincippet, efter en differentieret tilgang. Principperne og forpligtelserne i konventionen finder anvendelse på aktiviteter inden for AI-systemers livscyklus, der gennemføres af offentlige myndigheder eller private aktører, der handler på deres vegne. Med hensyn til den private sektor er parterne forpligtet til at håndtere risici og virkninger, der opstår som følge af private aktørers aktiviteter inden for AI-systemers livscyklus, på en måde, der er i overensstemmelse med konventionens formål og hensigt, men de har valget mellem at anvende konventionens forpligtelser eller træffe andre passende foranstaltninger. Parterne skal afgive en erklæring om det valg, de træffer i denne henseende, når de undertegner eller tiltræder konventionen. Unionen bør ved indgåelsen af konventionen afgive en erklæring om, at Unionen gennem forordningen om kunstig intelligens og anden relevant EU-ret vil gennemføre principperne og forpligtelserne i konventionens kapitel II-VI vedrørende aktiviteter, der udføres af private aktører, der markedsfører, ibrugtager og anvender AI-systemer i Unionen.

AI-aktiviteter vedrørende national sikkerhed er udelukket fra konventionens anvendelsesområde, idet de under alle omstændigheder skal gennemføres på en måde, der er i overensstemmelse med gældende international menneskerettighedslovgivning og med respekt for demokratiske institutioner og processer. Konventionen udelukker også forsknings- og udviklingsaktiviteter vedrørende AI-systemer, der endnu ikke er stillet til rådighed for brug, medmindre test eller lignende aktiviteter har potentiale til at gribe ind i menneskerettigheder, demokrati og retsstatsprincippet. I overensstemmelse med Europarådets statut falder spørgsmål vedrørende nationalt forsvar ikke ind under konventionens anvendelsesområde.

Konventionen indeholder endvidere en række generelle forpligtelser og grundlæggende principper, herunder beskyttelse af den menneskelige værdighed og individuel autonomi, samt fremme af ligestilling og ikke-forskelsbehandling. Derudover giver den mandat til respekt for privatlivets fred og beskyttelse af personoplysninger samt gennemsigtighed og tilsyn for at sikre ansvarlighed og ansvar. Et princip er også dedikeret til sikker innovation og eksperimentering i kontrollerede miljøer.

I et særligt kapitel om retsmidler påtænkes også et sæt foranstaltninger, der har til formål at sikre tilgængeligheden af tilgængelige og effektive retsmidler mod krænkelser af menneskerettighederne som følge af aktiviteter inden for AI-systemers livscyklus. Den omfatter også effektive proceduremæssige garantier og beskyttelsesforanstaltninger for personer, hvis rettigheder er blevet væsentligt påvirket af brugen af AI-systemer. Derudover bør enkeltpersoner informeres om, at de interagerer med et AI-system og ikke med et menneske.

Konventionen indeholder endvidere et kapitel om foranstaltninger til vurdering og afbødning af risici og negative virkninger, der skal gennemføres iterativt, med henblik på at identificere faktiske og potentielle indvirkninger på menneskerettigheder, demokrati og retsstatsprincippet og træffe passende forebyggelses- og afbødningsforanstaltninger.

Desuden fastsætter konventionen, at parterne skal vurdere behovet for forbud eller moratorier mod visse anvendelser af AI-systemer, der anses for at være uforenelige med respekten for menneskerettighederne, demokratiets funktion eller retsstatsprincippet.

Konventionen indeholder en opfølgningsmekanisme inden for rammerne af en partskonference bestående af repræsentanter for parterne, som regelmæssigt holder samråd med hinanden med henblik på at lette en effektiv anvendelse og gennemførelse af konventionen. Den omfatter også en mekanisme for internationalt samarbejde både mellem konventionens parter og i forbindelserne med tredjelande og relevante interessenter med henblik på at opfylde konventionens formål.

Hver part bør endvidere på nationalt plan oprette eller udpege en eller flere effektive mekanismer til at føre tilsyn med overholdelsen af de forpligtelser, der følger af konventionen, således som parterne har givet dem virkning.

•Sammenhæng med de gældende regler på samme område

Konventionen fastsætter generelle principper og forpligtelser til beskyttelse af menneskerettigheder, demokrati og retsstatsprincippet, som er i fuld overensstemmelse med målene i forordningen om kunstig intelligens og de detaljerede krav til AI-systemer og forpligtelser, der pålægges udbydere og udbredere af sådanne systemer.

Definitionen af AI-system i konventionen er fuldt ud i overensstemmelse med definitionen i forordningen om kunstig intelligens, da begge er baseret på definitionen af sådanne systemer i Organisationen for Økonomisk Samarbejde og Udviklings AI-principper ( 7 ), således at der sikres en fælles forståelse af, hvilke digitale teknologier der udgør kunstig intelligens.

Gennemsigtighed er et andet fælles element i begge retlige instrumenter, herunder foranstaltninger med hensyn til identifikation af AI-genereret indhold og underretning af personer, der interagerer med AI-systemer. Begge retsakter omfatter endvidere relevante bestemmelser om risiko- og konsekvensanalyser og risikostyring, registrering, offentliggørelse (til bemyndigede organer og myndigheder og, hvor det er relevant, berørte personer), sporbarhed og forklarlighed, sikker innovation og eksperimentering i kontrollerede miljøer og en række foranstaltninger, der muliggør effektive retsmidler, herunder ret til at anmode om og indhente oplysninger og klage til en kompetent myndighed samt proceduremæssige garantier.

Det tilsynssystem, der er fastsat i konventionen, er også i fuld overensstemmelse med det omfattende system for forvaltning og håndhævelse i forordningen om kunstig intelligens, som består af håndhævelse på EU-plan og nationalt plan, med procedurer for konsekvent gennemførelse af EU-reglerne i medlemsstaterne. Konventionen indeholder navnlig bestemmelser om en eller flere effektive tilsynsmekanismer på nationalt plan, som skal udføre deres opgaver uafhængigt og upartisk og have de nødvendige beføjelser, ekspertise og ressourcer til effektivt at kunne varetage opgaverne med at føre tilsyn med overholdelsen af forpligtelserne i konventionen, således som parterne har givet dem virkning.

Mens forordningen om kunstig intelligens finder anvendelse på AI-systemer, der bringes i omsætning, tages i brug eller anvendes i Unionen, har konventionen en bredere geografisk rækkevidde, der omfatter Europarådets medlemmer og tredjelande rundt om i verden, som kan blive parter i konventionen. Konventionen udgør således en enestående mulighed for at fremme pålidelig kunstig intelligens uden for Unionen i en første international juridisk bindende traktat, der bygger på en stærk menneskerettighedsbaseret tilgang til AI-regulering.

Både konventionen og forordningen om kunstig intelligens er en integreret del af en lovgivningsmæssig tilgang til kunstig intelligens med konsekvente og gensidigt forstærkende forpligtelser på flere internationale niveauer, og de deler det fælles mål om at sikre pålidelig kunstig intelligens.

•Sammenhæng med Unionens politik på andre områder

Konventionen deler også fælles mål med andre EU-politikker og anden EU-lovgivning, der har til formål at gennemføre de grundlæggende rettigheder, der er nedfældet i Den Europæiske Unions charter om grundlæggende rettigheder ( 8 ).

Navnlig er princippet om ligestilling og ikke-forskelsbehandling, der er nedfældet i konventionen, fuldt ud i overensstemmelse med EU-lovgivning om ikke-forskelsbehandling og vil fremme integrationen af ligestillingshensyn i udformningen, udviklingen og anvendelsen af AI-systemer og den effektive gennemførelse af forbuddet mod forskelsbehandling som fastsat i parternes gældende internationale og nationale lovgivning.

Konventionen er desuden i overensstemmelse med gældende EU-ret om databeskyttelse, herunder den generelle forordning om databeskyttelse ( 9 ) i forbindelse med de grundlæggende rettigheder til privatlivets fred og beskyttelse af personoplysninger med effektive garantier og beskyttelsesforanstaltninger, der skal være på plads for enkeltpersoner, i overensstemmelse med parternes gældende nationale og internationale retlige forpligtelser.

De foranstaltninger, der er omhandlet i konventionen, og som har til formål at beskytte parternes demokratiske processer i forbindelse med aktiviteter inden for AI-systemets livscyklus, er i fuld overensstemmelse med målene og de detaljerede regler i retsakten om digitale tjenester ( 10 ), som regulerer leveringen af formidlingstjenester i Unionen med henblik på at garantere et sikkert, forudsigeligt og pålideligt onlinemiljø, hvor de grundlæggende rettigheder, herunder retten til ytringsfrihed og retten til at modtage og videregive oplysninger, respekteres. De er også i overensstemmelse med forordningen om gennemsigtighed og målretning af politisk reklame ( 11 ), adfærdskodeksen om desinformation ( 12 ) og Unionens politikker inden for demokrati og frie, retfærdige og modstandsdygtige valg ( 13 ), herunder den europæiske demokratiindsatsplan fra 2020 ( 14 ), valg- og integritetspakken ( 15 ) og den nylige pakke om forsvar af demokratiet fra 2023 ( 16 ).

Konventionen er i overensstemmelse med Unionens digitale strategi, idet den bidrager til at fremme teknologi, der tjener alle, hvilket er en af de tre hovedsøjler til støtte for de politiske retningslinjer og målsætninger, der blev annonceret i meddelelsen om "Europas digitale fremtid i støbeskeen" ( 17 ). Sidstnævnte har til formål at sikre, at AI udvikles på måder, der respekterer menneskerettighederne og vinder befolkningens tillid, skaber et Europa, der er klar til den digitale tidsalder og gør de næste ti år til det digitale årti ( 18 ).

Desuden indeholder den europæiske erklæring om digitale rettigheder og principper for det digitale årti ( 19 ) flere digitale rettigheder og principper, der er i overensstemmelse med konventionens mål og principper, idet begge instrumenter fremmer en stærk menneskerettighedsbaseret tilgang til teknologi.

Konventionen er også i overensstemmelse med EU's strategi for børns rettigheder ( 20 ) og den europæiske strategi for et bedre internet for børn (BIK+) ( 21 ), som har til formål at sikre, at børn beskyttes, respekteres og styrkes online, så de kan imødegå udfordringer i forbindelse med nye virtuelle verdener og kunstig intelligens.

2.RETSGRUNDLAG, NÆRHEDSPRINCIPPET OG PROPORTIONALITETSPRINCIPPET

•Retsgrundlag

Forslaget til afgørelse om bemyndigelse til undertegnelse af konventionen på Unionens vegne forelægges Rådet i henhold til artikel 218, stk. 5, i TEUF.

Det materielle retsgrundlag for en afgørelse i henhold til artikel 218, stk. 5, TEUF afhænger primært af aftalens formål og indhold. Hvis en gennemgang af en fællesskabsretsakt viser, at den har et dobbelt formål, eller at den består af to led, og det ene af disse kan bestemmes som det primære eller fremherskende, mens det andet kun er sekundært, skal foranstaltningen ifølge retspraksis have en enkelt hjemmel, nemlig den, der kræves af det primære eller fremherskende formål eller led.

Med hensyn til det materielle retsgrundlag er konventionens materielle anvendelsesområde sammenfaldende med anvendelsesområdet for forordningen om kunstig intelligens ( 22 ), herunder i forbindelse med undtagelsen fra anvendelsesområdet for forskning og udvikling, national sikkerhed og forsvarsaktiviteter. Principperne og forpligtelserne i konventionen falder sammen med de mere detaljerede krav til AI-systemer og de specifikke forpligtelser for udbydere og udbredere af sådanne systemer i henhold til forordningen om kunstig intelligens og anden relevant EU-lovgivning. Hvis Rådet vedtager den foreslåede afgørelse, og Unionen undertegner konventionen, vil forordningen om kunstig intelligens udgøre den primære EU-lovgivning til gennemførelse af konventionen i Unionens retsorden med fuldt harmoniserede regler om markedsføring, ibrugtagning og anvendelse af AI-systemer i Unionen, der finder direkte anvendelse i medlemsstaterne, medmindre andet udtrykkeligt er fastsat i forordningen om kunstig intelligens ( 23 ).

I betragtning af at konventionens anvendelsesområde og målsætninger er tilpasset og fuldt ud i overensstemmelse med forordningen om kunstig intelligens, og at det personelle og materielle anvendelsesområde for begge retsakter er sammenfaldende, er det materielle retsgrundlag for indgåelsen af konventionen artikel 114 i TEUF, som er det primære retsgrundlag for forordningen om kunstig intelligens.

Arten af de internationale aftaler ("kun EU" eller "blandede") afhænger af det specifikke emnes forenelighed med Unionens kompetencer.

Artikel 3, stk. 2, TEUF bestemmer, at Unionen har enekompetence "til at indgå internationale aftaler… for så vidt [indgåelsen] kan berøre fælles regler eller ændre deres rækkevidde." En international aftale kan påvirke de fælles regler eller ændre deres anvendelsesområde, hvis de områder, der er omfattet af aftalen, i vidt omfang er omfattet af EU-retten ( 24 ).

Konventionens personelle anvendelsesområde er fuldt ud i overensstemmelse med forordningen om kunstig intelligens, idet begge retlige instrumenter i princippet omfatter både offentlige og private aktører (med frivillig anvendelse af konventionens principper og forpligtelser på andre private aktører end dem, der handler på vegne af offentlige myndigheder), mens det materielle anvendelsesområde for begge retsakter udelukker AI-aktiviteter vedrørende national sikkerhed, forsvar og forskning fra de gældende regler.

I betragtning af at konventionens personelle og materielle anvendelsesområde falder sammen med anvendelsesområdet for forordningen om kunstig intelligens, kan indgåelsen af konventionen berøre fælles EU-regler eller ændre deres anvendelsesområde som omhandlet i artikel 3, stk. 2, i TEUF. Unionen bør derfor anses for at have ekstern enekompetence til at indgå konventionen, og konventionen bør undertegnes på vegne af Unionen som en "kun EU"-aftale med forbehold af dens indgåelse på et senere tidspunkt.

•Proportionalitetsprincippet

Konventionen fastsætter en retlig ramme på højt niveau for kunstig intelligens, der giver mulighed for fleksibilitet, hvilket gør det muligt for parterne konkret at udforme gennemførelsesrammerne. Den risikobaserede tilgang sikrer også reglernes proportionalitet og muliggør differentiering af gennemførelsesforanstaltningerne på en måde, der står i et rimeligt forhold til risiciene, på samme måde som i forordningen om kunstig intelligens.

•Valg af retsakt

3.RESULTATER AF EFTERFØLGENDE EVALUERINGER, HØRINGER AF INTERESSENTER OG KONSEKVENSANALYSER

•Efterfølgende evalueringer/kvalitetskontrol af gældende lovgivning

•Høringer af interessenter

Europa-Kommissionen har ikke gennemført en specifik høring af interessenter om dette forslag.

Udarbejdelsen af konventionen var en fælles indsats fra Europarådets Komité for Kunstig Intelligens, der involverede alle 46 medlemsstater i Europarådet samt observatørstater, herunder Canada, Japan, Mexico, Den Hellige Stol, Amerikas Forenede Stater og Den Europæiske Union. Derudover deltog flere andre ikke-medlemsstater, herunder Australien, Argentina, Costa Rica, Israel, Peru og Uruguay.

I overensstemmelse med Europarådets forpligtelse til at samarbejde med forskellige interessenter omfattede udarbejdelsen af konventionen også bidrag fra 68 internationale repræsentanter fra civilsamfundet, den akademiske verden, industrien og andre internationale organisationer, hvilket sikrede en omfattende og inklusiv tilgang. Udarbejdelsen af konventionen omfattede også samarbejde med forskellige andre internationale organisationer, herunder Organisationen for Sikkerhed og Samarbejde i Europa (OSCE), Organisationen for Økonomisk Samarbejde og Udvikling (OECD) og De Forenede Nationers Organisation for Uddannelse, Videnskab og Kultur (UNESCO). Derudover bidrog relevante organer og komitéer i Europarådet til processen. EU's deltagelse blev ledet af Europa-Kommissionen. Repræsentanter fra Den Europæiske Unions Agentur for Grundlæggende Rettigheder og Den Europæiske Tilsynsførende for Databeskyttelse var også til stede som observatører.

•Indhentning og brug af ekspertbistand

Unionens forhandlingspositioner vedrørende konventionen er udarbejdet i samråd med et særligt udvalg udpeget af Rådet (Rådets Gruppe vedrørende Telekommunikation og Informationssamfundet).

•Konsekvensanalyse

•Målrettet regulering og forenkling

•Grundlæggende rettigheder

Konventionen har til formål at imødegå potentielle risici og skader på menneskerettighederne ved at sikre, at aktiviteter inden for AI-systemers livscyklus er i overensstemmelse med principperne om respekt for menneskerettigheder, demokrati og retsstatsprincippet, samtidig med at AI's potentiale til at beskytte og lette udøvelsen af disse rettigheder i det digitale miljø anerkendes, samt at forbedre samfunds- og miljømæssig velfærd og teknologiske fremskridt.

De konkrete principper og forpligtelser, der er fastsat i konventionen, har til formål at beskytte og respektere menneskerettighederne, som er nedfældet i flere internationale og regionale instrumenter ( 25 ), som finder anvendelse på parterne, herunder Den Europæiske Unions charter om grundlæggende rettigheder og internationale instrumenter om menneskerettigheder, som Unionen har indgået.

Konventionen fastsætter således en fælles minimumsstandard for anvendelse af beskyttelse af menneskerettighederne i forbindelse med kunstig intelligens, samtidig med at den eksisterende beskyttelse af menneskerettighederne opretholdes, og parterne får mulighed for at yde en bredere beskyttelse med strengere garantier.

4.VIRKNINGER FOR BUDGETTET

Konventionenforudser finansielle bidrag fra ikke-medlemsstater til partskonferencens aktiviteter. Mens alle Europarådets medlemmer vil bidrage via Europarådets almindelige budget i overensstemmelse med Europarådets statut, vil parter, der ikke er medlemmer, yde ekstraordinære bidrag. Bidrag fra ikke-medlemmer af Europarådet fastlægges i fællesskab af Ministerkomitéen og det pågældende ikke-medlemmer.

Konventionen griber ikke ind i parternes nationale love og bestemmelser om budgetkompetencer og procedurer for budgetbevillinger. Konventionen giver også tredjelande mulighed for at yde deres bidrag inden for de godkendte budgetgrænser, der er fastsat af deres lovgivende organ, uden at dette berører eventuelle tidligere aftaler.

5.ANDRE FORHOLD

•Planer for gennemførelsen og foranstaltninger til overvågning, evaluering og rapportering

Partskonferencen, der består af repræsentanter for parterne, overvåger, at konventionens mål opfyldes effektivt, og at dens bestemmelser gennemføres af parterne.

Hver part skal forelægge en rapport for partskonferencen inden for de første to år efter tiltrædelsen og derefter med jævne mellemrum med en detaljeret beskrivelse af de foranstaltninger, der er truffet for at gennemføre konventionen.

Parterne opfordres endvidere til at samarbejde om at opfylde konventionens mål. Dette internationale samarbejde kan omfatte udveksling af relevante oplysninger om kunstig intelligens og dens potentiale til at påvirke menneskerettighederne, demokratiet og retsstatsprincippet negativt eller positivt.

For at sikre effektiv overvågning og gennemførelse skal hver part udpege en eller flere effektive tilsynsmekanismer på nationalt plan.

2024/0150 (NLE)

Forslag til

RÅDETS AFGØRELSE

om undertegnelse på Den Europæiske Unions vegne af Europarådets rammekonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

RÅDET FOR DEN EUROPÆISKE UNION HAR —

under henvisning til traktaten om Den Europæiske Unions funktionsmåde, særlig artikel 114 sammenholdt med artikel 218, stk. 5,

under henvisning til forslag fra Europa-Kommissionen og

ud fra følgende betragtning[er]:

(1)Den 21. november 2022 bemyndigede Rådet Europa-Kommissionen til at indlede forhandlinger på Unionens vegne om Europarådets konvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet ("konventionen"). Europa-Kommissionen har forhandlet konventionen på Unionens vegne. Den 17. maj 2024 blev forhandlingerne afsluttet med paraferingen af konventionen og dens vedtagelse i Europarådets Ministerkomité ( 26 ).

(2)Konventionen fastsætter generelle principper og forpligtelser, som parterne i konventionen skal overholde for at sikre beskyttelsen af menneskerettigheder, demokrati og retsstatsprincippet i forbindelse med aktiviteter inden for livscyklussen for systemer med kunstig intelligens (AI).

(3)Den 12. juni 2024 vedtog Unionen forordning (EU) 2024/... ("forordningen om kunstig intelligens")( 27 ), primært på grundlag af artikel 114 i TEUF, som fastsætter fuldt harmoniserede regler for markedsføring, ibrugtagning og anvendelse af AI-systemer i Unionen, som finder direkte anvendelse i medlemsstaterne, medmindre andet udtrykkeligt er fastsat i forordningen om kunstig intelligens. Konventionen skal gennemføres i Unionen udelukkende gennem forordningen om kunstig intelligens og anden relevant gældende EU-ret, hvor det er relevant.

(4)Da konventionens personelle og materielle anvendelsesområde falder sammen med forordningen om kunstig intelligens og anden relevant EU-ret, kan indgåelsen af konventionen berøre fælles EU-regler eller ændre deres anvendelsesområde, jf. artikel 3, stk. 2, i traktaten om Den Europæiske Unions funktionsmåde. Unionen har derfor ekstern enekompetence til at undertegne konventionen, og derfor bør kun Unionen blive part i konventionen med forbehold af dens indgåelse på et senere tidspunkt.

(5)I overensstemmelse med traktaterne påhviler det Europa-Kommissionen at sikre undertegnelsen af konventionen med forbehold af dens indgåelse på et senere tidspunkt —

VEDTAGET DENNE AFGØRELSE:

Artikel 1

Undertegnelsen af Europarådets rammekonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet ("konventionen") godkendes herved på Unionens vegne med forbehold af indgåelse af nævnte konvention.

Teksten til den konvention, der skal undertegnes, er knyttet til denne afgørelse.

Artikel 2

Denne afgørelse træder i kraft den .

Udfærdiget i Bruxelles, den .

(1)     EUROPA-PARLAMENTETS OG RÅDETS FORORDNING (EU) 2024/... om harmoniserede regler om kunstig intelligens og om ændring af forordning (EF) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 og (EU) 2019/2144 samt direktiv 2014/90/EU, (EU) 2016/797 og (EU) 2020/1828 (forordningen om kunstig intelligens) (EUT 2024 L...) .

(2)    Forordningen om kunstig intelligens, betragtning 1 og 8.

(3)     Beslutning om CAI's arbejde på den 132. samling i Ministerkomitéen — Opfølgning, CM/Inf(2022)20, DD(2022)245 .

(4)    Domstolens dom af 20. november 2018, forenede sager C-626/15 og C-659/16, Kommissionen mod Rådet (beskyttede havområder i Antarktis), ECLI:EU:C:2018:925, præmis 112.

(5)     Rådets afgørelse (EU) 2022/2349 af 21. november 2022 om bemyndigelse til at indlede forhandlinger på vegne af Den Europæiske Union om en europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet , EUT L 311 af   2 .12.2022, s. 138 .

(6)    CM/Del/Dec(2024)133/4.

(7)    OECD's definition af et "AI-system" blev ajourført den 8. november 2023 [C(2023)151 og C/M(2023)14, punkt 218] for at sikre, at den fortsat er teknisk nøjagtig og afspejler den teknologiske udvikling, herunder med hensyn til generativ AI.

(8)

   Den Europæiske Unions charter om grundlæggende rettigheder, EUT C 326 af 26.10.2012, s. 391.

(9)    Europa-Parlamentets og Rådets forordning (EU) 2016/679 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger og om fri udveksling af sådanne oplysninger og om ophævelse af direktiv 95/46/EF (generel forordning om databeskyttelse) (EUT L 119 af 4.5.2016, s. 1).

(10)    Europa-Parlamentets og Rådets forordning (EU) 2022/2065 af 19. oktober 2022 om et indre marked for digitale tjenester og om ændring af direktiv 2000/31/EF (forordning om digitale tjenester) (EUT L 277 af 27.10.2022, s. 1).

(11)    Europa-Parlamentets og Rådets forordning (EU) 2024/900 af 13. marts 2024 om gennemsigtighed og målretning i forbindelse med politisk reklame, PE/90/2023/REV/1, EUT L 2024/900 af 20.3.2024.

(12)     https://disinfocode.eu/introduction-to-the-code/ .

(13)     Beskyttelse af demokratiet — Europa-Kommissionen (europa.eu) .

(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_da .

(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en .

(16)    Meddelelse fra Kommissionen om forsvar af demokratiet, COM/2023/630 final.

(17)    Meddelelse fra Kommissionen: Europas digitale fremtid i støbeskeen, COM/2020/67 final.

(18)    Meddelelse fra Kommissionen, Det digitale kompas 2030: Europas kurs i det digitale årti , COM/2021/118 final.

(19)     Europæisk erklæring om digitale rettigheder og principper for det digitale årti , COM(2022) 28 final.

(20)    Meddelelse fra Kommissionen om en EU-strategi for børns rettigheder, COM/2021/142 final.

(21)    Meddelelse fra Kommissionen — Et digitalt årti for børn og unge: den nye europæiske strategi for et bedre internet for børn (BIK+), COM/2022/212 final.

(22)    Vedtaget af Rådet den 21. maj 2024 og forventes offentliggjort i Den Europæiske Unions Tidende i juli 2024.

(23)    Se artikel 1 og betragtning 1 i forordningen om kunstig intelligens.

(24)    F.eks. sag C‑114/12, Kommissionen mod Rådet (radio- og tv-selskabers beslægtede rettigheder), ECLI:EU:C:2014:2151, præmis 68-69. Udtalelse 1/13, Tredjestaters tiltrædelse af Haagerkonventionen, EU:C:2014:2303, præmis 71-74. Sag C‑66/13, Green Network, EU:C:2014:2399, præmis 27-33. Udtalelse 3/15, Marrakeshtraktaten om fremme af adgang til offentliggjorte værker for personer, der er blinde, synshæmmede eller på anden måde læsehandicappede, ECLI:EU:C:2017:114, præmis 105-108.

(25)    Såsom verdenserklæringen om menneskerettigheder fra 1948, konventionen fra 1950 til beskyttelse af menneskerettigheder og grundlæggende frihedsrettigheder (ETS nr. 5), den internationale konvention om borgerlige og politiske rettigheder fra 1966, den internationale konvention om økonomiske, sociale og kulturelle rettigheder fra 1966, den europæiske socialpagt fra 1961 (ETS nr. 35) samt deres respektive protokoller og den europæiske socialpagt (revideret) fra 1996 (ETS nr. 163), De Forenede Nationers konvention fra 1989 om barnets rettigheder og De Forenede Nationers konvention fra 2006 om rettigheder for personer med handicap.

(26)    RÅDETS AFGØRELSE (EU) 2022/2349 af 21. november 2022 om bemyndigelse til at indlede forhandlinger på vegne af Den Europæiske Union om en europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet, EUT L 311 af   2 .12.2022, s. 138 .

(27)    Europa-Parlamentets og Rådets forordning (EU) 2024/... om harmoniserede regler om kunstig intelligens og om ændring af forordning (EF) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 og (EU) 2019/2144 samt direktiv 2014/90/EU, (EU) 2016/797 og (EU) 2020/1828 (forordningen om kunstig intelligens), EUT 2024 L…...

EUROPA-KOMMISSIONEN

Bruxelles, den 26.6.2024

COM(2024) 264 final

BILAG

til

forslag til RÅDETS AFGØRELSE

om undertegnelse på Den Europæiske Unions vegne af Europarådets rammekonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

Teksten til Europarådets rammekonvention om kunstig intelligens og menneskerettigheder, demokrati og retsstatsprincippet

Præambel

Europarådets medlemsstater og de øvrige parter, der undertegner denne konvention, og

som tager i betragtning, at Europarådets mål er at opnå større enhed mellem dets medlemmer, navnlig baseret på respekt for menneskerettigheder, demokrati og retsstatsprincippet,

som anerkender værdien af at fremme samarbejdet mellem parterne i denne konvention og udvide dette samarbejde til andre stater, der deler de samme værdier,

som er bevidst om den hastige udvikling inden for videnskab og teknologi og de gennemgribende ændringer, der er forårsaget af aktiviteter inden for livscyklussen for systemer med kunstig intelligens, som har potentiale til at fremme menneskelig velstand samt individuel og samfundsmæssig trivsel, bæredygtig udvikling, ligestilling mellem kønnene og styrkelse af alle kvinders og pigers indflydelse og status samt andre vigtige mål og interesser ved at fremme fremskridt og innovation,

som anerkender, at aktiviteter inden for livscyklussen for systemer med kunstig intelligens kan give hidtil usete muligheder for at beskytte og fremme menneskerettigheder, demokrati og retsstatsprincippet,

som er bekymret over, at visse aktiviteter inden for livscyklussen for systemer med kunstig intelligens kan undergrave menneskelig værdighed og individuel autonomi, menneskerettigheder, demokrati og retsstatsprincippet,

som er bekymret over risikoen for forskelsbehandling i digitale sammenhænge, navnlig dem, der involverer systemer med kunstig intelligens, og deres potentielle virkning i form af at skabe eller forværre uligheder, herunder dem, der opleves af kvinder og enkeltpersoner i sårbare situationer, med hensyn til udøvelsen af deres menneskerettigheder og deres fulde, lige og effektive deltagelse i økonomiske, sociale, kulturelle og politiske anliggender,

som er bekymret over misbrug af systemer med kunstig intelligens og modsætter sig anvendelsen af sådanne systemer til undertrykkende formål i strid med den internationale menneskerettighedslovgivning, herunder gennem vilkårlig eller ulovlig overvågnings- og censurpraksis, der undergraver privatlivets fred og individuel autonomi,

som er bevidst om, at menneskerettigheder, demokrati og retsstatsprincippet i sagens natur hænger sammen,

som er overbevist om behovet for som en prioritet at etablere en globalt gældende retlig ramme, der fastsætter fælles generelle principper og regler for aktiviteter inden for livscyklussen for systemer med kunstig intelligens, som effektivt bevarer fælles værdier og udnytter fordelene ved kunstig intelligens til fremme af disse værdier på en måde, der fremmer ansvarlig innovation,

som anerkender behovet for at fremme digitale færdigheder, viden om og tillid til udformning, udvikling, anvendelse og dekommissionering af systemer med kunstig intelligens,

som anerkender denne konventions rammemæssige karakter, der kan suppleres med yderligere instrumenter til håndtering af specifikke spørgsmål vedrørende aktiviteter inden for livscyklussen for systemer med kunstig intelligens,

som understreger, at denne konvention har til formål at tackle specifikke udfordringer, der opstår i hele livscyklussen for systemer med kunstig intelligens, og tilskynder til, at der tages hensyn til de bredere risici og virkninger, der er forbundet med disse teknologier, herunder, men ikke begrænset til, menneskers sundhed og miljøet samt socioøkonomiske aspekter såsom beskæftigelse og arbejdskraft,

som noterer sig de relevante bestræbelser på at fremme international forståelse og samarbejde om kunstig intelligens i andre internationale og overnationale organisationer og fora,

som henviser til gældende internationale menneskerettighedsinstrumenter, såsom verdenserklæringen om menneskerettighederne fra 1948, konventionen til beskyttelse af menneskerettigheder og grundlæggende frihedsrettigheder fra 1950 (ETS nr. 5), den internationale konvention om borgerlige og politiske rettigheder fra 1966, den internationale konvention om økonomiske, sociale og kulturelle rettigheder fra 1966, den europæiske socialpagt fra 1961 (ETS nr. 35) samt deres respektive protokoller og den europæiske socialpagt (revideret) fra 1996 (ETS nr. 163),

som også er opmærksom på De Forenede Nationers konvention af 1989 om barnets rettigheder og FN's konvention fra 2006 om rettigheder for personer med handicap,

som også er opmærksom på enkeltpersoners rettigheder til privatlivets fred og beskyttelsen af personoplysninger, som det er relevant og tillagt, f.eks. i henhold til konventionen af 1981 om beskyttelse af det enkelte menneske i forbindelse med automatisk databehandling af personoplysninger (ETS nr. 108) og protokollerne hertil,

som bekræfter parternes tilsagn om at beskytte menneskerettighederne, demokratiet og retsstatsprincippet og fremme troværdigheden af systemer med kunstig intelligens gennem denne konvention,

er blevet enige om følgende:

Kapitel I — Generelle bestemmelser

Artikel 1 — Genstand og formål

1)Bestemmelserne i denne konvention har til formål at sikre, at aktiviteter inden for livscyklussen for systemer med kunstig intelligens er i fuld overensstemmelse med menneskerettigheder, demokrati og retsstatsprincippet.

2)Hver part skal vedtage eller opretholde passende lovgivningsmæssige, administrative eller andre foranstaltninger til gennemførelse af bestemmelserne i denne konvention. Disse foranstaltninger skal gradueres og differentieres efter behov i betragtning af alvoren og sandsynligheden for, at der opstår negative indvirkninger på menneskerettighederne, demokratiet og retsstatsprincippet i hele livscyklussen for systemer med kunstig intelligens. Dette kan omfatte specifikke eller horisontale foranstaltninger, der finder anvendelse, uanset hvilken type teknologi der anvendes.

3)For at sikre, at parterne gennemfører dens bestemmelser effektivt, indfører denne konvention en opfølgningsmekanisme og bestemmelser om internationalt samarbejde.

Artikel 2 — Definition af systemer med kunstig intelligens

I denne konvention forstås ved "system med kunstig intelligens" et maskinbaseret system, der med henblik på eksplicitte eller implicitte mål udleder af det input, det modtager, hvordan man genererer output såsom forudsigelser, indhold, anbefalinger eller beslutninger, der kan påvirke fysiske eller virtuelle miljøer. Forskellige systemer med kunstig intelligens varierer i deres niveauer af autonomi og tilpasningsevne efter ibrugtagning.

Artikel 3 — Anvendelsesområde

1)Konventionens anvendelsesområde omfatter aktiviteter inden for livscyklussen for systemer med kunstig intelligens, der har potentiale til at gribe ind i menneskerettigheder, demokrati og retsstatsprincippet som følger:

a)Hver part anvender denne konvention på aktiviteter inden for livscyklussen for systemer med kunstig intelligens, der udføres af offentlige myndigheder eller private aktører, som handler på deres vegne.

b)Hver part skal håndtere risici og virkninger, der opstår som følge af private aktørers aktiviteter inden for livscyklussen for systemer med kunstig intelligens, i det omfang de ikke er omfattet af afsnit a, på en måde, der er i overensstemmelse med denne konventions genstand og formål.

Hver part skal i en erklæring, der forelægges Europarådets generalsekretær på tidspunktet for undertegnelsen eller ved deponeringen af sit ratifikations-, accept-, godkendelses- eller tiltrædelsesinstrument, angive, hvordan den agter at gennemføre denne forpligtelse, enten ved at anvende principperne og forpligtelserne i kapitel II-VI i denne konvention på private aktørers aktiviteter eller ved at træffe andre passende foranstaltninger til at opfylde forpligtelsen i dette afsnit. Parterne kan til enhver tid og på samme måde ændre deres erklæringer.

Ved gennemførelsen af forpligtelsen i henhold til dette afsnit kan en part ikke fravige eller begrænse anvendelsen af sine internationale forpligtelser til at beskytte menneskerettigheder, demokrati og retsstatsprincippet.

2)En part er ikke forpligtet til at anvende denne konvention på aktiviteter inden for livscyklussen for systemer med kunstig intelligens, der vedrører beskyttelse af dens nationale sikkerhedsinteresser, under forudsætning af at sådanne aktiviteter udføres på en måde, der er i overensstemmelse med gældende international ret, herunder internationale menneskerettighedsforpligtelser, og med respekt for dens demokratiske institutioner og processer.

3)Med forbehold af artikel 13 og artikel 25, stk. 2, finder denne konvention ikke anvendelse på forsknings- og udviklingsaktiviteter vedrørende systemer med kunstig intelligens, der endnu ikke er stillet til rådighed for brug, medmindre afprøvning eller lignende aktiviteter gennemføres på en sådan måde, at de har potentiale til at gribe ind i menneskerettighederne, demokratiet og retsstatsprincippet.

4)Spørgsmål vedrørende nationalt forsvar falder ikke ind under denne konventions anvendelsesområde.

Kapitel II — Generelle forpligtelser

Artikel 4 — Beskyttelse af menneskerettigheder

Hver part vedtager eller opretholder foranstaltninger til at sikre, at aktiviteterne inden for livscyklussen for systemer med kunstig intelligens er i overensstemmelse med forpligtelserne til at beskytte menneskerettighederne, som fastsat i gældende international ret og i dens nationale lovgivning.

Artikel 5 — De demokratiske processers integritet og respekt for retsstatsprincippet

1)Hver part vedtager eller opretholder foranstaltninger, der søger at sikre, at systemer med kunstig intelligens ikke anvendes til at underminere de demokratiske institutioners og processers integritet, uafhængighed og effektivitet, herunder princippet om magtens tredeling, respekt for retsvæsenets uafhængighed og adgang til domstolene.

2)Hver part vedtager eller opretholder foranstaltninger, der har til formål at beskytte dens demokratiske processer i forbindelse med aktiviteter inden for livscyklussen for systemer med kunstig intelligens, herunder enkeltpersoners fair adgang til og deltagelse i den offentlige debat, samt deres mulighed for frit at danne meninger.

Kapitel III — Principper vedrørende aktiviteter inden for livscyklussen for systemer med kunstig intelligens

Artikel 6 — Generel tilgang

Dette kapitel indeholder fælles generelle principper, som hver part skal gennemføre for så vidt angår systemer med kunstig intelligens på en måde, der passer til deres nationale retssystem og de øvrige forpligtelser i henhold til denne konvention.

Artikel 7 — Menneskelig værdighed og individuel autonomi

Hver part vedtager eller opretholder foranstaltninger med henblik på at respektere menneskelig værdighed og individuel autonomi i forbindelse med aktiviteter inden for livscyklussen for systemer med kunstig intelligens.

Artikel 8 — Gennemsigtighed og tilsyn

Hver part vedtager eller opretholder foranstaltninger til at sikre, at der er indført passende gennemsigtigheds- og tilsynskrav, der er skræddersyet til de specifikke sammenhænge og risici, for så vidt angår aktiviteter inden for livscyklussen for systemer med kunstig intelligens, herunder med hensyn til identifikation af indhold, der genereres af kunstig intelligens.

Artikel 9 — Ansvarlighed og ansvar

Hver part vedtager eller opretholder foranstaltninger til at sikre ansvarlighed og ansvar for negative indvirkninger på menneskerettighederne, demokratiet og retsstatsprincippet som følge af aktiviteter inden for livscyklussen for systemer med kunstig intelligens.

Artikel 10 — Ligestilling og ikke-forskelsbehandling

1)Hver part vedtager eller opretholder foranstaltninger med henblik på at sikre, at aktiviteter inden for livscyklussen for systemer med kunstig intelligens respekterer ligestilling, herunder ligestilling mellem kønnene, og forbuddet mod forskelsbehandling i henhold til gældende international og national lovgivning.

2)Hver part forpligter sig til at vedtage eller opretholde foranstaltninger, der har til formål at overvinde uligheder for at opnå retfærdige og rimelige resultater i overensstemmelse med deres gældende nationale og internationale menneskerettighedsforpligtelser i forbindelse med aktiviteter inden for livscyklussen for systemer med kunstig intelligens.

Artikel 11 — Beskyttelse af privatlivets fred og personoplysninger

Hver part vedtager eller opretholder foranstaltninger for at sikre følgende med hensyn til aktiviteter inden for livscyklussen for systemer med kunstig intelligens:

a)at privatlivets rettigheder for enkeltpersoner og deres personoplysninger er beskyttet, herunder gennem gældende nationale og internationale love, standarder og rammer samt

b)at der er indført effektive garantier og beskyttelsesforanstaltninger for enkeltpersoner i overensstemmelse med gældende nationale og internationale retlige forpligtelser.

Artikel 12 — Pålidelighed

Hver part træffer, hvor det er relevant, foranstaltninger til at fremme pålideligheden af systemer med kunstig intelligens og tilliden til deres resultater, hvilket kan omfatte krav vedrørende tilstrækkelig kvalitet og sikkerhed i hele livscyklussen for systemer med kunstig intelligens.

Artikel 13 — Sikker innovation

Med henblik på at fremme innovation og samtidig undgå negative indvirkninger på menneskerettighederne, demokratiet og retsstatsprincippet opfordres hver part til, hvor det er relevant, at gøre det muligt at etablere kontrollerede miljøer for udvikling og afprøvning af samt eksperimentering med systemer med kunstig intelligens under tilsyn af dens kompetente myndigheder.

Kapitel IV — Retsmidler

Artikel 14 — Retsmidler

1)Hver part skal, i det omfang retsmidler kræves af dens internationale forpligtelser og i overensstemmelse med dens nationale retssystem, vedtage eller opretholde foranstaltninger for at sikre tilgængelige og effektive retsmidler for krænkelser af menneskerettigheder som følge af aktiviteter inden for livscyklussen for systemer med kunstig intelligens.

2)For at understøtte stk. 1 ovenfor skal hver part vedtage eller opretholde foranstaltninger, herunder:

a)foranstaltninger til at sikre, at relevante oplysninger om systemer med kunstig intelligens, som har potentiale til i væsentlig grad at påvirke menneskerettigheder og deres relevante anvendelse, dokumenteres, stilles til rådighed for organer, der er bemyndiget til at få adgang til disse oplysninger, og, hvor det er relevant og passende, stilles til rådighed eller videregives til berørte personer

b)foranstaltninger til at sikre, at de i litra a) omhandlede oplysninger er tilstrækkelige til, at de berørte personer kan anfægte den eller de beslutninger, der er truffet eller i alt væsentligt er underbygget af anvendelsen af systemet, og, hvor det er relevant og passende, anvendelsen af selve systemet samt

c)en effektiv mulighed for de berørte personer for at indgive en klage til de kompetente myndigheder.

Artikel 15 — Retssikkerhedsgarantier

1)Hver part sikrer, at personer, der berøres af, at et system med kunstig intelligens i væsentlig grad påvirker udøvelsen af menneskerettigheder, har adgang til effektive proceduremæssige garantier, beskyttelsesforanstaltninger og rettigheder i overensstemmelse med gældende international og national ret.

2)Hver part bestræber sig på at sikre, at personer, der interagerer med systemer med kunstig intelligens, alt efter omstændighederne underrettes om, at de interagerer med sådanne systemer snarere end med et menneske.

Kapitel V — Vurdering og afbødning af risici og negative virkninger

Artikel 16 — Ramme for risiko- og konsekvensstyring

1)Hver part skal, under hensyntagen til principperne i kapitel III, vedtage eller opretholde foranstaltninger til identifikation, vurdering, forebyggelse og afbødning af risici i forbindelse med systemer med kunstig intelligens ved at tage hensyn til faktiske og potentielle virkninger for menneskerettigheder, demokratiet og retsstatsprincippet.

2)Sådanne foranstaltninger skal gradueres og differentieres, alt efter hvad der er relevant, og:

a)tage behørigt hensyn til konteksten og den tilsigtede anvendelse af systemer med kunstig intelligens, navnlig for så vidt angår risici for menneskerettigheder, demokratiet og retsstatsprincippet

b)tage behørigt hensyn til alvoren af og sandsynligheden for potentielle virkninger

c)hvor det er relevant, overveje perspektiverne for relevante interessenter, navnlig personer, hvis rettigheder kan blive berørt

d)finde anvendelse iterativt i alle aktiviteter i livscyklussen for systemet med kunstig intelligens

e)omfatte overvågning af risici og negative virkninger for menneskerettigheder, demokrati og retsstatsprincippet

f)omfatte dokumentation af risici, faktiske og potentielle virkninger og risikostyringstilgangen samt

g)hvor det er relevant, kræve afprøvning af systemer med kunstig intelligens, før de stilles til rådighed til første brug, og når de ændres væsentligt.

3)Hver part vedtager eller opretholder foranstaltninger, der har til formål at sikre, at negative virkninger af systemer med kunstig intelligens for menneskerettigheder, demokrati og retsstatsprincippet håndteres på passende vis. Sådanne negative virkninger og foranstaltninger til afhjælpning heraf bør dokumenteres og indgå i de relevante risikostyringsforanstaltninger, der er beskrevet i stk. 2.

4)Hver part skal vurdere behovet for et moratorium eller et forbud eller andre passende foranstaltninger med hensyn til visse anvendelser af systemer med kunstig intelligens, hvor den finder, at sådanne anvendelser er uforenelige med respekten for menneskerettigheder, demokratiets funktion eller retsstatsprincippet.

Kapitel VI — Gennemførelse af konventionen

Artikel 17 — Ikke-forskelsbehandling

Parternes gennemførelse af bestemmelserne i denne konvention skal sikres uden forskelsbehandling på noget grundlag i overensstemmelse med deres internationale menneskerettighedsforpligtelser.

Artikel 18 — Rettigheder for personer med handicap og for børn

Hver part tager i overensstemmelse med sin nationale lovgivning og gældende internationale forpligtelser behørigt hensyn til eventuelle specifikke behov og sårbarheder i forbindelse med respekt for børns og personer med handicaps rettigheder.

Artikel 19 — Offentlig høring

Hver part søger at sikre, at vigtige spørgsmål, der rejses i forbindelse med systemer med kunstig intelligens, hvor det er relevant, tages behørigt i betragtning gennem offentlig debat og høring af flere interessenter i lyset af sociale, økonomiske, juridiske, etiske, miljømæssige og andre relevante konsekvenser.

Artikel 20 — Digital dannelse og færdigheder

Hver part tilskynder til og fremmer passende digital dannelse og digitale færdigheder for alle segmenter af befolkningen, herunder specifikke ekspertfærdigheder for dem, der er ansvarlige for identifikation, vurdering, forebyggelse og afbødning af risici i forbindelse med systemer med kunstig intelligens.

Artikel 21 — Beskyttelse af eksisterende menneskerettigheder

Intet i denne konvention må fortolkes således, at det begrænser, fraviger eller på anden måde påvirker menneskerettighederne eller andre beslægtede juridiske rettigheder og forpligtelser, som kan være garanteret i henhold til en parts relevante love eller enhver anden relevant international aftale, som den er part i.

Artikel 22 — Bredere beskyttelse

Ingen af bestemmelserne i denne konvention må fortolkes således, at de begrænser eller på anden måde påvirker en parts mulighed for at yde en bredere beskyttelsesforanstaltning end fastsat i denne konvention.

Kapitel VII — Opfølgningsmekanisme og samarbejde

Artikel 23 — Samråd mellem parterne

1)Samrådet mellem parterne skal bestå af repræsentanter for parterne i denne konvention.

2)Parterne skal periodisk holde samråd med hinanden med henblik på:

a. at lette en effektiv anvendelse og gennemførelse af denne konvention, herunder identifikation af eventuelle problemer og virkninger af eventuelle forbehold, der er taget i henhold til artikel 34, stk. 1, eller enhver erklæring, der er afgivet i henhold til denne konvention

b. at overveje en eventuel supplering til eller ændring af denne konvention

c. at behandle spørgsmål og fremsætte specifikke anbefalinger vedrørende fortolkningen og anvendelsen af denne konvention

d. at lette udvekslingen af oplysninger om væsentlige retlige, politiske eller teknologiske udviklinger af relevans, herunder med henblik på at nå de mål, der er fastsat i artikel 25, for gennemførelsen af denne konvention

e. om nødvendigt at lette mindelig bilæggelse af tvister i forbindelse med anvendelsen af denne konvention samt

f. at lette samarbejdet med relevante interessenter om relevante aspekter af gennemførelsen af denne konvention, herunder gennem offentlige høringer, hvor det er passende.

3)Samrådet mellem parterne skal indkaldes af Europarådets generalsekretær, når denne finder det nødvendigt, og under alle omstændigheder når et flertal af parterne eller Ministerkomitéen anmoder herom.

4)Samrådet mellem parterne vedtager sin egen forretningsorden ved konsensus senest tolv måneder efter denne konventions ikrafttræden.

5)Parterne modtager bistand fra Europarådets sekretariat til udførelse af deres funktioner ifølge denne artikel.

6)Samrådet mellem parterne kan foreslå Ministerkomitéen passende måder til at inddrage relevant ekspertise til støtte for en effektiv gennemførelse af denne konvention.

7)Enhver part, der ikke er medlem af Europarådet, skal bidrage til finansieringen af aktiviteterne i forbindelse med samrådet mellem parterne. Bidraget fra et ikke-medlem af Europarådet fastlægges i fællesskab af Ministerkomitéen og det pågældende ikke-medlem.

8)Samrådet mellem parterne kan beslutte at begrænse deltagelsen i samrådets arbejde for en part, der er ophørt med at være medlem af Europarådet i henhold til artikel 8 i Europarådets statut (ETS nr. 1) på grund af en alvorlig overtrædelse af statuttens artikel 3. Tilsvarende kan der træffes foranstaltninger over for enhver part, der ikke er medlem af Europarådet, ved en afgørelse truffet af Ministerkomitéen om at indstille sine forbindelser med denne stat af grunde svarende til dem, der er nævnt i statuttens artikel 3.

Artikel 24 — Indberetningspligt

1)Hver part forelægger en rapport for samrådet mellem parterne inden for de første to år efter at være blevet part og derefter regelmæssigt med nærmere oplysninger om de aktiviteter, der er iværksat for at gennemføre artikel 3, stk. 1, litra a) og b).

2)Samrådet mellem parterne fastlægger formatet og processen for rapporten i overensstemmelse med sin forretningsorden.

Artikel 25 — Internationalt samarbejde

1)Parterne skal samarbejde om at virkeliggøre formålet med denne konvention. Parterne opfordres endvidere, hvor det er relevant, til at bistå stater, der ikke er parter i denne konvention, med at handle i overensstemmelse med bestemmelserne i denne konvention og blive part i den.

2)Parterne skal, hvor det er relevant, udveksle relevante og nyttige oplysninger om aspekter vedrørende kunstig intelligens, som kan have betydelige positive eller negative virkninger for udøvelsen af menneskerettigheder, demokratiets funktion og overholdelsen af retsstatsprincippet, herunder risici og virkninger, der er opstået i forskningssammenhænge og i forhold til den private sektor. Parterne opfordres til, hvor det er relevant, at inddrage relevante interessenter og stater, der ikke er parter i denne konvention, i sådanne udvekslinger af oplysninger.

3)Parterne opfordres til at styrke samarbejdet, herunder med relevante interessenter, hvor det er relevant, for at forebygge og afbøde risici og negative indvirkninger på menneskerettigheder, demokrati og retsstatsprincippet i forbindelse med aktiviteter inden for livscyklussen for systemer med kunstig intelligens.

Artikel 26 — Effektive tilsynsmekanismer

1)Hver part opretter eller udpeger en eller flere effektive mekanismer til at føre tilsyn med overholdelsen af forpligtelserne i denne konvention.

2)Hver part sikrer, at sådanne mekanismer udfører deres opgaver uafhængigt og upartisk, og at de har de nødvendige beføjelser, ekspertise og ressourcer til effektivt at kunne varetage deres opgaver med at føre tilsyn med overholdelsen af forpligtelserne i denne konvention, således som de har fået virkning af parterne.

3)Hvis en part har indført mere end én sådan mekanisme, træffer den, hvor det er praktisk muligt, foranstaltninger til at lette et effektivt samarbejde mellem dem.

4)Hvis en part har indført mekanismer, der er forskellige fra de eksisterende strukturer for menneskerettigheder, træffer den, hvor det er praktisk muligt, foranstaltninger til at fremme et effektivt samarbejde mellem de mekanismer, der er omhandlet i stk. 1, og de eksisterende nationale strukturer for menneskerettigheder.

Kapitel VIII — Afsluttende bestemmelser

Artikel 27 — Konventionens retsvirkninger

1)Hvis to eller flere parter allerede har indgået en aftale eller traktat om de spørgsmål, der er omfattet af denne konvention, eller på anden måde har etableret forbindelser på sådanne områder, har de også ret til at anvende den pågældende aftale eller traktat eller regulere disse forbindelser i overensstemmelse hermed, så længe de gør det på en måde, der ikke er uforenelig med denne konventions formål og hensigt.

2)Parter, der er medlemmer af Den Europæiske Union, anvender i deres indbyrdes forbindelser Den Europæiske Unions regler for spørgsmål, der henhører under denne konventions anvendelsesområde, uden at dette berører konventionens formål og hensigt, og uden at det berører dens fulde anvendelse med andre parter. Det samme gælder for andre parter, i det omfang de er bundet af sådanne regler.

Artikel 28 — Ændringer

1)Enhver part, Europarådets Ministerkomité eller samrådet mellem parterne kan foreslå ændringer til denne konvention.

2)Europarådets generalsekretær underretter parterne om ethvert forslag til ændringer.

3)Enhver ændring, der foreslås af en part eller af Ministerkomitéen, skal meddeles til samrådet mellem parterne, som skal fremsende sin udtalelse om den foreslåede ændring til Ministerkomiteen.

4)Ministerkomiteen skal behandle den foreslåede ændring samt en eventuel udtalelse afgivet af samrådet mellem parterne og kan godkende ændringen.

5)Teksten til enhver ændring, der godkendes af Ministerkomitéen i overensstemmelse med stk. 4, skal fremsendes til parterne til accept.

6)Enhver ændring, der godkendes i henhold til stk. 4, træder i kraft den 30. dag efter, at alle parter har underrettet generalsekretæren om deres accept deraf.

Artikel 29 — Bilæggelse af tvister

I tilfælde af en tvist mellem parterne om fortolkningen eller anvendelsen af denne konvention søger disse parter at bilægge tvisten ved forhandling eller andre fredelige midler efter eget valg, herunder gennem samrådet mellem parterne, jf. artikel 23, stk. 2, litra e).

Artikel 30 — Undertegnelse og ikrafttræden

1)Denne konvention er åben for undertegnelse af Europarådets medlemsstater, de ikke-medlemsstater, der har deltaget i dens udarbejdelse, og Den Europæiske Union.

2)Denne konvention skal ratificeres, accepteres eller godkendes. Ratifikations-, accept- eller godkendelsesinstrumenterne deponeres hos Europarådets generalsekretær.

3)Denne konvention træder i kraft den første dag i den måned, der følger efter udløbet af en periode på tre måneder efter den dato, hvor fem undertegnende parter, herunder mindst tre af Europarådets medlemsstater, har udtrykt deres samtykke til at være bundet af konventionen i overensstemmelse med stk. 2.

4)For enhver stat, der har undertegnet konventionen, og som på et senere tidspunkt afgiver tilsagn om at blive forpligtet af denne, træder denne konvention i kraft den første dag i måneden efter udløbet af et tidsrum på tre måneder fra datoen for deponeringen af ratifikations, accept- eller godkendelsesinstrumentet.

Artikel 31 — Tiltrædelse

1)Efter denne konventions ikrafttræden kan Europarådets Ministerkomité, efter at have rådført sig med parterne i denne konvention og opnået deres enstemmige samtykke, opfordre enhver stat, der ikke er medlem af Europarådet, og som ikke har deltaget i udarbejdelsen af denne konvention, til at tiltræde denne konvention ved en afgørelse, der træffes med det flertal, der er omhandlet i artikel 20, litra d), i Europarådets statut, og med enstemmighed blandt repræsentanterne for de parter, der har ret til at sidde i Ministerkomitéen.

2)For enhver stat, der tiltræder konventionen, træder denne i kraft den første dag i måneden efter udløbet af et tidsrum på tre måneder fra datoen for deponeringen af tiltrædelsesinstrumentet hos Europarådets generalsekretær.

Artikel 32 — Territorial anvendelse

1)Enhver stat eller Den Europæiske Union kan på tidspunktet for undertegnelse eller ved deponeringen af sit ratifikations-, accept-, godkendelses- eller tiltrædelsesinstrument angive, inden for hvilket område eller hvilke områder denne konvention skal finde anvendelse.

2)Hver part kan på et senere tidspunkt ved erklæring til Europarådets generalsekretær udvide anvendelsen af denne konvention til ethvert andet område, der er angivet i erklæringen. For så vidt angår et sådant område træder denne konvention i kraft den første dag i den måned, der følger efter udløbet af en periode på tre måneder efter datoen for generalsekretærens modtagelse af en sådan erklæring.

3)Enhver erklæring, der afgives i henhold til ovenstående to stykker, kan for så vidt angår ethvert område, der er anført i en sådan erklæring, tilbagetrækkes ved notifikation stilet til Europarådets generalsekretær. Tilbagekaldelsen får virkning den første dag i den måned, der følger efter udløbet af en periode på tre måneder efter datoen for generalsekretærens modtagelse af en sådan underretning.

Artikel 33 — Føderal bestemmelse

1)En føderal stat forbeholder sig retten til at påtage sig forpligtelser i henhold til denne konvention på en måde, der er forenelig med de grundlæggende principper, som regulerer forholdet mellem dens centrale regering og dens delstater eller andre lignende territoriale enheder, forudsat at denne konvention finder anvendelse på den føderale stats centralregering.

2)Med hensyn til de bestemmelser i denne konvention, hvis gennemførelse falder ind under delstaternes eller lignende territoriale enheders kompetence, og hvor disse ikke efter føderationens forfatningsmæssige system er forpligtet til at træffe lovgivningsmæssige foranstaltninger, skal den føderale regering underrette de kompetente myndigheder i sådanne stater om disse bestemmelser samt give dem sin positive udtalelse og opfordre dem til at tage relevante skridt til at give bestemmelserne retsvirkning.

Artikel 34 — Forbehold

1)Ved skriftlig meddelelse til Europarådets generalsekretær kan enhver stat på tidspunktet for undertegnelsen eller ved deponeringen af sit ratifikations-, accept-, godkendelses- eller tiltrædelsesinstrument erklære, at den gør brug af det forbehold, der er omhandlet i artikel 33, stk. 1.

2)Der kan ikke tages andre forbehold med hensyn til denne konvention.

Artikel 35 — Opsigelse

1)Enhver part kan på ethvert tidspunkt opsige denne konvention ved notifikation til Europarådets generalsekretær.

2)En sådan opsigelse træder i kraft den første dag i den måned, der følger efter udløbet af en periode på tre måneder efter datoen for generalsekretærens modtagelse af underretningen.

Artikel 36 — Notifikation

Europarådets generalsekretær skal underrette Europarådets medlemsstater, de ikke-medlemsstater, der har deltaget i udarbejdelsen af denne konvention, Den Europæiske Union, enhver signatar, enhver kontraherende stat, enhver part og enhver anden stat, der er blevet opfordret til at tiltræde denne konvention, om:

a)enhver undertegnelse

b)deponering af ratifikations-, accept-, godkendelses- eller tiltrædelsesinstrumenter

c)enhver dato for denne konventions ikrafttræden i overensstemmelse med artikel 30, stk. 3 og 4, og artikel 31, stk. 2

d)enhver ændring, der vedtages i overensstemmelse med artikel 28, og datoen for en sådan ændrings ikrafttræden

e)enhver erklæring i henhold til artikel 3, stk. 1, litra b)

f)ethvert forbehold og enhver tilbagekaldelse af et forbehold, der er taget i henhold til artikel 34

g)enhver opsigelse i henhold til artikel 35

h)enhver akt, erklæring, notifikation eller meddelelse vedrørende denne konvention.

Til bekræftelse heraf har undertegnede, der er behørigt bemyndiget dertil, underskrevet denne konvention.

Udfærdiget i [sted], den ... [måned] 202[4] på engelsk og fransk, idet begge tekster skal have samme gyldighed, i ét eksemplar, der deponeres i Europarådets arkiv. Europarådets generalsekretær fremsender bekræftede genparter heraf til Europarådets medlemsstater, til de ikke-medlemsstater, der har deltaget i udarbejdelsen af denne konvention, til Den Europæiske Union samt til de stater, der er blevet opfordret til at tiltræde denne konvention.