EUROPEISKA KOMMISSIONEN
Bryssel den 3.6.2025
COM(2025) 265 final
2025/0136(NLE)
Förslag till
RÅDETS BESLUT
om ingående, på Europeiska unionens vägnar, av Europarådets ramkonvention om artificiell intelligens och mänskliga rättigheter, demokrati och rättsstatens principer
MOTIVERING
(1)BAKGRUND TILL FÖRSLAGET
•Motiv och syfte med förslaget
Genom Europaparlamentets och rådets förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens (AI-förordningen) 1 har unionen antagit den första omfattande förordningen om artificiell intelligens (AI) och fastställt en global standard. AI-förordningen, som trädde i kraft den 1 augusti 2024 harmoniserar fullt ut reglerna för utsläppande på marknaden, ibruktagande och användning av AI-system i medlemsstaterna 2 i syfte att främja innovation och användning av tillförlitlig AI, samtidigt som man skyddar hälsa, säkerhet och grundläggande rättigheter såsom demokrati, rättsstatsprincipen och miljön.
Olika internationella organisationer, som Europarådet, har också intensifierat sitt arbete för att reglera AI, baserat på insikten att AI är gränsöverskridande och att det behövs internationellt samarbete för att hantera gemensamma utmaningar som den tekniken medför.
Mellan juni 2022 och mars 2024 har Europarådets kommitté för artificiell intelligens (AI-kommittén) 3 utarbetat en rättsligt bindande ramkonvention (konventionen) för att hantera de potentiella risker som AI utgör för de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
Den 17 maj 2024 antog Europarådets ministerkommitté konventionen 4 och enades om att öppna den för undertecknande i Vilnius (Litauen) den 5 september 2024 och uppmanade Europarådets medlemmar, andra tredjeländer som deltagit i utarbetandet och unionen att överväga att underteckna den vid detta tillfälle, samtidigt som man påpekade att även andra stater är välkomna att ansluta sig till konventionen 5 .
Unionen undertecknade konventionen den 5 september 2024 efter antagandet av rådets beslut (EU) 2024/2218 av den 28 augusti 2024 om undertecknande, på Europeiska unionens vägnar, av Europarådets ramkonvention om artificiell intelligens och mänskliga rättigheter, demokrati och rättsstatens principer 6 . Vid samma tillfälle undertecknades konventionen även av Andorra, Georgien, Island, Israel, Montenegro, Norge, Moldavien, San Marino, Förenade kungariket och Amerikas förenta stater. Konventionen är när som helst öppen för undertecknande av Europarådets övriga medlemmar och andra stater som har deltagit i utarbetandet. Efter konventionens ikraftträdande får Europarådets ministerkommitté, i enlighet med det förfarande som anges i artikel 31 i konventionen, bjuda in en stat som inte är medlem i Europarådet och som inte har deltagit i utarbetandet av konventionen till att ansluta sig till konventionen.
Syftet med detta förslag till rådets beslut är följaktligen att inleda processen för ingående av konventionen på unionens vägnar i enlighet med de villkor som anges i rådets beslut 2024/2218 som godkänner att konventionen undertecknas. Ingåendet av det första internationella avtalet om AI ger unionen ett värdefullt tillfälle att främja en gemensam strategi för reglering av AI på internationell nivå och upprätta en ram för samarbete med Europarådets medlemmar och tredjeparter som blir parter i konventionen.
·Konventionens innehåll
Målet med konventionen är att säkerställa att all verksamhet under AI-systemens livscykel är helt förenlig med de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
Parterna i konventionen måste genomföra den genom lämpliga lagstiftningsåtgärder, administrativa åtgärder eller andra åtgärder som ger verkan åt bestämmelserna, på ett gradvist och differentierat sätt beroende på hur allvarliga och sannolika de negativa konsekvenserna är. I unionen bör konventionen genomföras uteslutande genom AI-förordningen, som fullt ut harmoniserar reglerna för utsläppande på marknaden, ibruktagande och användning av AI-system, och i tillämpliga fall andra relevanta unionsregelverk.
Konventionens tillämpningsområde omfattar på ett differentierat sätt AI-system som potentiellt inkräktar på de mänskliga rättigheterna, demokratin och rättsstatsprincipen. Principerna och skyldigheterna i konventionen kommer att gälla för verksamhet under AI-systemens livscykel som utförs av myndigheter eller privata aktörer som agerar på deras vägnar. När det gäller den privata sektorn är parterna skyldiga att hantera risker och konsekvenser som följer av privata aktörers verksamhet under AI-systemens livscykel på ett sätt som stämmer överens med konventionens mål och syfte; det är dock upp till dem att välja om de vill tillämpa skyldigheterna i konventionen eller vidta andra lämpliga åtgärder. Till detta förslag till rådets beslut bifogas ett utkast till förklaring där unionen åtar sig att, genom AI-förordningen och andra relevanta unionsregelverk, genomföra principerna och skyldigheterna i kapitlen II–VI i konventionen när det gäller verksamhet som bedrivs av privata aktörer som släpper ut AI-system på marknaden, tar dem i bruk och använder dem i unionen.
AI-verksamhet med anknytning till nationell säkerhet omfattas inte av konventionen, under förutsättning att den under alla omständigheter måste bedrivas på ett sätt som är förenligt med tillämplig internationell människorättslagstiftning och med respekt för demokratiska institutioner och processer. Konventionen omfattar inte heller forskning och utveckling avseende AI-system som ännu inte gjorts tillgängliga för användning, såvida inte testning eller liknande verksamhet potentiellt kan inkräkta på de mänskliga rättigheterna, demokratin och rättsstatsprincipen. I enlighet med Europarådets stadga omfattas frågor som rör nationellt försvar inte av konventionen.
Konventionen innehåller dessutom en rad allmänna skyldigheter och grundläggande principer, bland annat skydd av människans värdighet och individens självbestämmande samt främjande av jämlikhet och icke-diskriminering. Vidare fordrar den respekt för integritet och skydd av personuppgifter, tillsammans med transparens och tillsyn för att säkerställa ansvarsskyldighet och ansvar. En princip ägnas också åt säker innovation och säkra experiment i kontrollerade miljöer.
Ett särskilt kapitel om rättsmedel innehåller åtgärder som syftar till att säkerställa att tillgängliga och effektiva rättsmedel finns att tillgå vid kränkningar av de mänskliga rättigheterna till följd av verksamhet under AI-systemens livscykel. Kapitlet innehåller också verkningsfulla rättssäkerhetsgarantier och skyddsåtgärder för personer vars rättigheter har påverkats väsentligen av användningen av AI-system. Man bör dessutom få information om att man interagerar med ett AI-system och inte med en människa.
Konventionen innehåller vidare ett kapitel om åtgärder för bedömning och begränsning av risker och negativa konsekvenser vilka ska genomföras regelbundet för att identifiera faktiska och potentiella konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen och vidta lämpliga förebyggande och begränsande åtgärder.
Vidare anges i konventionen att parterna bör bedöma behovet av förbud eller moratorier för vissa tillämpningar av AI-system som anses oförenliga med respekten för de mänskliga rättigheterna, demokratins funktion eller rättsstatsprincipen.
Konventionen föreskriver en uppföljningsmekanism inom en partskonferens bestående av företrädare för parterna som regelbundet ska samråda i syfte att underlätta en effektiv användning och ett effektivt genomförande av konventionen.
Konventionen föreskriver även en mekanism för internationellt samarbete – både mellan parterna i konventionen och med tredjeländer och berörda parter – för att uppnå konventionens syfte.
Varje part bör dessutom internt inrätta en eller flera effektiva mekanismer för att övervaka efterlevnaden av skyldigheterna i konventionen, så som de givits verkan av parterna.
•Förenlighet med befintliga bestämmelser inom området
Konventionen fastställer allmänna principer och skyldigheter för skydd av de mänskliga rättigheterna, demokratin och rättsstatsprincipen vilka är helt förenliga med och anpassade till målen i AI-förordningen och de detaljerade kraven för AI-system och de skyldigheter som åläggs leverantörer och tillhandahållare av sådana system.
Konventionens definition av AI-system är helt i linje med definitionen i AI-förordningen, eftersom båda bygger på definitionen av sådana system i AI-principerna från Organisationen för ekonomiskt samarbete och utveckling (OECD) 7 , vilket säkerställer en gemensam förståelse av vilken digital teknik som utgör AI.
Både konventionen och AI-förordningen har också en riskbaserad hållning till regleringen av AI-system och innehåller särskilda bestämmelser för risk- och konsekvensbedömningar och riskreducerande åtgärder. AI-förordningen innehåller i synnerhet ett antal relevanta förbud och högriskanvändningsfall för AI-system i alla offentliga och privata sektorer, även på området demokrati och rättvisa. AI-förordningens detaljerade regler och förfaranden för utveckling, utsläppande på marknaden och införande av AI-system på dessa områden kommer således att säkerställa att de grundläggande rättigheterna, demokratin och rättsstatsprincipen respekteras under hela AI-livscykeln.
Konventionen innehåller principer och skyldigheter som redan omfattas av AI-förordningen, t.ex. åtgärder för att skydda mänskliga rättigheter, säkerhet och tillförlitlighet, ansvarsskyldighet och ansvar, dataförvaltning och dataskydd, transparens och tillsyn, jämlikhet och icke-diskriminering, digitala färdigheter och digital kompetens.
Transparens är ett annat gemensamt inslag i båda de rättsliga instrumenten, bland annat åtgärder för identifiering av AI-genererat innehåll och information till personer som interagerar med AI-system. Båda de rättsliga instrumenten innehåller också relevanta bestämmelser om risk- och konsekvensbedömningar och riskhantering, loggning, utlämnande av uppgifter (till bemyndigade organ och myndigheter och, i förekommande fall, berörda personer), spårbarhet och förklarbarhet, säker innovation och säkra experiment i kontrollerade miljöer samt ett antal åtgärder för att möjliggöra effektiva rättsmedel, bland annat rätten att begära och få information och lämna in klagomål till en behörig myndighet samt rättssäkerhetsgarantier.
Det tillsynssystem som föreskrivs i konventionen är också helt förenligt med AI-förordningens övergripande system för styrning och efterlevnadskontroll, som består av efterlevnadskontroll på unionsnivå och nationell nivå, med förfaranden för ett konsekvent genomförande av unionsreglerna i medlemsstaterna. Närmare bestämt föreskriver konventionen en eller flera effektiva tillsynsmekanismer på inhemsk nivå vars skyldigheter måste fullgöras på ett oberoende och opartiskt sätt och som måste omfatta de befogenheter, den sakkunskap och de resurser som krävs för att man effektivt ska kunna fullgöra uppgifterna att övervaka efterlevnaden av skyldigheterna i konventionen, så som de givits verkan av parterna.
AI-förordningen kommer att vara tillämplig på AI-system som släpps ut på marknaden, tas i bruk eller används i unionen, medan konventionen har en bredare geografisk räckvidd som omfattar Europarådets medlemmar och tredjeländer runt om i världen som kan komma att bli parter i konventionen. Konventionen utgör således ett unikt tillfälle att främja tillförlitlig AI utanför unionen i ett första internationellt rättsligt bindande fördrag som är rotat i en starkt människorättscentrerad hållning till AI-reglering.
Både konventionen och AI-förordningen är integrerade delar av regleringen av AI, med konsekventa och ömsesidigt förstärkande åtaganden på flera internationella nivåer och det gemensamma målet att säkerställa tillförlitlig AI.
•Förenlighet med unionens politik inom andra områden
Konventionen har också gemensamma mål med annan unionspolitik och unionslagstiftning som syftar till att genomföra de grundläggande rättigheter som fastställs i unionens stadga om de grundläggande rättigheterna 8 .
Principen om jämlikhet och icke-diskriminering som fastställs i konventionen är helt förenlig med unionens lagstiftning mot diskriminering och kommer att främja integrering av jämlikhetshänsyn i utformningen, utvecklingen och användningen av AI-system och ett effektivt genomförande av förbudet mot diskriminering, i enlighet med tillämplig internationell rätt och parternas inhemska rätt.
Konventionen är dessutom förenlig med unionens dataskyddsregelverk, inbegripet den allmänna dataskyddsförordningen 9 , när det gäller de grundläggande rättigheterna till integritet och skydd av personuppgifter med effektiva garantier och skyddsåtgärder som måste finnas för enskilda personer, i enlighet med tillämpliga inhemska och internationella rättsliga skyldigheter för parterna.
De åtgärder i konventionen som är avsedda att skydda parternas demokratiska processer i samband med verksamhet under AI-systemens livscykel är helt förenliga med målen och de detaljerade reglerna i förordningen om digitala tjänster 10 (och uppförandekoden om desinformation 11 ), som reglerar tillhandahållandet av förmedlingstjänster i unionen i syfte att säkerställa en säker, förutsebar och förtroendeskapande onlinemiljö där de grundläggande rättigheterna, inbegripet rätten till yttrandefrihet och rätten att ta emot och sprida information, respekteras. De är också förenliga med förordningen om transparens och inriktning när det gäller politisk reklam 12 , som innehåller ett särskilt transparenskrav när AI-system används för spridning av politisk reklam. Åtgärderna är också förenliga med unionens politik på området demokrati och fria, rättvisa och motståndskraftiga val 13 , inbegripet EU:s handlingsplan för demokrati från 2020 14 , val- och integritetspaketet 15 och nu senast paketet för försvar av demokratin från 2023 16 .
Konventionen är förenlig med unionens övergripande digitala strategi i och med att den ska bidra till att främja en teknik för människor, en av de tre huvudpelarna i den politiska inriktning och de mål som tillkännagavs i meddelandet Att forma EU:s digitala framtid 17 . Meddelandet syftar till att säkerställa att AI utvecklas på ett sådant sätt att mänskliga rättigheter iakttas och människor kan känna förtroende, så att Europa blir rustat för den digitala tidsåldern och de närmaste tio åren blir till det digitala decenniet 18 .
Den europeiska förklaringen om digitala rättigheter och principer för det digitala decenniet 19 innehåller dessutom flera digitala rättigheter och principer som ligger i linje med konventionens mål och principer, då båda instrumenten främjar en starkt människorättsbaserad hållning till teknik.
Konventionen är också förenlig med EU:s strategi för barnets rättigheter 20 och den europeiska strategin för ett bättre internet för barn (BIK+) 21 , som syftar till att säkerställa att barn skyddas, respekteras och ges egenmakt online så att de kan hantera de utmaningar som nya virtuella världar och AI innebär.
2.RÄTTSLIG GRUND, SUBSIDIARITETSPRINCIPEN OCH PROPORTIONALITETSPRINCIPEN
•Rättslig grund
Förslaget till beslut om bemyndigande att underteckna konventionen på unionens vägnar föreläggs rådet i enlighet med artikel 218.6 a v i EUF-fördraget.
Den förfarandemässiga rättsliga grunden för rådets beslut (artikel 218.6 a v i EUF-fördraget) föreskriver ett rådsbeslut om ingående av avtalet, baserat på ett förslag från kommissionen i egenskap av förhandlare, och, om avtalet omfattar ett område där det ordinarie lagstiftningsförfarandet ska tillämpas, efter Europaparlamentets godkännande. Enligt artikel 218.8 första stycket i EUF-fördraget krävs kvalificerad majoritet vid antagandet av rådets beslut.
Den materiella rättsliga grunden för ett beslut enligt artikel 218.6 a v i EUF-fördraget är främst beroende av avtalets syfte och innehåll. Enligt fast rättspraxis gäller att om en bedömning visar att det finns två avsikter med EU:s rättsakter eller att de har två beståndsdelar, och om en av dessa kan identifieras som den huvudsakliga eller avgörande avsikten eller beståndsdelen, medan den andra endast är av underordnad betydelse, ska rättsakten ha en enda rättslig grund, nämligen den som krävs med hänsyn till den huvudsakliga eller avgörande avsikten eller beståndsdelen. Om det däremot fastställs att det finns två avsikter med åtgärden eller att den har flera beståndsdelar som är oupplösligt sammankopplade utan att den ena är av underordnad betydelse i förhållande till den andra, så att olika bestämmelser i fördraget är tillämpliga, ska rättsakten grundas på de olika motsvarande rättsliga grunderna.
När det gäller den materiella rättsliga grunden omfattar konventionens materiella tillämpningsområde AI-förordningens tillämpningsområde, även när det gäller undantaget för AI-system som uteslutande används för forskning och utveckling, nationell säkerhet och försvarsverksamhet. Analysen visade också att konventions principer och skyldigheter i hög grad täcker och överlappar AI-förordningens mer detaljerade krav för AI-system och särskilda skyldigheter för leverantörer och användare av AI-system. Om rådet antar det föreslagna beslutet och unionen ingår konventionen kommer AI-förordningen att utgöra den unionslagstiftning som främst genomför konventionen i unionens rättsordning genom fullt harmoniserade regler om utsläppande på marknaden, ibruktagande och användning av AI-system i unionen vilka är direkt tillämpliga i medlemsstaterna, såvida inte AI-förordningen specifikt föreskriver något annat 22 .
Med tanke på att konventionens tillämpningsområde och mål är anpassade till och helt förenliga med AI-förordningens dito, och att det finns en betydande överlappning mellan de två rättsliga instrumenten, är den materiella rättsliga grunden för ingåendet av konventionen artikel 114 i EUF-fördraget, som är den primära rättsliga grunden för AI-förordningen.
Internationella avtals karaktär (”enbart EU”-avtal eller ”blandat” avtal) beror på det specifika ämnets förenlighet med EU:s exklusiva eller delade befogenhet.
Enligt artikel 3.2 i EUF-fördraget har unionen exklusiv befogenhet ”att ingå ett internationellt avtal [...] i den mån ingåendet kan påverka gemensamma regler eller ändra räckvidden för dessa”. Ett internationellt avtal kan påverka gemensamma regler eller ändra räckvidden för dem när det område som avtalet gäller i stor utsträckning omfattas av unionsrätten 23 .
Konventionens personkrets stämmer helt överens med AI-förordningen, då båda de rättsliga instrumenten i princip gäller både offentliga och privata aktörer (med frivillig tillämpning av konventionens principer och skyldigheter på andra privata aktörer än de som agerar på uppdrag av myndigheter), medan ingetdera instrumentets materiella tillämpningsområde omfattar AI-verksamhet som rör nationell säkerhet, försvar och forskning.
Eftersom konventionens personliga och materiella tillämpningsområde överlappar AI-förordningens dito kan ingåendet av konventionen påverka gemensamma unionsregler eller ändra deras räckvidd i den mening som avses i artikel 3.2 i EUF-fördraget. Följaktligen bör unionen anses ha exklusiv extern befogenhet att ingå konventionen, och konventionen bör undertecknas på unionens vägnar som ett ”enbart EU”-avtal, eftersom det undertecknades i enlighet med bemyndigandet i rådets beslut (EU) 2024/2218.
•Proportionalitetsprincipen
Konventionen går inte utöver vad som är nödvändigt för att uppnå det politiska målet att utveckla en enhetlig hållning till AI-reglering på internationell nivå.
Konventionen inrättar en övergripande rättslig AI-ram som tillåter flexibilitet och gör det möjligt för parterna att konkret utforma genomföranderamar. Den riskbaserade metoden säkerställer också att reglerna är proportionerliga och gör det möjligt att differentiera genomförandeåtgärderna på ett sätt som står i proportion till riskerna, på liknande sätt som AI-förordningen.
•Val av instrument
Det valda instrumentet är ett förslag till rådets beslut i enlighet med artikel 218.6 a v i EUF-fördraget.
3.RESULTAT AV EFTERHANDSUTVÄRDERINGAR, SAMRÅD MED BERÖRDA PARTER OCH KONSEKVENSBEDÖMNINGAR
•Grundläggande rättigheter
Syftet med konventionen är att hantera potentiella risker och skador för de mänskliga rättigheterna genom att säkerställa att verksamhet under AI-systemens livscykel är förenlig med principerna om respekt för de mänskliga rättigheterna, demokratin och rättsstatsprincipen, samtidigt som man erkänner AI:s potential att skydda och underlätta utövandet av dessa rättigheter i den digitala miljön och förbättra samhällets och miljöns välbefinnande och tekniska framsteg.
De konkreta principer och skyldigheter som föreskrivs i konventionen syftar till att skydda och respektera de mänskliga rättigheterna, förankrade i flera internationella och regionala instrument 24 , såsom de är tillämpliga på parterna, inbegripet unionens stadga om de grundläggande rättigheterna och internationella instrument om mänskliga rättigheter som unionen har ingått.
Konventionen fastställer således en gemensam minimistandard för tillämpningen av skyddet av de mänskliga rättigheterna i samband med AI, samtidigt som det befintliga skyddet av de mänskliga rättigheterna tryggas och parterna ges möjlighet att tillhandahålla ett mer omfattande skydd med strängare skyddsåtgärder.
4.BUDGETKONSEKVENSER
Konventionen föreskriver finansiella bidrag från icke-medlemsstater till partskonferensens verksamhet. Alla medlemmar i Europarådet kommer att bidra via Europarådets ordinarie budget i enlighet med Europarådets stadga, medan parter som inte är medlemmar kommer att lämna bidrag utanför budgeten. Bidraget från en part som inte är medlem i Europarådet ska fastställas gemensamt av ministerkommittén och den berörda parten.
Konventionen inkräktar inte på parternas inhemska lagar och andra författningar om budgetbefogenheter och förfaranden för budgetanslag. Konventionen fastställs inte formerna för hur bidragen (inklusive belopp och villkor) från parter som inte är medlemmar i Europarådet ska fastställas. Den rättsliga grunden för sådana parters bidrag kommer att vara själva konventionen och den/de akter som fastställer detta bidrag. 25
5.ÖVRIGA INSLAG
•Genomförandeplaner samt åtgärder för övervakning, utvärdering och rapportering
Partskonferensen bestående av företrädare för parterna kommer att övervaka att parterna faktiskt genomför konventionen och göra specifika rekommendationer i detta syfte. Partskonferensen kommer också att överväga möjliga ändringar av konventionen.
Varje part måste lämna in en rapport till partskonferensen inom de första två åren efter anslutningen, och därefter med jämna mellanrum, där den i detalj redogör för de åtgärder som vidtagits för att genomföra konventionen. Parterna uppmanas vidare att samarbeta för att uppfylla konventionens mål. Detta internationella samarbete kan omfatta utbyte av relevant information om AI och dess potential att inverka negativt eller positivt på de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
För att säkerställa övervakningen och genomförandet av konventionen måste varje part utse en eller flera effektiva tillsynsmekanismer på nationell nivå. På unionsnivå kommer kommissionen att säkerställa övervakningen och genomförandet av konventionen, i enlighet med fördragen.
Skälen i detta förslag om ingående av konventionen bekräftar att i enlighet med artikel 218.9 i EUF-fördraget bör rådet på förslag av kommissionen anta beslut om fastställande av vilka ståndpunkter som på unionens vägnar ska intas i partskonferensen, i fall där detta organ ska anta akter med rättslig verkan, särskilt partskonferensens arbetsordning. Vid förhandlingarna om denna arbetsordning, som ska antas genom konsensus inom tolv månader efter konventionens ikraftträdande 26 , kommer unionen att sträva efter att säkerställa att den får 27 röster, vilket återspeglar antalet medlemsstater. Om unionen får 27 röster bör kommissionen såsom unionens företrädare sträva efter att säkerställa en förstärkt samordning med medlemsstaterna för att uttrycka enhetliga ståndpunkter inför partskonferensen och utöva sin rösträtt på unionens vägnar. En sådan förstärkt samordning är särskilt relevant med tanke på att alla medlemsstater också är medlemmar i Europarådet och med hänsyn till den artificiella intelligensens snabbt föränderliga karaktär samt behovet av en enhetlig globalt tillämplig ram på området. För att säkerställa en förstärkt samordning bör rådet delta i utformningen av alla ståndpunkter, oavsett ståndpunktens beskaffenhet, inbegripet de som baseras på artikel 16.1 i EU-fördraget och artikel 218.9 i EUF-fördraget. Om unionen trots sina ansträngningar inte kan uppnå 27 röster bör kommissionen, för att säkerställa att unionen har ett antal röster som återspeglar dess tyngd i Europarådet och gör det möjligt för den att på lämpligt sätt försvara sina intressen, föreslå att medlemsstaterna ges befogenhet att, i enlighet med artikel 2.1 i EUF-fördraget och med full respekt för unionens exklusiva befogenhet, ansluta sig till konventionen vid sidan av unionen.
Kommissionen kommer att uppmana varje medlemsstat att skicka en företrädare som ska åtfölja kommissionens representation som en del av unionens delegation vid partskonferensens möten. Principen om lojalt samarbete ska respekteras.
2025/0136 (NLE)
Förslag till
RÅDETS BESLUT
om ingående, på Europeiska unionens vägnar, av Europarådets ramkonvention om artificiell intelligens och mänskliga rättigheter, demokrati och rättsstatens principer
EUROPEISKA UNIONENS RÅD HAR ANTAGIT DETTA BESLUT
med beaktande av fördraget om Europeiska unionens funktionssätt, särskilt artikel 114 jämförd med artikel 218.6 a v,
med beaktande av Europeiska kommissionens förslag, och
med beaktande av Europaparlamentets godkännande,
av följande skäl:
(1)I enlighet med rådets beslut (EU) 2024/2218 27 undertecknades den 5 september 2024 Europarådets ramkonvention om artificiell intelligens och mänskliga rättigheter, demokrati och rättsstatens principer (konventionen) på Europeiska unionens vägnar, med förbehåll för att den ingås vid en senare tidpunkt.
(2)I konventionen fastställs allmänna principer och skyldigheter som parterna i konventionen bör iaktta för att säkerställa skyddet av de mänskliga rättigheterna, demokratin och rättsstatsprincipen i samband med verksamhet under livscykeln för AI-system (artificiell intelligens).
(3)Den 13 juni 2024 antog Europaparlamentet och rådet, på grundval av artiklarna 16 och 114 i fördraget om Europeiska unionens funktionssätt (EUF-fördraget), Europaparlamentets och rådets förordning (EU) 2024/1689 28 , som innehåller harmoniserade regler, generellt baserade på fullständig harmonisering, för utsläppande på marknaden, ibruktagande och användning av AI-system i unionen. De reglerna är direkt tillämpliga i medlemsstaterna, såvida inget annat uttryckligen anges i den förordningen. I unionen sker genomförandet av konventionen uteslutande genom Europaparlamentets och rådets förordning (EU) 2024/1689 och i tillämpliga fall andra relevanta unionsregelverk.
(4)Aktiviteter under livscykeln för AI-system som rör skydd av nationella säkerhetsintressen är undantagna från konventionens tillämpningsområde. Europaparlamentets och rådets förordning (EU) 2024/1689, som kommer att vara den huvudsakliga unionsrättsakt som genomför konventionen, undantar också från sitt tillämpningsområde AI-system som släpps ut på marknaden, tas i bruk eller används, med eller utan ändring, uteslutande för ändamål som rör nationell säkerhet, samt utdata från AI-system som används i unionen uteslutande för sådana ändamål, oavsett vilken typ av enhet som utför dessa aktiviteter. Den nationella säkerheten är också i fortsättningen varje medlemsstats eget ansvar i enlighet med artikel 4.2 i fördraget om Europeiska unionen (EU-fördraget). Följaktligen bör unionens ståndpunkt som ska uttryckas vid den partskonferens som inrättas genom konventionen respektera de begränsningar som anges ovan. Kommissionen bör vid partskonferensens möten särskilt avstå från att diskutera eller inta någon ståndpunkt om aktiviteter under livscykeln för AI-system som rör skydd av nationella säkerhetsintressen.
(5)Eftersom konventionen i stor utsträckning är tillämplig på samma personkrets som Europaparlamentets och rådets förordning (EU) 2024/1689, och i stor utsträckning har samma materiella tillämpningsområde och materiella bestämmelser som den förordningen, vilken kompletteras genom andra relevanta unionsregelverk, kan ingåendet av konventionen påverka gemensamma unionsregler eller ändra deras räckvidd i den mening som avses i artikel 3.2 i EUF-fördraget. Sådana andra relevanta delar av unionens regelverk omfattar rättsakter som syftar till att genomföra de grundläggande rättigheter som stadfästs i unionens stadga om de grundläggande rättigheterna, såsom unionens lagstiftning om icke-diskriminering, inbegripet rådets direktiv 2000/43/EG 29 och 2000/78/EG 30 , unionens regelverk om skydd av personuppgifter, inbegripet Europaparlamentets och rådets förordningar (EU) 2016/679 31 och (EU) 2022/2065 32 , vilka syftar till att säkerställa en säker, förutsägbar och tillförlitlig onlinemiljö där grundläggande rättigheter, inbegripet rätten till yttrandefrihet och rätten att ta emot och sprida information, respekteras, Europaparlamentets och rådets förordning (EU) 2024/900 om transparens och inriktning när det gäller politisk reklam 33 samt produktsäkerhetslagstiftning och lagstiftning om skadeståndsansvar för produkter med säkerhetsbrister, inbegripet rådets direktiv 85/374/EEG 34 . Unionen har därför exklusiv extern befogenhet att underteckna konventionen. Följaktligen är det endast unionen som bör bli part i konventionen.
(6)Partskonferensen kommer att spela en viktig roll för konventionens effektiva genomförande, inbegripet genom att utfärda särskilda rekommendationer om dess tolkning och tillämpning. Partskonferensen kommer också att överväga möjliga ändringar av konventionen. I enlighet med artikel 218.9 i EUF-fördraget bör rådet på förslag av kommissionen anta beslut om fastställande av vilka ståndpunkter som på unionens vägnar ska intas i partskonferensen, i fall där detta organ ska anta akter med rättslig verkan, särskilt partskonferensens arbetsordning. Vid förhandlingarna om denna arbetsordning, som ska antas genom konsensus inom tolv månader efter konventionens ikraftträdande, kommer unionen att sträva efter att säkerställa att den får 27 röster, vilket återspeglar antalet medlemsstater. Om unionen får 27 röster bör kommissionen såsom unionens företrädare säkerställa en förstärkt samordning med medlemsstaterna för att uttrycka enhetliga ståndpunkter vid partskonferensen och utöva sin rösträtt på unionens vägnar. En sådan förstärkt samordning är särskilt relevant med tanke på att alla medlemsstater också är medlemmar i Europarådet och med hänsyn till den artificiella intelligensens snabbt föränderliga karaktär samt behovet av en enhetlig globalt tillämplig ram på området. För att säkerställa en förstärkt samordning bör rådet delta i utformningen av alla ståndpunkter, oavsett ståndpunktens beskaffenhet, inbegripet de som baseras på artikel 16.1 i EU-fördraget och artikel 218.9 i EUF-fördraget. Om unionen trots sina ansträngningar inte kan uppnå 27 röster bör kommissionen, för att säkerställa att unionen har ett antal röster som återspeglar dess tyngd i Europarådet och gör det möjligt för den att på lämpligt sätt försvara sina intressen, föreslå att medlemsstaterna ges befogenhet att, i enlighet med artikel 2.1 i EUF-fördraget och med full respekt för unionens exklusiva befogenhet, ansluta sig till konventionen vid sidan av unionen.
(7)Kommissionen kommer att uppmana varje medlemsstat att skicka en företrädare som ska åtfölja kommissionens representation som en del av unionens delegation vid partskonferensens möten. Principen om lojalt samarbete ska respekteras.
(8)När det gäller andra avtal som kan komma att ingås i framtiden under överinseende av Europarådet eller i andra internationella forum, inbegripet på AI-området, samt när det gäller eventuella ändringar av konventionen, bör fördelningen av externa befogenheter mellan unionen och medlemsstaterna bedömas mot bakgrund av särdragen hos varje sådant instrument. Det är av yttersta vikt att unionen och dess medlemsstater kan fortsätta att spela sin direkta och aktiva roll när det gäller att uttrycka unionens röst och försvara dess intressen på ett konsekvent och samordnat sätt, fullt ut i linje med fördragen.
(9)Konventionen bör godkännas på unionens vägnar.
HÄRIGENOM FÖRESKRIVS FÖLJANDE.
Artikel 1
Ingåendet av Europarådets ramkonvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen (konventionen) godkänns härmed på unionens vägnar.
Texten till den konvention som ska ingås åtföljer detta beslut som bilaga I.
Artikel 2
De förklaringar som ska lämnas till Europarådets generalsekreterare och som bifogas detta beslut i bilaga II godkänns härmed på unionens vägnar.
Artikel 3
I unionen ska genomförandet av konventionen uteslutande ske genom Europaparlamentets och rådets förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens och i tillämpliga fall andra relevanta unionsregelverk.
Artikel 4
Detta beslut träder i kraft den […].
Utfärdat i Bryssel den
På rådets vägnar
Ordförande
Europeiska unionens stadga om de grundläggande rättigheterna, EUT C 326, 26.10.2012, s. 391.
EUROPEISKA KOMMISSIONEN
Bryssel den 3.6.2025
COM(2025) 265 final
BILAGOR
till
Förslag till rådets beslut
om ingående, på Europeiska unionens vägnar, av Europarådets ramkonvention om artificiell intelligens och mänskliga rättigheter, demokrati och rättsstatens principer
BILAGA I
Texten till Europarådets ramkonvention om artificiell intelligens och mänskliga rättigheter, demokrati och rättsstatsprincipen
Vilnius, 5.IX.2024
Ingress
Europarådets medlemsstater och övriga signatärer till denna konvention,
som beaktar att Europarådets mål är att uppnå större enighet mellan sina medlemmar, framför allt på grundval av respekten för de mänskliga rättigheterna, demokratin och rättsstatsprincipen,
som erkänner värdet av att främja samarbete mellan parterna i denna konvention och av att utvidga samarbetet till andra stater som delar samma värderingar,
som är medvetna om den allt snabbare utvecklingen inom vetenskap och teknik och de genomgripande förändringar som medförts av verksamhet under livscykeln för AI-system (artificiell intelligens), som har potential att främja mänskligt välstånd, individuellt och samhälleligt välbefinnande, hållbar utveckling, jämställdhet och egenmakt för alla kvinnor och flickor liksom andra viktiga mål och intressen genom att främja framsteg och innovation,
som erkänner att verksamhet under AI-systemens livscykel kan erbjuda historiska möjligheter att skydda och främja de mänskliga rättigheterna, demokratin och rättsstatsprincipen,
som är oroliga över att viss verksamhet under AI-systemens livscykel kan äventyra människans värdighet och individens självbestämmande, de mänskliga rättigheterna, demokratin och rättsstatsprincipen,
som är oroliga över riskerna för diskriminering i digitala sammanhang, särskilt sådana som inbegriper AI-system, och dessas potentiella effekt att skapa eller förvärra ojämlikheter, bland annat sådana som drabbar kvinnor och personer i utsatta situationer när det gäller deras åtnjutande av sina mänskliga rättigheter och deras fulla, jämlika och faktiska deltagande i ekonomiska, sociala, kulturella och politiska frågor,
som är bekymrade över missbruket av AI-system och motsätter sig användningen av sådana system för repressiva syften i strid med internationell människorättslagstiftning, bland annat genom godtycklig eller olaglig övervakning och censur som urholkar integriteten och individens självbestämmande,
som är medvetna om att de mänskliga rättigheterna, demokratin och rättsstatsprincipen till sin natur är sammankopplade,
som är övertygade om behovet av att som en prioriterad fråga fastställa en globalt tillämplig rättslig ram som fastställer gemensamma allmänna principer och regler för verksamhet under AI-systemens livscykel vilka på ett ändamålsenligt sätt tryggar gemensamma värden och utnyttjar fördelarna med artificiell intelligens för att främja dessa värden på ett sätt som stöder ansvarsfull innovation,
som erkänner behovet av att främja digital kompetens, kunskap om och förtroende för utformning, utveckling, användning och avveckling av AI-system,
som erkänner ramkaraktären av denna konvention, som kan komma att kompletteras med ytterligare instrument för att ta itu med specifika frågor som rör verksamhet under AI-systemens livscykel,
som understryker att denna konvention är avsedd att bemöta specifika utmaningar som uppstår under AI-systemens livscykel och uppmuntra till beaktande av de bredare risker och konsekvenser som är förknippade med denna teknik, bland annat för människors hälsa och miljön, och av socioekonomiska aspekter såsom sysselsättning och arbetskraft,
som noterar relevanta insatser för att främja internationell förståelse och internationellt samarbete om artificiell intelligens från andra internationella och överstatliga organisationer och forum,
som är medvetna om tillämpliga internationella människorättsinstrument, såsom 1948 års allmänna förklaring om de mänskliga rättigheterna, 1950 års konvention om skydd för de mänskliga rättigheterna och de grundläggande friheterna (ETS nr 5), 1966 års internationella konvention om medborgerliga och politiska rättigheter, 1966 års internationella konvention om ekonomiska, sociala och kulturella rättigheter, 1961 års europeiska sociala stadga (ETS nr 35), med respektive tillhörande protokoll, samt 1996 års reviderade europeiska sociala stadga (ETS nr 163),
som även beaktar Förenta nationernas konvention om barnets rättigheter från 1989 och Förenta nationernas konvention om rättigheter för personer med funktionsnedsättning från 2006,
som även beaktar enskildas rätt till integritet och skydd av personuppgifter, i enlighet med vad som är tillämpligt och som föreskrivs bland annat i 1981 års konvention om skydd för enskilda vid automatisk databehandling av personuppgifter (ETS nr 108) och dess protokoll,
som bekräftar parternas åtagande att skydda de mänskliga rättigheterna, demokratin och rättsstatsprincipen och främja AI-systemens tillförlitlighet genom denna konvention,
har enats om följande:
Kapitel I – Allmänna bestämmelser
Artikel 1 – Mål och syfte
(1)Syftet med bestämmelserna i denna konvention är att säkerställa att verksamhet under livscykeln för AI-system (artificiell intelligens) är helt förenlig med de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
(2)Varje part ska anta eller upprätthålla lämpliga lagstiftningsåtgärder, administrativa åtgärder eller andra åtgärder för att ge verkan åt bestämmelserna i denna konvention. Dessa åtgärder ska graderas och differentieras efter behov mot bakgrund av hur sannolikt det är att negativa konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen uppstår under AI-systemens livscykel och med hänsyn till konsekvensernas allvarlighetsgrad. Åtgärderna kan vara specifika eller horisontella åtgärder som gäller oavsett vilken typ av teknik som används.
(3)För att säkerställa att parterna effektivt genomför bestämmelserna inrättas en uppföljningsmekanism genom konventionen, som också föreskriver internationellt samarbete.
Artikel 2 – Definition av AI-system
I denna konvention avses med AI-system ett maskinbaserat system som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. Olika AI-system varierar i fråga om autonomi och anpassningsförmåga efter införandet.
Artikel 3 – Tillämpningsområde
(1)Konventionens tillämpningsområde omfattar verksamhet under AI-systemens livscykel som potentiellt kan inkräkta på de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
(a)Varje part ska tillämpa denna konvention på verksamhet under AI-systemens livscykel som bedrivs av myndigheter eller av privata aktörer som agerar på myndigheternas vägnar.
(b)Varje part ska hantera risker och konsekvenser som följer av privata aktörers verksamhet under AI-systemens livscykel, i den utsträckning denna inte omfattas av led a, på ett sätt som stämmer överens med konventionens mål och syfte.
Varje part ska i en förklaring som den lämnar till Europarådets generalsekreterare vid tidpunkten för undertecknandet eller vid deponeringen av sitt ratifikations-, godtagande-, godkännande- eller anslutningsinstrument ange hur den avser att fullgöra denna skyldighet, antingen genom att tillämpa principerna och skyldigheterna i kapitlen II–VI i denna konvention på privata aktörers verksamhet eller genom att vidta andra lämpliga åtgärder för att fullgöra den skyldighet som anges i detta stycke. På samma sätt får parterna när som helst ändra sina förklaringar.
Vid genomförandet av skyldigheten enligt detta stycke får en part inte avvika från eller begränsa tillämpningen av sina internationella skyldigheter att skydda de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
(2)En part ska inte vara skyldig att tillämpa denna konvention på verksamhet under AI-systemens livscykel som rör skyddet av dess nationella säkerhetsintressen, under förutsättning att sådan verksamhet bedrivs på ett sätt som är förenligt med tillämplig internationell rätt, inbegripet skyldigheter enligt internationell människorättslagstiftning, och med respekt för dess demokratiska institutioner och processer.
(3)Utan att det påverkar tillämpningen av artiklarna 13 och 25.2 ska denna konvention inte tillämpas på forsknings- och utvecklingsverksamhet avseende AI-system som ännu inte gjorts tillgängliga för användning, såvida inte testning eller liknande verksamhet genomförs på ett sådant sätt att den kan inkräkta på de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
(4)Frågor som rör nationellt försvar omfattas inte av konventionen.
Kapitel II – Allmänna skyldigheter
Artikel 4 – Skydd av de mänskliga rättigheterna
Varje part ska anta eller upprätthålla åtgärder för att säkerställa att verksamheten under AI-systemens livscykel är förenlig med skyldigheterna att skydda de mänskliga rättigheterna, i enlighet med tillämplig internationell rätt och dess inhemska rätt.
Artikel 5 – Integritet hos demokratiska processer och respekt för rättsstatsprincipen
(1)Varje part ska anta eller upprätthålla åtgärder som syftar till att säkerställa att AI-system inte används för att undergräva integriteten, oberoendet och effektiviteten hos demokratiska institutioner och processer, inbegripet principen om maktdelning, respekten för rättsväsendets oberoende och tillgång till rättslig prövning.
(2)Varje part ska anta eller upprätthålla åtgärder som syftar till att skydda dess demokratiska processer i samband med verksamhet under AI-systemens livscykel, inbegripet enskildas rättvisa tillgång till och deltagande i den offentliga debatten samt deras förmåga att fritt bilda sig åsikter.
Kapitel III – Principer för verksamhet under AI-systemens livscykel
Artikel 6 – Allmän struktur
Detta kapitel innehåller allmänna gemensamma principer som varje part ska genomföra med avseende på AI-system på ett sätt som är lämpligt med beaktande av dess inhemska rättssystem och övriga skyldigheter enligt denna konvention.
Artikel 7 – Människans värdighet och individens självbestämmande
Varje part ska anta eller upprätthålla åtgärder för att se till att människans värdighet och individens självbestämmande respekteras i samband med verksamhet under AI-systemens livscykel.
Artikel 8 – Transparens och tillsyn
Varje part ska anta eller upprätthålla åtgärder för att säkerställa att det finns lämpliga krav på transparens och tillsyn som är anpassade till de specifika sammanhangen och riskerna när det gäller verksamhet under AI-systemens livscykel, inbegripet när det gäller identifiering av innehåll som genererats av AI-system.
Artikel 9 – Ansvarsskyldighet och ansvar
Varje part ska anta eller upprätthålla åtgärder för att säkerställa ansvarsskyldighet och ansvar för negativa konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen till följd av verksamhet under AI-systemens livscykel.
Artikel 10 – Jämlikhet och icke-diskriminering
(1)Varje part ska anta eller upprätthålla åtgärder i syfte att säkerställa att verksamhet under AI-systemens livscykel bedrivs med respekt för jämlikhet, inbegripet jämställdhet, och förbudet mot diskriminering, i enlighet med tillämplig internationell och inhemsk rätt.
(2)Varje part åtar sig att anta eller upprätthålla åtgärder som syftar till att övervinna ojämlikheter för att uppnå skäliga, riktiga och rättvisa resultat, i enlighet med dess tillämpliga inhemska och internationella skyldigheter i fråga om mänskliga rättigheter, när det gäller verksamhet under AI-systemens livscykel.
Artikel 11 – Integritet och skydd av personuppgifter
Varje part ska anta eller upprätthålla åtgärder för att säkerställa följande i samband med verksamhet under AI-systemens livscykel:
(a)Enskilda personers rätt till integritet och deras personuppgifter är skyddade, inbegripet genom tillämpliga inhemska och internationella lagar, standarder och ramar.
(b)Verkningsfulla garantier och skyddsåtgärder har införts för enskilda personer, i enlighet med tillämpliga inhemska och internationella rättsliga skyldigheter.
Artikel 12 – Tillförlitlighet
Varje part ska på lämpligt sätt vidta åtgärder för att främja AI-systemens tillförlitlighet och förtroendet för deras utdata, vilket skulle kunna inbegripa krav på adekvat kvalitet och säkerhet under AI-systemens hela livscykel.
Artikel 13 – Säker innovation
I syfte att främja innovation och samtidigt undvika negativa konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen uppmanas varje part att på lämpligt sätt göra det möjligt att inrätta kontrollerade miljöer för utveckling av, experiment med och testning av AI-system under överinseende av partens behöriga myndigheter.
Kapitel IV – Rättsmedel
Artikel 14 – Rättsmedel
(1)Varje part ska, i den utsträckning som rättsmedel krävs enligt dess internationella skyldigheter och är förenliga med dess inhemska rättssystem, anta eller upprätthålla åtgärder för att säkerställa att tillgängliga och effektiva rättsmedel finns att tillgå vid kränkningar av de mänskliga rättigheterna till följd av verksamhet under AI-systemens livscykel.
(2)I syfte att stödja punkt 1 ska varje part anta eller upprätthålla åtgärder, inbegripet
(a)åtgärder för att säkerställa att relevant information om AI-system som potentiellt kan ha betydande inverkan på de mänskliga rättigheterna och relevant användning av dem dokumenteras, lämnas till organ som är behöriga att få tillgång till den informationen och, när så är lämpligt och tillämpligt, görs tillgänglig för eller meddelas berörda personer,
(b)åtgärder för att säkerställa att den information som avses i led a är tillräcklig för att de berörda personerna ska kunna bestrida det eller de beslut som fattats med användning av systemet eller för vilket eller vilka användningen av systemet i betydande utsträckning legat till grund och, när så är relevant och lämpligt, bestrida själva användningen av systemet, och
(c)en faktisk möjlighet för berörda personer att lämna in ett klagomål till behöriga myndigheter.
Artikel 15 – Rättssäkerhetsgarantier
(1)Varje part ska säkerställa att effektiva rättssäkerhetsgarantier, skyddsåtgärder och rättigheter, i enlighet med tillämplig internationell och inhemsk rätt, finns tillgängliga för de personer som berörs av ett AI-system som i betydande grad påverkar åtnjutandet av de mänskliga rättigheterna.
(2)Varje part ska sträva efter att säkerställa att personer som interagerar med AI-system meddelas, på ett sätt som är lämpligt i sammanhanget, om att de interagerar med ett sådant system och inte med en människa.
Kapitel V – Bedömning och begränsning av risker och negativa konsekvenser
Artikel 16 – Ram för risk- och konsekvenshantering
(1)Varje part ska, med beaktande av de principer som anges i kapitel III, anta eller upprätthålla åtgärder för identifiering, bedömning, förebyggande och begränsning av risker som följer av AI-system genom att beakta faktiska och potentiella konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen.
(2)Sådana åtgärder ska graderas och differentieras på lämpligt sätt och
(a)ta vederbörlig hänsyn till sammanhanget och den avsedda användningen av AI-systemen, särskilt när det gäller risker för de mänskliga rättigheterna, demokratin och rättsstatsprincipen,
(b)ta vederbörlig hänsyn till hur allvarliga och sannolika de potentiella konsekvenserna är,
(c)när så är lämpligt beakta de berörda parternas perspektiv, särskilt perspektivet för personer vars rättigheter kan påverkas,
(d)tillämpas iterativt under hela verksamheten under AI-systemets livscykel,
(e)inbegripa övervakning av risker och negativa konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen,
(f)inbegripa dokumentering av risker, faktiska och potentiella konsekvenser och riskhanteringsmetoden, och
(g)när så är lämpligt ställa krav på att AI-system testas innan de görs tillgängliga för första användning och när de ändras väsentligt.
(3)Varje part ska anta eller upprätthålla åtgärder som syftar till att säkerställa att AI-systemens negativa konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen hanteras på lämpligt sätt. Sådana negativa konsekvenser och åtgärder för att hantera dem bör dokumenteras och ligga till grund för de relevanta riskhanteringsåtgärder som beskrivs i punkt 2.
(4)Varje part ska bedöma behovet av ett moratorium eller förbud eller andra lämpliga åtgärder med avseende på viss användning av AI-system när den anser att sådan användning är oförenlig med respekten för de mänskliga rättigheterna, demokratins funktion eller rättsstatsprincipen.
Kapitel VI – Genomförande av konventionen
Artikel 17 – Icke-diskriminering
Parterna ska genomföra bestämmelserna i denna konvention utan diskriminering på någon grund, i enlighet med deras internationella skyldigheter i fråga om mänskliga rättigheter.
Artikel 18 – Rättigheter för personer med funktionsnedsättning och barn
Varje part ska, i enlighet med sin inhemska rätt och tillämpliga internationella skyldigheter, ta vederbörlig hänsyn till eventuella särskilda behov och sårbarheter när det gäller att respektera rättigheterna för personer med funktionsnedsättning och för barn.
Artikel 19 – Offentligt samråd
Varje part ska sträva efter att säkerställa att viktiga frågor som tas upp i samband med AI-system beaktas vederbörligen på lämpligt sätt genom offentliga diskussioner och samråd med flera parter med hänsyn till sociala, ekonomiska, rättsliga, etiska, miljömässiga och andra relevanta konsekvenser.
Artikel 20 – Digital kompetens och digitala färdigheter
Varje part ska uppmuntra och främja lämplig digital kompetens och lämpliga digitala färdigheter för alla delar av befolkningen, inbegripet särskilda expertfärdigheter för dem som ansvarar för att identifiera, bedöma, förebygga och begränsa riskerna med AI-system.
Artikel 21 – Skyddsklausul för befintliga mänskliga rättigheter
Ingenting i denna konvention ska tolkas som att det begränsar, avviker från eller på annat sätt påverkar de mänskliga rättigheter eller andra relaterade lagstadgade rättigheter och skyldigheter som garanteras enligt relevant lagstiftning i en part eller något annat relevant internationellt avtal i vilket den är part.
Artikel 22 – Mer omfattande skydd
Ingen av bestämmelserna i denna konvention ska tolkas som att den begränsar eller på annat sätt påverkar en parts möjlighet att bevilja ett mer omfattande skydd än det som föreskrivs i konventionen.
Kapitel VII – Uppföljningsmekanism och samarbete
Artikel 23 – Partskonferensen
(1)Partskonferensen ska bestå av företrädare för parterna i denna konvention.
(2)Parterna ska regelbundet samråda i syfte att
a. underlätta en effektiv tillämpning och ett effektivt genomförande av konventionen, inbegripet identifiering av eventuella problem och följderna av eventuella förbehåll som gjorts i enlighet med artikel 34.1 eller förklaringar som gjorts enligt konventionen,
b. överväga eventuell komplettering eller ändring av konventionen,
c. diskutera frågor och lämna särskilda rekommendationer om tolkningen och tillämpningen av konventionen,
d. underlätta utbyte av information om viktig rättslig, politisk eller teknisk utveckling av betydelse för genomförandet av konventionen, även för att uppnå de mål som anges i artikel 25,
e. vid behov underlätta lösning i godo av tvister som rör tillämpningen av konventionen, och
f. underlätta samarbetet med berörda parter när det gäller relevanta aspekter av genomförandet av konventionen, även genom offentliga utfrågningar när så är lämpligt.
(3)Partskonferensen ska sammankallas av Europarådets generalsekreterare vid behov och under alla omständigheter när en majoritet av parterna eller ministerkommittén begär att den sammankallas.
(4)Partskonferensen ska anta sin egen arbetsordning genom konsensus inom tolv månader efter det att konventionen träder i kraft.
(5)Parterna ska bistås av Europarådets sekretariat vid utförandet av sina uppgifter enligt denna artikel.
(6)Partskonferensen får för ministerkommittén föreslå lämpliga sätt att engagera relevant sakkunskap till stöd för ett effektivt genomförande av konventionen.
(7)Parter som inte är medlemmar i Europarådet ska bidra till finansieringen av partskonferensens verksamhet. Bidraget från en part som inte är medlem i Europarådet ska fastställas gemensamt av ministerkommittén och den berörda parten.
(8)Partskonferensen får besluta att begränsa deltagandet i dess arbete för en part som har upphört att vara medlem i Europarådet enligt artikel 8 i Europarådets stadga (ETS nr 1) för en allvarlig överträdelse av artikel 3 i stadgan. På liknande sätt kan åtgärder vidtas mot en part som inte är medlemsstat i Europarådet genom att ministerkommittén fattar beslut om att upphöra med sina förbindelser med den staten på liknande grunder som de som nämns i artikel 3 i stadgan.
Artikel 24 – Rapporteringsskyldighet
(1)Varje part ska lämna en rapport till partskonferensen inom de två första åren efter att ha blivit en part, och regelbundet därefter, med uppgifter om de åtgärder som vidtagits för att ge verkan åt artikel 3.1 a och b.
(2)Partskonferensen ska fastställa rapportens format och rapporteringsförfarandet i enlighet med sin arbetsordning.
Artikel 25 – Internationellt samarbete
(1)Parterna ska samarbeta för att förverkliga syftet med konventionen. Parterna uppmanas vidare att när så är lämpligt hjälpa stater som inte är parter i konventionen att agera i överensstämmelse med villkoren i konventionen och bli part i den.
(2)När så är lämpligt ska parterna utbyta relevant och användbar information sinsemellan om aspekter som rör artificiell intelligens och som kan ha betydande positiva eller negativa effekter på åtnjutandet av de mänskliga rättigheterna, demokratins funktion och iakttagandet av rättsstatsprincipen, inbegripet risker och effekter som har uppstått i forskningssammanhang och i anknytning till den privata sektorn. Parterna uppmanas att när så är lämpligt involvera berörda parter och stater som inte är parter i konventionen i sådant informationsutbyte.
(3)Parterna uppmanas att stärka samarbetet, även med relevanta berörda parter när så är lämpligt, för att förebygga och begränsa risker och negativa konsekvenser för de mänskliga rättigheterna, demokratin och rättsstatsprincipen i samband med verksamhet inom AI-systemens livscykel.
Artikel 26 – Effektiva tillsynsmekanismer
(1)Varje part ska inrätta eller utse en eller flera effektiva mekanismer för att övervaka efterlevnaden av skyldigheterna i konventionen.
(2)Varje part ska säkerställa att sådana mekanismers skyldigheter fullgörs på ett oberoende och opartiskt sätt och att mekanismerna omfattar de befogenheter, den sakkunskap och de resurser som krävs för att man effektivt ska kunna fullgöra sina uppgifter att övervaka efterlevnaden av skyldigheterna i konventionen, så som de givits verkan av parterna.
(3)Om en part har infört fler än en sådan mekanism ska den när så är praktiskt möjligt vidta åtgärder för att underlätta ett effektivt samarbete dem emellan.
(4)Om en part har infört mekanismer som skiljer sig från befintliga strukturer för mänskliga rättigheter ska den när så är praktiskt möjligt vidta åtgärder för att främja ett effektivt samarbete mellan de mekanismer som avses i punkt 1 och de befintliga inhemska strukturerna för mänskliga rättigheter.
Kapitel VIII – Slutbestämmelser
Artikel 27 – Konventionens verkningar
(1)Om två eller flera parter redan har ingått ett avtal eller ett fördrag om de frågor som behandlas i denna konvention, eller på annat sätt har upprättat förbindelser i sådana frågor, ska de också ha rätt att tillämpa det avtalet eller fördraget eller att reglera dessa förbindelser i enlighet därmed, så länge de gör detta på ett sätt som inte är oförenligt med konventionens mål och syfte.
(2)Parter som är medlemmar i Europeiska unionen ska i sina ömsesidiga förbindelser tillämpa Europeiska unionens regler om de frågor som omfattas av denna konvention, utan att det påverkar konventionens mål och syfte och utan att det påverkar andra parters fullständiga tillämpning av den. Detsamma gäller för andra parter i den mån de är bundna av sådana regler.
Artikel 28 – Ändringar
(1)Ändringar av denna konvention får föreslås av vilken som helst av parterna, Europarådets ministerkommitté eller partskonferensen.
(2)Varje förslag till ändring ska meddelas parterna av Europarådets generalsekreterare.
(3)Varje ändring som föreslagits av en part eller ministerkommittén ska meddelas partskonferensen, som ska lägga fram ett yttrande om den föreslagna ändringen till ministerkommittén.
(4)Ministerkommittén ska överväga den föreslagna ändringen och yttrandet från partskonferensen och får godkänna ändringen.
(5)Texten till varje ändring som godkänts av ministerkommittén i enlighet med punkt 4 ska vidarebefordras till parterna för godtagande.
(6)Varje ändring som godkänts i enlighet med punkt 4 ska träda i kraft den trettionde dagen efter det att alla parter har meddelat generalsekreteraren att de godtar ändringen.
Artikel 29 – Tvistlösning
Om det uppstår en tvist mellan parter om tolkningen eller tillämpningen av denna konvention ska dessa parter eftersträva en lösning av tvisten genom förhandlingar eller andra fredliga medel som de själva väljer, inbegripet genom partskonferensen, i enlighet med artikel 23.2 e.
Artikel 30 – Undertecknande och ikraftträdande
(1)Denna konvention ska vara öppen för undertecknande av Europarådets medlemsstater, de icke-medlemsstater som har deltagit i utarbetandet av konventionen samt Europeiska unionen.
(2)Konventionen ska ratificeras, godtas eller godkännas. Ratifikations-, godtagande- eller godkännandeinstrument ska deponeras hos Europarådets generalsekreterare.
(3)Denna konvention träder i kraft den första dagen i den månad som följer efter utgången av en period på tre månader räknat från den dag då fem signatärer, av vilka minst tre är medlemsstater i Europarådet, har uttryckt sitt samtycke till att vara bundna av konventionen i enlighet med punkt 2.
(4)För en signatär som senare uttrycker sitt samtycke till att vara bunden av konventionen träder den i kraft den första dagen i den månad som följer efter utgången av en period på tre månader räknat från den dag då den deponerade sitt ratifikations-, godtagande- eller godkännandeinstrument.
Artikel 31 – Anslutning
(1)Efter det att denna konvention har trätt i kraft får Europarådets ministerkommitté, efter att ha samrått med parterna i konventionen och fått deras enhälliga samtycke, bjuda in en stat som inte är medlem i Europarådet och som inte har deltagit i utarbetandet av konventionen till att ansluta sig till konventionen genom ett beslut som fattas med den majoritet som föreskrivs i artikel 20.d i Europarådets stadga och genom enhälligt beslut av företrädarna för de parter som har rätt att delta i ministerkommittén.
(2)För varje stat som ansluter sig till konventionen träder den i kraft den första dagen i den månad som följer efter utgången av en period på tre månader räknat från den dag då anslutningsinstrumentet deponerades hos Europarådets generalsekreterare.
Artikel 32 – Territoriell tillämpning
(1)Varje stat eller Europeiska unionen får, vid undertecknandet eller när den deponerar sitt ratifikations-, godtagande-, godkännande- eller anslutningsinstrument, ange för vilket eller vilka territorier konventionen ska gälla.
(2)Varje part får vid en senare tidpunkt, genom en förklaring ställd till Europarådets generalsekreterare, utvidga tillämpningen av konventionen till varje annat territorium som anges i förklaringen. Med avseende på ett sådant territorium ska konventionen träda i kraft den första dagen i den månad som följer efter utgången av en period på tre månader räknat från den dag då generalsekreteraren tog emot förklaringen.
(3)Varje förklaring som har lämnats enligt de två föregående punkterna får, med avseende på varje i förklaringen angivet territorium, återtas genom en underrättelse ställd till Europarådets generalsekreterare. Återtagandet får verkan den första dagen i den månad som följer efter utgången av en period på tre månader räknat från den dag då generalsekreteraren tog emot underrättelsen.
Artikel 33 – Federal klausul
(1)En federal stat får förbehålla sig rätten att åta sig skyldigheter enligt denna konvention i överensstämmelse med dess grundläggande principer för förhållandet mellan dess centralregering och delstater eller andra jämförbara territoriella enheter, under förutsättning att konventionen är tillämplig på den federala statens centralregering.
(2)Med avseende på de bestämmelser i konventionen vars tillämpning faller under behörigheten för en delstat eller jämförbar territoriell enhet som enligt den federala statens konstitutionella system inte är skyldig att vidta lagstiftningsåtgärder, ska den federala regeringen informera de behöriga myndigheterna i sådana stater om dessa bestämmelser med ett positivt yttrande och uppmuntra dem att vidta lämpliga åtgärder för att ge verkan åt bestämmelserna.
Artikel 34 – Förbehåll
(1)Genom en skriftlig underrättelse ställd till Europarådets generalsekreterare får varje stat vid undertecknandet eller deponeringen av sitt ratifikations-, godtagande-, godkännande- eller anslutningsinstrument förklara att den utnyttjar det förbehåll som föreskrivs i artikel 33.1.
(2)Inga andra förbehåll får göras med avseende på denna konvention.
Artikel 35 – Frånträdande
(1)Varje part får när som helst frånträda denna konvention genom en underrättelse ställd till Europarådets generalsekreterare.
(2)Ett sådant frånträdande får verkan den första dagen i den månad som följer efter utgången av en period på tre månader räknat från den dag då generalsekreteraren tog emot underrättelsen.
Artikel 36 – Underrättelse
Europarådets generalsekreterare ska underrätta Europarådets medlemsstater, icke-medlemsstater som har deltagit i utarbetandet av denna konvention, Europeiska unionen, varje signatär, varje avtalsslutande stat, varje part och varje annan stat som har inbjudits att ansluta sig till konventionen, om
(a)varje undertecknande,
(b)deponeringen av ratifikations-, godtagande-, godkännande- eller anslutningsinstrument,
(c)varje datum för konventionens ikraftträdande i enlighet med artiklarna 30.3, 30.4 och 31.2,
(d)varje ändring som har antagits i enlighet med artikel 28 och datumet då en sådan ändring träder i kraft,
(e)varje förklaring som avgetts i enlighet med artikel 3.1 b,
(f)varje förbehåll och tillbakadragande av ett förbehåll som gjorts i enlighet med artikel 34,
(g)varje frånträdande som gjorts i enlighet med artikel 35,
(h)alla andra akter, förklaringar, underrättelser eller meddelanden som avser denna konvention.
Till bekräftelse härav har undertecknade, därtill vederbörligen befullmäktigade, undertecknat denna konvention.
Upprättad i Vilnius den 5 september 2024 på engelska och franska språken, vilka båda texter är lika giltiga, i ett enda exemplar, som ska deponeras i Europarådets arkiv. Europarådets generalsekreterare ska överlämna en vidimerad kopia till var och en av Europarådets medlemsstater, de icke-medlemsstater som har deltagit i utarbetandet av denna konvention, Europeiska unionen och varje stat som har inbjudits att ansluta sig till denna konvention.
BILAGA II
1.Förklaring från Europeiska unionen om tillämpningsområdet med avseende på privata aktörer i enlighet med artikel 3.1 b i konventionen
Med erinran om skyldigheten enligt artikel 3.1 b i konventionen att hantera risker och konsekvenser som följer av privata aktörers verksamhet under AI-systemens livscykel, i den utsträckning denna inte omfattas av led a i den bestämmelsen, på ett sätt som stämmer överens med konventionens mål och syfte, förklarar unionen att den kommer att tillämpa de principer och skyldigheter som anges i kapitel II-VI i konventionen på privata aktörers utsläppande på marknaden, tillhandahållande och användning av AI-system i Europeiska unionen genom genomförandet av Europaparlamentets och rådets förordning (EU) 2024/1689 om harmoniserade regler för artificiell intelligens (AI-förordningen). Andra relevanta unionsregelverk kan också vara tillämpliga på denna verksamhet och bidra till genomförandet av konventionens principer och skyldigheter.
2.Förklaring från Europeiska unionen om det territoriella tillämpningsområdet i enlighet med artikel 32.1 i konventionen
När det gäller artikel 32.1 i konventionen förklarar unionen att ramkonventionen om artificiell intelligens och mänskliga rättigheter, demokrati och rättsstatsprincipen med avseende på unionens befogenhet ska tillämpas på de territorier där EU-fördragen är tillämpliga i enlighet med artikel 52 i EU-fördraget och de villkor som fastställs i bland annat artikel 355 i EUF-fördraget.