EUROPEISKA KOMMISSIONEN

Bryssel den 18.8.2022

COM(2022) 414 final

Rekommendation till

RÅDETS BESLUT

om bemyndigande att inleda förhandlingar på Europeiska unionens vägnar om Europarådets konvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen

MOTIVERING

BAKGRUND TILL FÖRSLAGET

Artificiell intelligens (AI) erbjuder stora möjligheter för samhället, miljön och ekonomin. Samtidigt kan vissa typer av AI, beroende på omständigheterna för den specifika tillämpningen och användningen, orsaka materiell eller immateriell skada och generera risker för allmänintressen och individers grundläggande rättigheter och skyldigheter. En sammanhängande rättslig ram för AI som skyddar sådana allmänintressen och grundläggande rättigheter och samtidigt främjar tillit och innovation är därför avgörande för att hantera dessa utmaningar och utnyttja AI-teknikens möjligheter.

I april 2021 lade Europeiska kommissionen fram ett förslag till övergripande förordning om AI som harmoniserar reglerna för AI-system i alla 27 EU-medlemsstater 1 . Europaparlamentet och rådet håller på att förhandla om förslaget inom ramen för det ordinarie lagstiftningsförfarandet. Olika internationella organisationer, som Europarådet, har också intensifierat sitt arbete på detta område, baserat på insikten att AI är av gränsöverskridande art och att det behövs ett internationellt samarbete för att hantera gemensamma utmaningar.

Den 11 september 2019 beslutade Europarådets ministerkommitté att inrätta en ad hoc-kommitté för artificiell intelligens (CAHAI) 2 . Dess uppgift var att granska genomförbarheten för och de potentiella delar som ska ingå i en rättslig ram för utvecklingen, utformningen och tillämpningen av AI, med beaktande av Europarådets normer för mänskliga rättigheter, demokrati och rättsstatsprincipen samt relevanta befintliga internationella rättsliga instrument 3 . CAHAI:s arbete baserades på en genomförbarhetsstudie 4 och ett flerpartssamråd som genomfördes under våren 2021 5 . Den 3 december 2021 slutförde CAHAI sitt uppdrag och sammanställde ett slutdokument där tänkbara delar i en sådan rättslig ram identifierades 6 . Enligt dokumentet behövs ett rättsligt instrument som omfattar grundläggande principer för skydd av mänsklig värdighet och respekt för mänskliga rättigheter, demokrati och rättsstatsprincipen för utvecklingen, utformningen och tillämpningen av AI-system. Instrumentet bör omfatta fastställandet av en metod för riskklassificering av AI-system, med kategorierna ”låg risk”, ”hög risk” och ”oacceptabel risk”. AI-tillämpningar som medför ”oacceptabla” risker bör förbjudas 7 . För att motverka omotiverade snedvridningseffekter bör det finnas en bestämmelse om likabehandling och icke-diskriminering. Rättsliga skyddsmekanismer bör garantera åtminstone rätten till ett effektivt rättsmedel inför en nationell myndighet, rätten att informeras om användningen av ett AI-system i en beslutsprocess, rätten att välja att interagera med en människa och rätten att få veta att man interagerar med ett AI-system. Sådana specifika frågor som manipulering av innehåll (deepfake) bör dock hanteras genom andra sektorsinstrument. Ett krav på inrättande av efterlevnadsmekanismer och nationella tillsynsmyndigheter bör övervägas. Det rättsliga instrumentet skulle kunna kompletteras av en icke-bindande konsekvensbedömningsmodell.

En efterföljare till CAHAI – kommittén för artificiell intelligens (CAI) – inrättades för perioden 2022–2024. Enligt CAI:s mandat 8 har denna kommitté fått i uppdrag att inrätta en internationell förhandlingsprocess för utarbetande av en rättslig ram för utvecklingen, utformningen och tillämpningen av AI. Denna ram bör baseras på Europarådets normer för mänskliga rättigheter, demokrati och rättsstatsprincipen och bör främja innovation. Ramen ska ha utarbetats senast den 15 november 2023 och ska vara färdig senast i 2024 när CAI avvecklas. För att fullgöra sitt mandat bör CAI samordna sitt arbete med andra mellanstatliga kommittéer och Europarådets enheter och basera sitt arbete på ett robust faktaunderlag och en inkluderande samrådsprocess, däribland med internationella och överstatliga partner, samt beakta CAHAI:s slutdokument.

Den 4–6 april 2022 höll CAI sitt konstituerande möte där en ordförande, en vice ordförande och ett presidium valdes. Den 30 juni 2022, gav Europarådets ministerkommitté CAI anvisningen att ”att snabbt gå vidare med utarbetandet av ett rättsligt bindande instrument av övergripande art (’konvention’ / ’ramkonvention’) om artificiell intelligens baserat på Europarådets normer för mänskliga rättigheter, demokrati och rättsstatsprincipen, i linje med kommitténs mandat, som fokuserar på allmänna gemensamma principer, främjar innovation och är öppen för deltagande av icke-medlemsstaters, med beaktande av andra relevanta internationella rättsliga ramar som finns i dag eller håller på att utarbetas” 9 .

Därefter skickade CAI:s ordförande runt ett första utkast till den framtida (ram)konventionen. Det omfattar grundläggande principer och regler för att säkerställa att utformningen, utvecklingen och tillämpningen av AI-system är förenliga med respekten för mänskliga rättigheter, en fungerande demokrati och iakttagandet av rättsstatsprincipen. Den framtida (ram)konventionen kommer att behöva genomföras i parternas respektive jurisdiktioner. Tillämpningsområdet omfattar både offentliga och privata leverantörer och användare av AI-system, men omfattar inte AI-system med anknytning till nationellt försvar. I det första utkastet föreslås att följande bestämmelser ska ingå:

·(Ram)konventionens syfte och tillämpningsområde.

·Definitioner av AI-system, livscykel, leverantör, användare och ”AI-föremål”.

·Vissa grundläggande principer, inbegripet rättssäkerhetsgarantier och rättigheter för AI-föremål som skulle gälla för alla AI-system, oavsett risknivå.

·Ytterligare åtgärder för offentlig sektor samt för AI-system som medför ”oacceptabla” och ”betydande” risknivåer vilka identifieras genom en metod för risk- och konsekvensbedömning (som ska fastställas senare i en bilaga till konventionen).

·Mekanism för uppföljning och samarbete mellan parterna.

·Slutbestämmelser, inbegripet en möjlighet för EU-medlemsstater att tillämpa EU-rätten i sina ömsesidiga förbindelser när det gäller frågor som omfattas av konventionen och en möjlighet för unionen att ansluta sig till konventionen.

Det första utkastet kommer att diskuteras vid CAI:s plenarsammanträde i Strasbourg, som planeras till den 21–23 september och 23–25 november 2022. Fyra sammanträden planeras också till 2023 och ett till 2024.

•Motiv och syfte med förslaget

Denna rekommendation till beslut lämnas till rådet i enlighet med artikel 218 i fördraget om Europeiska unionens funktionssätt (EUF-fördraget). Beslutet innebär ett godkännande av att förhandlingar inleds på unionens vägnar om en framtida Europarådskonvention om AI, mänskliga rättigheter, demokrati och rättsstatsprincipen, att förhandlingsdirektiv antas och att kommissionen utses till unionens förhandlare.

Enligt artikel 3.2 i EUF-fördraget har unionen exklusiv befogenhet ”att ingå ett internationellt avtal [...] i den mån ingåendet kan påverka gemensamma regler eller ändra räckvidden för dessa”. Ett internationellt avtal kan påverka gemensamma regler eller ändra deras räckvidd om det område som omfattas av avtalet överlappar med eller i stor utsträckning täcks av unionsrätten 10 .

I detta hänseende omfattar EU-rätten en övergripande uppsättning inremarknadsregler för produkter 11 och tjänster 12 där AI-system kan användas. Utvecklingen och användningen av vissa AI-system kan också påverka utövandet av grundläggande rättigheter som fastställs i EU:s stadga om de grundläggande rättigheterna 13 och EU:s sekundärrätt, inbegripet t.ex. rätten till fysisk och mental integritet 14 , skydd av personuppgifter 15 , personlig integritet 16 , icke-diskriminering 17 , yttrandefrihet och informationsfrihet 18 , oskuldspresumtion 19 , opartisk domstol och effektivt rättsmedel 20 . En sådan utveckling och användning kan också påverka de värden som union baseras på, inbegripet människans värdighet, demokrati och rättsstatsprincipen 21 .

För att bedöma om ett område i stor utsträckning regleras av unionsbestämmelser bör man ta hänsyn till inte bara nu gällande gemenskapsrätt på området utan även till gemenskapsrättens möjliga utveckling, när denna kan förutses vid bedömningen 22 . Det område som omfattas av Europarådets framtida konvention om AI har direkt relevans för sådan förutsebar möjlig utveckling, med beaktande av kommissionens förslag till förordning om AI (AI-akten) 23 , som offentliggjordes i april 2021 och som för närvarande behandlas av Europaparlamentet och rådet.

Förhandlingarna om Europarådets framtida (ram)konvention om AI rör områden som omfattas av unionens behörighet och det finns en betydande överlappning mellan det första utkastet till konventionen och den föreslagna AI-akten vad gäller tillämpningsområde, art och innehåll. Därför är det viktigt att förhandlingarna förs på unionens vägnar på ett sådant sätt att det säkerställer både konsekvensen och enhetligheten i EU-reglerna om AI, att det korrekta funktionssättet för det system som inrättas genom dessa regler inte undergrävs och att Europarådets framtida konvention är helt förenlig med befintlig och framtida EU-lagstiftning på området.

•Förenlighet med befintliga bestämmelser inom området

Den 21 april 2021 lade kommissionen fram ett förslag till förordning avseende harmoniserade regler för utsläppande på marknaden, ibruktagande och användning av AI-system i unionen. Förslaget har det dubbla syftet att skapa en inre marknad för att främja utvecklingen och användningen av AI och att hantera risker för säkerhet, hälsa och grundläggande rättigheter. Förslaget är av övergripande art och ska tillämpas på leverantörer och användare av AI-system, oavsett om de är offentliga eller privata enheter. AI-system som utvecklas eller används uteslutande för militära ändamål omfattas inte.

Genom förslaget fastställs proportionella krav och skyldigheter som begränsas till det minimum som krävs för att hantera risker för hälsa, säkerhet och grundläggande rättigheter, utan att hindra den tekniska utvecklingen av AI eller öka de ekonomiska eller administrativa bördorna för aktörerna på ett sätt som inte står i proportion till syftet. Därför används ett riskbaserat tillvägagångssätt där AI-systemen klassificeras i olika kategorier, nämligen ”oacceptabel”, ”hög”, ”transparensrelaterad”, ”låg” eller ”minimal” risk.

·Ett förbud föreslås för AI-system som inte anses vara förenliga med EU:s värden, som utgör ett tydligt hot mot människors säkerhet, försörjning eller rättigheter och som anses medföra en ”oacceptabel risk” (t.ex. offentliga myndigheters poängsättning av medborgare, skadliga och manipulativa AI-metoder, biometrisk fjärridentifiering i realtid på allmänt tillgängliga platser i brottsbekämpande syfte, med några avgränsade undantag).

·AI-system med ”hög risk”, som medför betydande risk för hälsa, säkerhet och grundläggande rättigheter, måste genomgå bedömning av överensstämmelse och uppfylla vissa obligatoriska krav (t.ex. vad gäller riskhantering, datakvalitet, dokumentation, transparens, mänsklig tillsyn, noggrannhet och cybersäkerhet) innan de kan släppas ut på marknaden eller användas i unionen. Krav på proportionell och effektiv övervakning och tillsyn införs också för leverantörer och användare, med en tydlig definition av deras respektive roller och ansvarsområden längs värdekedjan, utan att det påverkar andra skyldigheter enligt sektorslagstiftning.

·När det gäller AI-system som utgör en ”transparensrelaterad risk” bör människor underrättas när de interagerar med eller är exponerade för sådana system (t.ex. chatbotar, system för känsloigenkänning, system för biometrisk kategorisering och deepfake).

·Alla andra system som medför ”minimal” eller ”låg risk” för hälsa, säkerhet och grundläggande rättigheter tillåts utan ytterligare begränsningar, men leverantörerna kan välja att uppfylla frivilliga uppförandekoder.

Förslaget är under behandling i rådet och Europaparlamentet i enlighet med det ordinarie lagstiftningsförfarandet.

Förhandlingarna om Europarådets framtida konvention om AI, mänskliga rättigheter, demokrati och rättsstatsprincipen bör säkerställa att de bestämmelser som fastställs är förenliga med EU-rätten och medlemsstaternas skyldigheter enligt EU-rätten, med beaktande av dess möjliga utveckling och förslaget till AI-akt. Det kommer också att vara nödvändigt att säkerställa att Europarådets konvention omfattar en frånskiljandeklausul som tillåter att EU-medlemsstater som blir parter i konventionen reglerar förbindelserna sinsemellan på grundval av EU-rätten. Förslaget till AI-akt, i den lydelse det får genom lagstiftningsförfarandet och förhandlingarna mellan medlagstiftarna och i dess slutliga (antagna) form, bör upprätthållas bland EU-medlemsstaterna. Europeiska unionen bör också kunna ansluta sig till konventionen som part.

•Förenlighet med unionens politik inom andra områden

Rekommendationen har betydelse för andra pågående eller planerade kommissionsinitiativ som syftar till att åtgärda problem som uppstår genom utvecklingen och användningen av AI-system och som identifierades i vitboken om AI 24 . Några sådana andra initiativ är översynen av sektorspecifik produktlagstiftning (t.ex. maskindirektivet 25 och direktivet om allmän produktsäkerhet 26 ) och kommande initiativ som tar upp ansvarsfrågor i samband med ny teknik, inbegripet AI-system.

Rekommendationen överensstämmer också med kommissionen övergripande digitala strategi som syftar till att främja teknik för människor, ett av de tre huvudmålen i den politiska vision som beskrivs i meddelandet Att forma EU:s digitala framtid 27 . Den syftar till att säkerställa att AI utvecklas på sådant sätt att mänskliga rättigheter iakttas och människors kan känna förtroende, så att Europa blir rustat för den digitala tidsåldern och de närmaste tio åren blir till det digitala decenniet 28 .

Förslaget till rekommendation stärker också avsevärt unionens roll i utarbetandet av globala normer och standarder och främjandet av tillförlitlig AI som är förenlig med unionens värden och intressen. Den ger unionen en stark grund för att stärka EU:s digitala diplomati 29 och för att med andra länder i och utanför Europa förhandla fram det första rättsligt bindande internationella avtalet om AI, på grundval av gemensamma värden och principer.

2.RÄTTSLIG GRUND, SUBSIDIARITETSPRINCIPEN OCH PROPORTIONALITETSPRINCIPEN

•Rättslig grund

Enligt artikel 218.3 i fördraget om Europeiska unionens funktionssätt (EUF-fördraget) ska kommissionen lägga fram rekommendationer för rådet som ska anta ett beslut om bemyndigande att inleda förhandlingar och utse unionens förhandlare. Enligt artikel 218.4 i EUF-fördraget får rådet ge förhandlaren direktiv.

•Subsidiaritetsprincipen (för icke-exklusiv befogenhet)

Förslaget till AI-akt omfattar harmoniserade regler för AI-system i unionen och hindrar därigenom medlemsstaterna från att införa ytterligare begränsningar, om dessa inte uttryckligen tillåts enligt akten. Enligt artikel 3.2 i EUF-fördraget har unionen exklusiv befogenhet att ingå internationella avtal i den mån ingåendet kan påverka gemensamma regler eller ändra räckvidden för dessa. Av detta följer att unionen bör ha befogenhet att förhandla om Europarådets framtida konvention om AI när det gäller alla frågor som rör utformningen, användningen och tillämpningen av AI-system och som i stor utsträckning regleras av unionsbestämmelser eller som kommer att regleras inom en förutsebar framtid till följd av unionsrättens möjliga utveckling

•Proportionalitetsprincipen

Detta initiativ går inte utöver vad som är nödvändigt för att de uppnå de avsedda målen.

•Val av instrument

Det instrument som valts är en rekommendation till rådets beslut, såsom föreskrivs i artikel 218.3 och 218.4 i EUF-fördraget.

3.RESULTAT AV EFTERHANDSUTVÄRDERINGAR, SAMRÅD MED BERÖRDA PARTER OCH KONSEKVENSBEDÖMNINGAR

•Efterhandsutvärderingar/kontroller av ändamålsenligheten med befintlig lagstiftning

•Samråd med berörda parter

•Insamling och användning av sakkunnigutlåtanden

Kommissionen har tagit hänsyn till de synpunkter som framförts av medlemsstaternas experter i diskussioner med den berörda arbetsgruppen i rådet som förberedelse inför förhandlingarna.

•Konsekvensbedömning

•Lagstiftningens ändamålsenlighet och förenkling

•Grundläggande rättigheter

Den föreslagna AI-akten och Europarådets berörda konvention syftar båda till att minimera riskerna och till att säkerställa en hög nivå av skydd för grundläggande rättigheter som under vissa omständigheter kan påverkas negativt av utvecklingen och användningen av AI, med erkännande av den artificiella intelligensens potential för att skydda och främja utövandet av dessa rättigheter i den digitala miljön och förbättra samhälleligt och miljömässigt välbefinnande och främja den tekniska utvecklingen.

4.BUDGETKONSEKVENSER

5.ÖVRIGA INSLAG

•Genomförandeplaner samt åtgärder för övervakning, utvärdering och rapportering

Rekommendation till

RÅDETS BESLUT

om bemyndigande att inleda förhandlingar på Europeiska unionens vägnar om Europarådets konvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen

EUROPEISKA UNIONENS RÅD HAR ANTAGIT DETTA BESLUT

med beaktande av fördraget om Europeiska unionens funktionssätt, särskilt artikel 218.3 och 218.4,

med beaktande av Europeiska kommissionens rekommendation,

av följande skäl:

(1)År 2021 inrättade Europarådets ministerkommitté en kommitté för artificiell intelligens (CAI) för perioden 2022–2024. Den fick i uppdrag att inrätta ett internationellt förhandlingsförfarande för att utarbeta en rättslig ram för utvecklingen, utformningen och tillämpning av artificiell intelligens (AI), baserat på Europarådets normer för mänskliga rättigheter, demokrati och rättsstatsprincipen 30 , och för att främja innovation.

(2)Den 30 juni 2022, gav Europarådets ministerkommitté kommitté för artificiell intelligens anvisningen att ”att snabbt gå vidare med utarbetandet av ett rättsligt bindande instrument av övergripande art (’konvention’ / ’ramkonvention’) om artificiell intelligens baserat på Europarådets normer för mänskliga rättigheter, demokrati och rättsstatsprincipen, i linje med kommitténs mandat, som fokuserar på allmänna gemensamma principer, främjar innovation och är öppen för deltagande av icke-medlemsstaters, med beaktande av andra relevanta internationella rättsliga ramar som finns i dag eller håller på att utarbetas” 31 .

(3)Därefter lade CAI:s ordförande fram ett förslag till första utkast till en (ram)konvention som skulle gälla för utformningen, utvecklingen och tillämpningen av AI-system. Detta första utkast omfattar följande: Bestämmelser om ändamål och syfte, tillämpningsområde, definitioner, grundläggande principer, inbegripet rättssäkerhetsgarantier och rättigheter som är tillämpliga på alla AI-system oavsett risknivå, ytterligare åtgärder för AI-system inom offentliga sektorn och AI-system som innebär ”oacceptabla” och ”betydande” risknivåer, en uppföljnings- och samarbetsmekanism, slutbestämmelser, inbegripet en möjlighet för unionen att ansluta sig till konventionen, samt en bilaga, under utarbetande, med en metod för risk- och konsekvensbedömning av AI-system.

(4)Unionen har antagit gemensamma regler som kommer att påverkas av de aspekter som övervägs för Europarådets konvention. Det handlar i synnerhet om en övergripande uppsättning regler för inre marknaden för produkter 32 och tjänster 33  där AI-system kan användas, samt regler för skydd av grundläggande rättigheter som fastställs i EU:s stadga om de grundläggande rättigheterna 34 och som genomförts i unionens sekundärlagstiftning 35 , i och med att dessa rättigheter under vissa omständigheter sannolikt kommer att påverkas negativt av utvecklingen och användningen av vissa AI-system.

(5)Den 21 april 2021 lämnade kommissionen också ett förslag till en förordning om harmoniserade regler för AI 36 , som för närvarande behandlas av Europaparlamentet och rådet. Europarådets planerade konvention överlappar i hög grad detta lagstiftningsförslag när det gäller tillämpningsområdet, eftersom båda instrumenten syftar till att fastställa regler som är tillämpliga på utformningen, utvecklingen och tillämpningen av AI-system som tillhandahålls och används av antingen offentliga eller privata enheter.

(6)Därmed kan ingåendet av Europarådets konvention påverka befintliga och möjliga framtida gemensamma unionsregler eller ändra tillämpningsområdet för sådana i den mening som avses i artikel 3.2 i fördraget om Europeiska unionens funktionssätt.

(7)För att skydda unionsrättens integritet och säkerställa att bestämmelserna i internationell rätt och i unionsrätten förblir samstämmiga bör kommissionen bemyndigas att på unionens vägnar förhandla om Europarådets konvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen.

(8)Europeiska datatillsynsmannen har hörts i enlighet med artikel 42.1 i Europaparlamentets och rådets förordning (EU) 2018/1725 och avgav ett yttrande den ...

HÄRIGENOM FÖRESKRIVS FÖLJANDE.

Artikel 1

Kommissionen bemyndigas härmed att, på unionens vägnar, förhandla om Europarådets (ram)konvention om artificiell intelligens, mänskliga rättigheter demokrati och rättsstatsprincipen.

Artikel 2

Förhandlingsdirektiven anges i bilagan.

Artikel 3

Förhandlingarna ska föras i samråd med [den särskilda kommitténs namn
förs in av rådet].

Artikel 4

Detta beslut riktar sig till kommissionen.

Utfärdat i Bryssel den

(1)    Förslag till EUROPAPARLAMENTETS OCH RÅDETS FÖRORDNING OM HARMONISERADE REGLER FÖR ARTIFICIELL INTELLIGENS (RÄTTSAKT OM ARTIFICIELL INTELLIGENS) OCH OM ÄNDRING AV VISSA UNIONSLAGSTIFTNINGSAKTER, COM/2021/206 final.

(2)     Ministerkommittén, 1353:e mötet, beslut CM/Del/Dec(2019)1353/1.5, 11 september 2019 .

(3)     Ministerkommittén, CAHAI:s mandat (utdrag från CM(2019)131) .

(4)     Ad hoc-kommittén för artificiell intelligens, Feasibility study, CAHAI(2020)23, 17 december 2020 .

(5)     Ad hoc-kommittén för artificiell intelligens, Analysis of the Multi-Stakeholder Consultation, CAHAI(2021)07, 23 juni 2021 .

(6)     Ad Hoc-kommittén för artificiell intelligens, Possible elements of a legal framework on artificial intelligence, based on the Council of Europe’s standards on human rights, democracy and the rule of law, CAHAI(2021)09rev, 3 december 2021 .

(7)    I detta sammanhang riktar CAHAI uppmärksamheten mot AI-system som leder till massövervakning och AI-system som används för poängsättning av medborgare för fastställande av tillgången till grundläggande tjänster.

(8)     Ministerkommittén, CAI:s mandat (utdrag från CM(2021)131) .

(9)     Ministerkommittén, beslut angående arbetet i CAI vid det 132:a mötet i ministerkommittén – uppföljning CM/Del/Dec(2022)1438/10.4  / 30 juni 2022 .

(10)    T.ex. mål C‑114/12, Europeiska kommissionen mot Europeiska unionens råd (Skydd för radio- och televisionsföretags närstående rättigheter), ECLI:EU:C:2014:2151, punkterna 68–69. Domstolens yttrande 1/13 Accession of third States to the Hague Convention, EU:C:2014:2303, punkterna 71–74. Mål C‑66/13, Green Network, EU:C:2014:2399, punkterna 27–33. Domstolens yttrande 3/15, Marrakechfördraget om att underlätta tillgången till publicerade verk för personer som är blinda, synsvaga eller har annat läshandikapp, ECLI:EU:C:2017:114, punkterna 105–108.

(11)    T.ex. direktiv 2001/95/EG om allmän produktsäkerhet, EGT L 11, 15.1.2002, s. 4, och rådets direktiv 85/374/EEG av den 25 juli 1985 om tillnärmning av medlemsstaternas lagar och andra författningar om skadeståndsansvar för produkter med säkerhetsbrister, EGT L 210, 7.8.1985, s. 29, och sektorsspecifik produktsäkerhetslagstiftning såsom direktiv 2006/42/EG om maskiner, EUT L 157, 9.6.2006, s. 24, direktiv 2014/53/EU om harmonisering av medlemsstaternas lagstiftning om tillhandahållande på marknaden av radioutrustning, EUT L 153, 22.5.2014, s. 62, Europaparlamentets och rådets direktiv 2009/48/EG om leksakers säkerhet, EUT L 170, 30.6.2009, s. 1, förordning (EU) 2017/745 om medicintekniska produkter, EUT L 117, 5.5.2017, s. 1 , förordning (EU) 2019/2144 om krav för typgodkännande av motorfordon och deras släpvagnar samt de system, komponenter och separata tekniska enheter som är avsedda för sådana fordon, med avseende på deras allmänna säkerhet och skydd för personer i fordonet och oskyddade trafikanter, EUT L 325, 16.12.2019, s. 1.

(12)    T.ex. direktiv 2006/123/EG om tjänster på den inre marknaden samt sektorsspecifik lagstiftning som direktiv 2000/31/EG om vissa rättsliga aspekter på informationssamhällets tjänster, särskilt elektronisk handel, EGT L 178, 17.7.2000, s. 1, Europaparlamentets och rådets direktiv 2008/48/EG av den 23 april 2008 om konsumentkreditavtal, EUT L 133, 22.5.2008, s. 66 och Europaparlamentets, rådets direktiv (EU) 2016/97 av den 20 januari 2016 om försäkringsdistribution (omarbetning), EUT L 26, 2.2.2016, s. 19 och direktiv (EU) 2018/1808 om audiovisuella medietjänster, EUT L 303, 28.11.2018, s. 69.

(13)    Europeiska unionens stadga om de grundläggande rättigheterna, EUT C 326, 26.10.2012, s. 391.

(14)    T.ex. Europaparlamentets och rådets förordning (EU) nr 536/2014 av den 16 april 2014 om kliniska prövningar av humanläkemedel och om upphävande av direktiv 2001/20/EG, EUT L 158, 27.5.2014, s 1.

(15)    Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning), EUT L 119, 4.5.2016, s. 1, Europaparlamentets och rådets direktiv (EU) 2016/680 av den 27 april 2016 om skydd för fysiska personer med avseende på behöriga myndigheters behandling av personuppgifter för att förebygga, förhindra, utreda, avslöja eller lagföra brott eller verkställa straffrättsliga påföljder, och det fria flödet av sådana uppgifter och om upphävande av rådets rambeslut 2008/977/RIF, EUT L 119, 4.5.2016, s. 89.

(16)    T.ex. Europaparlamentets och rådets direktiv 2002/58/EG av den 12 juli 2002 om behandling av personuppgifter och integritetsskydd inom sektorn för elektronisk kommunikation (direktiv om integritet och elektronisk kommunikation), EGT L 201, 31.7.2002, s. 37.

(17)    T.ex. rådets direktiv 2000/43/EG av den 29 juni 2000 om genomförandet av principen om likabehandling av personer oavsett deras ras eller etniska ursprung, EGT L 180, 19.7.2000, s. 22, rådets direktiv 2000/78/EG av den 27 november 2000 om inrättande av en allmän ram för likabehandling, EGT L 303, 2.12.2000, s. 16, Europaparlamentets och rådets direktiv 2006/54/EG av den 5 juli 2006 om genomförandet av principen om lika möjligheter och likabehandling av kvinnor och män i arbetslivet (omarbetning), EUT L 204, 26.7.2006, s. 23, rådets direktiv 2004/113/EG av den 13 december 2004 om genomförande av principen om likabehandling av kvinnor och män när det gäller tillgång till och tillhandahållande av varor och tjänster, EUT L 373, 21.12.2004, s. 37.

(18)    T.ex. Europaparlamentets och rådets direktiv (EU) 2018/1808 av den 14 november 2018 om ändring av direktiv 2010/13/EU om samordning av vissa bestämmelser som fastställs i medlemsstaternas lagar och andra författningar om tillhandahållande av audiovisuella medietjänster (direktivet om audiovisuella medietjänster), mot bakgrund av ändrade marknadsförhållanden, PE/33/2018/REV/1, EUT L 303, 28.11.2018, s. 69.

(19)    T.ex. Europaparlamentets och rådets direktiv (EU) 2016/343 av den 9 mars 2016 om förstärkning av vissa aspekter av oskuldspresumtionen och av rätten att närvara vid rättegången i straffrättsliga förfaranden, EUT L 65, 11.3.2016, s. 1.

(20)    T.ex. Europaparlamentets och rådets direktiv 2012/29/EU av den 25 oktober 2012 om fastställande av miniminormer för brottsoffers rättigheter och för stöd till och skydd av dem, EUT L 315, 14.11.2012, s. 57, Europaparlamentets och rådets förordning (EU) 2020/1783 av den 25 november 2020 om samarbete mellan medlemsstaternas domstolar i fråga om bevisupptagning i mål och ärenden av civil eller kommersiell natur (bevisupptagning) (omarbetning), EUT L 405, 2.12.2020, s. 1, Europaparlamentets och rådets direktiv 2013/48/EU av den 22 oktober 2013 om rätt till tillgång till försvarare i straffrättsliga förfaranden och förfaranden i samband med en europeisk arresteringsorder samt om rätt att få en tredje part underrättad vid frihetsberövande och rätt att kontakta tredje parter och konsulära myndigheter under frihetsberövandet, EUT L 294, 6.11.2013.

(21)    Artikel 2 i fördraget om Europeiska unionen, EUT C 202, 7.6.2016.

(22)    T.ex. 1/03 Nya Luganokonventionen, ECLI:EU:C:2004:490, punkt 126, mål C‑114/12, Europeiska kommissionen mot Europeiska unionens råd (Skydd för radio- och televisionsföretags närstående rättigheter, ECLI:EU:C:2014:2151, punkt 70, mål C-66/13, Green Network, punkterna 61–64.

(23)    Förslag till EUROPAPARLAMENTETS OCH RÅDETS FÖRORDNING OM HARMONISERADE REGLER FÖR ARTIFICIELL INTELLIGENS (RÄTTSAKT OM ARTIFICIELL INTELLIGENS) OCH OM ÄNDRING AV VISSA UNIONSLAGSTIFTNINGSAKTER, COM/2021/206 final.

(24)    Vitbok om artificiell intelligens – en EU-strategi för spetskompetens och förtroende, COM(2020) 65 final.

(25)    Förslag till Europaparlamentets och rådets förordning om maskinprodukter, COM/2021/202 final.

(26)    Förslag till Europaparlamentets och rådets förordning om allmän produktsäkerhet, ändring av Europaparlamentets och rådets förordning (EU) nr 1025/2012 och om upphävande av rådets direktiv 87/357/EEG och Europaparlamentets och rådets direktiv 2001/95/EG, COM/2021/346 final.

(27)    Meddelande från kommissionen, Att forma EU:s digitala framtid, COM/2020/67 final.

(28)    Meddelande från kommissionen, Digital kompass 2030: den europeiska vägen in i det digitala decenniet , COM/2021/118 final.

(29)    Se i detta avseende även rådets slutsatser av den 18 juli 2022 om EU:s digitala diplomati, 11406/22.

(30)     Ministerkommittén, CAI:s mandat (utdrag från CM(2021)131) .

(31)     Ministerkommittén, beslut angående arbetet i CAI vid det 132:a mötet i ministerkommittén – uppföljning CM/Del/Dec(2022)1438/10.4 / 30 juni 2022 .

(32)    T.ex. direktiv 2001/95/EG om allmän produktsäkerhet, EGT L 11, 15.1.2002, s. 4, rådets direktiv 85/374/EEG av den 25 juli 1985 om tillnärmning av medlemsstaternas lagar och andra författningar om skadeståndsansvar för produkter med säkerhetsbrister, EGT L 210, 7.8.1985, s. 29, och sektorsspecifik produktsäkerhetslagstiftning såsom direktiv 2006/42/EG om maskiner, EUT L 157, 9.6.2006, s. 24, direktiv 2014/53/EU om harmonisering av medlemsstaternas lagstiftning om tillhandahållande på marknaden av radioutrustning, EUT L 153, 22.5.2014, s. 62, Europaparlamentets och rådets direktiv 2009/48/EG om leksakers säkerhet, EUT L 170, 30.6.2009, s. 1, förordning (EU) 2017/745 om medicintekniska produkter, EUT L 117, 5.5.2017, s. 1 , förordning (EU) 2019/2144 om krav för typgodkännande av motorfordon och deras släpvagnar samt de system, komponenter och separata tekniska enheter som är avsedda för sådana fordon, med avseende på deras allmänna säkerhet och skydd för personer i fordonet och oskyddade trafikanter, EUT L 325, 16.12.2019, s. 1.

(33)    T.ex. direktiv 2006/123/EG om tjänster på den inre marknaden samt sektorsspecifik lagstiftning som direktiv 2000/31/EG om vissa rättsliga aspekter på informationssamhällets tjänster, särskilt elektronisk handel, EGT L 178, 17.7.2000, s. 1, Europaparlamentets och rådets direktiv 2008/48/EG av den 23 april 2008 om konsumentkreditavtal, EUT L 133, 22.5.2008, s. 66.

(34)    Europeiska unionens stadga om de grundläggande rättigheterna, EUT C 326, 26.10.2012, s. 391.

(35)    T.ex. Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning), EUT L 119, 4.5.2016, s. 1, Europaparlamentets och rådets direktiv (EU) 2016/680 av den 27 april 2016 om skydd för fysiska personer med avseende på behöriga myndigheters behandling av personuppgifter för att förebygga, förhindra, utreda, avslöja eller lagföra brott eller verkställa straffrättsliga påföljder, och det fria flödet av sådana uppgifter och om upphävande av rådets rambeslut 2008/977/RIF, EUT L 119, 4.5.2016, s. 89, Europaparlamentets och rådets direktiv 2002/58/EG av den 12 juli 2002 om behandling av personuppgifter och integritetsskydd inom sektorn för elektronisk kommunikation (direktiv om integritet och elektronisk kommunikation), EGT L 201, 31.7.2002, s. 37, rådets direktiv 2000/43/EG av den 29 juni 2000 om genomförandet av principen om likabehandling av personer oavsett deras ras eller etniska ursprung, EGT L 180, 19.7.2000, s. 22, rådets direktiv 2000/78/EG av den 27 november 2000 om inrättande av en allmän ram för likabehandling, EGT L 303, 2.12.2000, s. 16.

(36)    Förslag till EUROPAPARLAMENTETS OCH RÅDETS FÖRORDNING OM HARMONISERADE REGLER FÖR ARTIFICIELL INTELLIGENS (RÄTTSAKT OM ARTIFICIELL INTELLIGENS) OCH OM ÄNDRING AV VISSA UNIONSLAGSTIFTNINGSAKTER, COM/2021/206 final.

EUROPEISKA KOMMISSIONEN

Bryssel den 18.8.2022

COM(2022) 414 final

BILAGA

till

REKOMMENDATION TILL RÅDETS BESLUT

om bemyndigande att inleda förhandlingar på Europeiska unionens vägnar om Europarådets konvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen

BILAGA
till rekommendation till rådets beslut om bemyndigande att inleda förhandlingar på Europeiska unionens vägnar om Europarådets konvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen

När det gäller förhandlingsprocessen bör unionen sträva efter att uppnå följande:

(1)Förhandlingsprocessen är öppen, inkluderande och transparent och bygger på ett robust faktaunderlag och samarbete i god tro.

(2)Förhandlingsprocessen baseras på en inkluderande samrådsprocess och möjliggör ett meningsfullt deltagande av alla berörda intressenter, inbegripet civilsamhället, privata sektorn, den akademiska världen, icke-statliga organisationer, standardiseringsorganisationer och andra berörda parter med sakkunskaper om regleringen av utformningen, utvecklingen och tillämpningen av AI-system.

(3)Alla synpunkter från alla förhandlingsparter beaktas på lika villkor, varigenom en inkluderande process säkerställs.

(4)Förhandlingsprocessen bygger på ett ändamålsenligt och realistiskt arbetsprogram för utarbetandet av (ram)konventionen.

När det gäller de allmänna målen för förhandlingarna bör unionen sträva efter att uppnå följande:

(5)Konventionen är förenlig med EU:s regelverk för den inre marknaden och andra delar av EU-rätten, inbegripet EU-rättens allmänna principer och de grundläggande rättigheter och friheter som fastställs i EU:s stadga om de grundläggande rättigheterna och som genomförts i EU:s sekundärlagstiftning.

(6)Konventionen är förenlig med förslaget till förordning om artificiell intelligens (AI-akten) 1 , med beaktande av utveckling inom ramen för lagstiftningsprocessen.

(7)Konventionen utgör en ändamålsenlig och framtidssäkrad rättslig ram för AI som syftar till att säkerställa en hög nivå av skydd för mänskliga rättigheter och upprätthållandet av europeiska värden, samtidigt som den främjar innovation, ökar rättssäkerheten och är tillitsskapande. Konventionen bekräftar också den artificiella intelligensens potentiella fördelar för viktiga allmänintressen, inbegripet för att skydda och främja utövandet av mänskliga rättigheter i den digitala miljön, öka det samhälleliga och miljömässiga välbefinnandet och hälsan och främja teknisk utveckling.

(8)Konventionen stärker det internationella samarbetet mellan Europeiska unionen och andra europeiska och utomeuropeiska länder som kan ansluta sig till konventionen.

(9)Konventionen är förenlig med Europarådets befintliga instrument, i synnerhet Europakonventionen om de mänskliga rättigheterna och dess protokoll, Europarådets konvention nr 108 om skydd för enskilda vid automatisk databehandling av personuppgifter, ändrad genom protokoll CETS 223, och Europarådets andra relevanta rättsliga instrument. I konventionen undviks dubblering i förhållande till dessa instrument och även all negativ inverkan på deras tillämpning eller den fortsatta anslutningen av länder till dem. Konventionen behandlar de nya risker och utmaningar som vissa AI-systems särdrag kan medföra för efterlevnaden och tillämpningen av befintliga rättigheter som skyddas genom dessa instrument.

(10)Konventionen är förenlig med Europeiska unionens åtaganden i samband med andra internationella överenskommelser där unionen är en part och ger inte upphov till någon negativ inverkan på tillämpningen. Konventionen är framför allt i linje med unionens internationella handelsåtaganden och medför inte några onödiga eller omotiverade handelsbegränsningar.

När det gäller förhandlingarnas sakinnehåll bör unionen sträva efter att uppnå följande:

(11)Konventionens bestämmelser är helt förenliga med EU:s regelverk för den inre marknaden och andra delar av EU-rätten, inbegripet EU-rättens allmänna principer och grundläggande rättigheter som fastställs i EU:s stadga om de grundläggande rättigheterna och som genomförts i EU:s sekundärlagstiftning.

(12)Konventionens bestämmelser är helt förenliga med förslaget till AI-akt, med beaktande av framtida utveckling inom ramen för lagstiftningsprocessen.

(13)Konventionens bestämmelser tillåter att parterna beviljar ett mer omfattande skydd än vad som föreskrivs i konventionen och undergräver på intet sätt skyddsnivån för grundläggande rättigheter och friheter eller de garantier som finns i unionsrätten, inbegripet principen att myndigheter som utövar tillsyn över grundläggande rättigheter måste vara oberoende i den mån som det krävs enligt EU-rätten.

(14)Konventionen bygger på en riskbaserad strategi och fastställer proportionella, ändamålsenliga och entydiga regler för offentliga och privata enheter längs AI-värdekedjan, vilket ska minimera riskerna till följd av utformningen, utvecklingen och tillämpningen av vissa AI-system och samtidigt inte medföra några onödiga och oproportionerliga bördor eller begränsningar av dessa enheters verksamheter eller av den tekniska utvecklingen. Tillämpningsområdet och stringensen för alla regleringsåtgärder är väl avvägda, motiverade och anpassade till de risknivåer som AI-systemen medför.

(15)Konventionens bestämmelser är i möjligaste mån formulerade på ett framtidssäkrat och flexibelt sätt, så att det blir möjligt att ta hänsyn till teknikens, marknadernas, samhällets och miljöns utveckling i förhållande till AI.

(16)Konventionens regler för utformningen, utvecklingen och tillämpningen av AI-system innebär inte någon överlappning utan ger ett meningsfullt mervärde jämfört med andra relevanta internationella eller regionala konventioner, i synnerhet på dataskyddsområdet. Dessa AI-regler är förenliga med sådana konventioner och med internationella normer för mänskliga rättigheter.

(17)Konventionen omfattar bestämmelser om ett effektivt genomförande av reglerna för utformningen, utvecklingen och tillämpningen av AI-system, i synnerhet genom ändamålsenliga förhands- och efterhandsmekanismer för tillämpning och kontroll, och erkänner betydelsen av standarder, certifieringsmekanismer, oberoende tredje parter som deltar i kontrollen av efterlevnaden samt behöriga tillsynsmyndigheter.

(18)Konventionen tillåter åtgärder för att stödja innovation, inbegripet testning av AI-system och inrättandet och driften av ”regulatoriska sandlådor” för att främja AI-innovation i en kontrollerad miljö under tillsyn av behöriga myndigheter.

(19)Konventionen tar hänsyn till de små och medelstora företagens särskilda behov och innebär inte någon oproportionerlig inverkan er på deras konkurrenskraft och ålägger parterna att vidta särskilda åtgärder för att stödja dessa.

(20)Konventionen tar hänsyn till brottsbekämpande och rättsliga myndigheters intressen när det gäller att förebygga, förhindra, utreda, avslöja och lagföra brott, även vad gäller sådana utredningars konfidentialitet och integritet.

(21)Konventionen föreskriver en ändamålsenlig tillsyn som utförs av behöriga myndigheter samt samarbetsmekanismer som möjliggör ett effektivt genomförande av konventionen.

När det gäller konventionens sätt att fungera bör unionen sträva efter att uppnå följande:

(22)Konventionen omfattar en frånskiljandeklausul som tillåter att EU-medlemsstater, i sina ömsesidiga relationer, fortsätter att tillämpa EU-rätten när det gäller frågor som omfattas av konventionens tillämpningsområde.

(23)I konventionen föreskrivs en lämplig mekanism för att säkerställa genomförandet av konventionen och den omfattar slutbestämmelser, bland annat om tvistlösning, undertecknande, ratificering, godtagande, godkännande och anslutning, ikraftträdande, ändring, tillfälligt upphävande, uppsägning och depositarie samt språk, som när så är möjligt och lämpligt utformas i enlighet med bestämmelserna i Europarådets andra relevanta konventioner.

(24)Konventionen gör det möjligt för Europeiska unionen att bli part i konventionen.

(1)    Förslag till EUROPAPARLAMENTETS OCH RÅDETS FÖRORDNING OM HARMONISERADE REGLER FÖR ARTIFICIELL INTELLIGENS (RÄTTSAKT OM ARTIFICIELL INTELLIGENS) OCH OM ÄNDRING AV VISSA UNIONSLAGSTIFTNINGSAKTER, COM/2021/206 final.