Sammanfattning av Europeiska datatillsynsmannens yttrande om rekommendationen till rådets beslut om bemyndigande att inleda förhandlingar på Europeiska unionens vägnar om Europarådets konvention om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen

(2022/C 458/04)

(Den fullständiga texten till detta yttrande finns på engelska, franska och tyska på Europeiska datatillsynsmannens webbplats https://edps.europa.eu)

Den 18 augusti 2022 utfärdade Europeiska kommissionen en rekommendation till rådets beslut om bemyndigande att inleda förhandlingar på Europeiska unionens vägnar om Europarådets konvention om artificiell intelligens (AI), mänskliga rättigheter, demokrati och rättsstatsprincipen (nedan kallad konventionen), i enlighet med artikel 218 i EUF-fördraget.

Med tanke på den artificiella intelligensens ”gränsöverskridande” karaktär välkomnar Europeiska datatillsynsmannen (EDPS) det allmänna mål som Europarådet söker nå, nämligen att utarbeta det första rättsligt bindande internationella instrumentet om artificiell intelligens, baserat på Europarådets standarder för mänskliga rättigheter, demokrati och rättsstatsprincipen. EDPS stöder därför inledandet av förhandlingar på EU:s vägnar om konventionen och välkomnar EU:s roll när det gäller att främja tillförlitlig AI som är förenlig med EU:s värden.

EDPS noterar att de frågor som konventionen omfattar skulle regleras inom EU genom den föreslagna AI-akten och erkänner kommissionens mål att säkerställa att konventionen är förenlig med den föreslagna AI-akten, med beaktande av lagstiftningsprocessens framtida utveckling. EDPS anser dock att konventionen utgör en viktig möjlighet att komplettera den föreslagna AI-akten genom att stärka skyddet av de grundläggande rättigheterna för alla personer som påverkas av AI-system och förespråkar därför att konventionen tillhandahåller tydliga och kraftfulla skyddsåtgärder för de personer som påverkas av användningen av AI-system.

Mot bakgrund av ovanstående lämnar EDPS fyra huvudsakliga rekommendationer om förhandlingsdirektiven:

—	I de allmänna målen för konventionsförhandlingen bör det läggas större vikt vid de skyddsåtgärder och rättigheter som ska tillhandahållas enskilda personer – och grupper av enskilda personer – som omfattas av AI-system, i linje med Europarådets primära inriktning och mål.

—	En uttrycklig hänvisning till konventionens överensstämmelse med EU:s befintliga rättsliga ram för dataskydd bör införas i ett särdirektiv.

—	I linje med den riskbaserade metoden bör ett mål om att förbjuda AI-system som medför oacceptabla risker införas.

—	Konventionen bör främja antagandet av en strategi för inbyggt dataskydd och dataskydd som standard i varje steg i AI-systemens livscykel.

Dessutom innehåller yttrandet ytterligare rekommendationer om att i konventionen införa minimigarantier för rättssäkerhet, såväl som minimikrav för insyn, förklarbarhet och granskningsbarhet samt efterlevnads- och kontrollmekanismer, vad gäller gränsöverskridande samarbete mellan behöriga myndigheter som ska utses av parterna i konventionen för övervakning av de skyddsåtgärder och rättigheter som ska tillhandahållas i enlighet med konventionen.

1. INLEDNING

Den 18 augusti 2022 utfärdade Europeiska kommissionen en rekommendation till rådets beslut om bemyndigande att inleda förhandlingar på Europeiska unionens vägnar om Europarådets konvention om artificiell intelligens (AI), mänskliga rättigheter, demokrati och rättsstatsprincipen (1), i enlighet med artikel 218 i EUF-fördraget (nedan kallad rekommendationen).

Syftet med rekommendationen är att bemyndiga inledandet av förhandlingar på EU:s vägnar om Europarådets framtida konvention om AI, mänskliga rättigheter, demokrati och rättsstatsprincipen (nedan kallad konventionen), att anta förhandlingsdirektiv och att utse kommissionen till EU:s förhandlare (2).

I motiveringen (3) framhåller kommissionen att konventionsförhandlingarna rör frågor som omfattas av EU:s exklusiva befogenhet, vilket bland annat beror på den betydande överlappningen mellan det första utkast till konventionen som skickats ut av Europarådets kommitté för artificiell intelligens, å ena sidan, och kommissionens förslag till förordning om AI (nedan kallad den föreslagna AI-akten) (4), å andra sidan, vad gäller deras tillämpningsområde och innehåll (5).

I motiveringen (6) till rekommendationen betonas att det i det första utkastet föreslås att följande bestämmelser ska ingå:

—	(Ram)konventionens syfte och tillämpningsområde.

—	Definitioner av AI-system, livscykel, leverantör, användare och ”AI-föremål”.

—	Vissa grundläggande principer, inbegripet rättssäkerhetsgarantier och rättigheter för AI-föremål som skulle gälla för alla AI-system, oavsett risknivå.

—	Ytterligare åtgärder för offentlig sektor samt för AI-system som medför ”oacceptabla” och ”betydande” risknivåer vilka identifieras genom en metod för risk- och konsekvensbedömning (som ska fastställas senare i en bilaga till konventionen).

—	Mekanism för uppföljning och samarbete mellan parterna.

—	Slutbestämmelser, inbegripet en möjlighet för EU-medlemsstater att tillämpa EU-rätten i sina ömsesidiga förbindelser när det gäller frågor som omfattas av konventionen och en möjlighet för unionen att ansluta sig till konventionen.

I skälen 6 och 7 i rekommendationen betonas att ingåendet av konventionen kan påverka befintliga och möjliga framtida unionsregler. För att skydda EU-rättens integritet och säkerställa överensstämmelse mellan reglerna i internationell rätt och EU-rätten bör kommissionen bemyndigas att förhandla om konventionen på EU:s vägnar.

EDPS utfärdar detta yttrande som svar på ett samråd med kommissionen den 18 augusti 2022, i enlighet med artikel 42.1 i Europeiska unionens dataskyddsförordning (7). EDPS välkomnar hänvisningen till detta samråd i skäl 8 i rekommendationen.

8. SLUTSATSER

49.

Mot bakgrund av det ovan anförda rekommenderar EDPS följande:

(1)	Att större vikt läggs vid målet att ”säkerställa en hög nivå av skydd för mänskliga rättigheter och upprätthållandet av europeiska värden”, i linje med Europarådets karaktär och mandat.

(2)

Att ordet ”inbegripet” stryks efter ”EU:s regelverk för den inre marknaden och andra delar av EU-rätten” i direktiven 5 och 11 för att bättre återspegla samspelet mellan allmänna principer och grundläggande rättigheter, å ena sidan, och sekundärrätten (EU:s regelverk för den inre marknaden och andra delar av EU-rätten), å andra sidan.

(3)

Att ett särdirektiv läggs till som erinrar om behovet av att hitta rätt balans mellan allmänintresset och intressena hos de personer som är föremål för AI-system, för att säkerställa full överensstämmelse med rätten till integritet och rätten till skydd av personuppgifter samt med andra grundläggande rättigheter som står på spel, särskilt rätten till oskuldspresumtion och rätten till en rättvis rättegång, rätten till god förvaltning och principen om icke-diskriminering.

(4)	Att det i ett direktiv specificeras att konventionen bör innehålla vissa minimigarantier för rättssäkerhet och rättigheter för de personer som påverkas av användningen av AI-systemen.

(5)	Att det i ett direktiv specificeras att konventionen bör innehålla minimikrav på AI-systemens insyn, förklarbarhet och granskningsbarhet.

(6)	Att det i direktiv 14 inkluderas en specificering om att de samhälls- och grupprisker som AI-system medför också måste bedömas och minskas.

(7)	Att det i förhandlingsdirektiven specificeras att vissa AI-system som medför oacceptabla risker bör förbjudas, samt tillhandahålls en vägledande förteckning över sådana AI-system.

(8)	Att ett förhandlingsdirektiv inkluderas, enligt vilket konventionen bör främja antagandet av en strategi för inbyggt dataskydd och dataskydd som standard i varje steg i AI-systemens livscykel.

(9)

Att innehållet i direktiv 17 specificeras enligt följande:

—	En förhandsbedömning av överensstämmelse i vilken en tredje part deltar måste utföras för AI-system med hög risk.

—	AI-systemen med hög risk bör omfattas av ett nytt förfarande för bedömning av överensstämmelse när en betydande förändring inträffar.

—	Specificering av certifieringars syfte och rättsliga verkan.

—	Specificering om att tekniska standarder å ena sidan kan ha en positiv inverkan på harmoniseringen av produkter och tjänster, men att deras roll å andra sidan är att tillhandahålla tekniska specifikationer för regler som redan fastställts i lag.

(10)	Att ett direktiv inkluderas, enligt vilket konventionen bör föreskriva att behöriga tillsynsmyndigheter måste ges tillräckliga utrednings- och verkställighetsbefogenheter.

(11)	Att ett förhandlingsdirektiv som syftar till att säkerställa att konventionen underlättar och uppmuntrar gränsöverskridande samarbete mellan behöriga myndigheter läggs till.

Bryssel den 13 oktober 2022.

Wojciech Rafał WIEWIÓROWSKI

(1) COM(2022) 414 final.

(2) COM(2022) 414 final, s. 3.

(3) COM(2022) 414 final, s. 5.

(4) Förslag till förordning om harmoniserade regler för artificiell intelligens (rättsakt om artificiell intelligens) och om ändring av vissa unionslagstiftningsakter, COM(2021) 206 final.

(5) Se även skäl 5 i rekommendationen.

(6) COM(2022) 414 final, s. 2 och s. 3.

(7) Europaparlamentets och rådets förordning (EU) 2018/1725 av den 23 oktober 2018 om skydd för fysiska personer med avseende på behandling av personuppgifter som utförs av unionens institutioner, organ och byråer och om det fria flödet av sådana uppgifter samt om upphävande av förordning (EG) nr 45/2001 och beslut nr 1247/2002/EG (EUT L 295, 21.11.2018, s. 39).