Sammanfattning av Europeiska datatillsynsmannens yttrande om Europeiska kommissionens vitbok Om artificiell intelligens – en EU-strategi för spetskompetens och förtroende

(Den fullständiga texten till detta yttrande finns på engelska, franska och tyska på Europeiska datatillsynsmannens webbplats www.edps.europa.eu)

(2020/C 392/03)

Sammanfattning

Den 19 februari 2020 offentliggjorde Europeiska kommissionen sin vitbok Om artificiell intelligens – en EU-strategi för spetskompetens och förtroende. Den är del av ett större paket med strategiska dokument, som också omfattar meddelandet En EU-strategi för data.

Vitboken har en dubbel målsättning: att ange politiska alternativ för att främja användningen av artificiell intelligens (AI) och att ta itu med ”riskerna förknippade med viss användning av den nya tekniken”. För att nå dessa mål innehåller vitboken förslag på åtgärder för att främja utvecklingen och anammandet av AI och på ett nytt regelverk som skulle kunna ta itu med frågor som rör just AI och som inte alltid omfattas av det nuvarande regelverket.

I detta yttrande redogörs för Europeiska datatillsynsmannens synpunkter på vitboken som helhet, liksom på vissa specifika aspekter, såsom den föreslagna riskbaserade strategin, genomförandet av AI-lagstiftning och de särskilda kraven för biometrisk fjärridentifiering (inklusive ansiktsigenkänning).

Europeiska datatillsynsmannen är medveten om AI:s växande betydelse och inverkan. AI medför dock sina egna risker och är ingen ”patentlösning” som kommer att lösa alla problem. Fördelar, kostnader och risker bör övervägas av alla som börjar använda en teknik, särskilt av offentliga förvaltningar som behandlar stora mängder personuppgifter.

Europeiska datatillsynsmannen välkomnar i hög grad de talrika hänvisningarna i vitboken till en EU-strategi för AI, som bygger på EU:s värderingar och grundläggande rättigheter och den hänsyn som tas till behovet av efterlevnad av EU:s dataskyddslagstiftning.

Således är syftet med rekommendationerna i detta yttrande att klargöra och vid behov vidareutveckla skyddsåtgärder och kontroller med avseende på skydd av personuppgifter, med beaktande av den särskilda situationen för AI.

För att göra detta rekommenderar Europeiska datatillsynsmannen särskilt att alla nya regelverk för AI

—	är tillämpliga både på EU:s medlemsstater och på EU:s institutioner, organ och byråer,

—	utformas för att undvika negativa effekter, inte bara för enskilda personer utan även för gemenskaper och samhället som helhet,

—	inbegriper förslag på ett mer robust och nyanserat system för riskklassificering, som säkerställer att det finns lämpliga riskreducerande åtgärder för all väsentlig skada som kan orsakas av AI-tillämpningarna,

—	omfattar en konsekvensbedömning som tydligt definierar vilka rättsliga luckor regelverket är avsett att fylla,

—	undviker överlappningar mellan olika tillsynsmyndigheter och omfattar en samarbetsmekanism.

Vad gäller biometrisk fjärridentifiering stöder Europeiska datatillsynsmannen idén om ett moratorium för användning i EU av automatiserad igenkänning på allmänna platser av mänskliga särdrag, inte bara av ansikten utan även av gångart, fingeravtryck, DNA, röst, tangenttryckningar och andra biometriska eller beteendemässiga kännetecken, så att en välunderbyggd och demokratisk debatt kan äga rum fram till att EU och medlemsstaterna har infört alla lämpliga skyddsåtgärder, inklusive ett övergripande regelverk som garanterar att respektive tekniker och system är proportionerliga för det särskilda ändamålet.

Europeiska datatillsynsmannen fortsätter att stå till kommissionens, rådets och Europaparlamentets förfogande för att tillhandahålla ytterligare rådgivning och förväntar sig att bli kontaktad i god tid i enlighet med artikel 42 i förordning (EU) 2018/1725. Kommentarerna i detta yttrande påverkar inte ytterligare kommentarer i framtiden på specifika frågor och/eller om ytterligare information blir tillgänglig.

1.   INLEDNING OCH BAKGRUND

1.

Kommissionens vitbok Om artificiell intelligens – en EU-strategi för spetskompetens och förtroende (1) (nedan kallad vitboken) är del av initiativ nr 10 (En europeisk AI-strategi) och omfattas av kapitlet ”Ett Europa rustat för den digitala tidsåldern” i kommissionens arbetsprogram 2020.

2.

Europeiska datatillsynsmannen noterar att vitboken är nära kopplad till meddelandet från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén – En EU-strategi för data (2) (nedan kallad datastrategin), för vilket Europeiska datatillsynsmannen har antagit ett separat yttrande (3).

3.

Kommissionen kontaktade Europeiska datatillsynsmannen den 29 januari 2020 avseende utkastet till vitboken och lämnade in preliminära informella kommentarer. Europeiska datatillsynsmannen välkomnar att hans synpunkter efterfrågades i ett tidigt stadium av förfarandet och ser gärna att kommissionen fortsätter utöva denna goda praxis.

4.

Vitboken är föremål för offentligt samråd. Målet med samrådet är att samla in synpunkter på vitboken som helhet, liksom på vissa specifika aspekter. Ett liknande offentligt samråd har inletts om Europeiska kommissionens meddelande En EU-strategi för data.

5.

I detta yttrande utvecklas vissa av Europeiska datatillsynsmannens informella kommentarer, och mer riktad information lämnas till Europeiska kommissionen mot bakgrund av det offentliga samrådet. Detta yttrande har vidare ingen inverkan på andra kommentarer som Europeiska datatillsynsmannen kan göra på ett senare stadium utifrån kompletterande tillgänglig information, också inom ramen för de framtida lagstiftningssamråden om de rättsakter som föreskrivs i vitboken och kommissionens arbetsprogram.

6.

Även om Europeiska unionens institutioner, organ och byråer omfattas av förordning (EU) 2018/1725 i stället för av förordning (EU) 2016/679 (allmänna dataskyddsförordningen) har båda förordningarna samma mål och deras principer är identiska (4). För att avspegla denna samstämmighet anger alla hänvisningar i detta yttrande till en bestämmelse i den allmänna dataskyddsförordningen också motsvarande bestämmelse i förordning (EU) 2018/1725 inom parentes.

7.

För att främja en konsekvent strategi i hela unionen rekommenderar Europeiska datatillsynsmannen att alla nya regelverk för AI är tillämpliga både på EU:s medlemsstater och på EU:s institutioner, organ och byråer. När unionens institutioner, organ och byråer använder artificiell intelligens (AI) bör de omfattas av samma regler som de som gäller i EU:s medlemsstater.

3.   SLUTSATSER

77.

Europeiska datatillsynsmannen är helt enig med kommissionen om behovet av en EU-strategi för AI och välkomnar i samband med detta i hög grad åtagandet att tillvarata grundläggande rättigheter och europeiska värderingar.

78.

Europeiska datatillsynsmannen anser dock att förslagen i vitboken kräver ytterligare justeringar och förtydliganden vad gäller vissa relevanta frågor. Några av de ämnen som skulle behöva förtydligas i ett framtida lagstiftningsförslag är kopplingen mellan riskerna med AI och de relaterade luckorna i lagstiftningen, den riskbaserade strategin för AI-tillämpningar och definitionen av själva begreppet AI, som bör göra det möjligt att tydligt fastställa den föreslagna lagstiftningens tillämpningsområde.

79.

Europeiska datatillsynsmannen rekommenderar dessutom att alla nya regelverk för AI — är tillämpliga både på EU:s medlemsstater och på EU:s institutioner, organ och byråer, — utformas för att undvika negativa effekter, inte bara för enskilda personer utan även för gemenskaper och samhället som helhet, — inbegriper förslag på ett mer robust och nyanserat system för riskklassificering, som säkerställer att det finns lämpliga riskreducerande åtgärder för all väsentlig skada som kan orsakas av AI-tillämpningarna, — omfattar en konsekvensbedömning som tydligt definierar vilka rättsliga luckor regelverket är avsett att fylla, — undviker överlappningar mellan olika tillsynsmyndigheter och omfattar en samarbetsmekanism.

80.

Vad gäller biometrisk fjärridentifiering stöder Europeiska datatillsynsmannen idén om ett moratorium för användning i EU av automatiserad igenkänning på allmänna platser av mänskliga särdrag, inte bara av ansikten utan även av gångart, fingeravtryck, DNA, röst, tangenttryckningar och andra biometriska eller beteendemässiga kännetecken, så att en välunderbyggd och demokratisk debatt kan äga rum fram till att EU och medlemsstaterna har infört alla lämpliga skyddsåtgärder, inklusive ett övergripande regelverk som garanterar att respektive tekniker och system är proportionerliga för det särskilda ändamålet.

81.

Om ett nytt regelverk införs, såsom framgår av vitboken och kommissionens arbetsprogram, kommer Europeiska datatillsynsmannen att ge ytterligare rådgivning till kommissionen i enlighet med artikel 42 i förordning (EU) 2018/1725.

---

(1)  COM(2020) 65 final.

(2)  COM(2020) 66 final.

(3)  Europeiska datatillsynsmannens yttrande 3/2020 om EU-strategin för data (endast på engelska): https://edps.europa.eu/sites/edp/files/publication/20-06-16_opinion_data_strategy_en.pdf

(4)  När en bestämmelse i förordning (EU) 2018/1725 följer samma principer som en bestämmelse i den allmänna dataskyddsförordningen bör dessa båda bestämmelser, enligt rättspraxis från Europeiska unionens domstol, tolkas enhetligt, särskilt eftersom den systematik som förordning (EU) 2018/1725 bygger på bör uppfattas som en motsvarighet till systematiken bakom den allmänna dataskyddsförordningen – se skäl 5 i förordning (EU) 2018/1725, med hänvisning till domstolens dom av den 9 mars 2010, Europeiska kommissionen/Förbundsrepubliken Tyskland, C-518/07, ECLI:EU:C:2010:125, punkt 28.