P9_TA(2020)0275

Ram för etiska aspekter av artificiell intelligens, robotteknik och tillhörande teknik

Europaparlamentets resolution av den 20 oktober 2020 med rekommendationer till kommissionen om en ram för etiska aspekter av artificiell intelligens, robotteknik och tillhörande teknik (2020/2012(INL))

(2021/C 404/04)

Europaparlamentet utfärdar denna resolution

—	med beaktande av artikel 225 i fördraget om Europeiska unionens funktionssätt,

—	med beaktande av artikel 114 i fördraget om Europeiska unionens funktionssätt,

—	med beaktande av Europeiska unionens stadga om de grundläggande rättigheterna,

—	med beaktande av rådets förordning (EU) 2018/1488 av den 28 september 2018 om bildande av det gemensamma företaget för ett europeiskt högpresterande datorsystem (1),

—	med beaktande av rådets direktiv 2000/43/EG av den 29 juni 2000 om genomförandet av principen om likabehandling av personer oavsett deras ras eller etniska ursprung (2) (direktivet om likabehandling oavsett ras),

—	med beaktande av rådets direktiv 2000/78/EG av den 27 november 2000 om inrättande av en allmän ram för likabehandling (3) (direktivet om likabehandling i arbetslivet),

—

med beaktande av Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (den allmänna dataskyddsförordningen) (4), och av Europaparlamentets och rådets direktiv (EU) 2016/680 av den 27 april 2016 om skydd för fysiska personer med avseende på behöriga myndigheters behandling av personuppgifter för att förebygga, förhindra, utreda, avslöja eller lagföra brott eller verkställa straffrättsliga påföljder, och det fria flödet av sådana uppgifter och om upphävande av rådets rambeslut 2008/977/RIF (5),

—	med beaktande av det interinstitutionella avtalet av den 13 april 2016 om bättre lagstiftning (6),

—	med beaktande av förslaget till Europaparlamentets och rådets förordning av den 6 juni 2018 om inrättande av programmet för ett digitalt Europa för perioden 2021–2027 (COM(2018)0434),

—	med beaktande av meddelandet av den 11 december 2019 från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén om den europeiska gröna given (COM(2019)0640),

—	med beaktande av meddelandet av den 19 februari 2020 från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén Vitbok om artificiell intelligens – en EU-strategi för spetskompetens och förtroende (COM(2020)0065),

—	med beaktande av meddelandet av den 19 februari 2020 från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén En EU-strategi för data (COM(2020)0066),

—	med beaktande av meddelandet av den 19 februari 2020 från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén Att forma EU:s digitala framtid (COM(2020)0067),

—	med beaktande av rådets slutsatser från juni 2020 om att forma EU:s digitala framtid,

—	med beaktande av sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik (7),

—	med beaktande av sin resolution av den 1 juni 2017 om digitalisering av den europeiska industrin (8),

—	med beaktande av sin resolution av den 12 september 2018 om autonoma vapensystem (9),

—	med beaktande av sin resolution av den 11 september 2018 om likabehandling av språk i den digitala tidsåldern (10),

—	med beaktande av sin resolution av den 12 februari 2019 om en övergripande europeisk industripolitik för artificiell intelligens och robotteknik (11),

—	med beaktande av rapporten av den 8 april 2019 från kommissionens högnivåexpertgrupp för AI-frågor, Ethics Guidelines for Trustworthy AI (etiska riktlinjer för tillförlitlig AI),

—	med beaktande av studien med en bedömning av det europeiska mervärdet från utredningstjänstens enhet för europeiskt mervärde European framework on ethical aspects of artificial intelligence, robotics and related technologies: European added value assessment (12),

—

med beaktande av den information och de studier som utarbetats på begäran av panelen för framtida vetenskap och teknik (Stoa) och som förvaltas av enheten för vetenskaplig framsyn vid Europaparlamentets utredningstjänst, What if algorithms could abide by ethical principles? (om algoritmer kunde följa etiska principer), Artificial Intelligence ante portas: Legal & ethical reflections (AI ante portas: rättsliga och etiska överväganden), A governance framework for algorithmic accountability and transparency (en styrningsram för algoritmisk ansvarsskyldighet och transparens), Should we fear artificial intelligence? (borde vi vara rädda för AI?) och The ethics of artificial intelligence: Issues and initiatives (etik och AI: problem och initiativ),

—	med beaktande av Europarådets ramkonvention om skydd för nationella minoriteter, protokoll nr 12 till den europeiska konventionen om skydd för de mänskliga rättigheterna och de grundläggande friheterna samt den europeiska stadgan om landsdels- eller minoritetsspråk,

—	med beaktande av OECD-rådets rekommendation om artificiell intelligens som antogs den 22 maj 2019.

—	med beaktande av artiklarna 47 och 54 i arbetsordningen,

—

med beaktande av yttrandena från utskottet för utrikesfrågor, utskottet för den inre marknaden och konsumentskydd, utskottet för transport och turism, utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor, utskottet för sysselsättning och sociala frågor, utskottet för miljö, folkhälsa och livsmedelssäkerhet och utskottet för kultur och utbildning,

—	med beaktande av betänkandet från utskottet för rättsliga frågor, (A9-0186/2020), och av följande skäl:

Inledning

A.	Det är människor som ligger bakom utvecklingen, spridningen och användningen av artificiell intelligens (även kallad AI), robotteknik och tillhörande teknik, och deras val avgör potentialen hos sådan teknik att gynna samhället.

Artificiell intelligens, robotteknik och tillhörande teknik som har potential att skapa möjligheter för företag och fördelar för medborgarna och som direkt kan påverka alla aspekter av våra samhällen, inbegripet grundläggande rättigheter och sociala och ekonomiska principer och värden samt varaktigt påverka alla verksamhetsområden, främjas och utvecklas snabbt.

Artificiell intelligens, robotteknik och tillhörande teknik kommer att leda till betydande förändringar på arbetsmarknaden och på arbetsplatsen. Denna teknik kan eventuellt ersätta arbetstagare som utför enformigt arbete, underlätta arbetssystem där människa och maskin samarbetar, öka konkurrenskraften och välståndet och skapa nya sysselsättningsmöjligheter för kvalificerade arbetstagare, men utgör samtidigt en allvarlig utmaning när det gäller att omorganisera arbetskraften.

Utvecklingen av artificiell intelligens, robotteknik och tillhörande teknik kan också bidra till att uppnå hållbarhetsmålen i den europeiska gröna given inom många olika sektorer. Digital teknik kan förstärka genomslaget för politiska strategier när det gäller miljöskydd. Den kan också bidra till att minska trafikstockningar och utsläpp av växthusgaser och luftföroreningar.

Inom sektorer såsom kollektivtrafiken kan AI-stödda intelligenta transportsystem användas för att minska köer, optimera ruttval, göra det möjligt för personer med funktionssättning att vara mer oberoende samt öka energieffektiviteten, och därigenom öka insatserna för att minska koldioxidutsläppen och minska miljöavtrycket.

Sådan ny teknik kan utmynna i nya affärsmöjligheter som kan bidra till unionsindustrins återhämtning efter den hälso- och sjukvårdskris och den ekonomiska kris som nu råder samt till ökad användning av tekniken till exempel inom transportsektorn. Sådana möjligheter kan skapa nya arbetstillfällen eftersom ibruktagandet av den berörda tekniken har potential att öka företagens produktivitetsnivåer och bidra till effektivitetsvinster. Innovationsprogram på detta område kan göra det möjligt för regionala kluster att blomstra.

Unionen och dess medlemsstater har ett särskilt ansvar för att utnyttja, främja och stärka den artificiella intelligensens mervärde och se till att AI-tekniken är säker och bidrar till medborgarnas välbefinnande och allmänna intressen, eftersom den kan bidra oerhört mycket till det gemensamma målet att förbättra medborgarnas liv och främja välstånd i unionen genom att bidra till utvecklingen av bättre strategier och innovation inom ett antal områden och sektorer. För att utnyttja den artificiella intelligensens fullständiga potential och göra användarna medvetna om de fördelar och utmaningar som AI-tekniken för med sig är det nödvändigt att inkludera AI eller digital kompetens i utbildning och fortbildning, också för att främja digital delaktighet, och på unionsnivå behövs det informationskampanjer som ger en tillförlitlig bild av alla aspekter med anknytning till utvecklingen av AI.

Ett gemensamt regelverk på unionsnivå för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik (regelverket för AI) bör göra det möjligt för medborgarna att utnyttja de eventuella fördelarna med sådan teknik, samtidigt som det skyddar medborgarna mot de eventuella riskerna med sådan teknik och främjar teknikens tillförlitlighet inom och utanför unionen. Detta regelverk bör baseras på unionsrätten och unionens värden och vägledas av principerna om insyn, förklarbarhet, rättvisa, ansvarsskyldighet och ansvar.

Ett sådant regelverk är av avgörande betydelse för att undvika en fragmentering av den inre marknaden till följd av skillnader i nationell lagstiftning och kommer att bidra till att främja välbehövliga investeringar, utveckla datainfrastruktur och stödja forskning. Regelverket bör bestå av gemensamma rättsliga skyldigheter och etiska principer som fastställs i det förslag till förordning som efterfrågas i bilagan till denna resolution. Regelverket bör fastställas i enlighet med riktlinjerna för bättre lagstiftning.

Unionen har en strikt rättslig ram för att säkerställa bland annat skydd av personuppgifter, integritet och icke-diskriminering, för att främja jämställdhet, miljöskydd och konsumenträttigheter. En sådan rättslig ram som består av en omfattande övergripande och sektoriell lagstiftning, inklusive de befintliga bestämmelserna om produktsäkerhet och produktansvar, kommer att fortsätta att gälla för artificiell intelligens, robotteknik och tillhörande teknik, även om vissa justeringar av specifika rättsliga instrument kan bli nödvändiga för att återspegla den digitala omvandlingen och hantera de nya utmaningar som användningen av artificiell intelligens medför.

Det förekommer allvarlig oro för att unionens befintliga rättsliga ram, däribland konsumenträtten, sysselsättnings- och sociallagstiftningen, dataskyddslagstiftningen, lagstiftningen om produktsäkerhet och marknadsövervakning samt antidiskrimineringslagstiftningen, inte alltid lämpar sig för att effektivt hantera de risker som artificiell intelligens, robotteknik och tillhörande teknik medför.

Utöver justeringar av befintlig lagstiftning bör rättsliga och etiska frågor som rör AI-teknik hanteras genom ett effektivt, heltäckande och framtidssäkert regelverk i unionsrätten som återspeglar unionens principer och värderingar enligt fördragen och stadgan om Europeiska unionens grundläggande rättigheter (stadgan) och som bör avstå från överreglering genom att endast täppa till befintliga kryphål i lagstiftningen och öka rättssäkerheten för både företag och medborgare genom att införa obligatoriska åtgärder för att förhindra praxis som utan tvivel skulle undergräva de grundläggande rättigheterna.

Ett eventuellt nytt regelverk måste ta hänsyn till samtliga berörda intressen. En noggrann undersökning av konsekvenserna av ett eventuellt nytt regelverk för alla aktörer via en konsekvensbedömning bör vara en förutsättning för ytterligare lagstiftningsåtgärder. Den avgörande roll som små och medelstora företag och nystartade företag spelar, framför allt i unionens näringsliv, motiverar en strikt proportionerlig strategi för att göra det möjligt för dem att utvecklas och vara nyskapande.

N.	Artificiell intelligens, robotteknik och tillhörande teknik kan få allvarliga konsekvenser för materiell och immateriell integritet för individer, grupper och samhället som helhet, och eventuella individuella och kollektiva skadeverkningar måste åtgärdas genom lagstiftningsåtgärderna.

O.	För att respektera unionens regelverk för AI kan det bli nödvändigt att anta särskilda regler för unionens transportsektor.

AI-teknik är av strategisk betydelse för transportsektorn, bland annat på grund av att den ökar säkerheten och tillgängligheten för alla transportsätt och skapar nya sysselsättningsmöjligheter och mer hållbara affärsmodeller. En unionsstrategi för utveckling av artificiell intelligens, robotteknik och tillhörande teknik inom transportsektorn har potential att öka unionens näringslivs övergripande konkurrenskraft och strategiska autonomi.

Den mänskliga faktorn ligger fortfarande bakom omkring 95 % av alla trafikolyckor i unionen. Unionenhar som mål att minska antalet årliga dödsolyckor på vägarna i EU med 50 % fram till 2020 jämfört med 2010 års nivåer, men med tanke på att framstegen har avstannat förnyade unionen sina insatser i sin ram för EU:s trafiksäkerhetspolitik 2021–2030 – nästa steg mot ”nollvision”. I detta avseende har AI, automatisering och annan ny teknik stor potential och avgörande betydelse i arbetet med att öka trafiksäkerheten genom att minska risken för mänskliga misstag.

R.	Unionens regelverk för AI bör också återspegla behovet av att säkerställa respekt för arbetstagarnas rättigheter. Hänsyn bör tas till de europeiska arbetsmarknadsparternas ramavtal om digitalisering från juni 2020.

Tillämpningsområdet för unionens regelverk för AI bör vara lämpligt, proportionerligt och grundligt analyserat. Regelverket bör omfatta ett brett spektrum av olika slags teknik och deras komponenter, däribland algoritmer, programvara och data som de använder eller framställer. En riktad riskbaserad strategi är nödvändig för att undvika att hämma framtida innovation och förorsaka onödiga bördor, särskilt för små och medelstora företag. Mångfalden av tillämpningar som drivs av artificiell intelligens, robotteknik och tillhörande teknik gör det svårare att hitta en enda lösning som är lämplig för hela riskspektrumet.

T.	Dataanalys och AI påverkar i allt större utsträckning den information som görs tillgänglig för medborgarna. Missbruk av sådan teknik skulle kunna äventyra den grundläggande rätten till yttrande- och informationsfrihet samt mediernas frihet och mångfald.

Det geografiska tillämpningsområdet för unionens regelverk för AI bör omfatta alla komponenter av artificiell intelligens, robotteknik och tillhörande teknik som utvecklas, sprids eller används i unionen, även i fall där en del av tekniken kan vara belägen utanför unionen eller inte har någon specifik geografisk belägenhet.

Unionens regelverk för AI bör omfatta alla relevanta faser, nämligen utveckling, införande och användning av relevant teknik och tillhörande komponenter, vilket kräver vederbörlig hänsyn till relevanta rättsliga skyldigheter och etiska principer, och bör fastställa villkoren för att se till att utvecklare, operatörer och användare till fullo uppfyller sådana skyldigheter och principer.

W.	En harmoniserad strategi i fråga om etiska principer i samband med artificiell intelligens, robotteknik och tillhörande teknik kräver en gemensam syn i unionen på de begrepp som utgör grunden för tekniken såsom algoritmer, programvara, data och biometrisk igenkänning.

Åtgärder på unionsnivå motiveras av behovet av att undvika fragmentering av lagstiftningen eller en rad nationella bestämmelser utan någon gemensam nämnare och av att säkerställa en enhetlig tillämpning av gemensamma etiska principer som är förankrade i lagstiftningen vid utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik med hög risk. När riskerna är betydande behövs det tydliga regler.

Y.	Gemensamma etiska principer är effektiva endast om de också är rättsligt förankrade och det fastställs vilka som ansvarar för att säkerställa, bedöma och övervaka efterlevnaden av dem.

Etisk vägledning, såsom de principer som antagits av högnivåexpertgruppen för artificiell intelligens, är en korrekt utgångspunkt men kan inte säkerställa att utvecklare, operatörer och användare agerar hederligt och garanterar ett verkningsfullt skydd för enskilda personer. Sådan vägledning är desto mer relevant när det gäller artificiell intelligens, robotteknik och tillhörande teknik med hög risk.

AA.

Varje medlemsstat bör utse en nationell tillsynsmyndighet med ansvar för att säkerställa, bedöma och övervaka att utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik med hög risk överensstämmer med unionens regelverk för AI och för att möjliggöra diskussioner och åsiktsutbyten i nära samarbete med berörda aktörer och det civila samhället. De nationella tillsynsmyndigheterna bör samarbeta med varandra.

AB.

För att säkerställa ett harmoniserat tillvägagångssätt i hela unionen och en optimalt fungerande digital inre marknad bör man bedöma samordningen på unionsnivå mellan kommissionen och/eller unionens berörda institutioner, organ och byråer som kan komma att utses för detta, med avseende på de nya möjligheter och utmaningar, särskilt av gränsöverskridande karaktär, som den pågående tekniska utvecklingen ger upphov till. I detta syfte bör kommissionen ges i uppdrag att finna en lämplig lösning för att strukturera denna samordning på unionsnivå.

Människocentrerad och av människan skapad artificiell intelligens

Europaparlamentet anser att det, utan att det påverkar sektorsspecifik lagstiftning, behövs ett effektivt och harmoniserat regelverk som grundar sig på unionsrätten, stadgan och internationell människorätt, och som särskilt är tillämpligt på högriskteknik, för att fastställa likvärdiga standarder i hela unionen och effektivt skydda unionens värden.

Europaparlamentet anser att ett eventuellt nytt regelverk för AI som består av rättsliga skyldigheter och etiska principer för utveckling, spridning och användning av AI, robotteknik och tillhörande teknik bör respektera stadgan fullt ut och därigenom respektera människors värdighet och autonomi samt individens självbestämmande, förebygga skador, främja rättvisa, inkludering och insyn, undanröja fördomar och diskriminering, även när det gäller minoritetsgrupper, och respektera och följa principerna om att begränsa de negativa externa effekterna av den teknik som används, säkerställa teknikens förklarbarhet och garantera att tekniken finns till förfogande för människor och inte ersätter eller fattar beslut i stället för dem, med det slutliga målet att öka alla människors välbefinnande.

Europaparlamentet betonar asymmetrin mellan å ena sidan dem som tillämpar AI-teknik och å andra sidan dem som interagerar med den och som den tillämpas på. Parlamentet betonar i detta sammanhang att medborgarnas förtroende för AI endast kan byggas på ett regelverk där etiken är dels standard, dels inbyggd, och som säkerställer att all eventuell AI som tas i drift till fullo respekterar och följer fördragen, stadgan och unionens sekundärrätt. Parlamentet anser att en sådan strategi bör vara i linje med försiktighetsprincipen som vägleder unionsrätten och bör stå i centrum för varje regelverk för AI. Parlamentet efterfrågar i detta avseende en tydlig och konsekvent styrningsmodell som gör det möjligt för företag och innovatörer att vidareutveckla artificiell intelligens, robotteknik och tillhörande teknik.

Europaparlamentet anser att alla lagstiftningsåtgärder som rör artificiell intelligens, robotteknik och tillhörande teknik bör vara förenliga med principerna om nödvändighet och proportionalitet.

Europaparlamentet anser att en sådan strategi kommer att göra det möjligt för företag att släppa ut innovativa produkter på marknaden och skapa nya möjligheter samtidigt som man säkerställer skyddet av unionens värden, vilket leder till utveckling av AI-system med en utformning som inlemmar unionens etiska principer redan från början. Parlamentet anser att ett sådant värdebaserat regelverk skulle innebära ett mervärde genom att ge unionen en enastående konkurrensfördel och avsevärt bidra till välbefinnande och välstånd för unionens medborgare och företag genom att stimulera den inre marknaden. Parlamentet understryker att ett sådant regelverk för AI även bidrar med ett mervärde när det gäller främjande av nyskapande på den inre marknaden. Parlamentet anser att denna strategi exempelvis inom transportsektorn ger unionens företag möjlighet att bli världsledande på detta område.

Europaparlamentet konstaterar att unionens rättsliga ram bör tillämpas på artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller produceras med sådan teknik.

Europaparlamentet konstaterar att möjligheterna med artificiell intelligens, robotteknik och tillhörande teknik bygger på stordata, med ett behov av en kritisk massa av data för att träna algoritmer och finslipa resultaten. Parlamentet välkomnar i detta avseende kommissionens förslag att inrätta ett gemensamt dataområde i unionen för att stärka utbytet av uppgifter och stödja forskning, med fullständig respekt för europeiska dataskyddsbestämmelser.

Europaparlamentet anser att unionens befintliga rättsliga ram, särskilt för integritetsskydd och skydd av personuppgifter, kommer att behöva tillämpas fullt ut på artificiell intelligens, robotteknik och tillhörande teknik och bör ses över samt granskas regelbundet och uppdateras vid behov för att effektivt hantera de risker som denna teknik medför, och skulle i detta avseende kunna dra nytta av att kompletteras med stabila vägledande etiska principer. Parlamentet påpekar att en icke-bindande ram bör tillämpas när det vore för tidigt att anta rättsakter.

Europaparlamentet förväntar sig att kommissionen integrerar en kraftfull etisk strategi i det lagstiftningsförslag som efterfrågas i bilagan till denna resolution, såsom en uppföljning av vitboken om artificiell intelligens, inbegripet vad gäller säkerhet, ansvar och grundläggande rättigheter, vilket maximerar möjligheterna och minimerar riskerna med AI-teknik. Parlamentet förväntar sig att det efterfrågade förslaget till rättsakt innehåller politiska lösningar på de största erkända riskerna i samband med artificiell intelligens, inbegripet vad gäller etisk insamling och användning av stordata, frågan om transparenta algoritmer samt algoritmisk snedvridning. Parlamentet uppmanar kommissionen att utveckla kriterier och indikatorer för märkning av AI-teknik för att främja transparens, förklarbarhet och ansvarsskyldighet och ge utvecklarna incitament att vidta ytterligare försiktighetsåtgärder. Parlamentet betonar behovet av att investera i att integrera icke-tekniska ämnesområden i studier och forskning om AI, med beaktande av det sociala sammanhanget.

10.

Europaparlamentet anser att artificiell intelligens, robotteknik och tillhörande teknik måste skräddarsys efter människans behov i enlighet med principen att utveckling, spridning och användning av sådan teknik alltid bör ske till gagn för människor och aldrig tvärtom, och bör sträva efter att öka välbefinnandet och individens frihet samt bevara freden, förebygga konflikter och stärka den internationella säkerheten, samtidigt som man maximerar de fördelar som erbjuds och förebygger och minskar riskerna med sådan teknik.

11.

Europaparlamentet förklarar att utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik med hög risk, inbegripet men inte uteslutande av människor, alltid bör styras etiskt och utformas för att respektera och möjliggöra mänskligt agentskap och demokratisk tillsyn samt göra det möjligt att vid behov när som helst återupprätta mänsklig kontroll genom lämpliga kontrollåtgärder.

Riskbedömning

12.

Europaparlamentet betonar att all framtida lagstiftning bör följa en differentierad och framtidsinriktad riskbaserad strategi för att reglera artificiell intelligens, robotteknik och tillhörande teknik, inklusive teknikneutrala standarder inom alla sektorer, med sektorsspecifika standarder där så är lämpligt. Parlamentet konstaterar att det behövs en uttömmande och kumulativ förteckning över sektorer, användningsområden och ändamål som medför en hög risk, i syfte att säkerställa dels ett enhetligt genomförande av systemet för riskbedömning, dels överensstämmelse med relaterade rättsliga skyldigheter för att garantera lika villkor mellan medlemsstaterna och förhindra fragmentering av den inre marknaden. Parlamentet betonar att en sådan förteckning regelbundet måste omprövas och noterar att det, med tanke på den föränderliga karaktären hos sådan teknik, i framtiden kan bli nödvändigt att ompröva det sätt på vilket riskbedömningen av tekniken görs.

13.

Europaparlamentet anser att fastställandet av huruvida artificiell intelligens, robotteknik och tillhörande teknik bör betraktas som högriskteknik och därmed omfattas av obligatorisk efterlevnad av rättsliga skyldigheter och etiska principer enligt regelverket för AI alltid bör föregås av en opartisk, reglerad och extern förhandsbedömning baserad på konkreta, fastställda kriterier.

14.

Europaparlamentet konstaterar i det avseendet att artificiell intelligens, robotteknik och tillhörande teknik bör betraktas som högriskteknik när utveckling, spridning och användning av den medför betydande risk för fysisk skada eller annan skada för enskilda personer eller samhället, i strid med grundläggande rättigheter och säkerhetsbestämmelser enligt unionsrätten. Vid bedömning av huruvida AI-teknik medför en sådan risk bör man enligt parlamentets mening ta hänsyn till den sektor där tekniken utvecklas, sprids eller används, dess specifika användning eller syfte och allvarlighetsgraden av den skada som kan förväntas uppkomma. Det första och det andra kriteriet, det vill säga sektorn och den specifika användningen eller syftet, bör beaktas kumulativt.

15.

Europaparlamentet understryker att riskbedömningen av denna teknik bör göras på grundval av en uttömmande och kumulativ förteckning över sektorer, användning och syften som medför hög risk. Parlamentet anser bestämt att det bör finnas samstämmighet inom unionen vid riskbedömningen av denna teknik, särskilt om den bedöms både utgående från samstämmigheten med regelverket för AI och i enlighet med annan tillämplig sektorsspecifik lagstiftning.

16.

Europaparlamentet anser att denna riskbaserade metod bör utvecklas på ett sätt som i största möjliga utsträckning begränsar den administrativa bördan för företag, särskilt små och medelstora företag, med hjälp av befintliga verktyg. Parlamentet konstaterar att sådana verktyg omfattar, men är inte begränsade till, den förteckning över konsekvensbedömningar avseende dataskydd som föreskrivs i förordning (EU) 2016/679.

Säkerhetsaspekter, transparens och ansvarsskyldighet

17.

Europaparlamentet påminner om att konsumenternas rätt till information är förankrad som en nyckelprincip i unionsrätten och understryker att den därför bör genomföras fullt ut när det gäller artificiell intelligens, robotteknik och tillhörande teknik. Parlamentet anser att den särskilt bör omfatta transparens när det gäller samverkan med system för artificiell intelligens, inbegripet automatiseringsprocesser, och deras funktionssätt, kapacitet, till exempel hur informationen filtreras och presenteras, samt noggrannhet och begränsningar. Parlamentet anser att sådan information bör lämnas till de nationella tillsynsmyndigheterna och de nationella konsumentskyddsmyndigheterna.

18.

Europaparlamentet understryker att konsumenternas förtroende är avgörande för utvecklingen och genomförandet av denna teknik, som kan vara förknippad med risker om den baseras på otydliga algoritmer och snedvridna datamängder. Parlamentet anser att konsumenterna bör ha rätt att i god tid och på ett begripligt, standardiserat, exakt och tillgängligt sätt få tillräcklig information om de algoritmiska systemens existens, resonemang och deras möjliga utfall och följder för konsumenterna, samt om hur man gör för att kontakta en person med beslutsbefogenheter, och hur systemets beslut kan kontrolleras, bestridas på ett meningsfullt sätt och korrigeras. Parlamentet understryker i detta sammanhang behovet av att beakta och respektera de principer om information och offentliggörande som konsumenträttens regelverk bygger på. Parlamentet anser att slutanvändarna måste få utförlig information om hur transportsystem och fordon som bygger på AI fungerar.

19.

Europaparlamentet konstaterar att det är viktigt att algoritmer och datamängder som används eller framställs av artificiell intelligens, robotteknik och tillhörande teknik är förklarbara och att de – när det är absolut nödvändigt och med full respekt för unionslagstiftningen om dataskydd, integritet och immateriella rättigheter samt företagshemligheter – är tillgängliga för myndigheter såsom nationella tillsynsmyndigheter och marknadskontrollmyndigheter. Parlamentet konstaterar dessutom att dokumentationen bör lagras av dem som är involverade i de olika faserna av utvecklingen av högriskteknik, i enlighet med högsta möjliga och tillämpliga branschstandarder. Parlamentet noterar möjligheten att marknadskontrollmyndigheterna kan ha ytterligare befogenheter i detta avseende. Parlamentet betonar i detta sammanhang betydelsen av laglig bakåtkompilering. Enligt parlamentet kan det vara nödvändigt att undersöka den befintliga lagstiftningen om marknadskontroll för att säkerställa att den på ett etiskt sätt hanterar framväxten av artificiell intelligens, robotteknik och tillhörande teknik.

20.

Europaparlamentet efterlyser ett krav på att utvecklare och operatörer av högriskteknik, när en riskbedömning förutsätter det, ska förse de offentliga myndigheterna med relevant dokumentation om användning, utformning och säkerhetsinstruktioner, inbegripet källkod, utvecklingsverktyg och data som används av systemet, när detta är absolut nödvändigt och med fullständig respekt för unionslagstiftningen om dataskydd, integritet, immateriella rättigheter och affärshemligheter. Parlamentet konstaterar att en sådan skyldighet skulle göra det möjligt att bedöma förenligheten med unionsrätten och etiska principer, och noterar i detta avseende exemplet med pliktexemplar av publikationer till nationalbibliotek. Parlamentet noterar den viktiga skillnaden mellan transparens avseende algoritmer och transparens avseende användningen av algoritmer.

21.

Europaparlamentet noterar dessutom att man för att respektera människans värdighet, autonomi och säkerhet, bör ta vederbörlig hänsyn till livsviktiga och avancerade medicinska apparater samt behovet av att oberoende betrodda myndigheter bevarar de resurser som krävs för att tillhandahålla tjänster till personer som använder sådana apparater, såvida den ursprungliga utvecklaren eller operatören inte längre tillhandahåller dem. Sådana tjänster skulle exempelvis inbegripa underhåll, reparationer och förbättringar, medräknat programvaruuppdateringar som avhjälper funktionsfel och svaga punkter.

22.

Europaparlamentet betonar att artificiell intelligens, robotteknik och tillhörande teknik med hög risk, inklusive programvara, algoritmer och data som används eller produceras av sådan teknik, oavsett inom vilket område den utvecklas, sprids och används, bör tas fram på ett sätt som redan från början är säkert, spårbart, tekniskt stabilt, tillförlitligt, etiskt och rättsligt bindande och bör vara föremål för oberoende kontroll och tillsyn. Parlamentet anser särskilt att alla aktörer i utvecklings- och leveranskedjorna för AI-produkter och AI-tjänster bör vara juridiskt ansvariga, och framhåller behovet av mekanismer för att säkerställa ansvarighet och ansvarsskyldighet.

23.

Europaparlamentet understryker att reglering och riktlinjer som avser förklarbarhet, granskningsbarhet, spårbarhet och transparens, liksom när så krävs enligt en riskbedömning och när det är absolut nödvändigt och fullständig respekt säkerställs för unionsrätten, exempelvis om dataskydd, integritet, immateriella rättigheter och företagshemligheter myndigheters tillgång till teknik, data och datorsystem som sådan teknik baseras på – är avgörande för att säkerställa medborgarnas förtroende för denna teknik, även om graden av förklarbarhet står i proportion till teknikens komplexitet. Parlamentet påpekar att det inte alltid är möjligt att förklara varför en modell har lett till ett visst resultat eller ett visst beslut; algoritmer av typen ”svarta lådor” är ett exempel på detta. Parlamentet anser därför att respekten för dessa principer är en förutsättning för att garantera ansvarsskyldighet.

24.

Europaparlamentet anser att medborgarna, inklusive konsumenterna, bör informeras när de interagerar med ett system som använder artificiell intelligens, särskilt för att individanpassa en produkt eller tjänst för användarna, om och hur de kan stänga av eller begränsa sådan individanpassning.

25.

Europaparlamentet påpekar i detta sammanhang att artificiell intelligens, robotteknik och tillhörande teknik måste vara tekniskt stabil och korrekt för att vara tillförlitlig.

26.

Europaparlamentet betonar att skyddet av nätverk av sammanlänkad AI och robotteknik är viktigt och att kraftfulla åtgärder måste vidtas för att förhindra säkerhetsöverträdelser, dataläckor, spridning av skadliga data, it-angrepp och missbruk av personuppgifter, och att detta kommer att kräva att berörda byråer, organ och institutioner på både unionsnivå och nationell nivå samarbetar med varandra och med slutanvändarna av sådan teknik. Parlamentet uppmanar kommissionen och medlemsstaterna att se till att unionens värden och respekt för de grundläggande rättigheterna alltid iakttas vid utveckling och införande av AI-teknik för att säkerställa att EU:s digitala infrastruktur är säker och motståndskraftig.

Icke-snedvridning och icke-diskriminering

27.

Europaparlamentet påminner om att artificiell intelligens, beroende på hur den utvecklas och används, kan skapa och förstärka snedvridningar, bland annat genom inneboende skevheter i underliggande datamängder, och därmed skapa olika former av automatiserad diskriminering, inbegripet indirekt diskriminering, särskilt av grupper av personer med liknande egenskaper. Parlamentet uppmanar kommissionen och medlemsstaterna att vidta alla tänkbara åtgärder för att undvika sådana snedvridningar och säkerställa ett fullständigt skydd av de grundläggande rättigheterna.

28.

Europaparlamentet är oroat över riskerna för snedvridning och diskriminering i samband med utvecklingen, införandet och användningen av artificiell intelligens, robotteknik och tillhörande teknik med hög risk, inbegripet den programvara, de algoritmer och de data som används eller genereras av sådan teknik. Parlamentet påminner om att man i detta sammanhang under alla omständigheter bör respektera unionsrätten, mänskliga rättigheter och mänsklig värdighet samt individens autonomi och självbestämmande och säkerställa likabehandling och icke-diskriminering för alla.

29.

Europaparlamentet betonar att AI-teknik bör utformas så att den respekterar, tjänar och skyddar unionens värden samt fysisk och psykisk integritet, upprätthåller unionens kulturella och språkliga mångfald och bidrar till att tillgodose grundläggande behov. Parlamentet understryker behovet av att undvika all användning som kan leda till otillåtet direkt eller indirekt tvång, hotar att undergräva psykiskt oberoende och psykisk hälsa eller kan leda till omotiverad övervakning, vilseledande eller otillåten manipulation.

30.

Europaparlamentet anser bestämt att de grundläggande mänskliga rättigheter som fastställs i stadgan bör respekteras strikt för att säkerställa att denna framväxande teknik inte medför luckor i skyddet.

31.

Europaparlamentet bekräftar att eventuell snedvridning i och diskriminering på grund av programvara, algoritmer och data kan orsaka uppenbar skada för enskilda personer och för samhället, och att man därför bör uppmuntra utveckling och utbyte av strategier för att bekämpa dessa företeelser, exempelvis korrigera snedvridning i datamängder inom forskning och utveckling, samt utarbeta regler för databehandling. Parlamentet anser att detta tillvägagångssätt har potential att omvandla programvara, algoritmer och data till en tillgång i kampen mot snedvridning och diskriminering i vissa situationer, och till en kraft för lika rättigheter och positiv social förändring.

32.

Europaparlamentet framhåller att denna teknik bör grunda sig på etiska värden som rättvisa, exakthet, konfidentialitet och transparens, vilket i detta sammanhang innebär att tekniken bör fungera på ett sätt som inte medför snedvridna resultat.

33.

Europaparlamentet understryker vikten av kvaliteten på de datamängder som används för artificiell intelligens, robotteknik och tillhörande teknik, allt efter deras sammanhang, särskilt när det gäller representativiteten hos utbildningsdata, korrigering av snedvridning i datamängder, de algoritmer som används samt standarder för data och aggregering. Parlamentet betonar att nationella tillsynsmyndigheter bör kunna granska dessa datamängder närhelst de får i uppdrag att säkerställa att datamängderna överensstämmer med de tidigare nämnda principerna.

34.

Med tanke på det utbredda desinformationskrig som i synnerhet förs av icke-europeiska aktörer understryker Europaparlamentet att AI-tekniken kan få negativa etiska konsekvenser genom att snedvridningar i data och algoritmer utnyttjas eller genom att utbildningsdata avsiktligen ändras av ett tredjeland, och att tekniken även kan komma att utsättas för andra former av farlig, illvillig manipulation på oförutsägbara sätt och med oöverskådliga konsekvenser. Parlamentet konstaterar att det därför finns ett ökat behov för unionen att fortsätta investera i forskning, analys, innovation samt gränsöverskridande och sektorsövergripande kunskapsöverföring i syfte att utveckla AI-teknik som skulle vara helt fri från all form av profilering, snedvridning och diskriminering, så att den på ett effektivt sätt kan bidra till att bekämpa falska nyheter och desinformation, samtidigt som dataskyddet och unionens rättsliga ram respekteras.

35.

Europaparlamentet påminner om hur viktigt det är att säkerställa tillgång till effektiva rättsmedel för enskilda personer och uppmanar medlemsstaterna att se till att tillgängliga, ekonomiskt överkomliga, oberoende och effektiva förfaranden och översynsmekanismer finns att tillgå för att garantera en opartisk mänsklig granskning av alla påstådda överträdelser av medborgarnas rättigheter, exempelvis konsumenträttigheter och medborgerliga rättigheter, genom användning av algoritmiska system, oavsett om de härrör från aktörer inom den offentliga eller den privata sektorn. Parlamentet understryker betydelsen av utkastet till Europaparlamentets och rådets direktiv om grupptalan för att skydda konsumenternas kollektiva intressen och om upphävande av direktiv 2009/22/EG, om vilket en politisk överenskommelse uppnåddes den 22 juni 2020, eftersom det i framtiden skulle kunna tillämpas i fall där man invänder mot införande eller fortsatt användning av ett AI-system som medför en risk för att konsumenträttigheter kränks, eller där man söker upprättelse för en rättighetskränkning. Parlamentet uppmanar kommissionen och medlemsstaterna att se till att konsumentorganisationer på nationell nivå och unionsnivå har tillräcklig finansiering för att hjälpa konsumenterna att göra anspråk på sin rätt till rättsmedel i fall där deras rättigheter kränkts.

36.

Europaparlamentet anser därför att alla fysiska eller juridiska personer bör kunna begära prövning av ett beslut som artificiell intelligens, robotteknik eller tillhörande teknik har fattat till nackdel för denna person i strid mot unionsrätten eller nationell rätt.

37.

Europaparlamentet anser att de nationella tillsynsmyndigheterna, som en första kontaktpunkt i fall av misstänkta överträdelser av unionens regelverk i detta sammanhang, också skulle kunna kontaktas av konsumenter med begäran om gottgörelse i syfte att säkerställa att ovannämnda regelverk genomförs effektivt.

Socialt ansvar och jämställdhet

38.

Europaparlamentet betonar att socialt ansvarsfull artificiell intelligens, robotteknik och tillhörande teknik har en roll att spela när det gäller att bidra till att finna lösningar som skyddar och främjar grundläggande rättigheter och värderingar i vårt samhälle, såsom demokrati, rättsstatsprincipen, diversifierade och oberoende medier och objektiv och fritt tillgänglig information, hälsa och ekonomiskt välstånd, lika möjligheter, arbetstagarrättigheter och sociala rättigheter, utbildning av hög kvalitet, skydd av barn, kulturell och språklig mångfald, jämställdhet, digital kompetens, innovation och kreativitet. Parlamentet påminner om behovet av att säkerställa att alla medborgares intressen, även medborgare som är marginaliserade eller befinner sig i en utsatt situation, såsom personer med funktionsnedsättning, beaktas i tillräcklig utsträckning och representeras.

39.

Europaparlamentet understryker vikten av att uppnå en hög nivå av allmän digital kompetens och utbilda högkvalificerade yrkesutövare på detta område samt säkerställa ömsesidigt erkännande av sådana kvalifikationer i hela unionen. Parlamentet betonar behovet av mångfald bland utvecklare och ingenjörer som arbetar tillsammans med viktiga sociala aktörer för att förhindra att snedvridning på grund av kön eller kultur oavsiktligt inkluderas i AI-algoritmer, AI-system och AI-tillämpningar. Parlamentet stöder införandet av kursplaner och aktiviteter som ökar allmänhetens medvetenhet om de samhälleliga, rättsliga och etiska konsekvenserna av artificiell intelligens.

40.

Europaparlamentet betonar den vitala betydelsen av att garantera tanke- och yttrandefrihet och därigenom säkerställa att denna teknik inte främjar hatpropaganda eller våld, och anser därför att hinder för eller begränsning av yttrandefriheten när den utövas digitalt är olagligt enligt unionens grundläggande principer, utom när utövandet av denna grundläggande rättighet omfattar olagliga handlingar.

41.

Europaparlamentet betonar att artificiell intelligens, robotteknik och tillhörande teknik kan bidra till att minska sociala ojämlikheter, och hävdar att den europeiska modellen för deras utveckling måste bygga på medborgarnas förtroende och större social sammanhållning.

42.

Europaparlamentet betonar att införandet av ett AI-system inte på otillbörligt sätt bör begränsa användarnas tillgång till offentliga tjänster såsom social trygghet. Parlamentet uppmanar därför kommissionen att bedöma hur detta mål kan uppnås.

43.

Europaparlamentet betonar vikten av ansvarsfull forskning och utveckling i syfte att maximera den fulla potentialen hos artificiell intelligens, robotteknik och tillhörande teknik för medborgarna och det allmännas bästa. Parlamentet kräver att unionen och dess medlemsstater mobiliserar resurser för att utveckla och stödja ansvarsfull innovation.

44.

Europaparlamentet betonar att teknisk expertis kommer att bli allt viktigare och att det därför kommer att bli nödvändigt att kontinuerligt uppdatera utbildningskurserna, särskilt för kommande generationer, och att främja omskolning av dem som redan befinner sig på arbetsmarknaden. Parlamentet vidhåller i detta sammanhang att innovation och utbildning bör främjas inte bara inom den privata sektorn utan även inom den offentliga sektorn.

45.

Europaparlamentet insisterar på att utveckling, spridning och användning av sådan teknik inte får orsaka någon form av skada för enskilda personer, samhället eller miljön, och att utvecklare, spridare och användare av denna teknik följaktligen bör hållas ansvariga för sådan skada i enlighet med relevanta ansvarsregler på unionsnivå och nationell nivå.

46.

Europaparlamentet uppmanar medlemsstaterna att bedöma huruvida förlusten av arbetstillfällen till följd av införandet av denna teknik bör leda till lämpliga politiska åtgärder såsom en minskning av arbetstiden.

47.

Europaparlamentet vidhåller att utformningsstrategin absolut måste baseras på unionens värden och etiska principer så att det kan skapas villkor för en bred social acceptans av artificiell intelligens, robotteknik och tillhörande teknik. Parlamentet anser att denna strategi, som syftar till att utveckla tillförlitlig, etiskt ansvarig och tekniskt stabil artificiell intelligens är en viktig drivkraft för hållbar och smart mobilitet som är säker och tillgänglig.

48.

Europaparlamentet uppmärksammar det stora mervärde som självkörande fordon erbjuder personer med nedsatt rörlighet, eftersom sådana fordon gör att de bättre kan delta i den privata biltrafiken och därmed underlättar deras vardag. Parlamentet betonar vikten av tillgänglighet, särskilt vid utformningen av MaaS-system (mobilitet som tjänst).

49.

Europaparlamentet uppmanar kommissionen att ytterligare stödja utvecklingen av tillförlitliga AI-system för att göra transporter mer säkra, effektiva, tillgängliga, ekonomiskt överkomliga och inkluderande, även för personer med nedsatt rörlighet, särskilt personer med funktionsnedsättning, med beaktande av Europaparlamentets och rådets direktiv (EU) 2019/882 (13) och unionsrätten om passagerares rättigheter.

50.

Europaparlamentet anser att AI kan hjälpa till att bättre utnyttja kunskaper och färdigheter hos personer med funktionsnedsättning och att tillämpningen av AI på arbetsplatsen kan bidra till inkluderande arbetsmarknader och högre sysselsättningsgrad för personer med funktionsnedsättning.

Miljö och hållbarhet

51.

Europaparlamentet anser att artificiell intelligens, robotteknik och tillhörande teknik bör användas av regeringar och företag till förmån för människor och planeten och bidra till att uppnå hållbar utveckling, bevarandet av miljön, klimatneutralitet och målen för den cirkulära ekonomin. Utvecklingen, spridningen och användningen av denna teknik bör bidra till den gröna omställningen, skydda miljön och minimera och åtgärda alla former av skador på miljön under hela livscykeln och genom hela leveranskedjan i enlighet med unionsrätten.

52.

Med hänsyn till deras betydande miljöpåverkan vill Europaparlamentet, i förbindelse med tillämpningen av föregående punkt, att miljökonsekvenserna av utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik, när så är relevant och lämpligt, utvärderas under hela livscykeln av sektorsspecifika myndigheter. En sådan utvärdering skulle kunna omfatta en uppskattning av konsekvenserna av utvinningen av nödvändigt material och av energiförbrukningen och växthusgasutsläppen till följd av deras utveckling, spridning och användning.

53.

I syfte att utveckla ansvarsfulla lösningar för artificiell intelligens föreslår Europaparlamentet att potentialen hos artificiell intelligens, robotteknik och tillhörande teknik bör utforskas, stimuleras och maximeras genom ansvarsfull forskning och utveckling som kräver mobilisering av resurser i unionen och dess medlemsstater.

54.

Europaparlamentet understryker att utvecklingen, spridningen och användningen av denna teknik erbjuder möjligheter att främja de mål för hållbar utveckling som fastställts av FN, en global energiomställning och utfasning av fossila bränslen.

55.

Europaparlamentet anser att målen om socialt ansvar, jämställdhet, miljöskydd och hållbarhet inte bör påverka befintliga allmänna och sektoriella skyldigheter inom dessa områden. Parlamentet anser att det bör fastställas icke-bindande genomföranderiktlinjer för utvecklare, spridare och användare, särskilt av högriskteknik, när det gäller metoden för att bedöma deras överensstämmelse med denna förordning och uppnåendet av dessa mål.

56.

Europaparlamentet uppmanar unionen att främja och finansiera utvecklingen av människocentrerad artificiell intelligens, robotteknik och tillhörande teknik som tar itu med miljö- och klimatutmaningar och säkerställer respekt för grundläggande rättigheter genom användning av skatter, upphandling eller andra incitament.

57.

Europaparlamentet betonar att trots det nuvarande stora koldioxidavtrycket från utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet automatiserade beslut och maskininlärning, kan denna teknik bidra till att minska IKT-sektorns nuvarande miljöavtryck. Parlamentet understryker att dessa och andra vederbörligen reglerade tillhörande tekniker bör vara kritiska faktorer för att uppnå målen i den gröna given, FN:s mål för hållbar utveckling och Parisavtalet inom många olika sektorer och bör öka effekten av politik som säkerställer miljöskydd, till exempel politik för avfallsminskning och bekämpning av miljöförstöring.

58.

Europaparlamentet uppmanar kommissionen att genomföra en studie om inverkan av AI-teknikens koldioxidavtryck och den positiva och negativa inverkan av konsumenternas övergång till användning av AI-teknik.

59.

Europaparlamentet konstaterar att AI-systemens miljöpåverkan bör beaktas under hela deras livscykel, med tanke på den stigande utvecklingen av AI-tillämpningar, som kräver beräknings-, lagrings- och energiresurser.

60.

Europaparlamentet anser att ansvaret i slutänden måste ligga hos en fysisk eller juridisk person inom områden som hälso- och sjukvård. Parlamentet betonar behovet av spårbara och offentligt tillgängliga utbildningsdata för algoritmer.

61.

Europaparlamentet stöder kraftfullt inrättandet av ett europeiskt hälsodataområde, som föreslagits av kommissionen i sitt meddelande om En EU-strategi för data och som syftar till att främja ett utbyte av hälsodata och stödja forskning med fullständig respekt för dataskydd, inklusive databehandling med AI-teknik, och som stärker och utvidgar användningen och återanvändningen av hälsodata. Parlamentet uppmuntrar till ett utökat gränsöverskridande utbyte av hälsodata, koppling och användning av sådana uppgifter genom säkra, samverkande databaser, specifika typer av hälsoinformation, såsom europeiska patientjournaler, genomisk information samt digitala hälsobilder, för att underlätta unionsomfattande interoperabla register eller databaser på områden som forskning, vetenskap och hälso- och sjukvård.

62.

Europaparlamentet framhåller fördelarna med AI för förebyggande, behandling och kontroll av sjukdomar, vilket exemplifierats av att AI förutspådde covid-19-epidemin före WHO. Parlamentet uppmanar kommissionen att på lämpligt sätt utrusta ECDC med det regelverk och resurser som krävs för att samla in nödvändiga anonymiserade globala hälsodata i realtid, oberoende och i samverkan med medlemsstaterna, för att bland annat lösa de problem som uppdagades i samband med covid-19-pandemin.

Integritet och biometrisk igenkänning

63.

Europaparlamentet konstaterar att produktionen och användningen av data, inbegripet personuppgifter såsom biometriska uppgifter, som kommer från utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik, ökar mycket snabbt, vilket lyfter fram behovet av respekt för unionsmedborgarnas rätt till integritet och skydd av personuppgifter i enlighet med unionsrätten.

64.

Europaparlamentet påpekar att de möjligheter som denna teknik erbjuder när det gäller att använda personuppgifter och icke-personuppgifter för att kategorisera och individuellt inrikta sig på personer, identifiera sårbarheter hos enskilda personer eller utnyttja noggrann prognosticerande kunskap, måste uppvägas av effektivt tillämpade principer om dataskydd och integritetsskydd såsom principerna om uppgiftsminimering, rätten att göra invändningar mot profileringsbaserade åtgärder och kontroll av användningen av uppgifter, rätten att erhålla en förklaring till ett beslut som fattats genom automatiserad behandling och inbyggt integritetsskydd, samt principerna om proportionalitet, nödvändighet och strikt ändamålsbaserad begränsning i enlighet med den allmänna dataskyddsförordningen.

65.

Europaparlamentet betonar att när fjärridentifieringsteknik, såsom igenkänning av biometriska egenskaper, framför allt ansiktsigenkänning, används av offentliga myndigheter för viktiga ändamål som rör allmänintresset, bör det alltid informeras om att denna teknik används och användningen bör vara proportionerlig, riktad, begränsad till särskilda mål och tidsbegränsad i enlighet med unionsrätten, och bör ta vederbörlig hänsyn till människans värdighet och självbestämmanderätt och till de grundläggande rättigheterna i stadgan. Kriterier och gränser för sådan användning bör bli föremål för rättslig prövning och demokratisk kontroll och bör beakta de psykologiska och sociokulturella effekterna på det civila samhället.

66.

Europaparlamentet påpekar att införandet av artificiell intelligens, robotteknik och tillhörande teknik inom ramen för myndighetsbeslut har fördelar, men att det kan leda till gravt missbruk, såsom massövervakning, prognostiserat polisarbete och brott mot rätten till korrekt rättsförfarande.

67.

Europaparlamentet anser att teknik som kan leda till automatiserade beslut och därmed ersätta myndighetsbeslut bör behandlas med största försiktighet, särskilt på rättsområdet och inom brottsbekämpningen.

68.

Europaparlamentet anser att medlemsstaterna endast bör använda sådan teknik om det finns grundliga belägg för dess tillförlitlighet och om meningsfulla mänskliga ingripanden och kontroller är möjliga eller systematiskt utförs i fall där grundläggande friheter står på spel. Parlamentet understryker vikten av att de nationella myndigheterna genomför en strikt bedömning av konsekvenserna för de grundläggande rättigheterna i förbindelse med de AI-system som används i dessa fall, särskilt om denna teknik bedöms som högriskteknik.

69.

Europaparlamentet anser att alla beslut som fattas av artificiell intelligens, robotteknik eller tillhörande teknik inom ramen för offentligt maktutövande bör bli föremål för meningsfulla mänskliga ingripanden och korrekta rättsförfaranden, särskilt om denna teknik bedöms som högriskteknik.

70.

Europaparlamentet anser att den tekniska utvecklingen inte bör leda till att artificiell intelligens, robotteknik och tillhörande teknik används för att självständigt fatta beslut inom den offentliga sektorn som har en direkt och betydande inverkan på medborgarnas rättigheter och skyldigheter.

71.

Europaparlamentet konstaterar att AI, robotteknik och tillhörande teknik på området för brottsbekämpning och gränskontroll kan förbättra den allmänna ordningen och säkerheten, men också kräver omfattande och rigorös offentlig kontroll och största möjliga transparens både när det gäller riskbedömningen av enskilda applikationer och den generella användningen av AI, robotteknik och tillhörande teknik på området för brottsbekämpning och gränskontroll. Parlamentet anser att sådan teknik medför betydande etiska risker som måste hanteras på lämpligt sätt med tanke på de eventuella negativa konsekvenserna för enskilda personer, i synnerhet när det gäller deras rätt till integritet, dataskydd och icke-diskriminering. Parlamentet betonar att missbruk av tekniken kan bli ett direkt hot mot demokratin och att dess införande och användning måste respektera proportionalitetsprincipen och nödvändighetsprincipen, stadgan om de grundläggande rättigheterna samt unionens relevanta sekundärrätt såsom dataskyddsbestämmelser. Parlamentet betonar att AI aldrig får ersätta människor i utfärdandet av domar. Parlamentet anser att beslut, såsom frigivning mot borgen eller villkorlig frigivning, som prövas i domstol, eller beslut som grundas enbart på automatiserad behandling och som har rättsliga följder för enskilda personer eller som i betydande grad påverkar dem, alltid måste inbegripa meningsfulla bedömningar och mänsklig medverkan.

Goda styrelseformer

72.

Europaparlamentet betonar att lämplig styrning av utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik, särskilt högriskteknik, genom åtgärder som inriktas på ansvarsskyldighet och hantering av eventuella risker för snedvridning och diskriminering, kan öka medborgarnas säkerhet och förtroende för denna teknik.

73.

Europaparlamentet anser att en gemensam styrningsram för denna teknik, samordnad av kommissionen och/eller unionens berörda institutioner, organ eller byråer som kan komma att utses för denna uppgift i detta sammanhang, som genomförs av de nationella tillsynsmyndigheterna i varje medlemsstat, skulle säkerställa en enhetlig unionsstrategi och förhindra en fragmentering av den inre marknaden.

74.

Europaparlamentet konstaterar att data används i stora mängder vid utvecklingen av artificiell intelligens, robotteknik och tillhörande teknik, och att behandlingen och utbytet av samt åtkomsten till sådana uppgifter måste styras i enlighet med lagen och de krav på kvalitet, integritet, interoperabilitet, transparens, säkerhet, skydd av privatlivet och kontroll som fastställs i denna.

75.

Europaparlamentet påminner om att tillgång till data är en väsentlig beståndsdel i den digitala ekonomins tillväxt. Parlamentet påpekar i detta sammanhang att datans interoperabilitet, genom att begränsa inlåsningseffekterna, spelar en avgörande roll för att säkerställa rättvisa marknadsvillkor och främja lika spelregler på den digitala inre marknaden.

76.

Europaparlamentet understryker behovet av att se till att personuppgifter skyddas på lämpligt sätt, särskilt uppgifter om eller som härrör från sårbara grupper, såsom personer med funktionsnedsättning, patienter, barn, äldre, minoriteter, migranter och andra grupper som riskerar utestängning.

77.

Europaparlamentet noterar att offentliga myndigheters utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik ofta läggs ut på privata aktörer. Parlamentet anser att detta inte på något sätt får äventyra skyddet av allmänna värden och grundläggande rättigheter. Parlamentet anser att villkoren för offentlig upphandling bör återspegla de etiska normer som gäller för offentliga myndigheter, i tillämpliga fall.

Konsumenter och den inre marknaden

78.

Europaparlamentet understryker vikten av ett AI-regelverk som kan tillämpas när konsumenter inom unionen är användare av, föremål eller målgrupp för ett algoritmiskt system, eller när de styrs mot ett sådant system, oavsett var de enheter som utvecklar, säljer eller använder systemet är etablerade. Parlamentet anser vidare att de bestämmelser som fastställs i ett sådant regelverk, i rättssäkerhetens intresse, bör tillämpas på alla utvecklare och längs hela värdekedjan, dvs. utveckling, spridning och användning av relevant teknik med dess komponenter, och bör garantera en hög nivå på konsumentskyddet.

79.

Europaparlamentet noterar den inneboende kopplingen mellan artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, liksom områden såsom sakernas internet, maskininlärning, regelbaserade system eller automatiserat och assisterat beslutsfattande. Vidare noterar parlamentet att standardiserade ikoner skulle kunna utvecklas för att man lättare ska kunna förklara sådana system för konsumenterna när dessa system är invecklade eller har möjlighet att fatta beslut som avsevärt påverkar konsumenternas liv.

80.

Europaparlamentet påminner om att kommissionen bör undersöka den befintliga rättsliga ramen och dess tillämpning, inklusive konsumenträttens regelverk, produktansvarslagstiftningen, produktsäkerhetslagstiftningen och marknadskontrollagstiftningen, i syfte att identifiera luckor i lagstiftningen och befintliga regleringsskyldigheter. Parlamentet anser att detta är nödvändigt för att man ska kunna fastställa om den kan hantera de nya utmaningar som följer med framväxten av artificiell intelligens, robotteknik och tillhörande teknik och om den kan garantera en hög konsumentskyddsnivå.

81.

Europaparlamentet betonar att man effektivt måste bemöta de utmaningar som artificiell intelligens, robotteknik och tillhörande teknik för med sig och säkerställa att konsumenterna får egenmakt och ordentligt skydd. Parlamentet understryker att man måste gå längre än till de traditionella principerna om information och transparens som unionens konsumenträttens regelverk byggt på, eftersom det kommer att behövas starkare konsumenträttigheter och klara gränser för utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik för att det ska kunna säkerställas att sådan teknik bidrar till ett bättre liv för konsumenterna och utvecklas med respekt för grundläggande rättigheter, konsumenträttigheter och unionens värden.

82.

Europaparlamentet påpekar att den lagstiftningsram som införts i och med beslut nr 768/2008/EG (14) ger en harmoniserad förteckning över tillverkares, importörers och distributörers skyldigheter, uppmuntrar till användning av standarder och föreskriver olika nivåer av kontroll beroende på produktens risknivå. Parlamentet anser att denna ram bör gälla också för produkter med inbyggd AI.

83.

Europaparlamentet noterar att tillgång till data i syfte att analysera effekterna av artificiell intelligens, robotteknik och tillhörande teknik på konsumenterna, skulle kunna utvidgas till att omfatta nationella behöriga myndigheter när detta sker i full överensstämmelse med unionsrätten, såsom lagstiftningen om dataskydd, personlig integritet och företagshemligheter. Parlamentet påminner om vikten av att utbilda konsumenterna så att de är mer informerade och kompetenta när de hanterar artificiell intelligens, robotteknik och tillhörande teknik och därmed skyddar sig från potentiella risker och upprätthåller sina rättigheter.

84.

Europaparlamentet uppmanar kommissionen att föreslå åtgärder för spårning av data med beaktande av både datainsamlingens laglighet och skyddet av konsumenträttigheterna och de grundläggande rättigheterna, i full överensstämmelse med unionslagstiftningen om t.ex. dataskydd, integritet, immateriella rättigheter och företagshemligheter.

85.

Europaparlamentet noterar att denna teknik bör vara användarcentrerad och utformad på ett sätt som tillåter alla att använda AI-produkter och AI- tjänster, oavsett ålder, kön, förmåga eller egenskaper. Parlamentet noterar att dess tillgänglighet för personer med funktionsnedsättning är särskilt viktig. Parlamentet konstaterar att man inte bör utgå från tanken på att en lösning passar alla, utan ta hänsyn till principerna för universell utformning och vända sig till största möjliga målgrupp av användare, enligt relevanta normer för tillgänglighet. Parlamentet betonar att detta gör det möjligt för enskilda personer att få rättvis tillgång till och aktivt delta i befintliga och nya datormedierade mänskliga verksamheter och tekniska hjälpmedel.

86.

Europaparlamentet betonar att när medel som härrör från offentliga källor, vid sidan av öppen upphandling och öppna avtalsstandarder, avsevärt bidrar till utvecklingen, spridningen eller genomförandet av artificiell intelligens, robotteknik och tillhörande teknik, bör man beakta möjligheten att koden, genererade data – i den mån det inte rör sig om personuppgifter – och den tränade modellen offentliggörs automatiskt efter överenskommelse med utvecklaren, i syfte att säkra transparens, öka cybersäkerheten och möjliggöra återanvändning för att främja innovation. Parlamentet betonar att den inre marknadens fulla potential därigenom kan frigöras och marknadsfragmentering undvikas.

87.

Europaparlamentet anser att AI, robotteknik och tillhörande teknik har en enorm potential att ge konsumenterna möjlighet att få tillgång till flera tjänster i många aspekter av deras liv, och dessutom bättre produkter och tjänster, och att dra nytta av bättre marknadsövervakning, i den mån alla tillämpliga principer, villkor (inbegripet de som rör transparens och granskningsmöjligheter) och förordningar fortsätter att tillämpas.

Säkerhet och försvar

88.

Europaparlamentet framhåller att Europeiska unionens och dess medlemsstaters säkerhets- och försvarspolitik genomsyras av de principer som fastställs i stadgan och FN-stadgans principer och av en gemensam förståelse av de universella värden som utgörs av respekten för människans okränkbara och oförytterliga rättigheter liksom människans värdighet, frihet, demokrati, jämlikhet och rättsstaten. Parlamentet framhåller att alla försvarsrelaterade insatser inom unionens ram måste respektera dessa universella värden samtidigt som de främjar fred, säkerhet och framsteg i Europa och övriga delar av världen.

89.

Europaparlamentet gläder sig över att de höga fördragsslutande parterna i Förenta nationernas konvention om vissa konventionella vapen vid mötet 2019 godkände elva vägledande principer för utvecklingen och användningen av autonoma vapensystem. Parlamentet beklagar dock att man inte lyckats enas om ett rättsligt bindande instrument som reglerar dödliga autonoma vapensystem, med effektiva genomförandemekanismer. Parlamentet välkomnar och stöder rapporten med titeln Ethics Guidelines for Trustworthy AI (etiska riktlinjer för tillförlitlig artificiell intelligens) av kommissionens högnivåexpertgrupp för artificiell intelligens och som offentliggjordes den 9 april 2019 och dess ståndpunkt om dödliga autonoma vapensystem. Parlamentet uppmanar med kraft medlemsstaterna att ta fram nationella strategier för definition och status när det gäller dödliga autonoma vapensystem som ett steg mot en övergripande strategi på unionsnivå och att tillsammans med unionens höga representant/vice ordförande för kommissionen och rådet verka för en diskussion om dödliga autonoma vapensystem inom ramen för FN:s konvention om vissa konventionella vapen och andra relevanta forum och införandet av internationella normer med avseende på etiska och rättsliga parametrar för utveckling och användning av system med helautonoma, halvautonoma och fjärrstyrda dödliga vapen. Parlamentet påminner i detta sammanhang om sin resolution av den 12 september 2018 om dödliga autonoma vapensystem och efterlyser än en gång ett skyndsamt utarbetande och antagande av en gemensam ståndpunkt om dödliga autonoma vapensystem och ett internationellt förbud mot utveckling, framställning och användning av dödliga autonoma vapensystem som möjliggör anfall utan meningsfull mänsklig kontroll och utan respekt för principen ”human-in-the-loop, i linje med de uttalanden som gjordes av världens mest framstående forskare inom AI i deras öppna brev från 2015. Parlamentet välkomnar rådets och parlamentets överenskommelse om att utesluta dödliga autonoma vapen ”utan möjlighet till meningsfull mänsklig kontroll över urvals- och uppdragsbeslut vid anfall” från åtgärder som finansieras genom Europeiska försvarsfonden. Parlamentet anser att etiska aspekter på andra AI-tillämpningar inom försvaret, såsom underrättelseverksamhet, övervakning och spaning eller cyberinsatser inte får förbises och att särskild uppmärksamhet måste ägnas åt utvecklingen och utplaceringen av drönare i militära insatser.

90.

Europaparlamentet understryker att framväxande teknik inom försvars- och säkerhetssektorn som inte omfattas av folkrätten bör bedömas utifrån principen om respekten för mänskligheten och allmänt gällande etiska normer.

91.

Europaparlamentet rekommenderar att en europeisk ram som reglerar användningen av system som stöds av AI-baserade system inom försvaret, både i stridssituationer och icke-stridsinriktade situationer, måste respektera alla tillämpliga regelverk, särskilt den internationella humanitära rätten och den internationella människorättslagstiftningen, och vara förenlig med unionsrätten samt EU:s principer och värden, med beaktande av skillnaderna i fråga om tekniska och säkerhetsmässiga infrastrukturer i unionen.

92.

Europaparlamentet erkänner att till skillnad från försvarsindustriella baser skulle kritiska AI-innovationer kunna komma från små medlemsstater, och därför bör en standardiserad strategi för den europeiska säkerhets- och försvarspolitiken säkerställa att mindre medlemsstater och små och medelstora företag inte trängs undan. Parlamentet betonar att EU:s gemensamma AI-kapaciteter som motsvarar medlemsstaternas driftskoncept kan överbrygga de tekniska skillnader som skulle kunna stänga ute stater som saknar relevant teknik, industriell expertis eller kapacitet att tillämpa AI-system inom sina försvarsministerier.

93.

Europaparlamentet anser att dagens och framtidens säkerhet och försvarsrelaterade verksamhet inom unionsramen kommer att bygga på AI, robotteknik och autonomi samt tillhörande teknik och att tillförlitlig, robust och trovärdig AI skulle kunna bidra till en modern och effektiv militär. Unionen måste därför inta en ledande roll inom forskningen och utvecklingen av AI-system på säkerhets- och försvarsområdet. Parlamentet anser att användningen av AI-baserade tillämpningar på säkerhets- och försvarsområdet skulle kunna innebära en rad direkta fördelar för det operativa befälet, såsom högre kvalitet av insamlad data, bättre omvärldsuppfattning, snabbare beslutsfattande, mindre risk för negativa bieffekter tack vare bättre kablering, skydd av styrkorna på plats och större tillförlitlighet för militär utrustning och därmed mindre risker för människor och färre personskador. Parlamentet understryker att det är helt nödvändigt att utveckla tillförlitlig AI på försvarsområdet för att säkerställa europeiskt strategiskt oberoende i fråga om kapacitet och operativ förmåga. Parlamentet påminner om att AI-system också håller på att bli centrala inslag i arbetet med att motverka nya säkerhetshot, såsom cyber- och hybridkrigföring, både online och offline. Parlamentet understryker samtidigt alla risker och utmaningar med en oreglerad användning av AI. Parlamentet noterar att AI skulle kunna utsättas för manipulation, fel och inexaktheter.

94.

Europaparlamentet betonar att AI-teknik i huvudsak har en dubbel användning och att utvecklingen av AI i försvarsrelaterad verksamhet gynnas av utbyten mellan civil och militär teknik. Parlamentet framhäver att AI inom försvarsrelaterad verksamhet är en transversal omstörtande teknik vars utveckling kan skapa möjligheter för unionens konkurrenskraft och strategiska oberoende.

95.

Europaparlamentet inser, med tanke på dagens hybridkrigföring och utvecklad krigföring, att informationsmängden och informationshastigheten i en kris tidiga faser kan vara överväldigande för mänskliga analytiker och att AI-system skulle kunna bearbeta informationen så att mänskliga beslutsfattare inom rimlig tid kan få all den information redovisad som behövs för ett snabbt svar.

96.

Europaparlamentet understryker vikten av att investera i utvecklingen av humankapital för artificiell intelligens, något som främjar den kompetens och utbildning som är nödvändig på området för AI-baserad säkerhets- och försvarsteknik med särskilt fokus på etiska frågor som rör halvautonoma och autonoma operativsystem som bygger på mänskligt ansvarstagande i en AI-baserad värld. Parlamentet betonar i synnerhet vikten av att se till att etiker på detta område har lämplig kompetens och får ordentlig utbildning. Parlamentet uppmanar kommissionen att så snart som möjligt lägga fram sin förstärkta kompetensagenda, som meddelades i vitboken om artificiell intelligens den 19 februari 2020.

97.

Europaparlamentet betonar att kvantdatortekniken skulle kunna vara den mest revolutionerande förändringen för konflikter sedan atomvapnens uppkomst och begär att vidareutvecklingen av kvantdatorteknik prioriteras av unionen och medlemsstaterna. Parlamentet erkänner att aggressionshandlingar, däribland attacker mot kritisk infrastruktur, med hjälp av kvantdatorteknik kommer att skapa en konfliktmiljö där tiden för att fatta beslut kommer att komprimeras drastiskt från dagar och timmar till minuter och sekunder, vilket tvingar medlemsstaterna att utveckla kapacitet som kan skydda dem och träna både deras beslutsfattare och militära personal att reagera effektivt inom sådana tidsramar.

98.

Europaparlamentet begär ökade investeringar i både europeisk artificiell intelligens för försvaret och den kritiska infrastruktur som understöder den.

99.

Europaparlamentet påminner om att de flesta nuvarande militärmakter i världen redan i hög grad engagerat sig i forskning och utveckling med anknytning till den militära dimensionen av artificiell intelligens. Parlamentet anser att unionen måste se till att inte släpa efter i detta avseende.

100.

Europaparlamentet uppmanar kommissionen att integrera kapacitetsuppbyggnad på cybersäkerhetsområdet i sin industripolitik för att säkerställa utvecklingen och spridningen av säkra, resilienta och robusta AI-baserade system och robotsystem. Parlamentet uppmanar kommissionen att undersöka användningen av protokoll och tillämpningar för it-säkerhet baserade på blockkedjeteknik för att förbättra AI-infrastrukturers resiliens, tillförlitlighet och stabilitet genom disintermedieringsmodeller för kryptering av data. Parlamentet uppmuntrar intressenter i Europa till forskning om och konstruktion av avancerade funktioner som gör det lättare att upptäcka korrupta och skadliga AI-baserade system och robotsystem som skulle kunna äventyra unionens och medborgarnas säkerhet.

101.

Europaparlamentet betonar att alla AI-system inom försvaret måste ha en konkret och väldefinierad uppdragsram, där människan behåller förmågan att upptäcka och stänga av eller avaktivera de system som används om de rör sig bortom den uppdragsram som definierats och tilldelats av ett mänskligt befäl eller om de inleder någon upptrappad eller oavsiktlig verksamhet. Parlamentet anser att AI-baserade system, produkter och tekniker som är avsedda att användas för militära ändamål bör utrustas med en ”svart låda” som registrerar varje dataöverföring som utförs av maskinen.

102.

Europaparlamentet understryker att hela ansvaret och ansvarsskyldigheten för beslutet att utforma, utveckla, sprida och använda AI-system måste ligga hos mänskliga aktörer, eftersom det måste finnas meningsfull mänsklig övervakning av och kontroll över alla vapensystem och mänsklig avsikt i beslutet att använda våld i verkställandet av alla beslut som fattas av AI-baserade vapensystem som kan få dödliga konsekvenser. Parlamentet understryker att mänsklig kontroll bör fortsätta att gälla för ledningen och styrningen av AI-baserade system, i enlighet med principerna ”human-in-the loop”, ”human-on-the loop” och ”human-in-command” inom den militära ledningen. Parlamentet betonar att AI-baserade system måste göra det möjligt för den militära ledningen för arméer att ta sitt fulla ansvar för användningen av dödligt våld och att utöva det nödvändiga omdömet – som inte kan överlämnas till maskiner eftersom ett sådant omdöme måste vara baserat på urskillning, proportionalitet och försiktighet – för att vidta dödliga eller storskaliga destruktiva åtgärder med hjälp av sådana system. Parlamentet betonar behovet av att fastställa tydliga och spårbara godkännande- och ansvarsramar för utplaceringen av smarta vapen och andra AI-baserade system, med hjälp av unika användaregenskaper såsom biometriska specifikationer, så att uteslutande behörig personal ska kunna placera ut dem.

Transporter

103.

Europaparlamentet betonar den potential som användningen av artificiell intelligens, robotteknik och tillhörande teknik innebär för alla autonoma transportmedel inom väg-, järnvägs-, sjöfarts- och luftfartstransporter, och även för att främja trafikomställningen och intermodaliteten, eftersom denna teknik kan bidra till att få fram en optimal kombination av transportslag för gods- och passagerarbefordran. Parlamentet betonar vidare dess potential att göra transport-, logistik- och trafikflöden mer effektiva och att göra alla transportslag säkrare, smartare och mer miljövänliga. Parlamentet påpekar att ett etiskt förhållningssätt till AI också kan fungera som ett system för tidig varning, särskilt avseende transporters säkerhet och effektivitet.

104.

Europaparlamentet understryker att den globala konkurrensen mellan företag och ekonomiska regioner kräver att unionen främjar investeringar och stärker den internationella konkurrenskraften för de företag som är verksamma i transportsektorn genom att inrätta en miljö som är gynnsam för utvecklingen och tillämpningen av AI-lösningar och ytterligare innovationer, där unionsbaserade företag kan bli världsledande i utvecklingen av AI-teknik.

105.

Europaparlamentet betonar att unionens transportsektor behöver en uppdatering av regelverket för denna nya teknik och dess användning inom transportsektorn, och en tydlig etisk ram för att få fram tillförlitlig AI, och att denna ram behöver inbegripa säkerhets-, skydds-, tillsyns- och ansvarsaspekter samt aspekter rörande respekt för mänsklig autonomi, vilket kommer att öka fördelarna för alla och vara avgörande för att främja investeringar i forskning och innovation, kompetensutveckling och användning av AI i allmänna tjänster, små och medelstora samt nystartade företag, och samtidigt säkerställa dataskydd och interoperabilitet, utan att det medför en onödig administrativ börda för företag och konsumenter.

106.

Europaparlamentet anser att det inte kommer att vara möjligt att utveckla och införa AI inom transportsektorn utan modern infrastruktur, som är en viktig del av intelligenta transportsystem. Parlamentet betonar att de ihållande skillnaderna i utvecklingsnivå mellan medlemsstaterna riskerar att leda till att de mindre utvecklade regionerna och deras invånare undanhålls de fördelar som utvecklingen av autonom mobilitet medför. Parlamentet kräver tillräcklig finansiering av moderniseringen av unionens transportinfrastruktur, bl.a. dess anslutning till 5G-nätet.

107.

Europaparlamentet rekommenderar att man utvecklar unionsomfattande tillförlitliga AI-standarder för alla transportsätt, inklusive fordonsindustrin, samt för provning av AI-baserade fordon och relaterade produkter och tjänster.

108.

Europaparlamentet konstaterar att AI-system skulle kunna bidra till att avsevärt minska antalet dödsolyckor på vägarna, till exempel genom förbättrade reaktionstider och bättre efterlevnad av regler. Parlamentet anser emellertid att användningen av självkörande fordon inte kommer att leda till att alla trafikolyckor kan undvikas, och understryker att möjligheten att förklara AI-beslut blir allt viktigare så att man kan motivera brister i och oavsiktliga konsekvenser av sådana beslut.

Sysselsättning, arbetstagares rättigheter, digitala färdigheter och arbetsplatsen

109.

Europaparlamentet noterar att tillämpningen av artificiell intelligens, robotteknik och tillhörande teknik på arbetsplatsen kan bidra till inkluderande arbetsmarknader och påverka hälsan och säkerheten på arbetsplatsen, samtidigt som denna teknik även kan användas för att övervaka, utvärdera, förutsäga och styra arbetstagarnas insatser, med såväl direkta som indirekta följder för deras karriärer. AI bör ha en positiv inverkan på arbetsvillkoren och vägledas av respekten för de mänskliga rättigheterna samt unionens grundläggande rättigheter och värden. AI bör vara människocentrerat, öka människornas och samhällets välbefinnande och bidra till en balanserad och rättvis omställning. Sådan teknik bör därför ha en positiv inverkan på arbetsvillkoren och vägledas av respekten för de mänskliga rättigheterna samt unionens grundläggande rättigheter och värden.

110.

Europaparlamentet betonar behovet av kompetensutveckling genom utbildning för arbetstagarna och deras företrädare när det gäller AI på arbetsplatsen för att bättre förstå konsekvenserna av AI-lösningar. Parlamentet betonar att sökande och arbetstagare i vederbörlig ordning bör informeras skriftligen om huruvida AI används i samband med rekryteringsförfaranden och andra beslut om personalresurser, och om hur i detta fall en mänsklig granskning kan begäras för att få ett automatiserat beslut återkallat.

111.

Europaparlamentet betonar behovet av att se till att produktivitetsvinster som beror på utveckling och användning av AI och robotteknik inte bara gynnar företags- och aktieägare, utan även gagnar företagen och arbetskraften genom bättre arbets- och anställningsvillkor, inbegripet löner, ekonomisk tillväxt och utveckling och också tjänar samhället i stort, särskilt när sådana vinster sker på bekostnad av arbetstillfällen. Parlamentet uppmanar medlemsstaterna att grundligt undersöka AI:s potentiella inverkan på arbetsmarknaden och de sociala trygghetssystemen och att utveckla strategier för hur man kan säkerställa långsiktig hållbarhet genom att reformera skatter och sociala avgifter samt vidta andra åtgärder i händelse av lägre offentliga inkomster.

112.

Europaparlamentet understryker vikten av företagens investeringar i formell och informell utbildning samt livslångt lärande för att stödja en rättvis omställning till den digitala ekonomin. Parlamentet betonar i detta sammanhang att företag som använder AI har ansvar för att tillhandahålla alla berörda anställda lämplig omskolning och kompetensutveckling så att de kan lära sig att använda digitala verktyg och lära sig sätt att arbeta med kollaborativa robotar och annan ny teknik och därmed anpassa sig till arbetsmarknadens föränderliga behov och behålla sin anställning.

113.

Europaparlamentet anser att särskild uppmärksamhet bör ägnas åt nya arbetsformer, såsom gigarbete och plattformsarbete, till följd av tillämpningen av ny teknik i detta sammanhang. Parlamentet anser att regleringen av förhållandena för distansarbete i hela unionen och säkerställandet av anständiga arbetsförhållanden och anställningsvillkor i den digitala ekonomin också måste beakta effekterna av AI. Kommissionen uppmanas att samråda med arbetsmarknadens parter, AI-utvecklare, forskare och andra aktörer i detta avseende.

114.

Europaparlamentet understryker att artificiell intelligens, robotteknik och relaterad teknik inte på något sätt får påverka utövandet av de grundläggande rättigheter som erkänns i medlemsstaterna och på unionsnivå, inklusive rätten att strejka eller att vidta andra åtgärder som omfattas av de särskilda systemen för arbetsmarknadsrelationer i medlemsstaterna, i enlighet med nationell rätt och/eller praxis, eller påverka rätten att förhandla om, ingå och verkställa kollektivavtal eller att vidta kollektiva åtgärder i enlighet med nationell rätt och/eller praxis.

115.

Europaparlamentet upprepar vikten av utbildning och kontinuerligt lärande för att utveckla de kvalifikationer som krävs i den digitala tidsåldern och för att hantera digital utestängning. Parlamentet uppmanar medlemsstaterna att investera i högkvalitativa, flexibla och inkluderande system för utbildning, yrkesutbildning och livslångt lärande samt i strategier för omskolning och kompetenshöjning för arbetstagare i sektorer som kan påverkas kraftigt av AI. Parlamentet framhåller behovet av att förse dagens och framtidens arbetskraft med nödvändiga läs-, skriv- och räknekunskaper och digitala färdigheter samt kompetens inom vetenskap, teknik, ingenjörsvetenskap och matematik och övergripande mjuka färdigheter, såsom kritiskt tänkande, kreativitet och entreprenörskap. Parlamentet understryker att särskild uppmärksamhet måste ägnas åt att inkludera missgynnade grupper i detta avseende.

116.

Europaparlamentet erinrar om att artificiell intelligens, robotteknik och tillhörande teknik på arbetsplatsen måste vara tillgänglig för alla, på grundval av principen om utformning anpassad till alla.

Utbildning och kultur

117.

Europaparlamentet betonar behovet att utveckla kriterier för utveckling, spridning och användning av AI-teknik med hänsyn till denna tekniks inverkan på utbildnings-, medie-, ungdoms-, forsknings- och idrottsområdet samt inom de kulturella och kreativa sektorerna, genom att ta fram riktmärken och fastställa principer för etiskt ansvarsfull och godtagbar användning av AI-teknik som kan tillämpas på lämpligt sätt på dessa områden, inbegripet en tydlig ansvarsordning för produkter som härrör från användning av AI.

118.

Europaparlamentet konstaterar att alla barn har rätt till offentlig utbildning på alla nivåer. Därför efterlyser parlamentet utveckling, spridning och användning av högkvalitativa AI-system som främjar och tillhandahåller högkvalitativa utbildningsverktyg för var och en på alla nivåer, och betonar att införandet av nya AI-system i skolor inte bör leda till att den digitala klyftan i samhället vidgas. Parlamentet är medvetet om den enorma potential som AI och robotteknik kan bidra med på utbildningsområdet. Parlamentet konstaterar att individuellt anpassade AI-inlärningssystem inte bör ersätta den utbildningsrelation som inbegriper lärare, och att traditionella utbildningsformer inte får lämnas på efterkälken. Samtidigt påpekar parlamentet att ekonomiskt, tekniskt och pedagogiskt stöd, inbegripet specialiserad utbildning i informations- och kommunikationsteknik, måste ges till lärare som vill skaffa sig lämpliga färdigheter för att kunna anpassa sig till tekniska förändringar och inte bara utnyttja AI-teknikens potential utan också förstå dess begränsningar. Parlamentet efterlyser utveckling av en strategi på unionsnivå för att bidra till att omvandla och uppdatera våra utbildningssystem, förbereda våra utbildningsinstitutioner på alla nivåer och förse lärare och elever med de färdigheter och förmågor som krävs.

119.

Europaparlamentet betonar att utbildningsinstitutioner bör sträva efter att för utbildningsändamål använda AI-system som har beviljats en europeisk certifiering av etisk efterlevnad.

120.

Europaparlamentet betonar att de möjligheter som digitaliseringen och den nya tekniken erbjuder inte får leda till förlorade arbetstillfällen inom kulturella och kreativa sektorer i allmänhet, och inte heller till försumlighet när det gäller att bevara originalen eller till att man bortser från traditionell tillgång till kulturarvet, som också bör uppmuntras. Parlamentet konstaterar att AI-system som utvecklas, sprids och används i unionen bör återspegla unionens kulturella mångfald och flerspråkighet.

121.

Europaparlamentet erkänner den växande potentialen hos AI när det gäller information, medier och onlineplattformar, bland annat som ett verktyg för att bekämpa desinformation i enlighet med unionsrätten. Parlamentet understryker att den artificiella intelligensen, om den inte regleras också kan få negativa konsekvenser etiskt sett, genom att snedvridningar i data och algoritmer utnyttjas, vilket kan leda till spridning av desinformation genom att informationsbubblor skapas. Parlamentet betonar vikten av transparens och ansvarsskyldighet i samband med algoritmer som används av videodelningsplattformar och strömningsplattformar, för att säkerställa tillgång till ett brett och varierat innehåll kulturellt och språkligt sett.

Nationella tillsynsmyndigheter

122.

Europaparlamentet noterar mervärdet av att ha utsedda nationella tillsynsmyndigheter i varje medlemsstat som ansvarar för att säkerställa, bedöma och övervaka efterlevnaden av rättsliga skyldigheter och etiska principer för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik med hög risk, och därmed bidra till att denna teknik är förenlig med etiska principer.

123.

Europaparlamentet anser att dessa myndigheter måste vara skyldiga att, utan att utföra dubbelarbete, samarbeta med de myndigheter som ansvarar för genomförandet av sektorsspecifik lagstiftning för att identifiera teknik som är förknippad med hög risk ur ett etiskt perspektiv och för att övervaka genomförandet av nödvändiga och lämpliga åtgärder när sådan teknik identifieras.

124.

Europaparlamentet anser att sådana myndigheter inte enbart bör samarbeta sinsemellan utan också med kommissionen och andra berörda institutioner, organ och byråer i unionen för att garantera samstämmiga åtgärder över nationsgränserna.

125.

Europaparlamentet föreslår att man i samband med detta samarbete tar fram gemensamma kriterier och ett ansökningsförfarande för beviljandet av en europeisk certifiering av etisk efterlevnad, även på begäran av utvecklare, spridare och användare av teknik som inte betraktas som högriskteknik som strävar efter att certifiera den positiva efterlevnadsbedömning som utförts av respektive nationell tillsynsmyndighet.

126.

Europaparlamentet vill att sådana myndigheter ska ges i uppdrag att främja regelbundna utbyten med det civila samhället samt innovation inom unionen genom att tillhandahålla assistans till forskare, utvecklare och andra relevanta aktörer, samt till mindre digitaliserade företag, särskilt små- och medelstora företag och uppstartsföretag, i synnerhet när det gäller medvetandehöjande åtgärder och stöd till utveckling, spridning, utbildning och åtgärder för att locka talanger för att säkerställa en effektiv tekniköverföring och tillgång till teknik, projekt, resultat och nätverk.

127.

Europaparlamentet begär att varje medlemsstat tilldelar sina utsedda nationella tillsynsmyndigheter tillräckliga medel, och betonar att de nationella marknadskontrollmyndigheterna behöver förstärkas i fråga om kapacitet, färdigheter och kompetens samt kunskap om de specifika riskerna förknippade med artificiell intelligens, robotteknik och tillhörande teknik.

Samordning på unionsnivå

128.

Europaparlamentet understryker vikten av en samordning på unionsnivå som utförs av kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang för att undvika en fragmentering och säkerställa ett harmoniserat tillvägagångssätt i hela unionen. Parlamentet anser att samordningen bör inriktas på varje enskild nationell tillsynsmyndighets mandat och åtgärder i enlighet med föregående underavsnitt, samt på utbyte av bästa praxis mellan dessa myndigheter och bidrag till samarbete inom forskning och utveckling på området i hela unionen. Parlamentet uppmanar kommissionen att bedöma och hitta den lämpligaste lösningen för att strukturera en sådan samordning. Exempel på relevanta befintliga unionsinstitutioner, organ och byråer är Enisa, EDPS och Europeiska ombudsmannen.

129.

Europaparlamentet anser att ett sådant organ, liksom en europeisk certifiering av etisk efterlevnad, inte enbart skulle gynna utvecklingen av unionens näringsliv och innovation i detta sammanhang, utan även öka medborgarnas medvetenhet om de möjligheter och risker som är förknippade med denna teknik.

130.

Europaparlamentet föreslår att det inrättas ett expertcentrum, som sammanför den akademiska världen, forskningsvärlden, industrin och enskilda experter på unionsnivå, för att främja kunskapsutbyte och teknisk expertis och för att underlätta samarbete inom och utanför unionen. Parlamentet begär dessutom att intresseorganisationer (t.ex. konsumentskyddsorganisationer) ska delta i detta expertcentrum, så att en bred konsumentrepresentation säkras. Till följd av de eventuellt oproportionerliga effekter som algoritmiska system har på kvinnor och minoriteter anser parlamentet att beslutsnivåerna i en sådan struktur bör präglas av mångfald och säkerställa en jämn könsfördelning. Parlamentet betonar att medlemsstaterna måste utarbeta riskhanteringsstrategier för AI inom ramen för sina nationella marknadskontrollstrategier.

131.

Europaparlamentet föreslår att kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang ska bistå de nationella tillsynsmyndigheterna med allt nödvändigt stöd när det gäller deras roll som första kontaktpunkt i händelse av misstänkta överträdelser av de rättsliga skyldigheter och etiska principer som fastställs i unionens regelverk för AI, inbegripet principen om icke-diskriminering. Parlamentet tillägger att kommissionen även bör bistå med allt nödvändigt stöd till de nationella tillsynsmyndigheterna i de fall där dessa genomför efterlevnadsbedömningar i syfte att stödja medborgarnas rätt att bestrida beslut och få sin sak prövad, närmare bestämt genom att i tillämpliga fall stödja samråd med andra behöriga myndigheter i unionen, särskilt nätverket för konsumentskyddssamarbete och nationella konsumentskyddsorgan, organisationer i det civila samhället och arbetsmarknadens parter i andra medlemsstater.

132.

Europaparlamentet uppmärksammar det värdefulla bidraget från högnivåexpertgruppen för artificiell intelligens, som består av företrädare för den akademiska världen, det civila samhället och näringslivet samt Europeiska AI-alliansen, särskilt ”Etiska riktlinjer för tillförlitlig AI”, och föreslår att den skulle kunna tillhandahålla sakkunskap till kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang.

133.

Europaparlamentet noterar införlivandet av AI-relaterade projekt inom ramen för det europeiska försvarsindustriella utvecklingsprogrammet. Parlamentet anser att den framtida Europeiska försvarsfonden och det permanenta strukturerade samarbetet också kan erbjuda väl anpassade ramar för framtida AI-relaterade projekt som skulle kunna hjälpa till att effektivisera unionens insatser på detta område och på samma gång främja unionens mål att stärka de mänskliga rättigheterna, folkrätten och multilaterala lösningar. Parlamentet betonar att AI-relaterade projekt bör synkroniseras med unionens bredare civila program för AI. Parlamentet noterar att i enlighet med kommissionens vitbok av den 19 februari 2020 om artificiell intelligens bör spetskompetens- och testcenter som koncentrerar sig på forskning och utveckling av AI på säkerhets- och försvarsområdet inrättas i enlighet med stränga specifikationer som stöd för privata aktörers deltagande och investeringar.

134.

Europaparlamentet uppmärksammar kommissionens vitbok av den 19 februari 2020 om artificiell intelligens och beklagar att militära aspekter inte beaktats. Parlamentet uppmanar kommissionen och vice ordföranden/den höga representanten att som en del av en övergripande strategi även lägga fram en sektorsspecifik AI-strategi för försvarsrelaterad verksamhet inom unionsramen som säkerställer både respekt för medborgerliga rättigheter och unionens strategiska intressen, och som bygger på en konsekvent strategi som omfattar allt från inrättandet av AI-baserade system till deras militära användningsområden, och att inrätta en arbetsgrupp för säkerhet och försvar inom högnivåexpertgruppen för artificiell intelligens som specifikt bör ta upp frågor kring politik och investeringar samt etiska aspekter som rör AI på säkerhets- och försvarsområdet. Parlamentet uppmanar därför rådet, kommissionen och vice ordföranden/den höga representanten att inleda en strukturerad dialog med Europaparlamentet om detta.

Europeisk certifiering av etisk efterlevnad

135.

Europaparlamentet föreslår att man på ett samordnat sätt på unionsnivå utarbetar gemensamma kriterier och ett ansökningsförfarande för att bevilja en europeisk certifiering av etisk efterlevnad, även på begäran av utvecklare, spridare och användare av teknik som inte betraktas som högriskteknik som strävar efter att certifiera den positiva efterlevnadsbedömning som utförts av respektive nationell tillsynsmyndighet.

136.

Europaparlamentet anser att en sådan europeisk certifiering av etisk efterlevnad skulle främja etik genom design genom hela leveranskedjan för AI-baserade ekosystem. Parlamentet föreslår därför att denna certifiering, när det gäller högriskteknik, skulle kunna vara en obligatorisk förutsättning för att komma i fråga för offentlig upphandling av artificiell intelligens, robotteknik och tillhörande teknik.

Internationellt samarbete

137.

Europaparlamentet anser att ett effektivt gränsöverskridande samarbete och etiska normer endast kan uppnås om alla berörda parter åtar sig att säkerställa mänskligt agentskap och mänsklig tillsyn, robust och säker teknik, transparens och ansvarsskyldighet, mångfald, icke-diskriminering och rättvisa, samhälleligt och miljömässigt välbefinnande samt respekt för de fastställda principerna om integritet, dataförvaltning och dataskydd, särskilt de som fastställs förordning (EU) 2016/679.

138.

Europaparlamentet betonar att unionens rättsliga skyldigheter och etiska principer för utveckling, spridning och användning av denna teknik skulle kunna göra Europa till världsledande inom sektorn för artificiell intelligens, och bör därför främjas över hela världen genom samarbete med internationella partner, samtidigt som man fortsätter den kritiska och etiska dialogen med tredjeländer som har alternativa modeller för reglering, utveckling och spridning av artificiell intelligens.

139.

Europaparlamentet påminner om att de möjligheter och risker som dessa tekniker är förknippade med har en global dimension, eftersom den programvara och data de använder ofta importeras till och exporteras från unionen, och att det därför finns ett behov av en konsekvent samarbetsstrategi på internationell nivå. Parlamentet uppmanar kommissionen att ta initiativ till att bedöma vilka bilaterala och multilaterala fördrag och avtal som bör anpassas för att säkerställa en konsekvent strategi och främja den europeiska modellen för etisk efterlevnad globalt.

140.

Europaparlamentet betonar det mervärde som det ovannämnda samarbetet på unionsnivå skulle tillföra även i detta sammanhang.

141.

Europaparlamentet kräver att synergier och nätverk skapas på AI-området mellan de olika europeiska forskningscentrumen och andra multilaterala forum, såsom Europarådet, Förenta nationernas organisation för utbildning, vetenskap och kultur (Unesco), Organisationen för ekonomiskt samarbete och utveckling (OECD), Världshandelsorganisationen och Internationella teleunionen (ITU), i syfte att harmonisera deras insatser och bättre samordna utvecklingen artificiell intelligens, robotteknik och tillhörande teknik.

142.

Europaparlamentet understryker att unionen måste gå i bräschen för att stödja multilaterala insatser för att inom ramen för expertgruppen för FN:s konvention om vissa konventionella vapen och i andra relevanta forum, diskutera ett effektivt internationellt regelverk som säkerställer meningsfull mänsklig kontroll över autonoma vapensystem, i syfte att behärska denna teknik genom att i samråd med militären, industrin, brottsbekämpande myndigheter, den akademiska världen och aktörer från det civila samhället fastställa väldefinierade, riktmärkesbaserade processer och anta en lagstiftning för hur de ska användas rent etiskt, förstå de bakomliggande etiska aspekterna och minska de inneboende riskerna med sådan teknik och förhindra att den används för fientliga syften.

143.

Europaparlamentet erkänner Natos roll som främjare av den euro-atlantiska säkerheten, och efterlyser samarbete inom Nato för att skapa gemensamma normer och interoperabilitet i fråga om AI-system inom försvaret. Parlamentet betonar att de transatlantiska förbindelserna är viktiga för att bibehålla gemensamma värden och bemöta framtida och nya hot.

144.

Europaparlamentet betonar vikten av att inrätta en etisk uppförandekod som stöder utplaceringen av AI-baserade system som kan omvandlas till vapen i militära insatser och som påminner om det befintliga regelverk som förbjuder användningen av kemiska och biologiska vapen. Parlamentet anser att kommissionen bör ta initiativ till inrättande av normer för användningen av AI-baserade vapensystem i krigföring i enlighet med internationell humanitär rätt, och att unionen bör sträva efter ett internationellt antagande av sådana normer. Parlamentet anser att unionen bör engagera sig för AI-diplomati i internationella forum med likasinnade partner, såsom G7, G20 och OECD.

Avslutande aspekter

145.

Till följd av ovanstående överväganden kring aspekter i anslutning till den etiska dimensionen av artificiell intelligens, robotteknik och tillhörande teknik drar Europaparlamentet slutsatsen att de rättsliga och etiska dimensionerna bör förankras i ett effektivt, framåtblickande och heltäckande regelverk på unionsnivå, som upprätthålls av nationella behöriga myndigheter och samordnas och stärks av kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang, och som regelbundet bistås av det ovannämnda expertcentrumet, vilket bör vara vederbörligen respekterat och certifierat på den inre marknaden.

146.

I enlighet med det förfarande som anges i artikel 225 i fördraget om Europeiska unionens funktionssätt uppmanar Europaparlamentet kommissionen att lägga fram ett förslag till förordning om etiska principer för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik på grundval av artikel 114 i fördraget om Europeiska unionens funktionssätt och enligt de detaljerade rekommendationerna i bilagan till detta förslag till betänkande. Parlamentet påpekar att förslaget inte bör undergräva sektorspecifik lagstiftning utan endast bör omfatta identifierade kryphål.

147.

Europaparlamentet rekommenderar att kommissionen, efter samråd med alla berörda aktörer, vid behov ser över den befintliga unionsrätt som är tillämplig på artificiell intelligens, robotteknik och tillhörande teknik, i syfte att bemöta den snabba utvecklingen av denna teknik i enlighet med rekommendationerna i bilagan till detta resolutionsförslag, och samtidigt undviker överreglering, även för små och medelstora företag.

148.

Europaparlamentet anser att en regelbunden utvärdering och vid behöv översyn av unionens regelverk för artificiell intelligens, robotteknik och tillhörande teknik kommer att vara avgörande för att säkerställa att den tillämpliga lagstiftningen är uppdaterad med den snabba tekniska utvecklingen.

149.

Europaparlamentet konstaterar att det begärda lagstiftningsförslaget skulle få finansiella konsekvenser om ett europeiskt organ skulle anförtros ovannämnda samordningsfunktioner och tekniska resurser och personalresurser som krävs för att organet ska kunna fullgöra sina nya tilldelade uppgifter..

o o

150.

Europaparlamentet uppdrar åt talmannen att översända denna resolution och de bifogade detaljerade rekommendationerna till kommissionen och rådet.

(1) EUT L 252, 8.10.2018, s. 1.

(2) EGT L 180, 19.7.2000, s. 22.

(3) EGT L 303, 2.12.2000, s. 16.

(4) EUT L 119, 4.5.2016, s. 1.

(5) EUT L 119, 4.5.2016, s. 89.

(6) EUT L 123, 12.5.2016, s. 1.

(7) EUT C 252, 18.7.2018, s. 239.

(8) EUT C 307, 30.8.2018, s. 163.

(9) EUT C 433, 23.12.2019, s. 86.

(10) Antagna texter, P8_TA(2018)0332.

(11) Antagna texter, P8_TA(2019)0081.

(12) https://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2020)654179.

(13) Europaparlamentets och rådets direktiv (EU) 2019/882 av den 17 april 2019 om tillgänglighetskrav för produkter och tjänster (EUT L 151, 7.6.2019, s. 70).

(14) Europaparlamentets och rådets beslut nr 768/2008/EG av den 9 juli 2008 om en gemensam ram för saluföring av produkter och upphävande av rådets beslut 93/465/EEG (EUT L 218, 13.8.2008, s. 82).

BILAGA TILL RESOLUTIONEN

DETALJERADE REKOMMENDATIONER OM INNEHÅLLET I DET BEGÄRDA FÖRSLAGET

A. DET BEGÄRDA FÖRSLAGETS PRINCIPER OCH MÅL

Förslagets främsta principer och mål är följande:

—	Bygga upp förtroende på alla nivåer av berörda parter och av samhället när det gäller artificiell intelligens, robotteknik och tillhörande teknik, särskilt när denna teknik betraktas som högriskteknik.

—

Stödja utvecklingen av artificiell intelligens, robotteknik och tillhörande teknik i unionen, bland annat genom att hjälpa företag, uppstartsföretag och små och medelstora företag att med säkerhet bedöma och hantera nuvarande och framtida regleringskrav och risker under innovations- och affärsutvecklingsprocessen och under den efterföljande fasen av yrkesmässig och privat användning, genom att minimera bördor och byråkrati.

—

Stödja spridningen av artificiell intelligens, robotteknik och tillhörande teknik i unionen genom att tillhandahålla ett lämpligt och proportionerligt regelverk som bör tillämpas utan att det påverkar befintlig eller framtida sektorsspecifik lagstiftning, i syfte att främja rättssäkerhet och innovation samtidigt som grundläggande rättigheter och konsumentskydd garanteras.

—	Stödja användningen av artificiell intelligens, robotteknik och tillhörande teknik i unionen genom att säkerställa att denna teknik utvecklas, sprids och används på ett sätt som är förenligt med etiska principer.

—

Kräva transparens och bättre informationsflöden mellan medborgare och inom organisationer som utvecklar, sprider eller använder artificiell intelligens, robotteknik och tillhörande teknik på ett sätt som säkerställer att tekniken är förenlig med unionsrätten, grundläggande rättigheter och värden samt med de etiska principerna i det begärda förslaget till förordning.

II.

Förslaget består av följande delar:

—	”Förordning om etiska principer för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik”,

—	Den samordnande rollen på unionsnivå som innehas av kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang och en europeisk certifiering av etisk efterlevnad.

—	Europeiska kommissionens stödjande roll.

—	Den roll som ”tillsynsmyndigheten” i varje medlemsstat innehar för att säkerställa att etiska principer tillämpas på artificiell intelligens, robotteknik och tillhörande teknik.

—	Deltagande av, samråd med och tillhandahållande av stöd till relevanta forsknings- och utvecklingsprojekt och berörda aktörer, däribland uppstartsföretag, företag, arbetsmarknadens parter och övriga företrädare för civilsamhället.

—	En bilaga med en uttömmande och kumulativ förteckning över högrisksektorer och användningsändamål som är förenade med hög risk.

III.

Förordningen om etiska principer för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik grundas på följande principer:

—	Människocentrerad och av människan skapad och kontrollerad artificiell intelligens, robotteknik och tillhörande teknik.

—	Obligatorisk efterlevnadsbedömning av artificiell intelligens, robotteknik och tillhörande teknik med hög risk.

—	Säkerhet, transparens och ansvarsskyldighet.

—	Skydd och åtgärder mot snedvridning och diskriminering.

—	Rätt till prövning.

—	Socialt ansvar och jämställdhet i samband med artificiell intelligens, robotteknik och tillhörande teknik.

—	Miljömässigt hållbar artificiell intelligens, robotteknik och tillhörande teknik.

—	Respekt för personlig integritet och begränsningar när det gäller användningen av biometrisk igenkänning.

—	Styrning i samband med artificiell intelligens, robotteknik och tillhörande teknik, inbegripet data som används eller tas fram av sådan teknik.

IV.

För samordningen på unionsnivå bör kommissionen och/eller de relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang utföra följande huvuduppgifter:

—	Samarbeta för att övervaka genomförandet av det begärda förslaget till förordning och relevant sektorsspecifik unionsrätt.

—

Samarbeta när det gäller utfärdandet av riktlinjer för en konsekvent tillämpning av det begärda förslaget till förordning, det vill säga tillämpningen av kriterierna för artificiell intelligens, robotteknik och tillhörande teknik som ska betraktas som högriskteknik och den förteckning över högrisksektorer och användningsändamål som är förenade med hög risk som anges i bilagan till förordningen.

—

Samarbeta med ”tillsynsmyndigheten” i varje medlemsstat när det gäller utarbetandet av en europeisk certifiering av förenlighet med etiska principer och rättsliga skyldigheter enligt det begärda förslaget till förordning och relevant unionsrätt samt när det gäller utveckling av en ansökningsprocess för utvecklare, spridare eller användare av teknik som inte betraktas som högriskteknik som strävar efter att certifiera sin efterlevnad av det begärda förslaget till förordning.

—

Samarbeta för att stödja sektorsövergripande och gränsöverskridande samarbete genom regelbundna utbyten med berörda aktörer och civilsamhället i EU och internationellt, särskilt med företag, arbetsmarknadens parter, forskare och behöriga myndigheter, inbegripet när det gäller utarbetande av tekniska standarder på internationell nivå.

—	Samarbeta med ”tillsynsmyndigheten” i varje medlemsstat när det gäller att fastställa bindande riktlinjer för den metod som ska följas för den bedömning av efterlevnad som varje tillsynsmyndighet ska utföra.

—	Samarbeta när det gäller kontakterna med ”tillsynsmyndigheten” i varje medlemsstat och samordningen av tillsynsmyndigheternas mandat och uppgifter.

—	Samarbeta för att öka medvetenheten, tillhandahålla information och delta i utbyten med utvecklare, spridare och användare i hela unionen.

—	Samarbeta för att öka medvetenheten, tillhandahålla information, främja digital kompetens, utbildning och färdigheter och delta i utbyten med formgivare, utvecklare, spridare, medborgare, användare och institutionella organ i hela unionen och internationellt.

—	Samarbeta om samordningen av en gemensam ram för styrning av utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik som ska genomföras av ”tillsynsmyndigheten” i varje medlemsstat.

—	Samarbeta när det gäller att fungera som ett expertcentrum genom att främja informationsutbyte och stödja utvecklingen av en gemensam förståelse på den inre marknaden.

—	Samarbeta om värdskapet för en arbetsgrupp för säkerhet och försvar.

Dessutom bör kommissionen utföra följande uppgifter:

—	Upprätta och därefter genom delegerade akter uppdatera en gemensam förteckning över högriskteknik som identifierats inom unionen i samarbete med ”tillsynsmyndigheten” i varje medlemsstat.

—	Genom delegerade akter uppdatera förteckningen i bilagan till förordningen.

VI.

”Tillsynsmyndigheten” i varje medlemsstat bör utföra följande huvuduppgifter:

—

Bidra till en konsekvent tillämpning av det regelverk som fastställs i det begärda förslaget till förordning i samarbete med ”tillsynsmyndigheten” i övriga medlemsstater, liksom andra myndigheter med ansvar för att genomföra sektorsspecifik lagstiftning, kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang, närmare bestämt när det gäller tillämpningen av de riskbedömningskriterier som föreskrivs i det begärda förslaget till förordning och när det gäller förteckningen över de högrisksektorer och användningsändamål som är förenade med hög risk som anges i bilagan, samt den efterföljande övervakningen av genomförandet av de lämpliga åtgärder som krävs när högriskteknik identifierats som ett resultat av en sådan tillämpning.

—

Bedöma huruvida artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik och som utvecklas, sprids och används i unionen, ska betraktas som högriskteknik i enlighet med de riskbedömningskriterier som anges i det begärda förslaget till förordning och i förteckningen i bilagan.

—

Utfärda en europeisk certifiering av förenlighet med etiska principer och rättsliga skyldigheter enligt det begärda förslaget till förordning och relevant unionsrätt, inbegripet när certifieringen är resultatet av en ansökningsprocess för utvecklare, spridare eller användare av teknik som inte betraktas som högriskteknik som strävar efter att certifiera sin efterlevnad av det begärda förslag till förordning som utarbetats av kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang.

—	Bedöma och övervaka efterlevnaden av etiska principer och rättsliga skyldigheter enligt det begärda förslaget till förordning och relevant unionsrätt.

—

Ansvara för att fastställa och genomföra standarder för styrningen av artificiell intelligens, robotteknik och tillhörande teknik, bland annat genom att samarbeta och upprätthålla en regelbunden dialog med alla relevanta aktörer och företrädare för det civila samhället. I detta syfte bör myndigheten samarbeta med kommissionen och/eller alla relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang när det gäller samordningen av en gemensam ram på unionsnivå.

—

Öka medvetenheten, tillhandahålla information om artificiell intelligens, robotteknik och tillhörande teknik till allmänheten och stödja utbildning för relevanta yrken, inbegripet inom rättsväsendet, och därigenom ge medborgare och arbetstagare möjlighet att skaffa sig den digitala kompetens, de färdigheter och de verktyg som krävs för en rättvis omställning.

—

Fungera som första kontaktpunkt i händelse av misstänkta överträdelser av de rättsliga skyldigheter och etiska principer som fastställs i det begärda förslaget till förordning och utföra en efterlevnadsbedömning i sådana fall. Inom ramen för denna bedömning av efterlevnaden kan myndigheten samråda med och/eller informera andra behöriga myndigheter i unionen, särskilt nätverket för konsumentskyddssamarbete, nationella konsumentskyddsorgan, det civila samhällets organisationer och arbetsmarknadens parter.

VII.	Aktörernas viktigaste uppgift bör vara att samarbeta med kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang samt med ”tillsynsmyndigheten” i varje medlemsstat.

B. TEXTEN I DET BEGÄRDA LAGSTIFNINGSFÖRSLAGET

Förslag till

EUROPAPARLAMENTETS OCH RÅDETS FÖRORDNING

om etiska principer för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik

EUROPAPARLAMENTET OCH EUROPEISKA UNIONENS RÅD HAR ANTAGIT DENNA FÖRORDNING

med beaktande av fördraget om Europeiska unionens funktionssätt, särskilt artikel 114,

med beaktande av kommissionens förslag,

efter översändande av utkastet till lagstiftningsakt till de nationella parlamenten,

med beaktande av Europeiska ekonomiska och sociala kommitténs yttrande,

i enlighet med det ordinarie lagstiftningsförfarandet, och

av följande skäl:

(1)

Utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, bör baseras på en önskan att tjäna samhället. Sådan teknik kan medföra möjligheter och risker, som bör hanteras och regleras genom en övergripande rättslig ram på unionsnivå, som återspeglar etiska principer avsedda att efterlevas, alltifrån teknikens utveckling och spridning till dess användning.

(2)

Efterlevnaden av en sådan rättslig ram för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik i unionen, bör hålla likvärdig nivå i samtliga medlemsstater för att man effektivt ska kunna utnyttja möjligheterna och konsekvent hantera riskerna med sådan teknik, och undvika splittrad lagstiftning. En enhetlig tillämpning av bestämmelserna i denna förordning bör säkerställas i hela unionen.

(3)

I detta sammanhang innebär den nuvarande mångfalden av regler och praxis avsedda att följas i unionen en avsevärd risk för fragmentering av den inre marknaden och för skyddet av både enskilda människors och samhällets välfärd och välstånd, liksom för ett konsekvent tillvaratagande av den fulla potential som artificiell intelligens, robotteknik och tillhörande teknik har för innovationsfrämjande och för att främja och skydda denna välfärd och detta välstånd. Skillnader i utvecklares, spridares och användares beaktande av denna tekniks inneboende etiska dimension kan hindra tekniken från att fritt utvecklas, spridas eller användas inom unionen, och dessa skillnader kan utgöra ett hinder för likvärdiga förutsättningar och för tekniska framsteg och ekonomisk verksamhet på unionsnivå, varjämte de kan snedvrida konkurrensen och hindra myndigheterna från att fullgöra sina skyldigheter enligt unionsrätten. Avsaknaden av en gemensam rättslig ram som återspeglar etiska principer för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik skapar dessutom rättslig osäkerhet för alla som arbetar med detta, alltså för utvecklare, spridare och användare.

(4)

Trots detta bör denna förordning, samtidigt som den bidrar till konsekvens på unionsnivå, ge medlemsstaterna viss handlingsfrihet vid genomförandet av den, inom de gränser som uppställs i förordningen, också i fråga om hur deras respektive nationella tillsynsmyndigheter utför sitt uppdrag med avseende på det mål som ska uppnås i enlighet med denna förordning.

(5)	Förordningen påverkar inte nuvarande eller framtida sektorslagstiftning. Den bör vara proportionerlig i förhållande till sitt mål, för att inte i onödan hämma innovationer inom unionen, och följa en riskbaserad metod.

(6)

Det geografiska tillämpningsområdet för en sådan ram bör omfatta allt inom artificiell intelligens, robotteknik och tillhörande teknik under alla utvecklings-, spridnings- och användningsskeden i unionen, också i sådana fall där en del av tekniken kan vara belägen utanför unionen eller inte ha någon viss eller enda förläggningsort, såsom fallet är med molntjänster.

(7)

Unionen måste ha en samsyn kring begrepp som artificiell intelligens, robotteknik, tillhörande teknik och biometrisk igenkänning för att möjliggöra en enhetlig regleringsstrategi, med den rättsliga säkerhet den medför för både invånare och företag. De bör kännetecknas av teknikneutralitet och alltid ses över vid behov.

(8)

Hänsyn bör dessutom tas till att det finns teknik som sammanhänger med artificiell intelligens och robotteknik och gör det möjligt för programvara att styra vissa fysiska eller virtuella processer med olika grad av oberoende (1). Som exempel kan nämnas fordonsstyrning, där sex nivåer av automatisering av körning föreslagits i SAE:s internationella standard J3016.

(9)

Utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, bör komplettera människans förmåga och inte träda i stället för den, samt säkerställa att förverkligandet inte strider mot människors bästa och följer unionslagstiftningen och grundläggande rättigheter som fastställs i Europeiska unionens stadga om de grundläggande rättigheterna (nedan kallad stadgan), Europeiska unionens domstols fasta rättspraxis och andra europeiska och internationella instrument som är tillämpliga i unionen.

(10)

Beslut som fattats av eller fått sitt informationsunderlag genom artificiell intelligens, robotteknik och tillhörande teknik bör fortsätta att vara föremål för översyn, bedömningar, ingripanden och styrning, som utförs av människor på ett meningsfullt sätt. Den tekniska och operativa komplexiteten hos sådan teknik bör aldrig hindra spridare eller användare av den från att som ett absolut minimum kunna utlösa en felsäker stoppmekanism, samt ändra eller stoppa teknikens funktion eller återföra den till ett tidigare stadium genom att återställa funktioner som är säkra, i de fall där efterlevnaden av unionslagstiftningen och de etiska principer och rättsliga förpliktelser som fastställs i denna förordning är hotad.

(11)

Artificiell intelligens, robotteknik och tillhörande teknik av sådant slag att utveckling, spridning och användning av den medför betydande risk för skada eller förfång för enskilda personer eller samhället, i strid med grundläggande rättigheter och säkerhetsbestämmelser enligt unionsrätten, bör anses som högriskteknik. Vid bedömningen av om det handlar om högriskteknik bör man ta hänsyn till vilken sektor tekniken utvecklas, sprids eller används inom, samt till dess användningsändamål och svårhetsgraden av den skada eller det förfång som kan förväntas uppkomma. Svårhetsgraden bör bedömas utgående från hur omfattande skada eller förfång som kan uppkomma, antalet personer som kan drabbas, det sammanlagda skadevärdet samt i vilken utsträckning skadan kan bli samhällsomfattande. Bland exemplen på svåra fall av skada och förfång märks kränkningar av barnets rättigheter, konsumenträttigheter eller arbetstagares rättigheter, vilka blivit så omfattande, berört så många barn, konsumenter eller arbetstagare, eller fått sådana samhällsomfattande konsekvenser, att det uppkommit en avsevärd risk för åsidosättande av grundläggande rättigheter och säkerhetsbestämmelser enligt unionslagstiftningen. I förordningen bör det finnas en uttömmande och kumulativ förteckning över högrisksektorer och användningsändamål som är förenade med hög risk.

(12)

Skyldigheterna i denna förordning, särskilt de som gäller för högriskteknik, bör gälla enbart för sådan artificiell intelligens, robotteknik och tillhörande teknik inbegripet programvara, algoritmer och data som används eller genereras av sådan teknik, som utvecklas, sprids eller används i unionen och efter den riskbedömning som föreskrivs i denna förordning betraktas som högriskteknik. Dessa skyldigheter måste fullgöras, utan att det påverkar den allmänna skyldigheten om att man vid utveckling, spridning och användning i unionen av all artificiell intelligens, robotteknik och tillhörande teknik inbegripet programvara, algoritmer och data som används eller genereras av sådan teknik, bör ställa människan i centrum, utgå från principerna om människans självbestämmanderätt och säkerhet i enlighet med unionslagstiftningen och fullständigt respektera sådana grundläggande rättigheter såsom människans värdighet, rätten till frihet och säkerhet samt rätten till personlig integritet.

(13)

Högrisktekniken bör rätta sig efter principerna om säkerhet, öppenhet, ansvarsskyldighet, opartiskhet eller icke-diskriminering, socialt ansvar och jämställdhet, rätt till gottgörelse, miljöhållbarhet, personlig integritet och god samhällsstyrning, och föregås av en opartisk, objektiv och extern riskbedömning som den nationella tillsynsmyndigheten ska utföra i enlighet med kriterierna i denna förordning och i förteckningen i bilagan till den. Vid bedömningen bör det tas hänsyn till utvecklarens eller spridarens synpunkter samt till eventuella självbedömningar från deras sida.

(14)

Kommissionen och/eller av frågan berörda bland unionens institutioner, organ och byråer vilka eventuellt kan komma att utses för detta ändamål bör sammanställa icke-bindande riktlinjer med vägledning för utvecklare, spridare och användare om vilka metoder de bör använda för att följa denna förordning. De bör därvid samråda med relevanta berörda parter.

(15)

Unionen bör agera samstämmigt vid riskbedömningen av denna teknik, särskilt om den bedöms både enligt denna förordning och enligt eventuellt gällande sektorsspecifik lagstiftning. De nationella myndigheterna bör därför underrätta andra myndigheter som gör riskbedömningar enligt eventuell sektorsspecifik lagstiftning, i händelse av att sådan teknik vid den riskbedömning som föreskrivs i denna förordning betecknas som högriskteknik.

(16)

För att tekniken ska bli tillförlitlig bör man vid utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik sätt, vinnlägga sig om säkerhet, öppenhet och ansvarsskyldighet i enlighet med säkerhetsegenskaperna robusthet, motståndskraft, säkerhet, korrekthet och felidentifiering, förklarbarhet, tolkningsbarhet, granskningsmöjligheter, öppenhet och identifierbarhet, och gå till väga på ett sätt som möjliggör frånkoppling av de berörda funktionerna och återgång till tidigare funktioner om dessa egenskaper inte föreligger. Öppenhet bör säkerställas genom att de offentliga myndigheterna, i strikt nödvändiga fall, kan få åtkomst till den teknik, de data och de databehandlingssystem som teknik av det här slaget bygger på.

(17)

Utvecklare, spridare och användare av artificiell intelligens, robotteknik och tillhörande teknik, särskilt av högriskteknik, ansvarar i olika grad för efterlevnaden av principerna om säkerhet, öppenhet och ansvarsskyldighet, utgående från i vilken utsträckning de arbetar med den ifrågavarande tekniken, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik. Utvecklare bör säkerställa att den berörda tekniken är utformad och uppbyggd för att ha de säkerhetsegenskaper som fastställs i denna förordning, och spridare och användare bör sprida och använda den berörda tekniken med fullt beaktande av dessa egenskaper. Därför bör utvecklare av högriskteknik utvärdera vilka risker för missbruk av den teknik de utvecklar som rimligen kan förväntas, och förbereda sig på sådana risker. De måste också säkerställa att de system de utvecklar förses med upplysningar om sannolikheten för fel eller inexaktheter, vilket bör göras så långt det är möjligt och på lämpliga sätt, exempelvis med hjälp av ansvarsfriskrivningar.

(18)

Utvecklare och spridare bör ge användare tillgång till alla efterföljande uppdateringar av den berörda tekniken, särskilt när det gäller programvara, enligt vad som föreskrivs i kontraktet eller stadgas i unionsrätten eller nationell rätt. Utvecklare och spridare bör dessutom, när en riskbedömning ger vid handen att detta är påkallat, förse de offentliga myndigheterna med relevanta dokument om hur den ifrågavarande tekniken är avsedd att användas och vilka säkerhetsinstruktioner det därvid gäller att följa. Om det är strikt nödvändigt bör detta också innefatta den källkod, de utvecklingsverktyg och de data som används av systemet, varvid unionsrätten om dataskydd, personlig integritet, immateriella rättigheter och företagshemligheter fullständigt bör följas.

(19)

Enskilda personer har rätt att vänta sig att den teknik som de använder fungerar på ett rimligt sätt och med respekt för deras förtroende. Medborgarnas förtroende för artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, bygger på att de förstår och kan ta till sig de tekniska processerna. Dessa processers förklarbarhetsgrad bör bero på det sammanhang där de tekniska processerna används och på hur svåra konsekvenserna blir om resultatet av dem blir felaktigt eller missvisande på annat sätt och måste vara tillräcklig för att de ska kunna bestridas och prövas rättsligt. Med hjälp av granskningsmöjligheter, spårbarhet och öppenhet bör eventuella obegripligheter i samband med sådan teknik kunna åtgärdas.

(20)

Samhällets förtroende för artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, beror på i vilken utsträckning den berörda tekniken kan bedömas, granskas och spåras. Utvecklare bör säkerställa att sådan teknik utformas och byggs upp på ett sådant sätt att det går att bedöma, granska och spåra den, om de haft så stor andel i teknikens utveckling att detta ställer sig nödvändigt. Utvecklare, spridare och användare bör, inom gränserna för vad som är tekniskt möjligt, säkerställa att artificiell intelligens, robotteknik och tillhörande teknik sprids och används med full respekt för öppenhetskraven och kan granskas och spåras.

(21)

För att säkerställa öppenhet och ansvarsskyldighet bör medborgarna informeras när ett system använder artificiell intelligens, samt när system för artificiell intelligens användaranpassar en produkt eller tjänst, och om huruvida det går att stänga av eller begränsa användaranpassningen, och likaså bör de informeras när de ställs inför teknik för automatiserat beslutsfattande. Åtgärderna för öppenhet bör dessutom, så långt det är tekniskt möjligt, åtföljas av klara och begripliga förklaringar av vilka data som används, hur algoritmen fungerar, vad den har för syfte och resultat, samt vilka risker den kan innebära.

(22)

Snedvridning och diskriminering genom programvara, algoritmer och data är olagligt och bör åtgärdas med hjälp av reglering av de processer genom vilka de utformas och sprids. Snedvridning kan bli en följd såväl av beslut som får sitt informationsunderlag från automatiska system eller fattas av dessa system som av dataset som ligger till grund för beslutsfattandet eller för systemets inlärning.

(23)

Programvara, algoritmer och data som används eller tas fram av artificiell intelligens, robotteknik och tillhörande teknik bör betraktas som snedvridande om de till exempel ger suboptimala resultat i förhållande till en person eller grupp av personer på grundval av en fördomsfull personlig eller social uppfattning och efterföljande behandling av data som rör personliga särdrag.

(24)

Såsom det förutsätts i unionsrätten bör programvara, algoritmer och data som används eller tas fram med hjälp av artificiell intelligens, robotteknik och tillhörande teknik betraktas som diskriminerande om de avsätter resultat med oproportionerligt negativa effekter och, utan objektiva eller rimliga skäl, leder till särbehandling av en person eller en grupp av personer, bland annat genom att de missgynnas jämfört med andra personer på sådana grunder som personliga särdrag, oavsett vilka påståenden om neutralitet som må göras om denna teknik.

(25)

Såsom det förutsätts i unionsrätten kan enligt denna förordning såsom legitima mål som objektivt kan motivera särbehandling av personer eller grupper av personer betraktas följande: skydd av allmän säkerhet och folkhälsa, brottsförebyggande, skydd av grundläggande rättigheter och friheter, rättvis representation och objektiva krav för utövandet av något yrke.

(26)

Artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, bör bidra till hållbara framsteg. Sådan teknik bör inte motverka miljöbevarandet eller den gröna omställningen. Den skulle kunna bli viktig för uppnåendet av de mål för hållbar utveckling som fastställts av FN så att framtida generationer kan blomstra. Sådan teknik kan hjälpa oss att övervaka att det görs adekvata framsteg på grundval av indikatorer för hållbarhet och social sammanhållning och genom användning av ansvarsfulla forsknings- och innovationsverktyg som kräver mobilisering av medel i unionen och medlemsstaterna för stöd till och investeringar i projekt som rör dessa mål.

(27)

Utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, bör på inget sätt avsiktligt orsaka eller genom sin utformning acceptera att enskilda personer eller samhället självt drabbas av skada eller förfång, oavsett av vilket slag. Därav följer att man bör visa socialt ansvar framför allt när högriskteknik utvecklas, sprids och används.

(28)

Därför bör utvecklare, spridare och användare, i den utsträckning de arbetar med dessa former av artificiell intelligens, robotteknik eller tillhörande teknik, i enlighet med unionens ansvarsregler eller nationella ansvarsregler hållas ansvariga för all skada och allt förfång som orsakats enskilda och samhället.

(29)

I synnerhet bör de utvecklare som genom sitt beslutsfattande bestämmer och kontrollerar i vilken riktning eller på vilket sätt artificiell intelligens, robotteknik och tillhörande teknik utvecklas, liksom spridare som genom sitt beslutsfattande deltar i spridningen av den, och som utövar kontroll över riskerna i samband med spridningen eller drar nytta av den i kraft av en styr- eller ledningsfunktion, generellt anses som ansvariga för att skada eller förfång inte uppstår, varför de bör införa lämpliga åtgärder under utvecklingsprocessen och noggrant respektera dessa åtgärder under spridningsfasen.

(30)

Socialt ansvarsfull artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller genereras av sådan teknik, kan definieras som teknik som bidrar till att finna lösningar som skyddar och främjar olika samhällsmål, framför allt demokrati, hälsa och ekonomiskt välstånd, lika möjligheter, arbetstagarrättigheter och sociala rättigheter, medier som kännetecknas av mångfald och oberoende, objektiv och fritt tillgänglig information som medger offentlig debatt, utbildning av hög kvalitet, kulturell och språklig mångfald, könsbalans, digital kompetens, innovation och kreativitet. Hit hör också teknik som utvecklas, sprids och används med vederbörlig hänsyn till sina slutliga konsekvenser för medborgarnas fysiska och psykiska välbefinnande och som inte gynnar hatpropaganda eller våld. Sådana mål bör framför allt högrisktekniken uppnå.

(31)

Artificiell intelligens, robotteknik och tillhörande teknik, bör också utvecklas, spridas och användas för att stödja social delaktighet, demokrati, mångfald, solidaritet, rättvisa, jämlikhet och samarbete, varvid dess potential bör maximeras och undersökas genom forsknings- och innovationsprojekt. Unionen och dess medlemsstater bör därför mobilisera sina kommunikations- och förvaltningsresurser och sina ekonomiska resurser i syfte att stödja och investera i sådana projekt.

(32)	Projekt som avser potentialen för artificiell intelligens, robotteknik och tillhörande teknik att hantera frågor som rör social välfärd bör genomföras på grundval av ansvarsfulla forsknings- och innovationsverktyg så att det från första början garanteras att projekten följer etiska principer.

(33)

Vid utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, bör det tas hänsyn till miljöavtrycket. Enligt förpliktelserna i tillämplig unionsrätt bör sådan teknik inte vara miljöskadlig under sin livscykel och utmed hela leveranskedjan, och bör utvecklas, spridas och användas på ett sätt som bevarar miljön, begränsar och avhjälper dess miljöavtryck, bidrar till den gröna omställningen och stöder uppnåendet av klimatneutralitet och målen för den cirkulära ekonomin.

(34)

Vid tillämpningen av denna förordning bör, i enlighet med gällande miljöansvarsregler, utvecklare, spridare och användare hållas ansvariga för alla miljöskador, i den respektive utsträckning som de deltar i utvecklingen, spridningen eller användningen av någon form av artificiell intelligens, robotteknik eller tillhörande teknik.

(35)

Denna teknik bör också utvecklas, spridas och användas i syfte att stödja uppnåendet av miljömål i enlighet med tillämplig unionsrätt, såsom minskad avfallsproduktion, minskat koldioxidavtryck, motverkande av klimatförändringar och bevarande av miljön, varvid dess potential bör maximeras och undersökas genom forsknings- och innovationsprojekt. Unionen och medlemsstaterna bör därför mobilisera sina kommunikations- och förvaltningsresurser och sina ekonomiska resurser i syfte att stödja och investera i sådana projekt.

(36)	Projekt som avser potentialen för artificiell intelligens, robotteknik och tillhörande teknik att hantera miljöfrågor bör genomföras på grundval av ansvarsfulla forsknings- och innovationsverktyg, så att det från första början garanteras att projekten följer etiska principer.

(37)

Artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, som utvecklas, sprids och används i unionen, bör till fullo respektera unionsmedborgarnas rätt till integritet och skydd av personuppgifter. I synnerhet bör tekniken utvecklas, spridas och användas i enlighet med bestämmelserna i Europaparlamentets och rådets förordning (EU) 2016/679 (2) och Europaparlamentets och rådets direktiv 2002/58/EG (3).

(38)

Framför allt bör de etiska begränsningarna för användningen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik vederbörligen beaktas vid användning av fjärridentifieringsteknik, såsom igenkänning av biometriska egenskaper, framför allt ansiktsigenkänning, för att automatiskt identifiera enskilda personer. När skäl av betydande allmänintresse föranleder offentliga myndigheter att använda sådan teknik, framför allt för att garantera enskilda personers säkerhet och vidta åtgärder i nationella nödlägen, men inte för att garantera egendomssäkerhet, bör det alltid informeras om att den används och användningen bör vara proportionerlig, målinriktad, begränsad till särskilda mål och tidsbegränsad i enlighet med unionslagstiftningen, varjämte man vid användningen bör ta vederbörlig hänsyn till människans värdighet och självbestämmanderätt och till de grundläggande rättigheterna i stadgan. Kriterier och gränser för sådan användning bör bli föremål för rättslig prövning och underställas demokratisk tillsyn och debatt med deltagande av det civila samhället.

(39)

Styrning som grundas på relevanta standarder stärker säkerheten och är bra för ökat medborgarförtroende för utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik.

(40)	Offentliga myndigheter bör bedöma konsekvenserna för de grundläggande rättigheterna innan de sprider högriskteknik som stöder beslut som fattas inom den offentliga sektorn och får direkta och betydande konsekvenser för medborgarnas rättigheter och skyldigheter.

(41)

Bland de relevanta standarderna för styrning märks till exempel Ethics Guidelines for Trustworthy AI (etiska riktlinjer för tillförlitlig AI) som utarbetats av kommissionens högnivåexpertgrupp för AI-frågor, och eventuella andra tekniska standarder, såsom de som antagits av Europeiska standardiseringskommittén (CEN), Europeiska kommittén för elektroteknisk standardisering (Cenelec) och Europeiska institutet för telekommunikationsstandarder (Etsi) på europeisk nivå, Internationella standardiseringsorganisationen (ISO) och IEEE (Institute of Electrical and Electronics Engineers) på internationell nivå.

(42)

Utbyte och användning av data mellan flera deltagare är känsligt och därför bör utvecklingen, spridningen och användningen av artificiell intelligens, robotteknik och tillhörande teknik styras av relevanta regler, standarder och protokoll som återspeglar kraven på kvalitet, integritet, säkerhet, tillförlitlighet, skydd av privatlivet och kontroll. Datastyrningsstrategin bör inriktas på behandling och utbyte av samt tillgång till sådana data, inbegripet en korrekt förvaltning, granskningsmöjligheter och spårbarhet, och garantera ett korrekt skydd av data om utsatta grupper, bland annat personer med funktionsnedsättning, patienter, barn, minoriteter och migranter eller andra grupper som riskerar utestängning. Dessutom bör utvecklare, spridare och användare i relevanta fall kunna anlita nyckelutförandeindikatorer vid bedömningen av de dataset de använder för att förbättra tillförlitligheten hos den teknik de utvecklar, sprider och använder.

(43)

Medlemsstaterna bör utse en oberoende förvaltningsmyndighet att fungera som tillsynsmyndighet. Varje nationell tillsynsmyndighet bör framför allt ansvara dels för att ta reda på vilken artificiell intelligens, robotteknik och tillhörande teknik som betraktats som högriskteknik utifrån riskbedömningskriterierna i denna förordning, dels för att bedöma huruvida den här tekniken fullgör skyldigheterna enligt denna förordning och övervaka att så sker.

(44)

Varje nationell tillsynsmyndighet bör också ansvara för att god samhällsstyrning tillämpas på denna teknik, under samordning genom försorg av kommissionen och/eller av unionens relevanta institutioner, organ och byråer, som kan utses för ändamålet. De spelar därför en viktig roll för att främja unionsmedborgarnas förtroende och säkerhet, samt för att möjliggöra ett demokratiskt, pluralistiskt och rättvist samhälle.

(45)

Vid sin bedömning av teknik som betraktas som högriskteknik enligt denna förordning och sin övervakning av om tekniken i fråga följer förordningen bör de nationella tillsynsmyndigheterna i förekommande fall samarbeta med de myndigheter som ansvarar dels för att bedöma och övervaka denna teknik dels för att genomdriva att den följer sektorslagstiftningen.

(46)

Nationella tillsynsmyndigheter bör bedriva omfattande och regelbundet samarbete sinsemellan samt med kommissionen och andra relevanta institutioner, organ och byråer i unionen, i syfte att garantera samstämda gränsöverskridande åtgärder och möjliggöra en konsekvent utveckling, spridning och användning av denna teknik inom unionen i överensstämmelse med de etiska principer och rättsliga förpliktelser som fastställs i denna förordning.

(47)

Vid detta samarbete bör de nationella tillsynsmyndigheterna, för att fullständig harmonisering ska uppnås på unionsnivå, hjälpa kommissionen med att sammanställa en gemensam och uttömmande förteckning över högriskförknippad artificiell intelligens, robotteknik och tillhörande teknik, i enlighet med kriterierna i denna förordning och i bilagan till den. Dessutom bör det tas fram en process för beviljande av ett europeiskt certifikat om etisk efterlevnad, så att varje utvecklare, spridare och användare av teknik som inte betraktas som högriskteknik frivilligt kan ansöka om certifiering av sina produkters överensstämmelse med denna förordning.

(48)

De nationella tillsynsmyndigheterna bör säkerställa att så många berörda parter som möjligt deltar, såsom näringsliv, företag, arbetsmarknadens parter, forskare, konsumenter och organisationer i det civila samhället, och skapa ett pluralistiskt forum för reflektion och diskussion i syfte att uppnå begripliga och korrekta slutsatser till vägledning för regleringen av styrningen.

(49)

De nationella tillsynsmyndigheterna bör säkerställa att så många berörda parter som möjligt deltar, såsom näringsliv, företag, arbetsmarknadsparter, forskare, konsumenter och organisationer i det civila samhället, och skapa ett pluralistiskt forum för reflektion och diskussion, för att underlätta samarbetet med och samverkan mellan berörda parter, framför allt från den akademiska världen, forskningens värld, näringslivet, det civila samhället och enskilda experter, i syfte att uppnå begripliga och korrekta slutsatser till vägledning för regleringen av styrningen.

(50)

De nationella tillsynsmyndigheterna bör dessutom tillhandahålla professionell administrativ vägledning och stöd till utvecklare, spridare och användare, i synnerhet små och medelstora företag eller nystartade företag, när det gäller att följa de etiska principer och rättsliga förpliktelser som fastställs i förordningen.

(51)

Kommissionen och/eller av frågan berörda bland unionens institutioner, organ och byråer vilka eventuellt kan komma att utses för detta ändamål bör sammanställa bindande riktlinjer med vägledning för de nationella tillsynsmyndigheterna om vilka metoder de bör använda vid sin bedömning av efterlevnaden.

(52)

Visselblåsning säkerställer att potentiella och faktiska överträdelser av unionsrätten uppmärksammas av myndigheterna så att skada, förfång eller annan olägenhet som annars skulle uppstå kan förebyggas. Dessutom förbättrar rapporteringsförfarandena informationsflödet inom företag och organisationer, vilket minskar risken för att bristfälliga eller felaktiga produkter eller tjänster utvecklas. Företag och organisationer som utvecklar, sprider eller använder artificiell intelligens, robotteknik och tillhörande teknik, inbegripet data som används eller tas fram av denna teknik, bör införa rapporteringskanaler och personer som rapporterar överträdelser bör skyddas mot repressalier.

(53)

Den snabba utvecklingen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, liksom av teknisk maskininlärning, resonemang och annan teknik som ligger till grund för den utvecklingen är oförutsägbar. Det är därför både lämpligt och nödvändigt att inrätta en översynsmekanism enligt vilken kommissionen, utöver sin rapportering om tillämpningen av förordningen, regelbundet ska lägga fram en rapport om en eventuell ändring av tillämpningsområdet för den.

(54)

Eftersom målet för denna förordning, nämligen att upprätta en gemensam rättslig ram med etiska principer och rättsliga förpliktelser för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik i unionen, inte i tillräcklig utsträckning kan uppnås av medlemsstaterna utan snarare, på grund av sin omfattning och sina verkningar, kan bättre uppnås på unionsnivå, kan unionen vidta åtgärder i enlighet med subsidiaritetsprincipen i artikel 5 i fördraget om Europeiska unionen. I enlighet med proportionalitetsprincipen i samma artikel går denna förordning inte utöver vad som är nödvändigt för att uppnå detta mål.

(55)

Samordning på unionsnivå enligt vad som fastställs i denna förordning kan bäst åstadkommas av kommissionen och/eller av unionens av frågan berörda institutioner, organ och byråer som kan komma att utses i detta sammanhang, för att undvika fragmentering och säkerställa en konsekvent tillämpning av förordningen i hela unionen. Kommissionen bör därför få i uppdrag att hitta en lämplig lösning på hur denna samordning kan läggas upp på unionsnivå, med tanke på samordningen av de uppdrag som getts åt och de åtgärder som vidtas av de nationella tillsynsmyndigheterna i varje medlemsstat, dels i fråga om riskbedömning av artificiell intelligens, robotteknik och tillhörande teknik, inrättande av en gemensam ram för styrning av utvecklingen, spridningen och användningen av denna teknik, samt framtagning och utfärdande av certifikat över att de etiska principerna och rättsliga förpliktelserna i denna förordning efterlevs, dels i fråga om stöd till regelbundna utbyten med berörda parter och det civila samhället, inrättande av ett expertcentrum som sammanför den akademiska världen, forskningens värld, näringslivet och enskilda experter på unionsnivå för att stimulera till utbyte av kunskaper och teknisk sakkunskap, främjande av unionens tillvägagångssätt med hjälp av internationellt samarbete och säkerställande av att man i hela världen reagerar konsekvent på de möjligheter och risker som denna teknik innebär.

HÄRIGENOM FÖRESKRIVS FÖLJANDE:

Kapitel I

ALLMÄNNA BESTÄMMELSER

Artikel 1

Syfte

Syftet med denna förordning är att upprätta en heltäckande och framtidssäkrad unionsrättslig ram med etiska principer och rättsliga förpliktelser för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik i unionen.

Artikel 2

Tillämpningsområde

Denna förordning ska tillämpas på artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, som utvecklas, sprids eller används i unionen.

Artikel 3

Geografisk täckning

Denna förordning ska tillämpas på artificiell intelligens, robotteknik och tillhörande teknik när någon del av den utvecklas, sprids eller används i unionen, oberoende av om programvara, algoritmer eller data som används eller tas fram av sådan teknik är belägna utanför unionen eller inte har någon specifik geografisk förläggningsort.

Artikel 4

Definitioner

I denna förordning gäller följande definitioner:

AI-system: ett system som antingen är programvarubaserat eller inbäddat i maskinvaruenheter och uppvisar intelligent beteende, bland annat genom att samla in och behandla data, analysera och tolka sin miljö och genom att vidta åtgärder, med en viss grad av självständighet, för att uppnå specifika mål (4),

självständighet: ett AI-system som fungerar genom att tolka vissa indata genom att använda en uppsättning på förhand fastställda instruktioner, utan att vara begränsad till dessa instruktioner, trots att dess beteende begränsas av, och är inriktat på, det mål som det tilldelats och andra relevanta utformningsval som gjorts av utvecklaren,

c)	robotteknik: teknik som gör det möjligt för automatiskt styrda, omprogrammerbara, universella maskiner (5) att utföra uppgifter som i den fysiska världen brukar utföras av människor, inbegripet genom artificiell intelligens eller tillhörande teknik,

d)	tillhörande teknik: teknik med vars hjälp programvara med partiell eller full grad av självständighet kan kontrollera en fysisk eller virtuell process, teknik som kan upptäcka biometriska, genetiska eller andra uppgifter och teknik som kopierar eller på annat sätt utnyttjar mänskliga drag,

hög risk: en betydande risk för att utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik kan bli till skada eller förfång för enskilda personer eller för samhället, genom att det därvid bryts mot i unionslagstiftningen förankrade grundläggande rättigheter och säkerhetsregler, varvid hänsyn ska tas till användningens eller ändamålets särdrag, samt till sektorn inom vilken tekniken utvecklas, sprids eller används och till svårhetsgraden av den skada eller det förfång som kan förväntas uppkomma,

utveckling: konstruktion och utformning av algoritmer, utarbetande och utveckling av programvara eller insamling, lagring och hantering av data för att skapa eller träna artificiell intelligens, robotteknik och tillhörande teknik, eller för att skapa en ny tillämpning för befintlig artificiell intelligens, robotteknik och tillhörande teknik,

g)	utvecklare: fysisk eller juridisk person som fattar beslut som bestämmer och kontrollerar i vilken riktning eller på vilket sätt artificiell intelligens, robotteknik och tillhörande teknik utvecklas,

h)	spridning: drift och hantering av artificiell intelligens, robotteknik och tillhörande teknik samt utsläppande på marknaden eller andra sätt på vilka tekniken görs tillgänglig för användarna,

i)	spridare: fysisk eller juridisk person som arbetar med spridning av artificiell intelligens, robotteknik och tillhörande teknik och därvid utövar en styr- eller ledningsfunktion genom att fatta beslut, kontrollera riskerna i samband med spridningen och drar nytta av spridningen,

j)	användning: all verksamhet relaterad till artificiell intelligens, robotteknik och tillhörande teknik som inte utgörs av utveckling eller spridning,

k)	användare: fysisk eller juridisk person som använder artificiell intelligens, robotteknik och tillhörande teknik för andra ändamål än för utveckling eller spridning,

l)	snedvridning: fördomsfull personlig eller social uppfattning om en person eller en grupp av personer på basis av personliga särdrag,

m)	diskriminering: alla former av differentierad behandling av en person eller en grupp av personer på grunder utan objektiv och rimlig motivering och som därför är förbjuden enligt unionsrätten,

skada eller förfång: personskada i form av fysiskt eller psykiskt lidande, jämte sakskada eller immateriell skada såsom finansiell eller ekonomisk förlust, förlust av arbete eller möjlighet till utbildning, oskälig inskränkning av valfrihet eller yttrandefrihet eller förlust av personlig integritet, samt envar överträdelse av unionsrätten som blir till förfång för en person, också om den haft sin grund i hatpropaganda, snedvridning, diskriminering eller stigmatisering,

god samhällsstyrning: det sätt på vilket det säkerställs att utvecklare, spridare och användare på basis av en formell uppsättning regler, förfaranden och värden antar och iakttar lämpliga och rimliga standarder och uppförandekoder, som gör det möjligt för dem att på lämpligt sätt hantera etiska frågor när eller innan de uppstår.

Artikel 5

Etiska principer för artificiell intelligens, robotteknik och tillhörande teknik

1. Vid all utveckling, spridning och användning i unionen av artificiell intelligens, robotteknik och tillhörande teknik inbegripet programvara, algoritmer och data som används eller genereras av sådan teknik ska unionsrätten följas och människans värdighet, självbestämmanderätt och säkerhet jämte andra grundläggande rättigheter enligt stadgan fullständigt respekteras.

2. All behandling av personuppgifter i samband med utveckling, spridning och användning i unionen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet personuppgifter som härrör från icke-personuppgifter och biometriska uppgifter, ska genomföras i enlighet med förordning (EU) 2016/679 och direktiv 2002/58/EG.

3. Unionen och dess medlemsstater ska uppmuntra forskningsprojekt avsedda att tillhandahålla lösningar som bygger på artificiell intelligens, robotteknik och tillhörande teknik och vars syfte är att främja social delaktighet, demokrati, mångfald, solidaritet, rättvisa, jämlikhet och samarbete.

Kapitel II

Skyldigheter avseende högriskteknik

Artikel 6

Skyldigheter avseende högriskteknik

1. Bestämmelserna i detta kapitel ska enbart tillämpas på artificiell intelligens, robotteknik och tillhörande teknik – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – som utvecklas, sprids eller används i unionen och som betraktas som högriskteknik.

2. All artificiell intelligens, robotteknik och tillhörande teknik med hög risk – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – ska utvecklas, spridas och användas på ett sätt som säkerställer att de etiska principer som fastställs i denna förordning inte överträds.

Artikel 7

Människocentrerad och av människan skapad artificiell intelligens

1. All artificiell högriskteknik – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – ska utvecklas, spridas och användas på ett sätt som garanterar full mänsklig tillsyn vid varje tillfälle.

2. Den teknik som avses i punkt 1 ska utvecklas, spridas och användas på ett sätt som gör det möjligt att återfå full mänsklig kontroll när så behövs, bland annat genom att tekniken modifieras eller stoppas.

Artikel 8

Säkerhet, transparens och ansvarsskyldighet

1. All artificiell intelligens, robotteknik och tillhörande teknik med hög risk – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – ska utvecklas, spridas och användas på ett sätt som säkerställer att den

utvecklas, sprids och används på ett motståndskraftigt sätt, så att en tillräcklig säkerhetsnivå säkerställs genom att minimivärden för it-säkerhet som står i proportion till den identifierade risken respekteras, och på ett sätt som förhindrar att den tekniska sårbarheten utnyttjas för illvilliga eller olagliga ändamål,

b)	utvecklas, sprids och används på ett säkert sätt som säkerställer att det finns skyddsåtgärder som inbegriper en reservplan och nödåtgärder i fall av en säkerhetsrisk,

c)	utvecklas, sprids och används på ett sätt som säkerställer sådana tillförlitliga resultat som rimligen kan förväntas av användaren när det gäller de syften och den verksamhet som tekniken har utformats för, bland annat genom att det säkerställs att alla processer är reproducerbara,

utvecklas, sprids och används på ett sätt som säkerställer exakta resultat för den berörda tekniken vad avser dess syften och verksamhet; om exakthet inte alltid kan uppnås ska systemet i möjligaste mån på lämpligt sätt underrätta spridare och användare om sannolikheten för felaktigheter och inexaktheter,

e)	utvecklas, sprids och används på ett enkelt förklarbart sätt så att det säkerställs att teknikens tekniska processer kan ses över,

utvecklas, sprids och används på ett sådant sätt att användarna blir upplysta om att de interagerar med system baserade på artificiell intelligens, med en lämplig och heltäckande redogörelse för systemens kapacitet, exakthet och begränsningar riktad till utvecklare, spridare och användare av artificiell intelligens,

g)	i enlighet med artikel 6 utvecklas, sprids och används på ett sätt som, för det fall att de säkerhetskrav som anges i leden a–g inte efterlevs, möjliggör en tillfällig inaktivering av de berörda funktionerna och en återgång till ett tidigare läge där säkra funktioner återställs.

2. I enlighet med artikel 6.1 ska den teknik som avses i punkt 1 i den här artikeln – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – utvecklas, spridas och användas på ett transparent och spårbart sätt så att dess beståndsdelar, processer och faser dokumenteras enligt högsta möjliga och tillämpliga standarder och så att de nationella tillsynsmyndigheter som avses i artikel 18 kan bedöma om tekniken är förenlig med de skyldigheter som fastställs i denna förordning. Utvecklaren, spridaren eller användaren av denna teknik ska i synnerhet ansvara för, och kunna påvisa, att de säkerhetskrav som anges i punkt 1 har efterlevts.

3. Utvecklaren, spridaren eller användaren av den teknik som avses i punkt 1 ska se till att de åtgärder som vidtas för att säkerställa att de säkerhetskrav som anges i punkt 1 efterlevs kan granskas av de nationella tillsynsmyndigheter som avses i artikel 18 eller, i tillämpliga fall, andra nationella eller europeiska sektorsspecifika tillsynsorgan.

Artikel 9

Icke-snedvridning och icke-diskriminering

1. Programvara, algoritmer eller data som används eller tas fram av artificiell intelligens, robotteknik och tillhörande teknik med hög risk och som utvecklas, sprids eller används i unionen får inte vara snedvridande och får, utan att det påverkar tillämpningen av punkt 2, inte innebära diskriminering på grund av ras, kön, sexuell läggning, graviditet, funktionsnedsättning, fysiska eller genetiska särdrag, ålder, nationell minoritet, etnicitet eller socialt ursprung, språk, religion eller övertygelse, politiska åsikter eller medborgardeltagande, medborgarskap, civilstånd eller ekonomisk ställning, utbildning eller förekomst i kriminalregister.

2. Genom undantag från punk 1, och utan att det påverkar tillämpningen av unionsrätten i fråga om olaglig diskriminering, kan särbehandling av personer eller grupper av personer vara berättigad endast om det föreligger ett objektivt, rimligt och legitimt syfte som är både proportionerligt och nödvändigt i så måtto att det inte finns något alternativ som skulle innebära ett mindre ingrepp i principen om likabehandling.

Artikel 10

Socialt ansvar och jämställdhet

All artificiell intelligens, robotteknik och tillhörande teknik med hög risk – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – som utvecklas, sprids och används i unionen ska utvecklas, spridas och användas i enlighet med unionens relevanta lagstiftning, principer och värden på ett sätt som inte innebär ett ingrepp i val eller bidrar till spridning av desinformation, respekterar arbetstagarnas rättigheter, främjar utbildning av hög kvalitet och digital kompetens, inte ökar klyftan mellan könen genom att förhindra lika möjligheter för alla och inte inkräktar på immateriella rättigheter och eventuella begränsningar eller undantag till dessa.

Artikel 11

Miljöhållbarhet

All artificiell intelligens, robotteknik och tillhörande teknik med hög risk – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – ska bedömas med avseende på dess miljöhållbarhet av de nationella tillsynsmyndigheter som avses i artikel 18, eller, i tillämpliga fall, andra nationella eller europeiska sektorsspecifika tillsynsorgan, för att säkerställa att åtgärder vidtas för att mildra och avhjälpa dess allmänna inverkan på naturresurser, energiförbrukning, avfallsproduktion, koldioxidavtryck, klimatförändringar och miljöförstöring i syfte att säkerställa efterlevnaden av tillämplig unionsrätt eller nationell rätt samt alla andra internationella miljöåtaganden som unionen har gjort.

Artikel 12

Personlig integritet och skydd av personuppgifter

Användning och insamling av biometriska uppgifter för fjärridentifiering på offentlig plats, genom exempelvis biometri eller ansiktsigenkänning, innebär specifika risker för de grundläggande rättigheterna, och denna teknik ska spridas eller användas av medlemsstaternas offentliga myndigheter endast för tungt vägande ändamål av allmänt intresse. Dessa myndigheter ska säkerställa att sådan spridning eller användning redovisas öppet för allmänheten och är proportionell, målinriktad, begränsad till specifika mål och platser samt tidsbegränsad, i enlighet med unionsrätten och nationell rätt, särskilt förordning (EU) 2016/679 och direktiv 2002/58/EG, och sker med vederbörlig hänsyn till människans värdighet och självbestämmande och de grundläggande rättigheter som fastställs i stadgan, nämligen rätten till personlig integritet och skydd av personuppgifter.

Artikel 13

Rätt till gottgörelse

Varje fysisk eller juridisk person ska ha rätt att söka gottgörelse för skada som orsakats av utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik med hög risk – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – i strid med unionsrätten och de skyldigheter som fastställs i denna förordning.

Artikel 14

Riskbedömning

1. Vid tillämpningen av denna förordning ska artificiell intelligens, robotteknik och tillhörande teknik – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – betraktas som högriskteknik om utvecklingen, spridningen eller användningen av den medför en betydande risk att orsaka skada som kan förväntas uppkomma för enskilda personer eller samhället i strid med de grundläggande rättigheter och säkerhetsbestämmelser som fastställs i unionsrätten, efter en riskbedömning baserad på objektiva kriterier såsom teknikens specifika användningsområde eller ändamål, i vilken sektor den utvecklas, sprids eller används samt hur allvarlig den eventuella skadan är.

2. Utan att det påverkar tillämplig sektorsspecifik lagstiftning ska riskbedömningen av artificiell intelligens, robotteknik och tillhörande teknik – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – utföras i enlighet med de objektiva kriterier som föreskrivs i punkt 1 i denna artikel och i den uttömmande och kumulativa förteckning som anges i bilagan till denna förordning, av de nationella tillsynsmyndigheter som avses i artikel 18, under samordning av kommissionen och/eller andra relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses för detta ändamål inom ramen för samarbetet.

3. I samarbete med de nationella tillsynsmyndigheter som avses i punkt 2 ska kommissionen, genom delegerade akter i enlighet med artikel 20, upprätta och därefter uppdatera en gemensam förteckning över högrisktekniker som identifierats inom unionen.

4. Kommissionen ska också, genom delegerade akter i enlighet med artikel20, regelbundet uppdatera den förteckning som föreskrivs i bilagan till denna förordning.

Artikel 15

Bedömning av efterlevnaden

1. Artificiell intelligens, robotteknik och tillhörande teknik med hög risk ska bli föremål för en bedömning av efterlevnaden av de skyldigheter som anges i artiklarna 6–12 i denna förordning samt efterföljande övervakning, vilka båda ska utföras av de nationella tillsynsmyndigheter som avses i artikel 18, under samordning av kommissionen och/eller andra relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses för detta ändamål.

2. Programvara, algoritmer eller data som används eller tas fram av högriskteknik som har bedömts uppfylla de skyldigheter som anges i denna förordning enligt punkt 1 ska också anses uppfylla dessa skyldigheter, såvida inte den berörda nationella tillsynsmyndigheten beslutar att göra en bedömning på eget initiativ eller på begäran av utvecklaren, spridaren eller användaren.

3. Utan att det påverkar sektorsspecifik lagstiftning ska kommissionen, och/eller berörda unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses specifikt för detta ändamål, senast den dag då denna förordning träder i kraft utarbeta bindande riktlinjer om vilka metoder som ska användas av de nationella tillsynsmyndigheterna för den bedömning av efterlevnaden som avses i artikel 1.

Artikel 16

Europeiskt intyg om etisk efterlevnad

1. Om det i enlighet med artikel 15 har gjorts en positiv bedömning av efterlevnaden avseende artificiell intelligens, robotteknik och tillhörande teknik med hög risk, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, ska respektive nationell tillsynsmyndighet utfärda ett europeiskt intyg om etisk efterlevnad.

2. Varje utvecklare, spridare eller användare av artificiell intelligens, robotteknik och tillhörande teknik – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – som inte betraktas som högriskteknik och därför inte omfattas av de skyldigheter som anges i artiklarna 6–12 eller är föremål för den riskbedömning och bedömning av efterlevnad som föreskrivs i artiklarna 14 respektive 15, får också ansöka om intyg om efterlevnad av de skyldigheter som fastställs i denna förordning, eller en del av dem, där detta är motiverat på grund av den berörda teknikens natur enligt de nationella tillsynsmyndigheternas beslut. Ett intyg ska utfärdas endast om en bedömning av efterlevnad har utförts av den berörda nationella tillsynsmyndigheten och denna bedömning är positiv.

3. För utfärdandet av det intyg som avses i punkt 2 ska ett ansökningsförfarande utvecklas av kommissionen och/eller andra relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses för detta ändamål.

Kapitel III

Institutionell tillsyn

Artikel 17

Styrningsstandarder och riktlinjer för genomförandet

1. Artificiell intelligens, robotteknik och tillhörande teknik som utvecklas, sprids eller används i unionen ska följa relevanta styrningsstandarder som fastställts i enlighet med unionens lagstiftning, principer och värden av de nationella tillsynsmyndigheter som avses i artikel 18 i enlighet med unionsrätten, principer och värden, under samordning av kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses för detta ändamål och i samråd med berörda parter.

2. De standarder som avses i punkt 1 ska inbegripa icke-bindande riktlinjer för genomförandet avseende metoderna för utvecklarnas, spridarnas och användarnas efterlevnad av denna förordning och ska offentliggöras senast den dag då denna förordning träder i kraft.

3. Data som används eller tas fram av artificiell intelligens, robotteknik och tillhörande teknik som utvecklas, sprids eller används i unionen ska hanteras av utvecklare, spridare och användare i enlighet med relevanta regler och standarder som används på nationell nivå, inom unionen, av andra europeiska organisationer samt på internationell nivå, liksom relevanta bransch- och affärsregler. Utvecklare och spridare ska i synnerhet, där så är möjligt, utföra kvalitetskontroller av de externa datakällor som används av artificiell intelligens, robotteknik och tillhörande teknik och införa tillsynsmekanismer för sin insamling, lagring, behandling och användning av data.

4. Utan att det påverkar portabilitetsrättigheter och rättigheter för personer vars användning av artificiell intelligens, robotteknik och tillhörande teknik har genererat data ska insamling, lagring, behandling och delning av samt tillgång till data som används eller tas fram av artificiell intelligens, robotteknik och tillhörande teknik som utvecklas, sprids eller används i unionen ske i överensstämmelse med relevanta regler och standarder som används på nationell nivå, inom unionen, av andra europeiska organisationer samt på internationell nivå, liksom relevanta bransch- och affärsregler. Utvecklare och spridare ska i synnerhet se till att dessa regler tillämpas under utvecklingen och spridningen av artificiell intelligens, robotteknik och tillhörande teknik, genom att tydligt definiera kraven för behandling av och beviljande av tillgång till data som används eller tas fram av denna teknik, liksom behandlingens syfte, räckvidd och mottagare samt beviljandet av tillgång till sådana data, som alltid i sin helhet ska gå att granska och spåra.

Artikel 18

Tillsynsmyndigheter

1. Varje medlemsstat ska utse en oberoende offentlig myndighet som ska ansvara för att övervaka tillämpningen av denna förordning (tillsynsmyndighet) och för utförandet av de riskbedömningar och bedömningar av efterlevnad samt det utfärdande av intyg som föreskrivs i artiklarna 14, 15 och 16, utan att det påverkar sektorsspecifik lagstiftning.

2. Varje nationell tillsynsmyndighet ska bidra till en enhetlig tillämpning av denna förordning i hela unionen. För detta ändamål ska tillsynsmyndigheterna i varje medlemsstat samarbeta med varandra, kommissionen och/eller andra berörda unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses för detta ändamål.

3. Varje nationell tillsynsmyndighet ska fungera som första kontaktpunkt vid misstanke om överträdelse av de etiska principer och rättsliga skyldigheter som fastställs i denna förordning, inbegripet diskriminerande behandling eller kränkning av andra rättigheter, till följd av utvecklingen, spridningen eller användningen av artificiell intelligens, robotteknik och tillhörande teknik. I sådana fall ska respektive nationell tillsynsmyndighet utföra en bedömning av efterlevnaden i syfte att stödja medborgarnas rätt till prövning och gottgörelse.

4. Varje nationell tillsynsmyndighet ska ansvara för att övervaka tillämpningen av de relevanta nationella, europeiska och internationella regler och standarder som avses i artikel 17 på artificiell intelligens, robotteknik och tillhörande teknik, bland annat genom att samarbeta med så många berörda parter som möjligt. För detta ändamål ska tillsynsmyndigheterna i varje medlemsstat tillhandahålla ett forum för regelbundet utbyte med och mellan berörda parter från den akademiska världen, forskarvärlden, branschen och det civila samhället.

5. Varje nationell tillsynsmyndighet ska ge professionell och administrativ vägledning och stöd rörande det allmänna genomförandet av den unionslagstiftning som är tillämplig på artificiell intelligens, robotteknik och tillhörande teknik samt de etiska principer som fastställs i denna förordning, särskilt åt relevanta organisationer som ägnar sig åt forskning och utveckling samt små och medelstora företag eller uppstartsföretag.

6. Varje medlemsstat ska senast den … [EUT: ett år efter ikraftträdandet] till kommissionen anmäla de rättsliga bestämmelser som den antar i enlighet med denna artikel, och utan dröjsmål alla efterföljande ändringar som påverkar dem.

7. Medlemsstaterna ska vidta alla nödvändiga åtgärder för att se till att de etiska principer och rättsliga skyldigheter som fastställs i denna förordning genomförs. Medlemsstaterna ska stödja berörda parter och det civila samhället, både på unionsnivå och på nationell nivå, i deras insatser för att säkerställa ett snabbt, etiskt och välgrundat bemötande av de nya möjligheter och utmaningar, särskilt gränsöverskridande sådana, som uppstår till följd av den tekniska utvecklingen i fråga om artificiell intelligens, robotteknik och tillhörande teknik.

Artikel 19

Rapportering av överträdelser och skydd för personer som rapporterar om överträdelser

Europaparlamentets och rådets direktiv (EU) 2019/1937 (6) ska tillämpas på rapportering av överträdelser av denna förordning och skydd för personer som rapporterar om sådana överträdelser.

Artikel 20

Samordning på unionsnivå

1. Kommissionen och/eller relevanta unionsinstitutioner, unionsorgan och unionsbyråer som kan komma att utses i detta sammanhang ska ha följande uppgifter:

—

Säkerställa en konsekvent riskbedömning av artificiell intelligens, robotteknik och tillhörande teknik enligt vad som avses i artikel 14, som ska utföras av de nationella tillsynsmyndigheter som avses i artikel 18 på grundval av de gemensamma objektiva kriterier som anges i artikel 8.1 och i den förteckning över högrisksektorer och användningsområden eller ändamål med hög risk som anges i bilagan till denna förordning.

—	Notera den bedömning av efterlevnad och efterföljande övervakning av artificiell intelligens, robotteknik och tillhörande teknik med hög risk som avses i artikel 15 och som ska utföras av de nationella tillsynsmyndigheter som avses i artikel 18.

—	Utveckla ansökningsförfarandet för det intyg som avses i artikel 16 och som ska utfärdas av de nationella tillsynsmyndigheter som avses i artikel 18.

—	Utan att det påverkar tillämpningen av sektorsspecifik lagstiftning utarbeta de bindande riktlinjer som avses i artikel 17.4 om de metoder som ska användas av de nationella tillsynsmyndigheter som avses i artikel 18.

—

Samordna det fastställande av de relevanta styrningsstandarder som avses i artikel 17 som ska utföras av de nationella tillsynsmyndigheter som avses i artikel 18, inbegripet icke-bindande riktlinjer för genomförandet för utvecklare, spridare och användare avseende metoderna för efterlevnad av denna förordning.

—	Samarbeta med de nationella tillsynsmyndigheter som avses i artikel 18 när det gäller deras bidrag till en enhetlig tillämpning av denna förordning i hela unionen i enlighet med artikel 18.2.

—

Fungera som ett kompetenscentrum genom att främja utbyte av information om artificiell intelligens, robotteknik och tillhörande teknik och stödja utvecklingen av en gemensam förståelse på den inre marknaden, utfärda ytterligare vägledning, yttranden och sakkunskap till de nationella tillsynsmyndigheter som avses i artikel 18, övervaka genomförandet av relevant unionsrätt, fastställa standarder för bästa praxis och vid behov utfärda rekommendationer för regleringsåtgärder. I samband med detta bör man samarbeta med så många berörda parter som möjligt och se till att sammansättningen av beslutsnivåerna säkerställer mångfald och jämställdhet.

—	Stå värd för en arbetsgrupp för säkerhet och försvar som ska undersöka politiska frågor och investeringsfrågor som specifikt rör en etisk användning av artificiell intelligens, robotteknik och tillhörande teknik på säkerhets- och försvarsområdet.

Artikel 21

Utövande av delegering

1. Befogenheten att anta delegerade akter ges till kommissionen med förbehåll för de villkor som anges i denna artikel.

2. Den befogenhet att anta delegerade akter som avses i artikel 14.3 och 14.4 ska ges till kommissionen i en period på fem år från den [dag då denna förordning träder i kraft].

3. Den delegering av befogenhet som avses i artikel 14.3 och 14.4 får när som helst återkallas av Europaparlamentet eller rådet. Ett beslut om återkallelse innebär att delegeringen av den befogenhet som anges i beslutet upphör att gälla. Beslutet får verkan dagen efter det att det offentliggörs i Europeiska unionens officiella tidning eller vid ett senare datum som anges i beslutet. Det påverkar inte giltigheten av delegerade akter som redan har trätt i kraft.

4. Innan kommissionen antar en delegerad akt ska den samråda med experter som utsetts av varje medlemsstat i enlighet med principerna i det interinstitutionella avtalet av den 13 april 2016 om bättre lagstiftning.

5. Så snart kommissionen antar en delegerad akt ska den samtidigt delge Europaparlamentet och rådet denna.

6. En delegerad akt som antas enligt artikel 14.3 och 14.4 ska träda i kraft endast om varken Europaparlamentet eller rådet har gjort invändningar mot den inom en period på tre månader från den dag då akten delgavs Europaparlamentet och rådet, eller om både Europaparlamentet och rådet, före utgången av den perioden, har underrättat kommissionen om att de inte kommer att invända. Denna period ska förlängas med tre månader på Europaparlamentets eller rådets initiativ.

Artikel 22

Ändring av direktiv (EU) 2019/1937

Direktiv (EU) 2019/1937 ska ändras på följande sätt:

(1)

I artikel 2.1 ska följande led läggas till:

”xi)	Utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik.”

(2)

I del I i bilagan ska följande led läggas till:

”K.

Artikel 2.1 a xi – utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik.

’xxi)

Europaparlamentets och rådets förordning [XXX] om etiska principer för utveckling, spridning och användning av artificiell intelligens, robotteknik och tillhörande teknik’.”

Artikel 23

Översyn

Kommissionen ska regelbundet se över utvecklingen av artificiell intelligens, robotteknik och tillhörande teknik, inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik, och ska senast den … [EUT: ett år efter ikraftträdandet], och därefter vart tredje år, lägga fram en rapport för Europaparlamentet, rådet och Europeiska ekonomiska och sociala kommittén om tillämpningen av denna förordning, inbegripet en bedömning av en eventuell ändring av förordningens tillämpningsområde.”

Artikel 24

Ikraftträdande

Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning.

Den ska tillämpas från och med den XX.

Denna förordning är till alla delar bindande och direkt tillämplig i alla medlemsstater.

Utfärdad i …

På Europaparlamentets vägnar

Ordförande

På rådets vägnar

Ordförande

BILAGA

Uttömmande och kumulativ förteckning över högrisksektorer och användningsområden eller ändamål med hög risk vilka medför en risk för kränkning av grundläggande rättigheter och brott mot säkerhetsbestämmelser

Högrisksektorer

—	Sysselsättning

—	Utbildning

—	Hälso- och sjukvård

—	Transporter

—

Energi

—	Offentlig sektor (asyl, migration, gränskontroller, rättsväsen och socialförsäkringstjänster)

—	Försvar och säkerhet

—	Finans, bank, försäkring

Användningsområden eller ändamål med hög risk

—	Rekrytering

—	Betygsättning och bedömning av studerande

—	Tilldelning av offentliga medel

—	Beviljande av lån

—	Värdepappershandel, mäklarverksamhet, beskattning osv.

—	Medicinska behandlingar och förfaranden

—	Valprocesser och politiska kampanjer

—	Beslut inom den offentliga sektorn som har en betydande och direkt inverkan på fysiska eller juridiska personers rättigheter och skyldigheter

—	Automatiserad körning

—	Trafikledning

—	Autonoma militära system

—	Produktion och distribution av energi

—	Avfallshantering

—	Begränsning av utsläpp

(1) För fordonsstyrning har sex nivåer av automatisering av körning föreslagits i SAE:s internationella standard J3016, vilken senast uppdaterats under 2018 till J3016_201806. https://www.sae.org/standards/content/j3016_201806/

(2) Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning (EUT L 119, 4.5.2016, s. 1).

(3) Europaparlamentets och rådets direktiv 2002/58/EG av den 12 juli 2002 om behandling av personuppgifter och integritetsskydd inom sektorn för elektronisk kommunikation (direktiv om integritet och elektronisk kommunikation) (EGT L 201, 31.7.2002, s. 37).

(4) Definition såsom i kommissionens meddelande COM(2018)0237, 25.4.2018, s. 1, anpassad.

(5) Från definitionen på industrirobotar i ISO 8373.

(6) Europaparlamentets och rådets direktiv (EU) 2019/1937 av den 23 oktober 2019 om skydd för personer som rapporterar om överträdelser av unionsrätten (EUT L 305, 26.11.2019, s. 17).