18.7.2018   

SV

Europeiska unionens officiella tidning

C 252/239

—

med beaktande av artikel 225 i fördraget om Europeiska unionens funktionssätt,

—

med beaktande av rådets direktiv 85/374/EEG (1),

—

med beaktande av studien om etiska aspekter på cyberfysiska system (Ethical Aspects of Cyber-Physical Systems), utförd på uppdrag av parlamentets enhet för bedömning av vetenskapliga och tekniska alternativ (Stoa) och administrerad av enheten för vetenskaplig framsyn (Stoa), GD Parlamentarisk utredning och analys (EPRS), och av följande skäl:

—

med beaktande av artiklarna 46 och 52 i arbetsordningen,

—

med beaktande av betänkandet från utskottet för rättsliga frågor och yttrandena från utskottet för transport och turism, utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor, utskottet för sysselsättning och sociala frågor, utskottet för miljö, folkhälsa och livsmedelssäkerhet, utskottet för industrifrågor, forskning och energi och utskottet för den inre marknaden och konsumentskydd (A8-0005/2017),

A.

Ända sedan Mary Shelleys Frankenstein och den klassiska myten om Pygmalion fram till Prags golem och Karel Čapeks robot, genom vilken ordet myntades, har människor fantiserat om möjligheten att bygga tänkande maskiner, ofta i form av androider med mänskliga egenskaper.

B.

Nu när mänskligheten är på väg in i en era då allt mer sofistikerade robotar, bottar, androider och andra manifestationer av artificiell intelligens (AI) tycks stå redo att släppa lös en ny industriell revolution – som sannolikt inte kommer att lämna någon del av samhället oberörd – är det mycket viktigt att lagstiftaren beaktar dess rättsliga och etiska konsekvenser och följdverkningar, utan att kväva innovationen.

C.

Det finns ett behov att skapa en allmänt accepterad definition av robot och AI som är flexibel och inte utgör ett hinder för innovation.

D.

Mellan 2010 och 2014 uppgick den genomsnittliga ökningen i försäljningen av robotar till 17 procent per år, och under 2014 ökade försäljningen med 29 procent, vilket är den största ökningen under ett år någonsin. Bildelsleverantörer och el- och elektronikindustrin utgjorde de huvudsakliga drivkrafterna för denna tillväxt. Antalet patentansökningar per år på robotteknikområdet har tredubblats under det senaste årtiondet.

E.

Under de senaste 200 åren har sysselsättningen konstant ökat till följd av den tekniska utvecklingen. Utvecklingen av robotteknik och AI kan ha potentialen att förändra liv och arbetsmetoder, öka effektivitet, besparingar och säkerhetsnivåer samt tillhandahålla högre servicenivåer. På kort och medellång sikt utlovar robottekniken och AI effektivitet och besparingar inte bara inom produktion och handel, utan också på områden som transport, sjukvård, utbildning och jordbruk. Tack vare denna tekniska utveckling behöver människor inte heller exponeras för hälsovådliga miljöer, till exempel vid sanering av toxiskt förorenade platser.

F.

Den åldrande befolkningen är ett resultat av den ökade förväntade livslängden till följd av de framsteg som gjorts i fråga om levnadsvillkor och inom den moderna medicinen, och den utgör en av de största politiska, sociala och ekonomiska utmaningarna för det tjugoförsta århundradets europeiska samhällen. Senast 2025 kommer mer än 20 procent av européerna att vara 65 år eller äldre, med ett särskilt snabbt ökande antal människor som är över 80. Balansen mellan generationerna i våra samhällen kommer då att bli helt annorlunda, och det ligger i samhällets intresse att äldre människor förblir friska och aktiva så länge som möjligt.

G.

Den nuvarande trenden, som går mot en utveckling av smarta och autonoma maskiner med kapacitet att lära sig och fatta självständiga beslut, kommer på sikt att inte bara medföra ekonomiska fördelar utan också väcka en rad frågor beträffande maskinernas direkta och indirekta effekter på samhället som helhet.

H.

Maskininlärning innebär enorma ekonomiska och innovativa fördelar för samhället genom att förmågan till analys av data ökar oerhört, samtidigt som den även ger upphov till utmaningar med att säkerställa icke-diskriminering, rättssäkerhet, insyn och begripliga beslutsprocesser.

I.

På liknande sätt behöver ekonomiska förändringar och robotteknikens och maskininlärningens inverkan på sysselsättningen bedömas. Trots de obestridliga fördelarna med robottekniken kan den medföra en omvandling av arbetsmarknaden och därmed ett behov att tänka över framtiden för utbildning, sysselsättning och socialpolitik.

J.

Den utbredda användningen av robotar kanske inte automatiskt leder till att arbetstillfällen ersätts, men lågkvalificerade arbetstillfällen i arbetskraftsintensiva sektorer är sannolikt mer sårbara för automatisering. Denna tendens skulle kunna föra tillverkningsprocesser tillbaka till EU. Forskning har visat att sysselsättningen växter betydligt fortare inom yrken där datorer används i större utsträckning. Arbetsautomatiseringen har potentialen att befria människor från manuellt, monotont arbete och låta dem inrikta sig på mer kreativa och meningsfulla uppgifter. Automatiseringen kräver att det offentliga investerar i utbildning och andra reformer för att bättre kvalificera arbetstagarna för de typer av färdigheter som de kommer att behöva i framtiden.

K.

Det är viktigt att tänka på att utvecklingen av robotteknik kan leda till en hög koncentration av rikedom och inflytande i händerna på en minoritet, mot bakgrund av växande klyftor i samhället och en krympande medelklass.

L.

Utvecklingen av robotteknik och AI kommer definitivt att påverka arbetsplatslandskapet, vilket kan skapa nya ansvarsfrågor och eliminera andra. Det rättsliga ansvaret måste klargöras både enligt affärsmodellen och arbetstagarnas designmönster om nödlägen eller problem skulle uppstå.

M.

Automatiseringstendensen kräver att de som deltar i utvecklingen och kommersialiseringen av applikationer med AI bygger in säkerhet och etik från början, och därigenom erkänner att de måste vara beredda att ta på sig det rättsliga ansvaret för kvaliteten på den teknik som de tillverkar.

N.

I Europaparlamentets och rådets förordning (EU) 2016/679 (2) (den allmänna dataskyddsförordningen) fastställs de rättsliga ramarna för att skydda personuppgifter. Andra aspekter av tillgång till uppgifter och skydd av personuppgifter och personlig integritet kan också behöva tas upp, eftersom integritetsfrågor skulle kunna uppstå i samband med applikationer och anordningar som kommunicerar med varandra och med databaser utan mänsklig inblandning.

O.

Utvecklingen inom robotteknik och AI kan och bör utformas på så sätt att man bevarar individens värdighet, autonomi och självbestämmande, särskilt när det gäller omvårdnad och sällskap för människor och i samband med medicintekniska produkter och ”reparation” eller ”förbättring” av människor.

P.

I slutänden finns det en möjlighet att AI på sikt kan överträffa människans intellektuella kapacitet.

Q.

Vidareutveckling och ökad användning av automatiserat och algoritmbaserat beslutsfattande påverkar utan tvekan de val som en privatperson (såsom ett företag eller en internetanvändare) och en administrativ, rättslig eller annan offentlig myndighet gör i samband med sitt slutgiltiga beslut i konsument-, affärs- eller myndighetsfrågor. Skyddsåtgärder och möjlighet till mänsklig kontroll och verifiering måste byggas in i processen för automatiserat och algoritmbaserat beslutsfattande.

R.

Ett flertal utländska jurisdiktioner, bland annat USA, Japan, Kina och Sydkorea, överväger – och har i viss mån redan vidtagit – lagstiftningsåtgärder med avseende på robotteknik och AI, och även vissa medlemsstater har börjat fundera på att eventuellt utarbeta rättsliga normer eller genomföra lagstiftningsändringar för att ta hänsyn till kommande tillämpningar av sådana tekniker.

S.

Det europeiska näringslivet skulle kunna dra fördel av ett effektivt, samlat och transparent lagstiftningsgrepp på unionsnivå, under förutsättning att det fastställs förutsebara och tillräckligt tydliga villkor under vilka företag kan ta fram applikationer och planera sina affärsmodeller på europeisk nivå, samtidigt som man ser till att unionen och dess medlemsstater behåller kontrollen över de lagstiftningsstandarder som ska fastställas, så att man inte tvingas anta och förhålla sig till standarder som fastställts av andra, nämligen tredjeländer som också ligger långt fram i utvecklingen av robotteknik och AI.

T.

Asimovs lagar (3) måste anses vara riktade till robotarnas konstruktörer, tillverkare och operatörer, även när det gäller robotar som har inbyggd autonomi och är självlärande, eftersom dessa lagar inte kan omvandlas till maskinkod.

U.

En rad bestämmelser som i synnerhet gäller skadeståndsansvar, transparens och ansvarighet är användbara och nödvändiga, och de återspeglar de inneboende europeiska och universella humanistiska värderingar som karakteriserar Europas bidrag till samhället. Dessa bestämmelser får inte påverka forsknings-, innovations- och utvecklingsprocessen inom robottekniken.

V.

Unionen skulle kunna spela en viktig roll genom att fastställa grundläggande etiska principer som måste respekteras vid utveckling, programmering och användning av robotar och AI och införliva dessa principer i unionsregelverk och unionsuppförandekoder, i syfte att forma den tekniska revolutionen så att den tjänar mänskligheten och så att fördelarna med avancerad robotteknik och AI kommer många till godo, samtidigt som man i möjligaste mån undviker potentiella fallgropar.

W.

En stadga för robotteknik bifogas betänkandet, utarbetad med bistånd av enheten för vetenskaplig framsyn (Stoa), GD EPRS, där det föreslås en etisk uppförandekod för robotteknikingenjörer, en kodex för forskningsetiska kommittéer samt en ”licens” för konstruktörer och en ”licens” för användare.

X.

En successiv, pragmatisk och försiktig strategi av det slag som förordades av Jean Monnet (4) bör antas för unionen med avseende på framtida initiativ om robotteknik och AI, så att vi inte kväver innovationen.

Y.

Mot bakgrund av den nivå som uppnåtts i utvecklingen av robotteknik och AI är det lämpligt att börja med frågor om skadeståndsansvar.

Z.

Tack vare de imponerande tekniska framstegen under det senaste årtiondet kan dagens robotar inte bara utföra uppgifter som tidigare var intimt förknippade med och uteslutande utfördes av människor, utan utvecklingen av vissa autonoma och kognitiva egenskaper – såsom förmågan att lära sig av erfarenhet och fatta delvis självständiga beslut – har även gjort robotarna alltmer lika agenter som interagerar med sin omgivning och kan förändra den i betydande utsträckning. Mot bakgrund av detta blir det rättsliga ansvaret för en robots skadliga handlingar en knäckfråga.

AA.

En robots autonomi kan definieras som förmågan att fatta beslut och verkställa dem i den omgivande miljön oberoende av yttre kontroll eller inflytande. Denna autonomi är av rent teknisk karaktär, och graden av autonomi är beroende av hur sofistikerat samspel med omgivningen som konstruktionen i fråga medger.

AB.

Ju mer autonoma robotarna är, desto mindre kan de betraktas som enkla verktyg för andra aktörer (såsom tillverkaren, operatören, ägaren, användaren osv.). Detta ifrågasätter i sin tur om de vanliga bestämmelserna om skadeståndsansvar är tillräckliga eller om det krävs nya principer och regler för att skapa klarhet angående de olika aktörernas rättsliga ansvar för robotars handlingar eller underlåtelse att handla i fall där orsaken inte kan spåras tillbaka till en specifik mänsklig aktör, och huruvida robotars handlingar eller underlåtelse att handla som har orsakat skada hade kunnat undvikas.

AC.

I sista hand ger robotarnas autonomi upphov till frågan om deras natur i ljuset av befintliga rättsliga kategorier eller huruvida en ny kategori bör skapas med sina egna specifika särdrag och implikationer.

AD.

Enligt de nu gällande rättsliga ramarna kan robotar i sig inte hållas ansvariga för handlingar eller underlåtelse att handla som skadar tredje parter. De befintliga ansvarsbestämmelserna omfattar fall där orsaken till en robots handling eller underlåtelse att handla kan spåras tillbaka till en specifik mänsklig aktör, exempelvis tillverkaren, operatören, ägaren eller användaren, och där aktören i fråga kunde ha förutsett och förhindrat robotens skadliga beteende. Därutöver skulle tillverkare, operatörer, ägare eller användare kunna hållas strikt ansvariga för en robots handlingar eller underlåtelse att handla.

AE.

Enligt de gällande rättsliga ramarna är både skadeståndsansvar för produkter – där tillverkaren av produkten är ansvarig för funktionsfel – och ansvar för skadliga handlingar – där användaren av produkten är ansvarig för hantering som vållar skada – tillämpligt på skador som orsakas av robotar eller AI.

AF.

I ett scenario där en robot kan fatta självständiga beslut är de traditionella reglerna inte tillräckliga för att skadeståndsansvar ska kunna utkrävas för skador som orsakats av en robot, eftersom det inte skulle gå att fastställa vilken part som är ansvarig för att ge ersättning eller kräva att den parten gottgör den skada som vållats.

AG.

Bristerna i de nuvarande rättsliga ramarna är uppenbara också på det avtalsrättsliga området, där maskiner som utformats för att välja sin motpart, förhandla om avtalsvillkor, ingå avtal och besluta huruvida och på vilket sätt avtalen ska fullföljas gör att de traditionella reglerna inte längre går att tillämpa, vilket visar på behovet av nya, effektiva och uppdaterade regler, som bör följa den tekniska utvecklingen och nya innovationer som används på marknaden.

AH.

När det gäller utomobligatoriskt ansvar omfattar direktiv 85/374/EEG endast skada som orsakats av en tillverkningsdefekt hos en robot och endast under förutsättning att den skadelidande kan bevisa den faktiska skadan, defekten på produkten och orsakssambandet mellan defekten och skadan. Ett regelverk som bygger på strikt ansvar kan därmed vara otillräckligt.

AI.

Trots tillämpningsområdet för direktiv 85/374/EEG skulle de gällande rättsliga ramarna inte vara tillräckliga för att omfatta skada som orsakats av den nya generationen robotar med tanke på att dessa kan vara försedda med anpassnings- och inlärningsförmåga som medför en viss grad av oförutsägbarhet i beteendet, eftersom sådana robotar autonomt skulle lära sig av sina egna skiftande erfarenheter och interagera med sin omgivning på ett unikt och oförutsebart sätt.

1.

2.

3.

4.

5.

6.

7.

8.

9.

10.

11.

12.

13.

14.

15.

16.

17.

18.

19.

20.

21.

22.

23.

24.

25.

26.

27.

28.

29.

30.

31.

32.

33.

34.

35.

36.

37.

38.

39.

40.

41.

42.

43.

44.

45.

46.

47.

48.

49.

50.

51.

52.

53.

54.

55.

56.

57.

58.

59.

60.

61.

62.

63.

64.

65.

66.

67.

68.