Det Europæiske Økonomiske og Sociale Udvalgs udtalelse om meddelelse fra Kommissionen til Europa-Parlamentet, Det Europæiske Råd, Rådet, Det Europæiske Økonomiske og Sociale Udvalg og Regionsudvalget — Kunstig intelligens for Europa

(COM(2018) 237 final)

(2018/C 440/08)

Ordfører:	Giuseppe GUERINI
Medordfører:	Gonçalo LOBO XAVIER

Anmodning om udtalelse	Kommissionen, 12.7.2018
Retsgrundlag	Artikel 304 i traktaten om Den Europæiske Unions funktionsmåde
Kompetence	Sektionen for Det Indre Marked, Produktion og Forbrug
Vedtaget i sektionen	4.9.2018
Vedtaget på plenarforsamlingen	19.9.2018
Plenarforsamling nr.	537
Resultat af afstemningen (for/imod/hverken for eller imod)	199/1/2

1.   Konklusioner og anbefalinger

1.1.

EØSU er af den opfattelse, at kunstig intelligens (»AI«) og automatiseringsprocesser har et enormt potentiale til at forbedre det europæiske samfund, hvad angår innovation og positive forandringer. De medfører imidlertid også betydelige udfordringer og risici, der giver anledning til bekymring. Det er derfor vigtigt, at EU's institutioner gør en hurtig og omfattende indsats for at udvikle og regulere AI fuldt ud.

1.2.

En avanceret tilgang til AI i Europa skal dække flere områder, herunder i) offentlige og private investeringer i forskning og udvikling og i avanceret digital infrastruktur, ii) gennemførelse af nye love og regler eller tilpasning af de gældende, iii) udvikling af passende viden og bevidsthed hos borgere og forbrugere samt iv) målrettede uddannelsesprogrammer for arbejdstagere.

1.3.

Især de udfordringer vedrørende ansvarsfordelingen, der opstår i forbindelse med nye digitale teknologier, bør systematisk kortlægges og tages op på internationalt, EU- og medlemsstatsplan. EØSU samarbejder gerne intensivt med EU-institutionerne om at analysere og evaluere EU's lovgivning om erstatningsansvar, produktsikkerhed og civilretligt ansvar, hvor der vil være brug for ændringer.

1.4.

EØSU tilslutter sig målsætningen i Kommissionens meddelelse, nemlig at styrke EU's industrielle og teknologiske kapacitet for at udbrede AI i hele det indre marked. Den indsats, der er nødvendig for at holde trit med andre globale aktører, er så omfattende, at der er et stort behov for koordinering mellem alle de instrumenter og midler, der er til rådighed på europæisk og nationalt plan. Når det er sagt må EU's værdier og principper ikke ofres i den globale konkurrenceevnes tjeneste.

1.5.

Med hensyn til Kommissionens målsætning om at bringe AI til alle potentielle brugere med fokus på små og mellemstore virksomheder er EØSU af den opfattelse, at det for at håndtere udfordringen med global konkurrenceevne er nødvendigt, at AI er tilgængelig for så mange aktører som muligt. Det er derfor afgørende at gøre den tilgængelig for alle de forskellige typer af virksomheder, der opererer i EU's indre marked, herunder små og mellemstore virksomheder, landbrugere, sociale virksomheder, kooperativer, individuelle virksomheder og forbrugersammenslutninger.

1.6.

Kommissionen og medlemsstaterne bør samarbejde om at opstille retningslinjer for de etiske aspekter af AI og inddrage alle relevante offentlige og private interessenter i denne indsats. Disse retningslinjer skal omfatte principper om gennemsigtighed ved brugen af AI-systemer til rekruttering af medarbejdere og til at vurdere eller kontrollere deres resultater. Ud over etiske principper foreslår EØSU, at der udvikles en klar, harmoniseret og bindende retlig ramme på europæisk plan, der skal sikre en passende regulering af AI, og der bør foretages en ajourføring af de eksisterende regler, som berøres af AI, under særlig hensyntagen til reglerne for producentansvar og forbrugerbeskyttelse. EØSU ønsker at arbejde tæt sammen med EU-institutionerne om analysen og evalueringen af den relevante EU-lovgivning, som det i fremtiden vil være nødvendig at ændre som følge af udviklingen af kunstig intelligens.

1.6.1.

Det er også nødvendigt, at Kommissionen foretager en omhyggelig evaluering af AI's indvirkning på arbejdsmarkedet. Denne evaluering skal både tage hensyn til muligheden for, at nogle arbejdstagere bliver erstattet af elektroniske enheder eller robotter, og den kendsgerning, at visse funktioner, selv om de måske ikke bliver fuldt ud automatiseret, vil blive gennemgribende forandret som følge af de nye teknologier.

1.7.

EØSU anbefaler derfor, at det erklærede ønske om, at »ingen må lades i stikken«, ikke blot forbliver et fromt ønske eller en opfordring, men bliver omsat til konkrete kendsgerninger.

1.8.

Det er vigtigt at fremhæve betydningen af uddannelsesprogrammer, når det gælder om at beskytte europæiske arbejdstagere, der arbejder i et miljø, som vil blive gennemgribende ændret i takt med den gradvist stigende anvendelse af AI. EU's borgere bør have adgang til passende information, som sætter dem i stand til at blive ansvarlige og informerede brugere af enheder og applikationer, der bliver tilgængelige som følge af den hastige teknologiske udvikling.

1.9.

I tilfælde, hvor nye metoder gør det muligt for offentlige forvaltninger at anvende teknologien til at træffe organisatoriske beslutninger og hurtigere valg, må der tages stilling til spørgsmålet om det reelle juridiske ansvar for disse beslutninger inden for en klar lovramme, som sikrer, at forvaltningen er fuldt ansvarlig over for borgerne.

1.10.

Der bør være et særligt fokus på civilsamfundets og socialøkonomiske organisationers rolle med hensyn til at øge borgernes aktive deltagelse i de økonomiske og sociale processer, der takket være den kunstige intelligens vil øge deltagelsen i vores samfund. Civilsamfundets organisationer og sociale virksomheder kan spille en vigtig rolle med hensyn til at skabe forståelse for og accept af teknologier hos enkeltpersoner, navnlig gennem samarbejdsinstrumenter, der gør det muligt at involvere borgerne i den aktuelle digitale omstilling.

1.11.

Den aktuelle teknologiske revolution kan og må ikke finde sted uden en betydelig og aktiv inddragelse af arbejdstagere, forbrugere og sociale organisationer, og den igangværende teknologiske udvikling skal styres på en måde, som sikrer en større og mere ansvarlig inddragelse af fuldt ud informerede borgere. Dette er årsagen til EØSU's anbefaling om, at Kommissionen ved udformningen af en europæisk AI-alliance bør tage hensyn til behovet for at skabe en inkluderende, tværfaglig og repræsentativ platform for de forskellige interessenter, der repræsenterer de europæiske borgere, herunder repræsentanter for de arbejdstagere, der skal arbejde sammen med intelligente maskiner (1).

2.   Generelle bemærkninger

2.1.

Digitale enheder og store selvlærende maskiner øger dagligt algoritmers evne til at arbejde med enorme mængder af data, og denne evne vil sandsynligvis blive styrket yderligere i fremtiden, takket være »neurale netværk« (som allerede anvendes i f.eks. smartphones til visuel genkendelse af genstande, ansigter og billeder).

2.2.

Denne udvikling medfører en omstilling af AI-maskiners traditionelle måde at »lære« på, idet de ikke længere er begrænset til at lære ved at uddrage regler fra data, men også udvikler en fleksibel og tilpasningsdygtig indlæringsevne. Denne proces vil betyde, at AI bliver bedre til at lære og agere i den virkelige verden.

2.3.

Stillet over for de meget hastige teknologiske forandringer, der er i gang, bliver det afgørende, at Kommissionen og medlemsstaterne samarbejder om at gennemføre en tilbundsgående undersøgelse af de udfordringer, der opstår som følge af den hurtige udvikling af AI og inddrager alle relevante offentlige og private interessenter i processen uden at undergrave mulighederne for fremskridt og teknologisk udvikling.

2.4.

Kommissionens meddelelse COM(2018) 237 sigter mod at styrke EU's industrielle og teknologiske kapacitet og tilskynde til udbredelsen af AI i alle områder af den europæiske økonomi, både i den private sektor og i den offentlige forvaltning. Som bemærket tidligere i initiativudtalelse (2) støtter EØSU Kommissionens initiativ, idet Kommissionen i sin meddelelse indarbejder mange af udvalgets tidligere forslag, men EØSU opfordrer Kommissionen til at handle hurtigt og beslutsomt.

2.5.

Vedtagelse af en effektiv europæisk tilgang til AI forudsætter, at der tilskyndes til betydelige investeringer i forskning og innovation, herunder digital infrastruktur, hvilket vil være nødvendigt for at tage hånd om de store samfundsøkonomiske udfordringer, som fremskridtene inden for de nye teknologier vil skabe for de europæiske samfund og markeder i de kommende år.

2.6.

Kommissionen og medlemsstaterne bør samarbejde om at opstille nogle retningslinjer for de etiske aspekter af AI og inddrage alle relevante offentlige og private interessenter i processen.

2.7.

Samtidig skal der vedtages en harmoniseret lovramme på EU-niveau, som stemmer overens med Den Europæiske Unions charter om grundlæggende rettigheder og EU-traktaternes principper. Den nye lovramme bør indeholde præcise regler, der imødegår de risici, som maskinindlæring medfører, såsom manglende gennemsigtighed på markedet, manglende konkurrence, forskelsbehandling, uretfærdig handelspraksis samt trusler mod cybersikkerhed og produktsikkerhed. Navnlig bør de lovgivningsmæssige garantier være stringente i situationer, hvor de data, der anvendes i AI-systemer, automatisk bliver indsamlet ved brugen af elektroniske enheder og computere.

2.8.

EØSU bemærker, at arbejdsdokumentet fra Kommissionens tjenestegrene SWD(2018) 137 final, der er vedlagt som bilag til Kommissionens meddelelse, på behørig vis analyserer konsekvenserne af kunstig intelligens for EU's lovgivning og kortlægger de udfordringer vedrørende ansvarsfordelingen, der opstår i forbindelse med nye digitale teknologier.

2.9.

Desuden vil der være behov for omfattende handlingsplaner for i) at danne grundlag for moderniseringen af skole- og uddannelsessystemer og opdyrke de nye færdigheder, som fremtidens arbejdsmarked får brug for og ii) at garantere en beskyttelse på højt niveau for borgere og arbejdstagere i forbindelse med de forventede udfordringer (3).

2.10.

EØSU opfordrer Kommissionen til at gå hurtigt videre med yderligere tiltag til både regulering og investeringsfremme: de hurtige forandringer kræver en hurtig tilpasning.

3.   Kommissionens forslag: Europæisk støtte til og investeringer i kunstig intelligens

3.1.

Kommissionen fastslår i sin meddelelse, at den vil støtte udbredelsen af AI inden for såvel grundforskning som industriel udnyttelse. I den forbindelse ønsker EØSU at understrege, at det er vigtigt at inddrage alle former for aktører i denne proces, herunder SMV'er, servicevirksomheder, sociale virksomheder, landbrugere, kooperativer, forbrugersammenslutninger og ældreorganisationer.

3.2.

Med hensyn til Kommissionens målsætning om at »bringe AI til alle potentielle brugere med fokus på små og mellemstore virksomheder« er EØSU af den opfattelse, at det for at håndtere udfordringen med global konkurrenceevne er nødvendigt, at AI er tilgængelig for så mange aktører som muligt. I tillæg til Kommissionens planer om at udvikle en »AI-on-demand platform« er det også vigtigt at sikre passende former for inddragelse og høring af de forskellige interessenter, herunder små og mellemstore virksomheder, socialøkonomiske netværk og civilsamfundets organisationer (sidstnævnte aktør spiller en vigtig rolle for inddragelsen af de europæiske borgere på en informeret og aktiv måde).

3.3.

Kommissionen har meddelt, at den vil støtte innovation baseret på AI gennem et pilotprojekt, som oprettes af Det Europæiske Innovationsråd, og som har et budget på 2,7 mia. EUR for perioden 2018-2020.

3.4.

EØSU mener, at dette initiativ kan være nyttigt for udviklingen af AI, men understreger samtidig, at forskningsmidler hurtigt bør kanaliseres fra fasen med eksperimenter til en mere struktureret fase. Det er også vigtigt, at Kommissionen tilskynder de forskellige forskningscentre, der i dag er placeret rundt om i medlemsstaterne, til at udvikle et samarbejdsnetværk for kunstig intelligens på europæisk niveau.

3.5.

EØSU bemærker, at Kommissionen vil øge sine investeringer i AI under Horisont 2020-rammeprogrammet for forskning og innovation til omkring 1,5 mia. EUR inden udgangen af 2020. Ved en hurtig indarbejdning i de eksisterende offentlig-private partnerskaber kan denne investering udløse yderligere 2,5 mia. EUR inden for to år. Den samme tilgang skal også vælges i det kommende Horisont Europa-rammeprogram.

3.6.

Set fra et andet perspektiv er det et godt tegn, at Kommissionen og Den Europæiske Fond for Strategiske Investeringer — som bør spille en central og ledende rolle i støtten til udvikling af AI i Europa — har præsenteret Venture EU-programmet, som er en venturekapitalfond med et budget på 2,1 mia. EUR, der har til formål at øge investeringerne i innovative virksomheder i hele Europa.

3.7.

Imidlertid er den indsats, der er nødvendig for at holde trit med andre globale aktører, så omfattende, at der er et meget stort behov for koordinering og synergieffekter mellem alle de instrumenter og midler, der er til rådighed på europæisk og nationalt plan. Det er klart, at det for at tage konkurrencen op med Kina og USA inden for AI er nødvendigt at forene kræfterne hos alle offentlige og private interessenter, der opererer på europæisk niveau, så det sikres, at EU spiller en ledende rolle på verdensplan.

3.8.

Hvis EU skal spille en konkurrencedygtig rolle inden for AI, er det også vigtigt at foretage passende investeringer i den rigtige IT-software, hardwareaktiver samt den digitale infrastruktur, så EU sikres en troværdig rolle på dette område.

3.9.

Ved investeringer i kunstig intelligens bør der tages højde for, at europæiske virksomheder står særligt stærkt inden for automatisering og robotteknologi. Disse sektorer, der er en del af kunstig intelligens i bred forstand, kan derfor vise sig at være yderst vigtige i indsatsen for at sikre EU en betydelig global rolle i den løbende teknologiske udvikling, og de fortjener derfor særlig opmærksomhed.

4.   Kunstig intelligens og dens indvirkning på mennesker og arbejdstagere

4.1.

Det er indiskutabelt, at AI er under meget hastig udvikling. Dette er grunden til, at EU's institutioner ved vurderingen af indvirkningen af de enkelte lovgivningstiltag om kunstig intelligens er nødt til at vælge en tværfaglig tilgang, som foruden de administrative, juridiske og økonomiske aspekter også ser nærmere på de antropologiske, psykologiske, sociologiske og teknologiske problemstillinger.

4.2.

For at støtte disse innovationer og frem for alt for at styre dem i en retning, hvor mennesker fortsat spiller hovedrollen, er det vigtigt, at EU handler for at opnå en høj grad af teknologisk konkurrenceevne uden at overse de essentielle etiske, sociale og menneskelige udfordringer.

4.3.

EØSU anser det derfor for afgørende, i) at enkeltpersoners privatliv og den ansvarlige behandling af den enkeltes personoplysninger er styret af passende lovgivning som f.eks. en effektiv gennemførelse af den nye forordning om databeskyttelse, der om nødvendigt vil skulle ajourføres løbende for at holde trit med den hurtige udvikling af AI, ii) at vigtige dele af den relevante EU-lovgivning bliver evalueret og om nødvendigt tilpasset til de nye scenarier, der følger med AI og iii) at der udvikles de kompetencer og færdigheder, som mennesker, forvaltninger og europæiske virksomheder behøver for at kunne nyde godt af de fordele, som den kunstige intelligens bringer med sig.

4.4.

Som et udgangspunkt for den kommende analyse er det værd at bemærke, at AI bygger på anvendelse og behandling af store mængder data, som udgør grundlaget for enhver applikation, der er baseret på de nye teknologier. Under disse omstændigheder består den største udfordring for den europæiske lovgiver i at sikre en gennemsigtig og reguleret adgang til slutbrugerens data.

4.5.

Jo bedre kvaliteten af de data, der behandles, er, jo bedre er AI-systemernes præcision og præstation. Det må imidlertid ikke glemmes, at personoplysninger skal indsamles på lovlig vis og kun må anvendes på en måde, som de direkte berørte er bekendt med, så det sikres, at personoplysningerne anvendes til de forud fastsatte og gennemsigtige formål, som brugeren har givet et reelt og informeret samtykke til.

4.6.

Det er værd at bemærke, at det for at beskytte slutbrugeren kan blive nødvendigt at ændre flere vigtige dele af EU-lovgivningen, f.eks. lovgivning om onlinereklamer, urimelig handelspraksis, produktsikkerhed og -ansvar, forbrugerrettigheder, urimelige kontraktvilkår, salg og garantier, forsikringer samt prisangivelser, og tilpasse dem til de nye scenarier, der udløses af en mere omfattende og avanceret brug af kunstig intelligens.

4.7.

Det afgørende spørgsmål om produktsikkerhed og produktansvar er der på hensigtsmæssig vis taget højde for i Kommissionens arbejdsdokument SWD(2018) 137 final ved hjælp af en analyse af case studies og gennem en liste over de EU-retsakter, hvor det er nødvendigt at foretage en yderligere analyse og evaluering. EØSU opfordrer i høj grad Kommissionen til at videreføre dette arbejde og yder gerne et bidrag i den forbindelse.

4.8.

Det er vigtigt at understrege vigtigheden af kulturel, almen og akademisk uddannelse på den ene side og passende information til offentligheden på den anden for at beskytte de europæiske borgeres rettigheder i takt med den voksende anvendelse af AI. Det er især vigtigt at sikre gennemsigtighed og en korrekt forvaltning af AI-algoritmer og de databaser, som de bygger på.

4.9.

Derfor er det afgørende, at de europæiske borgere får passende uddannelsestilbud samt enkle og forståelige informationer, der sætter dem i stand til at være ansvarlige og informerede brugere af de enheder og applikationer, der stilles til rådighed som følge af den igangværende hastige teknologiske udvikling, og som bliver stadig mere almindelige på alle niveauer.

4.10.

I lyset af disse behov skal EU og medlemsstaterne tilbyde klare og effektive løsninger ved at fremme et moderne uddannelsessystem og ved løbende at styrke den livslange uddannelse på arbejdsmarkedet og i civilsamfundet.

4.11.

Det er nødvendigt, at Kommissionen foretager en omhyggelig evaluering af AI's indvirkning på arbejdsmarkedet. Dette giver anledning til stor bekymring hos mange europæiske arbejdstagere, som er godt i gang på arbejdsmarkedet, men stadig langt fra pensionsalderen, og som ser med mistro og frygt på de forandringer, der finder sted. Undersøgelsen skal både tage hensyn til muligheden for, at nogle arbejdstagere bliver erstattet af elektroniske enheder eller robotter, og den kendsgerning, at visse funktioner, selv om de måske ikke bliver fuldt ud automatiseret, vil blive gennemgribende forandret som følge af de nye teknologier. Undersøgelsen og evalueringen bør derfor ikke kun fokusere på de uundgåelige og forventede forandringer i produktionsleddet, men også på nytænkning af de organisatoriske processer og forretningsmål efter en passende social dialog med arbejdstagerne.

4.12.

I nogle situationer vil det — ligesom det er og har været tilfældet for mange andre teknologier — være tilrådeligt at teste AI i faser og med stigende grader af tilpasning, før den tages i brug fuldt ud, så de involverede kan føle sig trygge ved de nye teknologier, herunder gennem passende uddannelsesmuligheder, og for at afhjælpe eventuelle tilpasningsfejl under processen (4).

4.13.

Indførelsen af nye teknologier i virksomheder kræver en social dialog mellem de forskellige involverede parter. I den forbindelse skal arbejdstagerorganisationer og fagforeninger løbende underrettes og høres.

5.   Kunstig intelligens, offentlig forvaltning og civilsamfundet

5.1.

AI er en teknologisk og samfundsmæssig innovation, som har potentiale til at ændre hele samfundet radikalt og ændre den offentlige sektor og forholdet mellem borgerne og den offentlige forvaltning til det bedre. De muligheder, der følger med den kunstige intelligens, kan øge både effektiviteten i forvaltningen og borgernes tilfredshed med den offentlige forvaltnings ydelser og med den effektive drift af denne forvaltning.

5.2.

For at nå disse mål er det afgørende, at de offentligt ansatte også er parate til at håndtere de forandringer og udfordringer, som AI vil medføre i de europæiske samfund. Offentlige arbejdsgivere og forvaltningschefer skal sammen med lærere, undervisere og universitetsfolk som nævnt ovenfor fuldt ud kunne forstå fænomenet kunstig intelligens og kunne afgøre, hvilke nye redskaber der skal indføres i de forvaltningsmæssige procedurer.

5.3.

Indførelse af AI i den offentlige og private sektor kræver, at procedurerne udformes på en sådan måde, at det fremmer brugerens forståelse og accept af teknologien gennem samarbejdsmekanismer, som så vidt muligt giver borgerne mulighed for at bidrage til udviklingen af teknologier, der bygger på kunstig intelligens, om muligt gennem borgerinddragelse.

5.4.

For at opnå markante resultater på dette område kan det være nyttigt at udvikle stadig mere solide former for samarbejde og partnerskab mellem den offentlige og den private sektor med henblik på at gribe de muligheder, der følger af teknologiske applikationer, kunstig intelligens og robotteknologi.

5.5.

Udfordringen for de offentlige forvaltninger er særligt kompleks med hensyn til lovgivning og legitimitet, da det er nødvendigt at finde den rette balance mellem offentlige interesser (herunder udøvelse af offentlige beføjelser) og individuelle interesser (specifik manifestation af den enkeltes frihed). I den forbindelse vil f.eks. offentlige forvaltningers anvendelse af AI kræve, at man finder en metode til at forene princippet om gennemsigtighed og offentliggørelse af forvaltningsdokumenter med beskyttelsen af personoplysninger og den enkeltes ret til privatliv inden for en klar og eksplicit lovramme.

5.6.

I tilfælde, hvor nye metoder gør det muligt for offentlige forvaltninger at anvende teknologien til at træffe organisatoriske beslutninger og hurtigere valg, f.eks. udvælgelse af en entreprenør i en udbudsprocedure, administration af en venteliste til særlige ydelser eller rekruttering af medarbejdere til den offentlige forvaltning, må der tages stilling til spørgsmålet om det reelle juridiske ansvar for disse beslutninger inden for en klar lovramme, som sikrer, at forvaltningen er fuldt ansvarlig over for borgerne.

5.7.

Civilsamfundets organisationer og sociale virksomheder spiller en vigtig rolle med hensyn til at skabe forståelse for og accept af teknologier hos enkeltpersoner, navnlig gennem samarbejdsinstrumenter, som giver borgerne mulighed for at tage del i den digitale omstilling. Det vigtige i denne forbindelse er muligheden for at skabe en deltagelsesbaseret forvaltning, f.eks. i kooperativ form, for disse instrumenter, begyndende med de digitale platforme, som allerede i dag anvendes til at strukturere nye former for økonomiske relationer inden for arbejdsforvaltning.

5.8.

Administrative myndigheder med ansvar for markedsovervågningsmekanismer bør have ekspertise og beføjelser til at beskytte fair konkurrencevilkår og forbrugerrettigheder samt arbejdstagernes sikkerhed og rettigheder. Offentlige eller uafhængige organer bør have ansvaret for at revidere algoritmerne. Samtidig bør virksomhederne indføre effektive mekanismer til revision af AI's dataanvendelse.

---

(1)  Se EØSU's vedtagne udtalelse INT/845 — Kunstig intelligens: foregribelse af konsekvenserne for beskæftigelsen med henblik på at sikre en retfærdig omstilling, ordfører: Franka Salis-Madinier (Se side 1 i denne EUT).

(2)  INT/806 af 31. maj 2017 — Kunstig intelligens — følgevirkningerne af kunstig intelligens for det (digitale) indre marked, produktionen, forbruget, beskæftigelsen og samfundet (EUT C 288 af 31.8.2017, s. 1).

(3)  EØSU's vedtagne udtalelse SOC/578 — Forvaltning af omstillinger i et digitaliseret arbejdsunivers (EUT C 367 af 10.10.2018, s. 15).

(4)  Se EØSU's vedtagne udtalelse INT/845 — Kunstig intelligens: foregribelse af konsekvenserne for beskæftigelsen med henblik på at sikre en retfærdig omstilling, ordfører: Franka Salis-Madinier (Se side 1 i denne EUT).