31.8.2017   

DA

Den Europæiske Unions Tidende

C 288/1

Ordfører:

Catelijne MULLER

1.1.

Kunstig intelligens (AI) er inde i en rivende udvikling, og der bliver stadig flere anvendelsesmuligheder for kunstig intelligens i samfundet. Markedet for kunstig intelligens har en størrelse på ca. 664 mio. USD og forventes at vokse til 38,8 mia. USD i 2025. Da kunstig intelligens kan have såvel positive som negative konsekvenser for samfundet, har EØSU sat sig for at følge udviklingen inden for kunstig intelligens nøje, ikke alene ud fra et teknisk, men i særdeleshed også ud fra et etisk, sikkerheds- og samfundsmæssigt synspunkt.

1.2.

Som repræsentant for det europæiske civilsamfund vil EØSU i den kommende tid være med til at præge, fokusere og fremme samfundsdebatten om kunstig intelligens og inddrage alle berørte aktører heri, dvs. politiske beslutningstagere, industrien, arbejdsmarkedets parter, forbrugere, NGO'er, uddannelses- og sundhedsinstitutioner, eksperter og akademikere fra forskellige felter (herunder kunstig intelligens, sikkerhed, etik, økonomi, arbejdsvidenskaber, retsvidenskaber, adfærdsvidenskaber, psykologi og filosofi).

1.3.

Diskussionen af superintelligens er uden tvivl vigtig, men den er i øjeblikket dominerende og overskygger debatten om konsekvenserne af den nuværende anvendelse af kunstig intelligens. Formålet med denne proces er derfor bl.a. at øge vores viden om kunstig intelligens og dermed bidrage til en veloplyst og afbalanceret debat uden dommedagsscenarier eller ekstrem relativisme. EØSU vil i den forbindelse bestræbe sig på at fremme udviklingen af kunstig intelligens til gavn for menneskeheden. Ikke desto mindre vil det også være en vigtig opgave og målsætning i forbindelse med denne proces at identificere, udpege og overvåge banebrydende udviklingstendenser i og omkring udviklingen af kunstig intelligens med henblik på at kunne træffe foranstaltninger til at håndtere disse i tide og på en passende måde. Dette vil føre til større samfundsmæssigt engagement, tillid og opbakning til yderligere bæredygtig udvikling og anvendelse af kunstig intelligens.

1.4.

Konsekvenserne af kunstig intelligens går på tværs af grænser, og derfor er det også nødvendigt at fastlægge overnationale politiske rammer. EØSU anbefaler, at EU påtager sig en førerrolle på globalt niveau, når det gælder fastlæggelse af globale, entydige politiske rammer for kunstig intelligens, som er i tråd med europæiske værdier og grundlæggende rettigheder. EØSU kan og vil yde et bidrag til dette.

1.5.

EØSU peger på 11 områder, hvor kunstig intelligens i øjeblikket indebærer en række samfundsmæssige udfordringer, nemlig etik, sikkerhed, privatlivets fred, åbenhed og ansvarlighed, beskæftigelse, uddannelse og færdigheder, (u)lighed og inklusion, lovgivning, ledelse og demokrati, krigsførelse samt superintelligens. EØSU fremsætter følgende anbefalinger:

1.6.

EØSU slår til lyd for en strategi for kunstig intelligens, hvor mennesket bevarer kontrollen (human-in-command), hvor forudsætningen er ansvarlig, sikker og nyttig udvikling af kunstig intelligens, og hvor maskiner forbliver maskiner, og mennesket til alle tider bevarer kontrollen over disse maskiner.

1.7.

EØSU slår til lyd for et etisk regelsæt for udvikling, indførelse og anvendelse af kunstig intelligens, således at AI-systemer gennem hele den operationelle proces lever op til principperne for menneskelig værdighed, integritet, frihed, privatlivets fred og kulturel og kønsdiversitet og til de grundlæggende menneskerettigheder.

1.8.

EØSU slår til lyd for udvikling af et normeringssystem til verificering, validering og kontrol af AI-systemer på grundlag af en bred vifte af standarder inden for sikkerhed, åbenhed, forståelighed, ansvarlighed og etiske værdier.

1.9.

EØSU slår til lyd for en europæisk infrastruktur for kunstig intelligens bestående af open source-læringsmiljøer, som respekterer privatlivets fred, testmiljøer, som afspejler den virkelige verden, og datasæt af høj kvalitet til udvikling og træning af AI-systemer. EØSU henviser til den (konkurrence)fordel, som EU kan opnå på det globale marked gennem udvikling og markedsføring af »forsvarlige europæiske AI-systemer«, som har europæisk AI-certificering og -mærkning.

1.10.

EU, de nationale myndigheder og arbejdsmarkedets parter bør i fællesskab kortlægge, hvilke arbejdsmarkedssektorer, der vil blive påvirket af kunstig intelligens og i hvilket omfang og med hvilket tidsperspektiv. De bør også søge løsninger med henblik på at håndtere følgerne for beskæftigelsen, arbejdets indhold, de sociale ordninger og (u)ligheden. Derudover bør der investeres i arbejdsmarkedssektorer, som den kunstige intelligens kun har ringe eller ingen indflydelse på.

1.11.

EØSU henstiller til disse aktører om at samarbejde om supplerende AI-systemer og fælles skabelse af sådanne på arbejdspladsen i form af f.eks. teams bestående af både mennesker og maskiner, hvor den kunstige intelligens supplerer og forbedrer den menneskelige præstation. De berørte parter bør også investere i formel og uformel læring, undervisning og uddannelse for alle, så de kan arbejde med kunstig intelligens, men også med henblik på at udvikle færdigheder, som hverken vil blive eller vil kunne blive overtaget af kunstig intelligens.

1.12.

Allerede nu er der behov for en konkret vurdering af EU's lovgivning inden for de seks centrale indsatsområder, der er blevet udpeget af STOA (Kontoret for Videnskabeligt Fremsyn), og som bør revideres eller tilpasses, og EØSU bør inddrages i denne vurderingsproces. EØSU er imod indførelse af en form for juridisk personlighed for robotter eller kunstig intelligens. Dette ville udhule den forebyggende afhjælpende virkning af erstatningsretten. Der ville opstå risiko for moral hazard i forbindelse med såvel udviklingen som anvendelsen af kunstig intelligens, og der ville opstå mulighed for misbrug.

1.13.

Udvikling af anvendelsesmuligheder for kunstig intelligens, som er til gavn for samfundet, og som øger inklusionen og forbedrer borgernes liv, bør fremmes og promoveres aktivt, både i offentligt og privat regi. Kommissionen bør i forbindelse med sine programmer finansiere forskning i, hvordan kunstig intelligens og EU-finansieret innovation inden for kunstig intelligens påvirker samfundet.

1.14.

EØSU støtter opfordringen fra Human Rights Watch og andre organisationer til, at der indføres forbud mod automatvåbensystemer. EØSU bifalder de bebudede drøftelser heraf i FN, men mener, at også de forskellige anvendelsesmuligheder for kunstig intelligens i cyberkrigsførelse bør tages op i forbindelse med disse drøftelser.

2.1.

Der findes ingen entydig, accepteret og udtømmende definition af kunstig intelligens. Kunstig intelligens er et paraplybegreb for et stort antal (under)områder såsom: kognitiv computing (algoritmer, der ræsonnerer og forstår på et højere (menneskeligt) niveau), maskinlæring (algoritmer, som lærer sig selv nye opgaver), augmented intelligence (samarbejde mellem menneske og maskine), robotteknologi baseret på kunstig intelligens (kunstig intelligens indbygget i robotter). Den centrale målsætning med forskningen i og udviklingen af kunstig intelligens er imidlertid automatisering af intelligent adfærd såsom at ræsonnere, indsamle oplysninger, planlægge, lære, kommunikere, manipulere, observere og til og med skabe, drømme og opfatte.

2.2.

Kunstig intelligens kan groft sagt opdeles i henholdsvis svag og stærk kunstig intelligens (narrow and general AI). Svag kunstig intelligens er i stand til at udføre specifikke opgaver. Stærk kunstig intelligens er i stand til at udføre en hvilken som helst intellektuel opgave, som et menneske kan udføre.

2.3.

På området for svag AI er der i den senere tid sket store fremskridt, navnlig gennem væksten i computernes beregningskraft, adgangen til store mængder data og udviklingen af maskinlæring (machine learning — ML). Maskinlæring omfatter algoritmer, som kan lære sig selv specifikke opgaver uden at være programmeret til det. Denne metode er baseret på bearbejdning af »træningsdata«. På grundlag af disse lærer algoritmen at genkende mønstre og opstille regler. Dyb læring (deep learning — DL), der er en form for maskinlæring, bruger strukturer (neurale netværk), som er løst baseret på den menneskelige hjerne, og som lærer ved hjælp af øvelse og feedback. Resultatet af disse udviklingstendenser er, at AI-systemer (ved hjælp af algoritmer) i dag kan være selvlærende, autonome og i stand til at tilpasse sig.

2.4.

Det vigtigste fokus for forskning i og udvikling af kunstig intelligens har allerede i et stykke tid ligget på evnen til at ræsonnere, på vidensopbygning, planlægning, kommunikation og opfattelse (visuel, auditiv og sensorisk). Dette har ført til en række anvendelsesmuligheder for kunstig intelligens: virtuelle assistenter, selvkørende biler, automatisk nyhedsindsamling, talegenkendelse, oversættelsesprogrammer, tekst til tale-programmer, automatiseret finansiel handel, elektronisk indsamling af beviser (e-discovery) til brug i retten osv.

2.5.

EØSU påpeger, at mængden af anvendelsesmuligheder for og investeringer i kunstig intelligens er steget eksponentielt i den seneste tid. Markedet for kunstig intelligens har i øjeblikket en størrelse på ca. 664 mio. USD og forventes at vokse til 38,8 mia. USD i 2025.

3.1.

Der er næppe nogen tvivl om, at kunstig intelligens kan indebære store samfundsmæssige fordele. Tænk på anvendelsesmulighederne i forbindelse med bæredygtigt landbrug, sikker trafik, et sikkert finansielt system, mere miljøvenlige produktionsprocesser, bedre lægevidenskab, sikrere arbejdsmiljø, mere skræddersyet undervisning, bedre retspraksis og et sikrere samfund. Muligvis kan kunstig intelligens endda bidrage til udryddelse af sygdom og fattigdom. Kunstig intelligens kan også yde et vigtigt bidrag til vækst i industrien og til at forbedre EU's konkurrenceevne.

3.2.

Ligesom det er tilfældet med enhver anden banebrydende teknologi, fører kunstig intelligens imidlertid også risici og komplekse politiske udfordringer med sig på områder som sikkerhed og kontrol, socialøkonomiske aspekter, etik og privatlivets fred, pålidelighed osv.

3.3.

Vi befinder os ved en korsvej, når det gælder om at fastlægge (ramme)betingelserne for den nuværende og kommende udvikling og anvendelse af kunstig intelligens. De nævnte fordele ved kunstig intelligens kan kun opnås på langt sigt, hvis man også tager ordentlig hånd om udfordringerne i forbindelse hermed. I den forbindelse skal der træffes en række politiske valg.

a)

Etik

3.4.

Udviklingen af kunstig intelligens rejser en lang række etiske spørgsmål. Hvilken indflydelse har autonom (selvlærende) kunstig intelligens på vores personlige integritet, autonomi, værdighed, selvstændighed, lighed, sikkerhed og valgfrihed? Hvordan sikrer vi, at vores grundlæggende normer, værdier og menneskerettigheder respekteres og garanteres?

3.5.

Dertil kommer, at udviklingen af kunstig intelligens i øjeblikket finder sted inden for homogene omgivelser, primært befolket med unge, hvide mænd, hvorved kultur- og kønsforskelle (om end ubevidst) indlejres i den kunstige intelligens, bl.a. fordi AI-systemer lærer ved hjælp af træningsdata. Disse data bør være korrekte og derudover af god kvalitet, varierede, tilstrækkeligt dybtgående og objektive. Der er en generel tendens til at tro, at data pr. definition er objektive, men dette er en misforståelse. Data er nemme at manipulere, de kan være misvisende, afspejle kulturelle, kønsmæssige og andre fordomme og præferencer og være fejlbehæftede.

3.6.

De AI-systemer, som udvikles i øjeblikket, har ingen indbyggede etiske værdier. Vi mennesker er nødt til at forsyne AI-systemerne og de omgivelser, hvor de skal anvendes, med sådanne værdier. Udvikling, indførelse og anvendelse af AI-systemer (såvel i offentligt som i kommercielt øjemed) bør ske i tråd med vores grundlæggende normer, værdier, friheder og menneskerettigheder. Derfor opfordrer EØSU til udvikling og fastlæggelse af et fælles globalt etisk regelsæt for udvikling, indførelse og anvendelse af kunstig intelligens.

b)

Sikkerhed

3.7.

Det er uomtvisteligt, at anvendelse af kunstig intelligens i den fysiske verden rejser en række spørgsmål af sikkerhedsmæssig karakter. Der kan skelnes mellem intern og ekstern sikkerhed.

3.8.

EØSU mener, at AI-systemer kun bør tages i brug, hvis de lever op til særlige krav om intern og ekstern sikkerhed. Disse krav bør fastsættes i fællesskab af politiske beslutningstagere, AI- og sikkerhedsspecialister, virksomheder og samfundsorganisationer.

c)

Åbenhed, forståelighed, kontrollerbarhed, ansvarlighed

3.9.

Accept, bæredygtig udvikling og anvendelse af AI hænger sammen med muligheden for at forstå, kontrollere og forklare AI-systemers virkemåde, handlinger og beslutninger, ikke mindst i retrospektiv.

3.10.

AI-systemers handlinger og beslutninger (via intelligente algoritmer) griber i stigende grad ind i menneskers liv. Eksempler herpå er anvendelsen af kunstig intelligens i forbindelse med efterretningsbaseret politivirksomhed, ved vurdering af ansøgninger om realkreditlån, og når det gælder godkendelsesproceduren i forbindelse med forsikringer. Det er i den forbindelse afgørende, at et AI-systems beslutningsproces er forståelig, kontrollerbar og ansvarlig.

3.11.

På nuværende tidspunkt er mange AI-systemer stadig meget svære for brugerne at gennemskue. Det gælder også i stigende omfang for dem, der udvikler systemerne. Frem for alt neurale netværk er ofte en form for sorte bokse, hvor der finder (beslutnings)processer sted, som ikke længere er mulige at gennemskue, og som der ikke findes nogen forklaringsmekanismer for.

3.12.

EØSU slår til lyd for åbne, forståelige og kontrollerbare AI-systemer, hvis måde at fungere på også kan forklares i retrospektiv. Derudover bør det afgøres, hvilke beslutningsprocesser der kan overlades til AI-systemer, og hvilke ikke, samt hvornår menneskelig intervention er ønskelig eller påkrævet.

d)

Privatlivets fred

3.13.

Privatlivets fred er en kilde til bekymring i forbindelse med AI-systemerne. Allerede nu er der mange (forbruger)produkter med indbygget kunstig intelligens: husholdningsapparater, legetøj, biler, sundheds-trackere, smartphones. Alle disse produkter udveksler (ofte personlige) data med producenternes cloudplatforme. I dag, hvor handelen med data er i stærk vækst — hvilket betyder, at de data, der genereres, ikke bliver hos producenterne, men sælges videre til tredjeparter — er der anledning til bekymring for, hvorvidt privatlivets fred nu også er ordentligt sikret.

3.14.

Kunstig intelligens er derudover i stand til ved hjælp af analyse af et stort antal (ofte) personlige data at påvirke folks valg på en lang række områder (fra beslutninger om køb til valg og folkeafstemninger). Børn udgør en særlig sårbar gruppe. EØSU er bekymret over anvendelse af kunstig intelligens, som eksplicit er rettet mod at påvirke børns ønsker og adfærd.

3.15.

Det bør forhindres, at anvendelse af kunstig intelligens på personlige data begrænser menneskers faktiske eller oplevede frihed. EU's generelle forordning om databeskyttelse omfatter i vid udstrækning beskyttelse af privatlivets fred, når det gælder digitalt transmitterede personoplysninger. I lyset af udviklingen af kunstig intelligens bør det overvåges nøje, om borgernes ret til informeret samtykke og valgfrihed ved afgivelse af data, men også adgangen til samt retten til at ændre og kontrollere de afgivne data er tilstrækkelig sikret i praksis.

e)

Normer, standarder og infrastruktur

3.16.

Der bør udvikles nye normeringssystemer til verificering og validering af AI-systemer på grundlag af en bred vifte af standarder med henblik på at kunne vurdere og kontrollere AI-systemernes sikkerhed, åbenhed, forståelighed og etiske ansvarlighed.

3.17.

EØSU slår til lyd for, at EU udvikler en egen infrastruktur for kunstig intelligens bestående af open source-læringsmiljøer, som respekterer privatlivets fred, og datasæt af høj kvalitet til udvikling og træning af AI-systemer. EU kan derudover opnå en (konkurrence)fordel på det globale marked gennem markedsføring af »forsvarlige europæiske AI-systemer«. EØSU anbefaler, at mulighederne for europæisk AI-certificering og -mærkning undersøges i den forbindelse.

f)

Konsekvenser for arbejde og beskæftigelse, arbejdsforhold og sociale ordninger

3.18.

Det er tydeligt, at kunstig intelligens vil have konsekvenser for omfanget af beskæftigelsen og på karakteren af mange job, og dermed også på de sociale ordninger, selv om der er delte meninger, når det gælder hastigheden, hvormed dette vil ske, og omfanget heraf.

3.19.

Brynjolfsson og McAfee fra MIT kalder den nuværende teknologiske udvikling (herunder kunstig intelligens) for den anden maskinalder. Der er imidlertid to vigtige forskelle: i) de »gamle« maskiner erstattede især fysisk kraft, mens de nye maskiner erstatter hjernekraft og kognitive færdigheder, hvorfor ikke alene lavtuddannede (blue collar workers), men også personer med mellemlange og lange uddannelser (white collar workers) rammes, og ii) kunstig intelligens er en almen teknologi (general purpose technology), som påvirker stort set alle sektorer på samme tid.

3.20.

Kunstig intelligens kan have store fordele, når den anvendes ved farligt, tungt, anstrengende, snavset, ubehageligt, repetitivt eller monotont arbejde. Men også arbejde, der kan udføres i form af rutiner, samt databehandling og -analyse og arbejde, hvor planlægning og prognosticering spiller en stor rolle, dvs. arbejde som ofte udføres af højtuddannede, kan i stigende grad udføres af AI-systemer.

3.21.

De fleste job består imidlertid af flere forskellige aktiviteter. Muligheden for, at alle de aktiviteter, en person udfører, vil kunne overtages af kunstig intelligens eller robotter, synes lille. Imidlertid vil de fleste blive konfronteret med automatisering af dele af deres funktion. Den tid, der frigives som følge heraf, kan bruges til andre opgaver, under forudsætning af at myndigheder og arbejdsmarkedets parter gør en indsats i den forbindelse. Det er nødvendigt at være opmærksom på de konsekvenser, denne udvikling kan få for medarbejdere og ledere, og disse bør i højere grad inddrages, så de kan styre udviklingen og ikke ender som ofre for den.

3.22.

Derudover vil der også opstå nye job. Der er imidlertid ingen, der kan forudsige, hvilke det bliver, hvor mange der bliver tale om, og hvor hurtigt det kommer til at ske. Virksomheder som Google og Facebook har succes med at udvikle en gigantisk værdi med et relativt lille antal ansatte. I øvrigt er de nye job ikke altid gode job. Man kan frygte, at med yderligere udvikling af kunstig intelligens vil der snart kun være lavt betalte småjob tilbage til en voksende gruppe fleksarbejdere.

3.23.

Kunstig intelligens kommer ikke kun til at få konsekvenser for mængden af tilgængeligt arbejde, men også for arten af det bestående arbejde. AI-systemer giver stadig flere muligheder for at følge og overvåge medarbejderne, hvilket har konsekvenser for autonomi og privatlivets fred. Allerede nu fastlægges og fordeles arbejdet ofte ved hjælp af algoritmer, uden menneskelig mellemkomst, hvilket har betydning for arbejdets karakter og for arbejdsforholdene. Der er desuden risiko for, at jobbene forringes, og for at man mister vigtige færdigheder som følge af brugen af AI-systemer.

3.24.

Det er imidlertid et faktum, at teknologien ikke er ved at »overhale« os. Myndighederne og arbejdsmarkedets parter har mulighed for at bestemme, hvordan kunstig intelligens udvikles videre frem og anvendes i arbejdsprocessen, og bør tage imod denne mulighed med åbne arme. I den forbindelse er det vigtigt ikke alene at fokusere på, hvad kunstig intelligens er i stand til, men også på, hvad mennesker er i stand til (kreativitet, empati, samarbejde), på hvad vi ønsker, at mennesker skal blive ved med at gøre, og lede efter muligheder for at lade menneske og maskine samarbejde bedre (komplementaritet).

3.25.

Augmented intelligence (komplementaritet), hvor menneske og maskine samarbejder og styrker hinanden, er den mest interessante anvendelsesmulighed for kunstig intelligens, da det handler om mennesket sammen med maskinen, i modsætning til mennesket i stedet for maskinen. Fælles skabelse er imidlertid af stor vigtighed. Arbejdstagerne bør inddrages i udviklingen af sådanne komplementære AI-systemer for at sikre, at AI-systemerne er brugbare, og at arbejdstageren bevarer en tilstrækkelig grad af autonomi og kontrol (human-in-command), tilfredsstillelse og glæde ved arbejdet.

g)

Uddannelse og færdigheder

3.26.

Vedligeholdelse eller læring af digitale færdigheder er nødvendig, hvis man skal give borgerne muligheden for at tilpasse sig den hurtige udvikling inden for kunstig intelligens. Kommissionen satser kraftigt på udvikling af digitale færdigheder med sin Koalition for digitale færdigheder og job. Det er dog ikke alle, som vil være i stand til eller interesserede i at programmere og blive programmører. De politiske tiltag og økonomiske midler bør derfor også rettes mod uddannelse og udvikling af færdigheder på områder, som ikke trues af AI-systemer (opgaver, hvor menneskelig interaktion står i centrum, hvor menneske og maskine samarbejder, eller som vi ønsker, at mennesker skal blive ved med at varetage).

3.27.

Når der satses på komplementaritet mellem menneske og kunstig intelligens (augmented intelligence), bør der sørges for, at alle, og allerede fra en tidlig alder, uddannes i omgangen og arbejdet med AI-systemer for at sikre, at mennesker kan bevare autonomien og kontrollen i forbindelse med deres arbejde (human-in-command). I den forbindelse er navnlig undervisning i etik og privatlivets fred vigtig, da AI har stor indflydelse på disse områder.

h)

Tilgængelighed, social (u)lighed, inklusion, fordeling

3.28.

Hovedparten af udviklingen af kunstig intelligens og alle tilhørende elementer (udviklingsplatforme, data, viden, ekspertise) ligger i hænderne på de fem store teknologivirksomheder (Amazon, Apple, Facebook, Google, Microsoft). Selv om disse virksomheder er tilhængere af en åben udvikling af kunstig intelligens, og nogle af dem stiller deres udviklingsplatforme for kunstig intelligens til rådighed som open source, kan man ikke sige, at dette sikrer fuld tilgængelighed til AI-systemer. EU, internationale beslutningstagere og civilsamfundsorganisationer har en vigtig rolle at spille her, idet de kan sørge for, at AI-systemer er tilgængelige for alle, men også for at udviklingen af disse finder sted i et åbent miljø.

3.29.

Teknologiske forandringer, som gavner kapitalen, dvs. hvor innovationerne navnlig fører til fordele for dem, der ejer dem, forringer arbejdets stilling i forhold til kapitalens stilling. Teknologiske forandringer kan også føre til (indkomst)ulighed mellem mennesker (såvel lokalt som regionalt og globalt). Kunstig intelligens kan forstærke denne tendens.

3.30.

Det er vigtigt at følge disse tendenser nøje og tage hånd om dem på en passende måde. Der tales allerede om en AI-skat, et AI-udbytte eller arbejdstageres og arbejdsgiveres fælles ejerskab af AI-systemer. Der tales også stadig mere om nødvendigheden af en form for borgerløn.

3.31.

I en tidligere udtalelse (1) omtalte EØSU muligheden for et digitalt udbytte og ligelig fordeling af dette med henblik på at opnå en positiv vækst. EØSU understreger vigtigheden af, at der forskes i alle disse løsninger, så man kan finde den rette balance mellem udviklingen af kunstig intelligens, som er til gavn for mennesker, og eventuelle negative følger af disse løsninger. Man bør også undgå moral hazard, hvor ansvaret for AI-systemer skubbes over på enheder, som ikke reelt kan holdes ansvarlige herfor.

i)

Lovgivning

3.32.

Konsekvenserne af kunstig intelligens for den bestående lovgivning er omfattende. I juni 2016 offentliggjorde Europa-Parlamentets STOA-kontor (Kontoret for Videnskabeligt Fremsyn) en oversigt over EU-lovgivning, som vil blive påvirket af udviklingen inden for robotteknologi, cyberfysiske systemer og kunstig intelligens. STOA udpeger seks fokusområder — transport, dual-use-systemer, borgerlige frihedsrettigheder, sikkerhed, sundhed og energi — hvor helt op til 39 EU-forordninger, -direktiver, -erklæringer, -meddelelser samt EU's charter om grundlæggende rettigheder muligvis skal revideres eller tilpasses. Denne evaluering bør gribes hurtigt og beslutsomt an, og EØSU kan og vil spille en rolle i denne proces.

3.33.

Der er stor debat om, hvem der kan holdes ansvarlig, når et AI-system forårsager skade. Det gælder ikke mindst, når AI-systemet er selvlærende og lærer videre efter ibrugtagning. Europa-Parlamentet har fremsat en række civilretlige anbefalinger, når det gælder robotteknologi, heriblandt et forslag om at undersøge muligheden for en såkaldt »e-personality« for robotter, så de kan gøres civilretligt ansvarlige for den skade, de måtte forvolde. EØSU er modstander af en form for juridisk personlighed for robotter eller AI(-systemer), da dette vil medføre en helt uacceptabel risiko for moral hazard. Erstatningsretten er baseret på en præventiv adfærdskorrigerende effekt, som kan forsvinde, hvis producenten ikke længere bærer ansvarsrisikoen, eftersom denne er overført til robotten (eller AI-systemet). Desuden er der en risiko for en uhensigtsmæssig anvendelse eller et misbrug af en sådan juridisk status. Sammenligningen med selskabers begrænsede ansvar halter, da der i det tilfælde altid findes en fysisk person, der bærer det endelige ansvar. Det bør i den sammenhæng undersøges, hvorvidt den nuværende nationale og EU's lovgivning og retspraksis på området for (produkt- og objektivt) ansvar og egen skyld giver et fyldestgørende svar på dette spørgsmål, og hvis dette ikke er tilfældet, hvilke juridiske løsninger der så er til rådighed.

3.34.

Med henblik på at finde den rette tilgang til lovgivningen i forbindelse med kunstig intelligens er det desuden afgørende at skabe sig en god forståelse af, hvad kunstig intelligens er i stand til, ikke er i stand til, og hvad kunstig intelligens på kort, mellemlangt og langt sigt kommer til at være i stand til.

3.35.

Kunstig intelligens kender ikke til landegrænser. Derfor er det vigtigt at undersøge nødvendigheden af global lovgivning, da regional lovgivning vil være utilstrækkelig og endda få uønskede effekter. I betragtning af EU's velafprøvede ordning for produkt- og sikkerhedsstandarder, tilbøjeligheden til protektionisme på andre kontinenter, det høje vidensniveau i Europa, EU's system af grundlæggende rettigheder og sociale værdier og den sociale dialog anbefaler EØSU, at EU påtager sig en førerrolle på globalt niveau, når det gælder fastsættelse af globale, entydige politiske rammer for kunstig intelligens, og bestræber sig på at fremme denne proces på globalt plan.

j)

Styreformer og demokrati

3.36.

Kunstig intelligens kan bidrage til, at folk engagerer sig mere i den offentlige politik, og at der bliver tale om mere gennemsigtige administrative beslutningsprocesser. EØSU opfordrer EU og de nationale myndigheder til at anvende kunstig intelligens i dette øjemed.

3.37.

EØSU er bekymret over den målrettede brug af AI-systemer (i form af intelligente algoritmer) til nyhedsaggregering på f.eks. sociale medier, hvilket synes at have ført til indskrænkning af informationsstrømmen og yderligere opsplitning af samfundet (f.eks. filterbobler og falske nyheder på Twitter og Facebook i forbindelse med det amerikanske valg).

3.38.

EØSU er også bekymret over tegnene på, at AI-systemer skal have været anvendt til at påvirke borgernes (stemme)adfærd. Ved hjælp af intelligente algoritmer forudsiges personers præferencer og adfærd angiveligt og påvirkes målrettet. Dette er en trussel mod et åbent og ærligt demokrati. Nu til dags, hvor vi er vidner til en polarisering og til nedbrydningen af internationale institutioner, kan sådanne propagandateknologiers præcision og styrke hurtigt føre til yderligere social opløsning. Det er en af grundene til, at der er brug for standarder for så vidt angår gennemsigtighed og kontrollerbarhed af (intelligente) algoritmer.

k)

Krigsførelse

3.39.

De Forenede Nationers konvention om konventionelle våben besluttede at lade eksperter drøfte konsekvenserne af fuldautomatiske våben i 2017. EØSU hilser dette velkommen og støtter opfordringen fra Human Rights Watch og andre organisationer til, at der indføres forbud mod automatvåbensystemer. Efter udvalgets opfattelse bør et sådant forbud undersøges og overvejes seriøst. Dette er imidlertid ikke tilstrækkeligt til at gøre noget ved mulighederne for anvendelse af kunstig intelligens i konflikt- og krigssituationer. Også anvendelsen af kunstig intelligens i cyberkrigsførelse bør gøres til genstand for debat i forbindelse med denne FN-konsultation.

3.40.

Derudover bør det forhindres, at kunstig intelligens falder i hænderne på personer eller regimer, der har som mål at anvende det til terroraktiviteter.

l)

Superintelligens

3.41.

Endelig er det spørgsmålet, hvilke muligheder og risici der er forbundet med udviklingen af superintelligens. Ifølge Stephen Hawking vil udviklingen af stærk kunstig intelligens betyde enden på menneskeheden. I det øjeblik vil den kunstige intelligens ifølge Hawking videreudvikles i et tempo, hvor mennesket ikke længere kan følge med. Der er derfor eksperter, som går ind for en såkaldt nødknap (kill-switch) eller genstartsknap (reset-button), som gør, at vi kan deaktivere eller nulstille løbske eller superintelligente AI-systemer.

3.42.

EØSU slår til lyd for en strategi, hvor mennesket bevarer kontrollen (human-in-command), og hvor forudsætningen er en ansvarlig og sikker udvikling og anvendelse af kunstig intelligens, hvor maskiner forbliver maskiner, og mennesket til alle tider vil kunne bevare kontrollen over disse maskiner. Diskussionen af superintelligens er vigtig, men overskygger i øjeblikket debatten om konsekvenserne af den nuværende anvendelse af kunstig intelligens.

4.1.

Store kommercielle aktører har nu iværksat diverse initiativer for en åben, sikker og socialt ansvarlig udvikling af kunstig intelligens (f.eks. OpenAI). De politiske beslutningstagere kan imidlertid ikke overlade dette til virksomhederne, men har her en rolle, de skal udfylde. Der er behov for målrettede foranstaltninger og støtte til forskning i de samfundsmæssige udfordringer, som den kunstige intelligens medfører, og i udviklingen af sikre og robuste AI-systemer.

4.2.

EU-programmer såsom Horisont 2020 er særligt velegnede til at tackle denne udfordring. EØSU har kunnet konstatere, at finansieringen under navnlig Horisont 2020's søjle Samfundsudfordringer halter bagefter de to andre søjler Videnskabelig topkvalitet og Industrielt lederskab, og at den mindskes. EØSU opfordrer til prioritering af forskning i de store samfundsudfordringer såvel som i de sociale anvendelsesmuligheder for kunstig intelligens inden for søjlen Samfundsudfordringer.

4.3.

Der bør også tages hånd om mulige tværgående konsekvenser af kunstig intelligens. Samtidig med at udviklingen af banebrydende AI-innovationer finansieres, bør der også være finansieringsmidler til rådighed for forskning i og håndtering af samfundsmæssige konsekvenser af disse innovationer.

4.4.

Forskning i og udvikling af kunstig intelligens til gavn for menneskeheden kræver desuden en vifte af åbent tilgængelige trænings- og testdata af høj kvalitet og realistiske testmiljøer. Indtil nu har AI-infrastruktur og mange kvalitetsdata kun været tilgængelige hos og for et begrænset antal private aktører, og der har været hindringer for at teste kunstig intelligens i det offentlige rum, hvilket hæmmer anvendelsen af kunstig intelligens på andre områder. Udvikling af åbent tilgængelige højkvalitetsdata og en europæisk AI-infrastruktur er afgørende for at nå frem til en sikker, robust og nyttig kunstig intelligens.

5.1.

Det er svært at overskue de samlede konsekvenser for samfundet af kunstig intelligens. Der er ingen tvivl om, at konsekvenserne bliver store. Kunstig intelligens er i øjeblikket inde i en rivende udvikling, og der er derfor brug for en kritisk og bred overvågning med henblik på i tide og på en passende måde at kunne håndtere vigtige og banebrydende udviklingstendenser (»gamechangers«), såvel tekniske som sociale, i og omkring kunstig intelligens.

5.2.

For så vidt angår tekniske gamechangers kan der f.eks. være tale om bemærkelsesværdige eller væsentlige spring i udviklingen af den kunstige intelligens' færdigheder, hvilket kan være et forvarsel om, at man er ved at have udviklet stærk kunstig intelligens. Med hensyn til sociale gamechangers kan det handle om væsentlige tab af arbejdspladser uden udsigt til nye job, der kan erstatte disse, usikre situationer, systemfejl, uventede internationale udviklingstendenser osv.

5.3.

De politiske beslutningstagere, erhvervslivet, arbejdsmarkedets parter, forbrugerne, NGO'er, uddannelses- og sundhedsinstitutioner og akademikere fra forskellige fag (herunder (anvendt) kunstig intelligens, etik, sikkerhed, økonomi, arbejdsvidenskaber, retsvidenskaber, adfærdsvidenskaber, psykologi og filosofi) bør i fællesskab følge udviklingen omkring kunstig intelligens nøje og kortlægge disse gamechangers og holde viden herom opdateret med henblik på at kunne træffe de rette foranstaltninger på det rigtige tidspunkt i form af politikker, lovgivning, selvregulering og social dialog.

5.4.

Som repræsentant for det europæiske civilsamfund vil EØSU i den kommende tid være med til at præge, fokusere og fremme denne multi-stakeholder-debat om kunstig intelligens.