INT/894
Hvidbog om kunstig intelligens
Det Europæiske Økonomiske og Sociale Udvalgs
UDTALELSE
Hvidbog om kunstig intelligens − En europæisk tilgang til ekspertise og tillid [COM(2020) 65 final]
Ordfører: Catelijne Muller
|
Anmodning om udtalelse
|
Kommissionen, 09/03/2020
|
|
Retsgrundlag
|
Artikel 304 i traktaten om Den Europæiske Unions funktionsmåde
|
|
|
|
|
Kompetence
|
Sektionen for Det Indre Marked, Produktion og Forbrug
|
|
Vedtaget i sektionen
|
25/06/2020
|
|
Vedtaget på plenarforsamlingen
|
15/07/2020
|
|
Plenarforsamling nr.
|
553
|
|
Resultat af afstemning
(for/imod/hverken for eller imod)
|
207/0/6
|
1.Konklusioner og anbefalinger
1.1EØSU glæder sig over Kommissionens strategi som præsenteret i hvidbogen om kunstig intelligens (AI) om at fremme brugen af teknologier inden for kunstig intelligens, samtidig med at de europæiske etiske standarder, lovkrav og sociale værdier overholdes.
1.2EØSU bifalder også målet om at udnytte Europas styrker på industri- og erhvervsmarkederne og understreger betydningen af at styrke investeringer, infrastruktur, innovation og færdigheder, således at virksomheder, herunder SMV'er, og samfundet som helhed kan udnytte de muligheder, der ligger i kunstig intelligens. Innovation inden for kunstig intelligens bør fremmes for at maksimere fordelene ved AI-systemer, samtidig med at deres risici forebygges og minimeres.
1.3Udvalget mener dog, at fokus på en rent datastyret kunstig intelligens er for snævert, når det handler om at gøre EU til en sand leder inden for innovativ, pålidelig og konkurrencedygtig kunstig intelligens. EØSU opfordrer Kommissionen til at fremme en ny generation af AI‑systemer baseret på viden og logisk ræsonnement, som står vagt om menneskelige værdier og principper.
1.4EØSU opfordrer Kommissionen til at: i) fremme tværfagligheden på forskningsområdet ved at inddrage andre fagområder, herunder jura, etik, filosofi, psykologi, arbejdsvidenskab, humaniora, økonomi osv., ii) inddrage relevante interessenter (fagforeninger, faglige organisationer, erhvervsorganisationer, forbrugerorganisationer, NGO'er) i drøftelserne om kunstig intelligens og som ligeværdige partnere inden for EU-finansieret forskning og andre projekter, herunder det offentlig-private partnerskab om kunstig intelligens, sektordialoger og "brug kunstig intelligens"-programmet inden for den offentlige sektor og fyrtårnet på området samt iii) fortsætte med at uddanne den brede offentlighed i og informere om de muligheder og udfordringer, der knytter sig til kunstig intelligens.
1.5EØSU opfordrer indtrængende Kommissionen til i højere grad at tage højde for den indvirkning, kunstig intelligens har på alle former for grundlæggende rettigheder og friheder, herunder – men ikke begrænset til – retten til retfærdig rettergang, til retfærdige og åbne valg samt forsamlings- og demonstrationsfriheden foruden retten til beskyttelse mod forskelsbehandling.
1.6EØSU gør fortsat indsigelse mod, at den kunstige intelligens kan få tildelt en form for juridisk personlighed. Dette ville udhule den forebyggende afhjælpende virkning af erstatningsretten og medfører en alvorlig moralsk risiko, både hvad angår udviklingen og anvendelsen af kunstig intelligens, idet der opstår muligheder for misbrug.
1.7EØSU efterlyser en løbende, systematisk socioteknisk tilgang, hvor teknologien tages under lup fra alle perspektiver og med forskellige briller, i stedet for en enkeltstående (eller endda jævnligt gentagen) forudgående overensstemmelsesvurdering af kunstig intelligens indebærende høj risiko.
1.8EØSU advarer mod, at kriterierne for "højrisikosektorer" kan udelukke mange AI-anvendelser, der er uløseligt forbundet med en høj risiko, foruden biometrisk genkendelse og kunstig intelligens til ansættelsesformål. EØSU anbefaler, at Kommissionen udarbejder en liste over fælles karakteristika ved AI-anvendelser, der anses for værende uløseligt forbundet med en høj risiko, uagtet sektoren.
1.9EØSU opfordrer kraftigt til, at der udelukkende må gøres brug af biometrisk genkendelse: i) hvis det medfører en videnskabeligt dokumenteret effekt, ii) i kontrollerede miljøer og iii) på strenge betingelser. Den brede anvendelse af biometrisk genkendelse baseret på kunstig intelligens til overvågningsformål eller til sporing, vurdering eller kategorisering af mennesker eller menneskelig adfærd eller følelser bør forbydes.
1.10EØSU er fortaler for et tidligt og tæt samarbejde med arbejdsmarkedets parter i forbindelse med introduktionen af AI-systemer på arbejdspladsen i tråd med gældende nationale regler og praksis, så det sikres, at der bliver tale om brugbare systemer, der respekterer arbejdstagernes rettigheder og arbejdsbetingelser.
1.11EØSU er ligeledes fortaler for et tidligt og tæt samarbejde med de arbejdstagere, som i sidste ende skal arbejde med AI-systemet, samt arbejdstagere med ekspertise inden for jura, etik og humaniora i forbindelse med introduktionen af AI-systemer, så det sikres, at der bliver tale om systemer, der opfylder de lovbestemte og etiske krav, og som er tilpasset arbejdstagernes rettigheder, således at arbejdstagerne bevarer deres autonomi over deres arbejde, og at AI‑systemerne fremmer arbejdstagernes færdigheder og arbejdstilfredshed.
1.12De teknikker og tilgange med kunstig intelligens, der benyttes til bekæmpelse af covid‑19‑pandemien, bør være robuste, effektive, gennemsigtige og forklarlige. De bør endvidere stå vagt om menneskerettighederne, de etiske principper samt den eksisterende lovgivning foruden at være retfærdige, inklusive og frivillige.
1.13EØSU opfordrer Kommissionen til at påtage sig en ledende rolle for at sikre en bedre koordinering i Europa af anvendte AI-løsninger og -tilgange til bekæmpelse af coronaviruspandemien.
2.EU's hvidbog om kunstig intelligens
2.1EØSU glæder sig over, at Kommissionen har valgt at følge mange af anbefalingerne fra EØSU's tidligere udtalelser og fra ekspertgruppen på højt niveau om kunstig intelligens, som opfordrer til anvendelsen af teknologier inden for kunstig intelligens, samtidig med at det sikres, at de europæiske etiske standarder, lovkrav og sociale værdier underbygget af det, der kaldes et ekspertise- og tillidsmiljø, bliver overholdt.
2.2EØSU bifalder de forslag, der er rettet mod virksomheder, herunder SMV'er, og samfundet som helhed, og som udnytter mulighederne for udvikling og anvendelse af kunstig intelligens. EØSU understreger betydningen af at styrke investeringer, infrastruktur, innovation og færdigheder og dermed forbedre EU's konkurrenceevne på globalt plan.
En tilgang, hvor mennesket bevarer kontrollen
2.3Hvidbogen har en forholdsvis fatalistisk tone, idet der er tale om, at den kunstige intelligens "går sin sejrsgang", hvorfor vi ikke har nogen anden mulighed end at regulere den. EØSU har stor tiltro til EU's forpligtelse til at sikre, at Europa kun accepterer kunstig intelligens, som er troværdig, og tør derfor indtage en meget stærkere holdning her. EØSU opfordrer således Kommissionen til altid at bevare muligheden for slet ikke at acceptere en bestemt type AI (eller anvendelsen heraf). Dette er, hvad EØSU har kaldt "human-in-command"-tilgangen til kunstig intelligens, som vi er nødt til at fremme.
Styrkelse af kunstig intelligens i Europa – en fremtidsorienteret definition
2.4Arbejdsdefinitionen af kunstig intelligens i hvidbogen er "en sammensætning af teknologier, der kombinerer data, algoritmer og computerkraft". Længere nede i teksten er data og algoritmer defineret som de vigtigste elementer i kunstig intelligens. Denne definition kan dog dække enhver software, der nogensinde er blevet udviklet, ikke blot kunstig intelligens. Der findes stadig ikke en universelt godkendt definition af kunstig intelligens, der er et generisk begreb for en række computeranvendelser.
2.5Hvidbogens fokus på en rent datastyret kunstig intelligens er for snævert med hensyn til at gøre EU til en sand leder inden for innovativ, pålidelig og konkurrencedygtig kunstig intelligens. Hvidbogen tager ikke mange lovende systemer med kunstig intelligens i betragtning, og derfor er de ikke underlagt styring og regulering. EØSU opfordrer Kommissionen til også at fremme en ny generation af systemer med kunstig intelligens, der integrerer datastyrede tilgange i tilgange baseret på viden og logisk ræsonnement, de såkaldte hybridsystemer. Hvidbogen anerkender behovet for hybridsystemer for at opnå en bedre forklarlighed, men fordelene ved hybridsystemerne omfatter andet end forklarlighed: De kan accelerere og/eller fastholde læring og validere og verificere maskinlæringsmodellen.
2.6Hvidbogen fokuserer udelukkende på forudindtagethed i forhold til data. Det er dog ikke alle disse skævheder, der skyldes data af lav kvalitet eller begrænsede data. Udformningen af artefakter af enhver art udgør i sig selv en akkumulering af forudindtagede valg – lige fra de input, der tages højde for, til de mål, der fastsættes med henblik på optimering. Alle disse valg er på den ene eller den anden måde styret af den iboende forudindtagethed, som de(n) pågældende person(er) har.
2.7Systemer med kunstig intelligens er dog først og fremmest andet end blot summen af deres softwarekomponenter. AI-systemer omfatter også det sociotekniske system, der omgiver dem. I forhold til forvaltning og regulering af kunstig intelligens bør fokus således også ligge på de omgivende sociale strukturer omkring den kunstige intelligens: de organisationer og virksomheder, de forskellige erhverv og mennesker og institutioner, der skaber, udvikler, iværksætter, anvender og styrer den kunstige intelligens, og de mennesker, der påvirkes heraf, herunder borgere i deres kontakt med myndigheder, virksomheder, forbrugere, arbejdstagere eller endda samfundet som helhed.
2.8Det bør endvidere bemærkes, at de lovmæssige definitioner (i forhold til forvaltning og regulering) afviger fra de rent videnskabelige definitioner, idet der skal opfyldes en række forskellige krav, herunder om inklusion, præcision, bestandighed, sufficiens og praktisk anvendelighed. Nogle af disse er lovmæssigt bindende krav, mens andre udgør god forskriftspraksis.
Forening af alle kræfter
2.9EØSU glæder sig over bestræbelserne på at overvinde det fragmenterede landskab for kunstig intelligens i Europa, idet forskere på området kunstig intelligens forenes med fokus på SMV'er samt partnerskaber med den private og offentlige sektor. EØSU anbefaler endvidere: i) fremme af tværfagligheden på forskningsområdet ved at inddrage andre fagområder, herunder jura, etik, filosofi, psykologi, arbejdsvidenskab, humaniora, økonomi osv., ii) inddragelse af relevante interessenter (fagforeninger, erhvervsorganisationer, forbrugerorganisationer, NGO'er) i drøftelserne om kunstig intelligens, men også som ligeværdige partnere inden for EU-finansieret forskning og andre projekter, herunder det offentlig-private partnerskab om kunstig intelligens, sektordialoger og "brug kunstig intelligens"-programmet inden for den offentlige sektor og fyrtårnet på området samt iii) en fortsat indsats for at uddanne den brede offentlighed i og informere om de muligheder og udfordringer, der knytter sig til kunstig intelligens.
Kunstig intelligens og lovgivning
2.10I hvidbogen anerkendes det faktum, at det ikke er en lovløs verden, den kunstige intelligens opererer i. EØSU glæder sig navnlig over fremhævelsen af de konsekvenser, den kunstige intelligens har for de grundlæggende rettigheder, og anbefaler, at Kommissionen i højere grad tager højde for den indvirkning, kunstig intelligens har på en lang række grundlæggende rettigheder og friheder såsom tale- og ytringsfriheden, retten til respekt for privatlivet (som rækker langt ud over beskyttelsen af persondata), til retfærdig rettergang, til retfærdige og åbne valg samt forsamlings- og demonstrationsfriheden foruden retten til beskyttelse mod forskelsbehandling.
2.11EØSU glæder sig over hvidbogens klare kurs, hvad angår anvendelsen af de eksisterende erstatningsordninger på kunstig intelligens, og bestræbelserne på at tage udgangspunkt i disse ordninger for at imødegå nye risici, som kunstig intelligens kan medføre, idet de håndhævelsesmæssige mangler afhjælpes, i de tilfælde hvor det er vanskeligt at bestemme, hvilken erhvervsdrivende der rent faktisk er ansvarlig, og idet ordningerne tilpasses funktionsændringerne i systemer med kunstig intelligens.
2.12Kommissionen bør også anerkende, at AI ikke kender nogen grænser, og at indsatsen ikke må og ikke bør begrænses til Europa. Der bør opnås konsensus på verdensplan, idet der tages udgangspunkt i juridiske eksperters drøftelser og forskning med henblik på at etablere en fælles international retlig ramme.
2.13EØSU gør under alle omstændigheder fortsat kraftig indsigelse mod, at den kunstige intelligens kan få tildelt en form for juridisk personlighed. Dette ville udhule den forebyggende afhjælpende virkning af erstatningsretten og medfører en alvorlig moralsk risiko, både hvad angår udviklingen og anvendelsen af kunstig intelligens, idet der opstår muligheder for misbrug.
Regulering af kunstig intelligens indebærende høj risiko
2.14EØSU bifalder den risikobaserede tilgang til styring af virkningerne af kunstig intelligens. Kommissionen præsenterer en lovramme for "kunstig intelligens indebærende høj risiko", der vil skulle opfylde krav til robusthed, præcision, reproducerbarhed, gennemsigtighed, menneskeligt tilsyn og dataforvaltning. Ifølge hvidbogen udgør to kumulative elementer kunstig intelligens med høj risiko: i) en højrisikosektor og ii) en højrisikoanvendelse af kunstig intelligens. I hvidbogen tilføjes to eksempler på AI-anvendelser, der vil kunne anses for værende uløseligt forbundet med en høj risiko, uagtet sektoren. Biometrisk genkendelse anses også for en anvendelse, der er uløseligt forbundet med en høj risiko. Den udtømmende liste over højrisikosektorer (der revideres med jævne mellemrum) omfatter nu følgende sektorer, der anses for potentielle højrisikosektorer: sundhedspleje, transport, energi samt dele af den offentlige sektor.
2.15Det andet kriterium – at kunstig intelligens anvendes på en risikobetonet måde – er noget mere uklart, idet der lægges op til, at der kan være tale om forskellige risikoniveauer. EØSU foreslår, at samfund og miljø tilføjes som områder, der påvirkes i denne kontekst.
2.16Ifølge hvidbogens logik vil en anvendelse af kunstig intelligens indebærende en høj risiko inden for en lavrisikosektor i princippet ikke være omfattet af lovrammen. EØSU fremhæver, at uønskede negative virkninger af kunstig intelligens indebærende høj risiko inden for en lavrisikosektor kan udelukke AI-anvendelser fra lovgivningen, således at der skabes et "vindue" for omgåelse af reglerne: herunder målrettet annoncering (en lavrisikosektor), der har vist sig potentielt at kunne have en adskillende og diskriminerende effekt, der skaber splid, eksempelvis under valg eller ved anvendelse af individuel prissætning (en højrisikoanvendelse eller ‑virkning). EØSU anbefaler, at der udarbejdes fælles karakteristika for AI‑anvendelser, der anses for værende forbundet med en høj risiko, uagtet den sektor, de anvendes i.
2.17EØSU anerkender behovet for at foretage en overensstemmelsesprøvning af AI, men frygter, at det ikke er tilstrækkeligt med en enkeltstående (eller endda jævnligt gentagen) forudgående overensstemmelsesvurdering for at sikre en pålidelig og menneskecentreret udvikling, ibrugtagning og anvendelse af kunstig intelligens på bæredygtig vis. Pålidelig kunstig intelligens kræver en løbende, systematisk socioteknisk tilgang, hvor teknologien tages under lup fra alle perspektiver og med forskellige briller. I forbindelse med politikudformningen er der brug for en tværfaglig tilgang, hvor beslutningstagere, akademikere fra forskellige områder, arbejdsmarkedets parter, erhvervsorganisationer, fagfolk, virksomheder og NGO'er vedvarende arbejder sammen. Navnlig når det drejer sig om tjenesteydelser af almen interesse, der vedrører menneskers sundhed, sikkerhed og trivsel, og som er baseret på tillid, skal det sikres, at AI-systemerne er tilpasset de praktiske krav og ikke kan tilsidesætte det menneskelige ansvar.
Biometrisk genkendelse
2.18EØSU glæder sig over Kommissionens opfordring til at indlede en offentlig debat om anvendelsen af biometrisk genkendelse baseret på kunstig intelligens. Der gøres på nuværende tidspunkt allerede brug af biometrisk genkendelse af mikroudtryk, gangart, stemme(-leje), hjertefrekvens, temperatur osv. med henblik på at vurdere eller endda forudsige vores adfærd, mentale tilstand og følelser, herunder i ansættelsesprocedurer. Det skal præciseres, at der ikke findes fornuftig videnskabelig dokumentation for, at en persons inderste følelser og mentale tilstand præcist kan "aflæses" ud fra personens ansigtsudtryk, gangart, hjertefrekvens, stemmeleje eller temperatur, for slet ikke at tale om at dette kan bruges til at forudsige fremtidig adfærd.
2.19Det bør endvidere bemærkes, at GDPR udelukkende begrænser behandlingen af biometriske data til en vis grad. I GDPR defineres "biometriske data" som personoplysninger, der som følge af specifik teknisk behandling vedrørende en fysisk persons fysiske, fysiologiske eller adfærdsmæssige karakteristika muliggør eller bekræfter en entydig identifikation af vedkommende. Mange teknologier til biometrisk genkendelse er dog ikke specifikt beregnet til identificering af en person, men udelukkende til at vurdere en persons adfærd eller følelser. Disse anvendelser hører i henhold til GDPR ikke nødvendigvis under definitionen af (behandling af) biometriske data.
2.20Biometrisk genkendelse baseret på kunstig intelligens påvirker også vores mere vidtgående ret til respekt af privatliv, identitet, autonomi og psykologisk integritet, idet der opstår en situation, hvor vi (vedvarende) overvåges, følges og identificeres. Dette kan have en psykologisk "afdæmpende virkning", hvor personer muligvis bliver tilbøjelige til at tilpasse deres adfærd til en bestemt norm. Dette er et indgreb i vores grundlæggende ret til privatliv (moralsk og psykologisk integritet). Derudover kan den biometriske genkendelse baseret på kunstig intelligens påvirke andre grundlæggende rettigheder og friheder, herunder forsamlingsfriheden og retten til beskyttelse mod forskelsbehandling.
2.21EØSU anbefaler, at der udelukkende må gøres brug af biometrisk genkendelse, hvis det medfører en videnskabeligt dokumenteret effekt, i kontrollerede miljøer og på strenge betingelser. Det bør ikke være tilladt i vid udstrækning at anvende biometrisk genkendelse baseret på kunstig intelligens til at gennemføre overvågning, sporing, vurdering eller kategorisering af mennesker eller menneskelig adfærd eller følelser.
Indvirkningen af kunstig intelligens på arbejde og færdigheder
2.22EØSU bemærker, at hvidbogen ikke indeholder en strategi for, hvordan AI's indvirkning på arbejdslivet skal håndteres, selv om dette var et specifikt element i den europæiske strategi om kunstig intelligens fra 2018.
2.23EØSU er fortaler for, at alle arbejdstagere og tjenesteudbydere, herunder freelancere, selvstændige og ansatte i gig-økonomien, inddrages på et tidligt tidspunkt og indgår i et tæt samarbejde, således at dette samarbejde ikke blot inkluderer personer, der udformer eller udvikler kunstig intelligens, men også dem, der køber, implementerer, arbejder med eller påvirkes af AI-systemer. Den sociale dialog skal finde sted inden AI-teknologier indføres på arbejdspladsen i overensstemmelse med de gældende nationale regler og praksis. På arbejdspladsen bør adgangen til og forvaltningen af oplysninger om arbejdstagerne ske på grundlag af principper og regler, der forhandles af arbejdsmarkedets parter.
2.24EØSU vil gerne specifikt gøre opmærksom på kunstig intelligens, der anvendes inden for ansættelse, afskedigelse samt vurdering og evaluering af arbejdstagere. I hvidbogen nævnes anvendelsen af kunstig intelligens inden for ansættelsesprocedurer som et eksempel på en anvendelse, der indebærer en høj risiko, og som skal være genstand for regulering, uagtet sektoren. EØSU anbefaler, at dette anvendelsesområde udvides til også at omfatte AI, der anvendes i forbindelse med afskedigelser og til at vurdere og evaluere arbejdstagere. Der bør også ses nærmere på de fælles karakteristika ved AI-anvendelser, som indebærer en høj risiko ved brug på arbejdspladsen, uanset hvilken sektor der er tale om. Det bør ikke være tilladt at gøre brug af anvendelser af kunstig intelligens uden videnskabeligt grundlag, herunder detektering af følelser ved hjælp af biometrisk genkendelse, inden for arbejdsmiljøer.
2.25Ajourføring eller tilegnelse af færdigheder inden for kunstig intelligens er en nødvendighed, hvis mennesket skal kunne tilpasse sig den hurtige udvikling inden for kunstig intelligens. De politiske tiltag og økonomiske midler skal dog også rettes mod uddannelse og udvikling af færdigheder på områder, som ikke trues af systemer med kunstig intelligens (dvs. opgaver, hvor menneskelig interaktion står i centrum, såsom tjenesteydelser af almen interesse i tilknytning til sundhed, sikkerhed og borgernes trivsel, der er baseret på tillid, hvor menneske og maskine samarbejder, eller som vi ønsker, at mennesker skal blive ved med at varetage).
3.Kunstig intelligens og coronavirus
3.1Kunstig intelligens kan bidrage til en bedre forståelse af coronavirus og covid-19 samt beskytte mennesker mod eksponering, hjælpe med at finde en vaccine og undersøge behandlingsmuligheder. Det er dog fortsat vigtigt at være åben over for og være sig bevidst om, hvad kunstig intelligens kan og ikke kan.
3.2Robusthed og effektivitet: Det kan være problematisk at anvende datadrevet kunstig intelligens til at forudsige spredningen af coronavirus, da der foreligger for begrænset et datagrundlag vedrørende coronavirus til, at kunstig intelligens kan give pålidelige resultater. Det begrænsede datagrundlag, der foreligger, er endvidere ufuldstændigt og præget af forudindtagelser. Det vil kunne føre mange falske negativer og falske positiver med sig, hvis der gøres brug af disse data i maskinlæringstilgange.
3.3Det er helt afgørende, at der hersker gennemsigtighed i forhold til de data og modeller, der gøres brug af, og at resultaterne kan forklares. Lige nu har verden ikke råd til at træffe afgørelser på baggrund af "sorte bokse".
3.4Når der anvendes kunstig intelligens til bekæmpelse af denne pandemi, er det mere end nogensinde før vigtigt at respektere menneskerettighederne, de etiske principper og den eksisterende lovgivning. Navnlig i tilfælde hvor værktøjerne med kunstig intelligens potentielt kan krænke menneskerettighederne, skal der være en legitim interesse i deres anvendelse, der skal bunde i en streng nødvendighed, forholdsmæssighed og frem for alt tidsbegrænsning.
3.5Endelig skal vi sikre retfærdighed og inklusion. Systemerne med kunstig intelligens, der udvikles for at bekæmpe pandemien, bør være fri for forudindtagethed og ikke føre til forskelsbehandling. De bør endvidere være tilgængelige for alle og tage højde for de forskellige landes samfundsmæssige og kulturelle forskelle.
Apps med følge- og sporingsfunktion samt til sundhedsovervågning
3.6Ifølge virologer og epidemiologer er det nødvendigt med en effektiv opfølgning, sporing, overvågning og beskyttelse af menneskers sundhed, når vi åbner samfundet og økonomien efter nedlukningen. I øjeblikket udvikles der mange apps med følge- og sporingsfunktion, der kan udføre helbredstjek, hvilket er aktiviteter, der almindeligvis (og historisk set) er blevet udført af fagfolk. Mange regeringer verden over har i høj grad sat deres lid til apps med følge- og sporingsfunktion som en måde at åbne samfundene op på igen.
3.7Anvendelsen af denne type apps er et yderst radikalt skridt. Derfor er det helt afgørende, at deres brugbarhed, nødvendighed og effektivitet tages under kritisk behandling, inden der træffes beslutning om at gøre brug af dem. Det samme gælder deres samfundsmæssige og lovmæssige virkning. Der skal fortsat være mulighed for ikke at benytte disse apps, og mindre indgribende løsninger bør prioriteres.
3.8Det er yderst vigtigt, at disse apps med følge- og sporingsfunktion er effektive og pålidelige, da det i modsat fald vil kunne føre til mange falske positiver og falske negativer, til en falsk sikkerhedsfornemmelse og dermed en øget risiko for smitte. De første videnskabelige simuleringer rejser i høj grad tvivl om en sporingsapps positive indvirkning på spredningen af virus, selv ved en anvendelse på 80 eller 90 %. En app vil heller ikke kunne registrere specifikke forhold såsom forekomsten af plexiglas og vinduer eller brugen af personligt værnemiddel.
3.9Disse apps medfører endvidere en (delvis) tilsidesættelse af flere menneskerettigheder og friheder, da de går ind og rører ved vores forsamlingsfrihed, ret til sikkerhed, ret til beskyttelse mod forskelsbehandling og ret til privatliv.
3.10Privatliv handler – selv om dette er meget vigtigt – om meget mere end vores persondata og anonymitet. Privatliv handler også om retten til ikke at blive fulgt og blive genstand for sporing og overvågning. Der er videnskabelig dokumentation for, at folk begynder at opføre sig anderledes, når de ved, at de bliver fulgt. Ifølge Den Europæiske Menneskerettighedsdomstol udgør denne "afdæmpende virkning" et indgreb i vores privatliv. Debatten om kunstig intelligens bør inddrage denne brede tilgang til privatlivet.
3.11Der er en risiko for, at de indsamlede data (både i dag og fremover) ikke blot vil blive anvendt til at bekæmpe den aktuelle pandemi, men også til at profilere, kategorisere og vurdere personer med forskellige formål for øje. Længere ude i fremtiden vil man endda kunne forestille sig, at et "funktionsskred" kan føre til uønskede former for profilering i forbindelse med tilsyn og overvågning, godkendelse med forsikrings- eller sociale fordele for øje, ansættelse eller afskedigelse osv. Derfor må de data, der indsamles ved hjælp af sådanne apps, under ingen omstændigheder anvendes i forbindelse med profilering, risikoberegning, klassificering eller forudsigelse.
3.12De AI-løsninger, der tages i brug under disse ekstraordinære omstændigheder – selv når det sker med de bedste hensigter – skaber tilmed en præcedens, uanset om vi bryder os om det eller ej. Tidligere kriser har vist, at sådanne foranstaltninger på trods af alle de gode hensigter i praksis aldrig forsvinder igen.
3.13Brugen af kunstig intelligens under pandemien bør derfor altid vurderes ud fra en række hensyn, herunder: i) Er det effektivt og pålideligt? ii) Findes der mindre indgribende løsninger? iii) Opvejer fordelene problemerne, hvad de samfundsmæssige, etiske og grundlæggende rettigheder angår? iv) Er det muligt at opnå et ansvarligt kompromis i relation til de grundlæggende rettigheder og friheder, der er i modstrid med hinanden? Brugen af denne type systemer må tilmed ikke være forbundet med nogen form for forpligtelse eller tvang.
3.14EØSU opfordrer beslutningstagerne til ikke for let at give efter for teknologiske løsninger. I lyset af situationens alvor anbefaler vi, at de applikationer, der er forbundet med projekter, der skal hjælpe med at få pandemien under kontrol, bygger på fornuftig forskning i epidemiologi, sociologi, psykologi, jura, etik og systemvidenskab. Der vil, inden der træffes beslutning om at gøre brug af disse systemer, skulle gennemføres analyser og simuleringer af deres effektivitet, nødvendighed og brugbarhed.
Bruxelles, den 15. juli 2020
Luca Jahier
Formand for Det Europæiske Økonomiske og Sociale Udvalg
_____________