Access to European Union law
<a href="https://eur-lex.europa.eu/content/help/eurlex-content/experimental-features.html" target="_blank">More about the experimental features corner</a>
Choose the experimental features you want to try
EUR-Lex
Access to European Union law

This document is an excerpt from the EUR-Lex website

You are here
Use quotation marks to search for an "exact phrase". Append an asterisk (*) to a search term to find variations of it (transp*, 32019R*). Use a question mark (?) instead of a single character in your search term to find variations of it (ca?e finds case, cane, care).
Search tips
Need more search options? Use the Advanced search

Document 52022XX1201(01)

    Resumé af udtalelsen fra Den Europæiske Tilsynsførende for Databeskyttelse om henstillingen med henblik på Rådets afgørelse om bemyndigelse til at føre forhandlinger på vegne af Den Europæiske Union om en Europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet 2022/C 458/04 (Udtalelsen findes i sin helhed på engelsk, fransk og tysk på EDPS' websted https://edps.europa.eu)

    EUT C 458 af 1.12.2022, p. 4–6 (BG, ES, CS, DA, DE, ET, EL, EN, FR, GA, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

    1.12.2022   

    DA

    Den Europæiske Unions Tidende

    C 458/4

    Resumé af udtalelsen fra Den Europæiske Tilsynsførende for Databeskyttelse om henstillingen med henblik på Rådets afgørelse om bemyndigelse til at føre forhandlinger på vegne af Den Europæiske Union om en Europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

    (2022/C 458/04)

    (Udtalelsen findes i sin helhed på engelsk, fransk og tysk på EDPS' websted https://edps.europa.eu)

    Den 18. august 2022 fremsatte Europa-Kommissionen en henstilling med henblik på Rådets afgørelse om bemyndigelse til at føre forhandlinger på vegne af Den Europæiske Union om en Europarådskonvention om kunstig intelligens (AI), menneskerettigheder, demokrati og retsstatsprincippet (»konventionen«) i henhold til artikel 218 i TEUF.

    I betragtning af den »grænseoverskridende« karakter af kunstig intelligens ser EDPS med tilfredshed på det overordnede mål, som Europarådet forfølger, om at udarbejde det første juridisk bindende internationale instrument om kunstig intelligens baseret på Europarådets standarder for menneskerettigheder, demokrati og retsstatsprincippet. EDPS støtter derfor indledningen af forhandlinger på Unionens vegne om konventionen og glæder sig over Unionens rolle med hensyn til at fremme pålidelig kunstig intelligens, der er i overensstemmelse med Unionens værdier.

    EDPS noterer sig, at konventionens anvendelsesområde vil blive reguleret i EU ved den foreslåede retsakt om kunstig intelligens, og anerkender Kommissionens mål om at sikre, at konventionen er forenelig med den foreslåede retsakt om kunstig intelligens, idet der tages hensyn til den fremtidige udvikling i lovgivningsprocessen. EDPS mener imidlertid, at konventionen udgør en vigtig mulighed for at supplere den foreslåede retsakt om kunstig intelligens ved at styrke beskyttelsen af de grundlæggende rettigheder for alle personer, der er berørt af AI-systemer, og slår derfor til lyd for, at konventionen giver klare og stærke garantier for de personer, der er berørt af anvendelsen af AI-systemer.

    I lyset af ovenstående fremsætter EDPS fire overordnede henstillinger vedrørende forhandlingsdirektiverne:

    —

    De generelle målsætninger for forhandlingerne om konventionen bør lægge større vægt på de garantier og rettigheder, der skal gives til enkeltpersoner — og grupper af enkeltpersoner — som er underlagt AI-systemer, i overensstemmelse med Europarådets primære fokus og mål.

    —

    Der bør i et specifikt direktiv medtages en udtrykkelig henvisning til, at konventionen er i overensstemmelse med EU's eksisterende retlige rammer for databeskyttelse.

    —

    I overensstemmelse med den risikobaserede tilgang bør målet om at indføre et forbud mod AI-systemer, der udgør uacceptable risici, medtages.

    —

    Konventionen bør fremme vedtagelsen af en tilgang med indbygget databeskyttelse og databeskyttelse gennem indstillinger på alle trin i AI-systemernes livscyklus.

    Desuden indeholder udtalelsen yderligere henstillinger om medtagelse i konventionen af proceduremæssige minimumsgarantier såvel som minimumskrav til gennemsigtighed, forklarlighed og mulighed for revision, overholdelse og kontrolmekanismer vedrørende grænseoverskridende samarbejde mellem kompetente myndigheder, der skal udpeges af konventionens parter med henblik på tilsyn med de garantier og rettigheder, der skal ydes i overensstemmelse med konventionen.

    1.   INDLEDNING

    1.

    		 Den 18. august 2022 fremsatte Europa-Kommissionen en henstilling med henblik på Rådets afgørelse om bemyndigelse til at føre forhandlinger på vegne af Den Europæiske Union om en Europarådskonvention om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet (1) i henhold til artikel 218 i TEUF (»henstillingen«).

    2.

    		 Formålet med henstillingen er at give bemyndigelse til at indlede forhandlinger på Unionens vegne om en fremtidig konvention fra Europarådet om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet (»konventionen«), at vedtage forhandlingsdirektiver og at udnævne Kommissionen til Unionens forhandler (2).

    3.

    		 I begrundelsen (3) understreger Kommissionen, at forhandlingerne om konventionen vedrører spørgsmål om EU’s kompetence, hvilket også skyldes, at det første udkast til konventionen, som blev rundsendt af Europarådets Udvalg om Kunstig Intelligens (CAI), i betydelig grad overlapper med Kommissionens forslag til forordning om kunstig intelligens (»den foreslåede retsakt om kunstig intelligens«) (4) med hensyn til anvendelsesområde og indhold (5).

    4.

    		 Det fremhæves i begrundelsen (6) til henstillingen, at det første udkast indeholder forslag om at indarbejde følgende bestemmelser:

    —

    (ramme)konventionens formål og anvendelsesområde

    —

    definitioner af AI-system, livscyklus, udbyder, bruger og »AI-registreret«

    —

    visse grundlæggende principper, herunder retssikkerhedsgarantier og rettigheder for AI-registrerede, der gælder for alle AI-systemer, uanset deres risikoniveau

    —

    yderligere foranstaltninger for den offentlige sektor og AI-systemer, som skaber en »uacceptabel« og »betydelig« risiko, der er identificeret ved hjælp af en risiko- og konsekvensanalysemetode (som vil blive fastlagt senere i et bilag til konventionen)

    —

    en opfølgnings- og samarbejdsmekanisme mellem parterne

    —

    afsluttende bestemmelser, herunder mulighed for, at EU-medlemsstaterne kan anvende EU-retten i deres gensidige forbindelser med hensyn til spørgsmål, der er omfattet af konventionen, og mulighed for, at Unionen kan tiltræde konventionen

    5.

    		 I henstillingen fremhæves det i betragtning 6 og 7, at indgåelsen af konventionen kan berøre eksisterende og fælles EU-regler i overskuelig fremtid. For at beskytte EU-rettens integritet og sikre, at de folkeretlige regler og EU-retten fortsat er i overensstemmelse med hinanden, er det nødvendigt, at Kommissionen bemyndiges til på Unionens vegne at føre forhandlinger om konventionen.

    6.

    		 Denne udtalelse fra EDPS er afgivet på grundlag af en høring fra Kommissionen af 18. august 2022 i henhold til artikel 42, stk. 1, i EUDPR (7). EDPS glæder sig over henvisningen til denne høring i henstillingens betragtning 8.

    8.   KONKLUSION

    49.

    		 På baggrund af ovenstående fremsætter EDPS følgende henstillinger:

    (1)

    Der skal lægges større vægt på målet om at »sikre et højt niveau for beskyttelse af menneskerettighederne og bevare de europæiske værdier« i overensstemmelse med Europarådets natur og mandat.

    (2)

    Ordet »herunder« efter »EU's lovgivning om det indre marked og andre retsområder« i direktiv 5 og 11 skal slettes for bedre at afspejle samspillet mellem generelle principper og grundlæggende rettigheder på den ene side og afledt ret (EU's lovgivning om det indre marked og andre retsområder) på den anden side.

    (3)

    Der skal tilføjes et specifikt direktiv, der minder om nødvendigheden af at finde den rette balance mellem den offentlige interesse og interesserne hos de personer, der er genstand for AI-systemer, for at sikre fuld overholdelse af retten til privatliv og beskyttelse af personoplysninger samt andre grundlæggende rettigheder, der er på spil, navnlig uskyldsformodningen og retten til en retfærdig rettergang, retten til god forvaltning og princippet om ikkeforskelsbehandling.

    (4)

    Det skal præciseres i et direktiv, at konventionen bør fastsætte visse proceduremæssige minimumsgarantier og -rettigheder for de personer, der er berørt af anvendelsen af AI-systemerne.

    (5)

    Det skal præciseres i et direktiv, at konventionen bør fastsætte minimumskrav til AI-systemers gennemsigtighed, forklarlighed og mulighed for revision.

    (6)

    Det skal præciseres i direktiv 14, at de samfundsmæssige/koncernrelaterede risici, som AI-systemer udgør, også skal vurderes og afbødes.

    (7)

    Det skal præciseres i forhandlingsdirektiverne, at visse AI-systemer, der udgør uacceptable risici, bør forbydes, og der skal opstilles en vejledende liste over sådanne AI-systemer.

    (8)

    Der skal medtages et forhandlingsdirektiv, i henhold til hvilket konventionen bør fremme vedtagelsen af en tilgang til databeskyttelse gennem design og gennem standardindstillinger på alle trin i AI-systemers livscyklus.

    (9)

    Indholdet i direktiv 17 skal præciseres på følgende måde:

    —

    Der skal foretages en forudgående overensstemmelsesvurdering for højrisiko-AI-systemer.

    —

    Højrisiko-AI-systemerne bør underkastes en ny overensstemmelsesvurderingsprocedure, når der sker en væsentlig ændring.

    —

    Formålet med og retsvirkningen af certificeringerne skal angives.

    —

    Det skal præciseres, at tekniske standarder kan have en positiv indvirkning på harmoniseringen af produkter og tjenesteydelser på den ene side, og at deres opgave på den anden side er at tilvejebringe tekniske specifikationer for regler, der allerede er fastsat ved lov.

    (10)

    Der skal medtages et direktiv, i henhold til hvilket konventionen bør fastsætte, at de kompetente tilsynsmyndigheder skal have tilstrækkelige undersøgelses- og håndhævelsesbeføjelser.

    (11)

    Der skal tilføjes et forhandlingsdirektiv, der har til formål at sikre, at konventionen letter og tilskynder til grænseoverskridende samarbejde mellem kompetente myndigheder.

    Bruxelles, den 13. oktober 2022.

    Wojciech Rafał WIEWIÓROWSKI

    (1)  COM(2022) 414 final

    (2)  COM (2022) 414 final, s. 3.

    (3)  COM (2022) 414 final, s. 5.

    (4)  Forslag til forordning om harmoniserede regler for kunstig intelligens (retsakten om kunstig intelligens) og om ændring af visse af unionens lovgivningsmæssige retsakter COM(2021) 206 final.

    (5)  Se også betragtning 5 i henstillingen.

    (6)  COM(2022) 414 final, s. 2 og 3.

    (7)  Europa-Parlamentets og Rådets forordning (EU) 2018/1725 af 23. oktober 2018 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger i Unionens institutioner, organer, kontorer og agenturer og om fri udveksling af sådanne oplysninger og om ophævelse af forordning (EF) nr. 45/2001 og afgørelse nr. 1247/2002/EF (EUT L 295 af 21.11.2018, s. 39).

    Top