This document is an excerpt from the EUR-Lex website
Document 52022PC0414
Recommendation for a COUNCIL DECISION authorising the opening of negotiations on behalf of the European Union for a Council of Europe convention on artificial intelligence, human rights, democracy and the rule of law
Aanbeveling voor een BESLUIT VAN DE RAAD houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
Aanbeveling voor een BESLUIT VAN DE RAAD houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
COM/2022/414 final
EUROPESE COMMISSIE
Brussel, 18.8.2022
COM(2022) 414 final
Aanbeveling voor een
BESLUIT VAN DE RAAD
houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
TOELICHTING
ACHTERGROND VAN HET VOORSTEL
Artificiële intelligentie (AI) biedt grote kansen voor de samenleving, het milieu en de economie. Tegelijkertijd kan bepaalde AI, afhankelijk van de omstandigheden waarin deze wordt toegepast en gebruikt, materiële of immateriële schade veroorzaken en risico’s opleveren voor de algemene belangen en de grondrechten en fundamentele vrijheden van personen. Een samenhangend rechtskader voor AI, dat dergelijke algemene belangen en grondrechten beschermt en tegelijkertijd vertrouwen en innovatie bevordert, is daarom van cruciaal belang om deze uitdagingen aan te pakken en het potentieel van AI te benutten.
In april 2021 heeft de Europese Commissie een alomvattende verordening betreffende AI voorgesteld die de regels voor AI-systemen in alle 27 EU-lidstaten zou harmoniseren 1 . Het Europees Parlement en de Raad onderhandelen momenteel volgens de gewone wetgevingsprocedure over het voorstel. Diverse internationale organisaties, waaronder de Raad van Europa, hebben ook hun inspanningen op dit gebied opgevoerd en erkennen dat AI een grensoverschrijdend karakter heeft en dat internationale samenwerking noodzakelijk is om de gemeenschappelijke uitdagingen aan te pakken.
Op weg naar een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
Op 11 september 2019 besloot het Comité van Ministers van de Raad van Europa tot de oprichting van een ad-hoccomité inzake artificiële intelligentie (CAHAI) 2 . Het CAHAI had tot taak onderzoek te doen naar de haalbaarheid en de mogelijke elementen van een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van AI, rekening houdend met de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat en met de bestaande internationale rechtsinstrumenten 3 . De werkzaamheden van het CAHAI waren gebaseerd op een haalbaarheidsstudie 4 en op een raadpleging van meerdere belanghebbenden in het voorjaar van 2021 5 . Op 3 december 2021 heeft het CAHAI zijn taak afgerond en een slotdocument overgelegd waarin de mogelijke elementen van een dergelijk rechtskader worden genoemd 6 . Volgens het document is een rechtsinstrument dat fundamentele beginselen inzake de bescherming van de menselijke waardigheid en de eerbiediging van de mensenrechten, de democratie en de rechtsstaat bevat, noodzakelijk voor de ontwikkeling, het ontwerp en de toepassing van AI-systemen. Het instrument moet voorzien in de invoering van een methode voor de risico-indeling van AI-systemen, met de categorieën “laag risico”, “hoog risico” en “onaanvaardbaar risico”. AI-toepassingen die een “onaanvaardbaar” risico opleveren, moeten worden verboden 7 . Om onterechte vertekening te voorkomen, moet een bepaling over de eerbiediging van gelijke behandeling en non-discriminatie worden opgenomen. Wettelijke waarborgen moeten ten minste het recht op een doeltreffende voorziening in rechte voor een nationale instantie, het recht op informatie over de toepassing van een AI-systeem in een besluitvormingsproces, het recht om te kiezen voor interactie met een mens en het recht om te weten dat er interactie is met een AI-systeem garanderen. Specifieke kwesties zoals de manipulatie van inhoud (“deepfakes”) moeten echter in andere sectorale instrumenten worden behandeld. Er moet worden nagedacht over een eis om nalevingsmechanismen en nationale toezichthoudende autoriteiten op te zetten. Een niet-bindend effectbeoordelingsmodel zou het rechtsinstrument kunnen aanvullen.
Voor de periode 2022-2024 werd een opvolger van het CAHAI — het Comité inzake artificiële intelligentie (CAI) — opgericht. Volgens zijn taakomschrijving 8 heeft het CAI de opdracht een internationaal onderhandelingsproces op te zetten om een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van AI tot stand te brengen. Het kader moet worden gebaseerd op de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, en moet bevorderlijk zijn voor innovatie. Het kader moet uiterlijk op 15 november 2023 zijn opgesteld en tegen de tijd dat het CAI in 2024 wordt opgeheven, zijn voltooid. Om zijn opdracht te vervullen, moet het CAI zijn werkzaamheden coördineren met andere intergouvernementele comités en entiteiten van de Raad van Europa, zijn werkzaamheden baseren op overtuigend feitenmateriaal en op een inclusief raadplegingsproces, onder meer met internationale en supranationale partners, en rekening houden met het slotdocument van het CAHAI.
Op 4-6 april 2022 heeft het CAI zijn oprichtingsvergadering gehouden, waarbij een voorzitter, vicevoorzitter en bureau werden gekozen. Op 30 juni 2022 heeft het Comité van Ministers van de Raad van Europa het CAI opgedragen snel een juridisch bindend instrument van transversale aard (“verdrag”/“kaderverdrag”) inzake artificiële intelligentie uit te werken op basis van de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, overeenkomstig zijn taakomschrijving, dat gericht is op algemene gemeenschappelijke beginselen, bevorderlijk is voor innovatie en openstaat voor deelname door derde landen, rekening houdend met andere desbetreffende bestaande of in ontwikkeling zijnde internationale rechtskaders 9 .
Vervolgens heeft de voorzitter van het CAI een “nulontwerp” van het toekomstige (kader)verdrag verspreid, waarin fundamentele beginselen en regels zijn vastgelegd om ervoor te zorgen dat het ontwerp, de ontwikkeling en de toepassing van AI-systemen consistent zijn met de eerbiediging van de mensenrechten, de werking van de democratie en de naleving van de beginselen van de rechtsstaat. Het toekomstige (kader)verdrag moet worden uitgevoerd in de respectieve rechtsgebieden van de partijen. Het toepassingsgebied omvat zowel openbare als particuliere aanbieders en gebruikers van AI-systemen, maar AI-systemen die verband houden met nationale defensie zijn ervan uitgesloten. In het nulontwerp wordt voorgesteld de volgende bepalingen op te nemen:
·doel en toepassingsgebied van het (kader)verdrag;
·definities van een AI-systeem, levenscyclus, aanbieder, gebruiker en “AI-betrokkene”;
·bepaalde fundamentele beginselen, waaronder procedurele waarborgen en rechten voor AI-betrokkenen die van toepassing moeten zijn op alle AI-systemen, ongeacht het risiconiveau ervan;
·aanvullende maatregelen voor de overheidssector en voor AI-systemen die een “onaanvaardbaar” of “significant” risiconiveau opleveren, te bepalen op basis van een risico- en effectbeoordelingsmethode (die later in een bijlage bij het verdrag moet worden opgenomen);
·follow-up- en samenwerkingsmechanisme tussen de partijen;
·slotbepalingen, met inbegrip van de mogelijkheid voor de EU-lidstaten om het EU-recht in hun onderlinge betrekkingen toe te passen op aangelegenheden die onder het verdrag vallen, en de mogelijkheid voor de Unie om tot het verdrag toe te treden.
Het nulontwerp zal worden besproken tijdens de plenaire vergaderingen van het CAI in Straatsburg, die gepland zijn voor 21-23 september en 23-25 november 2022. Daarnaast zijn er vier vergaderingen gepland in 2023 en één in 2024.
•Motivering en doel van het voorstel
Deze aanbeveling voor een besluit wordt aan de Raad voorgelegd op grond van artikel 218 van het Verdrag betreffende de werking van de Europese Unie (VWEU). In het besluit zou machtiging worden verleend om namens de Unie onderhandelingen over een toekomstig verdrag van de Raad van Europa inzake AI, mensenrechten, democratie en de rechtsstaat op te starten, onderhandelingsrichtsnoeren vast te stellen en de Commissie als onderhandelaar van de Unie aan te wijzen.
In artikel 3, lid 2, VWEU wordt bepaald dat de Unie exclusief bevoegd is “een internationale overeenkomst te sluiten […] wanneer die sluiting gemeenschappelijke regels kan aantasten of de strekking daarvan kan wijzigen”. Een internationale overeenkomst kan gevolgen hebben voor gemeenschappelijke regels of de strekking daarvan wijzigen als het toepassingsgebied van de overeenkomst overlapt met het recht van de Unie of daar grotendeels onder valt 10 .
In dit verband voorziet het EU-recht in een uitgebreide reeks gemeenschappelijke regels voor de eengemaakte markt voor producten 11 en diensten 12 waarvoor AI-systemen kunnen worden gebruikt. Voorts kunnen de ontwikkeling en toepassing van bepaalde AI-systemen afbreuk doen aan de uitoefening van de grondrechten die zijn verankerd in het Handvest van de grondrechten van de EU 13 en het afgeleide EU-recht, waaronder bijvoorbeeld het recht op lichamelijke en geestelijke integriteit 14 , bescherming van persoonsgegevens 15 , privacy 16 , non-discriminatie 17 , vrijheid van meningsuiting en informatie 18 , het vermoeden van onschuld 19 , een eerlijk proces en een doeltreffende voorziening in rechte 20 . Een dergelijke ontwikkeling en toepassing kunnen ook gevolgen hebben voor de waarden waarop de Unie is gebaseerd, zoals de menselijke waardigheid, de democratie en de rechtsstaat 21 .
Om te beoordelen of een gebied grotendeels onder het EU-recht valt, moet overigens niet alleen rekening worden gehouden met de huidige stand van het EU-recht op het betrokken gebied, maar ook met de verwachte ontwikkeling ervan wanneer die ten tijde van deze beoordeling voorspelbaar is 22 . Het gebied waarop het toekomstige verdrag van de Raad van Europa inzake AI betrekking heeft, is van rechtstreeks belang voor dergelijke verwachte ontwikkelingen, rekening houdend met het voorstel van de Commissie voor een AI-verordening (“de wet op de AI”) 23 , dat in april 2021 is gepresenteerd en waarover momenteel wordt onderhandeld door het Europees Parlement en de Raad.
De onderhandelingen over het toekomstige (kader)verdrag van de Raad van Europa inzake AI hebben wel degelijk betrekking op aangelegenheden die onder de bevoegdheid van de Unie vallen en er is een zeer aanzienlijke overlapping tussen het nulontwerpverdrag en de voorgestelde wet op de AI wat betreft het toepassingsgebied, de aard en de inhoud ervan. Daarom is het belangrijk dat er zodanig namens de Unie wordt onderhandeld dat de consistentie en uniformiteit van de EU-regels voor AI en de goede werking van het daarbij ingestelde systeem niet worden ondermijnd en dat het toekomstige verdrag van de Raad van Europa volledig in overeenstemming is met het bestaande en toekomstige EU-recht op dit gebied.
•Verenigbaarheid met bestaande bepalingen op het beleidsterrein
Op 21 april 2021 heeft de Commissie een voorstel ingediend voor een verordening tot vaststelling van geharmoniseerde regels voor het in de handel brengen, in gebruik stellen en gebruiken van AI-systemen in de Unie. Het voorstel heeft als tweeledig doel een eengemaakte markt tot stand te brengen om de ontwikkeling en toepassing van AI te bevorderen, en tegelijkertijd de risico’s voor de veiligheid, de gezondheid en de grondrechten aan te pakken. Het is een horizontaal voorstel dat van toepassing is op aanbieders en gebruikers van AI-systemen, ongeacht of zij openbare of particuliere entiteiten zijn. AI-systemen die uitsluitend voor militaire doeleinden worden ontwikkeld of gebruikt, zijn van het toepassingsgebied uitgesloten.
Het voorstel bevat evenredige eisen en verplichtingen die beperkt zijn tot het minimum dat vereist is om de risico’s voor de gezondheid, de veiligheid en de grondrechten aan te pakken, zonder de technologische ontwikkeling van AI te belemmeren of de financiële en administratieve lasten voor exploitanten onevenredig te verhogen. Daartoe wordt in het voorstel een risicogebaseerde aanpak gehanteerd waarbij AI-systemen in verschillende categorieën worden ingedeeld, te weten “onaanvaardbaar”, “hoog”, “transparantiegerelateerd” en “laag” of “minimaal” risico.
·Er wordt een verbod voorgesteld op AI-systemen die als onverenigbaar met de EU-waarden en als een duidelijke bedreiging voor de veiligheid, de bestaansmiddelen of de rechten van mensen worden beschouwd en een “onaanvaardbaar risico” vormen (bv. sociale scoring door overheidsinstanties, schadelijke manipulatieve AI-praktijken, biometrische identificatie op afstand in real time voor rechtshandhavingsdoeleinden in openbaar toegankelijke ruimten, afgezien van enkele uitzonderingen).
·AI-systemen met een “hoog risico” die aanzienlijke risico’s voor de gezondheid, de veiligheid of de grondrechten met zich meebrengen, moeten aan conformiteitscontroles worden onderworpen en aan bepaalde verplichte eisen voldoen (bv. met betrekking tot risicobeheer, gegevenskwaliteit, documentatie, transparantie, menselijk toezicht, nauwkeurigheid, cyberbeveiliging) voordat die systemen in de Unie in de handel mogen worden gebracht of mogen worden gebruikt. Er worden ook evenredige en doeltreffende monitoring- en toezichtsverplichtingen opgelegd aan aanbieders en gebruikers, waarbij hun taken en verantwoordelijkheden in de hele waardeketen duidelijk worden omschreven zonder afbreuk te doen aan andere verplichtingen uit hoofde van sectorale wetgeving.
·Wat betreft AI-systemen die een “transparantiegerelateerd risico” met zich meebrengen, moeten mensen worden geïnformeerd wanneer zij interageren met of worden blootgesteld aan dergelijke systemen (bv. chatbots, emotieherkenning en systemen voor biometrische categorisering, deepfakes).
·Alle andere systemen met een “minimaal” of “laag risico” voor de gezondheid, de veiligheid en de grondrechten zijn zonder verdere beperkingen toegestaan, maar aanbieders kunnen ervoor kiezen vrijwillige gedragscodes na te leven.
Het voorstel wordt volgens de gewone wetgevingsprocedure door de Raad en het Europees Parlement besproken.
De onderhandelingen over het toekomstige verdrag van de Raad van Europa inzake AI, mensenrechten, democratie en de rechtsstaat moeten ervoor zorgen dat de overeengekomen bepalingen verenigbaar zijn met het EU-recht en de verplichtingen van de lidstaten uit hoofde daarvan, rekening houdend met de toekomstige ontwikkeling ervan en de voorgestelde wet op de AI. Ook moet het verdrag van de Raad van Europa een ontkoppelingsclausule bevatten die de EU-lidstaten die als partij toetreden tot het verdrag in staat stelt hun onderlinge betrekkingen op basis van het EU-recht te regelen. De voorgestelde wet op de AI moet, in alle stadia van de wetgevingsprocedure en onderhandelingen door de medewetgevers en uiteindelijk in zijn definitieve (vastgestelde) vorm, onder de EU-lidstaten worden gevrijwaard. De Europese Unie moet ook partij bij het verdrag kunnen worden.
•Verenigbaarheid met andere beleidsterreinen van de Unie
De aanbeveling is relevant voor andere lopende of geplande initiatieven van de Commissie die tot doel hebben de problemen in verband met de ontwikkeling en het gebruik van AI-systemen aan te pakken, zoals benoemd in het witboek over AI 24 . Deze andere initiatieven omvatten de herziening van de sectorale productwetgeving (bv. de machinerichtlijn 25 , de richtlijn inzake algemene productveiligheid 26 ) en toekomstige initiatieven die betrekking hebben op aansprakelijkheidskwesties in verband met nieuwe technologieën, waaronder AI-systemen.
De aanbeveling is ook in overeenstemming met de algemene digitale strategie van de Commissie die gericht is op de bevordering van technologie die werkt voor de mensen, een van de drie belangrijkste doelstellingen van de in de mededeling “De digitale toekomst van Europa vormgeven” 27 geformuleerde beleidsvisie. Het doel ervan is dat AI wordt ontwikkeld op een manier die de mensenrechten eerbiedigt en het vertrouwen van de mensen wint, zodat Europa klaar is voor het digitale tijdperk en we van de komende tien jaar het digitale decennium kunnen maken 28 .
Met de voorgestelde aanbeveling wordt ook de rol van de Unie bij de vormgeving van internationale normen en standaarden en bij de bevordering van betrouwbare AI die strookt met de waarden en belangen van de Unie, aanzienlijk versterkt. De voorgestelde aanbeveling biedt de Unie een krachtige basis om de digitale diplomatie van de EU 29 te versterken en om met andere Europese en niet-Europese landen te onderhandelen over de eerste juridisch bindende internationale overeenkomst inzake AI, gebaseerd op gedeelde waarden en beginselen.
2.RECHTSGRONDSLAG, SUBSIDIARITEIT EN EVENREDIGHEID
•Rechtsgrondslag
In artikel 218, lid 3, van het Verdrag betreffende de werking van de Europese Unie (VWEU) is bepaald dat de Commissie aanbevelingen doet aan de Raad, die een besluit houdende machtiging tot het openen van de onderhandelingen vaststelt en de onderhandelaar van de Unie aanwijst. Krachtens artikel 218, lid 4, VWEU kan de Raad de onderhandelaar richtsnoeren geven.
•Subsidiariteit (bij niet-exclusieve bevoegdheid)
De voorgestelde wet op de AI bevat geharmoniseerde regels voor AI-systemen in de Unie, waardoor de lidstaten geen verdere beperkingen kunnen opleggen, tenzij dit door de wet uitdrukkelijk wordt toegestaan. Krachtens artikel 3, lid 2, VWEU is de Unie exclusief bevoegd internationale overeenkomsten te sluiten wanneer die gemeenschappelijke regels kunnen aantasten of de strekking daarvan kunnen wijzigen. Hieruit volgt dat de Unie voor alle aangelegenheden in verband met het ontwerp, de ontwikkeling en de toepassing van AI-systemen, die grotendeels onder het EU-recht vallen of moeten vallen na de verwachte toekomstige ontwikkeling van EU-wetgeving en met name de voorgestelde wet op de AI, de bevoegdheid moet hebben om over het toekomstige verdrag van de Raad van Europa inzake AI te onderhandelen.
•Evenredigheid
Dit initiatief gaat niet verder dan wat nodig is om de desbetreffende beleidsdoelstellingen te verwezenlijken.
•Keuze van het instrument
De keuze van het instrument is een aanbeveling voor een besluit van de Raad, zoals bepaald in artikel 218, leden 3 en 4, VWEU.
3.EVALUATIE, RAADPLEGING VAN BELANGHEBBENDEN EN EFFECTBEOORDELING
•Evaluatie van bestaande wetgeving en controle van de resultaatgerichtheid ervan
N.v.t.
•Raadpleging van belanghebbenden
N.v.t.
•Bijeenbrengen en gebruik van expertise
De Commissie heeft bij de voorbereiding van de onderhandelingen rekening gehouden met de standpunten die de deskundigen van de lidstaten naar voren hebben gebracht tijdens de besprekingen in de betrokken werkgroep van de Raad.
•Effectbeoordeling
N.v.t.
•Resultaatgerichtheid en vereenvoudiging
N.v.t.
•Grondrechten
De voorgestelde wet op de AI en het ter tafel liggende verdrag van de Raad van Europa hebben tot doel de risico’s tot een minimum te beperken en te zorgen voor een hoog niveau van bescherming van de grondrechten die in bepaalde omstandigheden door de ontwikkeling en het gebruik van AI kunnen worden aangetast. Tegelijk wordt erkend dat AI het potentieel heeft om de uitoefening van die rechten in de digitale omgeving te beschermen en te vergemakkelijken en om het maatschappelijk en ecologisch welzijn en de technologische vooruitgang te verbeteren.
4.GEVOLGEN VOOR DE BEGROTING
Het voorstel heeft naar verwachting geen gevolgen voor de begroting van de Unie.
5.OVERIGE ELEMENTEN
•Uitvoeringsplanning en regelingen betreffende controle, evaluatie en rapportage
Het onderhandelingsproces zal naar verwachting tot 2024 duren, waarna het verdrag kan worden ondertekend en gesloten.
Aanbeveling voor een
BESLUIT VAN DE RAAD
houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
DE RAAD VAN DE EUROPESE UNIE,
Gezien het Verdrag betreffende de werking van de Europese Unie, en met name artikel 218, leden 3 en 4,
Gezien de aanbeveling van de Europese Commissie,
Overwegende hetgeen volgt:
(1)In 2021 heeft het Comité van Ministers van de Raad van Europa voor de periode 2022-2024 een Comité inzake artificiële intelligentie (CAI) opgericht dat de opdracht heeft een internationaal onderhandelingsproces op te zetten om een rechtskader voor de ontwikkeling, het ontwerp en de toepassing van artificiële intelligentie (AI) tot stand te brengen dat gebaseerd is op de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, en dat bevorderlijk is voor innovatie 30 .
(2)Op 30 juni 2022 heeft het Comité van Ministers van de Raad van Europa het Comité inzake artificiële intelligentie opgedragen snel een juridisch bindend instrument van transversale aard (“verdrag”/“kaderverdrag”) inzake artificiële intelligentie uit te werken op basis van de normen van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat, overeenkomstig zijn taakomschrijving, dat gericht is op algemene gemeenschappelijke beginselen, bevorderlijk is voor innovatie en openstaat voor deelname door derde landen, rekening houdend met andere desbetreffende bestaande of in ontwikkeling zijnde internationale rechtskaders 31 .
(3)Vervolgens heeft de voorzitter van het Comité inzake artificiële intelligentie een voorstel gedaan voor een nulontwerp van het (kader)verdrag dat van toepassing zou zijn op het ontwerp, de ontwikkeling en de toepassing van AI-systemen. Het nulontwerp omvat: bepalingen inzake het doel en het voorwerp, het toepassingsgebied, de definities, de fundamentele beginselen, met inbegrip van procedurele waarborgen en rechten die van toepassing zijn op alle AI-systemen ongeacht het risiconiveau ervan, de aanvullende maatregelen voor AI-systemen in de overheidssector en voor AI-systemen die een “onaanvaardbaar” en “significant” risiconiveau opleveren, een follow-up- en samenwerkingsmechanisme; slotbepalingen, met inbegrip van de mogelijkheid voor de Unie om tot het verdrag toe te treden; en een aanhangsel, in ontwikkeling, over een methodologie voor een risico- en effectbeoordeling van AI-systemen.
(4)De Unie heeft gemeenschappelijke regels vastgesteld die zullen worden beïnvloed door de elementen die in aanmerking worden genomen voor het verdrag van de Raad van Europa. Hierbij gaat het met name om een uitgebreide reeks regels op het gebied van de eengemaakte markt voor producten 32 en diensten 33 waarvoor AI-systemen kunnen worden gebruikt, en om regels inzake de bescherming van de grondrechten die zijn verankerd in het Handvest van de grondrechten van de EU 34 en worden uitgevoerd door middel van het afgeleide Unierecht 35 , aangezien die rechten in bepaalde omstandigheden waarschijnlijk in het gedrang komen door de ontwikkeling en het gebruik van bepaalde AI-systemen.
(5)Bovendien heeft de Commissie op 21 april 2021 een wetgevingsvoorstel ingediend voor een verordening tot vaststelling van geharmoniseerde regels voor AI 36 , waarover momenteel wordt onderhandeld door het Europees Parlement en de Raad. Het geplande verdrag van de Raad van Europa overlapt grotendeels met het wetgevingsvoorstel wat betreft het toepassingsgebied ervan, aangezien beide instrumenten bedoeld zijn om regels vast te stellen die van toepassing zijn op het ontwerp, de ontwikkeling en de toepassing van AI-systemen die door openbare of particuliere entiteiten worden aangeboden en gebruikt.
(6)Daarom kan de sluiting van het verdrag in kwestie van de Raad van Europa gevolgen hebben voor bestaande en voorzienbare toekomstige gemeenschappelijke regels van de Unie of de strekking daarvan wijzigen in de zin van artikel 3, lid 2, van het Verdrag betreffende de werking van de Europese Unie.
(7)Om de integriteit van het Unierecht te beschermen en te waarborgen dat de regels van het internationaal recht en het Unierecht consistent blijven, is het noodzakelijk dat de Commissie wordt gemachtigd om namens de Unie te onderhandelen over het verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat.
(8)De Europese Toezichthouder voor gegevensbescherming is geraadpleegd overeenkomstig artikel 42, lid 1, van Verordening (EU) 2018/1725 van het Europees Parlement en de Raad en heeft op […] advies uitgebracht,
HEEFT HET VOLGENDE BESLUIT VASTGESTELD:
Artikel 1
De Commissie wordt gemachtigd om namens de Unie te onderhandelen over het (kader)verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat.
Artikel 2
De onderhandelingsrichtsnoeren zijn opgenomen in de bijlage.
Artikel 3
De onderhandelingen worden gevoerd in overleg met [door de Raad in te voegen
naam van het speciale comité].
Artikel 4
Dit besluit is gericht tot de Commissie.
Gedaan te Brussel,
Voor de Raad
De voorzitter
EUROPESE COMMISSIE
Brussel, 18.8.2022
COM(2022) 414 final
BIJLAGE
bij de
AANBEVELING VOOR EEN BESLUIT VAN DE RAAD
houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
BIJLAGE
bij de aanbeveling voor een besluit van de Raad houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat
Wat het onderhandelingsproces betreft, moet de Unie het hiernavolgende nastreven:
(1)het onderhandelingsproces is open, inclusief en transparant, en gebaseerd op degelijk feitenmateriaal en samenwerking te goeder trouw;
(2)het onderhandelingsproces is gebaseerd op een inclusief raadplegingsproces en maakt een zinvolle deelname mogelijk voor alle relevante belanghebbenden, waaronder het maatschappelijk middenveld, de particuliere sector, de academische wereld, niet-gouvernementele organisaties, normalisatie-instellingen en andere relevante actoren met expertise op het gebied van de regulering van het ontwerp, de ontwikkeling en de toepassing van systemen voor artificiële intelligentie (AI);
(3)alle bijdragen die van alle onderhandelingspartijen worden ontvangen, worden op voet van gelijkheid in aanmerking genomen zodat een inclusief proces gewaarborgd is;
(4)het onderhandelingsproces is gebaseerd op een doeltreffend en realistisch werkprogramma voor de opstelling van het (kader)verdrag.
Wat de algemene doelstellingen van de onderhandelingen betreft, moet de Unie het hiernavolgende nastreven:
(5)het verdrag is verenigbaar met het EU-recht inzake de eengemaakte markt en andere gebieden van het EU-recht, met inbegrip van de algemene beginselen van het EU-recht en de grondrechten en fundamentele vrijheden zoals verankerd in het Handvest van de grondrechten van de EU en uitgevoerd door middel van het afgeleide EU-recht;
(6)het verdrag is verenigbaar met de voorgestelde wet op de artificiële intelligentie (wet op de AI) 1 , rekening houdend met toekomstige ontwikkelingen in het wetgevingsproces;
(7)het verdrag dient als een doeltreffend en toekomstbestendig regelgevingskader voor AI om een hoog niveau van bescherming van de mensenrechten en het behoud van de Europese waarden te waarborgen en tegelijkertijd innovatie te bevorderen en de rechtszekerheid en het vertrouwen te vergroten; in het verdrag worden tevens de mogelijke voordelen van AI voor zwaarwegende algemene belangen erkend, onder meer het potentieel om de uitoefening van de mensenrechten in de digitale omgeving te beschermen en te vergemakkelijken, om het welzijn en de gezondheid op maatschappelijk en ecologisch gebied te verbeteren en om de technologische vooruitgang te bevorderen;
(8)het verdrag versterkt de internationale samenwerking tussen de Europese Unie en andere Europese en niet-Europese landen die tot het verdrag kunnen toetreden;
(9)het verdrag is verenigbaar met bestaande instrumenten van de Raad van Europa, met name het Europees Verdrag voor de rechten van de mens en de protocollen daarbij, Verdrag nr. 108 van de Raad van Europa tot bescherming van personen met betrekking tot de geautomatiseerde verwerking van persoonsgegevens, zoals gewijzigd bij Protocol CETS nr. 223, en andere relevante rechtsinstrumenten van de Raad van Europa; het verdrag vermijdt doublures met die instrumenten en negatieve gevolgen voor de toepassing ervan of voor de latere toetreding van een land ertoe; het verdrag heeft betrekking op de nieuwe risico’s en uitdagingen van de specifieke kenmerken van bepaalde AI-systemen voor de naleving en de doeltreffende handhaving van bestaande rechten die door die instrumenten worden beschermd;
(10)het verdrag is verenigbaar met de verbintenissen van de Europese Unie met betrekking tot andere internationale overeenkomsten waarbij zij partij is, en voorkomt nadelige gevolgen voor de daadwerkelijke toepassing ervan; het verdrag is met name in overeenstemming met de internationale handelsverbintenissen van de Unie en vermijdt onnodige of ongerechtvaardigde handelsbeperkingen.
Wat de inhoud van de onderhandelingen betreft, moet de Unie het hiernavolgende nastreven:
(11)de bepalingen van het verdrag zijn volledig verenigbaar met het EU-recht inzake de eengemaakte markt en andere gebieden van het EU-recht, met inbegrip van de algemene beginselen van het EU-recht en de grondrechten zoals verankerd in het Handvest van de grondrechten van de Europese Unie en uitgevoerd door middel van het afgeleide EU-recht;
(12)de bepalingen van het verdrag zijn volledig verenigbaar met de bepalingen van de voorgestelde wet op de artificiële intelligentie, rekening houdend met toekomstige ontwikkelingen in het wetgevingsproces;
(13)de bepalingen van het verdrag geven de partijen de mogelijkheid een ruimere bescherming te bieden dan in het verdrag is vastgelegd en ondermijnen op geen enkele wijze het niveau van bescherming van de grondrechten en fundamentele vrijheden en de waarborgen waarin het recht van de Unie voorziet, met inbegrip van het beginsel dat de autoriteiten die toezicht houden op de grondrechten, onafhankelijk moeten zijn voor zover dit vereist is krachtens het EU-recht;
(14)in het verdrag wordt een risicogebaseerde aanpak gehanteerd en worden evenredige, doeltreffende en duidelijke regels vastgesteld die van toepassing zijn op openbare en particuliere entiteiten in de hele AI-waardeketen en die bedoeld zijn om de risico’s die voortvloeien uit het ontwerp, de ontwikkeling en de toepassing van bepaalde AI-systemen tot een minimum te beperken en tegelijkertijd onnodige en onevenredige lasten of beperkingen op de activiteiten van die entiteiten of beperkingen op de technologische ontwikkeling te vermijden; met name zijn de reikwijdte en de striktheid van elk regelgevend optreden evenwichtig, gerechtvaardigd en aangepast overeenkomstig de risiconiveaus van de AI-systemen;
(15)de bepalingen van het verdrag zijn, voor zover mogelijk, op een toekomstbestendige en flexibele manier geformuleerd om rekening te kunnen houden met toekomstige technologische, markt-, maatschappelijke en ecologische ontwikkelingen in verband met AI;
(16)het verdrag voorziet in regels voor het ontwerp, de ontwikkeling en de toepassing van AI-systemen, die overlappingen voorkomen en die een betekenisvolle meerwaarde bieden ten opzichte van andere relevante internationale of regionale verdragen, met name op het gebied van gegevensbescherming; die regels voor AI zijn verenigbaar met dergelijke verdragen en met internationale mensenrechtennormen;
(17)het verdrag bevat bepalingen voor de doeltreffende uitvoering van de regels voor het ontwerp, de ontwikkeling en de toepassing van AI-systemen, met name met passende nalevings- en controlemechanismen vooraf en achteraf, en erkent de rol van normen, certificeringsmechanismen, onafhankelijke derden die betrokken zijn bij nalevingscontroles en bevoegde toezichthoudende autoriteiten;
(18)het verdrag voorziet in maatregelen ter ondersteuning van innovatie, waaronder het testen van AI-systemen en de oprichting en werking van testomgevingen voor regelgeving ter bevordering van AI-innovatie in een gecontroleerde omgeving onder toezicht van de bevoegde autoriteiten;
(19)het verdrag houdt rekening met de bijzondere behoeften van kleine en middelgrote ondernemingen (kmo’s), heeft geen onevenredig nadelige invloed op hun concurrentievermogen en verplicht de partijen tot het nemen van specifieke maatregelen om kmo’s te ondersteunen;
(20)het verdrag houdt rekening met het belang van de rechtshandhavings- en justitiële autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten, onder meer met betrekking tot de vertrouwelijkheid en integriteit van dergelijke onderzoeken;
(21)het verdrag voorziet in doeltreffend toezicht door bevoegde autoriteiten en in samenwerkingsmechanismen die een doeltreffende uitvoering ervan mogelijk maken.
Wat de werking van het verdrag betreft, moet de Unie het hiernavolgende nastreven:
(22)het verdrag bevat een ontkoppelingsclausule op grond waarvan de EU-lidstaten in hun onderlinge betrekkingen het EU-recht kunnen blijven toepassen op aangelegenheden die onder het toepassingsgebied van het verdrag vallen;
(23)het verdrag voorziet in een passend mechanisme om de uitvoering ervan te waarborgen en bevat slotbepalingen, onder meer inzake geschillenbeslechting, ondertekening, ratificering, aanvaarding, goedkeuring, toetreding, inwerkingtreding, wijziging, opschorting, opzegging, de depositaris en taalregeling, die, waar mogelijk en passend, gemodelleerd zijn naar de bepalingen van andere relevante verdragen van de Raad van Europa;
(24)Het verdrag maakt het mogelijk dat de Europese Unie partij wordt bij het verdrag.
