COMMISSION EUROPÉENNE
Bruxelles, le 18.8.2022
COM(2022) 414 final
Recommandation de
DÉCISION DU CONSEIL
autorisant l’ouverture de négociations au nom de l’Union européenne en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit
EXPOSÉ DES MOTIFS
CONTEXTE DE LA PROPOSITION
L’intelligence artificielle (IA) ouvre de formidables possibilités à la société, à l’environnement et à l’économie. Cependant, en fonction de l’application et de l’utilisation qui en sont faites, l’IA peut aussi causer des dommages matériels ou immatériels et mettre en péril des intérêts publics ainsi que les droits et libertés fondamentaux des personnes. Adopter un cadre juridique cohérent, qui protège ces intérêts publics et ces droits fondamentaux tout en favorisant la confiance et l’innovation, est dès lors essentiel pour contrer ces risques et pour exploiter le potentiel qu’offre l’IA.
En avril 2021, la Commission européenne a proposé une réglementation détaillée en matière d’IA, qui harmoniserait les règles applicables aux systèmes d’IA dans les 27 États membres de l’UE 1 . La proposition est en cours de négociation au Parlement européen et au Conseil, conformément à la procédure législative ordinaire. Diverses organisations internationales, dont le Conseil de l’Europe, ont, elles aussi, intensifié leurs efforts dans ce domaine, en reconnaissant le caractère transfrontalier de l’IA et la nécessité d’une coopération internationale pour résoudre les problèmes communs.
Vers une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit
Le 11 septembre 2019, le Comité des ministres du Conseil de l’Europe a décidé de créer un comité ad hoc sur l’intelligence artificielle (CAHAI) 2 . Sa mission consistait à examiner la faisabilité et les éléments potentiels d’un cadre juridique pour le développement, la conception et l’application de l’IA, en tenant compte des normes du Conseil de l’Europe dans le domaine des droits de l’homme, de la démocratie et de l’état de droit, ainsi que des instruments juridiques internationaux existants qui étaient pertinents 3 . Les travaux du CAHAI reposaient sur une étude de faisabilité 4 et sur une consultation multipartite réalisée au printemps 2021 5 . Le 3 décembre 2021, le CAHAI a achevé sa mission et publié un document final décrivant les éléments potentiels d’un tel cadre juridique 6 . D’après ce document, il est nécessaire qu’un instrument juridique énonçant des principes fondamentaux de protection de la dignité humaine et de respect des droits de l’homme, de la démocratie et de l’État de droit s’applique au développement, à la conception et à l’application des systèmes d’IA. Ledit instrument devrait prévoir la mise en place d’une méthode de classification des risques liés aux systèmes d’IA, comportant les catégories «risque faible», «risque élevé» et «risque inacceptable». Les applications d’IA qui présentent des risques «inacceptables» devraient être interdites 7 . Afin d’éviter les biais injustifiés, il conviendrait d’inclure une disposition sur le respect de l’égalité de traitement et de la non-discrimination. Des garanties juridiques devraient garantir, au minimum, le droit à un recours effectif devant une autorité nationale, le droit d’être informé de l’application d’un système d’IA dans un processus décisionnel, le droit de choisir d’interagir avec un humain et le droit de savoir que l’on interagit avec un système d’IA. Toutefois, les questions spécifiques telles que la manipulation de contenus («hypertrucages»/«deep fakes») devraient être abordées dans d’autres instruments plus sectoriels. L’obligation de mettre en place des mécanismes de conformité et des autorités de contrôle nationales devrait être envisagée. Un modèle d’analyse d’impact non contraignant pourrait compléter l’instrument juridique.
Le comité sur l’intelligence artificielle (CAI) a succédé au CAHAI pour la période 2022-2024. Le mandat du CAI 8 charge ce dernier de mettre en place un processus de négociation internationale en vue de l’élaboration d’un cadre juridique pour le développement, la conception et l’application de l’IA. Ce cadre devrait reposer sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’état de droit et devrait être propice à l’innovation. Il doit être rédigé pour le 15 novembre 2023 et finalisé d’ici la fin du mandat du CAI en 2024. Conformément à son mandat, le CAI devrait coordonner ses travaux avec ceux d’autres comités intergouvernementaux et d’autres entités du Conseil de l’Europe, fonder ses travaux sur des éléments solides et sur un processus de consultation inclusif, notamment avec les partenaires internationaux et supranationaux, et tenir compte du document final du CAHAI.
Le CAI a tenu sa réunion inaugurale du 4 au 6 avril 2022, au cours de laquelle un président, un vice-président et un bureau ont été élus. Le 30 juin 2022, le Comité des ministres du Conseil de l’Europe a chargé le CAI «de poursuivre avec diligence l’élaboration d’un instrument juridique contraignant à caractère transversal («convention»/«convention-cadre») sur l’intelligence artificielle, fondé sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’État de droit, conformément à son mandat, centré sur des principes généraux communs, propices à l’innovation, et ouvert à la participation d’États non membres, en prenant en considération les autres cadres juridiques internationaux pertinents existants ou en cours d’élaboration» 9 .
Par la suite, le président du CAI a diffusé un avant-projet de la future convention/convention-cadre qui établit des règles et des principes fondamentaux visant à garantir que la conception, le développement et l’application des systèmes d’IA soient compatibles avec le respect des droits de l’homme, le fonctionnement de la démocratie et le respect de l’état de droit. Cette future convention/convention-cadre devra être mise en œuvre dans les pays respectifs des parties. Le champ d’application couvre les fournisseurs et utilisateurs, tant publics que privés, de systèmes d’IA, mais exclut les systèmes d’IA liés à la défense nationale. L’avant-projet propose d’inclure les dispositions suivantes:
·l’objet et le champ d’application de la convention/convention-cadre;
·la définition des termes «système d’IA», «cycle de vie», «fournisseur», «utilisateur» et «sujet d’IA»;
·certains principes fondamentaux, dont des droits et garanties procéduraux pour les sujets d’IA qui s’appliqueraient à tous les systèmes d’IA, quel que soit leur niveau de risque;
·des mesures supplémentaires pour le secteur public ainsi que pour les systèmes d’IA qui présentent les niveaux de risque «inacceptable» et «élevé», déterminés par une méthode d’évaluation des risques et de l’impact (à définir ultérieurement dans une annexe jointe à la convention);
·un mécanisme de suivi et de coopération entre les parties;
·des dispositions finales, dont la possibilité pour les États membres de l’UE d’appliquer le droit de l’Union dans le cadre de leurs relations mutuelles, pour les matières relevant de la convention, et la possibilité pour l’Union d’adhérer à la convention.
L’avant-projet sera examiné lors des sessions plénières du CAI à Strasbourg prévues du 21 au 23 septembre et du 23 au 25 novembre 2022. Quatre réunions sont également prévues en 2023 et une en 2024.
•Justification et objectifs de la proposition
La présente recommandation de décision est soumise au Conseil conformément à l’article 218 du traité sur le fonctionnement de l’Union européenne (TFUE). La décision autoriserait l’ouverture de négociations au nom de l’Union en vue d’une future convention du Conseil de l’Europe sur l’IA, les droits de l’homme, la démocratie et l’état de droit, l’adoption de directives de négociation et la désignation de la Commission en qualité de négociateur de l’Union.
L’article 3, paragraphe 2, du TFUE prévoit que l’Union dispose d’une compétence exclusive «pour la conclusion d’un accord international [...] dans la mesure où [cette conclusion] est susceptible d’affecter des règles communes ou d’en altérer la portée». Un accord international est susceptible d’affecter des règles communes ou d’en altérer la portée lorsqu’il relève d’un domaine qui présente des recoupements avec le droit de l’Union ou qui est déjà couvert en grande partie par ce droit 10 .
À cet égard, le droit de l’Union prévoit un ensemble complet de règles de marché unique communes qui régissent des produits 11 et des services 12 pour lesquels les systèmes d’IA peuvent être utilisés. En outre, le développement et l’utilisation de certains systèmes d’IA risquent d’entraver l’exercice de droits fondamentaux consacrés dans la charte des droits fondamentaux de l’UE 13 et dans le droit dérivé de l’Union, notamment, par exemple, le droit à l’intégrité physique et mentale 14 , à la protection des données à caractère personnel 15 , à la vie privée 16 , à la non-discrimination 17 , à la liberté d’expression et d’information 18 , la présomption d’innocence 19 , et le droit à un recours effectif et à accéder à un tribunal impartial 20 . Ce développement et cette utilisation pourraient également porter atteinte aux valeurs sur lesquelles l’Union est fondée, notamment la dignité humaine, la démocratie et l’état de droit 21 .
En outre, pour déterminer si un domaine est déjà couvert en grande partie par le droit de l’Union, il convient de prendre en considération non seulement l’état actuel du droit de l’Union dans le domaine concerné, mais également ses perspectives d’évolution, lorsque celles-ci sont prévisibles au moment de cette analyse 22 . Or le domaine que couvre la future convention du Conseil de l’Europe sur l’IA est en lien direct avec ces perspectives d’évolution prévisibles, compte tenu de la proposition de règlement sur l’IA (ci-après «législation sur l’IA») 23 présentée par la Commission en avril 2021, qui est en cours de négociation entre le Parlement européen et le Conseil.
Les négociations relatives à la future convention/convention-cadre du Conseil de l’Europe sur l’IA portent bel et bien sur des questions relevant de la compétence de l’Union, et l’avant-projet de convention et la proposition de législation sur l’IA se recoupent largement en ce qui concerne leur champ d’application, leur nature et leur contenu. En conséquence, il importe que les négociations soient menées au nom de l’Union de manière à ne pas nuire à la cohérence et l’uniformité des règles de l’UE en matière d’IA et au bon fonctionnement du système qu’elles établissent, ainsi qu’à assurer la parfaite cohérence de la future convention du Conseil de l’Europe avec le droit de l’Union existant et futur dans ce domaine.
•Cohérence avec les dispositions existantes dans le domaine d'action
Le 21 avril 2021, la Commission a présenté une proposition de règlement établissant des règles harmonisées concernant la mise sur le marché, la mise en service et l’utilisation des systèmes d’IA dans l’Union. Cette proposition poursuit le double objectif de créer un marché unique pour promouvoir le développement et l’adoption de l’IA, tout en tenant compte des risques pour la sécurité, la santé et les droits fondamentaux. De caractère horizontal, elle est applicable aux fournisseurs et aux utilisateurs de systèmes d’IA, qu’il s’agisse d’entités publiques ou privées. Les systèmes d’IA développés ou utilisés exclusivement à des fins militaires sont exclus du champ d’application.
La proposition établit des exigences et des obligations proportionnées, limitées au minimum nécessaire pour répondre aux risques pour la santé, la sécurité et les droits fondamentaux, sans freiner le développement technologique de l’IA ni augmenter de manière disproportionnée les charges financières et administratives pour les opérateurs. À cette fin, elle suit une approche fondée sur les risques, qui classe les systèmes d’IA en différentes catégories, à savoir «risque inacceptable», «risque élevé», «risque lié à la transparence» et «risque faible» ou «minime».
·Elle propose d’interdire les systèmes d’IA considérés comme incompatibles avec les valeurs de l’Union et comme une menace manifeste pour la sécurité, les moyens de subsistance ou les droits des personnes, ce qui constitue un «risque inacceptable» (par exemple, la notation sociale par des autorités publiques, les pratiques de manipulation néfastes facilitées par l’IA, l’identification biométrique à distance en temps réel à des fins répressives dans des espaces accessibles au public, sous réserve de quelques exceptions limitées).
·Les systèmes d’IA «à haut risque», qui présentent des risques élevés pour la santé, la sécurité ou les droits fondamentaux, doivent faire l’objet d’évaluations de la conformité et respecter certaines exigences obligatoires (par exemple, en ce qui concerne la gestion des risques, la qualité des données, la documentation, la transparence, le contrôle humain, l’exactitude, la cybersécurité) avant de pouvoir être être mis sur le marché ou utilisés dans l’Union. Il est en outre imposé aux fournisseurs et aux utilisateurs des obligations proportionnées et effectives en matière de suivi et de contrôle, qui définissent clairement leurs rôles et leurs responsabilités tout au long de la chaîne de valeur, sans remettre en cause d’autres obligations prévues par la législation sectorielle.
·Pour les systèmes d’IA qui présentent un «risque lié à la transparence», les personnes devraient être informées lorsqu’elles interagissent avec de tels systèmes ou y sont exposées (par exemple, des dialogueurs, des systèmes de reconnaissance des émotions et de catégorisation biométrique, des hypertrucages).
·Tous les autres systèmes qui présentent un risque «minime» ou «faible» pour la santé, la sécurité et les droits fondamentaux sont autorisés sans autres restrictions, les fournisseurs pouvant toutefois choisir de se conformer à des codes de conduite volontaires.
La proposition est en cours d’examen au Conseil et au Parlement européen, conformément à la procédure législative ordinaire.
Dans le cadre des négociations sur la future convention du Conseil de l’Europe sur l’IA, les droits de l’homme, la démocratie et l’état de droit, il devrait être veillé à la compatibilité des dispositions convenues avec le droit de l’Union et les obligations des États membres qui en découlent, en prenant en considération ses perspectives d’évolution et la législation sur l’IA proposée. Il conviendra également de veiller à ce que la convention du Conseil de l’Europe comporte une clause de déconnexion qui permette aux États membres de l’UE devenus parties à la convention de réglementer leurs relations mutuelles sur la base du droit de l’UE. La législation sur l’IA proposée, telle qu’elle aura évolué au cours de la procédure législative et des négociations entre les colégislateurs et, finalement, dans sa forme définitive (adoptée), devrait être préservée entre les États membres de l’UE. L’Union européenne devrait également pouvoir adhérer à la convention en qualité de partie.
•Cohérence avec les autres politiques de l'Union
La recommandation est pertinente pour d’autres initiatives de la Commission, en cours ou prévues, qui visent à résoudre les problèmes que posent le développement et l’utilisation des systèmes d’IA, recensés dans le livre blanc sur l’IA 24 . Parmi ces autres initiatives figurent la révision de la législation sectorielle sur les produits (par exemple, la directive «Machines» 25 et la directive sur la sécurité générale des produits 26 ) et des initiatives à venir qui abordent des questions de responsabilité liées aux nouvelles technologies, dont les systèmes d’IA.
La recommandation est également en cohérence avec la stratégie numérique globale de la Commission visant à promouvoir des technologies au service des personnes, l’un des trois objectifs clés de la vision politique exposée dans la communication «Façonner l’avenir numérique de l’Europe» 27 . Elle vise à garantir que l’IA soit développée de manière à respecter les droits humains et à susciter la confiance des personnes, à adapter l’Europe à l’ère du numérique et à faire des dix prochaines années la «décennie numérique» 28 .
La proposition de recommandation accroît en outre considérablement la contribution de l’Union à la définition de normes mondiales et à la promotion d’une IA digne de confiance qui soit conforme aux valeurs et aux intérêts de l’Union. Elle offre à l’Union une base solide pour renforcer sa diplomatie numérique 29 et négocier, avec d’autres pays européens et non européens, le premier accord international juridiquement contraignant sur l’IA, fondé sur des valeurs et des principes communs.
2.BASE JURIDIQUE, SUBSIDIARITÉ ET PROPORTIONNALITÉ
•Base juridique
L’article 218, paragraphe 3, du traité sur le fonctionnement de l’Union européenne (TFUE) dispose que la Commission présente des recommandations au Conseil, qui adopte une décision autorisant l’ouverture de négociations et désignant le négociateur de l’Union. Conformément à l’article 218, paragraphe 4, du TFUE, le Conseil peut adresser des directives au négociateur.
•Subsidiarité (en cas de compétence non exclusive)
La proposition de législation sur l’IA établit des règles harmonisées pour les systèmes d’IA dans l’Union, empêchant ainsi les États membres d’imposer d’autres restrictions, sauf autorisation expresse de la législation. L’article 3, paragraphe 2, du traité sur le fonctionnement de l’Union européenne (TFUE) établit que l’Union dispose d’une compétence exclusive «pour la conclusion d’un accord international (...) dans la mesure où elle est susceptible d’affecter des règles communes ou d’en altérer la portée». Il s’ensuit donc que, pour toutes les questions relatives à la conception, au développement et à l’application de systèmes d’IA, couvertes en grande partie par le droit de l’Union ou qui le seront, du fait des perspectives d’évolution prévisibles du droit de l’Union, et en particulier de la proposition de législation sur l’IA, l’Union devrait avoir compétence pour négocier la future convention du Conseil de l’Europe sur l’IA.
•Proportionnalité
La présente initiative ne va pas au-delà de ce qui est nécessaire pour atteindre les objectifs qui sont en jeu.
•Choix de l’instrument
L’instrument choisi est une recommandation de décision du Conseil, conformément aux dispositions de l’article 218, paragraphes 3 et 4, du TFUE.
3.RÉSULTATS DES ÉVALUATIONS EX POST, DES CONSULTATIONS DES PARTIES INTÉRESSÉES ET DES ANALYSES D'IMPACT
•Évaluations ex post/bilans de qualité de la législation existante
Sans objet
•Consultation des parties intéressées
Sans objet
•Obtention et utilisation d'expertise
La Commission a tenu compte des avis exprimés par les experts des États membres durant les discussions menées au sein des groupes de travail compétents du Conseil, lors de la préparation des négociations.
•Analyse d'impact
Sans objet
•Réglementation affûtée et simplification
Sans objet
•Droits fondamentaux
La proposition de législation sur l’IA et la convention du Conseil de l’Europe envisagée visent à réduire les risques au minimum et à garantir un niveau élevé de protection des droits fondamentaux auxquels, dans certaines circonstances, le développement et l’utilisation de l’IA pourraient porter atteinte, tout en reconnaissant également le potentiel qu’offre l’IA pour protéger et faciliter l’exercice de ces droits dans l’environnement numérique et pour améliorer le bien-être sociétal et environnemental ainsi que le progrès technologique.
4.INCIDENCE BUDGÉTAIRE
La proposition n’a pas d’incidence envisagée sur le budget de l’Union.
5.AUTRES ÉLÉMENTS
•Plans de mise en œuvre et modalités de suivi, d’évaluation et d’information
Le processus de négociation devrait durer jusqu’en 2024, après quoi la convention pourra être signée et conclu.
Recommandation de
DÉCISION DU CONSEIL
autorisant l’ouverture de négociations au nom de l’Union européenne en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit
LE CONSEIL DE L'UNION EUROPÉENNE,
vu le traité sur le fonctionnement de l’Union européenne, et notamment son article 218, paragraphes 3 et 4,
vu la recommandation de la Commission européenne,
considérant ce qui suit:
(1)En 2021, le Comité des ministres du Conseil de l’Europe a créé un comité sur l’intelligence artificielle (CAI) pour la période 2022-2024, chargé de mettre en place un processus de négociation international en vue de l’élaboration d’un cadre juridique pour le développement, la conception et l’application de l’intelligence artificielle (IA), fondé sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’état de droit, et propice à l’innovation 30 .
(2)Le 30 juin 2022, le Comité des ministres du Conseil de l’Europe a chargé le comité sur l’intelligence artificielle de poursuivre avec diligence l’élaboration d’un instrument juridique contraignant à caractère transversal («convention»/«convention-cadre») sur l’intelligence artificielle, fondé sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’état de droit, conformément à son mandat, centré sur des principes généraux communs, propice à l’innovation, et ouvert à la participation d’États non membres, en prenant en considération les autres cadres juridiques internationaux pertinents existants ou en cours d’élaboration 31 .
(3)Par la suite, le président du comité sur l’intelligence artificielle a proposé un avant-projet de convention/convention-cadre qui s’appliquerait à la conception, au développement et à l’application des systèmes d’IA. L’avant-projet comprend: des dispositions sur la finalité et l’objet, le champ d’application, des définitions, des principes fondamentaux, y compris des droits et garanties procéduraux applicables à tous les systèmes d’IA, quel que soit leur niveau de risque, des mesures supplémentaires pour les systèmes d’IA dans le secteur public et pour les systèmes d’IA présentant les niveaux de risque «inacceptable» et «élevé», un mécanisme de suivi et de coopération; des dispositions finales, y compris la possibilité pour l’Union d’adhérer à la convention; et une annexe, en cours d’élaboration, sur une méthode d’évaluation des risques et de l’impact des systèmes d’IA.
(4)L’Union a adopté des règles communes qui seront affectées par les éléments envisagés pour la convention du Conseil de l’Europe. Il s’agit notamment d’un ensemble complet de règles dans le domaine du marché unique qui régissent des produits 32 et des services 33 pour lesquels des systèmes d’IA peuvent être utilisés, ainsi que de règles relatives à la protection des droits fondamentaux consacrés dans la charte des droits fondamentaux de l’Union européenne 34 et mises en œuvre dans le droit dérivé de l’Union 35 , étant donné que ces droits sont susceptibles d’être affectés négativement, dans certaines circonstances, par le développement et l’utilisation de certains systèmes d’IA.
(5)En outre, le 21 avril 2021, la Commission a présenté une proposition législative de règlement établissant des règles harmonisées en matière d’IA 36 , en cours de négociation par le Parlement européen et le Conseil. Le champ d’application de la convention du Conseil de l’Europe envisagée coïncide dans une large mesure avec celui de la proposition législative, étant donné que les deux instruments visent à établir des règles applicables à la conception, au développement et à l’application de systèmes d’IA, fournis et utilisés par des entités publiques ou privées.
(6)Par conséquent, la conclusion de la convention du Conseil de l’Europe envisagée est susceptible d’affecter des règles communes de l’Union existantes et prévisibles ou d’en altérer la portée au sens de l’article 3, paragraphe 2, du traité sur le fonctionnement de l’Union européenne.
(7)Afin de protéger l’intégrité du droit de l’Union et de garantir la cohérence des règles du droit international et du droit de l’Union, il convient que la Commission soit autorisée à négocier, au nom de l’Union, la convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit.
(8)Le Contrôleur européen de la protection des données a été consulté conformément à l’article 42, paragraphe 1, du règlement (UE) 2018/1725 du Parlement européen et du Conseil et a rendu un avis le ...,
A ADOPTÉ LA PRÉSENTE DÉCISION:
Article premier
La Commission est autorisée à négocier, au nom de l’Union, la convention/convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit.
Article 2
Les directives de négociation figurent en annexe.
Article 3
Les négociations sont menées en concertation avec [nom du comité spécial, à insérer par le Conseil].
Article 4
La Commission est destinataire de la présente décision.
Fait à Bruxelles, le
Par le Conseil
Le président
COMMISSION EUROPÉENNE
Bruxelles, le 18.8.2022
COM(2022) 414 final
ANNEXE
de la
RECOMMANDATION DE DÉCISION DU CONSEIL
autorisant l’ouverture de négociations, au nom de l’Union européenne, en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit
ANNEXE
de la recommandation de décision du Conseil autorisant l’ouverture de négociations, au nom de l’Union européenne, en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit
En ce qui concerne le déroulement des négociations, l’Union devrait viser les résultats suivants:
(1)Le processus de négociation est ouvert, inclusif et transparent et repose sur des preuves solides et une coopération de bonne foi.
(2)Le processus de négociation repose sur un processus de consultation inclusif et permet une participation significative de toutes les parties prenantes concernées, y compris la société civile, le secteur privé, le monde universitaire, les organisations non gouvernementales, les organisations de normalisation et d’autres acteurs concernés disposant d’une expertise en matière de réglementation de la conception, du développement et de l’application des systèmes d’intelligence artificielle (IA).
(3)Les contributions apportées par toutes les parties à la négociation sont examinées sur un pied d'égalité, de façon à garantir un processus inclusif.
(4)Le processus de négociation repose sur un programme de travail efficace et réaliste pour l’élaboration de la convention (cadre).
En ce qui concerne les objectifs généraux des négociations, l’Union devrait viser les résultats suivants:
(5)La convention est compatible avec le droit du marché unique de l’UE et d’autres domaines du droit de l’Union, y compris les principes généraux du droit de l’Union et les libertés et droits fondamentaux consacrés par la charte des droits fondamentaux de l’Union européenne et mis en œuvre par le droit dérivé de l’UE.
(6)La convention est compatible avec la proposition de législation sur l’intelligence artificielle (législation sur l’IA) 1 et prend en compte l’évolution future du processus législatif.
(7)La convention constitue un cadre réglementaire efficace et à l’épreuve du temps pour l’IA en vue d’assurer un niveau élevé de protection des droits de l’homme et de préservation des valeurs européennes, tout en favorisant l’innovation, en renforçant la sécurité juridique et la confiance; la convention reconnaît également les avantages potentiels de l’IA pour des intérêts publics importants, notamment pour protéger et faciliter l’exercice des droits de l’homme dans l’environnement numérique, améliorer le bien-être sociétal et environnemental et la santé et promouvoir le progrès technologique.
(8)La convention renforce la coopération internationale entre l’Union européenne et d’autres pays européens et non européens susceptibles d’y adhérer.
(9)La convention est compatible avec les instruments existants du Conseil de l’Europe, en particulier la convention européenne des droits de l’homme et ses protocoles, la convention n° 108 du Conseil de l’Europe pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel, telle que modifiée par le protocole CETS 223, et d’autres instruments juridiques pertinents du Conseil de l’Europe; la convention évite les doubles emplois avec ces instruments et toute incidence négative sur leur application ou sur l’adhésion ultérieure de tout pays à ces instruments; la convention aborde les nouveaux risques et défis posés par les caractéristiques spécifiques de certains systèmes d’IA en ce qui concerne le respect et l’application effective des droits existants protégés par ces instruments.
(10)La convention est compatible avec les engagements de l’Union européenne à l’égard d’autres accords internationaux auxquels elle est partie et évite toute incidence négative sur leur application effective; en particulier, la convention est conforme aux engagements commerciaux internationaux de l’Union et évite les restrictions inutiles ou injustifiées au commerce.
En ce qui concerne le fond des négociations, l’Union devrait viser les résultats suivants:
(11)Les dispositions de la convention sont pleinement compatibles avec le droit du marché unique de l’UE et d’autres domaines du droit de l’Union, y compris les principes généraux du droit de l’Union et les droits fondamentaux consacrés par la charte des droits fondamentaux de l’Union européenne et mis en œuvre dans le droit dérivé de l’UE.
(12)Les dispositions de la convention sont pleinement compatibles avec celles de la proposition de législation sur l’IA et prend en compte l’évolution future du processus législatif.
(13)Les dispositions de la convention permettent aux parties d’accorder une protection plus étendue que celle prévue par la convention et ne portent en rien atteinte au niveau de protection des libertés et droits fondamentaux ni aux garanties prévues par le droit de l’Union, y compris le principe selon lequel les autorités chargées de la surveillance des droits fondamentaux doivent être indépendantes dans la mesure où le droit de l’Union l’exige.
(14)La convention suit une approche fondée sur les risques et établit des règles proportionnées, efficaces et claires applicables aux entités publiques et privées tout au long de la chaîne de valeur de l’IA, qui visent à réduire au minimum les risques découlant de la conception, du développement et de l’application de certains systèmes d’IA, tout en évitant toute charge ou restriction inutile et disproportionnée aux activités de ces entités ou toute contrainte au développement technologique; en particulier, la portée et la rigueur de toute intervention réglementaire sont équilibrées, justifiées et modulées en fonction des niveaux de risque posés par les systèmes d’IA.
(15)Les dispositions de la convention sont formulées, dans la mesure du possible, de manière souple et à l’épreuve du temps afin de tenir compte des évolutions futures en matière de technologie, de marché, de société et d’environnement liées à l’IA.
(16)La convention prévoit des règles pour la conception, le développement et l’application de systèmes d’IA qui évitent les chevauchements et apportent une valeur ajoutée significative par rapport à d’autres conventions internationales ou régionales pertinentes, en particulier dans le domaine de la protection des données; ces règles en matière d’IA sont compatibles avec ces conventions et avec les normes internationales en matière de droits de l’homme.
(17)La convention comprend des dispositions pour la mise en œuvre effective des règles applicables à la conception, au développement et à l’application des systèmes d’IA, notamment au moyen de mécanismes appropriés de conformité et de contrôle ex ante et ex post, et reconnaît le rôle des normes, des mécanismes de certification, des tiers indépendants participant aux contrôles de conformité et des autorités de surveillance compétentes.
(18)La convention autorise les mesures en faveur de l’innovation, y compris l’expérimentation de systèmes d’IA et la mise en place et l’exploitation de sas réglementaires pour encourager l’innovation en matière d’IA dans un environnement contrôlé, sous la supervision des autorités compétentes.
(19)La convention tient compte des besoins particuliers des petites et moyennes entreprises (PME), n’affecte pas de manière disproportionnée leur compétitivité et oblige les parties à prendre des mesures spécifiques pour les soutenir.
(20)La convention tient compte des intérêts des services répressifs et des autorités judiciaires aux fins de la prévention et de la détection des infractions pénales, ainsi que des enquêtes et des poursuites en la matière, y compris en ce qui concerne la confidentialité et l’intégrité de ces enquêtes.
(21)La convention prévoit une surveillance efficace par les autorités compétentes et des mécanismes de coopération permettant sa mise en œuvre effective.
En ce qui concerne le fonctionnement de la convention, l'Union devrait viser les résultats suivants:
(22)La convention comporte une clause de déconnexion qui permet aux États membres de l’UE, dans leurs relations mutuelles, de continuer à appliquer le droit de l’Union dans les matières relevant du champ d’application de la convention.
(23)La convention prévoit un mécanisme approprié pour garantir sa mise en œuvre et comporte des dispositions finales, relatives notamment au règlement des différends, à la signature, à la ratification, à l'acceptation, à l'approbation et à l'adhésion, à l'entrée en vigueur, à l'amendement, à la suspension, à la dénonciation ainsi qu'au dépositaire et aux langues, qui sont inspirées, lorsque cela est possible et approprié, des dispositions des autres conventions du Conseil de l’Europe pertinentes.
(24)La convention permet à l'Union européenne d'y devenir partie.