COMMISSION EUROPÉENNE
Bruxelles, le 3.6.2025
COM(2025) 265 final
2025/0136(NLE)
Proposition de
DÉCISION DU CONSEIL
relative à la conclusion, au nom de l’Union européenne, de la convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’état de droit
EXPOSÉ DES MOTIFS
(1)CONTEXTE DE LA PROPOSITION
•Justification et objectifs de la proposition
Avec le règlement (UE) 2024/1689 du Parlement européen et du Conseil établissant des règles harmonisées en matière d’intelligence artificielle («règlement sur l’IA») 1 , l’Union a adopté le premier règlement global sur l’intelligence artificielle («IA»), qui établit une norme à l’échelle mondiale. Le règlement sur l’IA, qui est entré en vigueur le 1er août 2024, harmonise pleinement les règles relatives à la mise sur le marché, à la mise en service et à l’utilisation des systèmes d’IA dans les États membres 2 , le but étant de promouvoir l’innovation et l’adoption d’une IA digne de confiance, tout en protégeant la santé, la sécurité et les droits fondamentaux, y compris la démocratie, l’état de droit et l’environnement.
Diverses organisations internationales, dont le Conseil de l’Europe, ont, elles aussi, intensifié leurs efforts de régulation de l’IA, en reconnaissant le caractère transfrontière de l’IA et la nécessité d’une coopération internationale pour relever les défis communs que posent ces technologies.
Entre juin 2022 et mars 2024, le Comité sur l’intelligence artificielle (CAI) 3 du Conseil de l’Europe a élaboré une convention-cadre juridiquement contraignante (ci-après dénommée «la convention») pour faire face aux risques potentiels que l’IA fait peser sur les droits de l’homme, la démocratie et l’état de droit.
Le 17 mai 2024, le Comité des ministres du Conseil de l’Europe a adopté le texte de la convention 4 , est convenu d’ouvrir la convention à la signature à Vilnius (Lituanie) le 5 septembre 2024, et a invité les membres du Conseil de l’Europe, d’autres pays tiers ayant participé à son élaboration et l’UE à envisager de la signer à cette occasion, tout en rappelant que la convention est également ouverte à l’adhésion d’autres États tiers 5 .
L’Union a signé la convention le 5 septembre 2024, après l’adoption de la décision (UE) 2024/2218 du Conseil du 28 août 2024 relative à la signature, au nom de l’Union européenne, de la convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’état de droit 6 . La convention a également été signée à cette occasion par Andorre, la Géorgie, l’Islande, Israël, le Monténégro, la Norvège, la République de Moldavie, Saint-Marin, le Royaume-Uni et les États-Unis d’Amérique. Elle est ouverte, à tout moment, à la signature des autres membres du Conseil de l’Europe et des États tiers qui ont participé à son élaboration. Après son entrée en vigueur, le Comité des ministres du Conseil de l’Europe peut, sous réserve de la procédure prévue à l’article 31 de la convention, inviter tout État non membre du Conseil de l’Europe qui n’a pas participé à l’élaboration de cette convention à y adhérer.
Dans ce contexte, l’objectif de la présente proposition de décision du Conseil est de lancer le processus de conclusion de la convention au nom de l’Union selon les modalités énoncées dans la décision 2024/2218 du Conseil autorisant sa signature. La conclusion du premier accord international sur l’IA offre à l’Union une occasion précieuse de favoriser une approche commune de la régulation de l’IA au niveau international et de fournir un cadre de coopération avec les membres du Conseil de l’Europe et les pays tiers qui deviennent parties à la convention.
·Contenu de la convention
La convention vise à garantir que les activités menées dans le cadre du cycle de vie des systèmes d’IA sont pleinement compatibles avec les droits de l’homme, la démocratie et l’état de droit.
Les parties à la convention devront la mettre en œuvre au moyen de mesures appropriées de nature législative, administrative ou autre pour donner effet à ses dispositions, selon une approche graduée et différenciée, en fonction de la gravité et de la probabilité des incidences négatives. La convention devrait être mise en œuvre exclusivement dans l’Union au moyen du règlement sur l’IA, qui harmonise pleinement les règles relatives à la mise sur le marché, à la mise en service et à l’utilisation des systèmes d’IA, ainsi que l’acquis existant de l’Union, le cas échéant.
Le champ d’application de la convention couvre les systèmes d’IA susceptibles d’interférer avec les droits de l’homme, la démocratie et l’état de droit, selon une approche différenciée. Les principes et obligations envisagés dans la convention s’appliqueront aux activités menées au cours du cycle de vie des systèmes d’IA par des autorités publiques ou des acteurs privés agissant en leur nom. En ce qui concerne le secteur privé, les parties sont tenues de traiter les risques et les incidences découlant des activités menées au cours du cycle de vie des systèmes d’IA par des acteurs privés d’une manière conforme à l’objet et à la finalité de la convention, mais elles ont le choix d’appliquer les obligations de la convention ou de prendre d’autres mesures appropriées. Un projet de déclaration par laquelle l’Union s’engage, au moyen du règlement sur l’IA et d’autres acquis pertinents de l’Union, à mettre en œuvre les principes et obligations énoncés aux chapitres II à VI de la convention en ce qui concerne les activités des acteurs privés qui mettent sur le marché, mettent en service et utilisent des systèmes d’IA dans l’Union est annexé à la présente proposition de décision du Conseil.
Les activités d’IA liées à la sécurité nationale sont exclues du champ d’application de la convention, étant entendu qu’elles doivent, en tout état de cause, être menées dans le respect du droit international applicable en matière de droits de l’homme et du respect des institutions et processus démocratiques. La convention exclut également les activités de recherche et de développement concernant les systèmes d’IA qui ne sont pas encore mis à disposition pour utilisation, à moins que des essais ou des activités similaires ne soient susceptibles d’interférer avec les droits de l’homme, la démocratie et l’état de droit. Conformément au statut du Conseil de l’Europe, les questions relatives à la défense nationale ne relèvent pas du champ d’application de la convention.
La convention prévoit en outre un ensemble d’obligations générales et de principes fondamentaux, y compris la protection de la dignité humaine et de l’autonomie individuelle, ainsi que la promotion de l’égalité et de la non-discrimination. En outre, elle impose le respect de la vie privée et de la protection des données à caractère personnel ainsi que la transparence et le contrôle afin de garantir l’obligation de rendre des comptes et la responsabilité. Un principe est également consacré à l’innovation et à l’expérimentation sûres dans des environnements contrôlés.
Un chapitre consacré aux voies de recours envisage également un ensemble de mesures visant à garantir la disponibilité de voies de recours accessibles et efficaces en cas de violation des droits de l’homme résultant des activités menées au cours du cycle de vie des systèmes d’IA. Il prévoit également des garanties procédurales effectives pour les personnes dont les droits ont été affectés de manière significative par l’utilisation de systèmes d’IA. En outre, les personnes devraient être informées qu’elles interagissent avec un système d’IA et non avec un être humain.
La convention comprend également un chapitre sur les mesures d’évaluation et d’atténuation des risques et des incidences négatives à mettre en œuvre de manière itérative, afin de recenser les incidences réelles et potentielles sur les droits de l’homme, la démocratie et l’état de droit et de prendre des mesures de prévention et d’atténuation appropriées.
En outre, la convention prévoit que les parties devraient évaluer la nécessité d’interdictions ou de moratoires sur certaines applications de systèmes d’IA jugées incompatibles avec le respect des droits de l’homme, le fonctionnement de la démocratie ou l’état de droit.
La convention prévoit un mécanisme de suivi au sein d’une conférence des parties, composée de représentants des parties qui se consulteront périodiquement en vue de faciliter l’utilisation et la mise en œuvre effectives de la convention.
Elle prévoit également un mécanisme de coopération internationale tant entre les parties à la convention que dans les relations avec les pays tiers et les parties prenantes concernées, afin d’atteindre l’objectif de la convention.
Chaque partie devrait en outre mettre en place ou désigner, au niveau national, un ou plusieurs mécanismes efficaces pour contrôler le respect des obligations prévues par la convention, conformément à l’effet donné par les parties.
•Cohérence avec les dispositions existantes dans le domaine d’action
La convention établit des principes généraux et des obligations en matière de protection des droits de l’homme, de la démocratie et de l’état de droit qui sont pleinement cohérents et conformes aux objectifs du règlement sur l’IA et aux exigences détaillées applicables aux systèmes d’IA et aux obligations imposées aux fournisseurs et aux déployeurs de ces systèmes.
La définition du système d’IA donnée par la convention est pleinement alignée sur celle figurant dans le règlement sur l’IA, étant donné que toutes deux reposent sur la définition de ces systèmes figurant dans les principes de l’Organisation de coopération et de développement économiques en matière d’IA 7 , garantissant ainsi une compréhension commune des technologies numériques qui constituent l’IA.
Tant la convention que le règlement sur l’IA suivent également une approche fondée sur les risques en ce qui concerne la régulation des systèmes d’IA et comprennent des dispositions spécifiques pour les analyses de risque et d’impact et les mesures d’atténuation des risques. Le règlement sur l’IA comprend, en particulier, un certain nombre d’interdictions pertinentes et de cas d’utilisation à haut risque pour les systèmes d’IA dans tous les secteurs publics et privés, y compris dans le domaine de la démocratie et de la justice. Les règles et procédures détaillées du règlement sur l’IA pour le développement, la mise sur le marché et le déploiement de systèmes d’IA dans ces domaines garantiront ainsi le respect des droits fondamentaux, de la démocratie et de l’état de droit tout au long du cycle de vie de l’IA.
La convention comprend des principes et des obligations déjà couverts par le règlement sur l’IA, tels que des mesures visant à protéger les droits de l’homme, la sécurité et la fiabilité, l’obligation de rendre des comptes et la responsabilité, la gouvernance et la protection des données, la transparence et le contrôle, l’égalité et la non-discrimination, les compétences et l’habileté numériques.
La transparence est un autre élément commun des deux instruments juridiques, y compris les mesures relatives à l’identification des contenus générés par l’IA et à la notification des personnes qui interagissent avec les systèmes d’IA. Ces deux instruments juridiques comprennent également des dispositions pertinentes relatives aux analyses des risques et des incidences et à la gestion des risques, à la tenue de registres, à la divulgation (aux organismes et autorités autorisés et, le cas échéant, aux personnes concernées), à la traçabilité et à l’explicabilité, à l’innovation et à l’expérimentation en toute sécurité dans des environnements contrôlés, ainsi qu’un ensemble de mesures visant à permettre des recours efficaces, y compris un droit de demander et d’obtenir des informations et une plainte auprès d’une autorité compétente et des garanties procédurales.
Le système de surveillance envisagé dans la convention est également pleinement cohérent avec le système global de gouvernance et d’application du règlement sur l’IA, qui comprend l’application de la législation au niveau de l’Union et au niveau national, avec des procédures de mise en œuvre cohérente des règles de l’Union dans tous les États membres. En particulier, la convention prévoit un ou plusieurs mécanismes de contrôle efficaces au niveau national, qui doivent exercer leurs fonctions de manière indépendante et impartiale et disposer des pouvoirs, de l’expertise et des ressources nécessaires pour s’acquitter efficacement des tâches de surveillance du respect des obligations prévues par la convention, telles que définies par les parties.
Si le règlement sur l’IA s’appliquera aux systèmes d’IA mis sur le marché, mis en service ou utilisés dans l’Union, la convention a une portée géographique plus large englobant les membres du Conseil de l’Europe et les États tiers du monde entier qui peuvent adhérer à la convention. La convention représente donc une occasion unique de promouvoir une IA digne de confiance au-delà de l’Union dans le cadre d’un premier traité international juridiquement contraignant fondé sur une approche forte de la régulation de l’IA en matière de droits de l’homme.
Tant la convention que le règlement sur l’IA font partie intégrante d’une approche réglementaire de l’IA, avec des engagements cohérents et qui se renforcent mutuellement à plusieurs niveaux internationaux, et partagent l’objectif commun de garantir une IA digne de confiance.
•Cohérence avec les autres politiques de l’Union
La convention partage également des objectifs communs avec d’autres politiques et législations de l’Union visant à mettre en œuvre les droits fondamentaux consacrés par la charte des droits fondamentaux de l’Union 8 .
En particulier, le principe d’égalité et de non-discrimination inscrit dans la convention est pleinement conforme à la législation de l’Union en matière de non-discrimination et encouragera l’intégration de considérations d’égalité dans la conception, le développement et l’utilisation des systèmes d’IA, ainsi que la mise en œuvre effective de l’interdiction de la discrimination, conformément au droit international et interne applicable des parties.
La convention est en outre conforme à l’acquis de l’Union en matière de protection des données, y compris le règlement général sur la protection des données 9 en ce qui concerne les droits fondamentaux à la vie privée et à la protection des données à caractère personnel, avec des garanties et des garde-fous effectifs qui doivent être en place pour les personnes physiques, conformément aux obligations juridiques nationales et internationales applicables des parties.
Les mesures envisagées dans la convention visant à protéger les processus démocratiques des parties dans le cadre des activités du cycle de vie du système d’IA sont pleinement cohérentes avec les objectifs et les dispositions détaillées du règlement sur les services numériques 10 (et le code de bonnes pratiques contre la désinformation 11 ), qui régit la fourniture de services intermédiaires dans l’Union dans le but de garantir un environnement en ligne sûr, prévisible et de confiance dans lequel les droits fondamentaux, y compris le droit à la liberté d’expression et le droit de recevoir et de communiquer des informations, sont respectés. Elles sont également cohérentes avec le règlement relatif à la transparence et au ciblage de la publicité à caractère politique 12 , qui contient une exigence spécifique de transparence lorsque des systèmes d’IA sont utilisés pour diffuser des annonces publicitaires à caractère politique. Ces mesures sont également cohérentes avec les politiques de l’Union dans le domaine de la démocratie et des élections libres, régulières et résilientes 13 , y compris le plan d’action 2020 pour la démocratie européenne 14 , le paquet législatif «renforcement de la démocratie et intégrité des élections» 15 et le récent paquet «Défense de la démocratie» de 2023 16 .
La convention est cohérente avec la stratégie numérique globale de la Commission en ce qu’elle contribue à promouvoir des technologies au service des personnes, l’un des trois piliers principaux de l’orientation politique et des objectifs annoncés dans la communication «Façonner l’avenir numérique de l’Europe» 17 . Cette dernière vise à garantir que l’IA soit développée de manière à respecter les droits humains et à susciter la confiance des personnes, à adapter l’Europe à l’ère du numérique et à établir la «décennie numérique» 18 .
En outre, la déclaration européenne sur les droits et principes numériques pour la décennie numérique 19 contient plusieurs droits et principes numériques qui sont alignés sur les objectifs et les principes de la convention, les deux instruments promouvant une approche technologique forte fondée sur les droits de l’homme.
La convention est également cohérente avec la stratégie de l’UE sur les droits de l’enfant 20 et la stratégie européenne pour un internet mieux adapté aux enfants (BIK+) 21 , qui visent à faire en sorte que les enfants soient protégés, respectés et autonomes en ligne pour faire face aux défis posés par les nouveaux mondes virtuels ou l’IA.
2.BASE JURIDIQUE, SUBSIDIARITÉ ET PROPORTIONNALITÉ
•Base juridique
La proposition de décision autorisant la conclusion de la convention au nom de l’Union est soumise au Conseil conformément à l’article 218, paragraphe 6, point a) v), du TFUE.
La base juridique procédurale de la décision du Conseil, l’article 218, paragraphe 6, point a) v), du TFUE, prévoit une décision du Conseil relative à la conclusion de l’accord, sur proposition de la Commission en tant que négociateur; dans le cas d’un accord couvrant un domaine auquel s’applique la procédure législative ordinaire, après approbation du Parlement européen. L’article 218, paragraphe 8, premier alinéa, du TFUE prévoit le vote à la majorité qualifiée pour l’adoption de la décision du Conseil.
La base juridique matérielle d’une décision au titre de l’article 218, paragraphe 6, point a) v), du TFUE dépend avant tout de l’objectif et du contenu de l’accord. Selon la jurisprudence, si l’examen d’un acte de l’Union démontre qu’il poursuit deux finalités ou qu’il a deux composantes et si l’une de ces finalités ou de ces composantes est identifiable comme étant la finalité ou la composante principale ou prépondérante tandis que l’autre n’est qu’accessoire, l’acte doit être fondé sur une seule base juridique, à savoir celle exigée par la finalité ou la composante principale ou prépondérante. À titre exceptionnel, s’il est établi, en revanche, que l’acte poursuit à la fois plusieurs objectifs ou a plusieurs composantes qui sont liés de façon indissociable, sans que l’un soit accessoire par rapport à l’autre de sorte que différentes dispositions du traité sont applicables, alors l’acte doit être fondé sur les différentes bases juridiques correspondantes.
En ce qui concerne la base juridique matérielle, le champ d’application matériel de la convention coïncide avec celui du règlement sur l’IA, y compris en ce qui concerne l’exemption du champ d’application relative aux systèmes d’IA utilisés exclusivement pour la recherche et le développement, la sécurité nationale et les activités de défense. Il ressort également de l’analyse ci-dessus que les principes et obligations de la convention sont couverts dans une large mesure et qu’ils présentent des recoupements avec les exigences plus détaillées applicables aux systèmes d’IA et les obligations spécifiques des fournisseurs et des déployeurs de ces systèmes au titre du règlement sur l’IA. Si le Conseil adopte la décision proposée et si l’Union conclut la convention, le règlement sur l’IA constituera la législation primaire de l’Union visant à mettre en œuvre la convention dans l’ordre juridique de l’Union, avec des règles pleinement harmonisées concernant la mise sur le marché, la mise en service et l’utilisation de systèmes d’IA dans l’Union qui sont directement applicables dans tous les États membres, à moins que le règlement sur l’IA n’en dispose expressément autrement 22 .
Étant donné que le champ d’application et les objectifs de la convention sont alignés et pleinement cohérents avec ceux du règlement sur l’IA et que les deux instruments juridiques se recoupent de manière significative, la base juridique matérielle pour la conclusion de la convention est l’article 114 du TFUE, qui constitue la base juridique principale du règlement sur l’IA.
La nature des accords internationaux («UE uniquement» ou «mixte») dépend de la compatibilité de l’objet spécifique avec les compétences exclusives ou partagées de l’Union.
L’article 3, paragraphe 2, du TFUE prévoit que l’Union dispose d’une compétence exclusive «pour la conclusion d’un accord international [...] dans la mesure où [cette conclusion] est susceptible d’affecter des règles communes ou d’en altérer la portée». Un accord international est susceptible d’affecter des règles communes ou d’en altérer la portée lorsqu’il relève d’un domaine qui présente des recoupements avec le droit de l’Union ou qui est déjà couvert en grande partie par ce droit 23 .
Le champ d’application personnel de la convention est pleinement aligné sur le règlement sur l’IA en ce sens que les deux instruments juridiques couvrent, en principe, à la fois les acteurs publics et privés (avec l’application facultative des principes et des obligations de la convention aux acteurs privés autres que ceux agissant pour le compte d’autorités publiques), tandis que le champ d’application matériel des deux instruments juridiques exclut des règles applicables les activités d’IA exclusivement liées à la sécurité nationale, à la défense et à la recherche.
Étant donné que le champ d’application personnel et matériel de la convention et celui du règlement sur l’IA se recoupent, la conclusion de la convention est susceptible d’affecter des règles communes de l’Union ou d’en altérer la portée au sens de l’article 3, paragraphe 2, du TFUE. Par conséquent, l’Union devrait être considérée comme jouissant d’une compétence externe exclusive pour conclure la convention et la convention devrait être conclue au nom de l’Union en tant qu’accord relevant uniquement de l’UE, étant donné qu’elle a été signée en vertu de l’autorisation donnée par la décision (UE) 2024/2218 du Conseil.
•Proportionnalité
La convention ne va pas au-delà de ce qui est nécessaire pour atteindre les objectifs stratégiques en élaborant une approche cohérente de la régulation de l’IA au niveau international.
La convention établit un cadre juridique de haut niveau pour l’IA qui offre une certaine souplesse, permettant ainsi aux parties de concevoir concrètement les cadres de mise en œuvre. L’approche fondée sur les risques garantit également la proportionnalité des règles et permet de différencier les mesures de mise en œuvre d’une manière proportionnée aux risques, de la même manière que le règlement sur l’IA.
•Choix de l’instrument
L’instrument choisi est une proposition de décision du Conseil conformément à l’article 218, paragraphe 6, point a) v), du TFUE.
3.RÉSULTATS DES ÉVALUATIONS EX POST, DES CONSULTATIONS DES PARTIES INTÉRESSÉES ET DES ANALYSES D’IMPACT
•Droits fondamentaux
La convention vise à remédier aux risques et préjudices potentiels pour les droits de l’homme en veillant à ce que les activités menées au cours du cycle de vie des systèmes d’IA soient conformes aux principes du respect des droits de l’homme, de la démocratie et de l’état de droit, tout en reconnaissant également le potentiel de l’IA pour protéger et faciliter l’exercice de ces droits dans l’environnement numérique et améliorer le bien-être sociétal et environnemental et le progrès technologique.
Les principes et obligations concrets envisagés dans la convention visent à protéger et à respecter les droits de l’homme, consacrés dans de multiples instruments internationaux et régionaux 24 , tels qu’ils sont applicables aux parties, y compris la charte des droits fondamentaux de l’Union et les instruments internationaux relatifs aux droits de l’homme que l’Union a conclus.
La convention fixe donc un niveau minimal commun de protection des droits de l’homme dans le contexte de l’IA, tout en préservant les protections existantes des droits de l’homme et en permettant aux parties d’offrir une protection plus large assortie de garanties plus strictes.
4.INCIDENCE BUDGÉTAIRE
La convention prévoit des contributions financières d’États tiers aux activités de la conférence des parties. Si tous les membres du Conseil de l’Europe apporteront leur contribution via le budget ordinaire du Conseil de l’Europe conformément au statut du Conseil de l’Europe, les parties qui ne sont pas membres apporteront des contributions extrabudgétaires. La contribution d’un non-membre du Conseil de l’Europe est établie de manière conjointe par le Comité des Ministres et ce non-membre du Conseil de l’Europe.
La convention n’interfère pas avec les lois et réglementations internes des parties régissant les compétences budgétaires et les procédures relatives aux crédits budgétaires. La convention-cadre ne précise pas la forme sous laquelle les contributions, y compris les montants et les modalités, des parties qui ne sont pas membres du Conseil de l’Europe sont établies. La base juridique de la contribution de ces parties sera la convention-cadre elle-même et l’/les acte(s) établissant cette contribution 25 .
5.AUTRES ÉLÉMENTS
Plans de mise en œuvre et modalités de suivi, d’évaluation et d’information
La conférence des parties, composée des représentants des parties, suivra la mise en œuvre effective de la convention par les parties et formulera des recommandations particulières à cet effet. La conférence des parties examinera également d’éventuels amendements à la convention.
Chaque partie devra présenter à la conférence des parties, dans les deux premières années suivant son adhésion et à intervalles réguliers par la suite, un rapport détaillant les mesures prises pour mettre en œuvre la convention. Les parties sont également encouragées à coopérer pour atteindre les objectifs de la convention. Cette coopération internationale peut comprendre le partage d’informations pertinentes concernant l’IA et son potentiel d’incidence négative ou positive sur les droits de l’homme, la démocratie et l’état de droit.
Afin d’assurer le suivi et la mise en œuvre de la convention, chaque partie devra désigner un ou plusieurs mécanismes de contrôle efficaces au niveau national. Au niveau de l’Union, la Commission assurera le suivi et la mise en œuvre de la convention, conformément aux traités.
Les considérants de la présente proposition relative à la conclusion de la convention confirment que, conformément à l’article 218, paragraphe 9, du TFUE, le Conseil, sur proposition de la Commission, devrait adopter des décisions établissant les positions à prendre au nom de l’Union au sein de la conférence des parties lorsque cette instance est appelée à adopter des actes ayant des effets juridiques, en particulier le règlement intérieur de la conférence des parties. Lors de la négociation de ce règlement intérieur, qui doit être adopté par consensus dans un délai de douze mois à compter de l’entrée en vigueur de la convention 26 , l’Union visera à obtenir un résultat lui accordant 27 voix, ce qui correspond au nombre de ses États membres. Si l’Union se voit accorder 27 voix, la Commission, représentant l’Union, s’efforcera de veiller à une coordination renforcée avec les États membres afin d’exprimer des positions uniformes au sein de la conférence des parties et d’exercer son droit de vote au nom de l’Union. Cette coordination renforcée est particulièrement pertinente étant donné que tous les États membres sont également membres du Conseil de l’Europe et compte tenu de l’évolution rapide que connaît la nature de l’intelligence artificielle ainsi que de la nécessité de disposer d’un cadre cohérent applicable à l’échelle mondiale dans ce domaine. Afin d’assurer une coordination renforcée, le Conseil devrait être associé à l’élaboration de toutes les positions, quelle que soit leur nature, y compris celles fondées sur l’article 16, paragraphe 1, du TUE et sur l’article 218, paragraphe 9, du TFUE. Si, malgré tous ses efforts, l’Union ne parvient pas à se voir accorder 27 voix, pour faire en sorte que l’Union dispose d’un nombre de voix qui reflète son poids au sein du Conseil de l’Europe et lui permette de défendre ses intérêts de manière appropriée, la Commission proposera que, conformément à l’article 2, paragraphe 1, du TFUE et dans le plein respect de la compétence exclusive de l’Union, les États membres soient habilités à adhérer à la convention aux côtés de l’Union.
La Commission invitera chaque État membre à envoyer un représentant pour accompagner la représentation de la Commission, dans le cadre de la délégation de l’Union, aux réunions de la conférence des parties. Le principe de coopération loyale doit être respecté.
2025/0136 (NLE)
Proposition de
DÉCISION DU CONSEIL
relative à la conclusion, au nom de l’Union européenne, de la convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’état de droit
LE CONSEIL DE L’UNION EUROPÉENNE,
vu le traité sur le fonctionnement de l’Union européenne, et notamment son article 114 en liaison avec l’article 218, paragraphe 6, point a) v),
vu la proposition de la Commission européenne,
vu l’approbation du Parlement européen,
considérant ce qui suit:
(1)Conformément à la décision (UE) 2024/2218 du Conseil 27 , la convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’état de droit («la convention») a été signée le 5 septembre 2024 au nom de l’Union européenne, sous réserve de sa conclusion à une date ultérieure.
(2)La convention établit les principes généraux et les obligations que les parties à la convention devraient respecter pour garantir la protection des droits de l’homme, de la démocratie et de l’état de droit en ce qui concerne les activités relevant du cycle de vie des systèmes d’intelligence artificielle («IA»).
(3)Le 13 juin 2024, le Parlement européen et le Conseil ont adopté, sur la base des articles 16 et 114 du traité sur le fonctionnement de l’Union européenne (TFUE), le règlement (UE) 2024/1689 du Parlement européen et du Conseil 28 , qui contient des règles harmonisées, généralement basées sur une harmonisation complète, régissant la mise sur le marché, la mise en service et l’utilisation de systèmes d’IA dans l’Union. Ces règles sont directement applicables dans les États membres, à moins que ledit règlement n’en dispose expressément autrement. La convention doit être mise en œuvre dans l’Union exclusivement au travers du règlement (UE) 2024/1689 du Parlement européen et du Conseil et d’autres dispositions pertinentes de l’acquis de l’Union, le cas échéant.
(4)Les activités menées dans le cadre du cycle de vie des systèmes d’IA et liées à la protection des intérêts de sécurité nationale sont exclues du champ d’application de la convention. Le règlement (UE) 2024/1689 du Parlement européen et du Conseil, qui constituera le principal acte juridique de l’Union mettant en œuvre la convention, exclut également de son champ d’application les systèmes d’IA mis sur le marché, mis en service ou utilisés, avec ou sans modification, exclusivement à des fins de sécurité nationale et les sorties des systèmes d’IA utilisées dans l’Union exclusivement à ces fins, quel que soit le type d’entité exerçant ces activités. Par ailleurs, la sécurité nationale reste de la seule responsabilité de chaque État membre, comme le prévoit l’article 4, paragraphe 2, du traité sur l’Union européenne (TUE). Par conséquent, il convient que la position de l’Union à exprimer au sein de la conférence des parties instituée par la convention respecte les limites énoncées ci-dessus. En particulier, lors des réunions de la conférence des parties, la Commission devrait s’abstenir de débattre des activités menées dans le cadre du cycle de vie des systèmes d’IA et liées à la protection des intérêts de sécurité nationale, ou de prendre position sur ces activités.
(5)Étant donné que le champ d’application personnel et matériel de la convention ainsi que les dispositions de fond de la convention coïncident largement avec ceux du règlement (UE) 2024/1689 du Parlement européen et du Conseil, complété par d’autres dispositions pertinentes de l’acquis de l’Union, la conclusion de la convention est susceptible d’affecter des règles communes de l’Union ou d’en altérer la portée au sens de l’article 3, paragraphe 2, du TFUE. Ces autres dispositions pertinentes de l’acquis de l’Union comprennent les actes juridiques visant à mettre en œuvre les droits fondamentaux consacrés par la charte des droits fondamentaux de l’Union européenne, tels que la législation de l’Union en matière de non-discrimination, y compris les directives 2000/43/CE 29 et 2000/78/CE du Conseil 30 , l’acquis de l’Union en matière de protection des données à caractère personnel, y compris les règlements (UE) 2016/679 31 et (UE) 2022/2065 32 du Parlement européen et du Conseil visant à assurer un environnement en ligne sûr, prévisible et fiable, dans lequel les droits fondamentaux, y compris le droit à la liberté d’expression et le droit de recevoir et de communiquer des informations, sont respectés, le règlement (UE) 2024/900 du Parlement européen et du Conseil relatif à la publicité à caractère politique 33 , ainsi que la législation en matière de sécurité des produits et la législation en matière de responsabilité du fait des produits défectueux, y compris la directive 85/374/CEE du Conseil 34 . Dès lors, l’Union jouit d’une compétence externe exclusive pour conclure la convention. Par conséquent, seule l’Union devrait devenir partie à la convention.
(6)La conférence des parties jouera un rôle majeur dans la mise en œuvre effective de la convention, y compris en formulant des recommandations particulières relatives à son interprétation et à son application. La conférence des parties examinera également d’éventuels amendements à la convention. Conformément à l’article 218, paragraphe 9, du TFUE, le Conseil, sur proposition de la Commission, devrait adopter des décisions établissant les positions à prendre au nom de l’Union au sein de la conférence des parties lorsque cette instance est appelée à adopter des actes ayant des effets juridiques, en particulier le règlement intérieur de la conférence des parties. Lors de la négociation de ce règlement intérieur, qui doit être adopté par consensus dans un délai de douze mois à compter de l’entrée en vigueur de la convention, l’Union visera à obtenir un résultat lui accordant 27 voix, ce qui correspond au nombre de ses États membres. Si l’Union se voit accorder 27 voix, la Commission, représentant l’Union, s’efforcera de veiller à une coordination renforcée avec les États membres afin d’exprimer des positions uniformes au sein de la conférence des parties et d’exercer son droit de vote au nom de l’Union. Cette coordination renforcée est particulièrement pertinente étant donné que tous les États membres sont également membres du Conseil de l’Europe et compte tenu de l’évolution rapide que connaît la nature de l’IA ainsi que de la nécessité de disposer d’un cadre cohérent applicable à l’échelle mondiale dans ce domaine. Afin d’assurer une coordination renforcée, le Conseil devrait être associé à l’élaboration de toutes les positions, quelle que soit leur nature, y compris celles fondées sur l’article 16, paragraphe 1, du TUE et sur l’article 218, paragraphe 9, du TFUE. Si, malgré tous ses efforts, l’Union ne parvient pas à se voir accorder 27 voix, pour faire en sorte que l’Union dispose d’un nombre de voix qui reflète son poids au sein du Conseil de l’Europe et lui permette de défendre ses intérêts de manière appropriée, la Commission devrait proposer que, conformément à l’article 2, paragraphe 1, du TFUE et dans le plein respect de la compétence exclusive de l’Union, les États membres soient habilités à adhérer à la convention aux côtés de l’Union.
(7)La Commission invitera chaque État membre à envoyer un représentant pour accompagner la représentation de la Commission, dans le cadre de la délégation de l’Union, aux réunions de la conférence des parties. Le principe de coopération loyale doit être respecté.
(8)En ce qui concerne tout autre accord qui pourrait être conclu à l’avenir sous l’égide du Conseil de l’Europe ou dans d’autres enceintes internationales, y compris dans le domaine de l’IA, et en ce qui concerne tout amendement à la convention, la répartition des compétences externes entre l’Union et les États membres devrait être évaluée à la lumière des spécificités de chacun des instruments en question. Il est de la plus haute importance que l’Union et ses États membres puissent continuer à jouer un rôle direct et actif pour ce qui est de faire entendre la voix de l’Union et de défendre ses intérêts, d’une manière cohérente et coordonnée, dans le plein respect des traités.
(9)Il convient d’approuver la convention au nom de l’Union,
A ADOPTÉ LA PRÉSENTE DÉCISION:
Article premier
La conclusion de la convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit («la convention») est approuvée au nom de l’Union.
Le texte de la convention à conclure est joint à la présente décision en tant qu’annexe I.
Article 2
Les déclarations à soumettre au Secrétaire général du Conseil de l’Europe, jointes à la présente décision en tant qu’annexe II, sont approuvées au nom de l’Union.
Article 3
La convention est mise en œuvre dans l’Union exclusivement au travers du règlement (UE) 2024/1689 du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle et d’autres dispositions pertinentes de l’acquis de l’Union, le cas échéant.
Article 4
La présente décision entre en vigueur le […].
Fait à Bruxelles, le
Par le Conseil
Le président
Charte des droits fondamentaux de l’Union européenne (JO C 326 du 26.10.2012, p. 391).
COMMISSION EUROPÉENNE
Bruxelles, le 3.6.2025
COM(2025) 265 final
ANNEXES
de la
proposition du conseil
relative à la conclusion, au nom de l'Union européenne, de la convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'état de droit
ANNEXE I
Texte de la convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’état de droit
Vilnius, 5.IX.2024
Préambule
Les États membres du Conseil de l’Europe et les autres signataires,
Considérant que le but du Conseil de l’Europe est de réaliser une union plus étroite entre ses membres, fondée en particulier sur le respect des droits de l’homme, de la démocratie et de l’État de droit;
Reconnaissant l’intérêt de favoriser la coopération entre les Parties à la présente Convention et d’étendre cette coopération à d’autres États qui partagent les mêmes valeurs;
Conscients des développements rapides de la science et de la technologie, et des profonds changements induits par les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle qui ont le potentiel de promouvoir la prospérité humaine et le bien-être des individus et de la société, le développement durable, l’égalité de genre et l’autonomisation de toutes les femmes et filles, ainsi que d’autres objectifs et intérêts importants, en renforçant le progrès et l’innovation;
Reconnaissant que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent offrir des opportunités sans précédent pour la protection et la promotion des droits de l’homme, de la démocratie et de l’État de droit;
Préoccupés par le fait que certaines activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent porter atteinte à la dignité humaine et à l’autonomie personnelle, aux droits de l’homme, à la démocratie et à l’État de droit;
Préoccupés par les risques de discrimination dans les cadres numériques, en particulier ceux impliquant des systèmes d’intelligence artificielle, et par leur effet potentiel de création ou d’aggravation des inégalités, y compris celles vécues par les femmes et les personnes en situation de vulnérabilité, en ce qui concerne la jouissance de leurs droits humains et leur participation pleine, égale et effective aux affaires économiques, sociales, culturelles et politiques;
Préoccupés par l’utilisation abusive de systèmes d’intelligence artificielle et opposés à l’utilisation de ces systèmes à des fins répressives, en violation du droit international des droits de l’homme, notamment par des pratiques de surveillance et de censure arbitraires ou illégales qui portent atteinte à la vie privée et à l’autonomie personnelle;
Conscients du fait que les droits de l’homme, la démocratie et l’État de droit sont intrinsèquement liés entre eux;
Convaincus de la nécessité d’établir, en priorité, un cadre juridique applicable à l’échelle mondiale énonçant des règles et des principes généraux communs régissant les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, qui préservent de manière efficace les valeurs communes et exploite les avantages de l’intelligence artificielle pour la promotion de ces valeurs d’une manière propice à l’innovation responsable;
Reconnaissant la nécessité de promouvoir la maîtrise du numérique, ainsi que la connaissance de la conception, du développement, de l’utilisation et de la mise hors service des systèmes d’intelligence artificielle, et de la confiance dans ceux-ci;
Reconnaissant que la présente Convention a valeur de cadre et qu’elle peut être complétée par d’autres instruments destinés à traiter des questions spécifiques liées aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle;
Soulignant que la présente Convention vise à répondre aux défis particuliers survenant tout au long du cycle de vie des systèmes d’intelligence artificielle et à encourager la prise en compte des risques et des impacts plus larges liés à ces technologies, notamment, sans s’y limiter, sur la santé humaine et l’environnement, et sur les aspects socio-économiques tels que l’emploi et le travail;
Constatant les efforts pertinents déployés par d’autres organisations et instances internationales et supranationales pour faire progresser la compréhension et la coopération internationales en matière d’intelligence artificielle;
Gardant à l’esprit les instruments internationaux applicables en matière de droits de l’homme, tels que la Déclaration universelle des droits de l’homme de 1948, la Convention de sauvegarde des droits de l’homme et des libertés fondamentales de 1950 (STE nº 5), le Pacte international relatif aux droits civils et politiques de 1966, le Pacte international relatif aux droits économiques, sociaux et culturels de 1966, la Charte sociale européenne de 1961 (STE nº 35), ainsi que leurs protocoles respectifs, et la Charte sociale européenne (révisée) de 1996 (STE nº 163);
Gardant également à l’esprit la Convention des Nations Unies relative aux droits de l’enfant de 1989 et la Convention des Nations Unies relative aux droits des personnes handicapées de 2006;
Gardant également à l’esprit les droits relatifs à la vie privée des personnes et à la protection des données à caractère personnel, tels que conférés, par exemple, par la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel de 1981 (STE n° 108) et ses protocoles;
Affirmant l’engagement des Parties à protéger les droits de l’homme, la démocratie et l’État de droit, et à favoriser la fiabilité des systèmes d’intelligence artificielle par le biais de la présente Convention,
Sont convenus de ce qui suit:
Chapitre I – Dispositions générales
Article 1er – Objet et but
(1)Les dispositions de la présente Convention visent à garantir que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle sont pleinement compatibles avec les droits de l’homme, la démocratie et l’État de droit.
(2)Chaque Partie adopte ou maintient les mesures législatives, administratives ou autres appropriées pour donner effet aux dispositions de la présente Convention. Ces mesures sont graduées et différenciées, si nécessaire, en fonction de la gravité et de la probabilité de l’apparition d’impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit tout au long du cycle de vie des systèmes d’intelligence artificielle. Il peut s’agir de mesures particulières ou horizontales qui s’appliquent quel que soit le type de technologie utilisé.
(3)Afin d’assurer la mise en œuvre effective de ses dispositions par les Parties, la présente Convention établit un mécanisme de suivi et prévoit une coopération internationale.
Article 2 – Définition des systèmes d’intelligence artificielle
Aux fins de la présente Convention, on entend par «système d’intelligence artificielle» un système automatisé qui, pour des objectifs explicites ou implicites, déduit, à partir d’entrées reçues, comment générer des résultats en sortie tels que des prévisions, des contenus, des recommandations ou des décisions qui peuvent influer sur des environnements physiques ou virtuels. Différents systèmes d’intelligence artificielle présentent des degrés variables d’autonomie et d’adaptabilité après déploiement.
Article 3 – Champ d’application
(1)Le champ d’application de la présente Convention couvre de la manière suivante les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle qui sont susceptibles de porter atteinte aux droits de l’homme, à la démocratie et à l’État de droit:
(a)a. chaque Partie applique la présente Convention aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, entreprises par les pouvoirs publics ou des acteurs privés qui agissent pour leur compte;
(b)b. chaque Partie répond aux risques et aux impacts découlant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle par des acteurs privés dans la mesure où ils ne sont pas couverts par l’alinéa a, d’une manière conforme à l’objet et au but de la Convention;
chaque Partie spécifie dans une déclaration soumise au Secrétaire Général du Conseil de l’Europe, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, la manière dont elle entend mettre en œuvre cette obligation, soit en appliquant les principes et obligations énoncés aux chapitres II à VI de la présente Convention aux activités des acteurs privés, soit en prenant d’autres mesures appropriées pour satisfaire à l’obligation prévue au présent alinéa. Les Parties peuvent, à tout moment et de la même manière, modifier leur déclaration;
lors de la mise en œuvre de l’obligation au titre du présent alinéa b, une Partie ne peut déroger ou limiter l’application des obligations internationales qui lui incombent en matière de protection des droits de l’homme, de la démocratie et de l’État de droit.
(2)Une Partie n’est pas tenue d’appliquer la présente Convention aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle et liées à la protection de ses intérêts de sécurité nationale, étant entendu que ces activités sont menées de manière compatible avec le droit international applicable, y compris les obligations nées du droit international des droits de l’homme, et dans le respect de ses institutions et processus démocratiques.
(3)Sans préjudice de l’article 13 et de l’article 25, paragraphe 2, la présente Convention ne s’applique pas aux activités de recherche et de développement relatives aux systèmes d’intelligence artificielle qui n’ont pas encore été rendus disponibles à l’utilisation, à moins que des essais ou des activités similaires ne soient entrepris d’une manière telle qu’ils sont susceptibles de porter atteinte aux droits de l’homme, à la démocratie et à l’État de droit.
(4)Les questions relatives à la défense nationale n’entrent pas dans le champ d’application de la présente Convention.
Chapitre II – Obligations générales
Article 4 – Protection des droits de l’homme
Chaque Partie adopte ou maintient des mesures pour veiller à ce que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle soient cohérentes avec les obligations de protection des droits de l’homme, telles qu’elles sont consacrées par le droit international applicable et par son droit interne.
Article 5 – Intégrité des processus démocratiques et respect de l’État de droit
(1)Chaque Partie adopte ou maintient des mesures visant à garantir que les systèmes d’intelligence artificielle ne sont pas utilisés pour porter atteinte à l’intégrité, à l’indépendance et à l’efficacité des institutions et processus démocratiques, y compris au principe de la séparation des pouvoirs, au respect de l’indépendance de la justice et à l’accès à la justice.
(2)Chaque Partie adopte ou maintient des mesures qui visent à protéger ses processus démocratiques dans le cadre des activités menées au cours du cycle de vie des systèmes d’intelligence artificielle, y compris l’accès équitable et la participation des personnes au débat public, ainsi que leur capacité à se forger librement une opinion.
Chapitre III – Principes relatifs aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle
Article 6 – Approche générale
Le présent chapitre énonce les principes généraux communs que chaque Partie met en œuvre à l’égard des systèmes d’intelligence artificielle, de manière adaptée à son ordre juridique interne et aux autres obligations nées de la présente Convention.
Article 7 – Dignité humaine et autonomie personnelle
Chaque Partie adopte ou maintient des mesures pour le respect de la dignité humaine et de l’autonomie personnelle en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.
Article 8 – Transparence et contrôle
Chaque Partie adopte ou maintient des mesures pour veiller à ce que les exigences de transparence et de contrôle adaptées aux contextes et aux risques spécifiques soient en place en ce qui concerne les activités au sein du cycle de vie des systèmes d’intelligence artificielle, y compris en ce qui concerne l’identification de contenu généré par des systèmes d’intelligence artificielle.
Article 9 – Obligation de rendre des comptes et responsabilité
Chaque Partie adopte ou maintient des mesures pour garantir l’obligation de rendre compte et d’assumer la responsabilité pour les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit qui résultent des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.
Article 10 – Égalité et non-discrimination
(1)Chaque Partie adopte ou maintient des mesures visant à garantir le respect de l’égalité, y compris l’égalité de genre, et l’interdiction de la discrimination dans les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, comme le prévoit le droit international et interne applicable.
(2)Chaque Partie s’engage à adopter ou à maintenir des mesures visant à supprimer les inégalités dans les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, afin d’obtenir des résultats impartiaux, justes et équitables, dans le cadre des obligations nationales et internationales qui lui incombent en matière de droits de l’homme.
Article 11 – Respect de la vie privée et protection des données à caractère personnel
Chaque Partie adopte ou maintient des mesures pour garantir que, en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle:
(a)les droits à la vie privée des personnes et les données à caractère personnel sont protégés, notamment par les lois, normes et cadres nationaux et internationaux applicables; et
(b)des garanties et des protections effectives ont été mises en place pour les personnes, conformément aux obligations juridiques nationales et internationales applicables.
Article 12 – Fiabilité
Chaque Partie prend, de manière appropriée, des mesures pour promouvoir la fiabilité des systèmes d’intelligence artificielle et la confiance en leurs résultats, ce qui pourrait inclure des exigences en matière de qualité et de sécurité adéquates tout au long du cycle de vie des systèmes d’intelligence artificielle.
Article 13 – Innovation sûre
En vue de favoriser l’innovation tout en évitant les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit, chaque Partie est appelée à permettre, le cas échéant, la mise en place d’environnements contrôlés pour le développement, l’expérimentation et l’essai de systèmes d’intelligence artificielle sous la surveillance de ses autorités compétentes.
Chapitre IV – Recours
Article 14 – Recours
(1)Chaque Partie adopte ou maintient, dans la mesure où des voies de recours sont requises par ses obligations internationales et conformément à son système juridique interne, des mesures garantissant la disponibilité de voies de recours accessibles et effectives contre les violations des droits de l’homme résultant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.
(2)Afin de renforcer la portée du paragraphe 1 ci-dessus, chaque Partie adopte ou maintient des mesures, y compris:
(a)de mesures garantissant que des informations pertinentes concernant les systèmes d’intelligence artificielle susceptibles d’avoir une incidence significative sur les droits de l’homme et leur utilisation pertinente sont documentées, fournies aux organismes autorisés à avoir accès à ces informations et, si nécessaire et applicable, mises à la disposition des personnes concernées ou communiquées à ces dernières;
(b)des mesures garantissant que les informations visées à l’alinéa a sont suffisantes pour permettre aux personnes concernées de contester la ou les décisions prises par le biais de l’utilisation du système ou fondées en grande partie sur celle-ci, et si nécessaire et approprié, de contester l’utilisation du système; et
(c)une possibilité effective donnée aux personnes concernées de former un recours auprès des autorités compétentes.
Article 15 – Garanties procédurales
(1)Chaque Partie veille à ce que, lorsqu’un système d’intelligence artificielle a un impact significatif sur la jouissance des droits de l’homme, les personnes affectées par celui-ci disposent de garanties, de protections et de droits procéduraux effectifs, conformément au droit international et au droit interne applicables.
(2)Chaque Partie cherche à veiller à ce que, en fonction du contexte, les personnes qui interagissent avec des systèmes d’intelligence artificielle soient informées du fait qu’elles interagissent avec de tels systèmes et non avec un humain.
Chapitre V – Évaluation et atténuation des risques et des impacts négatifs
Article 16 – Cadre de gestion des risques et des impacts
(1)Chaque Partie, compte tenu des principes énoncés au chapitre III, adopte ou maintient des mesures afin d’identifier, d’évaluer, de prévenir et d’atténuer les risques posés par les systèmes d’intelligence artificielle en tenant compte des impacts réels et potentiels sur les droits de l’homme, la démocratie et l’État de droit.
(2)Ces mesures sont graduées et différenciées, le cas échéant, et:
(a)tiennent dûment compte du contexte et de l’utilisation prévue des systèmes d’intelligence artificielle, notamment en ce qui concerne les risques pour les droits de l’homme, la démocratie, l’État de droit;
(b)tiennent dûment compte de la gravité et de la probabilité des impacts potentiels;
(c)prennent en compte, le cas échéant, le point de vue des parties prenantes pertinentes, en particulier les personnes dont les droits pourraient être affectés;
(d)s’appliquent de manière itérative tout au long des activités menées dans le cadre du cycle de vie du système d’intelligence artificielle;
(e)comprennent un suivi des risques et des impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit;
(f)comprennent la documentation des risques, des impacts réels et potentiels, et de l’approche de la gestion des risques; et
(g)exigent, le cas échéant, l’essai préalable des systèmes d’intelligence artificielle avant leur mise à disposition pour première utilisation et lorsqu’ils subissent des modifications significatives.
(3)Chaque Partie adopte ou maintient des mesures qui visent à garantir que les impacts négatifs des systèmes d’intelligence artificielle sur les droits de l’homme, la démocratie, l’État de droit sont traités de manière adéquate. Ces impacts négatifs et les mesures prises pour y remédier devraient être documentés et pris en compte pour l’élaboration des mesures de gestion des risques pertinentes décrites au paragraphe 2.
(4)Chaque Partie évalue la nécessité d’un moratoire, d’une interdiction ou d’autres mesures appropriées concernant certaines utilisations des systèmes d’intelligence artificielle lorsqu’elle considère que ces utilisations sont incompatibles avec le respect des droits de l’homme, le fonctionnement de la démocratie ou l’État de droit.
Chapitre VI – Mise en œuvre de la Convention
Article 17 – Non-discrimination
La mise en œuvre des dispositions de la présente Convention par les Parties est assurée sans discrimination fondée sur quelque motif que ce soit, conformément à leurs obligations internationales en matière de droits de l’homme.
Article 18 – Droits des personnes handicapées et des enfants
Chaque Partie tient dûment compte des besoins et des vulnérabilités spécifiques en rapport avec le respect des droits des personnes handicapées et des enfants, conformément à son droit interne et aux obligations internationales applicables.
Article 19 – Consultation publique
Chaque Partie vise à garantir que les questions importantes soulevées par les systèmes d’intelligence artificielle sont, le cas échéant, dûment examinées dans le cadre d’un débat public et de consultations multipartites, à la lumière des incidences sociales, économiques, juridiques, éthiques, environnementales et des autres implications pertinentes.
Article 20 – Maîtrise du numérique et compétences numériques
Chaque Partie encourage et promeut la maîtrise du numérique et les compétences numériques adéquates pour toutes les catégories de la population, notamment les compétences spécifiques de pointe pour les personnes chargées de l’identification, de l’évaluation, de la prévention et de l’atténuation des risques que présentent les systèmes d’intelligence artificielle.
Article 21 – Sauvegarde des droits de l’homme reconnus
Aucune disposition de la présente Convention ne peut être interprétée comme limitant, dérogeant ou affectant d’une quelconque manière les droits de l’homme ou d’autres droits et obligations juridiques connexes qui peuvent être garantis en vertu du droit interne d’une Partie ou de tout autre accord international pertinent auquel elle est partie.
Article 22 – Protection plus étendue
Aucune des dispositions de la présente Convention ne saurait être interprétée comme limitant ou affectant d’une quelconque manière la possibilité pour une Partie d’accorder une protection plus étendue que celle que prévoit la présente Convention.
Chapitre VII – Mécanisme de suivi et coopération
Article 23 – Conférence des Parties
(1)La Conférence des Parties est composée des représentants des Parties à la présente Convention.
(2)Les Parties se concertent périodiquement, afin:
a. de faciliter l’application et la mise en œuvre effectives de la présente Convention, notamment l’identification de tout problème et des effets de toute réserve formulée au titre de l’article 34, paragraphe 1, ou de toute déclaration faite au titre de la présente Convention;
b. d’examiner la possibilité de compléter ou de modifier la présente Convention;
c. d’examiner des questions et de formuler des recommandations particulières relatives à l’interprétation et à l’application de la présente Convention;
d. de faciliter l’échange d’informations sur les évolutions juridiques, politiques ou technologiques significatives qui présentent un intérêt, notamment en vue de la réalisation des objectifs de l’article 25, pour la mise en œuvre de la présente Convention;
e. de faciliter, si nécessaire, le règlement amiable des litiges liés à l’application de la présente Convention; et
f. de faciliter la coopération avec les parties prenantes pertinentes sur les aspects pertinents de la mise en œuvre de la présente Convention, notamment par le biais d’auditions publiques.
(3)La Conférence des Parties est convoquée par le Secrétaire Général du Conseil de l’Europe à chaque fois que nécessaire et, dans tous les cas, lorsque la majorité des Parties ou le Comité des Ministres en demande la convocation.
(4)La Conférence des Parties adopte son propre règlement intérieur par consensus dans un délai de douze mois à compter de l’entrée en vigueur de la présente Convention.
(5)Les Parties sont assistées par le Secrétariat du Conseil de l’Europe dans l’exercice des fonctions qui leur incombent en vertu du présent article.
(6)La Conférence des Parties peut proposer au Comité des Ministres des moyens appropriés pour mobiliser l’expertise pertinente afin de soutenir la mise en œuvre effective de la Convention.
(7)Toute Partie qui n’est pas membre du Conseil de l’Europe contribue au financement des activités de la Conférence des Parties. La contribution d’un non-membre du Conseil de l’Europe est établie de manière conjointe par le Comité des Ministres et ce non-membre du Conseil de l’Europe.
(8)La Conférence des Parties peut décider de restreindre la participation à ses travaux d’une Partie qui a cessé d’être membre du Conseil de l’Europe en vertu de l’article 8 du Statut du Conseil de l’Europe (STE nº 1), en raison d’une violation grave de l’article 3 du Statut. De même, des mesures peuvent être prises à l’égard de toute Partie qui n’est pas un État membre du Conseil de l’Europe et qui est visée par une décision du Comité des Ministres mettant fin à ses relations avec elle pour des motifs analogues à ceux mentionnés à l’article 3 du Statut.
Article 24 – Obligation de rapport
(1)Chaque Partie fournit à la Conférence des Parties, dans un délai de deux ans à compter de la date à laquelle elle devient Partie, puis de manière périodique par la suite, un rapport contenant les détails des activités qu’elle a entreprises pour donner effet à l’article 3, paragraphe 1, alinéas a et b.
(2)La Conférence des Parties détermine le format et le processus pour le rapport en accord avec son règlement intérieur.
Article 25 – Coopération internationale
(1)Les Parties coopèrent à la réalisation de l’objectif de la présente Convention. Les Parties sont en outre encouragées à aider, le cas échéant, les États qui ne sont pas Parties à la présente Convention à agir conformément aux dispositions de la présente Convention et à devenir Parties à celle-ci.
(2)Les Parties échangent entre elles, le cas échéant, des informations pertinentes et utiles sur les aspects liés à l’intelligence artificielle qui peuvent avoir un effet positif ou négatif significatif sur la jouissance des droits de l’homme, le fonctionnement de la démocratie et le respect de l’État de droit, notamment sur les risques et les effets apparus dans le cadre de la recherche et en relation avec le secteur privé. Les Parties sont encouragées à associer, le cas échéant, les parties prenantes pertinentes et les États qui ne sont pas parties à la présente Convention à cet échange d’information.
(3)Les Parties sont encouragées à renforcer la coopération, y compris, le cas échéant, avec les Parties prenantes pertinentes, afin de prévenir et d’atténuer les risques et les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit dans le contexte des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.
Article 26 – Mécanismes de contrôle effectifs
(1)Chaque partie met en place ou désigne un ou plusieurs mécanismes effectifs de contrôle du respect des obligations nées de la présente Convention.
(2)Chaque Partie veille à ce que ces mécanismes exercent leurs fonctions de manière indépendante et impartiale, et à ce qu’ils disposent des compétences, de l’expertise et des ressources nécessaires pour s’acquitter efficacement de leur mission de contrôle du respect des obligations nées de la présente Convention, telles qu’elles ont été mises en œuvre par les Parties.
(3)Lorsqu’une Partie a prévu plus d’un mécanisme de ce type, elle prend des mesures, autant que faire se peut, pour faciliter une coopération efficace entre eux.
(4)Lorsqu’une Partie a prévu des mécanismes différents des structures existantes en matière de droits de l’homme, elle prend des mesures, autant que faire se peut, pour promouvoir une coopération efficace entre les mécanismes visés au paragraphe 1 et les structures nationales existantes en matière de droits de l’homme.
Chapitre VIII: Clauses finales
Article 27 – Effets de la Convention
(1)Si deux ou plusieurs Parties ont déjà conclu un accord ou un traité sur les questions visées par la présente Convention, ou ont établi d’une autre manière leurs relations sur ces questions, elles ont également le droit d’appliquer cet accord ou ce traité, ou de régler ces relations en conséquence, tant qu’elles le font d’une manière qui n’est pas incompatible avec l’objet et le but de la présente Convention.
(2)Les Parties qui sont membres de l’Union européenne appliquent, dans leurs relations mutuelles, les règles de l’Union européenne qui régissent les questions relevant du champ d’application de la présente Convention, sans préjudice de l’objet et du but de la présente Convention et sans préjudice de son entière application à l’égard des autres Parties. Il en va de même pour les autres Parties dans la mesure où elles sont liées par de telles règles.
Article 28 – Amendements
(1)Des amendements à la présente Convention peuvent être proposés par une Partie, par le Comité des Ministres du Conseil de l’Europe ou par la Conférence des Parties.
(2)Toute proposition d’amendement est communiquée par le Secrétaire Général du Conseil de l’Europe aux Parties.
(3)Tout amendement proposé par une Partie ou par le Comité des Ministres est communiqué à la Conférence des Parties, qui soumet au Comité des Ministres son avis sur l’amendement proposé.
(4)Le Comité des Ministres examine l’amendement proposé ainsi que l’avis soumis par la Conférence des Parties et peut approuver l’amendement.
(5)Le texte de tout amendement approuvé par le Comité des Ministres conformément au paragraphe 4 est transmis aux Parties pour acceptation.
(6)Tout amendement approuvé conformément au paragraphe 4 entre en vigueur le trentième jour après que toutes les Parties ont informé le Secrétaire Général qu’elles l’ont accepté.
Article 29 – Règlement des différends
En cas de différend entre elles sur l’interprétation ou l’application de la présente Convention, les Parties s’efforceront de parvenir à un règlement du différend par la négociation ou par tout autre moyen pacifique de leur choix, y compris par le biais de la Conférence des Parties, comme le prévoit l’article 23, paragraphe 2, alinéa e.
Article 30 – Signature et entrée en vigueur
(1)La présente Convention est ouverte à la signature des États membres du Conseil de l’Europe, des États non membres qui ont participé à son élaboration et de l’Union européenne.
(2)La présente Convention est soumise à ratification, acceptation ou approbation. Les instruments de ratification, d’acceptation ou d’approbation sont déposés près le Secrétaire Général du Conseil de l’Europe.
(3)La présente Convention entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date à laquelle cinq signataires, dont au moins trois États membres du Conseil de l’Europe, auront manifesté leur consentement à être liés par la Convention conformément au paragraphe 2.
(4)Pour tout signataire qui exprimera ultérieurement son consentement à être lié par la Convention, celle-ci entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date du dépôt de son instrument de ratification, d’acceptation ou d’approbation.
Article 31 – Adhésion
(1)Après l’entrée en vigueur de la présente Convention, le Comité des Ministres du Conseil de l’Europe pourra, après avoir consulté les Parties à la présente Convention et obtenu leur consentement unanime, inviter tout État non membre du Conseil de l’Europe qui n’a pas participé à l’élaboration de la Convention à y adhérer, par une décision prise à la majorité prévue à l’article 20.d du Statut du Conseil de l’Europe et à l’unanimité des représentants des Parties ayant le droit de siéger au Comité des Ministres.
(2)Pour tout État adhérent, la Convention entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de dépôt de l’instrument d’adhésion près le Secrétaire Général du Conseil de l’Europe.
Article 32 – Application territoriale
(1)Tout État ou l’Union européenne peut, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, désigner le ou les territoires auxquels s’appliquera la présente Convention.
(2)Toute Partie peut, à une date ultérieure, par une déclaration adressée au Secrétaire Général du Conseil de l’Europe, étendre l’application de la présente Convention à tout autre territoire désigné dans cette déclaration. La Convention entrera en vigueur à l’égard de ce territoire le premier jour du mois suivant l’expiration d’une période de trois mois après la date de réception de la déclaration par le Secrétaire Général.
(3)Toute déclaration faite en vertu des deux paragraphes précédents pourra être retirée à l’égard de tout territoire désigné dans cette déclaration par notification adressée au Secrétaire Général du Conseil de l’Europe. Ce retrait prendra effet le premier jour du mois qui suit l'expiration d'une période de trois mois après la date de réception de la notification par le Secrétaire Général.
Article 33 – Clause fédérale
(1)Un État fédéral peut se réserver le droit d’assumer des obligations en vertu de la présente Convention conformément aux principes fondamentaux régissant les relations entre son gouvernement central et les États constitutifs ou autres entités territoriales similaires, à condition que la Convention s’applique au gouvernement central de l’État fédéral.
(2)En ce qui concerne les dispositions de la présente Convention dont l’application relève de la compétence des États constitutifs ou d’autres entités territoriales similaires, qui ne sont pas tenus par le système constitutionnel de la fédération de prendre des mesures législatives, le gouvernement fédéral informe les autorités compétentes de ces États desdites dispositions avec son avis favorable et les encourage à prendre les mesures appropriées pour leur donner effet.
Article 34 – Réserves
(1)Par une notification écrite adressée au Secrétaire Général du Conseil de l’Europe, tout État peut, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, déclarer qu’il se prévaut de la réserve prévue à l’article 33, paragraphe 1.
(2)Aucune autre réserve ne peut être formulée à l’égard de la présente Convention.
Article 35 – Dénonciation
(1)Toute Partie peut, à tout moment, dénoncer la présente Convention en adressant une notification au Secrétaire Général du Conseil de l’Europe.
(2)La dénonciation prendra effet le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de réception de la notification par le Secrétaire Général.
Article 36 – Notification
Le Secrétaire Général du Conseil de l’Europe notifiera aux États membres du Conseil de l’Europe, aux États non membres qui ont participé à l’élaboration de la présente Convention, à l’Union européenne, à tout signataire, à tout État contractant, à toute Partie, et à tout autre État invité à adhérer à la présente Convention:
(a)toute signature;
(b)le dépôt de tout instrument de ratification, d’acceptation, d’approbation ou d’adhésion;
(c)toute date d’entrée en vigueur de la présente Convention conformément à l’article 30, paragraphes 3 et 4, et à l’article 31, paragraphe 2;
(d)tout amendement adopté conformément à l’article 28 et la date à laquelle cet amendement entre en vigueur;
(e)toute déclaration formulée en vertu de l’article 3, paragraphe 1, alinéa b;
(f)toute réserve et tout retrait de réserve formulés en vertu de l’article 34;
(g)toute dénonciation effectuée conformément aux dispositions de l’article 35;
(h)tout autre acte, déclaration, notification ou communication ayant trait à la présente Convention.
En foi de quoi, les soussignés, dûment autorisés à cet effet, ont signé la présente Convention.
Fait à Vilnius, le 5 septembre 2024, en français et en anglais, les deux textes faisant également foi, en un seul exemplaire qui sera déposé dans les archives du Conseil de l'Europe. Le Secrétaire Général du Conseil de l’Europe en communiquera copie certifiée conforme à chacun des États membres du Conseil de l’Europe, aux États non membres qui ont participé à l’élaboration de la Convention, à l’Union européenne et à tout État invité à adhérer à la présente Convention.
ANNEXE II
1.Déclaration de l’Union européenne sur le champ d’application en ce qui concerne les acteurs privés conformément à l’article 3, paragraphe 1, alinéa b, de la convention
Rappelant l'obligation prévue à l’article 3, paragraphe 1, alinéa b, de la convention de répondre aux risques et aux impacts découlant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle par des acteurs privés dans la mesure où ils ne sont pas couverts par l’alinéa a, d’une manière conforme à l’objet et au but de la convention, l’Union déclare qu’elle appliquera les principes et obligations énoncés aux chapitres II à VI de la convention aux activités des acteurs privés qui mettent sur le marché, mettent à disposition et utilisent des systèmes d’IA dans l’Union européenne par la mise en œuvre du règlement (UE) 2024/1689 du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (le «règlement sur l’IA»). D’autres dispositions pertinentes de l’acquis de l’Union peuvent également s’appliquer à ces activités et contribuer à la mise en œuvre des principes et des obligations de la convention.
2.Déclaration de l’Union européenne sur le champ d’application territorial conformément à l’article 32, paragraphe 1, de la convention
En ce qui concerne l’article 32, paragraphe 1, de la convention, l’Union déclare que la convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’état de droit s’applique, en ce qui concerne la compétence de l’Union, aux territoires où les traités de l’Union sont appliqués en vertu de l’article 52 du TUE et dans les conditions prévues, entre autres, à l’article 355 du TFUE.