COMMISSION EUROPÉENNE

Bruxelles, le 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Proposition de

DÉCISION DU CONSEIL

relative à la signature, au nom de l’Union européenne, de la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit

EXPOSÉ DES MOTIFS

1.CONTEXTE DE LA PROPOSITION

•Justification et objectifs de la proposition

L’intelligence artificielle (IA) offre de grandes possibilités, mais certaines applications et utilisations peuvent également causer des dommages et des risques aux droits fondamentaux des personnes et à d’autres intérêts publics.

Avec le règlement (UE) 2024/[...] du Parlement européen et du Conseil établissant des règles harmonisées en matière d’intelligence artificielle («législation sur l’IA»), l’Union a adopté le premier règlement global sur l’IA, qui établit une norme à l’échelle mondiale. La législation sur l’IA a été adoptée le 12 juin 2024( 1 ) et entrera en vigueur dans un délai de 20 jours à compter de sa publication au Journal officiel. La législation sur l’IA harmonise pleinement les règles relatives à la mise sur le marché, à la mise en service et à l’utilisation des systèmes d’IA dans les États membres( 2 ), le but étant de promouvoir l’innovation et l’adoption d’une IA digne de confiance, tout en protégeant la santé, la sécurité et les droits fondamentaux, y compris la démocratie, l’État de droit et l’environnement.

Diverses organisations internationales, dont le Conseil de l’Europe, ont, elles aussi, intensifié leurs efforts de régulation de l’IA, en reconnaissant le caractère transfrontière de l’IA et la nécessité d’une coopération internationale pour relever les défis communs que posent ces technologies.

Depuis juin 2022, le Comité de l’intelligence artificielle du Conseil de l’Europe ( 3 ) élabore une convention-cadre juridiquement contraignante (ci-après dénommée «la convention») pour faire face aux risques potentiels que l’IA fait peser sur les droits de l’homme, la démocratie et l’État de droit. L’Union a négocié la convention sur la base de l’article 216, paragraphe 1, quatrième cas de figure, TFUE, selon lequel l’Union peut négocier 4 et conclure un accord international lorsque celui-ci «est susceptible d’affecter des règles communes ou d’en altérer la portée». La Commission européenne a représenté l’Union dans les négociations de la convention, conformément à l’article 218, paragraphe 3, du traité sur le fonctionnement de l’Union européenne (TFUE) et sur la base d’une décision du Conseil autorisant l’ouverture de négociations au nom de l’Union européenne ( 5 ).

L’Union a participé activement aux négociations et a poursuivi l’objectif de garantir la compatibilité de la convention avec le droit de l’Union, la cohérence avec la législation sur l’IA, ainsi que la qualité et la valeur ajoutée de la convention en tant que premier traité international sur l’IA. Dans ce contexte, la portée internationale de la convention a également été un objectif de l’Union.

À l’issue de plusieurs cycles de négociations, le CIA a approuvé le texte de la convention lors de sa 10e session plénière, qui s’est tenue du 11 au 14 mars 2024. Le 17 mai 2024, le Comité des ministres du Conseil de l’Europe a adopté la convention, est convenu de l’ouvrir à la signature à Vilnius (Lituanie) le 5 septembre 2024, à l’occasion d’une conférence informelle des ministres de la justice, et a invité les membres du Conseil de l’Europe, d’autres pays tiers ayant participé à son élaboration et l’UE à envisager de la signer à cette occasion, tout en rappelant que la convention est également ouverte à l’adhésion d’autres États tiers( 6 ).

Dans ce contexte, l’objectif de la présente proposition est de lancer le processus de signature par l’Union de la convention, en vue de la ratifier ultérieurement en proposant au Conseil d’adopter une décision autorisant l’Union à signer la convention conformément à l’article 218, paragraphe 5, du TFUE. La convention est pleinement compatible avec le droit de l’Union en général, et avec la législation sur l’IA en particulier, et promouvra des concepts clés de l’approche de l’Union à l’égard de la réglementation de l’IA à l’échelle mondiale parmi les autres membres du Conseil de l’Europe et les principaux partenaires internationaux qui peuvent adhérer à la convention.

Contenu de la convention

La convention vise à garantir que les activités menées dans le cadre du cycle de vie des systèmes d’IA sont pleinement compatibles avec les droits de l’homme, la démocratie et l’État de droit.

Les parties à la convention devront la mettre en œuvre au moyen de mesures appropriées de nature législative, administrative ou autre pour donner effet à ses dispositions, selon une approche graduée et différenciée, en fonction de la gravité et de la probabilité des incidences négatives. La convention devrait être mise en œuvre exclusivement dans l’Union au moyen de la législation sur l’IA, qui harmonise pleinement les règles relatives à la mise sur le marché, à la mise en service et à l’utilisation des systèmes d’IA, ainsi que l’acquis existant de l’Union, le cas échéant. 

Le champ d’application de la convention couvre les systèmes d’IA susceptibles d’interférer avec les droits de l’homme, la démocratie et l’État de droit, selon une approche différenciée. Les principes et obligations envisagés dans la convention s’appliqueront aux activités menées au cours du cycle de vie des systèmes d’IA par des autorités publiques ou des acteurs privés agissant en leur nom. En ce qui concerne le secteur privé, les parties sont tenues de traiter les risques et les incidences découlant des activités menées au cours du cycle de vie des systèmes d’IA par des acteurs privés d’une manière conforme à l’objet et à la finalité de la convention, mais ont le choix d’appliquer les obligations de la convention ou de prendre d’autres mesures appropriées. Les parties devront faire une déclaration sur le choix qu’elles font à cet égard au moment de la signature de la convention ou de l’adhésion à celle-ci. L’Union devrait faire une déclaration dès la conclusion de la convention selon laquelle l’Union, au moyen de la législation sur l’IA et d’autres acquis pertinents de l’Union, mettra en œuvre les principes et obligations énoncés aux chapitres II à VI de la convention aux activités des acteurs privés qui mettent sur le marché, mettent en service et utilisent des systèmes d’IA dans l’Union..

Les activités d’IA liées à la sécurité nationale sont exclues du champ d’application de la convention, étant entendu qu’elles doivent, en tout état de cause, être menées dans le respect du droit international applicable en matière de droits de l’homme et du respect des institutions et processus démocratiques. La convention exclut également les activités de recherche et de développement concernant les systèmes d’IA qui ne sont pas encore mis à disposition pour utilisation, à moins que des essais ou des activités similaires ne soient susceptibles d’interférer avec les droits de l’homme, la démocratie et l’état de droit. Conformément au statut du Conseil de l’Europe, les questions relatives à la défense nationale ne relèvent pas du champ d’application de la convention.

La convention prévoit en outre un ensemble d’obligations générales et de principes fondamentaux, y compris la protection de la dignité humaine et de l’autonomie individuelle, ainsi que la promotion de l’égalité et de la non-discrimination. En outre, elle impose le respect de la vie privée et de la protection des données à caractère personnel ainsi que la transparence et le contrôle afin de garantir l’obligation de rendre des comptes et la responsabilité. Un principe est également consacré à l’innovation et à l’expérimentation sûres dans des environnements contrôlés.

Un chapitre consacré aux voies de recours envisage également un ensemble de mesures visant à garantir la disponibilité de voies de recours accessibles et efficaces en cas de violation des droits de l’homme résultant des activités menées au cours du cycle de vie des systèmes d’IA. Il prévoit également des garanties procédurales effectives pour les personnes dont les droits ont été affectés de manière significative par l’utilisation de systèmes d’IA. En outre, les personnes devraient être informées qu’elles interagissent avec un système d’IA et non avec un être humain.

La convention comprend également un chapitre sur les mesures d’évaluation et d’atténuation des risques et des incidences négatives à mettre en œuvre de manière itérative, afin de recenser les incidences réelles et potentielles sur les droits de l’homme, la démocratie et l’État de droit et de prendre des mesures de prévention et d’atténuation appropriées.

En outre, la convention prévoit que les parties devraient évaluer la nécessité d’interdictions ou de moratoires sur certaines applications de systèmes d’IA jugées incompatibles avec le respect des droits de l’homme, le fonctionnement de la démocratie ou l’État de droit.

La convention prévoit un mécanisme de suivi au sein d’une conférence des parties, composée de représentants des parties qui se consulteront périodiquement en vue de faciliter l’utilisation et la mise en œuvre effectives de la convention. Elle prévoit également un mécanisme de coopération internationale tant entre les parties à la convention que dans les relations avec les pays tiers et les parties prenantes concernées, afin d’atteindre l’objectif de la convention.

Chaque partie devrait en outre mettre en place ou désigner, au niveau national, un ou plusieurs mécanismes efficaces pour contrôler le respect des obligations prévues par la convention, conformément à l’effet donné par les parties.

•Cohérence avec les dispositions existantes dans le domaine d'action

La convention établit des principes généraux et des obligations en matière de protection des droits de l’homme, de la démocratie et de l’État de droit qui sont pleinement cohérents et conformes aux objectifs de la législation sur l’IA et aux exigences détaillées applicables aux systèmes d’IA et aux obligations imposées aux fournisseurs et aux déployeurs de ces systèmes.

La définition du système d’IA figurant dans la convention est pleinement alignée sur celle figurant dans la législation sur l’IA, étant donné que toutes deux reposent sur la définition de ces systèmes figurant dans les principes de l’Organisation de coopération et de développement économiques en matière d’IA( 7 ), garantissant ainsi une compréhension commune des technologies numériques qui constituent l’IA.

La transparence est un autre élément commun des deux instruments juridiques, y compris les mesures relatives à l’identification des contenus générés par l’IA et à la notification des personnes qui interagissent avec les systèmes d’IA. Ces deux instruments juridiques comprennent également des dispositions pertinentes relatives aux analyses des risques et des incidences et à la gestion des risques, à la tenue de registres, à la divulgation (aux organismes et autorités autorisés et, le cas échéant, aux personnes concernées), à la traçabilité et à l’explicabilité, à l’innovation et à l’expérimentation en toute sécurité dans des environnements contrôlés, ainsi qu’un ensemble de mesures visant à permettre des recours efficaces, y compris un droit de demander et d’obtenir des informations et une plainte auprès d’une autorité compétente et des garanties procédurales.

Le système de surveillance envisagé dans la convention est également pleinement cohérent avec le système global de gouvernance et d’application de la législation sur l’IA, qui comprend l’application de la législation au niveau de l’Union et au niveau national, avec des procédures de mise en œuvre cohérente des règles de l’Union dans tous les États membres. En particulier, la convention prévoit un ou plusieurs mécanismes de contrôle efficaces au niveau national, qui doivent exercer leurs fonctions de manière indépendante et impartiale et disposer des pouvoirs, de l’expertise et des ressources nécessaires pour s’acquitter efficacement des tâches de surveillance du respect des obligations prévues par la convention, telles que définies par les parties.

Si la législation sur l’IA s’appliquera aux systèmes d’IA mis sur le marché, mis en service ou utilisés dans l’Union, la convention a une portée géographique plus large englobant les membres du Conseil de l’Europe et les États tiers du monde entier qui peuvent adhérer à la convention. La convention représente donc une occasion unique de promouvoir une IA digne de confiance au-delà de l’Union dans le cadre d’un premier traité international juridiquement contraignant fondé sur une approche forte de la réglementation de l’IA en matière de droits de l’homme.

Tant la convention que la législation sur l’IA font partie intégrante d’une approche réglementaire de l’IA, avec des engagements cohérents et qui se renforcent mutuellement à plusieurs niveaux internationaux, et partagent l’objectif commun de garantir une IA digne de confiance.

•Cohérence avec les autres politiques de l’Union

La convention partage également des objectifs communs avec d’autres politiques et législations de l’Union visant à mettre en œuvre les droits fondamentaux consacrés par la charte des droits fondamentaux de l’Union( 8 ).

En particulier, le principe d’égalité et de non-discrimination inscrit dans la convention est pleinement conforme à la législation de l’Union en matière de non-discrimination et encouragera l’intégration de considérations d’égalité dans la conception, le développement et l’utilisation des systèmes d’IA, ainsi que la mise en œuvre effective de l’interdiction de la discrimination, conformément au droit international et interne applicable des parties.

La convention est en outre conforme à l’acquis de l’Union en matière de protection des données, y compris le règlement général sur la protection des données( 9 ) en ce qui concerne les droits fondamentaux à la vie privée et à la protection des données à caractère personnel, avec des garanties et des garanties effectives qui doivent être en place pour les personnes physiques, conformément aux obligations juridiques nationales et internationales applicables des parties.

Les mesures envisagées dans la convention visant à protéger les processus démocratiques des parties dans le cadre des activités du cycle de vie du système d’IA sont pleinement compatibles avec les objectifs et les dispositions détaillées du règlement sur les services numériques( 10 ), qui régit la fourniture de services intermédiaires dans l’Union dans le but de garantir un environnement en ligne sûr, prévisible et de confiance dans lequel les droits fondamentaux, y compris le droit à la liberté d’expression et le droit de recevoir et de communiquer des informations, sont respectés. Elles sont également conformes au règlement relatif à la transparence et au ciblage de la publicité à caractère politique ( 11 ), au code de bonnes pratiques contre la désinformation ( 12 ) et aux politiques de la Commission dans le domaine de la démocratie et des élections libres, régulières et résilientes ( 13 ), y compris le plan d’action 2020 pour la démocratie européenne ( 14 ), le paquet législatif «renforcement de la démocratie et intégrité des élections» ( 15 )  et récemment le paquet «Défense de la démocratie» de 2023 ( 16 ).

La convention est cohérente avec la stratégie numérique globale de la Commission en ce qu’elle contribue à promouvoir des technologies au service des personnes, l’un des trois piliers principaux de l’orientation politique et des objectifs annoncés dans la communication «Façonner l’avenir numérique de l’Europe» ( 17 ). Cette dernière vise à garantir que l’IA soit développée de manière à respecter les droits humains et à susciter la confiance des personnes, à adapter l’Europe à l’ère du numérique et à faire des dix prochaines années la «décennie numérique» ( 18 ).

En outre, la déclaration européenne sur les droits et principes numériques pour la décennie numérique ( 19 ) contient plusieurs droits et principes numériques qui sont alignés sur les objectifs et les principes de la convention, les deux instruments promouvant une approche technologique forte fondée sur les droits de l’homme.

La convention est également cohérente avec la stratégie de l’UE sur les droits de l’enfant ( 20 ) et la stratégie européenne pour un internet mieux adapté aux enfants (BIK +) ( 21 ), , qui visent à faire en sorte que les enfants soient protégés, respectés et autonomes en ligne pour faire face aux défis posés par les nouveaux mondes virtuels ou l’IA.

2.BASE JURIDIQUE, SUBSIDIARITÉ ET PROPORTIONNALITÉ

•Base juridique

La proposition de décision autorisant la signature de la convention au nom de l’Union est soumise au Conseil conformément à l’article 218, paragraphe 5, du TFUE.

La base juridique matérielle d’une décision au titre de l’article 218, paragraphe 5, du TFUE dépend avant tout de l’objectif et du contenu de l’accord. Selon la jurisprudence, si l’examen d’un acte de l’Union démontre qu’il poursuit deux finalités ou qu’il a deux composantes et si l’une de ces finalités ou de ces composantes est identifiable comme étant la finalité ou la composante principale ou prépondérante tandis que l’autre n’est qu’accessoire, l'acte doit être fondé sur une seule base juridique, à savoir celle exigée par la finalité ou la composante principale ou prépondérante.

En ce qui concerne la base juridique matérielle, le champ d’application matériel de la convention coïncide avec celui de la législation sur l’IA ( 22 ), y compris en ce qui concerne l’exemption du champ d’application en ce qui concerne la recherche et le développement, la sécurité nationale et les activités de défense. Les principes et obligations énoncés dans la convention coïncident avec les exigences plus détaillées applicables aux systèmes d’IA et les obligations spécifiques des fournisseurs et des déployeurs de ces systèmes au titre de la législation sur l’IA et d’autres actes législatifs pertinents de l’Union. Si le Conseil adopte la décision proposée et si l’Union signe la convention, la législation sur l’IA constituera la législation primaire de l’Union visant à mettre en œuvre la convention dans l’ordre juridique de l’Union, avec des règles pleinement harmonisées concernant la mise sur le marché, la mise en service et l’utilisation de systèmes d’IA dans l’Union qui sont directement applicables dans tous les États membres, à moins que la législation sur l’IA n’en dispose expressément autrement ( 23 ).

Étant donné que le champ d’application et les objectifs de la convention sont alignés et pleinement cohérents avec ceux de la législation sur l’IA et que le champ d’application personnel et matériel des deux instruments juridiques coïncident, la base juridique matérielle pour la conclusion de la convention est l’article 114 du TFUE, qui constitue la base juridique principale de la législation sur l’IA.

La nature des accords internationaux («UE uniquement» ou «mixte») dépend de la compatibilité de l’objet spécifique avec les compétences de l’Union.

L’article 3, paragraphe 2, du TFUE prévoit que l’Union dispose d’une compétence exclusive «pour la conclusion d’un accord international [...] dans la mesure où [cette conclusion] est susceptible d’affecter des règles communes ou d’en altérer la portée». Un accord international peut affecter des règles communes ou en altérer la portée lorsque le domaine couvert par l’accord est, dans une large mesure, couvert par le droit de l’Union ( 24 ).

Le champ d’application personnel de la convention est pleinement aligné sur la législation sur l’IA en ce sens que les deux instruments juridiques couvrent, en principe, à la fois les acteurs publics et privés (avec l’application facultative des principes et des obligations de la convention aux acteurs privés autres que ceux agissant pour le compte d’autorités publiques), tandis que le champ d’application matériel des deux instruments juridiques exclut des règles applicables les activités d’IA liées à la sécurité nationale, à l’armée et à la recherche.

Étant donné que le champ d’application personnel et matériel de la convention coïncide avec celui de la législation sur l’IA, la conclusion de la convention est susceptible d’affecter des règles communes de l’Union ou d’en altérer la portée au sens de l’article 3, paragraphe 2, du TFUE. Par conséquent, l’Union devrait être considérée comme jouissant d’une compétence externe exclusive pour conclure la convention et la convention devrait être signée au nom de l’Union en tant qu’accord relevant uniquement de l’UE, sous réserve de sa conclusion à une date ultérieure.

•Proportionnalité

La convention établit un cadre juridique de haut niveau pour l’IA qui offre une certaine souplesse, permettant ainsi aux parties de concevoir concrètement les cadres de mise en œuvre. L’approche fondée sur les risques garantit également la proportionnalité des règles et permet de différencier les mesures de mise en œuvre d’une manière proportionnée aux risques, de la même manière que la législation sur l’IA.

•Choix de l’instrument

3.RÉSULTATS DES ÉVALUATIONS EX POST, DES CONSULTATIONS DES PARTIES INTÉRESSÉES ET DES ANALYSES D'IMPACT

Évaluations ex post/bilans de qualité de la législation existante

•Consultation des parties intéressées

La Commission n’a pas procédé à une consultation spécifique des parties prenantes sur cette proposition.

L’élaboration de la convention a été un effort de collaboration du Comité du Conseil de l’Europe sur l’intelligence artificielle, associant l’ensemble des 46 États membres du Conseil de l’Europe, ainsi que des États observateurs, dont le Canada, le Japon, le Mexique, le Saint-Siège, les États-Unis d’Amérique et l’Union européenne. En outre, plusieurs autres États tiers y ont participé, dont l’Australie, l’Argentine, le Costa Rica, Israël, le Pérou et l’Uruguay.

Conformément à l’engagement pris par le Conseil de l’Europe de dialoguer avec diverses parties prenantes, l’élaboration de la convention a également impliqué la contribution de 68 représentants internationaux de la société civile, du monde universitaire, de l’industrie et d’autres organisations internationales, garantissant ainsi une approche globale et inclusive. L’élaboration de la convention impliquait également une collaboration avec diverses autres organisations internationales, dont l’Organisation pour la sécurité et la coopération en Europe (OSCE), l’Organisation de coopération et de développement économiques (OCDE) et l’Organisation des Nations unies pour l’éducation, la science et la culture (UNESCO). En outre, les organes et comités compétents du Conseil de l’Europe ont contribué au processus. La participation de l’Union a été conduite par la Commission européenne. Des représentants de l’Agence des droits fondamentaux de l’Union européenne et du Contrôleur européen de la protection des données étaient également présents en qualité d’observateurs.

•Obtention et utilisation d’expertise

Les positions de négociation de l’Union pour la convention ont été élaborées en consultation avec un comité spécial désigné par le Conseil (le groupe «Télécommunications et société de l’information» du Conseil).

•Analyse d’impact

•Réglementation affûtée et simplification

•Droits fondamentaux

La convention vise à remédier aux risques et préjudices potentiels pour les droits de l’homme en veillant à ce que les activités menées au cours du cycle de vie des systèmes d’IA soient conformes aux principes du respect des droits de l’homme, de la démocratie et de l’État de droit, tout en reconnaissant également le potentiel de l’IA pour protéger et faciliter l’exercice de ces droits dans l’environnement numérique et améliorer le bien-être sociétal et environnemental et le progrès technologique.

Les principes et obligations concrets envisagés dans la convention visent à protéger et à respecter les droits de l’homme, consacrés dans de multiples instruments internationaux et régionaux( 25 ), tels qu’ils sont applicables aux parties, y compris la charte des droits fondamentaux de l’Union et les instruments internationaux relatifs aux droits de l’homme que l’Union a conclus.

La convention fixe donc un niveau minimal commun de protection des droits de l’homme dans le contexte de l’IA, tout en préservant les protections existantes des droits de l’homme et en permettant aux parties d’offrir une protection plus large assortie de garanties plus strictes.

4.INCIDENCE BUDGÉTAIRE

La convention prévoit des contributions financières d’États tiers aux activités de la conférence des parties. Si tous les membres du Conseil de l’Europe apporteront leur contribution via le budget ordinaire du Conseil de l’Europe conformément au statut du Conseil de l’Europe, les parties qui ne sont pas membres apporteront des contributions extrabudgétaires. La contribution d’un non-membre du Conseil de l’Europe est établie de manière conjointe par le Comité des Ministres et ce non-membre du Conseil de l’Europe.

La convention n’interfère pas avec les lois et réglementations internes des parties régissant les compétences budgétaires et les procédures relatives aux crédits budgétaires. Elle permet également aux États tiers d’apporter leurs contributions dans les limites budgétaires approuvées fixées par leur pouvoir législatif, sans préjudice d’éventuels accords préalables.

5.AUTRES ÉLÉMENTS

Plans de mise en œuvre et modalités de suivi, d'évaluation et d'information

La conférence des parties, composée de représentants des parties, veille à ce que les objectifs de la convention soient effectivement atteints et à ce que ses dispositions soient mises en œuvre par les parties.

Chaque partie devra présenter à la conférence des parties, dans les deux premières années suivant son adhésion et à intervalles réguliers par la suite, un rapport détaillant les mesures prises pour mettre en œuvre la convention.

Les parties sont également encouragées à coopérer pour atteindre les objectifs de la convention. Cette coopération internationale peut comprendre le partage d’informations pertinentes concernant l’IA et son potentiel d’incidence négative ou positive sur les droits de l’homme, la démocratie et l’État de droit.

Afin d’assurer un suivi et une mise en œuvre efficaces, chaque partie devra désigner un ou plusieurs mécanismes de contrôle efficaces au niveau national.

2024/0150 (NLE)

Proposition de

DÉCISION DU CONSEIL

relative à la signature, au nom de l’Union européenne, de la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit

LE CONSEIL DE L'UNION EUROPÉENNE,

vu le traité sur le fonctionnement de l'Union européenne, et notamment son article 114 en liaison avec l'article 218, paragraphe 5,

vu la proposition de la Commission européenne,

considérant ce qui suit:

(1)Le 21 novembre 2022, le Conseil a autorisé la Commission européenne à ouvrir des négociations, au nom de l’Union, en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit (ci-après la «convention»). La Commission européenne a négocié la convention au nom de l’Union. Le 17 mai 2024, les négociations ont abouti au paraphe de la convention et à son adoption par le Comité des ministres du Conseil de l’Europe ( 26 ).

(2)La convention établit les principes généraux et les obligations que les parties à la convention devraient respecter pour garantir la protection des droits de l’homme, de la démocratie et de l’État de droit en ce qui concerne les activités relevant du cycle de vie des systèmes d’intelligence artificielle (IA).

(3)Le 12 juin 2024, l’Union a adopté le règlement (UE) 2024/... (ci-après la «législation sur l’IA»)( 27 ), principalement sur la base de l’article 114 du TFUE, qui prévoit des règles pleinement harmonisées régissant la mise sur le marché, la mise en service et l’utilisation de systèmes d’IA dans l’Union qui sont directement applicables dans les États membres, à moins que la législation sur l’IA n’en dispose expressément autrement. La convention doit être mise en œuvre dans l’Union exclusivement au moyen de la législation sur l’IA et d’autres acquis pertinents de l’Union, le cas échéant.

(4)Étant donné que le champ d’application personnel et matériel de la convention coïncide avec la législation sur l’IA et d’autres acquis pertinents de l’Union, la conclusion de la convention est susceptible d’affecter des règles communes de l’Union ou d’en altérer la portée au sens de l’article 3, paragraphe 2, du TFUE. Par conséquent, l’Union jouit d’une compétence externe exclusive pour signer la convention et, par conséquent, seule l’Union devrait devenir partie à la convention, sous réserve de sa conclusion à une date ultérieure.

(5)Conformément aux traités, il appartient à la Commission européenne d’assurer la signature de la convention, sous réserve de sa conclusion à une date ultérieure,

A ADOPTÉ LA PRÉSENTE DÉCISION:

Article premier

La signature de la convention-cadre du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit (ci-après dénommée «convention») est approuvée au nom de l’Union, sous réserve de la conclusion de ladite convention.

Le texte de la Convention à signer est annexé à la présente décision.

Article 2

La présente décision entre en vigueur le .

Fait à Bruxelles, le

(1)     Règlement (UE) 2024/... Du Parlemant européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (législation sur l’intelligence artificielle), JO L 2024 L ...

(2)    Législation sur l’IA, considérants 1 et 8.

(3)     Décision concernant les travaux du CIA lors de la 132e session du Comité des Ministres — Suivi, CM/Inf (2022) 20, DD (2022) 245

(4)    Arrêt de la Cour du 20 novembre 2018, Commission/Conseil (AMP de l’Antarctique), affaires jointes C-626/15 et C-659/16, ECLI: EU: C: 2018: 925, point 112.

(5)     Décision (UE) 2022/2349 du Conseil du 21 novembre 2022 autorisant l’ouverture de négociations, au nom de l’Union européenne, en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit , JO L 311 du 2.12.2022, p. 138.

(6)    CM/Del/Dec(2024)133/4.

(7)    La définition d’un «système d’IA» de l’OCDE a été mise à jour le 8 novembre 2023 [C (2023) 151 et C/M (2023) 14, point 218] afin de garantir qu’elle reste techniquement précise et reflète les évolutions technologiques, y compris en ce qui concerne l’IA générative.

(8)

   Charte des droits fondamentaux de l’Union européenne (JO C 326 du 26.10.2012, p. 391).

(9)    Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données) (JO L 119 du 4.5.2016, p. 1).

(10)    Règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE (règlement sur les services numériques), JO L 277 du 27.10.2022, p. 1.

(11)    Règlement (UE) 2024/900 du Parlement européen et du Conseil du 13 mars 2024 relatif à la transparence et au ciblage de la publicité à caractère politique, PE/90/2023/REV/1, OJ L 2024/900 du 20.3.2024.

(12)     https://disinfocode.eu/introduction-to-the-code/

(13)     Protéger la démocratie – Commission européenne (europa.eu)

(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_en

(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en

(16)    Communication de la Commission – «Le pacte vert pour l’Europe» [COM(2023) 630 final].

(17)    Communication de la Commission intitulée «Façonner l’avenir numérique de l’Europe» [COM(2020) 67 final].

(18)    Communication de la Commission intitulée «Une boussole numérique pour 2030: l'Europe balise la décennie numérique» , COM(2021) 118 final.

(19)     Déclaration européenne sur les droits et principes numériques pour la décennie numérique COM(2022) 28 final.

(20)    Communication de la Commission intitulée «Stratégie de l’UE sur les droits de l’enfant», COM/2021/142 final.

(21)    Communication de la Commission intitulée «Une décennie numérique pour les enfants et les jeunes: la nouvelle stratégie européenne pour un internet mieux adapté aux enfants» [COM(2022) 212 final].

(22)    Adoptée par le Conseil le 21 mai 2024 et devant être publiée au Journal officiel en juillet 2024.

(23)    Voir l’article 1er et considérant 1 de la législation sur l’IA.

(24)    Par exemple, affaire C‑114/12, Commission/Conseil (droits voisins des organismes de radiodiffusion), ECLI:EU:C:2014:2151, points  68-69; avis 1/13 (Adhésion d’États tiers à la convention de La Haye), EU:C:2014:2303, points 71-74; affaire C‑66/13 Green Network EU:C:2014:2399, points 27-33; avis 3/15 Traité de Marrakech visant à faciliter l'accès des aveugles, des déficients visuels et des personnes ayant d'autres difficultés de lecture des textes imprimés aux œuvres publiées, ECLI:EU:C:2017:114, points 105-108.

(25)    Notamment la Déclaration universelle des droits de l’homme de 1948, la Convention de sauvegarde des droits de l’homme et des libertés fondamentales du Conseil de l’Europe de 1950, le Pacte international relatif aux droits civils et politiques des Nations Unies de 1966, le Pacte international relatif aux droits économiques, sociaux et culturels des Nations Unies de 1966, la Charte sociale européenne de 1961 ainsi que leurs protocoles respectifs, et la Charte sociale européenne révisée de 1996; la Convention des Nations Unies relative aux droits de l’enfant de 1989 et la Convention des Nations unies relative aux droits des personnes handicapées de 2006.

(26)    Décision (UE) 2022/2349 du Conseil du 21 novembre 2022 autorisant l’ouverture de négociations, au nom de l’Union européenne, en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit , JO L 311 du 2.12.2022, p. 138.

(27)    Règlement (UE) 2024/... Du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (législation sur l’intelligence artificielle), JO L 2024 L ...

COMMISSION EUROPÉENNE

Bruxelles, le 26.6.2024

COM(2024) 264 final

ANNEXE

de la

Proposition de DÉCISION DU CONSEIL

relative à la signature, au nom de l'Union européenne, de la Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit

Texte de la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit

Préambule

Les États membres du Conseil de l’Europe et les autres signataires,

Considérant que le but du Conseil de l’Europe est de réaliser une union plus étroite entre ses membres, fondée en particulier sur le respect des droits de l’homme, de la démocratie et de l’État de droit;

Reconnaissant l’intérêt de favoriser la coopération entre les Parties à la présente Convention et d’étendre cette coopération à d’autres États qui partagent les mêmes valeurs;

Conscients des développements rapides de la science et de la technologie, et des profonds changements induits par les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle qui ont le potentiel de promouvoir la prospérité humaine et le bien-être des individus et de la société, le développement durable, l’égalité de genre et l’autonomisation de toutes les femmes et filles, ainsi que d’autres objectifs et intérêts importants, en renforçant le progrès et l’innovation;

Reconnaissant que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent offrir des opportunités sans précédent pour la protection et la promotion des droits de l’homme, de la démocratie et de l’État de droit;

Préoccupés par le fait que certaines activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle peuvent porter atteinte à la dignité humaine et à l’autonomie personnelle, aux droits de l’homme, à la démocratie et à l’État de droit;

Préoccupés par les risques de discrimination dans les cadres numériques, en particulier ceux impliquant des systèmes d’intelligence artificielle, et par leur effet potentiel de création ou d’aggravation des inégalités, y compris celles vécues par les femmes et les personnes en situation de vulnérabilité, en ce qui concerne la jouissance de leurs droits humains et leur participation pleine, égale et effective aux affaires économiques, sociales, culturelles et politiques;

Préoccupés par l’utilisation abusive de systèmes d’intelligence artificielle et opposés à l’utilisation de ces systèmes à des fins répressives, en violation du droit international des droits de l’homme, notamment par des pratiques de surveillance et de censure arbitraires ou illégales qui portent atteinte à la vie privée et à l’autonomie personnelle;

Conscients du fait que les droits de l’homme, la démocratie et l’État de droit sont intrinsèquement liés entre eux;

Convaincus de la nécessité d’établir, en priorité, un cadre juridique applicable à l’échelle mondiale énonçant des règles et des principes généraux communs régissant les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, qui préservent de manière efficace les valeurs communes et exploite les avantages de l’intelligence artificielle pour la promotion de ces valeurs d’une manière propice à l’innovation responsable;

Reconnaissant la nécessité de promouvoir la maîtrise du numérique, ainsi que la connaissance de la conception, du développement, de l’utilisation et de la mise hors service des systèmes d’intelligence artificielle, et de la confiance dans ceux-ci;

Reconnaissant que la présente Convention a valeur de cadre et qu’elle peut être complétée par d’autres instruments destinés à traiter des questions spécifiques liées aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle;

Soulignant que la présente Convention vise à répondre aux défis particuliers survenant tout au long du cycle de vie des systèmes d’intelligence artificielle et à encourager la prise en compte des risques et des impacts plus larges liés à ces technologies, notamment, sans s’y limiter, sur la santé humaine et l’environnement, et sur les aspects socio-économiques tels que l’emploi et le travail;

Constatant les efforts pertinents déployés par d’autres organisations et instances internationales et supranationales pour faire progresser la compréhension et la coopération internationales en matière d’intelligence artificielle;

Gardant à l’esprit les instruments internationaux applicables en matière de droits de l’homme, tels que la Déclaration universelle des droits de l’homme de 1948, la Convention de sauvegarde des droits de l’homme et des libertés fondamentales de 1950 (STE nº 5), le Pacte international relatif aux droits civils et politiques de 1966, le Pacte international relatif aux droits économiques, sociaux et culturels de 1966, la Charte sociale européenne de 1961 (STE nº 35), ainsi que leurs protocoles respectifs, et la Charte sociale européenne (révisée) de 1996 (STE nº 163);

Gardant également à l’esprit la Convention des Nations Unies relative aux droits de l’enfant de 1989 et la Convention des Nations Unies relative aux droits des personnes handicapées de 2006;

Gardant également à l’esprit les droits relatifs à la vie privée des personnes et à la protection des données à caractère personnel, tels que conférés, par exemple, par la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel de 1981 (STE n° 108) et ses protocoles;

Affirmant l’engagement des Parties à protéger les droits de l’homme, la démocratie et l’État de droit, et à favoriser la fiabilité des systèmes d’intelligence artificielle par le biais de la présente Convention,

Sont convenus de ce qui suit:

Chapitre I – Dispositions générales

Article 1er – Objet et but

(1)Les dispositions de la présente Convention visent à garantir que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle sont pleinement compatibles avec les droits de l’homme, la démocratie et l’État de droit.

(2)Chaque Partie adopte ou maintient les mesures législatives, administratives ou autres appropriées pour donner effet aux dispositions de la présente Convention. Ces mesures sont graduées et différenciées, si nécessaire, en fonction de la gravité et de la probabilité de l’apparition d’impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit tout au long du cycle de vie des systèmes d’intelligence artificielle. Il peut s’agir de mesures particulières ou horizontales qui s’appliquent quel que soit le type de technologie utilisé.

(3)Afin d’assurer la mise en œuvre effective de ses dispositions par les Parties, la présente Convention établit un mécanisme de suivi et prévoit une coopération internationale.

Article 2 – Définition des systèmes d’intelligence artificielle

Aux fins de la présente Convention, on entend par «système d’intelligence artificielle» un système automatisé qui, pour des objectifs explicites ou implicites, déduit, à partir d’entrées reçues, comment générer des résultats en sortie tels que des prévisions, des contenus, des recommandations ou des décisions qui peuvent influer sur des environnements physiques ou virtuels. Différents systèmes d’intelligence artificielle présentent des degrés variables d’autonomie et d’adaptabilité après déploiement.

Article 3 – Champ d’application

(1)Le champ d’application de la présente Convention couvre de la manière suivante les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle qui sont susceptibles de porter atteinte aux droits de l’homme, à la démocratie et à l’État de droit:

(a)a. chaque Partie applique la présente Convention aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, entreprises par les pouvoirs publics ou des acteurs privés qui agissent pour leur compte;

(b)b. chaque Partie répond aux risques et aux impacts découlant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle par des acteurs privés dans la mesure où ils ne sont pas couverts par l’alinéa a, d’une manière conforme à l’objet et au but de la Convention;

chaque Partie spécifie dans une déclaration soumise au Secrétaire Général du Conseil de l’Europe, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, la manière dont elle entend mettre en œuvre cette obligation, soit en appliquant les principes et obligations énoncés aux chapitres II à VI de la présente Convention aux activités des acteurs privés, soit en prenant d’autres mesures appropriées pour satisfaire à l’obligation prévue au présent alinéa. Les Parties peuvent, à tout moment et de la même manière, modifier leur déclaration;

lors de la mise en œuvre de l’obligation au titre du présent alinéa b, une Partie ne peut déroger ou limiter l’application des obligations internationales qui lui incombent en matière de protection des droits de l’homme, de la démocratie et de l’État de droit.

(2)Une Partie n’est pas tenue d’appliquer la présente Convention aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle et liées à la protection de ses intérêts de sécurité nationale, étant entendu que ces activités sont menées de manière compatible avec le droit international applicable, y compris les obligations nées du droit international des droits de l’homme, et dans le respect de ses institutions et processus démocratiques.

(3)Sans préjudice de l’article 13 et de l’article 25, paragraphe 2, la présente Convention ne s’applique pas aux activités de recherche et de développement relatives aux systèmes d’intelligence artificielle qui n’ont pas encore été rendus disponibles à l’utilisation, à moins que des essais ou des activités similaires ne soient entrepris d’une manière telle qu’ils sont susceptibles de porter atteinte aux droits de l’homme, à la démocratie et à l’État de droit.

(4)Les questions relatives à la défense nationale n’entrent pas dans le champ d’application de la présente Convention.

Chapitre II – Obligations générales

Article 4 – Protection des droits de l’homme

Chaque Partie adopte ou maintient des mesures pour veiller à ce que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle soient cohérentes avec les obligations de protection des droits de l’homme, telles qu’elles sont consacrées par le droit international applicable et par son droit interne.

Article 5 – Intégrité des processus démocratiques et respect de l’État de droit

(1)Chaque Partie adopte ou maintient des mesures visant à garantir que les systèmes d’intelligence artificielle ne sont pas utilisés pour porter atteinte à l’intégrité, à l’indépendance et à l’efficacité des institutions et processus démocratiques, y compris au principe de la séparation des pouvoirs, au respect de l’indépendance de la justice et à l’accès à la justice.

(2)Chaque Partie adopte ou maintient des mesures qui visent à protéger ses processus démocratiques dans le cadre des activités menées au cours du cycle de vie des systèmes d’intelligence artificielle, y compris l’accès équitable et la participation des personnes au débat public, ainsi que leur capacité à se forger librement une opinion.

Chapitre III – Principes relatifs aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle

Article 6 – Approche générale

Le présent chapitre énonce les principes généraux communs que chaque Partie met en œuvre à l’égard des systèmes d’intelligence artificielle, de manière adaptée à son ordre juridique interne et aux autres obligations nées de la présente Convention.

Article 7 – Dignité humaine et autonomie personnelle

Chaque Partie adopte ou maintient des mesures pour le respect de la dignité humaine et de l’autonomie personnelle en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

Article 8 – Transparence et contrôle

Chaque Partie adopte ou maintient des mesures pour veiller à ce que les exigences de transparence et de contrôle adaptées aux contextes et aux risques spécifiques soient en place en ce qui concerne les activités au sein du cycle de vie des systèmes d’intelligence artificielle, y compris en ce qui concerne l’identification de contenu généré par des systèmes d’intelligence artificielle.

Article 9 – Obligation de rendre des comptes et responsabilité

Chaque Partie adopte ou maintient des mesures pour garantir l’obligation de rendre compte et d’assumer la responsabilité pour les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit qui résultent des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

Article 10 – Égalité et non-discrimination

(1)Chaque Partie adopte ou maintient des mesures visant à garantir le respect de l’égalité, y compris l’égalité de genre, et l’interdiction de la discrimination dans les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, comme le prévoit le droit international et interne applicable.

(2)Chaque Partie s’engage à adopter ou à maintenir des mesures visant à supprimer les inégalités dans les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, afin d’obtenir des résultats impartiaux, justes et équitables, dans le cadre des obligations nationales et internationales qui lui incombent en matière de droits de l’homme.

Article 11 – Respect de la vie privée et protection des données à caractère personnel

Chaque Partie adopte ou maintient des mesures pour garantir que, en ce qui concerne les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle:

(a)les droits à la vie privée des personnes et les données à caractère personnel sont protégés, notamment par les lois, normes et cadres nationaux et internationaux applicables; et

(b)des garanties et des protections effectives ont été mises en place pour les personnes, conformément aux obligations juridiques nationales et internationales applicables.

Article 12 – Fiabilité

Chaque Partie prend, de manière appropriée, des mesures pour promouvoir la fiabilité des systèmes d’intelligence artificielle et la confiance en leurs résultats, ce qui pourrait inclure des exigences en matière de qualité et de sécurité adéquates tout au long du cycle de vie des systèmes d’intelligence artificielle.

Article 13 – Innovation sûre

En vue de favoriser l’innovation tout en évitant les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit, chaque Partie est appelée à permettre, le cas échéant, la mise en place d’environnements contrôlés pour le développement, l’expérimentation et l’essai de systèmes d’intelligence artificielle sous la surveillance de ses autorités compétentes.

Chapitre IV – Recours

Article 14 – Recours

(1)Chaque Partie adopte ou maintient, dans la mesure où des voies de recours sont requises par ses obligations internationales et conformément à son système juridique interne, des mesures garantissant la disponibilité de voies de recours accessibles et effectives contre les violations des droits de l’homme résultant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

(2)Afin de renforcer la portée du paragraphe 1 ci-dessus, chaque Partie adopte ou maintient des mesures, y compris:

(a)de mesures garantissant que des informations pertinentes concernant les systèmes d’intelligence artificielle susceptibles d’avoir une incidence significative sur les droits de l’homme et leur utilisation pertinente sont documentées, fournies aux organismes autorisés à avoir accès à ces informations et, si nécessaire et applicable, mises à la disposition des personnes concernées ou communiquées à ces dernières;

(b)des mesures garantissant que les informations visées à l’alinéa a sont suffisantes pour permettre aux personnes concernées de contester la ou les décisions prises par le biais de l’utilisation du système ou fondées en grande partie sur celle-ci, et si nécessaire et approprié, de contester l’utilisation du système; et

(c)une possibilité effective donnée aux personnes concernées de former un recours auprès des autorités compétentes.

Article 15 – Garanties procédurales

(1)Chaque Partie veille à ce que, lorsqu’un système d’intelligence artificielle a un impact significatif sur la jouissance des droits de l’homme, les personnes affectées par celui-ci disposent de garanties, de protections et de droits procéduraux effectifs, conformément au droit international et au droit interne applicables.

(2)Chaque Partie cherche à veiller à ce que, en fonction du contexte, les personnes qui interagissent avec des systèmes d’intelligence artificielle soient informées du fait qu’elles interagissent avec de tels systèmes et non avec un humain.

Chapitre V – Évaluation et atténuation des risques et des impacts négatifs

Article 16 – Cadre de gestion des risques et des impacts

(1)Chaque Partie, compte tenu des principes énoncés au chapitre III, adopte ou maintient des mesures afin d’identifier, d’évaluer, de prévenir et d’atténuer les risques posés par les systèmes d’intelligence artificielle en tenant compte des impacts réels et potentiels sur les droits de l’homme, la démocratie et l’État de droit.

(2)Ces mesures sont graduées et différenciées, le cas échéant, et:

(a)tiennent dûment compte du contexte et de l’utilisation prévue des systèmes d’intelligence artificielle, notamment en ce qui concerne les risques pour les droits de l’homme, la démocratie, l’État de droit;

(b)tiennent dûment compte de la gravité et de la probabilité des impacts potentiels;

(c)prennent en compte, le cas échéant, le point de vue des parties prenantes pertinentes, en particulier les personnes dont les droits pourraient être affectés;

(d)s’appliquent de manière itérative tout au long des activités menées dans le cadre du cycle de vie du système d’intelligence artificielle;

(e)comprennent un suivi des risques et des impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit;

(f)comprennent la documentation des risques, des impacts réels et potentiels, et de l’approche de la gestion des risques; et

(g)exigent, le cas échéant, l’essai préalable des systèmes d’intelligence artificielle avant leur mise à disposition pour première utilisation et lorsqu’ils subissent des modifications significatives.

(3)Chaque Partie adopte ou maintient des mesures qui visent à garantir que les impacts négatifs des systèmes d’intelligence artificielle sur les droits de l’homme, la démocratie, l’État de droit sont traités de manière adéquate. Ces impacts négatifs et les mesures prises pour y remédier devraient être documentés et pris en compte pour l’élaboration des mesures de gestion des risques pertinentes décrites au paragraphe 2.

(4)Chaque Partie évalue la nécessité d’un moratoire, d’une interdiction ou d’autres mesures appropriées concernant certaines utilisations des systèmes d’intelligence artificielle lorsqu’elle considère que ces utilisations sont incompatibles avec le respect des droits de l’homme, le fonctionnement de la démocratie ou l’État de droit.

Chapitre VI – Mise en œuvre de la Convention

Article 17 – Non-discrimination

La mise en œuvre des dispositions de la présente Convention par les Parties est assurée sans discrimination fondée sur quelque motif que ce soit, conformément à leurs obligations internationales en matière de droits de l’homme.

Article 18 – Droits des personnes handicapées et des enfants

Chaque Partie tient dûment compte des besoins et des vulnérabilités spécifiques en rapport avec le respect des droits des personnes handicapées et des enfants, conformément à son droit interne et aux obligations internationales applicables.

Article 19 – Consultation publique

Chaque Partie vise à garantir que les questions importantes soulevées par les systèmes d’intelligence artificielle sont, le cas échéant, dûment examinées dans le cadre d’un débat public et de consultations multipartites, à la lumière des incidences sociales, économiques, juridiques, éthiques, environnementales et des autres implications pertinentes.

Article 20 – Maîtrise du numérique et compétences numériques

Chaque Partie encourage et promeut la maîtrise du numérique et les compétences numériques adéquates pour toutes les catégories de la population, notamment les compétences spécifiques de pointe pour les personnes chargées de l’identification, de l’évaluation, de la prévention et de l’atténuation des risques que présentent les systèmes d’intelligence artificielle.

Article 21 – Sauvegarde des droits de l’homme reconnus

Aucune disposition de la présente Convention ne peut être interprétée comme limitant, dérogeant ou affectant d’une quelconque manière les droits de l’homme ou d’autres droits et obligations juridiques connexes qui peuvent être garantis en vertu du droit interne d’une Partie ou de tout autre accord international pertinent auquel elle est partie.

Article 22 – Protection plus étendue

Aucune des dispositions de la présente Convention ne saurait être interprétée comme limitant ou affectant d’une quelconque manière la possibilité pour une Partie d’accorder une protection plus étendue que celle que prévoit la présente Convention.

Chapitre VII – Mécanisme de suivi et coopération

Article 23 – Conférence des Parties

(1)La Conférence des Parties est composée des représentants des Parties à la présente Convention.

(2)Les Parties se concertent périodiquement, afin:

a. de faciliter l’application et la mise en œuvre effectives de la présente Convention, notamment l’identification de tout problème et des effets de toute réserve formulée au titre de l’article 34, paragraphe 1, ou de toute déclaration faite au titre de la présente Convention;

b. d’examiner la possibilité de compléter ou de modifier la présente Convention;

c. d’examiner des questions et de formuler des recommandations particulières relatives à l’interprétation et à l’application de la présente Convention;

d. de faciliter l’échange d’informations sur les évolutions juridiques, politiques ou technologiques significatives qui présentent un intérêt, notamment en vue de la réalisation des objectifs de l’article 25, pour la mise en œuvre de la présente Convention;

e. de faciliter, si nécessaire, le règlement amiable des litiges liés à l’application de la présente Convention; et

f. de faciliter la coopération avec les parties prenantes pertinentes sur les aspects pertinents de la mise en œuvre de la présente Convention, notamment par le biais d’auditions publiques.

(3)La Conférence des Parties est convoquée par le Secrétaire Général du Conseil de l’Europe à chaque fois que nécessaire et, dans tous les cas, lorsque la majorité des Parties ou le Comité des Ministres en demande la convocation.

(4)La Conférence des Parties adopte son propre règlement intérieur par consensus dans un délai de douze mois à compter de l’entrée en vigueur de la présente Convention.

(5)Les Parties sont assistées par le Secrétariat du Conseil de l’Europe dans l’exercice des fonctions qui leur incombent en vertu du présent article.

(6)La Conférence des Parties peut proposer au Comité des Ministres des moyens appropriés pour mobiliser l’expertise pertinente afin de soutenir la mise en œuvre effective de la Convention.

(7)Toute Partie qui n’est pas membre du Conseil de l’Europe contribue au financement des activités de la Conférence des Parties. La contribution d’un non-membre du Conseil de l’Europe est établie de manière conjointe par le Comité des Ministres et ce non-membre du Conseil de l’Europe.

(8)La Conférence des Parties peut décider de restreindre la participation à ses travaux d’une Partie qui a cessé d’être membre du Conseil de l’Europe en vertu de l’article 8 du Statut du Conseil de l’Europe (STE nº 1), en raison d’une violation grave de l’article 3 du Statut. De même, des mesures peuvent être prises à l’égard de toute Partie qui n’est pas un État membre du Conseil de l’Europe et qui est visée par une décision du Comité des Ministres mettant fin à ses relations avec elle pour des motifs analogues à ceux mentionnés à l’article 3 du Statut.

Article 24 – Obligation de rapport

(1)Chaque Partie fournit à la Conférence des Parties, dans un délai de deux ans à compter de la date à laquelle elle devient Partie, puis de manière périodique par la suite, un rapport contenant les détails des activités qu’elle a entreprises pour donner effet à l’article 3, paragraphe 1, alinéas a et b.

(2)La Conférence des Parties détermine le format et le processus pour le rapport en accord avec son règlement intérieur.

Article 25 – Coopération internationale

(1)Les Parties coopèrent à la réalisation de l’objectif de la présente Convention. Les Parties sont en outre encouragées à aider, le cas échéant, les États qui ne sont pas Parties à la présente Convention à agir conformément aux dispositions de la présente Convention et à devenir Parties à celle-ci.

(2)Les Parties échangent entre elles, le cas échéant, des informations pertinentes et utiles sur les aspects liés à l’intelligence artificielle qui peuvent avoir un effet positif ou négatif significatif sur la jouissance des droits de l’homme, le fonctionnement de la démocratie et le respect de l’État de droit, notamment sur les risques et les effets apparus dans le cadre de la recherche et en relation avec le secteur privé. Les Parties sont encouragées à associer, le cas échéant, les parties prenantes pertinentes et les États qui ne sont pas parties à la présente Convention à cet échange d’information.

(3)Les Parties sont encouragées à renforcer la coopération, y compris, le cas échéant, avec les Parties prenantes pertinentes, afin de prévenir et d’atténuer les risques et les impacts négatifs sur les droits de l’homme, la démocratie et l’État de droit dans le contexte des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

Article 26 – Mécanismes de contrôle effectifs

(1)Chaque partie met en place ou désigne un ou plusieurs mécanismes effectifs de contrôle du respect des obligations nées de la présente Convention.

(2)Chaque Partie veille à ce que ces mécanismes exercent leurs fonctions de manière indépendante et impartiale, et à ce qu’ils disposent des compétences, de l’expertise et des ressources nécessaires pour s’acquitter efficacement de leur mission de contrôle du respect des obligations nées de la présente Convention, telles qu’elles ont été mises en œuvre par les Parties.

(3)Lorsqu’une Partie a prévu plus d’un mécanisme de ce type, elle prend des mesures, autant que faire se peut, pour faciliter une coopération efficace entre eux.

(4)Lorsqu’une Partie a prévu des mécanismes différents des structures existantes en matière de droits de l’homme, elle prend des mesures, autant que faire se peut, pour promouvoir une coopération efficace entre les mécanismes visés au paragraphe 1 et les structures nationales existantes en matière de droits de l’homme.

Chapitre VIII: Clauses finales

Article 27 – Effets de la Convention

(1)Si deux ou plusieurs Parties ont déjà conclu un accord ou un traité sur les questions visées par la présente Convention, ou ont établi d’une autre manière leurs relations sur ces questions, elles ont également le droit d’appliquer cet accord ou ce traité, ou de régler ces relations en conséquence, tant qu’elles le font d’une manière qui n’est pas incompatible avec l’objet et le but de la présente Convention.

(2)Les Parties qui sont membres de l’Union européenne appliquent, dans leurs relations mutuelles, les règles de l’Union européenne qui régissent les questions relevant du champ d’application de la présente Convention, sans préjudice de l’objet et du but de la présente Convention et sans préjudice de son entière application à l’égard des autres Parties. Il en va de même pour les autres Parties dans la mesure où elles sont liées par de telles règles.

Article 28 – Amendements

(1)Des amendements à la présente Convention peuvent être proposés par une Partie, par le Comité des Ministres du Conseil de l’Europe ou par la Conférence des Parties.

(2)Toute proposition d’amendement est communiquée par le Secrétaire Général du Conseil de l’Europe aux Parties.

(3)Tout amendement proposé par une Partie ou par le Comité des Ministres est communiqué à la Conférence des Parties, qui soumet au Comité des Ministres son avis sur l’amendement proposé.

(4)Le Comité des Ministres examine l’amendement proposé ainsi que l’avis soumis par la Conférence des Parties et peut approuver l’amendement.

(5)Le texte de tout amendement approuvé par le Comité des Ministres conformément au paragraphe 4 est transmis aux Parties pour acceptation.

(6)Tout amendement approuvé conformément au paragraphe 4 entre en vigueur le trentième jour après que toutes les Parties ont informé le Secrétaire Général qu’elles l’ont accepté.

Article 29 – Règlement des différends

En cas de différend entre elles sur l’interprétation ou l’application de la présente Convention, les Parties s’efforceront de parvenir à un règlement du différend par la négociation ou par tout autre moyen pacifique de leur choix, y compris par le biais de la Conférence des Parties, comme le prévoit l’article 23, paragraphe 2, alinéa e.

Article 30 – Signature et entrée en vigueur

(1)La présente Convention est ouverte à la signature des États membres du Conseil de l’Europe, des États non membres qui ont participé à son élaboration et de l’Union européenne.

(2)La présente Convention est soumise à ratification, acceptation ou approbation. Les instruments de ratification, d’acceptation ou d’approbation sont déposés près le Secrétaire Général du Conseil de l’Europe.

(3)La présente Convention entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date à laquelle cinq signataires, dont au moins trois États membres du Conseil de l’Europe, auront manifesté leur consentement à être liés par la Convention conformément au paragraphe 2.

(4)Pour tout signataire qui exprimera ultérieurement son consentement à être lié par la Convention, celle-ci entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date du dépôt de son instrument de ratification, d’acceptation ou d’approbation.

Article 31 – Adhésion

(1)Après l’entrée en vigueur de la présente Convention, le Comité des Ministres du Conseil de l’Europe pourra, après avoir consulté les Parties à la présente Convention et obtenu leur consentement unanime, inviter tout État non membre du Conseil de l’Europe qui n’a pas participé à l’élaboration de la Convention à y adhérer, par une décision prise à la majorité prévue à l’article 20.d du Statut du Conseil de l’Europe et à l’unanimité des représentants des Parties ayant le droit de siéger au Comité des Ministres.

(2)Pour tout État adhérent, la Convention entrera en vigueur le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de dépôt de l’instrument d’adhésion près le Secrétaire Général du Conseil de l’Europe.

Article 32 – Application territoriale

(1)Tout État ou l’Union européenne peut, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, désigner le ou les territoires auxquels s’appliquera la présente Convention.

(2)Toute Partie peut, à une date ultérieure, par une déclaration adressée au Secrétaire Général du Conseil de l’Europe, étendre l’application de la présente Convention à tout autre territoire désigné dans cette déclaration. La Convention entrera en vigueur à l’égard de ce territoire le premier jour du mois suivant l’expiration d’une période de trois mois après la date de réception de la déclaration par le Secrétaire Général.

(3)Toute déclaration faite en vertu des deux paragraphes précédents pourra être retirée à l’égard de tout territoire désigné dans cette déclaration par notification adressée au Secrétaire Général du Conseil de l’Europe. Ce retrait prendra effet le premier jour du mois suivant l’expiration d’une période de trois mois après la date de réception de la notification par le Secrétaire Général.

Article 33 – Clause fédérale

(1)Un État fédéral peut se réserver le droit d’assumer des obligations en vertu de la présente Convention conformément aux principes fondamentaux régissant les relations entre son gouvernement central et les États constitutifs ou autres entités territoriales similaires, à condition que la Convention s’applique au gouvernement central de l’État fédéral.

(2)En ce qui concerne les dispositions de la présente Convention dont l’application relève de la compétence des États constitutifs ou d’autres entités territoriales similaires, qui ne sont pas tenus par le système constitutionnel de la fédération de prendre des mesures législatives, le gouvernement fédéral informe les autorités compétentes de ces États desdites dispositions avec son avis favorable et les encourage à prendre les mesures appropriées pour leur donner effet.

Article 34 – Réserves

(1)Par une notification écrite adressée au Secrétaire Général du Conseil de l’Europe, tout État peut, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, déclarer qu’il se prévaut de la réserve prévue à l’article 33, paragraphe 1.

(2)Aucune autre réserve ne peut être formulée à l’égard de la présente Convention.

Article 35 – Dénonciation

(1)Toute Partie peut, à tout moment, dénoncer la présente Convention en adressant une notification au Secrétaire Général du Conseil de l’Europe.

(2)La dénonciation prendra effet le premier jour du mois qui suit l’expiration d’une période de trois mois après la date de réception de la notification par le Secrétaire Général.

Article 36 – Notification

Le Secrétaire Général du Conseil de l’Europe notifiera aux États membres du Conseil de l’Europe, aux États non membres qui ont participé à l’élaboration de la présente Convention, à l’Union européenne, à tout signataire, à tout État contractant, à toute Partie, et à tout autre État invité à adhérer à la présente Convention:

(a)toute signature;

(b)le dépôt de tout instrument de ratification, d’acceptation, d’approbation ou d’adhésion;

(c)toute date d’entrée en vigueur de la présente Convention conformément à l’article 30, paragraphes 3 et 4, et à l’article 31, paragraphe 2;

(d)tout amendement adopté conformément à l’article 28 et la date à laquelle cet amendement entre en vigueur;

(e)toute déclaration formulée en vertu de l’article 3, paragraphe 1, alinéa b;

(f)toute réserve et tout retrait de réserve formulés en vertu de l’article 34;

(g)toute dénonciation effectuée conformément aux dispositions de l’article 35;

(h)tout autre acte, déclaration, notification ou communication ayant trait à la présente Convention.

En foi de quoi, les soussignés, dûment autorisés à cet effet, ont signé la présente Convention.

Fait à [lieu], le [jour et mois] 202[4], en français et en anglais, les deux textes faisant également foi, en un seul exemplaire qui sera déposé dans les archives du Conseil de l’Europe. Le Secrétaire Général du Conseil de l’Europe en communiquera copie certifiée conforme à chacun des États membres du Conseil de l’Europe, aux États non membres qui ont participé à l’élaboration de la Convention, à l’Union européenne et à tout État invité à adhérer à la présente Convention