Résumé de l’avis du contrôleur européen de la protection des données sur la recommandation de décision du Conseil autorisant l’ouverture de négociations au nom de l’Union européenne en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit

(2022/C 458/04)

(Le texte complet de l'avis en anglais, français et allemand est disponible sur le site Internet du CEPD https://edps.europa.eu)

Le 18 août 2022, la Commission européenne a publié une recommandation de décision du Conseil autorisant l’ouverture de négociations au nom de l’Union européenne en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle (IA), les droits de l’homme, la démocratie et l’état de droit (ci-après «la convention»), en application de l’article 218 du traité sur le fonctionnement de l’Union européenne.

Compte tenu de la nature transfrontalière de l’intelligence artificielle, le CEPD se félicite de l’objectif général, poursuivi par le Conseil de l’Europe, d’élaborer le premier instrument international juridiquement contraignant sur l’intelligence artificielle, reposant sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’état de droit. Il soutient à ce titre l’ouverture de négociations au nom de l’Union européenne en vue de cette convention, et salue le rôle de l’UE dans la promotion d’une intelligence artificielle digne de confiance et conforme aux valeurs de l’Union.

Le CEPD relève que l’objet de cette convention sera réglementé dans l’Union européenne par la proposition de législation sur l’IA et prend acte par ailleurs de l’objectif de la Commission de s’assurer de la compatibilité de la convention avec la proposition de législation sur l’IA, en intégrant les évolutions futures du processus législatif. Il considère néanmoins que la convention représente une importante occasion de compléter la proposition de législation sur l’IA en renforçant la protection des droits fondamentaux des personnes concernées par l’utilisation de systèmes d’IA; il préconise ainsi que la convention confère à celles-ci des garanties à la fois fermes et explicites.

Compte tenu de ce qui précède, le CEPD énonce quatre recommandations principales relatives aux directives de négociation:

—

les objectifs généraux qui président à la négociation de la convention devraient accorder davantage d’importance au respect des garanties et des droits conférés aux individus et aux groupes d’individus soumis à l’utilisation de systèmes d’IA, conformément aux priorités et aux objectifs premiers du Conseil de l’Europe;

—	il conviendrait de faire figurer dans une directive spécifique de négociation une référence explicite à la conformité de la convention avec le cadre juridique européen existant en matière de protection des données personnelles;

—	pour satisfaire à l’approche fondée sur le risque, il conviendrait d’introduire un objectif visant à imposer une mesure d’interdiction aux systèmes d’IA qui présentent des risques inacceptables;

—	la convention devrait promouvoir l’adoption d’une approche de protection des données dès la conception et par défaut, à chaque étape du cycle de vie des systèmes d’IA.

En outre, le présent avis présente des recommandations supplémentaires relatives à l’inclusion dans la convention tant de garanties minimales concernant la procédure que d’exigences minimales de transparence, d’information et de signalement, sur les mécanismes de conformité et de contrôle et sur la coopération transfrontalière entre les autorités compétentes, qui seront désignées par les parties à la convention, pour assurer la surveillance des garanties et des droits conférés en application de la convention.

1. INTRODUCTION

Le 18 août 2022, la Commission européenne a publié une recommandation de décision du Conseil autorisant l’ouverture de négociations au nom de l’Union européenne en vue d’une convention du Conseil de l’Europe sur l’intelligence artificielle (IA), les droits de l’homme, la démocratie et l’état de droit (1), en application de l’article 218 du traité sur le fonctionnement de l’Union européenne (ci-après «la recommandation»).

L’objectif de la recommandation est d’autoriser l’ouverture de négociations au nom de l’Union européenne en vue de l’élaboration d’une convention du Conseil de l’Europe sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’état de droit (ci-après «la convention»). Cette recommandation vise également à adopter des directives de négociation et à nommer la Commission négociateur de l’Union (2).

Dans l’exposé des motifs (3), la Commission souligne que les négociations relatives à la convention portent sur des questions relevant de la compétence exclusive de l’Union, notamment en raison du fait que l’avant-projet de convention diffusé par le Comité sur l’intelligence artificielle (CAI) du Conseil de l’Europe, d’une part, et la proposition de législation sur l’IA publiée par la Commission (4) (ci-après «la proposition de législation sur l’IA»), d’autre part, se recoupent largement à la fois dans leur champ d’application et dans leur contenu (5).

L’exposé des motifs (6) de la recommandation souligne que l’avant-projet propose d’inclure les dispositions suivantes:

—	l’objet et le champ d’application de la convention (ou convention-cadre);

—	la définition des termes «système d’IA», «cycle de vie», «fournisseur», «utilisateur» et «sujet d’IA»;

—	certains principes fondamentaux, dont des droits et garanties procéduraux pour les sujets d’IA qui s’appliqueraient à tous les systèmes d’IA, quel que soit leur niveau de risque;

—	des mesures supplémentaires pour le secteur public ainsi que pour les systèmes d’IA qui présentent les niveaux de risque «inacceptable» et «élevé», déterminés par une méthode d’évaluation des risques et de l’impact (à définir ultérieurement dans une annexe à la convention);

—	un mécanisme de suivi et de coopération entre les parties;

—	des dispositions finales, dont la possibilité pour les États membres de l’UE d’appliquer le droit de l’Union dans le cadre de leurs relations mutuelles pour les matières relevant de la convention, et la possibilité pour l’Union d’adhérer à la convention.

Les considérants 6 et 7 de la recommandation soulignent que la conclusion de la convention envisagée est susceptible d’affecter les règles, existantes et prévisibles, de l’Union. Dans le but de préserver l’intégrité du droit de l’Union et de garantir sa cohérence avec les règles du droit international, il convient d’autoriser la Commission à négocier la convention au nom de l’Union.

Le présent avis du CEPD est émis en réponse à une demande de consultation présentée par la Commission le 18 août 2022, conformément à l’article 42, paragraphe 1, du RPDUE (7). Le CEPD se félicite de la référence faite à cette consultation au considérant 8 de la recommandation.

8. CONCLUSIONS

49.

À la lumière des considérations qui précèdent, le CEPD émet les recommandations suivantes:

(1)	accorder davantage d’importance à l’objectif de «garantir un niveau élevé de protection des droits de l’homme et de préservation des valeurs européennes», conformément aux priorités et aux objectifs premiers du Conseil de l’Europe.

(2)

supprimer, aux points 5) et 11) de la directive de négociation, les mots «y compris» après l’expression «compatible avec le droit du marché unique de l’UE et d’autres domaines du droit de l’Union», afin de mieux refléter l’interaction entre, d’une part, les principes généraux et les droits fondamentaux et, d’autre part, le droit dérivé de l’UE (à savoir le droit du marché unique de l’UE et autres domaines du droit).

(3)

ajouter une directive de négociation destinée à rappeler la nécessité de trouver un juste équilibre entre les objectifs d’intérêt public et l’intérêt des individus visés par des système d’IA, et à garantir aux intéressés le plein et entier respect de leurs droits au respect de la vie privée et à la protection des données personnelles, ainsi que d’autres droits fondamentaux tels que le droit à la présomption d’innocence, le droit à un procès équitable, le droit à une bonne administration et le principe de non-discrimination.

(4)	préciser, dans une directive de négociation, qu’il entre dans le champ de la convention d’apporter certaines garanties procédurales élémentaires en faveur des personnes concernées par l’utilisation de systèmes d’IA.

(5)	préciser, dans une directive de négociation, qu’il entre dans le champ de la convention de prévoir des garanties élémentaires en termes de transparence, d’information et de signalement des systèmes d’IA.

(6)	préciser, au point 14) de la directive de négociation, que les risques sociétaux posés par les systèmes d’IA, qui pèsent sur des groupes de personnes ou sur la société dans son ensemble, soient également évalués et atténués.

(7)	intégrer dans les directives de négociation une disposition précisant que certains systèmes d’IA présentent des risques inacceptables et doivent être interdits, ainsi qu’une liste de ces systèmes d’IA.

(8)	intégrer une directive de négociation aux termes de laquelle il entre dans le champ de la convention de promouvoir l’adoption d’une approche de protection des données dès la conception et par défaut, à chaque étape du cycle de vie des systèmes gérés par l’IA.

(9)

préciser le contenu du point 17) de la directive de négociation comme suit:

—	adapter la procédure d’évaluation de la conformité de manière à ce qu’une évaluation ex ante de la conformité par un tiers soit généralement effectuée pour l’IA à haut risque;

—	soumettre les systèmes d’IA à haut risque à une nouvelle procédure d’évaluation de la conformité à chaque fois que des évolutions majeures interviennent;

—	préciser l’objet et les effets juridiques des certifications;

—	préciser que ces normes techniques peuvent conduire à favoriser l’harmonisation des produits et des services et qu’elles visent à apporter des spécifications techniques au regard des règles déjà établies par la loi.

(10)	intégrer une directive de négociation aux termes de laquelle il entre dans le champ de la convention de prévoir que les autorités de contrôle compétentes devront se voir conférer des pouvoirs d’enquête et d’exécution adaptés.

(11)	ajouter une directive de négociation visant à garantir que la convention facilite et encourage la coopération transfrontalière entre les autorités compétentes.

Bruxelles, le 13 octobre 2022.

Wojciech Rafał WIEWIÓROWSKI

(1) COM(2022) 414 final

(2) COM(2022) 414 final, p. 3.

(3) COM(2022) 414 final, p. 5.

(4) Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union, COM(2021) 206 final.

(5) Voir également le considérant 5 de la recommandation.

(6) COM(2022) 414 final, p. 2 et 3.

(7) Règlement (UE) 2018/1725 du Parlement européen et du Conseil du 23 octobre 2018 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel par les institutions, organes et organismes de l’Union et à la libre circulation de ces données, et abrogeant le règlement (CE) no 45/2001 et la décision no 1247/2002/CE (JO L 295 du 21.11.2018, p. 39).