Rapporteure:

Sandra PARTHIE

Conseillère	Vera DEMARY (pour la rapporteure)
Consultations	a) Commission européenne, 11.12.2023 b) Présidence hongroise du Conseil de l’Union européenne, 14.3.2024
Base juridique	a) et b): article 304 du traité sur le fonctionnement de l’Union européenne
Compétence	Section «Marché unique, production et consommation»
Adoption en section	1.10.2024
Adoption en session plénière	23.10.2024
Session plénière n°	591
Résultat du vote (pour/contre/abstentions)	186/2/2

1.   Conclusions et recommandations

1.1.

Pour être compétitive dans le domaine de l’intelligence artificielle (IA) à usage général, l’Europe doit investir dans une connectivité sécurisée ainsi que dans une infrastructure dorsale et une chaîne d’approvisionnement résilientes afin de s’assurer que les effets de l’IA générative puissent être exploités par les acteurs européens, soient conformes aux valeurs de l’Union et répondent à ses besoins.

1.2.

Le Comité économique et social européen (CESE) attire l’attention sur le fait que l’IA est un sujet très dynamique et que la législation qui la concerne devra être mise à jour d’une manière tout aussi flexible et dynamique pour atteindre son objectif de création d’un écosystème digne de confiance et respectueux des valeurs et des droits fondamentaux de l’UE. Bien qu’ils soient hautement techniques et principalement pertinents dans le contexte interentreprises (B2B), les modèles d’IA à usage général ont une incidence indirecte sur les travailleurs et les consommateurs. Pour dissiper les craintes et sensibiliser davantage, le CESE conseille d’organiser des dialogues avec les parties prenantes, y compris les partenaires sociaux, concernant les codes de pratique sur les lieux de travail et les droits des travailleurs dans le contexte de l’IA à usage général.

1.3.

Pour lutter contre une concentration du marché, dominé par de grandes entreprises numériques dont le siège est souvent situé hors d’Europe, le CESE estime qu’il est essentiel de mobiliser les instruments de la politique de concurrence (évaluation des abus potentiels de position dominante par une entreprise, contrôle des concentrations) pour prévenir, identifier et traiter les comportements et les situations critiques. Des investissements européens et nationaux coordonnés dans l’innovation sont nécessaires pour contribuer à développer, en Europe, les chaînes de valeur et la création de valeur dans le domaine de l’IA.

1.4.

Les codes volontaires de bonnes pratiques prévus en ce qui concerne la législation sur l’IA permettront aux entreprises de se conformer plus facilement à la réglementation. Le CESE espère qu’ils fourniront aux utilisateurs, aux développeurs et aux autres parties prenantes de l’IA des lignes directrices, des bonnes pratiques pour l’application du règlement, des modèles, des informations sur les seuils et les normes, ainsi que des listes de contrôle faciles à utiliser.

1.5.

Le Bureau de l’IA jouera un rôle crucial dans la mise en œuvre et l’application des dispositions de la législation sur l’IA, notamment en fournissant des orientations, en établissant des codes de conduite, en favorisant la coopération internationale dans le domaine de l’IA, en promouvant les normes européennes et en faisant appliquer la réglementation de l’UE par les entreprises européennes et non européennes actives sur son territoire. Il devra, ainsi que les autorités nationales, disposer des ressources nécessaires pour contrôler, évaluer et faire respecter les dispositions de la loi, en veillant au respect des règles et à la protection des droits des consommateurs.

1.6.

Le CESE est conscient des préoccupations exprimées actuellement par différentes catégories de créateurs de contenus quant à l’utilisation de l’IA générative. Il est de la plus haute importance de veiller à ce que l’IA soit développée dans le respect des règles en matière de brevetabilité, de droit d’auteur et de propriété intellectuelle.

1.7.

L’IA peut accroître l’efficacité énergétique et l’utilisation efficace des ressources en améliorant les processus et en fournissant des solutions qui permettent de recourir à des essais virtuels, à des jumeaux numériques et à d’autres options pour réduire l’utilisation de matériaux. Les systèmes et modèles d’IA et leur développement ont également une incidence sur l’environnement et l’utilisation de l’énergie, qu’il convient de mesurer avec précision et de prendre en considération.

2.   Observations générales

2.1.

Après l’entrée en vigueur de la législation sur l’intelligence artificielle IA, l’accent est désormais mis sur la mise en œuvre du règlement en ce qui concerne l’IA à usage général et sur le développement, en Europe, d’une IA concurrentielle. L’IA est un sujet très dynamique et la législation qui la concerne devra être constamment mise à jour pour atteindre son objectif de création d’un écosystème digne de confiance et respectueux des valeurs et des droits fondamentaux de l’UE.

2.2.

La législation sur l’IA est très complète et le présent avis se concentre sur les aspects essentiels de l’IA à usage général, qui est entraînée à l’aide de données à caractère non personnel et est appliquée dans un contexte de partage de données entre entreprises (B2B) ou entre entreprises et administrations publiques (B2G), par exemple au moyen des appareils de l’internet des objets. L’avis abordera le rôle des fournisseurs et des déployeurs, ainsi que les questions relatives à l’innovation, aux investissements tout au long de la chaîne de valeur de l’IA, à la promotion des cas d’utilisation, à l’accès aux données et au futur système de gouvernance lié à l’IA à usage général.

2.3.

Selon la législation sur l’intelligence artificielle, l’IA à usage général fait référence à un modèle d’IA «qui présente une généralité significative et est capable d’exécuter de manière compétente un large éventail de tâches distinctes, indépendamment de la manière dont le modèle est mis sur le marché, et qui peut être intégré dans une variété de systèmes ou d’applications en aval» (1). Les systèmes d’IA à usage général peuvent donc accomplir de nombreuses tâches, y compris des tâches pour lesquelles ils n’ont pas été entraînés à l’origine. Cette définition de l’IA à usage général inclut, en tant que terme générique, les modèles de fondation et les grands modèles de langage, faisant de l’IA générative un type de modèle de fondation et, partant, également de système d’IA à usage général.

2.4.

La législation sur l’IA traite largement des risques liés au développement et à l’utilisation de l’IA à usage général et vise à mettre en œuvre un cadre pour une gestion sûre de cette technologie. Dans ce contexte, le CESE soutient la mise en œuvre du «pacte sur l’IA» par la Commission et souligne que tous les enseignements qui en seront tirés, par exemple par des précurseurs dans l’adoption de l’IA, sont susceptibles d’être bénéfiques pour les micro, petites et moyennes entreprises (MPME) et devraient donc être présentés dans un format qui les rendra facilement accessibles à ce groupe.

2.5.

Le CESE déplore que la législation sur l’IA ne tienne pas compte du risque associé au non-développement et à la non-utilisation de l’IA à usage général, qui se traduiraient principalement par un fléchissement de la compétitivité des entreprises européennes susceptible d’entraîner une baisse des ventes, ainsi que des pertes d’emplois, une stagnation économique et une hausse de la pauvreté. Même si le CESE souscrit à la nécessité de réglementer l’IA et est conscient des risques que présente son développement et son utilisation, il demande également que les effets de la législation qui la concerne fassent l’objet d’un suivi attentif et que des ajustements soient envisagés si le règlement s’avère avoir une incidence négative sur la capacité d’innovation des entreprises européennes axées sur l’IA. Cela pourrait notamment se produire si les entreprises ont des doutes quant à la manière dont le règlement leur est applicable, si elles l’appliquent mal ou si elles décident, d’une manière générale, que le règlement est trop complexe pour que le marché européen vaille la peine d’y investir et d’y innover.

2.6.

Le CESE est conscient du fait que des acteurs échappant à la juridiction de l’UE sont à l’origine d’évolutions substantielles de l’IA à usage général. Néanmoins, les valeurs européennes (notamment la durabilité, les droits sociaux et le respect des droits de l’homme et de l’environnement), la protection des données et la transparence doivent être des critères essentiels pour tous les développeurs et les fournisseurs ainsi que pour les utilisateurs de l’IA, en particulier dans les applications à haut risque. Dans les autres cas, les utilisateurs et les consommateurs devraient être informés de la technologie employée. En outre, les acteurs non européens qui sont actifs sur le marché européen ou utilisent des données européennes doivent respecter ces exigences.

3.   Observations particulières

3.1.    Gouvernance

3.1.1.

Les codes de bonnes pratiques prévus en ce qui concerne l’IA à usage général et la législation sur l’IA permettront aux entreprises de se conformer plus facilement à la réglementation. Le CESE espère qu’ils fourniront aux utilisateurs, aux développeurs et aux autres parties prenantes de l’IA des lignes directrices, des bonnes pratiques pour l’application du règlement, des modèles, des informations sur les seuils et les normes, ainsi que des listes de contrôle faciles à utiliser. La qualité des modèles fournis par le Bureau européen de l’IA déterminera celle des informations que les fournisseurs d’IA à usage général devront mettre à disposition.

3.1.2.

Le CESE recommande vivement d’organiser des dialogues avec les parties prenantes, y compris les partenaires sociaux, concernant les codes de pratique sur les lieux de travail, car ils permettront aux fournisseurs et aux utilisateurs de se conformer plus facilement à la réglementation et contribueront à renforcer la confiance dans l’IA, y compris l’IA à usage général. Le Comité souligne que le respect des droits du travail et des exigences en matière de sécurité sur le lieu de travail doit toujours être garanti, notamment en veillant à ce que les travailleurs maîtrisent l’IA et l’utilisent de manière responsable. À cet égard, il préconise de dispenser une formation adéquate, d’accroître l’habileté numérique générale et de sensibiliser le public (2).

3.1.3.

Le Bureau de l’IA jouera un rôle crucial dans la mise en œuvre et l’application des dispositions de la législation sur l’IA, notamment en fournissant des orientations, en établissant des codes de conduite, en favorisant la coopération internationale dans le domaine de l’IA, en promouvant les normes européennes et en faisant appliquer la réglementation de l’UE par les entreprises européennes et non européennes actives sur son territoire. Le CESE souligne que le Bureau européen de l’IA doit être en mesure d’évaluer les procédures d’entraînement des modèles et d’offrir la possibilité d’un audit indépendant. Il devrait mettre en place des mécanismes de traitement des plaintes efficaces pour les citoyens et les utilisateurs en ce qui concerne l’IA à usage général et coordonner les enquêtes transfrontières.

3.1.4.

Les normes applicables aux systèmes d’IA, régissant par exemple leur robustesse et leur fiabilité dans le domaine médical ou dans le recrutement, sont essentielles pour le développement de modèles et de cas d’utilisation de l’IA. Le CESE estime que l’établissement et l’application rapides de normes pour l’évaluation des systèmes d’IA à finalité générale présentent un intérêt mondial et que ces normes devraient être harmonisées au moins au niveau de l’UE, mais de préférence à l’échelle internationale.

3.1.5.

Pour que la législation sur l’IA produise les résultats escomptés à moyen terme, il est essentiel d’évaluer en permanence ses effets sur l’intelligence artificielle à usage général dans l’UE. Contrairement à la position privilégiée par les États-Unis, la vision européenne, soutenue par le CESE, comprend l’interdiction des formes les plus invasives de la technologie, ainsi que des règles strictes imposant aux géants du domaine de l’IA d’être plus ouverts sur la manière dont ils conçoivent leurs produits fondés sur cette technologie.

3.1.6.

Le CESE est conscient des préoccupations exprimées actuellement par différentes catégories de créateurs de contenus quant à l’utilisation de l’IA générative. Il est de la plus haute importance de veiller à ce que l’IA soit développée dans le respect des règles en matière de brevetabilité, de droit d’auteur et de propriété intellectuelle. Les créateurs (par exemple, d’œuvres littéraires ou artistiques) devraient conserver la possibilité d’accorder ou de refuser l’autorisation d’utiliser leur œuvre, y compris par des modèles d’IA à usage général.

3.1.7.

Le CESE invite le Bureau de l’IA à aider les parties prenantes à comprendre les autres cadres internationaux en matière d’IA (comme par exemple celui développé par l’OCDE (3)) et autres réglementations dans ce domaine, telles que celles en vigueur en Chine et aux États-Unis, et à cerner comment ils interagissent avec la législation européenne sur l’IA, notamment en ce qui concerne des questions telles que l’opposition entre les modèles «ouverts» et ceux «fondés sur des licences». Le Bureau de l’IA devrait également coopérer avec d’autres autorités de l’UE et des États membres chargées de l’accès des entreprises aux données, afin de les rendre plus accessibles, en particulier pour les MPME. Le CESE invite également la Commission, le Service européen pour l’action extérieure (SEAE) et les États membres à adopter une «approche multipartite» en ce qui concerne les efforts visant à créer un mécanisme mondial de gouvernance de l’IA, tels que le décret présidentiel sur l’IA aux États-Unis (4) et les mesures prises par le gouvernement chinois pour la gestion de l’IA à usage général (5). Cette approche pourrait également impliquer la tenue régulière de dialogues politiques internationaux et inclusifs sur la gouvernance de l’IA afin d’éviter une fragmentation géographique.

3.1.8.

Le CESE invite la Commission européenne et les autorités nationales compétentes à prévoir un financement suffisant pour mettre en œuvre efficacement la législation sur l’IA et à coopérer étroitement avec le Bureau de l’IA afin qu’il puisse mener à bien les objectifs fixés. Sans cela, ce dernier ne sera pas en mesure d’attirer et de conserver les talents et les experts en IA nécessaires à l’accomplissement des tâches susmentionnées.

3.1.9.

L’UE a récemment adopté le règlement sur les données afin d’améliorer le partage des données et l’accès à celles-ci. Sa stratégie pour les données et le règlement sur la gouvernance des données vont dans le même sens. Ces règlements doivent maintenant être mis en œuvre et mis en pratique. Leur incidence doit être surveillée et évaluée avec soin avant d’envisager toute nouvelle tentative réglementaire visant à favoriser l’accès aux données.

3.1.10.

La législation sur l’IA prévoit la mise en place de bacs à sable réglementaires au niveau national, ce qui offre aux nouveaux arrivants un espace d’expérimentation. De l’avis du CESE, il est essentiel de rationaliser les efforts et les objectifs en lien avec ces bacs à sable et de s’assurer que les États membres et les participants échangent les enseignements tirés à cet égard.

3.2.    Innovation et investissement

3.2.1.

La législation sur l’IA vise à promouvoir un écosystème de l’IA sûr et fiable. Il importe que sa mise en œuvre n’entrave pas les innovations dans le domaine de l’IA, car celles-ci peuvent profiter aux utilisateurs et aux consommateurs grâce à des produits et services plus avancés et plus efficaces utilisés dans des secteurs tels que la santé et l’énergie durable.

3.2.2.

L’avenir de l’IA à usage général en Europe repose sur la puissance de calcul, les puces électroniques, la capacité en nuage et les données, autant d’éléments qui nécessitent des investissements considérables dans des installations terrestres et énergétiques et des équipements de centres de données. Les investissements, de même que les autres mesures d’incitation mises en place à cette fin, devraient se concentrer sur une connectivité sécurisée et une infrastructure dorsale résiliente, ces deux éléments étant essentiels si l’Europe veut devenir souveraine sur le plan numérique. Le CESE attire tout particulièrement l’attention sur l’IMEC, le principal pôle indépendant de recherche et de développement en nanoélectronique dans le monde, situé en Belgique et considéré comme un centre d’excellence européen et un élément clé de la chaîne de valeur de l’IA qui devrait être développé davantage et dont il convient de s’inspirer.

3.2.2.1.

Les hébergeurs en nuage disposent d’un pouvoir sans précédent s’agissant de surveiller, détecter et étouffer les concurrents. Dans le contexte actuel, les petits fournisseurs européens ne peuvent qu’affiner les modèles américains pour les personnaliser ou en faire des systèmes spécifiques à certains domaines qui nécessitent moins de puissance de calcul, de données et de main-d’œuvre. Cette réalité maintient les développeurs et les déployeurs en aval dans une dépendance par rapport aux plus grands fournisseurs de modèles en amont. Les fournisseurs européens de services d’informatique en nuage peuvent faire partie d’une solution qui répond aux exigences en matière de respect des valeurs européennes et aux impératifs de sécurité, et devraient être soutenus, par exemple en utilisant leurs services dans le cadre de projets de marchés publics de l’UE.

3.2.3.

Le marché des puces d’IA capables de gérer des modèles au cours de leur phase d’entraînement et de traiter les requêtes des utilisateurs est fortement concentré et dominé par un très petit nombre d’entreprises, notamment taïwanaises et américaines. Un investissement d’une valeur estimée entre 5 000 et 7 000 milliards de dollars est nécessaire pour créer des capacités souveraines équivalentes pour la production de puces dans l’UE. La mise en place de partenariats stratégiques avec plusieurs alliés fiables dans ce domaine pourrait offrir une autre solution viable et moins coûteuse.

3.2.4.

L’IA générative aura notamment une incidence sur les industries pharmaceutique, manufacturière, automobile, aérospatiale, médicale, électronique et énergétique, ainsi que sur les secteurs des médias, de la défense et des services, en ce qu’elle permettra de renforcer les processus essentiels grâce à des modèles d’IA. Elle changera la donne en matière de marketing, de conception, de communication d’entreprise, de formation et d’ingénierie logicielle en renforçant les processus de soutien mis en œuvre dans de nombreuses organisations.

3.3.    Promotion de cas d’utilisation

3.3.1.

L’IA à usage général permettra, dans une large mesure, de remplacer l’humain pour des activités cognitives et des travaux intelligents grâce à une automatisation soutenue par l’IA. Les entreprises, indépendamment de leur taille, ont besoin d’expertise technique et de soutien pour s’adapter au nouvel environnement de l’IA, le déployer utilement et se conformer au cadre réglementaire pertinent, susceptible d’évoluer rapidement. De même, il y a lieu de tenir compte des effets que cette transition pourrait avoir sur le marché du travail et les travailleurs en adaptant les programmes d’enseignement et d’études, en procédant à la reconversion et au perfectionnement professionnels des travailleurs et en soutenant ceux qui sont moins à même de s’adapter à l’évolution de ces processus.

3.3.2.

Le CESE estime qu’à l’avenir, de nouveaux matériaux, médicaments et services seront systématiquement découverts à l’aide de techniques d’IA générative, laquelle peut réduire les coûts et le temps nécessaire à la découverte de nouveaux traitements, et permettre de créer des produits optimisés pour répondre à des objectifs et à des contraintes spécifiques, en accélérant le processus de conception. L’Europe doit être à l’avant-garde de ces évolutions pour pouvoir en bénéficier. L’UE possède déjà plusieurs centres de calcul intensif. Le CESE invite la Commission à s’assurer que les capacités disponibles soient suffisantes pour permettre la mise en œuvre de tels projets en Europe, et à sensibiliser les parties prenantes à ces capacités qui leur sont accessibles ainsi qu’aux possibilités de collaboration entre les universités et l’industrie.

3.3.3.

Pour améliorer l’accès aux systèmes d’IA à usage général et leur utilisation, il est essentiel de pouvoir les expliquer. Assurer la transparence pourrait contribuer, par exemple, à rendre l’automatisation plus efficace, à faciliter la prise de décision, à prévenir les erreurs dans les tâches répétitives, à détecter plus rapidement les erreurs dans les processus et à accroître la productivité. Les gains en matière d’efficacité énergétique et d’utilisation efficace des ressources obtenus grâce à de meilleurs processus et solutions permettant de recourir à des essais virtuels, à des jumeaux numériques et à d’autres options de réduction de l’utilisation de matériaux doivent être mis en balance avec l’incidence des systèmes d’IA à usage général sur l’environnement et l’utilisation de l’énergie.

3.3.4.

Le CESE est conscient des préoccupations exprimées actuellement par différentes catégories de créateurs de contenus quant à l’utilisation de technologies de l’IA générative. Le cadre de l’UE en matière de droit d’auteur prévoit des règles essentielles pour protéger les créateurs de contenus lorsque leur œuvre est utilisée par des développeurs d’IA. Les exceptions en matière d’exploration de textes et de données introduites par la directive (UE) 2019/790 (6) fournissent un cadre pertinent pour l’utilisation de contenus protégés aux fins de l’entraînement de l’IA. En particulier, l’exception prévue à l’article 4 s’applique à condition que les droits sur les contenus utilisés pour l’exploration de textes et de données n’aient pas été expressément réservés par les titulaires des droits. Ces derniers peuvent tirer parti de ce mécanisme d’opposition pour négocier des licences commerciales avec les développeurs d’IA pour l’utilisation de leurs contenus. Le CESE invite la Commission et le futur Bureau de l’IA à veiller à ce que tous les développeurs et utilisateurs d’applications fondées sur l’IA à usage général respectent les règles.

3.4.    Compétitivité de l’UE en matière d’IA

3.4.1.

Le CESE invite la Commission à promouvoir la concurrence dans le domaine de l’IA en veillant à la cohérence avec la législation de l’UE sur les marchés numériques pour l’adapter à la structure de la chaîne de valeur de l’IA, ainsi qu’en fournissant un cadre favorable à la recherche, au développement et au déploiement des modèles européens d’IA, tout en veillant à ce que les valeurs européennes servent de principes directeurs.

3.4.2.

Pour lutter contre une concentration du marché, dominé par de grandes entreprises numériques dont le siège est souvent situé hors d’Europe, le CESE estime qu’il est essentiel de mobiliser les instruments de la politique de concurrence (évaluation des abus potentiels de position dominante par une entreprise, contrôle des concentrations) pour prévenir, identifier et traiter les comportements et les situations critiques. Des investissements européens et nationaux coordonnés dans l’innovation sont nécessaires pour contribuer à développer, en Europe, les chaînes de valeur et la création de valeur dans le domaine de l’IA.

3.4.3.

Les autorités de concurrence de l’UE doivent tirer parti de leurs capacités et veiller à ce que les sociétés «hyper-échelle» n’abusent pas de leur position sur le marché dans des contextes B2B ou B2G. Ces autorités compétentes ont besoin d’urgence d’un personnel qualifié pour assurer le suivi de l’application des politiques de l’UE, telles que le règlement sur les marchés numériques. Il y a lieu de mettre en œuvre et d’étendre à d’autres parties prenantes les accords tels que ceux conclus entre l’UE et les États-Unis sur la collaboration dans le domaine des semi-conducteurs en vue d’assurer la transparence des subventions et de mettre en place un système d’alerte précoce en cas de perturbation.

3.4.4.

Il importe d’aider les entreprises et les MPME européennes à accéder aux ressources nécessaires au développement de modèles d’IA, tels que les installations de recherche, les capacités de calcul, les données et la main-d’œuvre qualifiée, afin qu’elles soient en mesure d’être non seulement des utilisateurs, mais aussi des développeurs de solutions d’IA, et de concevoir des modèles d’IA à usage général fondés sur leurs propres besoins et produits. L’accès aux capacités de calcul intensif doit être complet, étant donné que la disponibilité à long terme de la puissance de calcul est requise pour entraîner les modèles.

3.4.5.

Une fois les solutions européennes développées, l’UE devrait s’efforcer de les promouvoir et de les diffuser par le biais de forums comme le G7, le G20 et d’autres enceintes internationales et organismes de normalisation.

3.4.6.

Bien que la législation sur l’IA aborde en détail la réglementation de l’IA à usage général, les données statistiques concernant le statu quo sur ces modèles en Europe, leur développement et leur incidence sont rares. Pour remédier à cette lacune, le sujet devrait être abordé dans l’enquête d’Eurostat sur les technologies de l’information et de la communication (TIC). Les données collectées pourraient alors très bien être utilisées pour assurer l’évaluation constante susmentionnée de la législation sur l’IA.

---

(1)  Article 3, paragraphe 63.

(2)  Voir également les avis existants et à venir du CESE consacrés spécifiquement à l’utilisation de l’IA sur le lieu de travail et à l’utilisation de l’IA pour parvenir à des sociétés plus égalitaires et inclusives.

(3)   https://legalinstruments.oecd.org/fr/instruments/OECD-LEGAL-0449.

(4)   www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/.

(5)  Mesures provisoires pour la gestion des services d’intelligence artificielle générative.

(6)  Directive (UE) 2019/790 du Parlement européen et du Conseil du 17 avril 2019 sur le droit d'auteur et les droits voisins dans le marché unique numérique et modifiant les directives 96/9/CE et 2001/29/CE (Texte présentant de l'intérêt pour l'EEE.) ( JO L 130 du 17.5.2019, p. 92).