6.12.2018   

FR

Journal officiel de l'Union européenne

C 440/51


Avis du Comité économique et social européen sur la «Communication de la Commission au Parlement européen, au Conseil européen, au Conseil, au Comité économique et social européen et au Comité des régions — L’intelligence artificielle pour l’Europe»

[COM(2018) 237 final]

(2018/C 440/08)

Rapporteur:

Giuseppe GUERINI

Corapporteur:

Gonçalo LOBO XAVIER

Saisine

Commission européenne, 12.7.2018

Base juridique

Article 304 du traité sur le fonctionnement de l’Union européenne

Compétence

Section spécialisée «Marché unique, production et consommation»

Adoption en section spécialisée

4.9.2018

Adoption en session plénière

19.9.2018

Session plénière no

537

Résultat du vote

(pour/contre/abstentions)

199/1/2

1.   Conclusions et recommandations

1.1.

Le Comité économique et social européen (CESE) estime que l’intelligence artificielle («IA») et l’automatisation recèlent un énorme potentiel d’amélioration de la société européenne en matière d’innovation et de transformation positive, mais qu’elles suscitent également des enjeux, des risques et des préoccupations. Il est dès lors essentiel que les institutions européennes s’attèlent rapidement à prendre des mesures exhaustives pour développer et réglementer pleinement l’IA.

1.2.

Une approche avancée de l’IA en Europe doit couvrir plusieurs domaines, dont: i) les investissements publics et privés dans la R & D et les infrastructures numériques de pointe; ii) la mise en œuvre de nouvelles règles législatives ou l’adaptation des règles en vigueur; iii) la sensibilisation et le développement de connaissances adéquates parmi les citoyens et les consommateurs; et iv) des programmes de formation spécifiques pour les travailleurs.

1.3.

Il conviendrait en particulier de cerner les enjeux de responsabilité liés à l’apparition des nouvelles technologies numériques et de les traiter au niveau international ainsi qu’à l’échelon de l’Union et de ses États membres; le CESE souhaite collaborer étroitement avec les institutions européennes dans le cadre de l’analyse et de l’évaluation de toute la législation de l’Union européenne portant sur la responsabilité des producteurs, la sécurité des produits et la responsabilité civile, qu’il convient de modifier en conséquence.

1.4.

Le CESE souscrit à l’objectif de la communication de la Commission, à savoir, renforcer les capacités industrielles et technologiques de l’Union européenne en vue de diffuser l’IA dans l’ensemble du marché intérieur. Les efforts requis pour suivre le rythme des autres acteurs mondiaux sont tellement importants qu’une coordination entre tous les instruments et fonds disponibles aux niveaux européen et national est éminemment nécessaire.

Cela dit, les valeurs et principes de l’Union européenne ne doivent pas être sacrifiés sur l’autel de la compétitivité mondiale.

1.5.

S’agissant de l’objectif de la Commission de mettre l’IA «à la portée de toutes les petites entreprises et de tous les utilisateurs potentiels», le CESE estime que pour relever le défi de la compétitivité mondiale, il est indispensable que l’IA soit accessible au plus grand nombre possible d’acteurs. Il est donc essentiel de la mettre à la disposition de toutes les formes différentes d’entreprises actives dans le marché unique européen, y compris les petites et moyennes entreprises (PME), les agriculteurs, les entreprises sociales, les coopératives, les entreprises individuelles et les associations de consommateurs.

1.6.

La Commission européenne et les États membres devraient travailler de concert à élaborer des lignes directrices sur l’éthique de l’intelligence artificielle, en associant à cet effort toutes les parties prenantes concernées des secteurs public et privé. Ces lignes directrices devront inclure des principes de transparence applicables à l’utilisation des systèmes d’IA pour recruter du personnel et évaluer ou piloter leurs performances. Outre les principes éthiques, le CESE suggère la mise au point, à l’échelle européenne, d’un cadre juridique clair, harmonisé et contraignant afin de réglementer correctement l’IA et d’actualiser la réglementation existante touchée par l’IA, notamment celle relative à la responsabilité des producteurs et à la protection des consommateurs. Le CESE souhaite collaborer étroitement avec les institutions européennes dans le cadre de l’analyse et de l’évaluation de la législation pertinente de l’Union européenne, qui devra être modifiée à l’avenir en raison de l’évolution de l’IA.

1.6.1.

La Commission européenne devra également procéder à une analyse minutieuse des effets de l’IA sur le marché du travail. Cette analyse devra tenir compte à la fois du remplacement éventuel de certains travailleurs par des dispositifs électroniques ou des robots, et du fait que certaines fonctions, sans être complètement déléguées à l’automatisation, seront modifiées en profondeur par les nouvelles technologies.

1.7.

Pour cette raison, le CESE recommande que la volonté affichée de «ne laisser personne sur la touche» ne demeure pas un vœu pieux mais se traduise en actions concrètes.

1.8.

Il est important de souligner le rôle des programmes de formation pour ce qui est de protéger les travailleurs européens œuvrant dans un environnement qui est en train d’être profondément modifié par l’émergence progressive de l’IA. Les citoyens européens doivent avoir accès à des informations appropriées leur permettant d’être des utilisateurs responsables et informés des dispositifs et des applications rendus disponibles par une évolution technologique rapide.

1.9.

Dans les cas où les nouveaux dispositifs permettront à l’administration publique de se servir de la technologie pour prendre des décisions organisationnelles et faire des choix plus rapidement, il sera nécessaire de s’attaquer au problème de la responsabilité juridique effective de ces décisions dans un cadre juridique clair, qui garantisse la pleine responsabilité de l’administration face aux citoyens.

1.10.

Une attention particulière devrait aussi être accordée au rôle de la société civile et des organisations de l’économie sociale s’agissant de favoriser la participation active des personnes aux processus économiques et sociaux qui, grâce à l’intelligence artificielle, permettront d’accroître la dimension participative de notre société. Les organisations de la société civile et les entreprises sociales peuvent jouer un rôle important pour favoriser la compréhension et l’acceptation des technologies par les personnes, notamment par des mécanismes de collaboration permettant aux personnes de participer à la transformation numérique en cours.

1.11.

La révolution technologique actuelle ne peut et ne doit pas avoir lieu sans une intégration substantielle et active des travailleurs, des consommateurs et des organisations sociales, et les développements technologiques en cours doivent être orientés de manière à garantir une participation plus large et plus responsable de citoyens pleinement informés. C’est pourquoi le CESE recommande que, lors de la mise sur pied de l’Alliance européenne pour l’IA, la Commission européenne prenne en considération la nécessité de créer une plateforme inclusive, pluridisciplinaire et représentative pour les différentes parties prenantes qui représentent les citoyens européens, y compris les représentants des travailleurs, qui devront interagir avec des machines intelligentes (1).

2.   Observations générales

2.1.

Les dispositifs numériques et les machines auto-adaptatives à grande échelle augmentent chaque jour la capacité des algorithmes à travailler sur des volumes considérables de données, cette capacité étant susceptible de croître encore à l’avenir, en raison de ce que l’on appelle les «réseaux neuronaux» (déjà utilisés, par exemple, par les smartphones pour la reconnaissance visuelle d’objets, de visages et d’images).

2.2.

Ces évolutions sont en train de transformer le mode traditionnel d’«apprentissage» utilisé jusqu’à présent par les machines à IA, dans la mesure où celles-ci ne se limitent plus à apprendre uniquement en extrayant des règles à partir de données, mais développent une capacité d’apprentissage souple et adaptative. Ce processus renforcera la capacité de l’IA à apprendre et exécuter des actions dans le monde réel.

2.3.

Face à l’évolution technologique extrêmement rapide qui est en cours, il est désormais crucial que la Commission européenne et les États membres coopèrent pour réaliser une analyse détaillée des nouveaux défis liés au développement rapide de l’IA, en y associant toutes les parties prenantes concernées des secteurs public et privé, sans compromettre les perspectives de progrès et de développement technologique.

2.4.

La communication de la Commission COM(2018) 237 final se propose de renforcer la capacité industrielle et technologique de l’Union européenne et d’encourager le déploiement de l’IA dans l’ensemble de l’économie européenne, tant dans le secteur privé que dans l’administration publique. Comme il l’a déjà souligné dans un avis d’initiative (2), le CESE soutient l’initiative de la Commission européenne, qui, dans sa communication, a repris à son compte bon nombre de suggestions formulées en son temps par le Comité lui-même, mais exhorte la Commission à agir avec rapidité et résolution.

2.5.

L’adoption d’une approche européenne efficace en matière d’IA suppose de promouvoir d’importants investissements dans la recherche et l’innovation, y compris les infrastructures numériques, afin de se préparer aux défis socio-économiques de taille que les nouvelles technologies engendreront ces prochaines années dans la société et les marchés européens.

2.6.

La Commission européenne et les États membres devraient travailler de concert à élaborer des lignes directrices sur l’éthique de l’intelligence artificielle et associer toutes les parties prenantes concernées des secteurs public et privé à cet effort.

2.7.

Dans le même temps, il est nécessaire d’adopter un cadre juridique harmonisé à l’échelle de l’Union, conforme à la charte des droits fondamentaux de l’Union européenne et aux principes inscrits dans les traités de l’Union européenne. Ce nouveau cadre réglementaire devrait comporter des règles précises permettant de faire face aux risques liés à l’apprentissage automatique, tels que le manque de transparence du marché, l’absence de concurrence, la discrimination, les pratiques commerciales déloyales, les menaces pour la cybersécurité et la sécurité des produits.

En particulier, les protections réglementaires devraient être contraignantes lorsque les données qui alimentent les systèmes d’intelligence artificielle sont extraites automatiquement lors de l’utilisation de dispositifs électroniques et informatiques.

2.8.

Le CESE observe que le document de travail des services de la Commission SWD (2018) 137 final joint à la communication de la Commission analyse soigneusement les conséquences de l’IA pour la législation de l’Union et dresse l’inventaire des enjeux de responsabilité liés à l’apparition des nouvelles technologies numériques.

2.9.

Il conviendra en outre de déployer de vastes plans d’action qui, d’une part, étayent la modernisation des systèmes d’éducation et de formation en cultivant les nouvelles compétences professionnelles requises par le futur modèle de marché du travail et, d’autre part, garantissent aux citoyens et aux travailleurs un niveau élevé de protection face aux défis attendus (3).

2.10.

Le CESE encourage la Commission à procéder rapidement au moyen d’actions supplémentaires, aussi bien sur le plan de la réglementation que sur celui de la promotion des investissements, car la vitesse de l’évolution en cours impose une adaptation rapide.

3.   La proposition de la Commission: un soutien européen et des investissements en faveur de l’intelligence artificielle

3.1.

Dans sa communication, la Commission annonce qu’elle appuiera l’expansion de l’IA, tant en ce qui concerne la recherche fondamentale que les applications industrielles. À cet égard, le CESE souligne l’importance d’associer à ce processus tous les types d’acteurs, y compris les PME, les sociétés de services, les entreprises de l’économie sociale, les agriculteurs, les coopératives, les associations de consommateurs et les associations représentant les personnes âgées.

3.2.

S’agissant de l’objectif de la Commission de mettre l’IA «à la portée de toutes les petites entreprises et de tous les utilisateurs potentiels», le CESE estime que pour relever le défi de la compétitivité mondiale, il est indispensable que l’IA soit accessible au plus grand nombre possible d’acteurs. Pour atteindre cet objectif, au-delà de ce qui est déjà prévu par la Commission pour le développement d’une «plateforme d’intelligence artificielle sur demande», il importe également de mettre en place des formes appropriées de participation et de consultation des parties prenantes, y compris les PME, les réseaux de l’économie sociale et les organisations de la société civile (celles-ci ayant pour rôle essentiel d’associer de manière consciente et active les citoyens européens).

3.3.

La Commission a annoncé qu’elle soutiendra l’innovation fondée sur l’intelligence artificielle grâce à un projet pilote lancé par le Conseil européen de l’innovation, dont le budget s’élève à 2,7 milliards d’EUR pour la période 2018-2020.

3.4.

Le CESE estime que cette initiative peut être utile au développement de l’IA, mais souligne dans le même temps que le financement de la recherche devrait passer rapidement du stade de l’expérimentation à la phase structurelle. Il est également important que la Commission encourage les différents centres de recherche répartis aujourd’hui dans les différents États à développer un réseau collaboratif d’envergure européenne consacré à l’intelligence artificielle.

3.5.

Le CESE note que la Commission entend accroître les investissements dans l’IA au titre du programme Horizon 2020 pour les porter à environ 1,5 milliard d’EUR d’ici la fin de 2020. Cette approche, si elle est adoptée rapidement dans le cadre des partenariats public-privé existants, pourrait générer 2,5 milliards d’EUR d’investissements supplémentaires d’ici deux ans. Il y a lieu de privilégier la même approche à l’égard du futur programme-cadre Horizon Europe.

3.6.

D’un autre point de vue, il est positif que la Commission européenne et le Fonds européen pour les investissements stratégiques — qui devraient jouer un rôle moteur de soutien au développement de l’IA dans l’Union européenne — aient lancé le programme Venture EU, un fonds de capital-risque doté de 2,1 milliards d’EUR pour stimuler l’investissement dans les entreprises innovantes dans toute l’Europe.

3.7.

Toutefois, l’effort requis pour suivre le rythme des autres acteurs mondiaux est tellement important qu’une coordination et une synergie entre tous les instruments et fonds disponibles aux niveaux européen et national sont éminemment nécessaires. Il est évident que pour concurrencer les investissements de la Chine et des États-Unis dans le domaine de l’IA, il y a lieu de rassembler les forces de tous les acteurs publics et privés agissant au niveau européen, de façon à garantir à l’Union européenne un rôle de premier plan à l’échelle mondiale.

3.8.

Afin de permettre à l’Union européenne d’être un acteur compétitif en matière d’IA, il sera également important de réaliser des investissements adéquats dans des infrastructures numériques et des logiciels et matériels informatiques appropriés afin de garantir la crédibilité de l’Union.

3.9.

Les investissements dans l’IA doivent tenir compte du fait que les entreprises européennes sont particulièrement fortes dans les domaines de l’automatisation et de la robotique. Ces secteurs, qui font partie de l’IA au sens large, pourraient donc s’avérer réellement essentiels pour conférer à l’Union européenne un rôle important sur la scène mondiale en ce qui concerne le développement technologique en cours, et ils méritent dès lors une attention particulière.

4.   L’intelligence artificielle et ses effets sur les personnes et sur les travailleurs

4.1.

Il est incontestable que l’évolution de l’IA est très rapide. De ce fait, l’évaluation d’impact relative à toute mesure de réglementation conçue par les institutions européennes en matière d’intelligence artificielle doit adopter une approche multidisciplinaire qui tienne compte non seulement des aspects administratifs, juridiques et économiques, mais aussi de considérations anthropologiques, psychologiques, sociologiques et technologiques.

4.2.

Pour soutenir ces innovations, mais surtout pour les orienter en veillant à ce que l’être humain reste au centre du processus, il importe que l’Union européenne agisse pour parvenir à une compétitivité technologique de haut niveau, sans pour autant négliger les incontournables aspects éthiques, sociaux et humains de la problématique.

4.3.

Le CESE juge donc primordial: i) de protéger la vie privée des personnes et le traitement responsable de leurs données au moyen d’instruments réglementaires adéquats, notamment une mise en œuvre efficace du règlement général sur la protection des données, qui, le cas échéant, devra être actualisé en permanence afin de rester en phase avec l’évolution rapide de l’IA; ii) que d’importants instruments de la législation applicable de l’Union soient évalués et, le cas échéant, adaptés aux nouveaux scénarios résultant de l’IA; et iii) de créer et de développer les compétences et les aptitudes nécessaires pour permettre aux citoyens, aux administrations et aux entreprises européennes de tirer parti de façon efficace des avantages qu’offre l’intelligence artificielle.

4.4.

Comme point de départ de l’analyse à effectuer, il est utile de noter que l’IA s’appuie sur l’utilisation et le traitement de grandes quantités de données, qui sont à la base de toute application fondée sur les nouvelles technologies. Dans ce contexte, le principal défi à relever par le régulateur européen consiste à établir un accès transparent et réglementé aux données des utilisateurs finaux.

4.5.

Plus la qualité des données traitées est élevée, plus l’exactitude et les performances des systèmes d’IA le seront également. Toutefois, il ne faut pas oublier que les données relatives à des personnes doivent être acquises de façon légale et être utilisées selon des modalités connues des parties directement concernées, afin de garantir l’utilisation des données personnelles aux fins préétablies et transparentes pour lesquelles l’utilisateur a marqué préalablement son accord, en bonne et due forme et en connaissance de cause.

4.6.

Il y a lieu de relever que plusieurs pans importants de la législation européenne — par exemple ceux qui portent sur la publicité en ligne, les pratiques commerciales déloyales, la sécurité et la responsabilité des produits, les droits des consommateurs, les clauses contractuelles abusives, la vente et les garanties, les assurances et l’indication des prix — pourraient devoir être modifiés et dûment adaptés aux nouveaux scénarios suscités par une utilisation plus large et plus sophistiquée de l’intelligence artificielle afin de protéger le consommateur final.

4.7.

La question décisive de la sécurité et de la responsabilité des produits a bien été prise en compte par la Commission dans son document de travail SWD(2018) 137 final, dans la mesure où celui-ci contient un certain nombre d’études de cas et propose une liste d’actes législatifs de l’Union européenne méritant une analyse et une évaluation plus approfondies. Le CESE encourage vivement la Commission à poursuivre ses efforts et est disposé à y contribuer.

4.8.

Il importe de souligner le rôle de la formation culturelle, scolaire et universitaire, d’une part, et d’une information générale adéquate du grand public, d’autre part, pour protéger les droits des citoyens européens face à la progression de l’IA. En particulier, il est essentiel de veiller à la gestion transparente et correcte des algorithmes de l’IA et des bases de données qu’ils utilisent.

4.9.

Il est donc essentiel que les citoyens européens reçoivent une formation adéquate ainsi que des informations simples et compréhensibles, leur permettant d’être des utilisateurs responsables et bien informés des dispositifs et mis à leur disposition grâce au rapide développement technologique en cours, qui se répand de plus en plus à tous les niveaux.

4.10.

À la lumière de toutes ces exigences, l’Union européenne et ses États membres doivent apporter des solutions claires et efficaces, notamment en promouvant un système éducatif moderne et en assurant une diffusion sans cesse plus vaste de la formation permanente sur le marché du travail et dans la société civile.

4.11.

La Commission européenne devra procéder à une analyse minutieuse des effets de l’IA sur le marché du travail. Il s’agit là en effet de l’une des plus grandes préoccupations de nombreux travailleurs européens actifs depuis longtemps tout en étant encore loin de l’âge de la retraite, qui considèrent l’évolution en cours avec méfiance et crainte. Cette analyse devra tenir compte à la fois du remplacement éventuel de certains travailleurs par des dispositifs électroniques ou des robots, et du fait que certaines fonctions, sans être complètement déléguées à l’automatisation, seront modifiées en profondeur par les nouvelles technologies. Il convient donc de concentrer l’évaluation et l’analyse normative non seulement sur l’inévitable modification des lignes de production, à laquelle on peut s’attendre, mais aussi sur la refonte des processus organisationnels et des objectifs d’entreprise sur la base d’un véritable dialogue social avec les travailleurs.

4.12.

Dans certains contextes, comme ce fut (et c’est) le cas pour nombre d’autres technologies, il sera souhaitable de tester l’IA par paliers et approximations successives avant d’aboutir à une utilisation à plein régime, afin de permettre aux personnes concernées de se sentir en sécurité avec les nouvelles technologies — y compris par des parcours de formation idoines — et de corriger d’éventuelles erreurs d’adaptation en cours de processus (4).

4.13.

L’introduction des nouvelles technologies dans les entreprises requiert un dialogue social entre les différentes parties concernées. À cet égard, les organisations de travailleurs et les syndicats devront être constamment informés et consultés.

5.   Intelligence artificielle, administrations publiques et société civile

5.1.

L’IA est une innovation technologique et sociale capable de transformer radicalement la société dans son ensemble, et de modifier également de manière positive le secteur public et la relation entre les citoyens et les pouvoirs publics. Les possibilités offertes par l’intelligence artificielle concernent tant les gains éventuels d’efficacité sur le plan de l’organisation administrative que la satisfaction des citoyens par rapport aux services rendus par les administrations publiques et au bon exercice de la fonction publique.

5.2.

Pour atteindre ces objectifs, il est essentiel que le personnel des administrations publiques soit lui aussi préparé à faire face aux changements et aux défis induits par l’IA dans la société européenne. Les fonctionnaires publics et les cadres administratifs — ainsi que les enseignants, les formateurs et le personnel universitaire évoqués plus haut — devront être en mesure de pleinement comprendre le phénomène de l’IA pour décider quels nouveaux moyens intégrer dans les procédures administratives.

5.3.

L’introduction de l’IA dans le secteur public et privé impose de concevoir des procédés qui favorisent la compréhension et l’acceptation des technologies par l’utilisateur au moyen de mécanismes de coopération qui permettent au citoyen de contribuer, si possible à l’aide de systèmes de gouvernance participative, au développement des technologies basées sur l’IA.

5.4.

Pour obtenir des résultats significatifs à cet égard, il pourrait être utile de développer et de consolider des formes de plus en plus fiables de coopération et de partenariat entre les secteurs public et privé, qui auraient pour fonction d’exploiter les possibilités découlant des applications technologiques, de l’intelligence artificielle et de la robotique.

5.5.

Le défi pour les pouvoirs publics est particulièrement difficile sur le plan de la légalité et de la légitimité, étant donné qu’il faudra parvenir à un équilibre adéquat entre les intérêts publics (impliquant l’exercice de pouvoirs publics) et les intérêts individuels (expression concrète de la liberté personnelle de chacun). À cet égard, par exemple, dans le cadre de l’utilisation de l’IA par l’administration publique, il faudra concilier, d’une part, le principe de transparence et de publicité des actes administratifs et, d’autre part, la protection des données à caractère personnel et le droit à la vie privée de l’individu dans un cadre réglementaire clair et prévisible.

5.6.

Dans les cas où les nouveaux dispositifs permettront aux administrations publiques de se servir de la technologie pour prendre des décisions organisationnelles et faire des choix plus rapidement (par exemple, sélection du contractant dans les marchés publics, gestion de listes d’attente pour des services spécifiques ou recrutement de personnel dans l’administration publique), il sera nécessaire de s’attaquer au problème de la responsabilité juridique effective de ces décisions dans un cadre juridique clair, qui garantisse la pleine responsabilité de l’administration face aux citoyens.

5.7.

Les organisations de la société civile et les entreprises sociales ont un rôle important à jouer pour favoriser la compréhension et l’acceptation des technologies, notamment par des mécanismes de collaboration permettant d’associer les individus aux processus de transformation numérique. À cet égard, il importe de mettre en place des systèmes de gouvernance participative, par exemple sous forme coopérative, de ces instruments, à commencer par les plateformes numériques qui sont déjà en train de structurer les nouvelles formes de relation économique de gestion du travail.

5.8.

Les autorités administratives chargées des mécanismes de surveillance du marché doivent posséder l’expertise et les compétences nécessaire à la protection de la concurrence loyale, des droits des consommateurs, ainsi que de la sécurité et des droits des travailleurs. Les audits algorithmiques devraient être confiés à des organismes publics ou indépendants. Dans le même temps, les entreprises devraient mettre en place des mécanismes efficaces pour surveiller l’utilisation des données par l’IA.

Bruxelles, le 19 septembre 2018.

Le président du Comité économique et social européen

Luca JAHIER


(1)  Voir l’avis INT/845 adopté par le CESE «L’intelligence artificielle: anticiper ses impacts sur le travail pour assurer une transition équitable» (avis d’initiative), rapporteure: Mme Salis-Madinier (voir page 1 du présent Journal officiel).

(2)  Avis INT/806 du 31 mai 2017, «L’intelligence artificielle — Les retombées de l’intelligence artificielle pour le marché unique (numérique), la production, la consommation, l’emploi et la société» (JO C 288 du 31.8.2017, p. 1).

(3)  Le CESE a adopté son avis SOC/578 sur la «Gestion des transitions dans un monde du travail numérisé» (JO C 367 du 10.10.2018, p. 15).

(4)  Voir l’avis INT/845 adopté par le CESE «L’intelligence artificielle: anticiper ses impacts sur le travail pour assurer une transition équitable» (avis d’initiative), rapporteure: Mme Salis-Madinier (voir page 1 du présent Journal officiel).