Comité économique et social européen
TEN/679
La révolution numérique du point de vue des besoins et des droits des citoyens
AVIS
Comité économique et social européen
La révolution numérique du point de vue des besoins et des droits des citoyens
[Avis d’initiative]
Rapporteur: Ulrich SAMM
|
Décision de l’Assemblée plénière
|
12/7/2018
|
|
Base juridique
|
Article 29, paragraphe 2, du règlement intérieur
|
|
|
Avis d’initiative
|
|
|
|
|
Compétence
|
Section spécialisée «Transports, énergie, infrastructures et société de l’information»
|
|
Adoption en section spécialisée
|
11/02/2019
|
|
Adoption en session plénière
|
20/02/2019
|
|
Session plénière nº
|
541
|
|
Résultat du vote
(pour/contre/abstentions)
|
129/2/1
|
1.Conclusions et recommandations
1.1La révolution numérique en cours est susceptible de modifier en profondeur la société, l’économie et le monde du travail, et de présenter des avantages à long terme tant pour la croissance économique que pour la qualité de vie; elle affectera tous les secteurs de l’économie, et transformera notre façon de vivre, de travailler et de communiquer. Le CESE a clairement indiqué que ce bouleversement – anthropique – devrait selon lui profiter à tous. Il accueille dès lors favorablement toutes les actions du monde politique et de la société civile qui visent à aider les citoyens européens. Le présent avis aborde essentiellement les besoins et les préoccupations des citoyens, qu’il s’agisse de travailleurs, d’employeurs ou de consommateurs en général, et recense les domaines dans lesquels la participation de la société civile est essentielle. Ce n’est qu’en agissant à un stade précoce sur la transition numérique que celle-ci pourra être réussie.
1.2La progression de la numérisation, s’agissant en particulier de l’introduction de nouveaux produits et services numériques, est parfois très rapide (comme dans le cas des téléphones mobiles et smartphones), mais peut aussi être lente dans certains domaines où le public et la société en général n’acceptent pas la technologie sans se poser de question, notamment lorsque l’autonomie, la responsabilité, la sécurité, la dignité et la vie privée sont en jeu.
1.3La numérisation donne lieu à une multitude de nouvelles perspectives qui offrent aux individus une possibilité inédite de faire des choix pour une vie meilleure. Par ailleurs, plus la numérisation domine notre vie, plus nous pouvons également être manipulés. Cela peut nuire à notre autonomie dans des domaines tels que la conduite automobile, le choix de notre alimentation, la prise en charge de notre santé, le chauffage de notre maison, la consommation de tabac ou d’alcool, la gestion de nos finances et bien d’autres choses encore. Le CESE demande que des règles transparentes soient élaborées, adaptées et appliquées à ces technologies en rapide évolution. Une bonne technologie persuasive doit s’accompagner d’une formation, et non de manipulation, et respecter le principe de la liberté de choix des individus, afin de garantir leur autonomie.
1.4Le CESE a un avis tranché sur la question de savoir dans quelle mesure il est éthiquement acceptable de déléguer la prise de décisions (ayant des implications morales) à des systèmes basés sur l’intelligence artificielle (IA): il y a lieu d’appliquer aux systèmes automatisés, quelle que soit leur complexité, le principe de l’humain aux commandes. C’est l’être humain à lui seul qui prend la décision finale et en assume la responsabilité.
1.5Le développement de la domotique favorise la multiplication des points d’entrée pour les pirates informatiques. Il est nécessaire d’informer les consommateurs de ces risques et de leur apporter un soutien concernant les mesures de sécurité, notamment lorsque les pirates informatiques cherchent à prendre le contrôle de dispositifs intelligents. Le CESE invite l’Union européenne à revoir la réglementation existante en matière de sécurité ainsi qu’à élaborer des règles strictes en la matière et à les adapter aux nouveaux progrès technologiques, afin de protéger les citoyens dans leurs foyers.
1.6Le CESE se félicite de l’approche consistant à améliorer la sécurité routière en introduisant davantage de technologie numérique dans les voitures, mais fait également part de ses inquiétudes concernant la lenteur des progrès en la matière. Pour accélérer la transition vers une conduite plus automatisée, le CESE plaide en faveur d’incitations européennes qui permettraient de faire face aux coûts élevés (nécessité d’acheter des voitures neuves) et à l’acceptation insuffisante des systèmes d’assistance (complexité, manque de formation). Le CESE estime qu’il y a lieu d’élaborer une stratégie européenne en vue d’adapter et de modifier le réseau routier afin que des véhicules entièrement autonomes sûrs à 100 % puissent se populariser.
1.7Le CESE demande une adaptation et une révision complète du règlement général sur la protection des données (RGPD) compte tenu de l’évolution rapide de la technologie numérique. Les nouvelles technologies de reconnaissance faciale, en particulier, constituent une menace pour notre vie privée. La baisse de prix et la démocratisation de cette technologie pourraient entraîner, en fin de compte, une situation dans laquelle il ne sera plus possible de marcher dans la rue ou de faire des achats de manière anonyme. La menace pour la vie privée et l’autonomie est encore plus grande lorsque ces technologies sont utilisées pour le profilage ou la notation des citoyens. Le CESE insiste sur la nécessité de respecter, dans les espaces publics également, le droit des individus à la vie privée. Il invite instamment la Commission à réviser régulièrement le RGPD et les réglementations connexes en fonction de la rapidité avec laquelle ces technologies évoluent.
1.8Le consommateur, qui ne dispose pas de compétences numériques professionnelles, a besoin d’un solide soutien pour pouvoir utiliser des systèmes numériques complexes, qu’il s’agisse d’appareils ménagers ou de plateformes numériques. Les manuels d’utilisation sont parfois très longs et il est fréquent que l’on accorde involontairement l’autorisation d’utiliser certaines données. Le CESE est convaincu que la transparence est insuffisante; dès lors, une simplification et des procédures normalisées dans l’ensemble de l’UE s’imposent pour aider le consommateur.
1.9Les plateformes numériques peuvent aisément pister leurs utilisateurs grâce à des outils simples. Cela signifie que le RGPD ne suffit pas à protéger la vie privée lorsque les données sont détournées délibérément à l’insu des personnes concernées. Le CESE est convaincu que l’on ne peut garantir le respect de la vie privée qu’en limitant davantage l’accès aux données sensibles à un nombre restreint de personnes accréditées. Des mesures de sécurité doivent être élaborées selon les normes les plus strictes et les plus fiables, et assorties de vérifications régulières par des organismes indépendants de l’UE.
1.10Le CESE est préoccupé par la possibilité que les systèmes de surveillance s’appuyant sur la biométrie n’entraînent une erreur de classification et une stigmatisation, en plaçant automatiquement une personne dans une catégorie donnée, par exemple «terroriste», «criminel» ou «non fiable». Les systèmes d’identification automatique qui classent des personnes comme suspectes ne devraient jamais fonctionner sans une étroite interaction humaine et une vérification rigoureuse.
1.11L’on s’attend à ce que la robotique soit utilisée dans le secteur des soins de santé. Pourtant, les robots sont des machines qui ne sont pas en mesure de reproduire la capacité d’empathie et la réciprocité des relations humaines dans le domaine des soins. En l’absence d’un certain encadrement, l’utilisation de robots peut porter atteinte à la dignité humaine. Par conséquent, les robots de soins ne devraient être utilisés que pour des tâches dans lesquelles les émotions, l’intimité ou l’implication personnelle n’entrent pas en ligne de compte.
1.12Le CESE recommande de recourir à des méthodes scientifiques objectives pour optimiser et évaluer l’interaction homme-machine chaque fois que de nouveaux systèmes d’automatisation sont prévus dans l’industrie, le commerce et le secteur des services. Les méthodes scientifiques de l’ergonomie cognitive permettent d’évaluer objectivement la charge mentale d’un individu interagissant avec de nouveaux systèmes d’assistance technique. Elles combinent différentes disciplines de recherche, telles que la psychologie et l’ergonomie, pour évaluer les interfaces utilisateurs. Le Comité est convaincu que la numérisation ne sera une réussite à long terme que si la conception est centrée sur l’humain.
1.13Le CESE plaide en faveur d’une évaluation des différences dans les évolutions régionales et de l’ampleur des éventuelles inégalités sociales et de ses effets possibles sur l’intégrité de l’Union, en raison d’un accès inégal aux nouvelles technologies numériques et d’un déficit de compétences.
2.Introduction
2.1Le CESE a accueilli favorablement, dans le cadre de précédents avis, le programme pour une Europe numérique élaboré par la Commission, qui souligne la volonté de faire de l’Europe un acteur de premier plan dans le domaine de la numérisation et d’accroître sa puissance économique et sa compétitivité sur la scène mondiale, afin de permettre l’avènement d’un marché unique numérique et de donner un tour positif à la transformation numérique pour tous les citoyens de l’Union.
2.2La révolution numérique actuelle a transformé la société et ce sera encore davantage le cas à l’avenir. Ces changements touchent l’économie et le monde du travail, et présentent des avantages à long terme tant pour la croissance économique que la qualité de vie; ils affectent tous les secteurs de l’économie, et modifient notre façon de vivre, de travailler et de communiquer. Le CESE a clairement indiqué que ce bouleversement – anthropique – devrait selon lui profiter à tous. Il accueille dès lors favorablement toutes les actions du monde politique et de la société civile qui visent à aider les citoyens européens. Le présent avis aborde essentiellement les besoins et les préoccupations des citoyens, qu’il s’agisse de travailleurs, d’employeurs ou de consommateurs en général. Il recense les domaines dans lesquels la participation de la société civile est essentielle pour pouvoir agir sur la transition numérique à un stade précoce afin que celle-ci soit réussie.
2.3La progression de la numérisation, s’agissant en particulier de l’introduction de nouveaux produits et services numériques, est parfois très rapide (comme dans le cas des téléphones mobiles et smartphones), mais peut aussi être lente dans certains domaines où le public et la société en général n’acceptent pas la technologie sans se poser de question, notamment lorsque l’autonomie, la responsabilité, la sécurité, la dignité et la vie privée sont en jeu. L’analyse réalisée dans le présent avis repose en partie sur un article de Royakkers et al., publié en 2018 dans la revue Ethics and Information Technology.
2.4Le développement de nouvelles applications numériques progresse souvent grâce aux nombreux passionnés travaillant dans l’industrie, les laboratoires ou les universités, et pas seulement, comme on a tendance à le penser, du fait des géants de l’internet que sont Google, Apple, Facebook, Amazon ou Microsoft. Nombreux sont ceux, dans notre société, qui partagent cet enthousiasme; il existe toutefois aussi une minorité non négligeable de personnes qui se montrent sceptiques ou anxieuses, soit parce qu’elles estiment leur vie privée, leur autonomie ou leur sécurité menacées, soit en raison d’un manque de connaissances, ou tout simplement parce qu’elles ont peur de l’avenir. La transition numérique ne repose pas uniquement sur la technologie. Les besoins et les souhaits des individus et de la société, ainsi que leurs droits, devraient avoir une influence décisive sur les prochaines évolutions technologiques. Pour une transition numérique réussie, associer les citoyens à la conception et aux processus de prise de décision est de toute évidence le défi à relever pour tous, et en particulier pour la société civile. Cela implique également de garantir l’accès à des connexions internet sûres et abordables afin d’éviter toute discrimination et exclusion.
3.La vitesse de la transition numérique
3.1La révolution numérique désigne le passage d’une technologie électronique mécanique et analogique à l’électronique numérique, qui s’est produit entre la fin des années cinquante et la fin des années soixante-dix, et qui a été caractérisé par l’adoption et la généralisation des gros ordinateurs centraux numériques et des ordinateurs personnels Dans les années quatre-vingt, la technologie numérique s’est répandue dans de nombreux domaines. L’utilisation de la tablette et du smartphone est maintenant sur le point de supplanter celle de l’ordinateur personnel.
3.2À partir de 1991, la toile mondiale est devenue accessible au grand public, qui a disposé ainsi d’une nouvelle infrastructure permettant de connecter des appareils numériques et offrant de nouvelles fonctions allant bien au-delà de celles d’un seul dispositif numérique. La combinaison de ces technologies a radicalement transformé notre façon de communiquer, de travailler et de faire des affaires. Les plateformes numériques ont donné naissance à des manières de procéder totalement inédites, dont les intervenants (Airbnb, Uber et Amazon, pour n’en citer que quelques-uns) sont devenus, en l’espace de quelques années, des acteurs économiques majeurs.
3.3Il semble qu’il n’y ait pas de limites à la poursuite de la numérisation. L’utilisation croissante de capteurs intelligents permet de lire et de traiter des données (localisation, mouvement, données environnementales, données biologiques, données chimiques) concernant tout type d’objet (internet des objets). Le nombre de capteurs est pratiquement illimité, de sorte qu’il est théoriquement possible de générer une carte numérique de notre environnement physique dans sa totalité. À l’avenir, l’ultra-haut débit (5G) permettra de réagir aux données des capteurs en temps réel.
3.4D’énormes quantités de données provenant de capteurs et d’activités de plateformes (mégadonnées) seront traitées au moyen de programmes informatiques sur la base de certains algorithmes. Les programmeurs pourront soit définir ces algorithmes avec précision, soit les générer de manière dynamique en utilisant un ensemble de données d’entrée (apprentissage automatique ou intelligence artificielle – IA). Nombreux sont ceux qui attendent de l’IA, en particulier, des avancées technologiques significatives
. La question de savoir dans quelle mesure nous entendons autoriser des machines à faire des choix (ayant des implications morales) revêt une importance cruciale et requiert un contrôle social et politique. L’imposition de restrictions aux systèmes informatiques automatiques dans certains domaines (tels que la technologie financière) fait déjà l’objet d’une forte demande en raison d’une perte de contrôle importante et d’un manque de transparence.
3.5La société se numérise à un rythme très soutenu. Les organismes publics et les entreprises adoptent une multitude de nouvelles approches, comme l’attestent les projets pilotes ou les produits déjà commercialisés. La pénétration sur le marché de ces nouveaux produits peut varier très fortement selon le secteur. Inversement, elle peut être lente dans certains domaines où la technologie n’est pas acceptée sans conteste, comme on le verra dans les paragraphes ci-après.
3.6Un exemple typique d’acceptation limitée de l’internet des objets concerne la domotique ou les systèmes de maison intelligente, qui permettent de contrôler l’éclairage, le chauffage, les appareils de divertissement, les appareils ménagers et bien d’autres choses encore. Les systèmes de contrôle d’accès et d’alarme équipés de caméras de surveillance peuvent télécharger des vidéos. Les systèmes de domotique manquent de normes techniques, ce qui complique le développement d’applications fonctionnant de manière cohérente pour différents objets. Ils peuvent également requérir des compétences pointues et une mise à jour permanente. Une autre difficulté réside dans le fait que la plupart des habitations sont des environnements partagés par des personnes dont les intérêts, les compétences et les aptitudes divergent (par exemple des enfants, des personnes âgées et des invités). Il est beaucoup plus facile de vivre dans une maison intelligente qui gère la vie d’une seule personne.
3.7Les capteurs automobiles intelligents permettent la mobilité connectée et automatisée, en offrant une multitude de nouvelles fonctionnalités pour plus de commodité et de sécurité, et, à terme, grâce à l’automatisation complète, un niveau de sûreté maximal du transport routier
. La technologie de conduite automatique est assez mature mais, pour un certain nombre de raisons, son application à grande échelle ne progresse que lentement. Premièrement, un niveau élevé de conduite assistée n’est possible que dans les voitures neuves, lorsque les capteurs et les unités centrales de calcul font partie intégrante du véhicule. Les coûts pour les particuliers et la société constituent un obstacle à la pénétration du marché. Deuxièmement, la multiplication des systèmes d’assistance peut rendre la conduite d’un véhicule beaucoup plus complexe, et limiter ainsi l’acceptation de ce type de conduite. Troisièmement, l’exigence que les véhicules entièrement autonomes soient sûrs à 100 % représentera un obstacle majeur tant que ces véhicules se partageront la route avec des voitures traditionnelles et d’autres usagers. Les véhicules entièrement automatiques constituent un défi parce qu’ils nécessitent une révision substantielle de la conception du réseau routier.
3.8Google et Facebook utilisent déjà l’IA de manière intensive et avec succès pour «optimiser» l’affichage de l’information et de la publicité. L’AI peut cependant être utilisée – et le sera – dans de nombreux autres domaines, et apportera une aide précieuse pour les activités cognitives, par exemple les professions fondées sur la connaissance. Toutefois, certains de ces domaines pourraient se développer plus lentement que prévu en raison d’un problème fondamental, comme indiqué récemment: «Si l’IA est limitée, ce n’est pas à cause de la technologie (puissance de calcul), mais parce que nous ne comprenons pas exactement, au fond, comment les êtres humains apprennent et pensent». Sortir des sentiers battus et mettre à profit l’expérience de vie restent l’apanage de l’être humain.
3.9Certains pionniers ont brillamment réussi à transformer les services publics en solutions électroniques flexibles. Ainsi, en Estonie, une multitude de services, tels que l’administration en ligne, la fiscalité en ligne, la santé en ligne ou le vote en ligne, sont bien acceptés, largement utilisés et considérés par beaucoup comme une technologie modèle qui devrait être mise en œuvre dans tous les pays de l’UE, de préférence sur la base de normes identiques, afin d’en assurer l’interopérabilité. Ce n’est qu’au moyen d’une stratégie à l’échelle de l’UE et de projets correctement financés que nous pourrons surmonter les obstacles que représentent la grande diversité de régions, d’institutions et de cultures, et l’exigence de subsidiarité par rapport au gouvernement central.
4.Préoccupations et recommandations
4.1En 2017, la Commission européenne a publié une enquête Eurobaromètre
selon laquelle 76 % des personnes utilisant quotidiennement l’internet déclarent que ces technologies ont eu une incidence positive sur leur qualité de vie, contre seulement 38 % des non-utilisateurs. Ce dernier pourcentage peut être dû à un manque de compétences numériques, mais il existe également un nombre important de personnes qui possèdent probablement les compétences requises mais hésitent à franchir le pas car l’utilisation de l’internet suscite chez eux de vives préoccupations. Ce point de vue doit être respecté et pris au sérieux. Les préoccupations concernent en particulier les thèmes abordés ci-après, à savoir l’autonomie, la responsabilité, la sécurité, la dignité humaine, le respect de la vie privée et les conditions de travail.
4.2Autonomie
4.2.1Nous parlons de paternalisme lorsque quelqu’un prétend savoir mieux que les personnes concernées ce qui est bon pour elles. Dans le cas du paternalisme technologique, le paternalisme est «délégué» à la technologie. Le paternalisme peut être convaincant ou contraignant. Une bonne technologie persuasive doit s’accompagner d’une formation, et non de manipulation, et respecter la nécessaire liberté de choix des individus, afin de garantir leur autonomie. La numérisation donne lieu à une multitude de nouvelles perspectives qui offrent aux individus une possibilité inédite de faire des choix pour une vie meilleure. Par ailleurs, plus la numérisation domine notre vie, plus nous pouvons également être manipulés. Cela nuit à notre autonomie dans des domaines tels que la conduite automobile, le choix de notre alimentation, la prise en charge de notre santé, le chauffage de notre maison, la consommation de tabac ou d’alcool, la gestion de nos finances et même, comme on l’a vu récemment, les élections, qui, si elles font l’objet de manipulations, peuvent menacer la démocratie. Le CESE demande que des règles transparentes et, le cas échéant, des mesures juridiques strictes, soient élaborées, adaptées et appliquées à ces technologies en rapide évolution.
4.2.2C’est en Chine que l’on trouve l’exemple le plus frappant de l’utilisation extrême de la technologie numérique pour influencer les individus. Le gouvernement chinois attribue à chacun de ses citoyens une note qui permet de déterminer s’il peut prétendre par exemple à un prêt, à un visa ou à un emploi. Cette politique est en profonde contradiction avec les valeurs et les droits européens (protection des données, respect de la vie privée, protection sociale, durabilité).
4.2.3L’on observe par ailleurs une tendance, chez certaines personnes, à souhaiter de plus en plus un retour à une vie analogique, au moins pendant une partie de leur temps. Il existe des «camps de vacances» pour adultes, où ceux-ci peuvent se déconnecter du réseau le temps d’un week-end; d’autres décident de passer du temps hors ligne – c’est-à-dire sans téléphone à la main – pour se consacrer à leurs enfants, leur famille et leurs amis. L’on constate une demande stable de produits actuellement considérés comme analogiques, bien qu’il en existe une version numérique: livres, musique créée sans ordinateur, disques vinyle, papier, stylos, etc. L’on sait qu’un certain nombre de cadres supérieurs se déclarent de temps en temps en «faillite de courrier électronique». Cela signifie qu’ils suppriment tous les messages de leur boîte de réception, voire clôturent carrément leur compte, pour se remettre du déluge des communications électroniques. Le CESE estime que la transition numérique a également besoin de ces contrepoids afin de réussir et d’être acceptable pour tous, et met en garde contre une trop grande insistance à vouloir remplacer les produits analogiques.
4.3Responsabilité
L’on dit que l’humain est «en dehors de la boucle» en cas d’automatisation complète, lorsque le système prend une décision sans intervention humaine. Citons à titre d’exemple les systèmes de connaissances capables d’établir des diagnostics médicaux sur la base d’une grande quantité d’informations, ou les robots militaires qui décident de la vie ou de la mort à l’aide d’informations issues de sources diverses. La question cruciale et fréquemment posée est celle-ci: dans quelle mesure est-il acceptable, d’un point de vue éthique, de déléguer à des systèmes fondés sur l’AI la prise de décisions (ayant des implications morales)? Le CESE a déjà exprimé clairement son point de vue à ce sujet
: les termes «responsabilité» et «moral» sont exclusivement liés aux êtres humains, certains traits psychologiques ou de personnalité ne pouvant être attribués à des robots. Le principe de l’humain aux commandes doit s’appliquer aux systèmes automatisés, quelle que soit leur complexité. C’est l’être humain à lui seul qui prend la décision finale et en assume la responsabilité.
4.4Sécurité et consommateurs
4.4.1Alors que des gadgets dernier cri rendent nos maisons plus intelligentes, ils les rendent également plus vulnérables. Dans la mesure où un nombre croissant d’appareils sont connectés à l’internet – téléviseurs intelligents, webcams, consoles de jeux, montres intelligentes –, il est essentiel que nous disposions d’un bon plan de défense pour notre réseau domestique. Les montres intelligentes et autres dispositifs portables constituent une extension du smartphone et offrent un accès instantané à de puissantes applications, aux courriels, aux textos et à l’internet. En plus d’extraire des informations précieuses pour les pirates informatiques, elles peuvent également prendre le contrôle des appareils intelligents. Des chercheurs dans le domaine de la sécurité ont montré à quel point il était simple de pirater la poupée Cayla, ou que l’on pourrait même pirater une pompe à insuline ou espionner quelqu’un portant une montre intelligente. Les consommateurs doivent être sensibilisés à ces risques. Le CESE invite l’Union européenne à revoir la réglementation existante ainsi qu’à élaborer des règles strictes en matière de sécurité et à les adapter aux nouveaux progrès technologiques, afin de protéger les citoyens dans leurs foyers.
4.4.2La biométrie (reconnaissance faciale, empreintes digitales, scanner d’iris) est fantastique si le système fonctionne bien. Cependant, lorsque le système identifie à tort des personnes comme suspectes, il est souvent très difficile de corriger les erreurs. La technologie biométrique peut donner lieu à une erreur de classification et à une stigmatisation, en plaçant automatiquement une personne dans une catégorie donnée, par exemple «terroriste», «criminel» ou «non fiable». Cela peut conduire au renversement de la présomption d’innocence. Il apparaît également que la biométrie ne peut pas être utilisée pour tout un chacun. Ainsi, 2 % des empreintes digitales ne peuvent pas être «lues», notamment lorsque la personne est âgée, appartient à certaines professions ou a subi un traitement de chimiothérapie. Les systèmes numériques utilisés par notre société doivent être conçus de manière à ne pas exclure ou discriminer des personnes qui ne répondent pas à certains critères standard. Les systèmes qui classent automatiquement des personnes comme suspectes ne devraient jamais fonctionner sans une étroite interaction humaine et une vérification rigoureuse.
4.4.3La fraude à l’identité est un problème majeur. Elle consiste à obtenir, s’approprier, détenir ou créer de faux identifiants, de manière intentionnelle, pour commettre ou tenter de commettre un acte illicite. Notre société doit prévoir un soutien juridique approprié pour protéger les victimes de ce type d’usurpation d’identité.
4.5Dignité humaine
4.5.1L’utilisation de la robotique dans le secteur des soins de santé est préoccupante. Les robots sont des machines qui ne sont pas en mesure de reproduire la capacité d’empathie et la réciprocité des relations humaines dans le domaine des soins. Par conséquent, les robots de soins ne devraient être utilisés que pour des tâches dans lesquelles les émotions, l’intimité ou l’implication personnelle n’entrent pas en ligne de compte. En l’absence d’un certain encadrement, l’utilisation de robots peut porter atteinte à la dignité humaine.
4.6Respect de la vie privée
4.6.1La reconnaissance faciale compare le profil facial d’une personne avec les entrées d’une base de données pour voir si le visage scanné y figure. Elle est utilisée dans les enquêtes de police ou par les caméras de surveillance dans les espaces publics et son utilisation est régie par la loi. Ces informations extrêmement sensibles doivent être stockées de manière sûre et sécurisée. La reconnaissance faciale finira toutefois par être moins chère et devenir aisément accessible à tous, et pourra être utilisée par les magasins, les entreprises, et même les particuliers. L’on essaie même de recourir à ces techniques pour la reconnaissance des émotions. La crainte est que la technologie de reconnaissance faciale aboutisse à une situation dans laquelle il ne sera plus possible de marcher dans la rue ou de faire des achats anonymement. Le CESE demande que le droit des individus au respect de leur vie privée soit également respecté dans les espaces publics. En règle générale, il y a lieu d’interdire la reconnaissance faciale par des caméras à l’insu des personnes observées.
4.6.2Si le scénario du big brother, dans lequel le gouvernement espionne tout le monde, est déjà bien connu, celui du petit frère, où les particuliers ou les petites entreprises se surveillent mutuellement, devient de plus en plus probable. Par exemple, des lunettes intelligentes peuvent être utilisées pour enregistrer et extraire des données relatives à un interlocuteur ou un visiteur. D’autres gadgets électroniques d’espionnage apparaîtront à mesure que la technologie progressera et que son prix deviendra abordable. Le CESE souligne qu’au-delà du RGPD actuellement en vigueur, des règles claires et strictes sont nécessaires pour protéger la vie privée des citoyens.
4.6.3Avec le développement de la domotique, l’habitation, considérée comme un lieu privé, devient plus transparente. La distinction entre la sphère privée et le monde extérieur s’estompe, étant donné que les murs ne protègent plus des regards indiscrets. Les appareils de divertissement, les systèmes d’alarme avec caméras de surveillance et les systèmes de contrôle central (ordinateurs de bureau, smartphones, assistants vocaux intelligents) fournissent une série de points d’entrée pour les pirates informatiques. Le CESE appelle à une action coordonnée de l’UE pour informer les consommateurs de ces risques et soutenir les mesures de sécurité.
4.6.4Le risque présenté par les systèmes numériques réside dans leur complexité. En particulier le consommateur, qui ne dispose pas de compétences numériques professionnelles, doit être bien accompagné. Par exemple, les manuels d’utilisation des équipements numériques sont parfois très longs. Ils avertissent habituellement l’utilisateur à propos des questions de protection de la vie privée, mais ce dernier donne souvent involontairement l’autorisation d’utiliser certaines de ses données, soit parce qu’il n’est pas capable de comprendre l’ensemble du manuel, soit en raison d’une «lassitude du consentement» due à la fréquence des autorisations qu’il doit donner aux dispositifs collectant des données. Cela pose la question de la responsabilité dans ce processus. Le CESE appelle à une simplification et propose d’introduire des procédures européennes ou un ensemble de règles standard en matière de protection de la vie privée, aisément compréhensibles par tout un chacun.
4.6.5La question de la protection de la vie privée s’applique également aux plateformes numériques. Celles-ci peuvent aisément pister leurs utilisateurs grâce à des outils simples. Ainsi, des employés d’Uber ont utilisé l’outil God View de l’entreprise pour suivre à la trace des responsables politiques, des célébrités et d’autres personnes, une pratique à laquelle il a été mis fin après une action en justice. La technologie continue toutefois de collecter des données de suivi et de connexion. Les CESE est convaincu que le respect de la vie privée ne peut être garanti que par des mesures supplémentaires limitant l’accès aux données sensibles à un nombre restreint de personnes accréditées. De telles mesures de sécurité doivent être élaborées selon les normes les plus strictes et les plus fiables, et assorties de vérifications régulières par des organismes indépendants de l’UE.
4.7Le travail du futur
4.7.1Le travail restera la principale source de revenus à l’ère numérique. L’employabilité, dans l’optique de l’employeur, et la capacité à travailler, du point de vue du salarié, sont les deux faces d’une même médaille dans le cadre de la transformation numérique. La capacité des salariés à s’adapter à de nouvelles tâches équivaut à la possibilité d’adapter le travail, grâce à la technologie numérique, aux différentes demandes de travail. À mesure que la frontière entre «travailler pour gagner de l’argent» et «travailler à des fins privées» deviendra de plus en plus floue, les partenaires sociaux, en particulier, devront faire face à la nécessité de trouver et de définir de nouveaux critères pour mesurer les performances individuelles de manière équitable. L’anticipation de la transformation numérique requiert la participation des travailleurs par l’information, la consultation et la participation. La sécurité sociale, les services publics d’intérêt général et la préservation des moyens de subsistance respectueux de l’environnement restent des conditions préalables essentielles à la future société du travail dans le cadre de la transformation numérique.
4.7.2L’automatisation et la robotisation auront une incidence significative sur l’avenir du travail. Par exemple, les systèmes de transport sans conducteur sont déjà utilisés couramment pour transporter des marchandises dans les entrepôts. Les robots peuvent aussi se substituer aux humains pour les tâches monotones, difficiles ou dangereuses, et les «robots collaboratifs» de la nouvelle génération peuvent devenir pour les travailleurs des partenaires physiques, particulièrement utiles pour les personnes qui souffrent d’un handicap physique. Les robots actuels effectuent principalement du travail manuel, mais les robots utilisant l’IA réaliseront également des tâches intellectuelles. Un grand nombre de professions seront concernées, étant donné que les robots reprennent certaines tâches, voire remplacent totalement des travailleurs humains, comme nous l’avons vu au cours des dernières décennies. L’on estime que l’emploi restera stable dans tous les secteurs industriels jusqu’en 2022. Dans les grandes entreprises, on constate même que la nouvelle répartition du travail entre l’homme et la machine a permis de créer près de deux fois plus d’emplois et de fonctions que ceux qu’elle a supprimés. Le CESE a abordé ces questions dans de nombreux avis
.
4.7.3Un accès inégal aux nouvelles technologies numériques et un déficit de compétences peuvent être à l’origine de différences croissantes au niveau du développement régional , avec un impact sur le développement économique, culturel et, par conséquent, social de ces régions. Le CESE plaide en faveur d’une évaluation de l’ampleur des éventuelles inégalités sociales et de ses effets possibles sur l’intégrité de l’Union.
4.7.4Les travailleurs qui collaborent ou interagissent avec des systèmes automatisés, ou qui travaillent avec une grande quantité d’informations, peuvent être confrontés à certains problèmes. Ils doivent gérer des tâches complexes à forte intensité d’information. La réalité virtuelle, par exemple, est utilisée à des fins de formation et de planification, tandis que la réalité augmentée soutient des projets de maintenance. Le CESE recommande de recourir à des méthodes scientifiques objectives pour optimiser et évaluer l’interaction homme-machine chaque fois que de nouveaux systèmes d’automatisation sont prévus dans l’industrie et le commerce.
4.7.5Les employeurs, quant à eux, sont confrontés au défi que représente la sélection de solutions numériques adaptées parmi l’ensemble des nouvelles technologies. Il est important de mettre au point des systèmes d’assistance technologique adaptés aux activités et aux processus de travail des entreprises. Avant d’introduire de nouvelles technologies, il est également recommandé de déterminer quelle est la compétence technologique des salariés et, le cas échéant, de leur proposer des formations. La participation des travailleurs à l’introduction de nouvelles technologies est également un facteur essentiel.
4.7.6La recherche en ergonomie cognitive est en plein essor dans l’ère du numérique. Les méthodes scientifiques de l’ergonomie cognitive permettent d’évaluer objectivement la charge mentale d’un individu interagissant avec de nouveaux systèmes d’assistance technique. Elle combine différentes disciplines de recherche, telles que la psychologie et l’ergonomie, pour évaluer les interfaces utilisateurs. L’objectif est de parvenir à une conception optimale du lieu de travail et à une situation dans laquelle tant les salariés que les employeurs sont gagnants. Dans une telle situation avantageuse pour tous, les salariés atteignent un niveau optimal de satisfaction au travail, de bien-être et de santé et fournissent à l’entreprise des performances et une productivité optimales à long terme. Le CESE recommande que ces méthodes d’évaluation deviennent la norme, dans l’intérêt des salariés et des entreprises. La transformation numérique devrait faire l’objet d’un suivi dans le cadre d’une recherche globale axée sur le travail, financée par des fonds européens, sur le thème de la «numérisation au service du travail décent». Le CESE est convaincu que seule une conception efficace et adaptée aux salariés des systèmes de l’Industrie 4.0 assurera la réussite de la numérisation à long terme.
Bruxelles, le 20 février 2019
Luca JAHIER
Président du Comité économique et social européen
_____________