Dictamen del Comité Europeo de las Regiones – Libro Blanco sobre la inteligencia artificial – Un enfoque europeo orientado a la excelencia y la confianza

(2020/C 440/14)

Ponente: Guido RINK (NL/PSE), miembro de la Junta de Gobierno Local de Emmen Documento de referencia: Libro Blanco sobre la inteligencia artificial — Un enfoque europeo orientado a la excelencia y la confianza COM(2020) 65 final

RECOMENDACIONES POLÍTICAS

El Comité Europeo de las Regiones

OBSERVACIONES GENERALES

1.

toma nota de que el 19 de febrero de 2020, la Comisión Europea (en lo sucesivo, «Comisión») publicó su estrategia digital para el período 2020-2025. En su Libro Blanco sobre la inteligencia artificial (IA), la Comisión presenta su visión de las principales acciones e inversiones necesarias en materia de IA. Según la Comisión, Europa puede asumir el liderazgo mundial en este ámbito;

2.

recuerda que el Libro Blanco sobre la IA va acompañado de las Comunicaciones «Configurar el futuro digital de Europa (1)» y «Una Estrategia Europea de Datos (2);

3.

señala que la Comisión tiene la intención de adoptar un enfoque del desarrollo y el uso de la IA basado en el factor humano, ético y seguro, y que respete los valores a los que la UE desea asociarse;

4.

recuerda que el Libro Blanco sobre la IA incluye dos elementos principales: el fomento del desarrollo y el uso de la IA, así como el marco regulador orientado a los principios éticos y la confianza;

5.

acoge favorablemente el «Libro Blanco sobre la inteligencia artificial — Un enfoque europeo orientado a la excelencia y la confianza». Reconoce la importancia de un debate sobre la IA desde la perspectiva de la elaboración de la estrategia de la Comisión en este ámbito. No obstante, el Comité Europeo de las Regiones (CDR) habría preferido que el Libro Blanco hiciera asimismo hincapié en la función de los entes regionales y locales como agentes privilegiados, productores, usuarios y promotores de la innovación en el desarrollo de la IA;

6.

en este contexto, se remite a su Dictamen «Inteligencia artificial para Europa» aprobado en el pleno de los días 6 y 7 de febrero de 2019 (3);

7.

señala que la IA ya forma parte de nuestras vidas y desempeñará un papel cada vez más importante en la transformación de nuestras sociedades. Presenta un gran potencial para la sociedad, las empresas y los ciudadanos europeos. La innovación en materia de IA contribuye no solo a la economía, sino también al cumplimiento de las misiones sociales y medioambientales;

8.

considera que la aplicación de la IA es importante a nivel nacional, pero también, y sobre todo, a escala regional y local. En particular, los entes locales y regionales pueden contribuir a fomentar los ecosistemas de IA en sus territorios, pero también a incentivar y realizar inversiones en IA;

9.

subraya que la IA es un ámbito político complejo que no está aislado, sino que afecta a bastantes otras políticas en las que interviene la Comisión;

10.

observa que el Libro Blanco sobre la IA y las políticas que de él se derivan deben considerarse junto con las dos Comunicaciones que lo acompañan, tituladas respectivamente «Configurar el futuro digital de Europa» y «Una Estrategia Europea de Datos». Por otra parte, el Libro Blanco se inscribe en la perspectiva de varios ámbitos de acción de la Comisión, como la nueva Agenda de Capacidades para Europa (4) y la Recomendación relativa a un conjunto de instrumentos comunes de la Unión para la utilización de la tecnología y los datos a fin de combatir y superar la crisis de la COVID-19, en particular por lo que respecta a las aplicaciones móviles y a la utilización de datos de movilidad anonimizados (5);

11.

destaca que las recomendaciones del CDR deben considerarse, en la medida de lo posible, en relación con estos documentos relativos a la elaboración de las políticas europeas;

12.

se congratula del enfoque de la Comisión, que consiste, en esencia, en desarrollar una IA centrada en el ser humano y su ambición de liderar el establecimiento de normas éticas. En este sentido, la Comisión subraya con acierto que las ventajas de la IA dependerán de la confianza que depositen en ella los ciudadanos;

13.

insiste, no obstante, en que el debate sobre las futuras políticas destinadas a reforzar la confianza en la IA debería abordar también aspectos como la propiedad de los datos, los algoritmos, las plataformas y la protección de los valores públicos en dichas plataformas, así como la cuestión de saber quién se beneficia, en última instancia, de las aplicaciones de IA y quién paga el precio (y si es socialmente aceptable);

14.

subraya que debido al gran número de ámbitos de acción diferentes concernidos por la IA, estos corren el riesgo de que se diluya la coherencia entre ellos y de que evolucionen al margen;

15.

sugiere a la Comisión que defina una hoja de ruta y un enfoque que favorezcan la coherencia entre los diferentes ámbitos de acción;

Aprovechar la oportunidad

16.

hace hincapié en que la política europea debería apostar decididamente por el fortalecimiento de las redes locales y regionales multidisciplinares que reúnen a ciudadanos, administraciones, instituciones del conocimiento y empresas, así como por la inversión en (la organización y la estimulación de) estas redes. El CDR considera que los centros de innovación propuestos por la Comisión deben desempeñar un papel fundamental en este sentido;

17.

destaca que la IA puede contribuir a responder a los desafíos de la sociedad en ámbitos como la salud (el ejemplo reciente más notable es la lucha contra la pandemia de la COVID-19), la seguridad, el clima, la movilidad y el transporte, las ayudas sociales, la industria de tecnología avanzada, el comercio al por menor, la agricultura, el turismo y los servicios públicos;

18.

llama la atención sobre el hecho de que la IA puede crear nuevos empleos y suscitar un nuevo emprendimiento. La Comisión reconoce acertadamente como requisito previo importante que los ciudadanos puedan confiar en esta tecnología. Un marco estratégico de la UE basado en valores fundamentales debería contribuir a suscitar esta confianza e incitar a las empresas a desarrollar soluciones de IA;

19.

está de acuerdo en la importancia de que se establezcan unas condiciones justas de competencia en el mercado europeo. En este contexto, se debería prestar especial atención al acceso de las pequeñas y medianas empresas (pymes) y las empresas emergentes a la IA. Estas últimas constituyen un motor esencial de las economías locales y regionales. Los centros europeos de innovación digital, así como las políticas y los marcos reguladores futuros están llamados a desempeñar un papel decisivo a la hora de promover la igualdad de oportunidades en el acceso a la IA, y especialmente de apoyar a las microempresas y pequeñas y medianas empresas en dicho acceso;

20.

constata que la Comisión quiere sacar provecho de los puntos fuertes existentes en los mercados industriales y profesionales (actuales) (6). Desea subrayar que esta estrategia no debe llevarse a cabo en detrimento de la productividad, la capacidad de innovación y el ADN de los ecosistemas locales y regionales;

21.

destaca que, dentro de estos ecosistemas, los entes locales y regionales hacen todo lo posible para afrontar un amplio abanico de retos sociales. Pueden desempeñar un papel determinante si se quieren acelerar, en este contexto, las innovaciones que tienen un impacto real;

22.

subraya que los entes locales y regionales son quienes están mejor situados para contribuir a crear un entorno que favorezca el aumento de la inversión en la IA durante los próximos años y extender la confianza en la inteligencia artificial a los diferentes eslabones de las cadenas de valor. En efecto, dada su cercanía, los entes locales y regionales pueden fomentar la creación de redes multidisciplinares locales;

23.

considera que será necesario un apoyo sustancial de la UE para estimular la inversión pública y privada, y habrá que prever recursos del programa Europa Digital, el programa Horizonte Europa y los Fondos Estructurales y de Inversión Europeos para responder a las necesidades de los ecosistemas locales;

24.

estima que las subvenciones deberían concentrarse en aplicaciones de IA específicas que se presten a una implantación a mayor escala. Con el fin de aprovechar al máximo las posibilidades que ofrece la IA, sería conveniente promover los proyectos de pequeña envergadura y limitar su carga financiera, de modo que resulte más atractivo para los entes locales y regionales participar en proyectos financiados por la UE;

25.

respalda el enfoque de desarrollo de la IA en los centros de innovación digital. En este contexto, las subvenciones destinadas a estos centros deberían dar prioridad al fomento de los ecosistemas locales y regionales;

26.

se congratula de la intención de la Comisión de favorecer el desarrollo de productos basados en la IA en el sector público (7);

27.

considera, no obstante, que este compromiso de la Comisión en favor del desarrollo de la IA en el sector público no se debe limitar a las tecnologías de IA que ya han demostrado su éxito en sectores predefinidos. En efecto, los entes locales y regionales pueden desempeñar un papel importante en la aceleración de (nuevas) tecnologías de IA, en calidad de «launching customer» (clientes precursores);

28.

pide a la Comisión que haga un llamamiento a todas las autoridades públicas, incluidos los entes locales y regionales, para que lleven a cabo evaluaciones rigurosas del impacto de los sistemas de IA del sector público en los derechos fundamentales. Las autoridades no deberían recurrir a tecnologías de vigilancia de la IA, especialmente en tiempos de urgencia, antes de que se den a conocer los resultados de las evaluaciones de impacto y se adopten las soluciones necesarias;

29.

aboga por la elaboración de un marco de adjudicación de contratos públicos y un arsenal jurídico, como condiciones estándar para la adjudicación de contratos públicos, que ofrezcan a los entes locales y regionales un margen de maniobra y les permitan aprovechar al máximo sus posibilidades;

30.

subraya que el valor de los datos reside en su reutilización, en particular en las aplicaciones de IA. El intercambio intersectorial de los datos favorece la innovación en el ámbito de la IA. El CDR pide encarecidamente a la Comisión que utilice el Reglamento general de protección de datos (2016/679) y evalúe la pertinencia de instaurar un marco regulador más específico para la IA para el intercambio y la reutilización fácil y fiable de los datos entre las empresas y las administraciones públicas (B2G), sobre todo cuando está en juego el interés público, como en el caso de la pandemia de la COVID-19. Esto también ha puesto de manifiesto la importancia del uso de datos empresariales por parte de los organismos del sector público. Este potencial debería aprovecharse, ya que permite reducir la carga administrativa para las empresas y, en muchos casos —por ejemplo, en el contexto de la economía de plataformas—, es la única forma de que las autoridades públicas cumplan sus obligaciones legales;

31.

considera que es necesario invertir, a nivel europeo, en una infraestructura básica y una arquitectura de datos comunes y seguros, así como en normas de calidad en relación con la seguridad, las series de datos y las estadísticas. Este tipo de enfoque permitirá reducir el umbral de acceso a las aplicaciones de IA y aumentar la confianza digital, fomentando el desarrollo y la utilización de la IA;

32.

cree firmemente que las aplicaciones de IA desarrolladas con ayuda de fondos públicos deberían restituirse, en la medida de lo posible, a la sociedad. En principio, estas aplicaciones de IA deberían elaborarse, por ejemplo, en modalidad de «fuente abierta», aun reconociendo también que es necesaria la financiación relativa a dicho desarrollo;

Legislación y política: un enfoque basado en el aprendizaje

33.

observa con interés los progresos realizados para elaborar una definición de la IA, tal y como queda reflejado en la definición actualizada (8) facilitada por el grupo de expertos de alto nivel sobre la IA, instaurado por la Comisión Europea. Considera que esa definición refleja mejor las capacidades técnicas de la IA. No obstante, la elaboración de una definición de la IA debe constituir un proceso continuo. Debe reflejar el contexto en el que se inscribe la IA y seguir el ritmo de la evolución de la sociedad en este ámbito, sin perder de vista el vínculo entre el ecosistema de excelencia presentado por la Comisión y el ecosistema de confianza;

34.

estima que el sistema de IA consiste en una combinación de elementos técnicos que vinculan datos, algoritmos y potencia de cálculo con las prácticas sociales, la sociedad, la identidad y la cultura. La definición de este conjunto sociotécnico dinámico deberá, por tanto, actualizarse periódicamente para reflejar de manera adecuada el impacto social cada vez mayor de la IA, al tiempo que se identifican con rapidez los retos y oportunidades asociados a la IA;

35.

observa que la protección de los derechos fundamentales y de los consumidores, así como la transparencia en el uso de estos componentes técnicos y las normas sobre la responsabilidad y la seguridad de los productos son, según la Comisión, los elementos más importantes del ecosistema de confianza. Estos constituyen la base de un futuro marco regulador de la Unión Europea para la IA;

36.

señala que el aprendizaje automático en el sector de la IA se basa en la programación humana, lo que podría conllevar sesgos a gran escala. Pide, por tanto, a la UE que implante mecanismos para garantizar la igualdad de género, raza y visión del mundo, así como la inclusividad en el desarrollo y las aplicaciones de la tecnología de IA;

37.

llama la atención sobre el hecho de que el Derecho penal ofrece una posibilidad importante de normalización para luchar contra las violaciones graves de los derechos fundamentales de las personas y la vigilancia ilegal y clandestina de los ciudadanos mediante aplicaciones de IA;

38.

el CDR coincide con la Comisión en que las aplicaciones de IA ya están reguladas por un marco legislativo y ético de la UE, amplio y de gran calidad. La legislación sobre la seguridad y la responsabilidad de los productos, los derechos de los consumidores, los derechos fundamentales, la legislación contra la discriminación y el derecho a la protección de los datos de carácter personal son importantes ejemplos de ello;

39.

insiste en que es preciso reconocer que el marco legislativo en vigor no está específicamente adaptado a las aplicaciones de IA, lo que significa que en la actualidad existe un vacío normativo. Han de examinarse con atención los ámbitos en los que es necesaria una normativa complementaria para reforzar la confianza de los ciudadanos en la IA. La introducción de salvaguardias para garantizar que la IA esté libre de prejuicios y no reproduzca la discriminación por razones de género, origen étnico, edad, discapacidad u orientación sexual, es un elemento fundamental de cualquier marco normativo futuro que se aplique a la IA;

40.

señala, asimismo, la necesidad de que ninguna de las lenguas oficiales de la UE se vea discriminada o debilitada por el uso de la IA, y de que estén disponibles conjuntos de datos y parámetros lingüísticos en todas las lenguas de la UE;

41.

insiste, además, en la importancia de una codificación sensible al género y aboga por la participación equitativa de todos los géneros en las actividades de concepción, puesta en práctica y evaluación, así como en el debate sobre las cuestiones éticas y las normas de las tecnologías relacionadas con la IA. Resulta esencial impulsar la participación de niñas y mujeres en los ámbitos de la ciencia, la tecnología, la ingeniería, las artes y las matemáticas (CTIAM) en aras de su plena inclusión en los procesos relacionados con la IA, en particular, y en la economía digital, en general;

42.

subraya que este marco regulador debería garantizar un número suficiente de elementos clave citados anteriormente, y proporcionar, al mismo tiempo, el espacio y la flexibilidad necesarios para la innovación. Para ello, es necesario ser conscientes de los retos que supone explicar los sistemas de IA y conseguir su funcionamiento, así como sus resultados y su impacto social;

43.

toma nota de que la IA no es una tecnología aislada: sin duda está vinculada a otras ciencias y tecnologías, como la ciencia del comportamiento, la informática cuántica, la internet de las cosas, el despliegue de las redes 5G y 6G, los modelos económicos y las plataformas digitales;

44.

considera necesario tener en cuenta que la IA es una tecnología en desarrollo que no ha alcanzado aún su plena madurez y todavía no está perfectamente integrada en la sociedad;

45.

destaca que los representantes políticos, los responsables de la toma de decisiones y la sociedad se enfrentan a un reto fundamental: ¿cómo garantizar que la balanza entre los efectos y los impactos deseados y no deseados se inclina hacia el lado adecuado? ¿Y cómo conseguir que haya margen suficiente para poder aprovechar las posibilidades que ofrece la IA e incrementar la confianza depositada por los ciudadanos en ella? Con el avance de las aplicaciones de IA, en especial los algoritmos predictivos, en muchos organismos públicos y gubernamentales (órganos judiciales, fuerzas o cuerpos de seguridad, fuerzas armadas, etc.), es necesario adoptar de manera urgente un marco regulador que prevea un control estricto de lo que es necesario y proporcionado, que ofrezca salvaguardias y vías de recurso adecuadas y que defina claramente las responsabilidades y la rendición de cuentas, así como una supervisión pública apropiada;

46.

destaca que los entes regionales y locales deberían desempeñar un papel importante en la elaboración de la legislación y las políticas en materia de IA. Están más cerca de los ciudadanos y, por consiguiente, disponen de información más útil que los gobiernos nacionales. Por este motivo, los entes regionales y locales deberían participar más estrechamente en la elaboración de las políticas y la promulgación de la legislación derivadas del Libro Blanco;

47.

comparte el punto de vista de la Comisión según el cual el marco regulador debe prever un margen para su eventual desarrollo en el futuro habida cuenta de la rapidez con la que evoluciona la IA. ello requiere no solo una legislación y un proceso legislativo de adaptación, sino también una actitud crítica por parte de la Comisión en cuanto al funcionamiento de su propio sistema, así como una innovación social dentro de dicho sistema;

48.

insiste, en este contexto, en que los entes regionales y locales deberían disponer de un margen de maniobra suficiente para llevar a cabo experimentos [incluida la «policy prototyping» (creación de prototipos de políticas] y aprender a diseñar de la manera más eficaz y eficiente posible las políticas encaminadas a responder a estos retos fundamentales;

49.

insta a la Comisión a que elabore un marco de actuación sobre el procedimiento de seguimiento del desarrollo de la futura política utilizando en la mayor medida posible las normas vigentes, pero sin dejar de impulsar un marco regulador de la Unión Europea en materia de IA. Este marco de actuación debería coordinar también los esfuerzos a escala regional, nacional y europea y garantizar la cooperación entre los sectores público y privado. A este respecto, la creación de una agencia de la UE para la inteligencia artificial contribuiría a la supervisión y coordinación eficaces de las cuestiones relacionadas con la IA entre todos los niveles de gobierno, desde el europeo al local;

50.

suscribe el enfoque de la Comisión de regular adicionalmente la IA de alto riesgo;

51.

considera que los principales criterios que permiten determinar si la IA es de alto riesgo son, por una parte, la medida en que el ser humano puede influir en la toma de decisiones y, por otra, la incidencia de estas decisiones en los derechos y las actuaciones efectivas de los ciudadanos;

52.

pide que cualquier legislación o política futura aborde en concreto la transparencia y la comprensibilidad de los algoritmos y la rendición de cuentas (9), la equidad y la responsabilidad de quien recurre a la IA, en particular en caso de incidencia o de influencia en los derechos o las actuaciones efectivas de los ciudadanos;

53.

señala que los ciudadanos tienen derecho a saber, en un lenguaje claro y sencillo, basándose en qué datos y algoritmos se ven afectados sus derechos o sus actuaciones efectivas para poder defenderse de manera equitativa y, en caso necesario, acogerse a una protección jurídica eficaz; Además, debería ser posible introducir en el procedimiento de toma de decisiones la posibilidad de hacer examinar la cuestión por una persona. Cuando proceda, se deberá hacer hincapié en el papel que desempeñan las autoridades;

54.

considera que la utilización de las tecnologías de IA también es muy pertinente en lo que se refiere a las condiciones de trabajo y el bienestar de los trabajadores. A este respecto, hace suyo el llamamiento de los interlocutores sociales europeos a favor de la minimización y la transparencia de los datos, junto con normas claras sobre el tratamiento de los datos personales para limitar el riesgo de vigilancia intrusiva y de uso indebido de los datos personales (10), a fin de garantizar el respeto de la dignidad humana. En este contexto, el Comité conviene en que es importante permitir a los representantes de los trabajadores abordar las cuestiones relacionadas con los datos, el consentimiento, la protección y la vigilancia de la vida privada, vinculando la recopilación de datos a un fin concreto y transparente, y garantizando la transparencia cuando los sistemas de IA se utilizan en procedimientos de recursos humanos;

55.

está de acuerdo con las exigencias previstas por la Comisión en materia de datos de entrenamiento. La conservación de los registros permite comprobar el respeto de las normas. No obstante, el CDR considera que deberían limitarse todo lo posible las cargas administrativas que acarrea;

56.

comparte el punto de vista de la Comisión según el cual una IA fiable, ética y antropocéntrica solo puede alcanzarse garantizando una participación adecuada de las personas cuando se trata de aplicaciones de riesgo elevado;

57.

insiste en que la legislación futura y el control de la conformidad deberían aplicarse durante todo el ciclo de vida de la aplicación de IA;

58.

al igual que la Comisión, considera que la supervisión humana contribuye a preservar la autonomía humana, pero pide a la Comisión Europea que evalúe los riesgos éticos, en particular, los relacionados con los sesgos en el uso de la IA y que proponga soluciones claras;

59.

pide que la regulación de la IA tenga en cuenta el impacto medioambiental a corto y largo plazo del uso de estas tecnologías a lo largo de su ciclo de vida y de toda la cadena de suministro;

60.

toma nota del proyecto de informe de la Comisión de Asuntos Jurídicos del Parlamento Europeo (11). Destaca, en particular, la consideración según la cual cada Estado miembro debe establecer una autoridad nacional de control responsable de garantizar, evaluar y supervisar el cumplimiento, así como de posibilitar el debate y el intercambio de puntos de vista en estrecha cooperación con las partes interesadas y la sociedad civil;

61.

aprueba el enfoque de la Comisión, que considera que sería necesario realizar una evaluación de la conformidad objetiva y previa para comprobar y garantizar el cumplimiento de los requisitos obligatorios para las aplicaciones de riesgo elevado;

62.

coincide con la Comisión en que el uso de sistemas de IA para la identificación biométrica remota tiene repercusiones en los derechos fundamentales que pueden variar considerablemente en función del objetivo, su contexto y el alcance de su uso;

63.

pide que se elabore un marco de calidad vinculante y fácil de comprender para canalizar las aplicaciones de IA intrusivas. Dicho marco debería centrarse sobre todo en las normas y las prácticas que impiden la discriminación y la estigmatización ilícitas de determinadas personas y grupos de población. El CDR suscribe la intención de la Comisión de entablar un amplio debate a este respecto;

64.

considera que, junto con la legislación, la ética desempeña un papel importante en el diseño de la IA («la ética desde la fase de diseño»). Hay que ser conscientes de que la ética no está vinculada a una herramienta técnica específica (por ejemplo la IA), sino que depende del contexto social y reglamentario en el que se recurra a la herramienta técnica;

65.

considera que un enfoque que vaya más allá de la mera promulgación de una legislación relativa a la IA de alto riesgo resultará beneficioso para cualquier política futura en favor del ecosistema de confianza. La política futura necesita un enfoque sociotécnico continuo y sistemático, que consiste en examinar la tecnología desde todos los puntos de vista y a través de diferentes prismas. En lo que respecta a la formulación de las políticas y la normativa, se requiere un enfoque multidisciplinar en el que los responsables políticos, el sector universitario de diferentes ámbitos, los interlocutores sociales, las empresas y los entes locales y regionales cooperen y supervisen en todo momento la evolución de la situación y difundan los resultados al respecto con la misma transparencia;

Desarrollo del saber

66.

observa que, para favorecer la transición hacia una sociedad en la que la IA revista una gran importancia, se debe extender a las futuras propuestas para la instauración de la nueva Agenda de Capacidades y del Plan de Acción de Educación Digital a toda la cadena de aprendizaje, desde la enseñanza primaria hasta la universitaria, pasando por la enseñanza secundaria y la formación profesional secundaria y superior, así como el aprendizaje permanente. Los planes educativos digitales deberían promover la ciudadanía activa, agudizar el pensamiento crítico y capacitar a las personas desde una edad temprana para una creciente interacción con la IA;

67.

pide que las medidas educativas y de formación se centren también en el refuerzo de las cibercapacidades de los ciudadanos y los profesionales, tanto en el sistema de enseñanza como en el de aprendizaje permanente. La revolución digital debería dar lugar a un aumento significativo del número de personas que ejercen profesiones relacionadas con el ámbito digital. Por otra parte, el aprendizaje permanente tecnológico en materia de IA es esencial no solo para las profesiones técnicas basadas en estudios CTI(A)M, sino para todos los trabajadores (incluido el personal de las administraciones públicas) que necesitarán conocimientos en IA para muchos otros ámbitos de actividad. Por consiguiente, la formación deberá centrarse no solo en las necesidades actuales del mercado laboral relacionadas con la IA, sino también en una alfabetización tecnológica de todos los trabajadores que permita la adaptación a un enfoque a largo plazo de las necesidades de formación en materia de IA;

68.

subraya que la formación de los responsables de la toma de decisiones y las autoridades políticas no solo en la utilización de la IA, sino también en las disposiciones y normas éticas, es fundamental y contribuirá a establecer un proceso decisorio democrático de calidad. El CDR recomienda formaciones que consistan en desarrollar firmemente el nivel de conocimientos para alcanzar dos objetivos: 1) permitir que el beneficiario adquiera la capacidad de comunicarse en el mercado en igualdad de condiciones, y 2) ponerle en situación de gestionar el impacto de la IA en la sociedad y el proceso democrático;

69.

subraya que, a fin de garantizar que la IA refleje nuestros valores y derechos fundamentales y que se evite la programación con sesgo de género, resulta esencial diversificar el sector de la tecnología y animar a los estudiantes, en particular, las niñas, a inscribirse en cursos de CTI(A)M;

Gobernanza multinivel y asociación público privada

70.

coincide en la necesidad de adoptar un enfoque europeo común en materia de IA a fin de alcanzar una envergadura suficiente y evitar la fragmentación del mercado único;

71.

destaca, no obstante, que un enfoque europeo de la gobernanza debe basarse en una sociedad abierta, inclusiva y descentralizada, en la que todos los ciudadanos puedan participar, ser creativos y desarrollar su espíritu empresarial;

72.

afirma que la cuestión principal que se plantea es saber cómo pueden participar eficazmente el sector político, los ciudadanos y las pymes en el desarrollo de las aplicaciones de IA y de las normas éticas y la normativa al respecto, y cómo puede influir la comprensión de los ingresos previstos de los ecosistemas en el (re)ajuste de las políticas y la normativa;

73.

destaca el importante papel que desempeñan las redes descentralizadas de ciudadanos y de economías locales en la participación del sector político, los ciudadanos y las empresas en el desarrollo de las aplicaciones de IA, así como de las normas éticas y la reglamentación al respecto. En efecto, la fuerza de las comunidades y las redes sociales reside en una cooperación local y regional abierta, interconectada y específica que favorezca la innovación y el desarrollo de nuevas economías;

74.

considera que el futuro marco de acción europeo debe coordinar los esfuerzos a nivel regional, nacional y europeo, fomentar el intercambio de conocimientos y garantizar la cooperación entre los sectores público y privado. Ello requiere el establecimiento de una gobernanza multinivel que conecte las redes locales, regionales, nacionales y europeas entre ellas.

---

(1)  COM(2020)67.

(2)  COM(2020)66.

(3)  SEDEC VI/046.

(4)  COM(2016)381.

(5)  Recomendación (UE) 2020/518.

(6)  Capítulo 2 del Libro Blanco sobre la inteligencia artificial.

(7)  Capítulo 4, letra F.

(8)  https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341.

(9)  Wieringa, M., What to account for when accounting for algorithms, Universidad de Utrecht, 20 de enero de 2020.

(10)  «European Social Partners Autonomous Framework Agreement on Digitalisation (https://www.etuc.org/system/files/document/file2020-06/Final%2022%2006%2020_Agreement%20on%20Digitalisation%202020.pdf).

(11)  Proyecto de informe, de 21 de abril de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas [2020/2012 (INL)], ponente: Ibán García del Blanco.