This document is an excerpt from the EUR-Lex website
Document 52022PC0414
Recommendation for a COUNCIL DECISION authorising the opening of negotiations on behalf of the European Union for a Council of Europe convention on artificial intelligence, human rights, democracy and the rule of law
Recomendación de DECISIÓN DEL CONSEJO por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho
Recomendación de DECISIÓN DEL CONSEJO por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho
COM/2022/414 final
COMISIÓN EUROPEA
Bruselas, 18.8.2022
COM(2022) 414 final
Recomendación de
DECISIÓN DEL CONSEJO
por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho
EXPOSICIÓN DE MOTIVOS
CONTEXTO DE LA PROPUESTA
La inteligencia artificial (IA) ofrece grandes oportunidades para la sociedad, el medio ambiente y la economía. Al mismo tiempo, dependiendo de las circunstancias relativas a su aplicación y uso específicos, algunas formas de IA pueden causar daños materiales o inmateriales y generar riesgos para los intereses públicos y los derechos y libertades fundamentales de las personas. Por lo tanto, para hacer frente a estos retos y aprovechar el potencial de la IA, es crucial disponer de un marco jurídico coherente aplicable a la IA que proteja dichos intereses públicos y derechos fundamentales, al tiempo que fomenta la confianza y la innovación.
En abril de 2021, la Comisión Europea propuso un Reglamento global en materia de IA que armonizaría las normas aplicables a los sistemas de IA en los veintisiete Estados miembros de la Unión Europea 1 . El Parlamento Europeo y el Consejo están negociando actualmente la propuesta con arreglo al procedimiento legislativo ordinario. Varias organizaciones internacionales, incluido el Consejo de Europa, también han intensificado sus esfuerzos en este ámbito, reconociendo el carácter transfronterizo de la IA y la necesidad de la cooperación internacional para hacer frente a los retos comunes.
Hacia un Convenio del Consejo de Europa en materia de inteligencia artificial, derechos humanos, democracia y Estado de Derecho
El 11 de septiembre de 2019, el Comité de Ministros del Consejo de Europa decidió crear un Comité ad hoc sobre Inteligencia Artificial (CAHAI) 2 . Su función consistía en examinar la viabilidad y los posibles elementos de un marco jurídico sobre el desarrollo, el diseño y la aplicación de la IA, teniendo en cuenta al mismo tiempo las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho, así como los instrumentos jurídicos internacionales pertinentes vigentes 3 . La labor del CAHAI se basó en un estudio de viabilidad 4 y en una consulta con múltiples partes interesadas llevada a cabo en la primavera de 2021 5 . El 3 de diciembre de 2021, el CAHAI finalizó su tarea, y en el documento final se señalaban los posibles elementos de dicho marco jurídico 6 . Según el documento, para el desarrollo, el diseño y la aplicación de los sistemas de IA es necesario un instrumento jurídico que plasme los principios fundamentales de protección de la dignidad humana y el respeto de los derechos humanos, la democracia y el Estado de Derecho. El instrumento debe prever el establecimiento de una metodología para la clasificación del riesgo de los sistemas de IA que incluya las categorías de «riesgo bajo», «riesgo elevado» y «riesgo inaceptable». Deben prohibirse las aplicaciones de la IA que presenten riesgos «inaceptables» 7 . A fin de evitar sesgos injustificados, debe incluirse una disposición que asegure la igualdad de trato y la no discriminación. Las garantías jurídicas deben asegurar al menos el derecho a la tutela judicial efectiva ante una autoridad nacional, el derecho a ser informado sobre la aplicación de un sistema de IA en un proceso de toma de decisiones, el derecho a elegir la interacción con un ser humano y el derecho a saber que se está interactuando con un sistema de IA. Sin embargo, algunas cuestiones específicas como la manipulación de contenidos (ultrafalsificaciones) deben abordarse en otros instrumentos sectoriales. Debe estudiarse la posibilidad de exigir el establecimiento de mecanismos de cumplimiento y de autoridades nacionales de supervisión. El instrumento jurídico podría complementarse con un modelo de evaluación de impacto no vinculante.
Para suceder al CAHAI, se ha creado el Comité sobre Inteligencia Artificial (CAI) para el período 2022-2024. En su mandato 8 se le encomienda la puesta en marcha de un proceso de negociación internacional para establecer un marco jurídico para el desarrollo, el diseño y la aplicación de la IA. El marco debe basarse en las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho y tener un efecto favorecedor de la innovación. El marco se redactará hasta el 15 de noviembre de 2023 y se finalizará en el momento en que se liquide el CAI en 2024. En cumplimiento de su mandato, el CAI debe coordinar su trabajo con otros comités intergubernamentales y entidades del Consejo de Europa, fundamentar su trabajo en datos empíricos concluyentes y en un proceso de consulta inclusivo, también con socios internacionales y supranacionales, y tener en cuenta el documento final del CAHAI.
Entre los días 4 y 6 de abril de 2022, la CAI celebró su reunión inaugural, en la que fueron elegidos el presidente, el vicepresidente y una mesa. El 30 de junio de 2022, el Comité de Ministros del Consejo de Europa encargó al CAI que «procediera rápidamente a la elaboración de un instrumento jurídicamente vinculante de carácter transversal («convenio»/«convenio marco») sobre inteligencia artificial basado en las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho, en consonancia con su mandato, que se centrase en principios comunes generales, propiciase la innovación y estuviese abierto a la participación de terceros Estados, teniendo en cuenta al mismo tiempo otros marcos jurídicos internacionales pertinentes, vigentes o en fase de desarrollo» 9 .
Posteriormente, el presidente del CAI distribuyó un «borrador preliminar» del futuro Convenio (marco) que establece principios y normas fundamentales destinados a garantizar que el diseño, el desarrollo y la aplicación de sistemas de IA sean compatibles con el respeto de los derechos humanos, el funcionamiento democrático y el respeto del Estado de Derecho. El futuro Convenio (marco) deberá aplicarse en las respectivas jurisdicciones de las Partes. En el ámbito de aplicación se incluyen los proveedores y usuarios de sistemas de IA tanto públicos como privados, pero no se incluyen los sistemas de IA relacionados con la defensa nacional. En el borrador preliminar se propone incluir las siguientes disposiciones:
·el objeto y el ámbito de aplicación del Convenio (marco);
·definiciones de sistema de IA, ciclo de vida, proveedor, usuario y «sujeto de IA»;
·determinados principios fundamentales, incluidas las garantías procedimentales y los derechos de los sujetos de IA que se aplicarían a todos los sistemas de IA, independientemente de su nivel de riesgo;
·medidas adicionales para el sector público, así como los sistemas de IA que planteen niveles de riesgo «inaceptables» y «significativos», determinados sobre la base de una metodología de evaluación de riesgos e impacto (que se establecerá más adelante en un anexo del Convenio);
·un mecanismo de seguimiento y cooperación entre las partes;
·disposiciones finales, que incluyan la posibilidad de que los Estados miembros de la UE apliquen el Derecho de la UE en sus relaciones mutuas en las materias cubiertas por el Convenio y la posibilidad de que la Unión se adhiera al Convenio.
El borrador preliminar se debatirá en las sesiones plenarias del CAI en Estrasburgo, previstas para los días 21 a 23 de septiembre y 23 a 25 de noviembre de 2022. También están previstas cuatro reuniones en 2023 y una en 2024.
•Razones y objetivos de la propuesta
La presente Recomendación de Decisión se presenta al Consejo de conformidad con el artículo 218 del Tratado de Funcionamiento de la Unión Europea (TFUE). La Decisión autorizaría la apertura de negociaciones en nombre de la Unión para un futuro Convenio del Consejo de Europa sobre IA, derechos humanos, democracia y Estado de Derecho, y serviría para adoptar directrices de negociación y designar a la Comisión como negociadora de la Unión.
El artículo 3, apartado 2, del TFUE, establece que la Unión dispone de competencia exclusiva «para la celebración de un acuerdo internacional [...] en la medida en que pueda afectar a normas comunes o alterar el alcance de las mismas». Un acuerdo internacional puede afectar a normas comunes o alterar el alcance de las mismas cuando el ámbito del acuerdo se solapa con la legislación de la Unión o está regulado en gran medida por el Derecho de la Unión 10 .
A este respecto, el Derecho de la Unión establece un conjunto completo de normas comunes del mercado único aplicables a los productos 11 y servicios 12 para los que pueden utilizarse sistemas de IA. Además, el desarrollo y uso de determinados sistemas de IA puede afectar al ejercicio de derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea 13 y en el Derecho derivado de la UE, entre los que cabe citar, por ejemplo, el derecho a la integridad física y psíquica 14 , la protección de los datos personales 15 , la privacidad 16 , la no discriminación 17 , la libertad de expresión e información 18 , la presunción de inocencia 19 y el derecho a un juicio justo y a la tutela judicial efectiva 20 . Este desarrollo y uso también pueden afectar a los valores en los que se fundamenta la Unión, como la dignidad humana, la democracia y el Estado de Derecho 21 .
Además, para determinar si una materia está regulada en gran medida por el Derecho de la Unión Europea, es preciso tener en cuenta no solo el Derecho de la Unión en la materia en su estado actual, sino también su futuro desarrollo, en la medida en que sea previsible en el momento del análisis 22 . El ámbito cubierto por el futuro Convenio del Consejo de Europa sobre IA es directamente pertinente para esta evolución futura previsible, teniendo en cuenta la propuesta de la Comisión de un Reglamento en materia de IA («Ley de IA») 23 presentada en abril de 2021 y que está siendo negociada actualmente por el Parlamento Europeo y el Consejo.
Las negociaciones del futuro Convenio (marco) del Consejo de Europa sobre IA están relacionadas con materias de competencia de la Unión y existe un solapamiento muy significativo entre el borrador preliminar del Convenio y la Ley de IA propuesta en cuanto a su ámbito de aplicación, su naturaleza y su contenido. En vista de ello, es importante que las negociaciones se lleven a cabo en nombre de la Unión de manera que se garantice que la coherencia y la uniformidad de las normas de la UE en materia de IA y el correcto funcionamiento del sistema que establezcan no se vean socavados y que el futuro Convenio del Consejo de Europa sea plenamente coherente con la legislación vigente y futura de la UE en la materia.
•Coherencia con las disposiciones existentes en la misma política sectorial
El 21 de abril de 2021, la Comisión propuso un Reglamento por el que se establecen normas armonizadas sobre la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión. La propuesta tiene el doble objetivo de crear un mercado único para promover el desarrollo y la implantación de la IA, abordando al mismo tiempo los riesgos para la seguridad, la salud y los derechos fundamentales. La propuesta tiene un carácter horizontal y resulta aplicable a los proveedores y usuarios de sistemas de IA, con independencia de que se trate de entidades públicas o privadas. Quedan excluidos del ámbito de aplicación los sistemas de IA desarrollados o utilizados exclusivamente con fines militares.
La propuesta establece requisitos y obligaciones proporcionados limitados al mínimo necesario para hacer frente a los riesgos para la salud, la seguridad y los derechos fundamentales, sin obstaculizar el desarrollo tecnológico de la IA ni aumentar desproporcionadamente las cargas financieras y administrativas para los operadores. A tal efecto, sigue un enfoque basado en los riesgos que clasifica los sistemas de IA en diferentes categorías de riesgo: «inaceptable», «alto», «relacionado con la transparencia» y «bajo» o «mínimo».
·Se propone prohibir los sistemas de IA que se considere que son incompatibles con los valores de la UE y que representan una clara amenaza para la seguridad, los medios de subsistencia o los derechos de las personas, suponiendo un «riesgo inaceptable» (por ejemplo, la puntuación social por parte de las autoridades públicas, las prácticas de manipulación mediante IA dañinas o la identificación biométrica remota en tiempo real con fines policiales en espacios públicos, con algunas excepciones limitadas).
·Los sistemas de IA de «alto riesgo» que planteen riesgos significativos para la salud, la seguridad o los derechos fundamentales deben someterse a comprobaciones de conformidad y cumplir determinados requisitos obligatorios (por ejemplo, en relación con la gestión de riesgos, la calidad de los datos, la documentación, la transparencia, la vigilancia humana, la precisión o la ciberseguridad) antes de poder comercializarse o utilizarse en la Unión. También se imponen a los proveedores y usuarios obligaciones de seguimiento y vigilancia proporcionadas y eficaces, definiendo claramente sus funciones y responsabilidades a lo largo de toda la cadena de valor sin afectar a otras obligaciones en virtud de la legislación sectorial.
·En el caso de los sistemas de IA que plantean un «riesgo relacionado con la transparencia», se debe informar a las personas cuando interactúan con dichos sistemas o se ven expuestas a ellos (por ejemplo, robots conversacionales —chatbots—, sistemas de reconocimiento de emociones y de categorización biométrica, ultrafalsificaciones).
·Todos los demás sistemas que plantean un riesgo «mínimo» o «bajo» para la salud, la seguridad y los derechos fundamentales están permitidos sin más restricciones, pero los proveedores pueden optar por cumplir códigos de conducta voluntarios.
La propuesta está siendo debatida por el Consejo y el Parlamento Europeo con arreglo al procedimiento legislativo ordinario.
Las negociaciones del futuro Convenio del Consejo de Europa sobre IA, derechos humanos, democracia y Estado de Derecho deben garantizar que las disposiciones que se acuerden sean compatibles con el Derecho de la UE y con las obligaciones de los Estados miembros en virtud del mismo, teniendo en cuenta su desarrollo futuro y la propuesta de Ley de IA. También será necesario garantizar que el Convenio del Consejo de Europa incluya una cláusula de desconexión que permita a los Estados miembros de la UE que se conviertan en Partes en el Convenio regular las relaciones entre ellos con arreglo al Derecho de la UE. Entre los Estados miembros de la UE debe prevalecer la Ley de IA propuesta, tal y como evolucione en el procedimiento legislativo y en las negociaciones de los colegisladores y, en última instancia, en su forma definitiva (tras la adopción). La Unión Europea también debe poder adherirse al Convenio como Parte.
•Coherencia con otras políticas de la Unión
La Recomendación es pertinente para otras iniciativas de la Comisión, en curso o previstas, destinadas a abordar los problemas que plantea el desarrollo y la utilización de sistemas de IA que se señalan en el Libro Blanco sobre la IA 24 . Estas otras iniciativas prevén la revisión de la legislación sectorial sobre productos (por ejemplo, la Directiva sobre máquinas 25 y la Directiva relativa a la seguridad general de los productos 26 ) y las próximas iniciativas que abordan cuestiones de responsabilidad relacionadas con las nuevas tecnologías, incluidos los sistemas de IA.
La Recomendación también es coherente con la estrategia digital general de la Comisión destinada a promover la tecnología al servicio de las personas, uno de los tres objetivos clave de la visión política expuesta en la Comunicación «Configurar el futuro digital de Europa» 27 . Su objetivo es garantizar que la IA se desarrolle respetando los derechos humanos y ganando la confianza de las personas, logrando una Europa adaptada a la era digital y convirtiendo los próximos diez años en la Década Digital 28 .
La Recomendación propuesta también refuerza significativamente el papel de la Unión en la configuración de las normas y estándares mundiales y en la promoción de una IA fiable que sea coherente con los valores e intereses de la Unión. Proporciona a la Unión una base sólida para reforzar la diplomacia digital de la UE 29 y para negociar, con otros países europeos y no europeos, el primer acuerdo internacional jurídicamente vinculante sobre IA, basado en valores y principios compartidos.
2.BASE JURÍDICA, SUBSIDIARIEDAD Y PROPORCIONALIDAD
•Base jurídica
El artículo 218, apartado 3, del Tratado de Funcionamiento de la Unión Europea (TFUE) establece que la Comisión debe presentar recomendaciones al Consejo, que adoptará una decisión por la que se autorice la apertura de negociaciones y designará al negociador de la Unión. De conformidad con el artículo 218, apartado 4, del TFUE, el Consejo puede dictar directrices al negociador.
•Subsidiariedad (en el caso de competencia no exclusiva)
La propuesta de Ley de IA establece normas armonizadas aplicables a los sistemas de IA en la Unión, impidiendo así que los Estados miembros impongan más restricciones, a menos que el acto lo autorice explícitamente. Con arreglo al artículo 3, apartado 2, del TFUE, la Unión dispone de competencia exclusiva para la celebración de acuerdos internacionales [...] en la medida en que puedan afectar a normas comunes o alterar el alcance de las mismas. Por consiguiente, para todas las cuestiones relacionadas con el diseño, el desarrollo y la aplicación de sistemas de IA, reguladas en gran medida por el Derecho de la UE o por regular como consecuencia de la evolución futura previsible del Derecho de la Unión y, en particular, la Ley de IA propuesta, la Unión debe tener competencia para negociar el futuro Convenio del Consejo de Europa sobre IA.
•Proporcionalidad
Esta iniciativa no va más allá de lo necesario para alcanzar los objetivos políticos en cuestión.
•Elección del instrumento
El instrumento elegido es una recomendación de Decisión del Consejo, tal como se establece en el artículo 218, apartados 3 y 4, del TFUE.
3.RESULTADOS DE LAS EVALUACIONES EX POST, DE LAS CONSULTAS CON LAS PARTES INTERESADAS Y DE LAS EVALUACIONES DE IMPACTO
•Evaluaciones ex post / controles de la adecuación de la legislación existente
No procede
•Consultas con las partes interesadas
No procede
•Obtención y uso de asesoramiento especializado
La Comisión ha tenido en cuenta las opiniones expresadas por los expertos de los Estados miembros durante los debates en el grupo de trabajo pertinente del Consejo en la preparación de las negociaciones.
•Evaluación de impacto
No procede
•Adecuación regulatoria y simplificación
No procede
•Derechos fundamentales
La propuesta de Ley de IA y el Convenio del Consejo de Europa en cuestión tienen por objeto minimizar los riesgos y garantizar un elevado nivel de protección de los derechos fundamentales que, en determinadas circunstancias, podrían verse afectados negativamente por el desarrollo y la utilización de la IA, reconociendo al mismo tiempo el potencial de la IA para proteger y facilitar el ejercicio de esos derechos en el entorno digital, mejorar el bienestar social y medioambiental y promover el progreso tecnológico.
4.REPERCUSIONES PRESUPUESTARIAS
No se prevé que la propuesta tenga repercusiones presupuestarias para el presupuesto de la Unión.
5.OTROS ELEMENTOS
•Planes de ejecución y modalidades de seguimiento, evaluación e información
Se espera que el proceso de negociación dure hasta 2024, y una vez finalizado podrá firmarse y celebrarse el Convenio.
Recomendación de
DECISIÓN DEL CONSEJO
por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho
EL CONSEJO DE LA UNIÓN EUROPEA,
Visto el Tratado de Funcionamiento de la Unión Europea, y en particular su artículo 218, apartados 3 y 4,
Vista la Recomendación de la Comisión Europea,
Considerando lo siguiente:
(1)En 2021, el Comité de Ministros del Consejo de Europa creó un Comité sobre Inteligencia Artificial (CAI) para el período 2022-2024, encargado de poner en marcha un proceso de negociación internacional para establecer un marco jurídico para el desarrollo, el diseño y la aplicación de la inteligencia artificial (IA) basado en las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho que favorezca la innovación 30 .
(2)El 30 de junio de 2022, el Comité de Ministros del Consejo de Europa encargó al Comité sobre Inteligencia Artificial que procediera rápidamente a la elaboración de un instrumento jurídicamente vinculante de carácter transversal («convenio»/«convenio marco») sobre inteligencia artificial basado en las normas del Consejo de Europa en materia de derechos humanos, democracia y Estado de Derecho, en consonancia con su mandato, que se centrase en principios comunes generales, propiciase la innovación y estuviese abierto a la participación de terceros Estados, teniendo en cuenta al mismo tiempo otros marcos jurídicos internacionales pertinentes, vigentes o en fase de desarrollo 31 .
(3)Posteriormente, el presidente del Comité sobre Inteligencia Artificial propuso un borrador preliminar del Convenio (marco) que se aplicaría al diseño, al desarrollo y a la aplicación de los sistemas de IA. El borrador preliminar comprende: disposiciones sobre la finalidad y el objeto, el ámbito de aplicación, las definiciones, los principios fundamentales, incluidas las garantías procedimentales y los derechos aplicables a todos los sistemas de IA, independientemente de su nivel de riesgo, medidas adicionales para los sistemas de IA del sector público y para los sistemas de IA que planteen niveles de riesgo «inaceptables» y «significativos», un mecanismo de seguimiento y cooperación; las disposiciones finales, que prevén la posibilidad de que la Unión se adhiera al Convenio; y un anexo, en fase de elaboración, sobre una metodología para la evaluación de riesgos e impacto de los sistemas de IA.
(4)La Unión ha adoptado normas comunes que se verán afectadas por los elementos que se están considerando para el Convenio del Consejo de Europa. Entre ellas se incluyen, en particular, un conjunto completo de normas en el ámbito del mercado único aplicables a los productos 32 y servicios 33 para los que pueden utilizarse sistemas de IA, así como normas sobre la protección de los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la UE 34 y desarrollados en el Derecho derivado de la Unión 35 , teniendo en cuenta que es probable que esos derechos se vean afectados en determinadas circunstancias por el desarrollo y el uso de determinados sistemas de IA.
(5)Además, el 21 de abril de 2021, la Comisión presentó una propuesta legislativa de Reglamento por el que se establecen normas armonizadas en materia de IA 36 , que está siendo negociada actualmente por el Parlamento Europeo y el Consejo. El Convenio del Consejo de Europa previsto se solapa en gran medida con la propuesta legislativa en su ámbito de aplicación, ya que ambos instrumentos tienen por objeto establecer normas aplicables al diseño, al desarrollo y a la aplicación de sistemas de IA proporcionados y utilizados por entidades públicas o privadas.
(6)Por consiguiente, la celebración del Convenio del Consejo de Europa en cuestión puede afectar a las normas comunes de la Unión vigentes y futuras o alterar su ámbito de aplicación en el sentido del artículo 3, apartado 2, del Tratado de Funcionamiento de la Unión Europea.
(7)A fin de proteger la integridad del Derecho de la Unión y garantizar la coherencia de las normas del Derecho internacional y del Derecho de la Unión, es necesario autorizar a la Comisión a negociar, en nombre de la Unión, el Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho.
(8)El Supervisor Europeo de Protección de Datos, al que se consultó de conformidad con el artículo 42, apartado 1, del Reglamento (UE) 2018/1725 del Parlamento Europeo y del Consejo, emitió su dictamen el …
HA ADOPTADO LA PRESENTE DECISIÓN:
Artículo 1
Se autoriza a la Comisión a negociar, en nombre de la Unión, el Convenio (marco) del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho.
Artículo 2
Las directrices de negociación figuran en el anexo.
Artículo 3
Las negociaciones se llevarán a cabo en consulta con el [nombre del comité especial, que insertará el Consejo].
Artículo 4
El destinatario de la presente Decisión es la Comisión.
Hecho en Bruselas, el
Por el Consejo
El Presidente
COMISIÓN EUROPEA
Bruselas, 18.8.2022
COM(2022) 414 final
ANEXO
de la
Recomendación de Decisión del Consejo
por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho
ANEXO
de la Recomendación de Decisión del Consejo por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un Convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho
Por lo que respecta al proceso de las negociaciones, la Unión debe aspirar a lo siguiente:
(1)Que el proceso de negociación sea abierto, inclusivo y transparente y que se base en datos sólidos y en la cooperación de buena fe.
(2)Que el proceso de negociación se base en un proceso de consulta inclusivo y permita una participación significativa de todas las partes interesadas pertinentes, incluidos la sociedad civil, el sector privado, el mundo académico, las organizaciones no gubernamentales, las organizaciones de normalización y otros agentes pertinentes con experiencia en la regulación del diseño, desarrollo y aplicación de sistemas de inteligencia artificial (IA).
(3)Que las aportaciones recibidas de todas las Partes negociadoras se examinen en igualdad de condiciones para garantizar la inclusividad del proceso.
(4)Que el proceso de negociación se base en un programa de trabajo efectivo y realista para la elaboración del Convenio (marco).
Por lo que respecta a los objetivos generales de las negociaciones, la Unión debe aspirar a lo siguiente:
(1)Que el Convenio sea compatible con el Derecho del mercado único de la UE y otros ámbitos del Derecho de la UE, incluidos sus principios generales y los derechos y libertades fundamentales consagrados en la Carta de los Derechos Fundamentales de la UE y desarrollados a través del Derecho derivado de la UE.
(2)Que el Convenio sea compatible con la propuesta de Ley de Inteligencia Artificial (Ley de IA) 1 , teniendo en cuenta su evolución futura a lo largo del proceso legislativo.
(3)Que el Convenio sirva de marco normativo eficaz y con garantía de futuro para la IA con vistas a asegurar un elevado nivel de protección de los derechos humanos y la preservación de los valores europeos, fomentando al mismo tiempo la innovación y aumentando la seguridad jurídica y la confianza; que el Convenio también reconozca los beneficios potenciales de la IA para intereses públicos importantes, en particular para proteger y facilitar el ejercicio de los derechos humanos en el entorno digital, mejorar la salud y el bienestar social y medioambiental y promover el progreso tecnológico.
(4)Que el Convenio refuerce la cooperación internacional entre la Unión Europea y otros países europeos y no europeos que puedan adherirse al mismo.
(1)Que el Convenio sea compatible con los instrumentos existentes del Consejo de Europa, en particular el Convenio Europeo de Derechos Humanos y sus Protocolos, el Convenio n.º 108 del Consejo de Europa para la protección de las personas con respecto al tratamiento automatizado de datos de carácter personal, modificado por el Protocolo STCE 223, y otros instrumentos jurídicos pertinentes del Consejo de Europa; que el Convenio evite duplicaciones con dichos instrumentos y cualquier efecto adverso en su aplicación o en la futura adhesión de cualquier país a ellos; que el Convenio aborde los nuevos riesgos y desafíos que plantean las características específicas de determinados sistemas de IA para el cumplimiento y la aplicación efectiva de los derechos existentes protegidos en virtud de dichos instrumentos.
(2)Que el Convenio sea compatible con los compromisos de la Unión Europea en lo que respecta a otros acuerdos internacionales en los que sea parte y evite cualquier repercusión negativa sobre su aplicación efectiva; en particular, que el Convenio esté en consonancia con los compromisos comerciales internacionales de la Unión y evite restricciones innecesarias o injustificadas al comercio.
Por lo que respecta al contenido de las negociaciones, la Unión debe aspirar a lo siguiente:
(1)Que las disposiciones del Convenio sean plenamente compatibles con el Derecho del mercado único de la UE y otros ámbitos del Derecho de la UE, incluidos sus principios generales y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la UE y desarrollados en el Derecho derivado de la UE.
(2)Que las disposiciones del Convenio sean plenamente compatibles con las disposiciones de la propuesta de Ley de IA, teniendo en cuenta su evolución futura a lo largo del proceso legislativo.
(3)Que las disposiciones del Convenio permitan a las Partes conceder una protección más amplia que la prevista en él y no menoscaben en modo alguno el nivel de protección de los derechos y libertades fundamentales ni las garantías previstas en el Derecho de la Unión, incluido el principio de independencia de las autoridades que supervisan los derechos fundamentales en la medida en que así lo exija el Derecho de la Unión.
(4)Que el Convenio siga un enfoque basado en el riesgo y establezca normas proporcionadas, eficaces y claras aplicables a las entidades públicas y privadas a lo largo de toda la cadena de valor de la IA, destinadas a minimizar los riesgos derivados del diseño, el desarrollo y la aplicación de determinados sistemas de IA, evitando al mismo tiempo cargas o restricciones innecesarias y desproporcionadas para las actividades de dichas entidades o limitaciones al desarrollo tecnológico; en particular, que el alcance y el rigor de cualquier intervención regulatoria estén equilibrados y justificados y se ajusten a los niveles de riesgo que plantean los sistemas de IA.
(5)Que las disposiciones del Convenio se formulen, en la medida de lo posible, de manera flexible y con visión de futuro para permitir que se tengan en cuenta los futuros avances tecnológicos, de mercado, sociales y medioambientales relacionados con la IA.
(6)Que el Convenio establezca normas para el diseño, el desarrollo y la aplicación de sistemas de IA que eviten solapamientos y aporten un valor añadido significativo en comparación con otros convenios internacionales o regionales pertinentes, en particular en el ámbito de la protección de datos; que esas normas aplicables a la IA sean compatibles con dichos convenios y con las normas internacionales en materia de derechos humanos.
(1)Que el Convenio incluya disposiciones para la aplicación efectiva de las normas aplicables al diseño, desarrollo y aplicación de sistemas de IA, en particular mediante mecanismos de cumplimiento y control ex ante y ex post adecuados, y que reconozca el papel de las normas, los mecanismos de certificación, los terceros independientes que participan en las comprobaciones de cumplimiento y las autoridades de supervisión competentes.
(2)Que el Convenio permita la adopción de medidas de apoyo a la innovación, como la prueba de sistemas de IA y la creación y utilización de espacios controlados de pruebas para fomentar la innovación en IA en un entorno controlado bajo la supervisión de las autoridades competentes.
(3)Que el Convenio tenga en cuenta las necesidades específicas de las pequeñas y medianas empresas (pymes), que no afecte de manera desproporcionada a su competitividad y obligue a las Partes a adoptar medidas específicas para apoyarlas.
(4)Que el Convenio tenga en cuenta el interés de las autoridades policiales y judiciales a efectos de prevención, investigación, detección y enjuiciamiento de delitos, también en lo que respecta a la confidencialidad e integridad de dichas investigaciones.
(5)Que el Convenio prevea una supervisión efectiva por parte de las autoridades competentes y mecanismos de cooperación que permitan su aplicación efectiva.
Por lo que respecta al funcionamiento del Convenio, la Unión debe aspirar a lo siguiente:
(1)Que el Convenio incluya una cláusula de desconexión que permita a los Estados miembros de la UE, en sus relaciones mutuas, seguir aplicando el Derecho de la UE en las materias incluidas en el ámbito de aplicación del Convenio.
(2)Que el Convenio establezca un mecanismo adecuado para garantizar su aplicación e incluya disposiciones finales, en particular en lo relativo a la solución de diferencias, la firma, la ratificación, la aceptación, la aprobación y la adhesión, la entrada en vigor, la modificación, la suspensión, la denuncia, el depósito y las lenguas, que se inspiren, cuando sea posible y apropiado, en las disposiciones de otros Convenios del Consejo de Europa.
(3)Que el Convenio permita a la Unión Europea formar parte de él.