COMISIÓN EUROPEA
Bruselas, 3.6.2025
COM(2025) 265 final
2025/0136(NLE)
Propuesta de
DECISIÓN DEL CONSEJO
relativa a la celebración, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho
EXPOSICIÓN DE MOTIVOS
1)CONTEXTO DE LA PROPUESTA
•Razones y objetivos de la propuesta
Con el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial (en lo sucesivo, «Reglamento de Inteligencia Artificial») 1 , la Unión ha adoptado el primer Reglamento exhaustivo sobre la inteligencia artificial (en lo sucesivo, «IA»), que establece una norma de alcance mundial. El Reglamento, que entró en vigor el 1 de agosto de 2024, armoniza plenamente las normas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en todos los Estados miembros 2 , con el objetivo de promover la innovación y la adopción de una IA fiable, protegiendo al mismo tiempo la salud, la seguridad y los derechos fundamentales, incluidos la democracia, el Estado de Derecho y el medio ambiente.
Varias organizaciones internacionales, incluido el Consejo de Europa, también han intensificado sus esfuerzos en este ámbito, reconociendo el carácter transfronterizo de la IA y la necesidad de la cooperación internacional para hacer frente a los retos comunes.
Entre junio de 2022 y marzo de 2024, el Comité de Inteligencia Artificial (CAI) 3 del Consejo de Europa ha elaborado un Convenio marco jurídicamente vinculante (en lo sucesivo, «el Convenio») para abordar los posibles riesgos que plantea la IA para los derechos humanos, la democracia y el Estado de Derecho.
El 17 de mayo de 2024, el Comité de Ministros del Consejo de Europa adoptó el Convenio 4 , acordó abrirlo a la firma en Vilna (Lituania) el 5 de septiembre de 2024 e invitó a los miembros del Consejo de Europa, otros terceros países que habían participado en su elaboración y a la UE a considerar su firma en esa ocasión, recordando al mismo tiempo que el Convenio también está abierto a la adhesión de otros Estados no miembros 5 .
La Unión firmó el Convenio el 5 de septiembre de 2024, tras la adopción de la Decisión (UE) 2024/2218 del Consejo, de 28 de agosto de 2024, relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho 6 . El Convenio también fue firmado en esa ocasión por Andorra, Georgia, Islandia, Israel, Montenegro, Noruega, la República de Moldavia, San Marino, el Reino Unido y los Estados Unidos de América. Está abierto a la firma de los demás Estados miembros del Consejo de Europa y de Estados no miembros que hayan participado en su elaboración en algún momento. Tras su entrada en vigor, el Comité de Ministros del Consejo de Europa podrá, con arreglo al procedimiento establecido en el artículo 31 del Convenio, invitar a adherirse a él a cualquier Estado no miembro del Consejo de Europa que no haya participado su elaboración.
En este contexto, el objetivo de la presente propuesta de Decisión del Consejo es iniciar el proceso de celebración del Convenio en nombre de la Unión en los términos establecidos en la Decisión 2024/2218 del Consejo, por la que se autoriza su firma. La celebración del primer acuerdo internacional sobre IA representa una valiosa oportunidad para que la Unión fomente un enfoque común para regular la IA a escala internacional y proporcione un marco para la cooperación con los miembros del Consejo de Europa y los terceros países que se conviertan en Partes en el Convenio.
·Contenido del Convenio
El objetivo del Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de IA sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.
Las Partes en el Convenio tendrán que aplicarlo mediante las medidas legislativas, administrativas o de otro tipo adecuadas para dar efecto a sus disposiciones, siguiendo un enfoque gradual y diferenciado, en función de la gravedad y la probabilidad de efectos adversos. El Convenio debe aplicarse exclusivamente en la Unión a través del Reglamento de Inteligencia Artificial, que armoniza plenamente las normas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA, así como de otras disposiciones pertinentes del acervo de la Unión, en aquellos casos en que proceda.
El ámbito de aplicación del Convenio abarca los sistemas de IA que pueden interferir en los derechos humanos, la democracia y el Estado de Derecho, siguiendo un enfoque diferenciado. Los principios y las obligaciones previstos en el Convenio se aplicarán a las actividades dentro del ciclo de vida de los sistemas de IA realizadas por autoridades públicas o agentes privados que actúen en su nombre. En cuanto al sector privado, las Partes están obligadas a abordar los riesgos e impactos derivados de las actividades realizadas por agentes privados durante el ciclo de vida de los sistemas de IA de manera acorde con el objeto y la finalidad del Convenio, pero tienen la opción de aplicar las obligaciones del Convenio o de adoptar otras medidas adecuadas. Se adjunta a la presente propuesta de Decisión del Consejo un proyecto de declaración por la que se compromete a la Unión, a través del Reglamento de Inteligencia Artificial y de otras disposiciones pertinentes del acervo de la Unión, a aplicar los principios y obligaciones establecidos en los capítulos II a VI del Convenio a las actividades de agentes privados que introduzcan en el mercado, pongan en servicio y utilicen sistemas de IA en la Unión.
Las actividades de IA relacionadas con la seguridad nacional están excluidas del ámbito de aplicación del Convenio, entendiéndose que, en cualquier caso, deben realizarse de forma coherente con el Derecho internacional aplicable en materia de derechos humanos y con el respeto de las instituciones y los procesos democráticos. El Convenio también excluye las actividades de investigación y desarrollo relativas a sistemas de IA que aún no se hayan puesto a disposición para su uso, a menos que las actividades de prueba o similares puedan interferir con los derechos humanos, la democracia y el Estado de Derecho. De conformidad con el Estatuto del Consejo de Europa, las cuestiones relativas a la defensa nacional no entran en el ámbito de aplicación del Convenio.
Por otro lado, el Convenio establece un conjunto de obligaciones generales y principios fundamentales, incluida la protección de la dignidad humana y la autonomía individual, así como la promoción de la igualdad y la no discriminación. Además, exige el respeto de la privacidad y la protección de los datos personales, junto con la transparencia y la supervisión, para garantizar la rendición de cuentas y la responsabilidad. Un principio también se dedica a la innovación segura y a la experimentación en entornos controlados.
Un capítulo específico sobre las vías de recurso también prevé un conjunto de medidas destinadas a garantizar la disponibilidad de vías de recurso accesibles y eficaces para las violaciones de los derechos humanos derivadas de las actividades durante el ciclo de vida de los sistemas de IA. También incluye garantías procesales y salvaguardias efectivas para las personas cuyos derechos se hayan visto significativamente afectados por el uso de dichos sistemas. Además, debe informarse a las personas de que están interactuando con un sistema de IA y no con un ser humano.
El Convenio también incluye un capítulo sobre medidas para la evaluación y mitigación de los riesgos y efectos adversos, que deben aplicarse con continuidad, a fin de identificar los efectos reales y potenciales sobre los derechos humanos, la democracia y el Estado de Derecho y adoptar las medidas adecuadas de prevención y mitigación.
Además, el Convenio establece que las Partes deben evaluar la necesidad de prohibiciones o moratorias para determinadas aplicaciones de sistemas de IA considerados incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el Estado de Derecho.
El Convenio establece un mecanismo de seguimiento en el seno de una Conferencia de las Partes, compuesta por representantes de las Partes, que se consultarán periódicamente con el fin de facilitar el uso y la aplicación efectivos del Convenio.
También prevé un mecanismo de cooperación internacional tanto entre las Partes como en las relaciones con terceros países y las partes interesadas pertinentes, a fin de alcanzar el objetivo del Convenio.
Además, cada Parte debe establecer o designar a nivel nacional uno o varios mecanismos eficaces para supervisar el cumplimiento de las obligaciones establecidas en el Convenio, tal como hayan sido aplicadas por las Partes.
•Coherencia con las disposiciones existentes en la misma política sectorial
El Convenio establece principios y obligaciones generales para la protección de los derechos humanos, la democracia y el Estado de Derecho que son plenamente coherentes y están en consonancia con los objetivos del Reglamento de Inteligencia Artificial y los requisitos detallados para los sistemas de IA y las obligaciones impuestas a los proveedores y los responsables del despliegue de dichos sistemas.
La definición de sistema de IA del Convenio se ajusta plenamente a la definición del Reglamento, ya que ambos se basan en la definición de dichos sistemas empleada en los principios de IA 7 de la Organización de Cooperación y Desarrollo Económicos, garantizando así una interpretación común de las tecnologías digitales que constituyen la IA.
Tanto el Convenio como el Reglamento de Inteligencia Artificial siguen asimismo un enfoque basado en el riesgo para la regulación de los sistemas de IA e incluyen disposiciones específicas para las evaluaciones de riesgos y de impacto y las medidas de mitigación de riesgos. El Reglamento de Inteligencia Artificial incluye, en particular, una serie de prohibiciones pertinentes y casos de uso de alto riesgo para los sistemas de IA en todos los sectores públicos y privados, también en el ámbito de la democracia y la justicia. Las normas y procedimientos detallados del Reglamento de Inteligencia Artificial para el desarrollo, la introducción en el mercado y el despliegue de sistemas de IA en esos ámbitos garantizarán así el respeto de los derechos fundamentales, la democracia y el Estado de Derecho a lo largo de todo el ciclo de vida de la IA.
El Convenio incluye principios y obligaciones ya cubiertos por el Reglamento de Inteligencia Artificial, como medidas para proteger los derechos humanos, la seguridad y la fiabilidad, la rendición de cuentas y la responsabilidad, la gobernanza y la protección de datos, la transparencia y la supervisión, la igualdad y la no discriminación, las capacidades y la alfabetización digitales.
La transparencia es otro elemento común de ambos instrumentos jurídicos, incluidas las medidas relativas a la identificación de contenidos generados por IA y la notificación de las personas que interactúan con sistemas de IA. Ambos instrumentos jurídicos también incluyen disposiciones pertinentes sobre las evaluaciones de riesgos e impacto y la gestión de riesgos, el mantenimiento de registros, la divulgación (a los organismos y autoridades autorizados y, en su caso, a las personas afectadas), la trazabilidad y legibilidad, la innovación segura y la experimentación en entornos controlados, así como un conjunto de medidas para permitir vías de recurso eficaces, incluido el derecho a solicitar y obtener información y reclamación ante una autoridad competente, y garantías procesales.
El sistema de supervisión previsto en el Convenio también es plenamente coherente con el sistema general de gobernanza y ejecución del Reglamento de Inteligencia Artificial, que consiste en la ejecución a escala nacional y de la Unión, con procedimientos para la aplicación coherente de las normas de la Unión en todos los Estados miembros. En particular, el Convenio prevé uno o varios mecanismos de supervisión eficaces a nivel nacional que deben ejercer sus funciones de manera independiente e imparcial y contar con las competencias, los conocimientos especializados y los recursos necesarios para cumplir eficazmente las tareas de supervisión del cumplimiento de las obligaciones establecidas en el Convenio, tal como hayan dado efecto las Partes.
Si bien el Reglamento de Inteligencia Artificial se aplicará a los sistemas de IA introducidos en el mercado, puestos en servicio o utilizados en la Unión, el Convenio tiene un alcance geográfico más amplio que abarca a los miembros del Consejo de Europa y a terceros Estados de todo el mundo que pueden adherirse al Convenio. Así pues, el Convenio representa una oportunidad única para fomentar una IA fiable fuera de la Unión en un primer tratado internacional jurídicamente vinculante basado en un sólido enfoque de la regulación de la IA en materia de derechos humanos.
Tanto el Convenio como el Reglamento de Inteligencia Artificial son componentes integrales de un enfoque regulador de la IA, con compromisos coherentes y que se refuerzan mutuamente a múltiples niveles internacionales, y comparten el objetivo común de garantizar una IA fiable.
•Coherencia con otras políticas de la Unión
El Convenio también comparte objetivos comunes con otras políticas y legislación de la Unión destinadas a aplicar los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión 8 .
En particular, el principio de igualdad y no discriminación consagrado en el Convenio es plenamente coherente con la legislación de la Unión en materia de no discriminación y promoverá la integración de las consideraciones de igualdad en el diseño, el desarrollo y el uso de los sistemas de IA y la aplicación efectiva de la prohibición de la discriminación, tal como se establece en el Derecho internacional y nacional aplicable de las Partes.
Además, el Convenio es coherente con el acervo de la Unión en materia de protección de datos, incluido el Reglamento general de protección de datos 9 en relación con los derechos fundamentales a la intimidad y a la protección de datos personales, con garantías y salvaguardias efectivas para las personas, en consonancia con las obligaciones jurídicas nacionales e internacionales aplicables de las Partes.
Las medidas previstas en el Convenio destinadas a proteger los procesos democráticos de las Partes en el contexto de las actividades durante el ciclo de vida del sistema de IA son plenamente coherentes con los objetivos y las normas detalladas del Reglamento de Servicios Digitales 10 (y el Código de Conducta en materia de Desinformación 11 ), que regula la prestación de servicios intermediarios en la Unión con el fin de garantizar un entorno en línea seguro, predecible y fiable en el que se respeten los derechos fundamentales, incluido el derecho a la libertad de expresión y el derecho a recibir y comunicar información. También son coherentes con el Reglamento sobre transparencia y segmentación en la publicidad política 12 , que contiene un requisito específico de transparencia cuando los sistemas de IA se utilizan para difundir publicidad política. También son coherentes con las políticas de la Unión en el ámbito de la democracia y de unas elecciones libres, justas y resilientes 13 , incluido el Plan de Acción para la Democracia Europea de 2020 14 , el Paquete «Reforzar la democracia y la integridad de las elecciones» 15 y, recientemente, el Paquete de Defensa de la Democracia de 2023 16 .
La propuesta también es coherente con la estrategia digital general de la Unión en su contribución para promover una tecnología al servicio de las personas, uno de los tres pilares principales de las orientaciones políticas y los objetivos anunciados en la Comunicación titulada «Configurar el futuro digital de Europa» 17 . Su objetivo es garantizar que la IA se desarrolle respetando los derechos humanos y ganando la confianza de las personas, logrando una Europa adaptada a la era digital y convirtiendo los próximos diez años en el Decenio Digital 18 .
Además, la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital 19 contiene varios derechos y principios digitales que están en consonancia con los objetivos y principios del Convenio, pues ambos instrumentos promueven un enfoque sólido de la tecnología basado en los derechos humanos.
El Convenio también es coherente con la Estrategia de la UE sobre los Derechos del Niño 20 y la Estrategia Europea para una Internet Mejor para los Niños (BIK +) 21 , cuyo objetivo es garantizar que los niños sean protegidos, respetados y capacitados en línea para hacer frente a los retos de los nuevos mundos virtuales y de la IA.
2.BASE JURÍDICA, SUBSIDIARIEDAD Y PROPORCIONALIDAD
•Base jurídica
La propuesta de Decisión por la que se autoriza la celebración del Convenio en nombre de la Unión se presenta al Consejo de conformidad con el artículo 218, apartado 6, letra a), inciso v), del TFUE.
La base jurídica procedimental de la Decisión del Consejo — el artículo 218, apartado 6, letra a), inciso v), del TFUE — prevé una decisión del Consejo relativa a la celebración del acuerdo, a propuesta de la Comisión como negociadora; en el caso de un acuerdo que abarque un ámbito al que se aplique el procedimiento legislativo ordinario, previa aprobación del Parlamento Europeo. El artículo 218, apartado 8, párrafo primero, del TFUE prevé la votación por mayoría cualificada para la adopción de la Decisión del Consejo.
La base jurídica sustantiva de una decisión con arreglo al artículo 218, apartado 6, letra a), inciso v), del TFUE depende en primera instancia del objetivo y el contenido del acuerdo. Con arreglo a la jurisprudencia, si el examen de una medida de la UE indica que esta persigue un doble objetivo o que tiene un componente doble, y si uno de dichos objetivos o componentes puede calificarse de principal o preponderante mientras que el otro solo es accesorio, la medida debe fundarse en una sola base jurídica, a saber, aquella que exija el objetivo o componente principal o preponderante. Con carácter excepcional, si se demuestra, por el contrario, que el acto persigue al mismo tiempo varios objetivos o tiene varios componentes, vinculados entre sí de manera indisociable, sin que uno de ellos sea accesorio del otro, de modo que sean aplicables diversas disposiciones del Tratado, el acto deberá fundarse en las distintas bases jurídicas correspondientes.
Por lo que se refiere a la base jurídica sustantiva, el ámbito de aplicación material del Convenio está cubierto por el Reglamento de Inteligencia Artificial, también en relación con la exención del ámbito de aplicación relativa a los sistemas de IA utilizados exclusivamente para la investigación y el desarrollo, la seguridad nacional y las actividades militares. El análisis anterior también ha demostrado que los principios y obligaciones del Convenio están cubiertos en gran medida y que se solapan con los requisitos más detallados para los sistemas de IA y las obligaciones específicas de los proveedores e implementadores de dichos sistemas en virtud del Reglamento de Inteligencia Artificial. Si el Consejo adopta la decisión propuesta y la Unión celebra el Convenio, el Reglamento de Inteligencia Artificial constituirá la legislación primaria de la Unión para aplicar el Convenio en el ordenamiento jurídico de esta con normas plenamente armonizadas sobre la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión que son directamente aplicables en todos los Estados miembros, a menos que el Reglamento de Inteligencia Artificial disponga expresamente otra cosa 22 .
Teniendo en cuenta que el ámbito de aplicación y los objetivos del Convenio están en consonancia y son plenamente coherentes con los del Reglamento, y que hay un solapamiento importante entre ambos instrumentos jurídicos, la base jurídica sustantiva para la celebración del Convenio es el artículo 114 del TFUE, que es la base jurídica principal del Reglamento de Inteligencia Artificial.
La naturaleza de los acuerdos internacionales («exclusivamente de la UE» o «mixtos») está supeditada a la compatibilidad del objeto específico con las competencias exclusivas o compartidas de la Unión.
El artículo 3, apartado 2, del TFUE establece que la Unión dispone de competencia exclusiva «para la celebración de un acuerdo internacional [...] en la medida en que pueda afectar a normas comunes o alterar su alcance». Un acuerdo internacional puede afectar a normas comunes o alterar su alcance cuando el ámbito cubierto por el acuerdo se solape con el Derecho de la Unión o esté cubierto en gran medida por este 23 .
El ámbito de aplicación personal del Convenio se ajusta plenamente al Reglamento de Inteligencia Artificial, ya que ambos instrumentos jurídicos abarcan, en principio, tanto a los agentes públicos como a los privados (con la aplicación facultativa de los principios y las obligaciones del Convenio a agentes privados distintos de los que actúan en nombre de las autoridades públicas), mientras que el ámbito de aplicación material de ambos instrumentos jurídicos excluye de las normas aplicables las actividades de IA relacionadas exclusivamente con la seguridad nacional, el ámbito militar y la investigación.
Teniendo en cuenta que el ámbito de aplicación personal y material del Convenio y el del Reglamento de Inteligencia Artificial se solapan, la celebración del Convenio puede afectar a normas comunes de la Unión o alterar su alcance en el sentido del artículo 3, apartado 2, del TFUE. Por consiguiente, debe considerarse que la Unión goza de competencia externa exclusiva para celebrar el Convenio, y el Convenio debe celebrarse en nombre de la Unión como acuerdo «exclusivamente de la UE», ya que se firmó de conformidad con la autorización prevista en la Decisión (UE) 2024/2218 del Consejo.
•Proporcionalidad
El Convenio no va más allá de lo necesario para alcanzar los objetivos políticos, desarrollando un enfoque coherente de la regulación de la IA a escala internacional.
El Convenio establece un marco jurídico de alto nivel para la IA que permite flexibilidad, permitiendo a las Partes diseñar concretamente los marcos de aplicación. El enfoque basado en el riesgo también garantiza la proporcionalidad de las normas y permite diferenciar las medidas de aplicación proporcionalmente a los riesgos, de manera similar al Reglamento de Inteligencia Artificial.
•Elección del instrumento
El instrumento elegido es una propuesta de Decisión del Consejo con arreglo al artículo 218, apartado 6, letra a), inciso v), del TFUE.
3.RESULTADOS DE LAS EVALUACIONES A POSTERIORI, LAS CONSULTAS CON LAS PARTES INTERESADAS Y LAS EVALUACIONES DE IMPACTO
•Derechos fundamentales
El Convenio tiene por objeto abordar los posibles riesgos y perjuicios para los derechos humanos garantizando que las actividades durante el ciclo de vida de los sistemas de IA se ajusten a los principios de respeto de los derechos humanos, la democracia y el Estado de Derecho, reconociendo al mismo tiempo el potencial de la IA para proteger y facilitar el ejercicio de esos derechos en el entorno digital y mejorar el bienestar social y medioambiental y el progreso tecnológico.
Los principios y obligaciones concretos previstos en el Convenio tienen por objeto proteger y respetar los derechos humanos, consagrados en múltiples instrumentos internacionales y regionales 24 , aplicables a las Partes, incluida la Carta de los Derechos Fundamentales de la Unión y los instrumentos internacionales sobre derechos humanos que la Unión ha celebrado.
Así pues, el Convenio establece un nivel mínimo común para la protección de los derechos humanos en el contexto de la IA, salvaguardando al mismo tiempo la protección existente de los derechos humanos y permitiendo a las Partes ofrecer una protección más amplia con salvaguardias más estrictas.
4.REPERCUSIONES PRESUPUESTARIAS
El Convenio prevé contribuciones financieras de Estados no miembros a las actividades de la Conferencia de las Partes. Si bien todos los miembros del Consejo de Europa contribuirán a través del presupuesto ordinario de dicho Consejo de conformidad con el Estatuto del Consejo de Europa, las Partes que no sean miembros realizarán contribuciones extrapresupuestarias. La contribución de un no miembro del Consejo de Europa será establecida conjuntamente por el Comité de Ministros y el no miembro.
El Convenio no interfiere con las leyes y reglamentos internos de las Partes que regulan las competencias presupuestarias y los procedimientos para los créditos presupuestarios. El Convenio marco no establece la forma en que se determinarán las contribuciones, incluidos los importes y modalidades, de las Partes que no sean miembros del Consejo de Europa. La base jurídica de la contribución de dichas Partes será el propio Convenio Marco y el acto o actos por los que se determine dicha contribución 25 .
5.OTROS ELEMENTOS
•Planes de ejecución y modalidades de seguimiento, evaluación e información
La Conferencia de las Partes, compuesta por representantes de estas, supervisará la aplicación efectiva del Convenio por las Partes y formulará recomendaciones específicas a tal fin. La Conferencia de las Partes estudiará también posibles modificaciones al Convenio.
Cada Parte deberá presentar un informe a la Conferencia de las Partes prevista en los dos primeros años siguientes a la adhesión y posteriormente a intervalos regulares, en el que se detallen las medidas adoptadas para aplicar el Convenio. Se anima además a las Partes a cooperar en el cumplimiento de los objetivos del Convenio. Esta cooperación internacional puede incluir el intercambio de información pertinente sobre la IA y su potencial para afectar negativamente o positivamente a los derechos humanos, la democracia y el Estado de Derecho.
Para garantizar la supervisión y la aplicación del Convenio, cada Parte tendrá que designar uno o varios mecanismos de supervisión eficaces a nivel interno. A escala de la Unión, la Comisión garantizará la supervisión y la aplicación del Convenio, de conformidad con los Tratados.
Los considerandos de la presente propuesta relativa a la celebración del Convenio confirman que, de conformidad con el artículo 218, apartado 9, del TFUE, el Consejo, a propuesta de la Comisión, debe adoptar decisiones por las que se establezcan las posiciones que deban adoptarse en nombre de la Unión en la Conferencia de las Partes, cuando dicho organismo deba adoptar actos que surtan efectos jurídicos, en particular el Reglamento Interno de la Conferencia de las Partes. Durante la negociación de dicho Reglamento Interno, que debe adoptarse por consenso en un plazo de doce meses a partir de la entrada en vigor del Convenio 26 , la Unión tratará de garantizar que se le asignen veintisiete votos, que corresponde al número de sus Estados miembros. En caso de que se asignen a la Unión los veintisiete votos, la Comisión, en representación de la Unión, procurará garantizar una coordinación reforzada con los Estados miembros para expresar posiciones uniformes en la Conferencia de las Partes y ejercer su derecho de voto en nombre de la Unión. Dado que todos los Estados miembros también son miembros del Consejo de Europa y habida cuenta de la rápida evolución de la inteligencia artificial, así como de la necesidad de contar con un marco coherente aplicable a escala mundial en este ámbito, tal coordinación reforzada es especialmente pertinente. Con el fin de garantizar una coordinación reforzada, el Consejo debe participar en la formulación de todas las posiciones, cualquiera que sea su naturaleza, incluidas las basadas en el artículo 16, apartado 1, del TUE y el artículo 218, apartado 9, del TFUE. La Comisión propondrá que se faculte a los Estados miembros, de conformidad con el artículo 2, apartado 1, del TFUE y respetando plenamente la competencia exclusiva de la Unión, para adherirse al Convenio junto con la Unión en caso de que a pesar de sus esfuerzos, la Unión no logre que se le asignen veintisiete votos, a fin de garantizar que la esta disponga de un número de votos que refleje su peso en el Consejo de Europa y le permita defender adecuadamente sus intereses.
La Comisión invitará a cada Estado miembro a enviar a un representante para acompañar a la representación de la Comisión como parte de la delegación de la Unión en las reuniones de la Conferencia de las Partes. Debe respetarse el principio de cooperación leal.
2025/0136 (NLE)
Propuesta de
DECISIÓN DEL CONSEJO
relativa a la celebración, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho
EL CONSEJO DE LA UNIÓN EUROPEA,
Visto el Tratado de Funcionamiento de la Unión Europea, y en particular su artículo 114, en relación con su artículo 218, apartado 6, letra a), inciso v),
Vista la propuesta de la Comisión Europea,
Vista la aprobación del Parlamento Europeo,
Considerando lo siguiente:
(1)De conformidad con la Decisión (UE) 2024/2218 del Consejo 27 , el Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en lo sucesivo, «Convenio») se firmó el 5 de septiembre de 2024 en nombre de la Unión Europea, a reserva de su celebración en una fecha posterior.
(2)El Convenio establece los principios generales y las obligaciones que las Partes en el Convenio deben cumplir para garantizar la protección de los derechos humanos, la democracia y el Estado de Derecho en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial (IA).
(3)El 13 de junio de 2024, el Parlamento Europeo y el Consejo adoptaron, sobre la base de los artículos 16 y 114 del Tratado de Funcionamiento de la Unión Europea (TFUE), el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo 28 , que contiene normas armonizadas, basadas por lo general en una armonización íntegra, que regulan la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión. Dichas normas son directamente aplicables en los Estados miembros, a menos que dicho Reglamento disponga expresamente otra cosa. El Convenio debe aplicarse en la Unión exclusivamente a través del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo y de otras disposiciones pertinentes del acervo de la Unión, en aquellos casos en que proceda.
(4)Las actividades en el marco del ciclo de vida de los sistemas de IA relacionadas con la protección de los intereses de seguridad nacional están excluidas del ámbito de aplicación del Convenio. El Reglamento (UE) 2024/1689 del Parlamento y del Consejo, que será el principal acto jurídico de la Unión por el que se aplique el Convenio, también excluye de su ámbito de aplicación los sistemas de IA introducidos en el mercado, puestos en servicio o utilizados, con o sin modificaciones, exclusivamente con fines de seguridad nacional, así como la información de salida de los sistemas de IA utilizada en la Unión exclusivamente para tales fines, independientemente del tipo de entidad que lleve a cabo estas actividades. Además, la seguridad nacional sigue siendo responsabilidad exclusiva de cada Estado miembro, a tenor de lo dispuesto en el artículo 4, apartado 2, del Tratado de la Unión Europea (TUE). Por consiguiente, la posición de la Unión que ha de expresarse en la Conferencia de las Partes establecida por el Convenio debe respetar los límites indicados. En particular, la Comisión debe abstenerse de debatir o adoptar cualquier posición sobre actividades en el marco del ciclo de vida de los sistemas de IA relacionadas con la protección de los intereses de seguridad nacional en las reuniones de la Conferencia de las Partes.
(5)Teniendo en cuenta que el ámbito de aplicación subjetivo y material del Convenio y sus disposiciones materiales coinciden en gran medida con el Reglamento (UE) 2024/1689 del Parlamento y del Consejo, que complementan otras disposiciones pertinentes del acervo de la Unión, la celebración del Convenio puede afectar a normas comunes de la Unión o alterar el alcance de las mismas en el sentido del artículo 3, apartado 2, del TFUE. Entre esas otras disposiciones pertinentes del acervo de la Unión figuran actos jurídicos destinados a aplicar los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea, como la legislación de la Unión en materia de no discriminación, y en particular las Directivas 2000/43/CE 29 y 2000/78/CE 30 del Consejo; el acervo de la Unión sobre protección de datos personales, y en particular los Reglamentos (UE) 2016/679 31 y (UE) 2022/2065 32 del Parlamento Europeo y del Consejo, cuyo objetivo es garantizar un entorno en línea seguro, predecible y digno de confianza en el que se respeten los derechos fundamentales, incluidos el derecho a la libertad de expresión y el derecho a recibir o comunicar informaciones; el Reglamento (UE) 2024/900 del Parlamento Europeo y del Consejo, sobre la publicidad política 33 ; y la legislación sobre seguridad de los productos y la legislación sobre responsabilidad por los daños causados por productos defectuosos, incluida la Directiva 85/374/CEE del Consejo 34 . La Unión goza por lo tanto de competencia externa exclusiva para firmar el Convenio. Por consiguiente, solo la Unión debe convertirse en Parte en el Convenio.
(6)La Conferencia de las Partes desempeñará un papel fundamental en la aplicación efectiva del Convenio, entre otros mediante la formulación de recomendaciones específicas sobre su interpretación y aplicación. La Conferencia de las Partes estudiará también posibles modificaciones al Convenio. De conformidad con el artículo 218, apartado 9, del TFUE, el Consejo, a propuesta de la Comisión, debe adoptar decisiones por las que se establezcan las posiciones que deban adoptarse en nombre de la Unión en la Conferencia de las Partes, cuando dicho organismo deba adoptar actos que surtan efectos jurídicos, en particular el Reglamento Interno de la Conferencia de las Partes. Durante la negociación de dicho Reglamento Interno, que debe adoptarse por consenso en un plazo de doce meses a partir de la entrada en vigor del Convenio, la Unión tratará de garantizar que se le asignen veintisiete votos, que corresponde al número de sus Estados miembros. En caso de que se asignen a la Unión los veintisiete votos, la Comisión, en representación de la Unión, debe garantizar una coordinación reforzada con los Estados miembros para expresar posiciones uniformes en la Conferencia de las Partes y ejercer su derecho de voto en nombre de la Unión. Dado que todos los Estados miembros también son miembros del Consejo de Europa y habida cuenta de la rápida evolución de la inteligencia artificial, así como de la necesidad de contar con un marco coherente aplicable a escala mundial en este ámbito, tal coordinación reforzada es especialmente pertinente. Con el fin de garantizar una coordinación reforzada, el Consejo debe participar en la formulación de todas las posiciones, cualquiera que sea su naturaleza, incluidas las basadas en el artículo 16, apartado 1, del TUE y el artículo 218, apartado 9, del TFUE. En caso de que a pesar de sus esfuerzos, la Unión no logre que se le asignen veintisiete votos, la Comisión, a fin de garantizar que la Unión disponga de un número de votos que refleje su peso en el Consejo de Europa y le permita defender adecuadamente sus intereses, debe proponer que se faculte a los Estados miembros, de conformidad con el artículo 2, apartado 1, del TFUE y respetando plenamente la competencia exclusiva de la Unión, para adherirse al Convenio junto con la Unión.
(7)La Comisión invitará a cada Estado miembro a enviar a un representante para acompañar a la representación de la Comisión como parte de la delegación de la Unión en las reuniones de la Conferencia de las Partes. Debe respetarse el principio de cooperación leal.
(8)Por lo que respecta a cualquier otro acuerdo que pueda celebrarse en el futuro bajo los auspicios del Consejo de Europa o en otros foros internacionales, también en el ámbito de la inteligencia artificial, y por lo que respecta a cualquier enmienda del Convenio, el reparto de competencias externas entre la Unión y los Estados miembros debe evaluarse a la luz de las características específicas de cada instrumento. Es de suma importancia que la Unión y sus Estados miembros puedan seguir desempeñando un papel directo y activo a la hora de expresar la voz de la Unión y defender sus intereses, de manera coherente y coordinada, en plena consonancia con los Tratados.
(9)Procede aprobar el Convenio en nombre de la Unión.
HA ADOPTADO LA PRESENTE DECISIÓN:
Artículo 1
Se aprueba, en nombre de la Unión, la celebración del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (en lo sucesivo, «el Convenio»).
El texto del Convenio que debe celebrarse se adjunta a la presente Decisión como anexo I.
Artículo 2
Quedan aprobadas, en nombre de la Unión, las declaraciones que deben presentarse al Secretario General del Consejo de Europa, adjuntas a la presente Decisión en el anexo II.
Artículo 3
El Convenio se aplicará en la Unión exclusivamente a través del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial, y de otras disposiciones pertinentes del acervo de la Unión, en aquellos casos en que proceda.
Artículo 4
La presente Decisión entrará en vigor el […].
Hecho en Bruselas, el
Por el Consejo
El Presidente / La Presidenta
COMISIÓN EUROPEA
Bruselas, 3.6.2025
COM(2025) 265 final
ANEXOS
de la
Propuesta de Decisión del Consejo
relativa a la celebración, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho
ANEXO I
Texto del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho
Vilna, 5 de septiembre de 2024.
Preámbulo
Los Estados miembros del Consejo de Europa y los demás signatarios del presente Convenio,
Considerando que el objetivo del Consejo de Europa es lograr una mayor unidad entre sus miembros, basada en particular en el respeto de los derechos humanos, la democracia y el Estado de Derecho;
Reconociendo el valor de fomentar la cooperación entre las Partes en el presente Convenio y de extender dicha cooperación a otros Estados que comparten los mismos valores;
Conscientes de la aceleración de la evolución de la ciencia y la tecnología y de los profundos cambios provocados por las actividades en el ciclo de vida de los sistemas de inteligencia artificial, que tienen potencial para promover la prosperidad humana, así como el bienestar individual y social, el desarrollo sostenible, la igualdad de género y el empoderamiento de todas las mujeres y niñas, así como otros objetivos e intereses importantes, mejorando el progreso y la innovación;
Reconociendo que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial pueden ofrecer oportunidades sin precedentes para proteger y promover los derechos humanos, la democracia y el Estado de Derecho;
Preocupados debido a que determinadas actividades dentro del ciclo de vida de los sistemas de inteligencia artificial pueden minar la dignidad humana y la autonomía individual, los derechos humanos, la democracia y el Estado de Derecho;
Preocupados por los riesgos de discriminación en contextos digitales, en particular los que implican sistemas de inteligencia artificial, y su posible efecto de crear o agravar desigualdades, incluidas las que sufren las mujeres y las personas en situaciones vulnerables, en relación con el disfrute de sus derechos humanos y su participación plena, equitativa y efectiva en los asuntos económicos, sociales, culturales y políticos;
Preocupados por el uso indebido de los sistemas de inteligencia artificial y la oposición al uso de dichos sistemas con fines represivos en violación del Derecho internacional en materia de derechos humanos, en particular mediante prácticas arbitrarias o ilegales de vigilancia y censura que erosionan la privacidad y la autonomía individual;
Conscientes de que los derechos humanos, la democracia y el Estado de Derecho están intrínsecamente entrelazados;
Convencidos de la necesidad de establecer, con carácter prioritario, un marco jurídico aplicable a escala mundial que establezca principios generales y normas comunes que rijan las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial que preserve eficazmente los valores compartidos y aproveche los beneficios de la inteligencia artificial para la promoción de estos valores de forma que ello que conduzca a una innovación responsable;
Reconociendo la necesidad de promover la alfabetización digital, el conocimiento y la confianza en el diseño, el desarrollo, el uso y el desmantelamiento de los sistemas de inteligencia artificial;
Reconociendo el carácter de marco del presente Convenio, que podrá complementarse con otros instrumentos para abordar cuestiones específicas relacionadas con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial;
Subrayando que el presente Convenio tiene por objeto abordar los retos específicos que surgen a lo largo del ciclo de vida de los sistemas de inteligencia artificial y fomentar la consideración de los riesgos y efectos más amplios relacionados con estas tecnologías, incluidos, entre otros, la salud humana y el medio ambiente, así como los aspectos socioeconómicos, como el empleo y el trabajo;
Tomando nota de los esfuerzos pertinentes para promover el entendimiento y la cooperación internacionales en materia de inteligencia artificial por parte de otras organizaciones y foros internacionales y supranacionales;
Conscientes de los instrumentos internacionales aplicables en materia de derechos humanos, como la Declaración Universal de Derechos Humanos de 1948; el Convenio para la Protección de los Derechos Humanos y de las Libertades Fundamentales de 1950 (ETS n.º 5); el Pacto Internacional de Derechos Civiles y Políticos de 1966; el Pacto Internacional de Derechos Económicos, Sociales y Culturales de 1961; la Carta Social Europea de 1966 (ETS n.º 35), así como sus respectivos protocolos; y la Carta Social Europea de 1996 (revisada) (ETS n.º 163);
Conscientes asimismo de la Convención de las Naciones Unidas sobre los Derechos del Niño de 1989 y la Convención de las Naciones Unidas sobre los Derechos de las Personas con Discapacidad de 2006.
Teniendo también en cuenta, en su caso, los derechos a la intimidad de las personas y la protección de los datos personales otorgados, por ejemplo, por el Convenio de 1981 para la protección de las personas con respecto al tratamiento automatizado de datos de carácter personal (ETS n.º 108) y sus protocolos;
Afirmando el compromiso de las Partes con la protección de los derechos humanos, la democracia y el Estado de Derecho, y fomentando la fiabilidad de los sistemas de inteligencia artificial a través del presente Convenio,
Han acordado lo siguiente:
Capítulo I – Disposiciones generales
Artículo 1 - Objeto y finalidad
1)El objetivo de las disposiciones del presente Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho.
2)Cada Parte adoptará o mantendrá medidas legislativas, administrativas o de otro tipo adecuadas para dar efecto a las disposiciones establecidas en el presente Convenio. Estas medidas se graduarán y diferenciarán según sea necesario en vista de la gravedad y la probabilidad de que se produzcan efectos adversos en los derechos humanos, la democracia y el Estado de Derecho a lo largo de todo el ciclo de vida de los sistemas de inteligencia artificial. Esto puede incluir medidas específicas u horizontales que se apliquen independientemente del tipo de tecnología utilizada.
3)Con el fin de garantizar la aplicación efectiva de sus disposiciones por las Partes, el presente Convenio establece un mecanismo de seguimiento y prevé la cooperación internacional.
Artículo 2 - Definición de sistemas de inteligencia artificial
A efectos del presente Convenio, se entenderá por «sistema de inteligencia artificial» un sistema basado en máquinas que, para objetivos explícitos o implícitos, deduce, de la información que recibe, cómo generar resultados, como predicciones, contenidos, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales. Los distintos sistemas de inteligencia artificial varían en sus niveles de autonomía y capacidad de adaptación tras su despliegue.
Artículo 3 - Ámbito de aplicación
1)El objetivo del presente Convenio es garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho. Para ello:
a)Cada Parte aplicará el presente Convenio a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial llevadas a cabo por autoridades públicas o agentes privados que actúen en su nombre.
b)Cada Parte abordará los riesgos e impactos derivados de las actividades realizadas por agentes privados dentro del ciclo de vida de los sistemas de inteligencia artificial en la medida en que no estén contemplados en la letra a) de manera conforme con el objeto y la finalidad del presente Convenio.
Cada Parte especificará en una declaración presentada al Secretario General del Consejo de Europa, en el momento de la firma o al depositar su instrumento de ratificación, aceptación, aprobación o adhesión, cómo pretende aplicar esta obligación, ya sea aplicando los principios y obligaciones establecidos en los capítulos II a VI del presente Convenio a las actividades de los agentes privados o adoptando otras medidas apropiadas para cumplir la obligación establecida en el presente párrafo. Las Partes podrán modificar sus declaraciones en cualquier momento y de la misma manera.
Al aplicar la obligación prevista en el presente párrafo, una Parte no podrá establecer excepciones ni limitar la aplicación de sus obligaciones internacionales contraídas para proteger los derechos humanos, la democracia y el Estado de Derecho.
2)Las Partes no estarán obligadas a aplicar el presente Convenio a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial relacionadas con la protección de sus intereses de seguridad nacional, entendiéndose que dichas actividades se llevan a cabo de conformidad con el Derecho internacional aplicable, incluidas las obligaciones del Derecho internacional en materia de derechos humanos, y respetando sus instituciones y procesos democráticos.
3)Sin perjuicio de lo dispuesto en el artículo 13 y en el apartado 2 del artículo 25, el presente Convenio no se aplicará a las actividades de investigación y desarrollo relativas a sistemas de inteligencia artificial que aún no se hayan puesto a disposición para su uso, a menos que las pruebas o actividades similares se lleven a cabo de manera que puedan interferir en los derechos humanos, la democracia y el Estado de Derecho.
4)Las materias relativas a la defensa nacional no pertenecen al ámbito de aplicación del presente Convenio.
Capítulo II - Obligaciones generales
Artículo 4 - Protección de los derechos humanos
Cada Parte adoptará o mantendrá medidas para garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial sean coherentes con las obligaciones de protección de los derechos humanos consagradas en el Derecho internacional aplicable y en su Derecho interno.
Artículo 5 - Integridad de los procesos democráticos y respeto del Estado de Derecho
1)Cada Parte adoptará o mantendrá medidas destinadas a garantizar que los sistemas de inteligencia artificial no se utilicen para socavar la integridad, la independencia y la eficacia de las instituciones y los procesos democráticos, incluido el principio de separación de poderes, el respeto de la independencia judicial y el acceso a la justicia.
2)Cada Parte adoptará o mantendrá medidas destinadas a proteger sus procesos democráticos en el contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, incluido el acceso justo de las personas al debate público y su participación en el mismo, así como su capacidad para formar libremente sus opiniones.
Capítulo III - Principios relacionados con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial
Artículo 6 - Orientación general
El presente capítulo establece los principios generales comunes que cada Parte aplicará en relación con los sistemas de inteligencia artificial de manera adecuada a su ordenamiento jurídico interno y a las demás obligaciones del presente Convenio.
Artículo 7 - Dignidad humana y autonomía individual
Cada Parte adoptará o mantendrá medidas para respetar la dignidad humana y la autonomía individual en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.
Artículo 8 - Transparencia y supervisión
Cada Parte adoptará o mantendrá medidas para garantizar que existan requisitos adecuados de transparencia y supervisión adaptados a los contextos y riesgos específicos en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial, también en lo que respecta a la identificación de contenidos generados por los sistemas de inteligencia artificial.
Artículo 9 - Rendición de cuentas y responsabilidad
Cada Parte adoptará o mantendrá medidas para garantizar la rendición de cuentas y la responsabilidad por los efectos adversos sobre los derechos humanos, la democracia y el Estado de Derecho resultantes de las actividades durante el ciclo de vida de los sistemas de inteligencia artificial.
Artículo 10 - Igualdad y no discriminación
1)Cada Parte adoptará o mantendrá medidas con vistas a garantizar que las actividades durante el ciclo de vida de los sistemas de inteligencia artificial respeten la igualdad, incluida la igualdad de género, y la prohibición de la discriminación, con arreglo a lo dispuesto en el Derecho internacional y nacional aplicable.
2)Cada Parte se compromete a adoptar o mantener medidas destinadas a superar las desigualdades para lograr resultados justos y equitativos, en consonancia con sus obligaciones nacionales e internacionales aplicables en materia de derechos humanos, en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.
Artículo 11 - Privacidad y protección de los datos personales
Cada Parte adoptará o mantendrá medidas para garantizar que, con respecto a las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial:
a)se protegen los derechos a la intimidad de las personas y sus datos personales, en particular a través de las leyes, normas y marcos nacionales e internacionales aplicables; y
b)se han establecido garantías y salvaguardias efectivas para las personas, de conformidad con las obligaciones jurídicas nacionales e internacionales aplicables.
Artículo 12 - Fiabilidad
Cada Parte adoptará, según proceda, medidas para promover la fiabilidad de los sistemas de inteligencia artificial y la confianza en sus resultados, que podrían incluir requisitos relacionados con la calidad y la seguridad adecuadas a lo largo de todo el ciclo de vida de los sistemas de inteligencia artificial.
Artículo 13 - Innovación segura
Con el fin de fomentar la innovación, evitando al mismo tiempo los efectos adversos sobre los derechos humanos, la democracia y el Estado de Derecho, se pide a cada Parte que permita, según proceda, el establecimiento de entornos controlados para desarrollar, experimentar y probar sistemas de inteligencia artificial bajo la supervisión de sus autoridades competentes.
Capítulo IV - Recursos
Artículo 14 - Recursos
1)Cada Parte, en la medida en que lo exijan sus obligaciones internacionales y sea coherente con su ordenamiento jurídico interno, adoptará o mantendrá medidas para garantizar la disponibilidad de vías de recurso accesibles y efectivas para las violaciones de los derechos humanos derivadas de las actividades durante el ciclo de vida de los sistemas de inteligencia artificial.
2)Con el fin de apoyar el apartado 1, cada Parte adoptará o mantendrá medidas que incluyan:
a)medidas para garantizar que la información pertinente relativa a los sistemas de inteligencia artificial que pueda afectar de forma significativa a los derechos humanos y a su uso pertinente esté documentada, se facilite a los organismos autorizados a acceder a dicha información y, cuando proceda y sea aplicable, se ponga a disposición o se comunique a las personas afectadas;
b)medidas para garantizar que la información a que se refiere la letra a) sea suficiente para que las personas afectadas impugnen la decisión o decisiones adoptadas mediante el uso del sistema o basadas en gran parte en tal uso y, cuando sea relevante y proceda, el uso mismo del sistema; y
c)la posibilidad efectiva de que las personas afectadas presenten una denuncia ante las autoridades competentes.
Artículo 15 - Garantías procesales
1)Cada Parte garantizará que, cuando un sistema de inteligencia artificial incida significativamente en el disfrute de los derechos humanos, las personas afectadas dispongan de garantías procesales, salvaguardias y derechos efectivos, de conformidad con el Derecho internacional y nacional aplicable.
2)Cada Parte procurará garantizar que, según proceda en función del contexto, se notifique a las personas que interactúan con los sistemas de inteligencia artificial que están interactuando con dichos sistemas en lugar de con un ser humano.
Capítulo V - Evaluación y mitigación de riesgos e impactos adversos
Artículo 16 - Marco de gestión de riesgos e impactos
1)Cada Parte, teniendo en cuenta los principios establecidos en el capítulo III, adoptará o mantendrá medidas para la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de inteligencia artificial, teniendo en cuenta las repercusiones reales y potenciales para los derechos humanos, la democracia y el Estado de Derecho.
2)Dichas medidas se graduarán y diferenciarán, según proceda, y:
a)tendrán debidamente en cuenta el contexto y el uso previsto de los sistemas de inteligencia artificial, en particular en lo que respecta a los riesgos para los derechos humanos, la democracia y el Estado de Derecho;
b)tendrán debidamente en cuenta la gravedad y la probabilidad de los posibles impactos;
c)considerarán, cuando proceda, las perspectivas de las partes interesadas pertinentes, en particular de las personas cuyos derechos puedan verse afectados;
d)se aplicarán de forma continuada en las actividades dentro del ciclo de vida del sistema de inteligencia artificial;
e)incluirán el seguimiento de los riesgos y los efectos adversos para los derechos humanos, la democracia y el Estado de Derecho;
f)incluirán documentación sobre los riesgos, las repercusiones reales y potenciales y el enfoque de gestión de riesgos; y
g)exigirán, cuando proceda, someter a pruebas a los sistemas de inteligencia artificial antes de ponerlos a disposición para su primera utilización y cuando se modifiquen significativamente;
3)Cada Parte adoptará o mantendrá medidas destinadas a garantizar que se aborden adecuadamente los efectos adversos de los sistemas de inteligencia artificial en los derechos humanos, la democracia y el Estado de Derecho. Dichos efectos adversos y las medidas para abordarlos deben documentarse e informar sobre las medidas de gestión de riesgos pertinentes descritas en el apartado 2.
4)Cada Parte evaluará la necesidad de una moratoria o prohibición u otras medidas adecuadas con respecto a determinados usos de los sistemas de inteligencia artificial cuando considere que tales usos son incompatibles con el respeto de los derechos humanos, el funcionamiento de la democracia o el Estado de Derecho.
Capítulo VI - Aplicación del Convenio
Artículo 17 - No discriminación
La aplicación de las disposiciones del presente Convenio por las Partes se garantizará sin discriminación por ningún motivo, de conformidad con sus obligaciones internacionales en materia de derechos humanos.
Artículo 18 - Derechos de las personas con discapacidad y de los niños
Cada Parte, de conformidad con su Derecho interno y sus obligaciones internacionales aplicables, tendrá debidamente en cuenta las necesidades y vulnerabilidades específicas en relación con el respeto de los derechos de las personas con discapacidad y de los niños.
Artículo 19 - Consulta pública
Cada Parte procurará garantizar que las cuestiones importantes planteadas en relación con los sistemas de inteligencia artificial se tengan debidamente en cuenta, según proceda, mediante debate público y consultas con múltiples partes interesadas a la luz de las implicaciones sociales, económicas, jurídicas, éticas, medioambientales y de otro tipo pertinentes.
Artículo 20 - Alfabetización y capacidades digitales
Cada Parte fomentará y promoverá la alfabetización digital y las capacidades digitales adecuadas para todos los segmentos de la población, incluidas las capacidades especializadas específicas para los responsables de la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de inteligencia artificial.
Artículo 21 - Protección de los derechos humanos reconocidos
Ninguna disposición del presente Convenio se interpretará en el sentido de limitar, establecer excepciones o afectar de otro modo a los derechos humanos u otros derechos y obligaciones jurídicos conexos que puedan estar garantizados en virtud de la legislación pertinente de una Parte o de cualquier otro acuerdo internacional pertinente en el que sea parte.
Artículo 22 - Protección más amplia
Ninguna de las disposiciones del presente Convenio se interpretará en el sentido de que limita o afecta de otro modo a la posibilidad de que una Parte decida una medida de protección más amplia que la estipulada en el presente Convenio.
Capítulo VII - Mecanismo de seguimiento y cooperación
Artículo 23 - Conferencia de las Partes
1)La Conferencia de las Partes estará compuesta por representantes de las Partes en el presente Convenio.
2)Las Partes se consultarán periódicamente con el fin de:
a. facilitar la aplicación y ejecución efectivas del presente Convenio, incluida la identificación de cualquier problema y los efectos de cualquier reserva formulada de conformidad con el artículo 34, apartado 1, o de cualquier declaración realizada en virtud del presente Convenio;
b. estudiar la posibilidad de completar o modificar el presente Convenio;
c. estudiar cuestiones y formular recomendaciones específicas relativas a la interpretación y aplicación del presente Convenio;
d. facilitar el intercambio de información sobre avances jurídicos, políticos o tecnológicos importantes, incluso para la consecución de los objetivos definidos en el artículo 25, para la aplicación del presente Convenio;
e. facilitar, en caso necesario, la solución amistosa de los litigios relacionados con la aplicación del presente Convenio; y
f. facilitar la cooperación con las partes interesadas pertinentes en relación con los aspectos pertinentes de la aplicación del presente Convenio, incluso mediante audiencias públicas cuando proceda.
3)La Conferencia de las Partes será convocada por el Secretario General del Consejo de Europa siempre que sea necesario y, en cualquier caso, cuando la mayoría de las Partes o el Comité de Ministros lo soliciten.
4)La Conferencia de las Partes adoptará su propio reglamento interno por consenso en un plazo de 12 meses a partir de la entrada en vigor del presente Convenio.
5)Las Partes estarán asistidas por el Secretario General del Consejo de Europa en el ejercicio de sus funciones derivadas del presente artículo.
6)La Conferencia de las Partes podrá proponer al Comité de Ministros formas adecuadas de recurrir a los conocimientos especializados pertinentes en apoyo de la aplicación efectiva del presente Convenio.
7)Toda Parte que no sea miembro del Consejo de Europa contribuirá a la financiación de las actividades de la Conferencia de las Partes. La contribución de un no miembro del Consejo de Europa será establecida conjuntamente por el Comité de Ministros y el no miembro.
8)La Conferencia de las Partes podrá decidir restringir la participación en sus trabajos de una Parte que haya dejado de ser miembro del Consejo de Europa en virtud del artículo 8 del Estatuto del Consejo de Europa (ETS n.º 1) por una violación grave del artículo 3 de dicho Estatuto. Del mismo modo, podrán adoptarse medidas con respecto a cualquier Parte que no sea un Estado miembro del Consejo de Europa mediante una decisión del Comité de Ministros de poner fin a sus relaciones con dicho Estado por motivos similares a los mencionados en el artículo 3 del Estatuto.
Artículo 24 - Obligación de información
1)Cada Parte presentará un informe a la Conferencia de las Partes en los dos primeros años siguientes a su adhesión, y posteriormente periódicamente, con información detallada sobre las actividades emprendidas para dar efecto al artículo 3, apartado 1, letras a) y b).
2)La Conferencia de las Partes determinará el formato y el proceso del informe de conformidad con su reglamento interno.
Artículo 25 - Cooperación internacional
1)Las Partes cooperarán en la consecución del objetivo del presente Convenio. Se anima además a las Partes, según proceda, a que ayuden a los Estados que no sean Partes en el presente Convenio a actuar de manera coherente con los términos del presente Convenio y a convertirse en Parte en el mismo.
2)Las Partes intercambiarán entre sí, según proceda, información pertinente y útil sobre aspectos relacionados con la inteligencia artificial que puedan tener efectos positivos o negativos significativos en el disfrute de los derechos humanos, el funcionamiento de la democracia y el respeto del Estado de Derecho, incluidos los riesgos y efectos que hayan surgido en contextos de investigación y en relación con el sector privado. Se anima a las Partes a implicar, según proceda, a las partes interesadas pertinentes y a los Estados que no sean Partes en el presente Convenio en dichos intercambios de información.
3)Se anima a las Partes a reforzar la cooperación, también con las partes interesadas pertinentes cuando proceda, para prevenir y mitigar los riesgos y los efectos adversos sobre los derechos humanos, la democracia y el Estado de Derecho en el contexto de las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.
Artículo 26 - Mecanismos de supervisión eficaces
1)Cada Parte establecerá o designará uno o varios mecanismos eficaces para supervisar el cumplimiento de las obligaciones del presente Convenio.
2)Cada Parte velará por que dichos mecanismos ejerzan sus funciones de manera independiente e imparcial y por que dispongan de las competencias, los conocimientos especializados y los recursos necesarios para desempeñar eficazmente sus tareas de supervisión del cumplimiento de las obligaciones establecidas en el presente Convenio, tal como hayan dado efecto las Partes.
3)En caso de que una Parte haya previsto más de un mecanismo de este tipo, adoptará medidas, cuando sea posible, para facilitar una cooperación eficaz entre ellas.
4)En caso de que una Parte haya previsto mecanismos distintos de las estructuras existentes de derechos humanos, adoptará medidas, cuando sea posible, para promover una cooperación eficaz entre los mecanismos mencionados en el apartado 1 y las estructuras nacionales existentes en materia de derechos humanos.
Capítulo VIII - Cláusulas finales
Artículo 27 - Efectos del Convenio
1)Si dos o más Partes ya han celebrado un acuerdo o tratado sobre las materias tratadas en el presente Convenio o han establecido de otro modo relaciones sobre dichas materias, también tendrán derecho a aplicar dicho acuerdo o tratado o a regular dichas relaciones en consecuencia, siempre que lo hagan de manera que no sean incompatibles con el objeto y la finalidad del presente Convenio.
2)Las Partes que sean miembros de la Unión Europea aplicarán, en sus relaciones mutuas, las normas de la Unión Europea que regulen las materias incluidas en el ámbito de aplicación del presente Convenio, sin perjuicio del objeto y la finalidad del presente Convenio y sin perjuicio de su plena aplicación con otras Partes. Lo mismo se aplica a las demás Partes en la medida en que estén vinculadas por dichas normas.
Artículo 28 - Modificaciones
1)Cualquiera de las Partes, el Comité de Ministros del Consejo de Europa o la Conferencia de las Partes podrán proponer enmiendas al presente Convenio.
2)Toda propuesta de enmienda será comunicada a las Partes por el Secretario General del Consejo de Europa.
3)Toda enmienda propuesta por una Parte o por el Comité de Ministros se comunicará a la Conferencia de las Partes, que presentará al Comité de Ministros su dictamen sobre la enmienda propuesta.
4)El Comité de Ministros examinará la enmienda propuesta y el dictamen presentado por la Conferencia de las Partes y podrá aprobarla.
5)El texto de toda enmienda aprobada por el Comité de Ministros conforme al apartado 4 será transmitido a las Partes para obtener su aceptación.
6)Toda enmienda aprobada en virtud del apartado 4 entrará en vigor el trigésimo día siguiente a la fecha en que todas las Partes hayan comunicado su aceptación al Secretario General.
Artículo 29 - Solución de controversias
En caso de controversia entre las Partes en cuanto a la interpretación o aplicación del presente Convenio, dichas Partes buscarán una solución de la diferencia a través de la negociación o por cualquier otro medio pacífico de su elección, incluso a través de la Conferencia de las Partes, tal como se establece en el artículo 23, apartado 2, letra e).
Artículo 30 - Firma y entrada en vigor
1)El presente Convenio estará abierto a la firma de los Estados miembros del Consejo de Europa, de los Estados no miembros que hayan participado en su elaboración y de la Unión Europea.
2)El presente Convenio estará sujeto a ratificación, aceptación o aprobación. Los instrumentos de ratificación, aceptación o aprobación se depositarán ante el Secretario General del Consejo de Europa.
3)El presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha en que cinco signatarios, incluidos al menos tres Estados miembros del Consejo de Europa, hayan manifestado su consentimiento a quedar vinculados por el presente Convenio de conformidad con el apartado 2.
4)Con respecto a cualquier signatario que posteriormente manifieste su consentimiento en obligarse por él, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de depósito de su instrumento de ratificación, aceptación o aprobación.
Artículo 31 - Adhesión
1)Tras la entrada en vigor del presente Convenio, el Comité de Ministros del Consejo de Europa podrá, previa consulta a las Partes en el presente Convenio y obtener su consentimiento unánime, invitar a cualquier Estado no miembro del Consejo de Europa que no haya participado en la elaboración del presente Convenio a adherirse al mismo mediante una decisión adoptada por la mayoría prevista en el artículo 20, letra d), del Estatuto del Consejo de Europa, y por unanimidad de los representantes de las Partes con derecho a formar parte del Comité de Ministros.
2)Para cualquier Estado adherente, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de depósito del instrumento de adhesión ante el Secretario General del Consejo de Europa.
Artículo 32 - Aplicación territorial
1)Cualquier Estado, o la Unión Europea, podrá designar, en el momento de la firma o del depósito de su instrumento de ratificación, aceptación, aprobación o adhesión, el territorio o territorios a los que se aplicará el presente Convenio.
2)Cualquier Parte podrá, en una fecha posterior, mediante una declaración dirigida al Secretario General del Consejo de Europa, ampliar la aplicación del presente Convenio a cualquier otro territorio especificado en la declaración. Con respecto a dicho territorio, el presente Convenio entrará en vigor el primer día del mes siguiente a la expiración de un período de tres meses a partir de la fecha de recepción de la declaración por el Secretario General.
3)Toda declaración efectuada en virtud de los dos apartados anteriores podrá retirarse, en relación con cualquier territorio especificado en dicha declaración, mediante notificación dirigida al Secretario General del Consejo de Europa. La retirada surtirá efecto el primer día del mes siguiente a la expiración de un período de tres meses después de la fecha de recepción de la notificación por el Secretario General.
Artículo 33 - Cláusula federal
1)Un Estado federal podrá reservarse el derecho de asumir obligaciones en virtud del presente Convenio en consonancia con los principios fundamentales que rigen la relación entre su Gobierno central y sus Estados constituyentes u otras entidades territoriales similares, siempre que el presente Convenio se aplique al Gobierno central del Estado federal.
2)Por lo que se refiere a las disposiciones del presente Convenio cuya aplicación sea competencia de los Estados constituyentes u otras entidades territoriales similares que no estén obligadas por el sistema constitucional de la federación a adoptar medidas legislativas, el Gobierno federal informará con su dictamen favorable a las autoridades competentes de dichos Estados de dichas disposiciones y les alentará a adoptar las medidas adecuadas para su aplicación.
Artículo 34 - Reservas
1)Mediante notificación escrita dirigida al Secretario General del Consejo de Europa, cualquier Estado podrá, en el momento de la firma o al depositar su instrumento de ratificación, aceptación, aprobación o adhesión, declarar que se acoge a la reserva prevista en el artículo 33, apartado 1.
2)No podrá formularse ninguna otra reserva con respecto al presente Convenio.
Artículo 35 - Denuncia
1)Toda Parte podrá, en cualquier momento, denunciar el presente Convenio mediante una notificación dirigida al Secretario General del Consejo de Europa.
2)La denuncia surtirá efecto el primer día del mes siguiente a la expiración de un período de tres meses después de la fecha de recepción de la notificación por el Secretario General.
Artículo 36 - Notificación
El Secretario General del Consejo de Europa notificará a los Estados miembros del Consejo de Europa, a los Estados no miembros que hayan participado en la elaboración del presente Convenio, a la Unión Europea, a cualquier signatario, a cualquier Estado contratante, a cualquier Parte y a cualquier otro Estado que haya sido invitado a adherirse al presente Convenio:
a)cualquier firma;
b)el depósito de cualquier instrumento de ratificación, aceptación, aprobación o adhesión;
c)cualquier fecha de entrada en vigor del presente Convenio, de conformidad con el artículo 30, apartados 3 y 4, y del artículo 31, apartado 2;
d)toda enmienda adoptada de conformidad con el artículo 28, así como la fecha de entrada en vigor de dicha enmienda;
e)toda declaración efectuada de conformidad con el artículo 3, apartado 1, letra b);
f)toda reserva o retirada de una reserva realizada de conformidad con el artículo 34;
g)toda denuncia realizada de conformidad con el artículo 35;
h)cualquier otro acto, declaración, notificación o comunicación relacionado con el presente Convenio.
En fe de lo cual los abajo firmantes, debidamente autorizados, firman el presente Convenio.
Hecho en Vilna, el 5 de septiembre de 2024, en inglés y en francés, siendo ambos textos igualmente auténticos, en un único ejemplar que se depositará en los archivos del Consejo de Europa. El Secretario General del Consejo de Europa transmitirá copias certificadas a cada Estado miembro del Consejo de Europa, a los Estados no miembros que hayan participado en la elaboración del presente Convenio, a la Unión Europea y a cualquier Estado invitado a adherirse al mismo.
ANEXO II
1.Declaración de la Unión Europea sobre el ámbito de aplicación en lo que respecta a los agentes privados con arreglo al artículo 3, apartado 1, letra b), del Convenio
Recordando la obligación, conforme al artículo 3, apartado 1, letra b), del Convenio, de abordar los riesgos e impactos derivados de las actividades realizadas por agentes privados dentro del ciclo de vida de los sistemas de inteligencia artificial en la medida en que no estén contemplados en la letra a) de dicha disposición de manera conforme con el objeto y la finalidad del Convenio, la Unión declara que aplicará los principios y obligaciones establecidos en los capítulos II a VI del Convenio a las actividades de los agentes privados que introduzcan en el mercado, comercialicen y utilicen sistemas de inteligencia artificial en la Unión Europea a través de la aplicación del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial («Reglamento de IA»). Otras disposiciones pertinentes del acervo de la Unión también pueden ser de aplicación a estas actividades y contribuir a la aplicación de los principios y obligaciones del Convenio.
2.Declaración de la Unión Europea sobre el ámbito de aplicación territorial con arreglo al artículo 32, apartado 1, del Convenio
Por lo que se refiere al artículo 32, apartado 1, del Convenio, la Unión declara que el Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho se aplicará, por lo que respecta a la competencia de la Unión, a los territorios en los que se aplican los Tratados de la UE en virtud del artículo 52 del TUE y en las condiciones establecidas, entre otros, en el artículo 355 del TFUE.