ANEXO

DOCUMENTO DE PROYECTO

Promover la innovación responsable en inteligencia artificial para la paz y la seguridad

1.   ANTECEDENTES

Los recientes avances en inteligencia artificial (IA) han abierto nuevas posibilidades para reforzar y mantener la paz y la seguridad, por ejemplo, a través de mejoras tecnológicas en ámbitos como la alerta rápida de conflictos y la verificación del control de armamento y exportaciones. Por otra parte, estos avances han proporcionado nuevos medios para generar o agravar tensiones, conflictos e inseguridad entre los Estados y dentro de ellos. Los riesgos que plantean determinadas aplicaciones de la IA, como los sistemas de armas autónomos letales, son un motivo de gran preocupación para la comunidad de control de armamento. Una vía de riesgo que merece una mayor atención, y frente a la que los actuales esfuerzos diplomáticos y de control de armamento pueden ser insuficientes para ofrecer una respuesta, es el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables (en particular agentes no estatales malintencionados) como por ejemplo el uso indebido de redes generativas antagónicas para producir «ultrafalsificaciones» para campañas de desinformación.

La IA es una tecnología facilitadora con un gran potencial de uso general. La investigación y la innovación en materia de IA desarrolladas para usos civiles podrían ser accesibles y readaptadas (con relativa facilidad) por determinados agentes para usos nocivos o disruptivos que podrían tener implicaciones para la paz y la seguridad internacionales. El desvío y el uso indebido de la tecnología civil no son fenómenos nuevos ni exclusivos de la IA. Un ejemplo claro y reciente lo tenemos en el ámbito afín de la robótica, con la militarización y el uso de drones recreativos por parte del Daesh/ISIS en Siria. Sin embargo, en el caso de la IA, el problema se complica por múltiples factores: la naturaleza intangible y de rápida evolución de los algoritmos y datos de la IA, lo que dificulta el control de su transferencia y proliferación; el liderazgo del sector privado en el mundo de la investigación, desarrollo e innovación, y su consiguiente necesidad de proteger los algoritmos de su propiedad; y la disponibilidad mundial de conocimientos especializados humanos y recursos materiales capaces de reconvertir las tecnologías de IA. Mientras tanto, quienes trabajan con IA en el sector civil demasiado a menudo no son conscientes de las posibles implicaciones que el desvío y el uso indebido de su trabajo podrían tener para la paz y la seguridad internacionales, o se muestran reticentes a participar en los debates existentes en torno a los riesgos de la IA en los ámbitos del control de armamento y la no proliferación.

Es necesario respaldar una mayor implicación de la comunidad civil de la IA en la comprensión y reducción de los riesgos para la paz y la seguridad asociados al desvío y el uso indebido de la tecnología civil de IA por parte de agentes irresponsables. Según el Instituto Internacional de Estocolmo de Investigaciones para la Paz (SIPRI) y la Oficina de Asuntos de Desarme de las Naciones Unidas (UNODA), esto podría lograrse mediante un mayor fomento de la innovación responsable en la comunidad civil mundial de la IA. El trabajo llevado a cabo en el pasado por el SIPRI y la UNODA ha demostrado que la innovación responsable, como mecanismo de autogobierno, podría proporcionar a la comunidad civil mundial de la IA herramientas y métodos prácticos para identificar y ayudar a prevenir y reducir los riesgos que el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA podrían plantear para la paz y la seguridad. El trabajo del SIPRI y la UNODA también identificó metodologías y varias iniciativas civiles en curso sobre IA responsable que podrían aprovecharse para sensibilizar a la comunidad civil de la IA sobre cuestiones relacionadas con el control de armamento y la no proliferación, debates de expertos y posiciones estatales sobre el desarrollo responsable, la difusión y el uso de la IA, así como las lecciones que deben extraerse del trabajo en relación con la responsabilidad en el sector de la defensa (1). Lo más importante es que este trabajo previo ha identificado claramente la participación de estudiantes de ciencia, tecnología, ingeniería y matemáticas (CTIM), que participan en la IA desde un planteamiento educativo, como elemento central de cualquier esfuerzo eficaz de innovación responsable.

2.   OBJETIVOS

Estos proyectos tienen por objeto respaldar una mayor participación de la comunidad civil de la IA en la reducción de los riesgos que el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables plantean para la paz y la seguridad internacionales. Para ello tienen la intención, en primer lugar, de generar una mayor comprensión de cómo las decisiones en el desarrollo y la difusión de la investigación y la innovación en materia de IA pueden afectar a los riesgos de desvío y uso indebido, y a su vez suponer riesgos u oportunidades para la paz y la seguridad, y, en segundo lugar, de promover procesos, métodos y herramientas de innovación responsables que puedan contribuir a asegurar la aplicación pacífica de las innovaciones civiles y la difusión responsable de los conocimientos sobre IA. A tal fin, respaldan actividades de capacitación, investigación y participación que i) mejorarán la capacidad dentro de la comunidad civil mundial de la IA para incluir y abordar, mediante procesos de innovación responsable, los riesgos para la paz y la seguridad que plantean el desvío y el uso indebido de la IA civil por parte de agentes irresponsables; y ii) reforzarán el vínculo entre los esfuerzos de reducción de riesgos en materia de IA responsable en el ámbito civil y los que ya están en curso en la comunidad de desarme, control de armamento y no proliferación a escala intergubernamental. Resulta fundamental señalar que no tienen por objeto fijar nuevas normas o principios, ni entrar en ámbitos que sean competencia de los Estados, sino que pretenden desarrollar esfuerzos civiles de innovación responsable para incluir los riesgos que el desvío y el uso indebido de la IA civil por parte de agentes irresponsables plantean para la paz y la seguridad, y educar sobre los esfuerzos intergubernamentales pertinentes en curso.

Para llegar de manera efectiva a la comunidad civil de la IA e influir en ella, los proyectos aplican un planteamiento triple, con el objetivo de:

a)

colaborar con los educadores. Trabajar con determinados educadores y desarrolladores de planes de estudios académicos en el desarrollo y la promoción de materiales educativos que pueden utilizarse para integrar la consideración de los riesgos de paz y seguridad que derivan del desvío y el uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables en la formación de futuros profesionales de la IA (por ejemplo, en cursos sobre ética en la IA e innovación responsable);

b)

colaborar con los estudiantes. Enseñar a una serie de estudiantes de CTIM de todo el mundo cómo identificar, prevenir o reducir los riesgos para la paz y la seguridad que plantean el desvío y el uso indebido del desarrollo civil de la IA por parte de agentes irresponsables en el proceso de investigación e innovación o a través de otros procesos de gobernanza; y

c)

colaborar con el sector de la IA. Trabajar con asociaciones profesionales y organismos de normalización como el IEEE para i) difundir materiales educativos adaptados y actividades de participación entre los profesionales técnicos; ii) respaldar los usos positivos de la IA para la paz y la seguridad; y iii) facilitar el diálogo y el intercambio de información entre expertos del mundo académico, el sector privado y el sector público sobre la manera de reducir el riesgo de desvío y uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables.

Este enfoque permite que los proyectos lleguen a la comunidad de la IA a todos los niveles, incluidos no solo los profesionales actuales, sino también las generaciones futuras. Asimismo, permite la colaboración entre el mundo académico, las empresas y otros sectores, y respalda la sostenibilidad de los esfuerzos futuros mediante el establecimiento de redes que trasciendan estas fronteras.

Los proyectos también pretenden utilizar el poder de convocatoria y la experiencia del SIPRI y la UNODA para llegar a la comunidad de la IA a escala mundial, no solo a las partes interesadas de la UE. El SIPRI y la UNODA están en una posición única para llegar a los agentes de IA de África, Asia y el Pacífico, Europa y América del Norte y del Sur y facilitar la colaboración entre ellos. Ambas entidades cuentan, además, con experiencia en otros ámbitos de la ciencia y la tecnología que se enfrentan a retos similares en relación con el doble uso y la proliferación, como por ejemplo la biotecnología. Del mismo modo, los proyectos tratan de aprovechar las condiciones existentes en la Unión Europea, como a) la existencia de procesos avanzados multilaterales sobre la IA responsable; b) el alto nivel de participación en cuestiones de desarme, control de armamento y no proliferación en la UE, y de conocimientos especializados al respecto; c) la diversidad de conexiones que las instituciones académicas, de investigación y del sector privado de la UE tienen con otras regiones, en particular en el Sur Global, que también serán un objetivo importante para la participación; y d) la diversidad de nacionalidades de estudiantes, educadores e ingenieros en universidades, centros de investigación y en el sector privado.

La inclusión será una consideración fundamental para la realización de las actividades de los proyectos. Con el fin de respaldar de manera eficaz a la comunidad de la IA, los proyectos reconocen que la comunidad de la IA está compuesta por una amplia gama de agentes y, en particular, que:

a)

el género es un factor muy importante. Por ello, la perspectiva de género se integrará en consonancia con las estrategias de igualdad e integración de la perspectiva de género de todo el sistema de las Naciones Unidas. Se fomentará y exigirá la participación de las mujeres en todas las actividades del proyecto; y

b)

la inclusión de las personas con discapacidad y los ajustes razonables de las necesidades se llevarán a cabo en todo el proyecto. Esto engloba abordar los obstáculos a la participación de las personas con discapacidad, así como asegurar que se adopten medidas para colaborar con las personas con discapacidad y facilitar la representación de sus ideas y experiencias.

3.   PROYECTOS

Los tres proyectos que se describen a continuación pretenden complementarse y respaldarse mutuamente, con elementos que se desarrollan a lo largo de los 36 meses.

3.1.   Proyecto 1 – Producción de material de formación y capacitación para la comunidad civil de la IA

3.1.1.   Objetivo del proyecto

El proyecto 1 se centra en ofrecer formación y recursos a los agentes de la comunidad civil de la IA para valorar y reducir los riesgos que puedan plantear para la paz y la seguridad internacionales el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables. Tiene por objeto producir material de formación y capacitación que proporcione a los profesionales de la IA de todas las regiones, niveles y sectores (incluidos educadores centrados en la IA, desarrolladores de planes de estudios, estudiantes de CTIM e ingenieros e investigadores de IA del mundo académico y del sector privado) la información y las herramientas necesarias para:

a)

comprender cómo la investigación y la innovación civiles en materia de IA podrían desviarse y usarse indebidamente de formas que pudieran suponer riesgos para la paz y la seguridad internacionales, y cómo las decisiones en el desarrollo y la difusión de la investigación y la innovación aumentan o reducen el riesgo de desvío y uso indebido;

b)	comprender los esfuerzos ya realizados por la comunidad de desarme, control de armamento y no proliferación para reducir los riesgos de desvío y uso indebido de la investigación y la innovación civiles; y

c)	aplicar la innovación responsable de manera que reduzca el riesgo de desvío y uso indebido en el desarrollo y la difusión de la investigación y la innovación.

3.1.2.   Descripción del proyecto

Este proyecto producirá tres conjuntos separados de materiales de formación y capacitación:

a)

Manual (1). El manual recopilará conocimientos y medios básicos para que los agentes de IA evalúen y reduzcan, en el proceso de investigación e innovación, los riesgos de desvío y uso indebido de la tecnología civil de IA por parte de agentes irresponsables. En él se verá por qué y cómo las decisiones en el desarrollo y la difusión de la investigación y la innovación afectan a los riesgos de desvío y uso indebido, y a su vez suponer riesgos u oportunidades para la paz y la seguridad; incluirá también las obligaciones pertinentes contempladas por el Derecho internacional y de control de las exportaciones, además de las consideraciones de seguridad y protección que se están debatiendo en los círculos militares, así como en materia de desarme, control de armamento y no proliferación. Asimismo, presentará ejemplos de procesos y herramientas para practicar la innovación responsable, como metodologías de evaluación de la repercusión tecnológica y modelos de evaluación del riesgo.

b)

Serie de pódcast (~ 10). Estos pódcast actuarán como un medio accesible y atractivo para que los agentes de la IA aprendan por qué y cómo los procesos de innovación responsable en materia de IA pueden reforzar la paz y la seguridad internacionales mediante la reducción de los riesgos que plantea el desvío y el uso indebido por parte de agentes irresponsables. La serie examinará temas importantes (p. ej., el patrón de desvío y uso indebido de la investigación y la innovación de doble uso o de uso general; los retos humanitarios, estratégicos y políticos asociados al posible uso indebido de la investigación e innovación civiles en materia de IA; los retos a los que se enfrentan los círculos de desarme, control de armamento y no proliferación en los esfuerzos de reducción de riesgos; cómo hacer innovación responsable a través de la evaluación de riesgos; cumplimiento del control de las exportaciones; reducción de riesgos desde el diseño; publicación responsable; conocimiento de los clientes; y experiencia en ejercicios de simulación teórica) y se estructurará en torno a entrevistas que el equipo del proyecto llevará a cabo con representantes de las comunidades pertinentes.

c)

Blog (9-10). El equipo desarrollará una serie de publicaciones de blog seleccionadas con el fin de aumentar la visibilidad de los esfuerzos que intentan trascender los límites entre las comunidades de «IA responsable» centrada en el ámbito civil y las comunidades de control de armamento y no proliferación. El blog ofrecerá una plataforma para difundir información, ideas y soluciones sobre la identificación y el tratamiento de los riesgos asociados con el desvío y el uso indebido de la IA civil en el proceso de investigación e innovación. Además, tratará de representar la diversidad de ideas y perspectivas presentes en el sector de la IA.

Estos materiales se difundirán públicamente a través de los sitios web de los agentes encargados, sus redes sociales y mediante la comunicación directa con las entidades académicas, las asociaciones profesionales civiles de IA y otros grupos adecuados pertinentes.

3.1.3.   Resultados previstos del proyecto

Se espera que este proyecto establezca una nueva serie de materiales que permita sensibilizar a los profesionales civiles de la IA sobre a) cómo la investigación y la innovación civiles en materia de IA pueden desviarse y usarse indebidamente de formas que planteen riesgos para la paz y la seguridad internacionales, b) cómo se abordan dichos riesgos en la comunidad de desarme, control de armamento y no proliferación, y c) cómo los profesionales de la IA pueden contribuir aún más a la reducción de dichos riesgos a través de procesos de innovación responsable.

Se espera que esto aumente la participación del sector de la IA civil en la reducción de los riesgos que el desvío y el uso indebido de la IA civil plantean para la paz y la seguridad internacionales, además de mejorar la capacidad de los profesionales técnicos para participar en los procesos pertinentes de la comunidad de desarme, control de armamento y no proliferación, así como respaldar la participación de nuevos públicos no incluidos tradicionalmente en los esfuerzos educativos en materia de desarme y no proliferación.

Asimismo, se espera que el material facilite la ejecución de los demás proyectos y sirva de base para las actividades de formación y capacitación del proyecto 2, así como para las actividades de diálogo y participación en el proyecto 3. A su vez, se espera que dichas actividades contribuyan a la producción y al perfeccionamiento del material. Se espera que este enfoque iterativo ayude a abordar los posibles obstáculos a su promoción, difusión y uso dentro de la comunidad de la IA, como por ejemplo cuestiones relacionadas con el idioma, el contenido, el contexto y la disponibilidad, que podrían limitar su repercusión a escala mundial, en particular en el Sur Global.

3.2.   Proyecto 2 – Actividades de formación y capacitación para futuros profesionales de la IA

3.2.1.   Objetivo del proyecto

El objetivo del proyecto 2 consiste en respaldar la integración del problema del desvío y el uso indebido de la investigación civil en materia de IA por parte de agentes irresponsables en la formación de las generaciones futuras de profesionales de la IA. A largo plazo, esto garantizará que los estudiantes de CTIM que configuran el futuro de la IA sean conscientes tanto de los efectos negativos que el desvío y el uso indebido de su trabajo por parte de agentes irresponsables podrían tener en la paz y la seguridad internacionales como de que dispondrán de las herramientas básicas necesarias para detectar y reducir este riesgo en el proceso de investigación e innovación.

Este proyecto consistirá en una serie de talleres de formación y capacitación con educadores y estudiantes, en colaboración con determinadas universidades internacionales y otros agentes del sector. Así, el proyecto pretende desarrollar actividades de capacitación que los educadores y los desarrolladores de planes de estudios académicos podrían emplear para incluir en la formación de los futuros profesionales de la IA (por ejemplo, cursos sobre ética de la IA e innovación responsable) consideraciones sobre los riesgos de desvío y uso indebido de la investigación y la innovación civiles en materia de IA por parte de agentes irresponsables, y relacionarlos con el contexto más amplio de la paz y la seguridad. A través de estos talleres, el proyecto también intentará identificar una red de educadores, desarrolladores de planes de estudios y estudiantes interesados que respaldarían la difusión y la promoción del material educativo del proyecto y las actividades de desarrollo de capacidades en la comunidad educativa en materia de IA y en la comunidad de profesionales de la IA. Este componente de creación de redes tiene por objeto garantizar la sostenibilidad de los proyectos más allá de su duración inmediata y permitir la creación de vínculos más sólidos que sustenten el compromiso técnico civil en pro de objetivos más amplios de paz, seguridad, desarme y control de armamento.

3.2.2.   Descripción del proyecto

Este proyecto consistirá en una serie de talleres de formación y capacitación con educadores y estudiantes, procedentes de universidades seleccionadas de todo el mundo. Los talleres consistirán en una combinación de conferencias y actividades interactivas que ofrecerán a los educadores y a los estudiantes la posibilidad de reflexionar sobre cómo la investigación y la innovación civiles en materia de IA podrían desviarse y utilizarse indebidamente de formas que suponen riesgos para la paz y la seguridad internacionales, y cómo identificar, evitar o reducir dichos riesgos en el proceso de investigación e innovación, o a través de otros procesos de gobernanza. Estas actividades se basarán en proyectos piloto previos de menor escala llevados a cabo por la UNODA, en los que se probaron métodos para colaborar con los estudiantes de CTIM y sensibilizarlos sobre la importancia de tener en cuenta la repercusión más amplia de su trabajo, así como de colaborar con conocimientos especializados fuera de sus campos habituales. En concreto, los talleres consistirán en:

a)

talleres regionales de capacitación para educadores y estudiantes (4). Estos llevarán a cabo y promoverán actividades que los educadores pueden utilizar para formar a los estudiantes de CTIM sobre la innovación responsable en materia de IA, prestando especial atención a la manera de evaluar y reducir los riesgos de desvío y uso indebido de la tecnología civil de IA por parte de agentes irresponsables. Cada taller se organizará con una universidad con sede en la UE y una universidad de alto nivel de una región mundial distinta, conectando así siempre a un conjunto diverso de participantes con sede en la UE con otro conjunto diverso con sede fuera de la UE. Los talleres abarcarán América Latina y el Caribe, América del Norte, África y Asia y el Pacífico, lo que permitirá la participación de estudiantes (a nivel de máster y doctorado) de todo el mundo, también del Sur Global. Los talleres se desarrollarán principalmente en inglés, pero, cuando sea posible, se permitirá a los participantes asistir a actividades basadas en agrupaciones lingüísticas alternativas; y

b)

taller internacional sobre capacitación sostenible (1). Este se basará en las experiencias extraídas de los talleres regionales y facilitará el intercambio de información y experiencias entre educadores y algunos estudiantes seleccionados de las universidades participantes en el proyecto. En el taller se debatirá cómo perfeccionar las actividades y herramientas elaboradas a lo largo del proyecto y difundirlas más allá del grupo de universidades participantes, además de cómo respaldar la colaboración de los estudiantes, una vez que estén en el mercado laboral, en una IA responsable que aborde los riesgos de desvío y uso indebido para la paz y la seguridad internacionales.

Las redes del SIPRI y la UNODA y la presencia de participantes de África, Asia-Pacífico, Europa, América del Norte y América del Sur se utilizarán para organizar aspectos de las actividades, según proceda, y para apoyarlos.

3.2.3.   Resultados previstos del proyecto

Se espera que este proyecto cree modelos de capacitación y actividades de participación que los educadores y desarrolladores de planes de estudios académicos puedan reproducir para sensibilizar a futuros profesionales de la IA sobre los problemas del desvío y el uso indebido de la IA civil por parte de agentes irresponsables y sobre cómo pueden ayudar a reducir estos problemas a través de procesos de innovación responsable. Una vez finalizadas las actividades del proyecto, se espera que los participantes (educadores, pero también estudiantes de CTIM) utilicen y promuevan herramientas, métodos y conceptos de innovación responsable para identificar y reducir los riesgos de desvío y uso indebido en el desarrollo y la difusión de la investigación y la innovación civiles en materia de IA.

Asimismo, se espera que las actividades del proyecto generen una red de educadores, desarrolladores de planes de estudios y estudiantes que no solo promuevan las actividades del proyecto dentro de las comunidades de formación sobre IA y las comunidades profesionales (por ejemplo, durante las conferencias de la Sociedad de Inteligencia Computacional del IEEE), sino que también estén disponibles para contribuir con capacidad técnica a los procesos de gobernanza internacional dirigidos por los Estados (por ejemplo, el proceso de la Convención sobre ciertas armas convencionales sobre tecnologías emergentes en el ámbito de los sistemas de armas autónomos letales).

El valor a corto y largo plazo de estas actividades se demostrará mediante encuestas previas y posteriores a la actividad.

3.3.   Proyecto 3 – Facilitar el desarrollo, la difusión y la repercusión sostenibles y a más largo plazo de la innovación responsable en IA para la paz y la seguridad

3.3.1.   Objetivo del proyecto

El objetivo del proyecto 3 es facilitar el desarrollo, la difusión y la repercusión sostenibles y a más largo plazo de la innovación responsable en IA como medio para reducir los riesgos que el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA pueden plantear para la paz y la seguridad. Para ello se celebrarán mesas redondas con el sector de la IA y diálogos multilaterales y se desarrollará un informe público y actividades específicas de divulgación de la información. El proyecto tiene por objeto asegurar que el trabajo generado, en particular las actividades de formación, capacitación y participación, llegue a la comunidad de la IA en general —a todos los niveles (desde los estudiantes hasta los ingenieros y otros profesionales de la IA) y a través de las fronteras geográficas, sectoriales y de otro tipo— y tenga una repercusión para ella. Para aumentar las posibilidades de conseguir una repercusión amplia y profunda resulta primordial cooperar con las organizaciones profesionales de este sector, como el IEEE, y realizar actividades multidimensionales en el mundo académico, el sector empresarial y otros sectores. Estos esfuerzos permitirán a los representantes interesados de diferentes comunidades de la IA asumir la responsabilidad del problema y aportar sus propios puntos de vista sobre cómo llevar a cabo los esfuerzos de reducción de riesgos y promoverlos de manera sostenible dentro de la comunidad mundial de la IA y entre sus diferentes partes. Asimismo, en lo que se refiere al valor a largo plazo que el proyecto tiene para los Estados, las organizaciones intergubernamentales y otros agentes, es importante que los profesionales de la IA, por una parte, aprendan de expertos gubernamentales que participan en la reducción de riesgos en el contexto del desarme, el control de armamento y la no proliferación y, por otra parte, que colaboren con ellos. También es fundamental para la sostenibilidad asegurar el análisis, la consolidación y la divulgación adecuados de los conocimientos generados a través de las actividades de participación.

3.3.2.   Descripción del proyecto

Este proyecto consta de las siguientes líneas principales:

a)

diálogos multilaterales sobre «una innovación responsable en materia de IA para la paz y la seguridad» (hasta nueve). Esta serie de reuniones virtuales congregará a expertos del mundo académico, el mundo de la investigación, el sector privado y el sector del control de armamento tradicional de la UE y fuera de ella para debatir: i. tendencias tecnológicas que puedan generar riesgos de difusión, desvío y uso indebido con repercusiones para la paz y la seguridad internacionales; ii. la manera de participar en la reducción de riesgos a través de procesos, métodos y medios de innovación responsable, y oportunidades y retos para el diálogo y el intercambio de conocimientos entre las comunidades de partes interesadas, incluidas las que operan en otros sectores, como las industrias biológicas y químicas; y iii. el valor potencial, la finalidad y el formato de una red autosuficiente de expertos y actividades de diálogo. El grupo de expertos se reunirá varias veces al año y trabajará en la organización de dos actos públicos para la comunidad en general.

De las nueve reuniones virtuales, dos estarán abiertas al público, con el fin de facilitar una consulta más amplia.

b)

mesas redondas con el sector privado (hasta seis). Esta serie de mesas redondas virtuales dará pie a un diálogo con los agentes que trabajan con procesos de innovación en IA responsable en el sector privado (por ejemplo, la Asociación de IA) sobre la manera de contribuir a minimizar los riesgos de desvío y uso indebido de las tecnologías civiles de IA por parte de agentes irresponsables, así como sobre la manera de explorar posibles incentivos del sector privado para el desarrollo. Los temas incluyen: i. la importancia del contexto internacional de seguridad y desarme para el sector privado; ii. el entorno o entornos jurídicos en los que se producen el desarrollo, el despliegue y la explotación de la IA en todo el mundo; iii. la manera de aprovechar los mecanismos de evaluación de riesgos y otras medidas que forman parte de los procesos de innovación responsable y de los programas de cumplimiento corporativo o que podrían integrarse en ellos; y iv. lecciones que deben extraerse de otros sectores, procesos y marcos relacionados con el control de armamento (por ejemplo, empresas biológicas y químicas).

c)

informe sobre las perspectivas de la comunidad de la IA en materia de control de armamento y reducción de riesgos en la IA, dirigido a las comunidades de IA y de control de armamento (uno). El desarrollo de este informe recopilará y consolidará las conclusiones y recomendaciones del proyecto en un único documento de referencia destinado tanto a las comunidades civiles de IA responsable como las de control de armamento. En el informe se debatirá cómo identificar, evaluar y abordar los riesgos internacionales para la paz y la seguridad relacionados con el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA.

d)

actos de divulgación destinados a la consulta y a la implicación con las comunidades de la IA y del control de armamento (por determinar). El equipo buscará oportunidades para transmitir el trabajo y sus conclusiones y recomendaciones a lo largo de todo el proyecto. El formato de los eventos y el contenido de las presentaciones se adaptarán a las necesidades de los grupos destinatarios: podrá tratarse de reuniones del Grupo «No Proliferación y Exportación de Armas» (CONOP), de la asamblea de la Alianza europea de la IA, del grupo de expertos gubernamentales sobre las tecnologías emergentes en el ámbito de los sistemas de armas autónomos letales, del Grupo de Trabajo Interinstitucional sobre IA (IAWG-IA), de la iniciativa de AI for Good (IA para el bien) de la UIT, del Diálogo sobre Innovación anual del UNIDIR y del IEEE. El equipo también tratará de colaborar bilateralmente con las partes interesadas pertinentes de las administraciones públicas, del mundo académico y del sector privado.

3.3.3.   Resultados previstos del proyecto

Se espera que este proyecto siente las bases para el desarrollo sostenible, la difusión y la incidencia de la innovación responsable de los procesos de IA que abordan los riesgos de difusión, desvío y uso indebido y sus implicaciones para la paz y la seguridad más allá de la duración inmediata de la decisión del Consejo.

Se espera que el diálogo multilateral proporcione un modelo para el intercambio de información y la colaboración en materia de reducción de riesgos no solo dentro de la comunidad mundial de la IA, sino también entre la comunidad civil de la IA responsable y las comunidades de desarme, control de armamento y no proliferación. Dicho modelo podría utilizarse para familiarizar a los responsables políticos con los avances tecnológicos y científicos clave que resulten pertinentes para la innovación responsable de la IA, así como para familiarizar al público técnico con el entorno en el que operan actualmente los responsables políticos. Se espera que el proyecto facilite las relaciones y la participación sostenibles entre los agentes interesados dentro de estas distintas comunidades y entre ellas. Se espera que estos efectos de contactos heterogéneos permitan un mayor desarrollo y una promoción generalizada de la innovación responsable de la IA para la paz y la seguridad más allá de la duración del proyecto.

Asimismo, se espera que el diálogo con el sector privado permita una participación mayor y más decisiva del sector privado de la IA en la identificación, la prevención y la reducción de los riesgos para la paz y la seguridad derivados del desvío y el uso indebido de la investigación y la innovación civiles en materia de IA. Se espera que el proyecto ofrezca a los agentes clave de los procesos del sector privado una mejor comprensión y asunción de la responsabilidad de los problemas que pretende resolver. Además, tiene por objeto fomentar una (mayor) adopción y aplicación de procesos, métodos y medios de innovación responsable en los mecanismos y procedimientos corporativos existentes de gestión de riesgos.

Asimismo, se espera que el diálogo multilateral y la mesa redonda del sector privado generen conocimientos sobre una serie de cuestiones importantes, entre las que se encuentran a) cómo perfeccionar y emplear métodos y medios de innovación responsable para detectar, prevenir y reducir los riesgos que plantean el desvío y el uso indebido de la investigación y la innovación civiles en materia de IA; b) cómo utilizar la investigación y la innovación en materia de IA de manera positiva para respaldar los objetivos de paz y seguridad (por ejemplo, aplicaciones de alerta rápida de conflictos y asistencia humanitaria); y c) cómo facilitar un mayor diálogo y un mayor intercambio de información entre las iniciativas de reducción de riesgos emprendidas en la comunidad civil de la IA responsable (es decir, diversas iniciativas dirigidas por el IEEE) y aquellas que ya están en curso en la comunidad de desarme, control de armamento y no proliferación a nivel intergubernamental.

El informe y las actividades de divulgación analizarán, consolidarán y transmitirán los conocimientos generados a través de los proyectos 1, 2 y 3 y, de este modo, respaldarán la promoción de las conclusiones y recomendaciones de las actividades del proyecto en la comunidad mundial de la IA, así como en la comunidad política. Asimismo, se espera que contribuyan a garantizar la sostenibilidad de su repercusión más allá de la duración de los proyectos.

4.   DURACIÓN

La duración total prevista de la ejecución de los proyectos será de 36 meses.

---

(1)  Las metodologías incluyen, por ejemplo, las prácticas recomendadas del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) para evaluar la repercusión de los sistemas autónomos e inteligentes en el bienestar humano (IEEE Std 7010-2020) y la lista de evaluación para una IA fiable del grupo de expertos de alto nivel sobre la IA. Las iniciativas incluyen: la Iniciativa Mundial sobre la Ética de los Sistemas Inteligentes y Autónomos del IEEE; la Asociación de IA; la Asociación Mundial de IA.

ANEXO

DOCUMENTO DE PROYECTO

DESARROLLO DE UN SISTEMA DE VALIDACIÓN DE LA GESTIÓN DE ARMAS Y MUNICIONES RECONOCIDO INTERNACIONALMENTE PARA PREVENIR LA PROLIFERACIÓN ILÍCITA

1.   Contexto

Existe un consenso cada vez mayor, dentro de la comunidad de control de armamento, sobre el papel central que desempeña una gestión eficaz de los arsenales en el refuerzo de las medidas de control de las exportaciones para evitar el desvío. En el documento de trabajo elaborado para la séptima Conferencia de los Estados partes (CEP7) en el Tratado sobre el Comercio de Armas (TCA), la presidencia de la Conferencia instaba a los Estados partes a que considerasen «todos los aspectos de la gestión de las existencias antes de que se produzca la autorización de exportación y el almacenamiento seguro posterior a la entrega». Asimismo, además de compartir información sobre actividades ilícitas (artículo 11, apartado 5, y artículo 15, apartado 4, del TCA), alentaba a «los Estados importadores y exportadores [a] acordar condiciones y garantías específicas con respecto a las instalaciones de almacenamiento […], el marcado de artículos o controles de uso/usuario final, antes de […] la exportación». Por último, como medio de cumplir lo dispuesto en el artículo 13, apartado 2, la presidencia de la CEP7 proponía que los Estados partes pudiesen informar sobre las medidas adoptadas para fortalecer la seguridad física y la gestión de las existencias como indicativo de las acciones llevadas a cabo para prevenir el desvío y hacerle frente (1).

Sigue siendo difícil ofrecer garantías, según se describe en el documento de trabajo de la CEP7, en relación con las prácticas de gestión de las existencias de armas de un tercer país. Se trata de un campo técnico en el que la información se considera muy delicada, lo que complica las iniciativas de intercambio de información. En muchos sectores, tanto privados como públicos, las evaluaciones de la conformidad se utilizan para ofrecer garantías de la eficacia, seguridad y protección de los productos y servicios. Las evaluaciones de la conformidad proporcionan métodos reconocidos internacionalmente para determinar si el producto o servicio cumple las normas y estándares aceptados. Aunque existen distintas normas, directrices y buenas prácticas internacionales para la gestión y la seguridad de los arsenales, actualmente no hay una metodología reconocida internacionalmente para ofrecer garantías de las capacidades con que cuenta un tercer país o usuario final para prevenir el desvío (artículo 11, apartado 1, del TCA) de sus arsenales de armas y municiones.

En este contexto, la Unión Europea (UE) lleva estudiando desde 2020 la posibilidad de establecer un sistema reconocido internacionalmente para validar las políticas y prácticas relativas a las armas y municiones en los niveles estatal y de los usuarios finales. Con la adopción de la Decisión (PESC) 2020/979 del Consejo, modificada por la Decisión (PESC) 2021/2075 del Consejo, la UE encargó al Equipo Consultivo de Gestión de Municiones (AMAT) del Centro Internacional de Desminado Humanitario de Ginebra (CIDHG) el proyecto de desarrollar un sistema de validación de la gestión de armas y municiones reconocido internacionalmente para prevenir la proliferación ilícita y las explosiones accidentales. Se trataba de una iniciativa plurianual dividida en fases concretas con objetivos y resultados específicos.

La primera fase [Decisión (PESC) 2020/979] pretendía examinar la viabilidad de crear un sistema de validación de las prácticas de gestión de armas pequeñas y armas ligeras (APAL) y municiones reconocido internacionalmente. La viabilidad del sistema se evaluó con respecto a siete categorías: técnica, política, legal, económica, de la seguridad militar, de la seguridad y protección de la comunidad y del plazo. El estudio reveló que, si bien no existían señales de alerta que impidieran el desarrollo de un sistema de este tipo, la voluntad política de las partes interesadas de participar en dicho sistema dependería en última instancia del diseño final. Por consiguiente, las partes interesadas no podrían comprometerse hasta que estuviesen claras las cuestiones relativas al diseño final del sistema.

La segunda fase [Decisión (PESC) 2021/2075] tenía por objeto desarrollar la herramienta de evaluación que serviría de base para el sistema y definir opciones adecuadas para el sistema de validación de la gestión de armas y municiones. Se creó una herramienta de autoevaluación y se estudiaron posibles opciones para un sistema de validación. El proyecto terminó con la recomendación de un planteamiento para el desarrollo de un sistema de validación de la gestión de armas y municiones de carácter operativo.

¿Qué es el sistema de validación de la gestión de armas y municiones?

La información sobre el estado general de las prácticas de gestión de armas y municiones es de utilidad para muchas partes interesadas, tanto nacionales como extranjeras. Por ejemplo, las autoridades de control de las exportaciones podrían reforzar sus evaluaciones del riesgo de desvío realizadas antes de la autorización de una licencia de exportación mejorando su análisis de la fase de almacenamiento posterior a la entrega, mientras que la cooperación internacional y la prestación de asistencia pueden responder mejor a las necesidades a partir del análisis de las capacidades actuales.

El sistema de validación está diseñado para facilitar el intercambio de información sobre la capacidad de los usuarios finales para mantener unos arsenales seguros y protegidos. Para hacerlo, evalúa las capacidades estructurales de un sistema de gestión de los usuarios finales con respecto a las mejores prácticas reconocidas que se recogen en las Directrices Técnicas Internacionales sobre Municiones (IATG) y el Compendio de Implementación Modular de Control de Armas Pequeñas (MOSAIC).

El núcleo del sistema de validación son las herramientas desarrolladas durante la aplicación de la Decisión (PESC) 2021/2075 del Consejo. La autoevaluación normalizada, que es uno de los principales resultados obtenidos durante la aplicación de la Decisión (PESC) 2021/2075, proporciona una metodología que analiza la complejidad del marco del sistema de gestión definido en las líneas habilitadoras de capacidades descritas en la directriz IATG 01.35. Esta autoevaluación va acompañada de un documento que sirve de guía para la interpretación de los resultados. Por sí misma, la herramienta puede servir de instrumento de intercambio bilateral de información sobre el estado general de las prácticas de gestión de armas y municiones por parte de las fuerzas armadas.

El sistema de validación de la gestión de armas y municiones se convierte en «sistema» propiamente dicho cuando el uso de la herramienta se generaliza en el conjunto de una organización para atender las necesidades comunes. Las organizaciones compuestas por Estados miembros que comparten requisitos de control de las exportaciones, normas de importación, objetivos de desarrollo de capacidades o necesidades de seguimiento de la aplicación de los instrumentos son las principales candidatas para beneficiarse de la creación de un sistema. En cada caso, una plataforma común facilita aún más el intercambio de información. Podría utilizarse la evaluación normalizada para satisfacer las necesidades de muchas partes interesadas. Una autoevaluación podría ser válida durante varios años, lo que permitiría compartir los análisis ya autorizados con partes interesadas acreditadas. Esto podría reducir la carga que la notificación supone para el usuario final, aumentando al mismo tiempo la eficiencia de la capacidad de los funcionarios encargados del control de las exportaciones para acceder a la información sobre las condiciones de almacenamiento posterior a la entrega del posible usuario final importador, durante la fase previa a las autorizaciones.

Existen muchas opciones para crear un sistema de validación de la gestión de armas y municiones, lo que permite que las organizaciones adapten el sistema a sus necesidades concretas. Algunas organizaciones pueden sacar provecho de la creación de un sistema de validación, en el que puede compartirse un análisis normalizado entre usuarios autorizados. A otras les puede resultar problemática la validación y, por tanto, pueden escoger opciones de intercambio de información menos específicas. Determinar qué características son aceptables para cada organización será clave a la hora de desarrollar los sistemas de validación de la gestión de armas y municiones.

Partiendo de los resultados y conclusiones antes mencionados, la fase III del proyecto se centrará en impulsar el desarrollo del sistema de validación de la gestión de armas y municiones. Se adoptará un enfoque regional para el desarrollo de sistemas de validación, centrado en detectar y aprovechar estructuras y mecanismos organizativos regionales existentes para el intercambio de información y el desarrollo de metodologías y herramientas adaptadas para validar los sistemas nacionales de gestión de armas y municiones (también mediante el desarrollo de una herramienta de autoevaluación y la elaboración de las orientaciones correspondientes para llevar a cabo la evaluación e interpretar sus resultados).

2.   Planteamiento técnico

Este proyecto se propone desarrollar sistemas de validación de la gestión de armas y municiones de carácter independiente dentro de las estructuras organizativas regionales existentes. Cada sistema funcionará de forma independiente y se basará en las herramientas y orientaciones metodológicas desarrolladas durante la aplicación de la Decisión (PESC) 2021/2075 del Consejo. La herramienta incluye una metodología de autoevaluación normalizada adaptada al contexto y las normas de la región, un proceso de validación o puntuación acordado que puede aprovechar los conocimientos especializados de la región para analizar los resultados de la autoevaluación, una plataforma de intercambio de información para facilitar la transferencia de determinada información a las autoridades solicitantes autorizadas y un pequeño marco de gobernanza para mantener la sostenibilidad del sistema.

Con la ejecución de este proyecto, la UE diseñaría, desarrollaría, probaría y aplicaría el primer sistema de validación de la gestión de armas y municiones de carácter regional. El sistema de validación de la UE serviría de plataforma para que los Estados miembros compartieran información, en formato normalizado, sobre prácticas de gestión de armas y municiones a partir de autoevaluaciones llevadas a cabo por usuarios finales en terceros países, y para que accedieran a dicha información. La UE contribuiría activamente al diseño de todas las características del sistema, recurriendo a una red de expertos dentro de la UE y de sus Estados miembros para asesorar en todos los ámbitos del diseño. La facilitación de los debates con la red y la aplicación del diseño serán responsabilidad del Centro Internacional de Desminado Humanitario de Ginebra.

El sistema de validación de la UE reforzaría la capacidad del Grupo «No Proliferación y Exportación de Armas» (subgrupo COARM), de las autoridades de control de las exportaciones de los Estados miembros de la UE y del Fondo Europeo de Apoyo a la Paz para analizar el desvío posterior a la entrega y los riesgos de explosión accidental asociados a sistemas de gestión de armas y municiones de un usuario final. Esta información serviría de apoyo para las evaluaciones del riesgo de desvío que hayan efectuado antes de autorizar la concesión de licencias. La autoevaluación del sistema de validación de la gestión de armas y municiones también podría prestar apoyo al Grupo «No Proliferación y Exportación de Armas» (subgrupo CONOP) y a los procesos de asistencia internacional y desarrollo de capacidades de los Estados miembros de la UE proporcionando una evaluación normalizada de la adhesión del marco de gestión de armas y municiones a las buenas prácticas internacionales. Esto ayudaría a detectar los puntos débiles y las necesidades y dirigiría así las iniciativas de desarrollo de capacidades hacia aquellos lugares en los que más se necesitan los recursos.

Este proyecto permitirá también que otras subregiones conozcan el sistema de validación y las ventajas de desarrollar un enfoque normalizado para evaluar las prácticas de gestión de armas y municiones y facilitar información sobre ellas. El objetivo es animar a otras organizaciones regionales a que desarrollen sistemas de validación de la gestión de armas y municiones que estén adaptados y apoyen el uso de la herramienta de autoevaluación. Esta labor se basará en las iniciativas de divulgación llevadas a cabo durante la aplicación de las Decisiones (PESC) 2020/979 y (PESC) 2021/2075 del Consejo. Si, durante ese proceso, una organización regional solicita apoyo para desarrollar un sistema de validación, el proyecto podría redirigir recursos para apoyar esa labor.

3.   Objetivos generales

El objetivo principal de este proyecto es apoyar los trabajos destinados a garantizar la gestión segura de las APAL y sus municiones mediante la mejora de los procesos de toma de decisiones de las partes interesadas que trabajan en el control de las exportaciones y en la cooperación y asistencia internacionales.

Este objetivo se logrará aumentando la transparencia de las prácticas de gestión de APAL y municiones aplicadas por los usuarios finales en un tercer país. Si conocen mejor estas prácticas, las partes interesadas podrán tomar mejores decisiones en relación con la autorización de transferencias y las iniciativas de desarrollo de capacidades.

Para conseguir este fin, el proyecto trabajará en pos de dos objetivos principales:

1)	Crear un sistema de validación de la gestión de armas y municiones que sea operativo.

2)	Alentar la labor de las organizaciones regionales y de sus Estados miembros destinada a desarrollar su propio sistema de validación de la gestión de armas y municiones.

4.   Descripción de las actividades

Objetivo 1: Crear un sistema de validación de la gestión de armas y municiones que sea operativo

Primer año: Consolidar el marco del sistema de validación de la gestión de armas y municiones

ACTIVIDADES		RESULTADOS
Establecer una red consultiva de la UE compuesta por partes interesadas que puedan ofrecer asesoramiento especializado sobre orientaciones sustantivas y operativas acerca de cuestiones relacionadas con las políticas y actividades de la UE. Se pedirá a estos asesores que aporten información durante la fase de desarrollo del sistema de validación de la UE para garantizar que sea adecuado para los fines de la UE. El equipo del proyecto del Centro Internacional de Desminado Humanitario de Ginebra se encargará de llevar a la práctica las contribuciones de los asesores. Se procurará organizar varias reuniones presenciales a lo largo del año. El objetivo de la red consultiva es garantizar que las partes interesadas de la UE tomen la iniciativa de diseñar un sistema que se adapte a sus necesidades y procesos de trabajo. Los asesores contribuirán a definir los siguientes elementos del sistema: — elaborar una política para las operaciones del sistema de validación, así como su supervisión y mantenimiento; — verificar si las herramientas de autoevaluación son aptas y adecuadas para las necesidades; — determinar las entidades adecuadas para llevar a cabo la validación y supervisión de la aplicación del sistema de validación; — determinar el tipo de intercambio de información que debe permitirse en la plataforma electrónica y bilateralmente.		Aplicación de herramientas de la UE adaptadas a los criterios de la UE y validadas por la UE.
		Redacción de un documento marco para el sistema de validación de la UE, junto con una estrategia de desarrollo.
Validar el análisis de la autoevaluación y validación. Las herramientas genéricas de autoevaluación desarrolladas durante la aplicación de la Decisión (PESC) 2021/2075 del Consejo deben ser revisadas, adaptadas y validadas por los expertos de la UE para garantizar que se ajusten a los requisitos de las partes interesadas de la UE. Efectuar una validación técnica de las herramientas de autoevaluación aprobadas por los expertos temáticos (gestión de armas y municiones y control de las exportaciones). Evaluar los requisitos de diseño web para crear la plataforma de intercambio de información. A partir de las recomendaciones de los asesores de la UE, la evaluación determinará los requisitos de programación para crear la plataforma web deseada.		Inclusión de notas y correspondencia extraídas de las comunicaciones con la red consultiva de la UE.
		Establecimiento de un plan de desarrollo de la plataforma web que incluye el diseño, el desarrollo, las pruebas y la finalización.

Segundo año: Pruebas de las herramientas y los sistemas

ACTIVIDADES		RESULTADOS
Probar herramientas de autoevaluación en terceros países. Las pruebas constarán de tres elementos: — apoyar a los terceros países y a los agentes (intermediarios, etc.) implicados en su empeño por llevar a cabo una autoevaluación satisfactoria; — evaluar las dificultades en la aplicación a las que se han enfrentado todos los agentes implicados a la hora de llevar a cabo la evaluación y sus preocupaciones en relación con el intercambio de información; — elaborar un informe de evaluación en el que se destaquen las dificultades encontradas y las enseñanzas extraídas.		Informe de evaluación de las pruebas de autoevaluación.
Diseñar, probar y validar la plataforma web con arreglo a las especificaciones esbozadas por la red consultiva de la UE.		Materiales de formación independientes para realizar la autoevaluación y la validación.
Elaborar materiales de formación y procedimientos operativos para apoyar las labores destinadas a llevar a término la autoevaluación, normalizar el proceso de validación y orientar el mecanismo de supervisión del sistema.		Políticas y procedimientos operativos, ya ultimados, para llevar a cabo la validación y para el mecanismo de supervisión del sistema.
Redactar documentos estratégicos para la explotación y supervisión del sistema de validación.		Una plataforma web para compartir información sobre el sistema de validación.
Mantener a la red consultiva de la UE al corriente del estado de aplicación y debatir las dificultades y cuestiones que surjan.		Notas para los asesores de la UE.

Objetivo 2: Animar a otras organizaciones a que desarrollen su propio sistema de validación de la gestión de armas y municiones de carácter regional

Primer año: Presentar el sistema de validación de la gestión de armas y municiones a dos organizaciones regionales; seguir estudiando los vínculos con instrumentos internacionales

ACTIVIDADES		RESULTADOS
Llevar a cabo actividades de divulgación con dos organizaciones regionales y sus Estados miembros para promover el concepto de un sistema de validación regional. Las actividades supondrán un máximo de tres visitas a la región. La primera reunión con la organización regional se utilizará para fomentar el desarrollo de un sistema de validación regional y, si se desea, para iniciar la planificación de los siguientes pasos. Una segunda reunión incluiría a todos los Estados miembros de la UE y serviría para presentar el sistema y sus ventajas. Se espera que las reuniones de seguimiento sigan animando a crear y planificar la creación de un sistema de validación regional.		Que las organizaciones regionales y sus Estados miembros conozcan el sistema de validación de la UE y las ventajas de crear el suyo propio.
Participar en reuniones de instrumentos regionales e internacionales de control de armamentos. Podría incluirse la celebración de actos paralelos o de otro tipo para promover el sistema de validación y el desarrollo del sistema de validación de la UE.

Segundo y tercer años: Presentar el sistema de validación de la gestión de armas y municiones a dos organizaciones regionales al año, seguir promoviéndolo a escala internacional

Nota: en el segundo y el tercer años, el plan del proyecto presenta una variación en función del resultado de las iniciativas del año anterior para promover el sistema de validación a escala regional. El plan original consiste en mantener dos actividades de divulgación regionales al año de acuerdo con el formato descrito para el primer año. No obstante, si una organización regional confirma el deseo de aplicar el sistema de validación, el AMAT solicitará la autorización de la UE para redirigir algunos de los recursos con objeto de desarrollar el sistema de validación en la región que lo solicite. Esto daría lugar a una disminución del número de organizaciones regionales que participarían cada año, pero podría traducirse en un aumento del número de Estados que utilizan el marco del sistema de validación y se benefician de él.

5.   Organismo encargado de la ejecución técnica

El Centro Internacional de Desminado Humanitario de Ginebra (GICHD), a través de su organismo especializado AMAT, liderará la ejecución del proyecto. En concreto, el AMAT liderará la gestión y ejecución de todas las actividades de este proyecto y mantendrá la responsabilidad sobre el presupuesto y la presentación de informes. El AMAT se encargó asimismo de la gestión y aplicación de las acciones contempladas en las Decisiones (PESC) 202/979 y (PESC) 2021/2075 del Consejo.

El AMAT tiene la intención de contratar a consultores expertos para apoyar distintos aspectos de este proyecto. En particular, se contratará a expertos en los ámbitos del desarrollo web, la evaluación de la conformidad y la gestión de las APAL para apoyar la ejecución de determinados aspectos del proyecto. Estos consultores serán seleccionados mediante un proceso de contratación autorizado.

6.   Pertinencia

Este proyecto, incluidos sus objetivos, actividades y resultados, está en consonancia con muchas estrategias y acuerdos políticos de la Unión Europea.

Estrategia de la UE contra las Armas de Fuego, Armas Pequeñas y Armas Ligeras Ilícitas y su Munición (Estrategia APAL) de 2018

La Estrategia APAL de 2018 tiene por objetivo «orientar la acción colectiva europea coordinada e integrada para prevenir y atajar la adquisición ilícita de APAL y sus municiones […], así como promover la rendición de cuentas y la responsabilidad en lo que respecta al comercio legal de armas»  (2). La Estrategia APAL de 2018 prevé medidas específicas en materia de gestión de arsenales y obliga a la UE a prestar apoyo a la cooperación y la asistencia para la ejecución del Programa de Acción de las Naciones Unidas (PANU), incluida la gestión de arsenales, y a promover y aplicar normas y buenas prácticas para la manipulación de armas de pequeño calibre (ISACS [actualmente MOSAIC]) y municiones (IATG).

Un sistema de validación de la UE contribuiría a las labores de la UE destinadas a aplicar la Estrategia APAL de 2018:

—

La prevención del desvío y el fomento de la rendición de cuentas en el comercio legal de APAL es un objetivo explícito del sistema de validación de la gestión de armas y municiones. El sistema de validación de la UE puede apoyar las evaluaciones del riesgo de desvío llevadas a cabo antes de las autorizaciones de licencias de exportación.

—	El sistema de validación de la UE puede apoyar la cooperación y la asistencia en el ámbito de la gestión de arsenales detectando deficiencias en el sistema de gestión y sirviendo de herramienta de supervisión para hacer un seguimiento de los cambios o mejoras en la práctica.

—	La metodología de autoevaluación promueve que el Compendio de Implementación Modular de Control de Armas Pequeñas (MOSAIC) y las Directrices Técnicas Internacionales sobre Municiones (IATG) sean las normas con arreglo a las cuales se mida la evaluación de la conformidad.

Plan de Acción de la UE sobre el Tráfico de Armas de Fuego 2020-2025

El Plan de Acción de la UE sobre el Tráfico de Armas de Fuego 2020-2025 para hacer frente al tráfico ilícito dentro de la UE y los socios de Europa Sudoriental (Balcanes Occidentales, Moldavia y Ucrania) reconoce la necesidad de aumentar la seguridad de los arsenales en Europa Sudoriental y apoya a la región de los Balcanes Occidentales (3). La hoja de ruta prevé asimismo el aumento de la seguridad de la gestión de arsenales, el avance de la normativa y la supervisión del debido cumplimiento (4). Además, la acción 4.2 exige que se fomente la mejora de la gestión de los arsenales en la región del Sahel.

Aunque el sistema de validación de la UE no tiene un enfoque regional, puede apoyar iniciativas destinadas a detectar deficiencias estructurales en las prácticas de gestión de arsenales de un usuario final. La metodología de la autoevaluación es especialmente adecuada para detectar deficiencias en la normativa de seguridad.

Posición Común de la UE sobre las exportaciones de armas (Posición Común de la UE) y Guía del Usuario para la Posición Común, de carácter voluntario (2008)  (5)

La Posición Común de la UE contiene ocho criterios que describen cuatro conjuntos de riesgos que los Estados miembros deben considerar como motivos para denegar una licencia de exportación y cuatro conjuntos de factores que los Estados deben tener en cuenta a la hora de evaluar una solicitud de licencia de exportación. El criterio 7 se refiere a la «existencia del riesgo de que la tecnología o el equipo militar se desvíen dentro del país comprador o se reexporten en condiciones indeseables» como factor que el exportador debe tener en cuenta. La Posición Común añade que el exportador, al evaluar el riesgo de desvío, debe tener en cuenta «la capacidad del país receptor para aplicar controles efectivos sobre la exportación».

La Guía del Usuario para la Posición Común de la UE —que ofrece instrucciones adicionales, pero no vinculantes, sobre la forma de aplicar las disposiciones de la Posición Común— invita a los exportadores a considerar si en el país receptor a) «las medidas de gestión y seguridad de los arsenales» son «suficientes» (en particular el MOSAIC y las IATG); y b) «se tiene constancia de que haya [habido] problemas de desaparición de material en los arsenales»  (6).

La Guía del Usuario hace referencia a la importancia de que la seguridad y la gestión de los arsenales sean efectivas no solo en relación con la aplicación del criterio 7 y la evaluación del riesgo de desvío, sino también en relación con la aplicación de los criterios 1 y 2 de la Posición Común de la UE, que abarcan, respectivamente, el respeto de las obligaciones internacionales y el respeto de los derechos humanos y del Derecho internacional humanitario. En particular, la Guía considera que el cumplimiento de las normas previstas en el Programa de Acción de las Naciones Unidas, incluidas las relativas a la gestión de los arsenales, es pertinente para evaluar el respeto por parte de los receptores de las obligaciones internacionales previstas en el criterio 1 (7). Además, la Guía hace referencia a la presencia de «procedimientos apropiados para la gestión y seguridad de los arsenales, incluidos los excedentes de armas y municiones» y a la presencia de un problema en términos de «robos y pérdidas en los arsenales» en el país del usuario final declarado como elementos que cabe plantearse para evaluar la presencia del riesgo de que las armas exportadas puedan utilizarse vulnerando los derechos humanos o el Derecho internacional humanitario previstos en el criterio 2 (8).

La Posición Común de la UE y la Guía del Usuario también proporcionan orientaciones pertinentes para el intercambio de información, componente importante del sistema de validación. El artículo 4 de la Posición Común de la UE exige que los Estados miembros intercambien información sobre las denegaciones de licencias de exportación y que realicen consultas cuando consideren la aprobación de una licencia «esencialmente idéntica» a otra denegada previamente por otro Estado miembro. Esta disposición se ve reforzada por el artículo 7 de la Posición Común de la UE, que exige a los Estados miembros que trabajen para «reforzar su cooperación y fomentar su convergencia» en el ámbito de los controles de las exportaciones de armas mediante el «intercambio de información pertinente» no solo sobre las denegaciones, sino también sobre las políticas de exportación de armas. La Guía del Usuario anima a los Estados miembros a compartir información dentro del Grupo «No Proliferación y Exportación de Armas» (COARM) y también a través del «sistema en línea de dicho grupo, o, si consideran oportuno clasificarla como “información restringida”, los mensajes de la red COREU». El intercambio de información debe abarcar también la información que pueda ser útil para otros Estados miembros a fin de prevenir el riesgo de desvío (9).

La Posición Común de la UE establece vínculos claros entre la política consolidada y el sistema de validación. El vínculo se estableció en la Decisión (PESC) 2020/979 del Consejo y el sistema de validación de la UE se diseñó específicamente para apoyar la aplicación del criterio 7 de la Posición Común de la UE por parte de las autoridades de control de las exportaciones sirviendo de instrumento técnico que pueda ofrecer un análisis de las medidas de seguridad y protección ejecutadas por un posible Estado importador. La metodología utilizada es coherente con la indicación, recogida en la Guía del Usuario, de evaluar la norma con respecto a las buenas prácticas existentes aceptadas internacionalmente. El artículo 4 de la Posición Común también establece una justificación política para el componente de intercambio de información del sistema de validación de la UE.

Decisión (PESC) 2021/38 del Consejo, de 15 de enero de 2021, por la que se establece un enfoque común sobre los elementos de los certificados de usuario final en el contexto de la exportación de armas pequeñas y ligeras y su munición

La Decisión (PESC) 2021/38 del Consejo establece un enfoque común sobre los elementos de los certificados de usuario final en el contexto de la exportación de armas pequeñas y ligeras y su munición (10) somete a la consideración de los Estados dos «elementos optativos» que son directamente pertinentes para el sistema de validación: c) permitir la inspección in situ posterior al envío por parte del Estado miembro de exportación; y d) ofrecer garantías que acrediten la «capacidad [del usuario final] para gestionar armas y municiones de forma segura, incluida su capacidad para gestionar de forma segura los arsenales en los que se almacenará la mercancía».

El sistema de validación puede incluir una metodología de inspección posterior a la entrega para apoyar la verificación in situ de las alegaciones realizadas en la autoevaluación, lo que ofrecería un nivel de garantía aún mayor.

7.   Estrategia de comunicación y visibilidad

El AMAT tendrá que adoptar todas las medidas adecuadas para dar a conocer públicamente que este proyecto ha sido financiado por la UE, de acuerdo con los requisitos contenidos en el documento «Comunicación y visibilidad en las acciones exteriores financiadas por la UE» de 2018, publicado por la Comisión Europea. El apoyo de la Unión Europea también se mencionará en las invitaciones y demás documentos que se den a conocer a los participantes en los diversos actos. El AMAT se asegurará de que la UE esté representada, cuando sea posible, en los actos que se organicen en el marco de esta Decisión.

En concreto, se mencionará que la UE lidera el proyecto en todos los actos regionales e internacionales en los que se presente el sistema de validación de la gestión de armas y municiones. El sistema de validación de la UE podría servir de excelente motivación para otras organizaciones regionales, por lo que el AMAT alentará y apoyará las iniciativas de la UE para promover la herramienta en distintos contextos relacionados con el control de armamentos. Se invitará a los representantes de la UE a presentar observaciones y el logotipo de la UE se mostrará en presentaciones y anuncios.

---

(1)  Proyecto de documento de trabajo del presidente del CSP7: Fortalecer los esfuerzos para erradicar el comercio ilícito de armas pequeñas y ligeras y garantizar una gestión eficiente de las existencias.

(2)  Consejo de la Unión Europea, Conclusiones del Consejo sobre la adopción de una Estrategia de la UE contra las Armas de Fuego, Armas Pequeñas y Armas Ligeras Ilícitas y su Munición, 19 de noviembre de 2018, documento ST 13581/18, <https://data.consilium.europa.eu/doc/document/ST-13581-2018-INIT/es/pdf>.

(3)  Comisión Europea, Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones: Plan de Acción de la UE sobre el Tráfico de Armas de Fuego 2020-2025 (nota 30).

(4)  Véase el objetivo 7 de la «Hoja de ruta para una solución sostenible a la posesión ilegal, el uso indebido y el tráfico de armas pequeñas y armas ligeras (APAL) y de sus municiones en los Balcanes Occidentales para 2024», Londres, 10 de julio de 2018, https://www.seesac.org/f/docs/publications-salw-control-roadmap/Regional-Roadmap-for-a-sustainable-solution-to-the.pdf.

(5)  Posición Común 2008/944/PESC del Consejo, de 8 de diciembre de 2008, por la que se definen las normas comunes que rigen el control de las exportaciones de tecnología y equipos militares (nota 7).

(6)  Consejo de la Unión Europea, Guía del Usuario para la Posición Común 2008/944/CFSP del Consejo (modificada por la Decisión (PESC) 2019/1560 del Consejo), p. 129.

(7)  Consejo de la Unión Europea, Guía del Usuario para la Posición Común 2008/944/CFSP del Consejo (modificada por la Decisión (PESC) 2019/1560 del Consejo), p. 24.

(8)  Consejo de la Unión Europea, Guía del Usuario para la Posición Común 2008/944/CFSP del Consejo (modificada por la Decisión (PESC) 2019/1560 del Consejo), p. 58.

(9)  Consejo de la Unión Europea, Guía del Usuario para la Posición Común 2008/944/CFSP del Consejo (modificada por la Decisión (PESC) 2019/1560 del Consejo), p. 159.

(10)  Decisión (PESC) 2021/38 del Consejo, de 15 de enero de 2021, por la que se establece un enfoque común sobre los elementos de los certificados de usuario final en el contexto de la exportación de armas pequeñas y ligeras y su munición (DO L 14 de 18.1.2021, p. 4),https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:32021D0038&from=ES.