Declaración de Toledo Nueva Iniciativa Europea sobre el uso de la Diplomacia Tecnológica y la Inteligencia Artificial en la Prevención y Mediación ...

Declaración de Toledo
     Nueva Iniciativa Europea sobre el uso de la
      Diplomacia Tecnológica y la Inteligencia
      Artificial en la Prevención y Mediación de
                        Conflictos.

La innovación tecnológica, en particular el área de la inteligencia artificial (IA) y la
transformación digital, está teniendo un impacto ampliamente reconocido en las relaciones
internacionales y en la configuración de un nuevo orden global. El Seminario realizado en Toledo
del 18 al 19 de junio de 2021, se ha centrado en la intersección entre la gobernanza digital de la
IA, y los aspectos prácticos de la mediación y resolución de conflictos, para concienciar a
diplomáticos, expertos, académicos y mediadores sobre la importancia de la diplomacia
tecnológica y la influencia de la IA en las iniciativas de mediación. Esto abarca, por un lado, sus
implicaciones para la construcción de la paz y la resolución de conflictos y, por otro, los intereses
que representa en las relaciones internacionales y los desafíos y riesgos que plantea para el
futuro de la humanidad . El Seminario fue un punto de partida en el que se exploraron las posibles
sinergias y vías de cooperación entre los actores de la mediación y las comunidades diplomática
y tecnológica en estas cuestiones.
El acceso desigual a las tecnologías de la información y la dependencia resultante, plantean
desafíos sumamente graves que cuestionan los principios básicos de la soberanía nacional y la
democracia. La experiencia reciente del COVID19 y los aislamientos y cuarentenas, han
resaltado el papel de la tecnología en nuestro trabajo, así como los desafíos que plantean las
nuevas herramientas digitales en diferentes niveles. La IA presenta riesgos para la democracia,
la ciberseguridad, la diplomacia tecnológica, los derechos humanos y el control humano de la
tecnología, considerando la fabricación de noticias falsas o el uso de IA en armas letales
autónomas. Aun así, no hay forma de descartar o evitar el uso de esta tecnología; la única
alternativa realista es intentar limitar sus riesgos, corregir sus defectos y potenciar sus aspectos
positivos. Como conjunto de herramientas y capacidades genéricas, la IA hace parte de una
intensa competencia global al igual que otras tecnologías, como, por ejemplo, la tecnología
nuclear, las infraestructuras de comunicaciones aéreas y submarinas o, más recientemente, los
derechos de propiedad de vacunas. La IA se desarrolla en múltiples dimensiones, en las que los
diversos participantes tienen medios muy desiguales a la hora de promover su difusión o
protegerse de sus efectos más indeseables. Es por ello que, hoy en día, la IA se ha convertido en
una baza política de enorme trascendencia.
En el ámbito diplomático, la IA ha comenzado a cambiar la dinámica de los conflictos. En cuanto
a defensa y seguridad, y, por ejemplo, en la gestión de insurgencias por parte de actores no
estatales, el uso de la IA ha comenzado a alterar los costos del conflicto, a incrementar la
fabricación y difusión de información falsa, a acelerar el ritmo operativo y aumentar el riesgo
de escalada, a aumentar los riesgos percibidos de los ataques sorpresa, a mejorar el acceso a la
inteligencia entre las partes en conflicto y a cambiar la opinión pública sobre la participación
en conflictos (armados). Por otro lado, la IA también ha contribuido a la incorporación nuevos
actores en el proceso de gestión de crisis.

                                                                                                   1

La inteligencia artificial y el aprendizaje automático de las máquinas dependen de la cantidad y
la calidad de los datos con los que trabajan. Es imperativo para los especialistas en el registro y
digitalización del patrimonio cultural, cuyo papel en la mediación de conflictos ha sido
reconocido por el Consejo Europeo (Art.4 de la conclusión 9837/21 del 21 de junio de 2021),
capacitar, equipar y crear economías locales basadas en registros de datos de alta resolución y
calidad. Con el cambio reciente en el enfoque de la UE sobre el patrimonio cultural en conflictos
y crisis, están surgiendo nuevas oportunidades. La preservación, el registro y el intercambio del
patrimonio crean un nuevo potencial para la aplicación exitosa de diversas formas de tecnología
tanto en el registro como en el análisis de datos.
Como una herramienta válida para una amplia gama de actividades diplomáticas, los
mediadores también pueden aprovechar los beneficios que brinda la IA. En particular, la IA tiene
la capacidad de : (i) Mejorar la gestión del conocimiento y la información (por ejemplo, ayudar
con la detección de patrones en datos globales sobre conflictos, altos al fuego y acuerdos de paz);
(ii) Mejorar la comprensión sobre las características específicas en los conflictos y sus contextos
(por ejemplo, a través de análisis de la opinión en las redes sociales, basados en el procesamiento
del lenguaje natural y otras técnicas de explotación de datos y textos); y (iii) Ampliar la inclusión
en procesos de paz, analizando los puntos de vista y opiniones de la población en general (por
ejemplo, mediante las simulaciones sociales computarizadas).
Dicho lo anterior, queda claro que la IA tiene la capacidad de alterar las condiciones en las
cuales se producen y circulan los datos y la información, lo que tiene importantes implicaciones
para la dinámica de los conflictos. Por lo tanto, los expertos en mediación y paz deben adoptar
una postura proactiva en cuanto a la IA, y desarrollar una comprensión integral y estratégica
del papel que esta puede desempeñar en la construcción y mantenimiento de la paz. Es por ello
que, además, se deben explorar las implicaciones éticas del uso de la IA además de identificar
sus posibles inconvenientes y amenazas para la sociedad, para así determinar lineamientos que
lleven a un uso responsable y transparente de esta tecnología.
Desde la perspectiva europea, la cooperación internacional, estructurada a través de
organizaciones e instituciones en las que participan gobiernos, sociedad civil, empresas privadas
e instituciones académicas, está firmemente comprometida en contribuir al bienestar general y
ayudar a evitar que la tecnología se convierta en un instrumento de dominio y control. Es de
suma importancia mitigar y gestionar el uso irresponsable de la IA en situaciones en las que hay
enfrentamientos armados o existe el riesgo de violencia. La cooperación internacional también
debe centrarse en el fortalecimiento de alianzas innovadoras y multisectoriales para garantizar
que los datos y la inteligencia artificial, se utilicen de manera más deliberada como un medio
para generar confianza, resolver conflictos y apoyar enfoques mediados para poner fin a los
conflictos armados.
Precisamente porque las tecnologías relacionadas con la IA, ya tienen un efecto considerable
en nuestras vidas, se necesitan formas nuevas y más solidas de cooperación y de relaciones
diplomáticas, que nos permitan integrar los desafíos de la gobernanza global con los de la
tecnología, la sociedad y la economía. Esto es exactamente lo que representa la diplomacia
tecnológica múltidimensional: una herramienta de apoyo para los actores diplomáticos , a fin
de contribuir al debate sobre desafíos políticos e incorporar los resultados de los diálogos, a
menudo denominados como “diplomacia de segundas vía ”, en sus estrategias.

                                                                                                   2

Los participantes del Seminario de Toledo sobre Inteligencia Artificial, Diplomacia
Tecnológica y Resolución de Conflictos, han resumido en diez directrices, los elementos
constituyentes para una nueva iniciativa europea sobre el uso de la diplomacia tecnológica y la
Inteligencia Artificial en la prevención y mediación de conflictos:
    1. La iniciativa debe tener como valor central la generación de confianza entre todas las
       partes interesadas. Además, debe mitigar los efectos de la actual desconfianza y del abuso
       de las tecnologías digitales con fines poco éticos.
    2. La iniciativa aspira a construir comunidades multidisciplinarias con un compromiso
       real de contribuir eficazmente a resolver los problemas existentes y anticipar los riesgos
       futuros y los desafíos emergentes.
    3. La iniciativa promoverá el importante papel del registro y documentación del
       patrimonio cultural, como un elemento clave para el desarrollo de aplicaciones de
       aprendizaje automático en el campo de la prevención y mediación de conflictos.
    4. La iniciativa debería basarse en el concepto de espacios de datos y conocimiento como
       nuevos bienes globales, incluido el libre flujo de datos públicos, privados y personales
       (respetando siempre los derechos y libertades fundamentales de las personas físicas), así
       como la puesta en común de casos de uso a través de la creación de catálogos de
       tecnologías, algoritmos cualificados, canales de mitigación de la opacidad y
       consentimiento, auditoría ex-ante y mecanismos de privacidad por diseño para la
       rendición de cuentas de los resultados y esquemas de gobernanza. Se necesita un espacio
       neutral y de confianza que proporcione a todas las partes del proceso de negociación y
       construcción de la paz herramientas digitales, datos, modelos, casos de referencia y
       análisis verificados y transparentes.
    5. La IA puede utilizarse en tantas etapas apropiadas de la resolución de conflictos como
       sea necesario, como por ejemplo para analizar sistemáticamente los flujos de
       información y los contextos de los conflictos, construir y preservar la reputación,
       garantizar la inclusión de las voces poco representadas y aumentar la comunicación
       pública, promoviendo siempre el trabajo en equipo multidisciplinar. Se sugiere seguir el
       modelo de gobernanza del Internet, en el que participen una pluralidad de actores, el cual
       ha servido para desarrollar los lineamientos en torno al uso de la tecnología a nivel global.
    6. Los valores de la Carta de las Naciones Unidas y la Declaración Universal de
       Derechos Humanos, así como los Principios Europeos para la Construcción de una
       Democracia Digital con Propósito a nivel internacional, serán los pilares de la iniciativa
       junto con los conceptos de cibermediación, soberanía digital y autonomía estratégica.
       También debe considerarse el posible impacto negativo de la IA, ya sea intencionado o a
       través de su uso en el ciclo tecnológico.
    7. Las capacidades, el conocimiento social, la educación y la gobernanza de la
       diplomacia tecnológica y la IA en particular, son los criterios más exigentes al discutir
       cuestiones abiertas sobre la gobernanza del panorama digital a nivel global. Por lo tanto,
       la nueva iniciativa debería centrarse en la construcción de acciones concretas que
       puedan producir resultados y promover mecanismos de gobernanza innovadores
       que faciliten el intercambio de conocimiento, así como la posibilidad de reproducción y
       la escalabilidad.
    8. La iniciativa contribuirá al debate sobre la promoción de un conjunto de normas
       armonizadas y la convergencia de enfoques y prácticas normativas en la mediación
       y resolución de conflictos, que incluyan directrices (normas no vinculantes,
       recomendaciones) para el despliegue y uso de tecnologías digitales en entornos
       vulnerables (por ejemplo, como medida para responder a la militarización de la
       información). La iniciativa también debería fomentar el desarrollo seguro de la IA.

                                                                                                  3

9. La experimentación con tecnologías particulares de gran potencial parece ser
        necesaria y debe basarse en el respeto de la seguridad, la dignidad y la equidad humanas,
        y en la cooperación multicultural para la definición y establecimiento de, por ejemplo,
        sistemas de procesamiento de lenguaje natural, sandboxes, digital twins, sistemas de
        análisis de opinión pública, software de detección de anomalías, visualización contextual,
        plataformas específicas y servicios de asistencia para la mediación y resolución de
        problemas, entre otros.
    10. La IA puede aportar nuevas herramientas para la mediación y la resolución de
        conflictos, pero se debe tener en cuenta que esta pertenece a un entorno híbrido
        novedoso que por una parte es físico (con su propia función particular) y por otra, virtual
        (con el soporte tecnológico mencionado anteriormente). Es necesario investigar las
        implicaciones de vivir “entre" las esferas físicas y virtuales para comprender mejor este
        nuevo entorno y desplegar las soluciones adecuadas.
    11. Se recomienda establecer un grupo de trabajo interdisciplinario y con la
        participación de múltiples actores para poner en marcha la iniciativa, aprovechando la
        experiencia de la política, la investigación y la práctica, y definiendo tanto un enfoque
        experimental "práctico" utilizando las tecnologías más avanzadas como un diálogo más
        amplio sobre un marco de actuación a nivel teórico y metodológico, con debates de casos
        y difusión a alto nivel en eventos y foros científicos y políticos.
Aunque sigan existiendo retos en la usabilidad y el despliegue de las tecnologías, los conflictos
no estatales/internos, la preservación del respeto, la dignidad humana, la discreción, la privacidad,
la existencia de brechas digitales, los riesgos de ciberseguridad, los sesgos, las falsas predicciones
y la fabricación de noticias falsas, junto con el discurso de odio, la militarización de la información
y, como resultado, la erosión de la confianza, ha llegado el momento de que Europa construya
un marco de gobernanza tecnológica y una iniciativa europea de resolución de conflictos.
Esta iniciativa debería abarcar valores y prioridades universales y europeos, y promover la
creación de un espacio neutral y de confianza que proporcione a todas las partes del proceso de
negociación y construcción de la paz herramientas digitales, datos, modelos, casos de referencia
y análisis verificados y transparentes.

                                                                                                     4

FIRMAS
Esta declaración está respaldada a título personal por los participantes del Seminario de Toledo
sobre Inteligencia Artificial, Diplomacia Tecnológica y Resolución de Conflictos, según la
siguiente lista:
Carmelo Angulo – Socio y Fundador - AB Diplomacia Corporativa
José Miguel Atienza – Delegado del Rector - Universidad Politécnica de Madrid
Sultan Barakat – Director del Centro de Estudios sobre Conflictos y Asuntos Humanitarios -
Doha Institute.
Anahiby Becerril – Especialista en Derecho
Richard Benjamins - IA – Telefónica, OdiseIA (Observatory for Social and Ethical Impact of
Artificial Intelligence)
Ramón Blecua – Embajador en Misión Especial para la Mediación y el Diálogo Intercultura –
Ministerio de Asuntos Exteriores, Unión Europea y Cooperación
Francesca Bosco – Jefe de Personal y Jefe de Previsión - Cyberpeace Institute
Javier Cantero – Subdirector General Adjunto para Naciones Unidas – Ministerio de Asuntos
Exteriores, Unión Europea y Cooperación.
Jordi Carrasco-Muñoz - FPI MENA (en capacidad personal)
Emilio Cassinello - Director General - Centro Internacional de Toledo para la Paz CITpax
Oscar Corcho – Universidad Politécnica de Madrid
Chance Coughenour - Google Arts & Culture Department
Adrian Cussins – Universidad Nacional de Colombia
Susana de la Sierra – Profesora de Derecho Administrativo - Universidad Castilla La Mancha
(UCLM)
Juan Ramón de Páramo - Director del Instituto de Resolución de Conflictos - Universidad
Castilla La Mancha (UCLM)
Claudio Feijoo – Catedrático - Universidad Politécnica de Madrid
Asunción Gómez – Vice Presidenta de Investigación – Universidad Politénica de Madrid y
European Academy of Science
Ángel Gómez de Ágreda - Investigador - OdiseIA
Mabel González Bustelo - Asesora Senior - NOREF
Jonathan Harlander – Gestor de Proyectos Senior, Construcción de Paz Digital - CMI Martti
Ahtisaari Peace Foundation
Elena Herrero Beaumont – Co-fundadora – ETHOSFERA
Raquel Jorge Ricart – Consultora Independiente - Fulbright Fellow
Michael Keating – Director Ejecutivo- Instituto Europeo para la Paz

                                                                                              5

Elías López – Profesor e Investigador sobre Liderazgo y Reconciliación - Universidad Pontificia
Comillas
Adam Lowe – CEO - Factum Arte / Fundador - Factum Foundation
Antonio Lucio Gil - Profesor - EOI
Juan Luis Manfredi – UCLM y Georgetown University
Oscar Maqueda - Microsoft
Gianluca Misuraca – Asesor Especial, Democracia en la Era Digital - Re-Imagine Europa
Martin Müller – Director Ejecutivo, Academic Forum - Geneva Science and Diplomacy
Anticipator (GESDA)
Jesús Núñez - Co-Director - IECAH
José Ángel Olivas - Profesor – UCLM / Director - SMILe
Francisco Rey - Co-Director IECAH
Gabriel Reyes – Gestor de Proyectos - Centro Internacional de Toledo para la Paz (CITpax)
Eric N. Richardson – Asesor Senior para Asia y Norteamérica - Centre for Humanitarian
Dialogue
Pierre Rossel – Especialista en Previsión Tecnológica - Inspiring Futures
Manuel Sánchez Montero - Director - Trípode Associates
Kenneth Singer - Case Western Reserve University - Cleveland
Mac Skelton – Director Ejecutivo - Institute of Regional and International Studies (IRIS),
American University of Iraq Sulaimani (AUIS)
Brian Cantwell Smith - Reid Hoffman Professor of Artificial Intelligence and the Human - The
University of Toronto

                                                                                             6