Defensa garantiza que el uso militar de la inteligencia artificial tendrá siempre un control humano
Ha aprobado una estrategia que también establece que esta tecnología no se utilizará en misiones de ataque protagonizadas por drones
- Influencia en el campo de batalla
- No reemplazará a las personas
- “Siempre de forma identificable”
- Derecho Internacional Humanitario
- “Clara supervisión humana”
- Identificación del responsable
- No dirigirá las actividades
- Inteligencia y drones
- A la búsqueda de financiación
El Ministerio de Defensa ha regulado el futuro uso que puedan hacer las Fuerzas Armadas de la inteligencia artificial. Ha aprobado una estrategia que pone ciertos límites y condiciones a la utilización de esta tecnología que tanto está dando que hablar.
Amparo Valcarce firmó hace unas semanas la Resolución 11197/2023, de 29 de junio, de la Secretaria de Estado de Defensa, por la que se aprueba la Estrategia de desarrollo, implantación y uso de la Inteligencia Artificial en el Ministerio de Defensa.
Influencia en el campo de batalla
Explica el ministerio en este documento que “los avances en las tecnologías de la información y de las aplicaciones militares de la Inteligencia Artificial, van a marcar la evolución del diseño y conducción de las operaciones”.
Además, “se prevé que la Inteligencia Artificial tenga una gran influencia en la forma en la que se configurará el campo de batalla”.
Las aplicaciones de la IA “tendrán un impacto directo en todas las áreas que lo componen”, entre las que destacan “la gestión de la información, los procesos de obtención y explotación de inteligencia, la capacidad de disuasión, la toma de decisiones y el propio enfrentamiento”.
No reemplazará a las personas
En el prólogo o preámbulo a la estrategia, Defensa subraya que “las personas que sirven en las Fuerzas Armadas son, y seguirán siendo, el activo más valioso del Departamento”.
Como consecuencia, el ministerio proclama que “se utilizarán datos e información, herramientas y aplicaciones habilitadas para la IA para mejorar el entendimiento y capacidades de las personas, no con el objetivo de reemplazarlas, sino de complementarlas y facilitar que aporten mayor valor a sus actividades, alineándose además con los principios éticos que sean de aplicación”.
“Siempre de forma identificable”
La Estrategia de desarrollo, implantación y uso de la Inteligencia Artificial en el Ministerio de Defensa adelanta que “en el horizonte temporal próximo”, que no concreta, la inteligencia artificial “se integrará de manera extensiva en la actividad del Ministerio de Defensa, en general, y de las Fuerzas Armadas en particular”.
Esa integración estará condicionada a que el empleo de la inteligencia artificial se lleve a cabo “siempre de forma identificable, estará dirigido a incrementar la eficacia en las misiones y cometidos del departamento y será aplicable en todos los niveles orgánicos o de conducción de las operaciones”.
El uso de la inteligencia artificial “estará siempre de acuerdo con la legislación nacional e internacional, los principios de uso ético de la IA y dirigida a su área de aplicabilidad”.
El ministerio declara que “explotará el uso militar potencial de la inteligencia artificial, a la vez que tomará las medidas necesarias para protegerse de su uso por parte de los posibles adversarios”.
Derecho Internacional Humanitario
Este documento firmado por la números de Margarita Robles fija una serie de “principios de desarrollo, implantación y uso responsable de la Inteligencia Artificial en la Defensa”.
El primero de ellos es la legalidad. El ministerio se compromete a que las aplicaciones de la inteligencia artificial en su ámbito “se desarrollarán y emplearán de acuerdo con el derecho nacional e internacional que sea de aplicación, incluida la Declaración Universal de Derechos Humanos y el Derecho Internacional Humanitario”.
Cita también la “mitigación del sesgo” (“se tomarán todas las medidas necesarias para minimizar errores y orientaciones subjetivas en el desarrollo y uso de aplicaciones de IA”) y la privacidad, en el sentido de que “el desarrollo, la implantación y el uso de aplicaciones basadas en IA deben respetar la privacidad de las personas, desde el diseño y durante todo el ciclo de vida”.
“Clara supervisión humana”
Pero destaca especialmente un principio: el de “responsabilidad humana y rendición de cuentas”.
El Ministerio de Defensa garantiza por escrito que “cualquier desarrollo de inteligencia artificial, así como su utilización, deberá permitir una clara supervisión humana con el fin de garantizar la debida rendición de cuentas y la atribución de responsabilidades”.
La inteligencia artificial ha añadido nuevos elementos a un debate que se arrastra desde hace años, de hasta qué punto se pueden incorporar elementos automáticos en los sistemas de armas, por ejemplo en drones aéreos y en vehículos terrestres o marinos no tripulados, en vez de tener un control directo por parte de una persona.
Identificación del responsable
La estrategia del ministerio contempla este tipo de desafíos, y de hecho un punto del documento está dedicado a la resolución de conflictos éticos relacionados con la inteligencia artificial.
Defensa ordena a todos los órganos de la estructura del ministerio que “la utilización de IA en sistemas de armas estará condicionada a la clara e inequívoca posibilidad de identificar a la persona responsable de su empleo directo y de la decisión de uso”, de acuerdo con las directrices que establezca el ministerio en esta materia.
Designa a tres autoridades como responsables de resolver los conflictos éticos derivados del empleo de esta tecnología:
-- El Jefe de Estado Mayor de la Defensa (JEMAD), para las aplicaciones en el ámbito de las operaciones militares.
-- La persona titular de la Secretaría de Estado del Centro Nacional de Inteligencia, en el ámbito de sus competencias.
-- La persona titular de la Secretaría de Estado de Defensa, para el resto de aplicaciones.
Además, estas tres autoridades contarán con el apoyo de un grupo de trabajo que se creará en este ámbito para analizar las cuestiones éticas relativas al desarrollo y empleo de la inteligencia artificial.
No dirigirá las actividades
El plan de Defensa es que la incorporación de la inteligencia artificial se haga “de manera progresiva, para generar un entorno de confianza en el Departamento, y siempre en el marco de las necesidades y prioridades establecidas en el Proceso de Planeamiento de la Defensa”.
Recalca que “en todos los desarrollos y aplicaciones se tomará conciencia de que la IA apoya a la actividad, pero no la guía ni la dirige”.
El ministerio ha establecido una lista de “casos de uso iniciales de la Inteligencia Artificial”, basada en la utilización que ya se hace en las organizaciones internacionales de seguridad y defensa, como puede ser la OTAN.
Inteligencia y drones
Se citan algunas capacidades y operaciones militares en las que se contemple introducir el uso de inteligencia artificial, en una lista que se podrá ir ampliando:
1. Movilidad militar. Planeamiento y apoyo del transporte, estratégico, operacional y táctico.
2. Inteligencia. Interpretación de imágenes, análisis de datos y documental. Traducción automática de textos y del lenguaje hablado.
3. Guerra electrónica. Planeamiento y apoyo a las operaciones de Guerra Electrónica.
4. Autonomía en el comportamiento de sistemas no tripulados. Desarrollo de funciones autónomas no letales en sistemas no tripulados terrestres, navales y aeroespaciales.
5. Apoyo logístico y alistamiento operativo. Mantenimiento predictivo y sostenimiento. Esto incluye la implantación de bases logísticas inteligentes.
6. Conocimiento y vigilancia del entorno en los ámbitos terrestre, marítimo, aeroespacial, ciberespacial y cognitivo. Análisis masivo de datos, información y desinformación.
7. Ciberdefensa. Identificación y actuación frente a ciberamenazas. Incluye la prevención, predicción de ataques y simulación de su efecto en las redes y sistemas propios.
8. Apoyo a la toma de decisiones. Simulación y visualización de escenarios presentes y futuros para apoyar la adopción de decisiones en todos los niveles de conducción de las operaciones militares, estratégica, operacional y táctica.
9. Análisis geoespacial, meteorológico y oceanográfico. En apoyo al planeamiento, conducción y seguimiento de operaciones militares.
10. Gestión de la información, de la infraestructura y los servicios CIS/TIC. Asignación autónoma de recursos a servicios CIS/TIC en función de su carga de trabajo y previsión de actuaciones de mantenimiento, reposición y ampliación de los componentes de la infraestructura.
11. Gestión del talento y formación. Identificación de los candidatos más adecuados para los perfiles requeridos y apoyo a las actividades de enseñanza, instrucción y adiestramiento, incluyendo la simulación.
Llama la atención, por ejemplo, el punto 4. El Ministerio de Defensa sugiere que se podrán utilizar tecnologías basadas en inteligencia artificial en sistemas no tripulados, pero establece una condición: que sean funciones “no letales”.
Es decir, por ejemplo en ningún caso se permitiría que un dron disparara un misil contra un objetivo sin que detrás haya una persona, un militar tomando esa decisión. De ahí que sólo se permita en “funciones autónomas no letales”.
A la búsqueda de financiación
Por último, de esta estrategia aprobada recientemente por el Ministerio de Defensa llama la atención un punto sobre la financiación.
El departamento va a crear un Grupo de Trabajo Permanente de Inteligencia Artificial. Estará copresido por un representante de la Subdirección General de Planificación, Tecnología e Innovación y un representante del Centro de Sistemas y Tecnologías de la Información y las Comunicaciones (CESTIC), perteneciente a la Oficina del Chief Information Officer (CIO) del ministerio.
Contará como vocales permanentes con representantes del Estado Mayor de la Defensa, Ejército de Tierra, Armada, Ejército del Aire, Unidad Militar de Emergencias, Dirección General de Armamento y Material, Centro Nacional de Inteligencia y CESTIC.
Cuando se traten asuntos relativos a la formación, captación y retención del talento, participarán representantes de la Dirección General de Personal y de la Dirección General de Reclutamiento y Enseñanza Militar.
Cuando sea necesario evaluar aspectos éticos, de protección de datos personales y jurídicos concernientes a las iniciativas y proyectos de IA, participarán representantes de la Asesoría Jurídica General de la Defensa y de la Oficina del Delegado de Protección de Datos Personales.
Una de las funciones de este grupo de trabajo será “identificar fuentes de financiación adicionales a los Presupuestos Generales del Estado que puedan emplearse para proyectos” de inteligencia artificial.
