Los peligros de la Inteligencia Artificial como arma de guerra

Rusia está utilizando ampliamente las llamadas “municiones merodeadoras” (o “drones kamikaze”) contra Ucrania. Esta es una mezcla entre un dron “normal” y un cohete. En teoría, este tipo de munición puede bombardear un área específica, buscando y determinando el objetivo de forma independiente.

Estos dispositivos son los que se suelen relacionar con el término “Inteligencia Artificial” (IA). Pero, de hecho, el “dron kamikaze” no es tan inteligente y el alcance de la IA en asuntos militares es mucho más amplio.

¿Es la IA un descubrimiento reciente?

La verdad es que no. El término “Inteligencia artificial” en sí se ha utilizado en relación con el software desde la década de 1950. El problema es que no hay una definición clara. En el siglo pasado, “Inteligencia Artificial” era el nombre que se le daba a las capacidades que tiene cualquier smartphone en la actualidad.

Las armas “inteligentes” también aparecieron en el siglo pasado. Ya entonces existían, por ejemplo, los sistemas de guiado de misiles y proyectiles, que permitían seleccionar y priorizar “independientemente” un objetivo entre varios sin intervención humana. O los sistemas de defensa antiaérea y antimisiles de los barcos, que, en caso de falta de tiempo para una decisión por parte de una persona, podían disparar ellos mismos contra lo que consideraban un misil que amenazaba al barco. O, por ejemplo, la conocida “mano muerta”, un sistema que puede dar la orden de un ataque nuclear de represalia si considera que las personas que lo controlan ya han muerto.

Pero desde principios de este siglo, la mejora de la IA ha avanzado a pasos agigantados, como todas las demás áreas de la informática.

Según las Naciones Unidas, el primer caso registrado de un sistema autónomo que mató a una persona sin la participación de un operador ocurrió en la primavera de 2020 en Libia. Luego, las tropas del Gobierno de Fayez al Sarraj, también conocido como Gobierno del Acuerdo Nacional (GAN), utilizaron drones autónomos de fabricación turca contra los soldados que apoyaban al mariscal Khalifa Haftar.

Vincent Boulanin, investigador sénior del Instituto Nacional de Investigaciones para la Paz (SIPRI), dice: “No es una tecnología única, sino una característica habilitadora. Es como hablar de electricidad. Así como la electricidad tiene aplicaciones completamente diferentes, la IA permite que algunas tecnologías que se agreguen de tal manera que potencialmente los haga más eficientes, más baratos, más compactos y más autónomos”.

¿Cómo usan los militares la IA?

Según SIPRI, prácticamente no quedan áreas de actividad militar donde no se utilice IA. Los drones son solo un ejemplo. Según los analistas, en 2028 el volumen del mercado asociado a la IA en el ámbito militar superará los 13.700 millones de dólares. Al mismo tiempo, por supuesto, diferentes países tienen diferentes niveles de saturación con este tipo de sistemas.

• El aspecto más conocido es el sistemas de combate autónomos, o drones. Pueden ser vehículos voladores, como el Bayraktar turco, y terrestres, en forma de pequeño tanque o vehículo blindado de transporte de tropas, y marítimos.

Estos dispositivos pueden “cazar” de forma autónoma equipos y soldados enemigos en un área determinada, detectar objetivos de forma autónoma y elegir el más importante de ellos.

• El uso más “popular” de la IA es el mismo en la vida militar y civil: la análisis de grandes bases de datos reemplazar a personas en actividades a veces tediosas y monótonas. Por ejemplo, cuando tienes que examinar una gran cantidad de fotos aéreas y encontrar un objetivo específico. Aquí ni siquiera estamos hablando de IA específicamente “militar”. Aquí se utilizan los mismos esquemas que, por ejemplo, en los sistemas de reconocimiento facial en la calle.
• Detección y análisis de posibles amenazas. AI puede hacer recomendaciones basadas en estos datos mucho más rápido que un humano. Además, la IA, en teoría, carece del “sesgo” inherente a los controles humanos y no sufre el efecto de “ojo borroso”, especialmente importante en un entorno de combate que cambia rápidamente.
• La IA es capaz no solo de evaluar la situación en el campo de batallapero también, dentro de ciertos límites, para “predecir el futuro” a partir de la experiencia de las acciones del enemigo.
• Pruebas y comprobaciones. La IA puede “simular” el funcionamiento de nuevos equipos militares, nuevos dispositivos e incluso nuevos conceptos tácticos, lo que reduce el costo y el tiempo necesarios para organizar pruebas reales.

¿Puede la IA controlar la batalla de forma independiente como en un juego de ordenador?

No. Todos los programas que pueden clasificarse como IA para aplicaciones militares realizan una gama muy limitada de tareas. Algunos analizan la situación, otros controlan drones autónomos, otros pueden efectivamente dar pronósticos y “consejos” a los comandantes. Bajo algunas condiciones, cuando el tiempo es críticamente corto, la IA puede “tomar una decisión” por sí misma.

Pero aunar todo esto en un solo plan de batalla sigue siendo una tarea humana. Ni los militares ni los civiles confían lo suficiente en la IA como para permitirle luchar “independientemente” en una guerra o incluso en una sola batalla. Detrás de la “consola más importante” siempre hay una persona.

¿Es peligroso usar IA en la guerra?

Según Vincent Bulanen, investigador principal del Instituto de Investigación de la Paz de Estocolmo, existen tres niveles de riesgo asociados con la IA y su uso en asuntos militares.

• El primer nivel es tecnológico.. La IA está diseñada de tal manera que incluso los propios desarrolladores no siempre pueden establecer conexiones lógicas y comprender por qué el robot “tomó” tal o cual decisión. Esto se conoce como el “problema de la caja negra”. Por lo tanto, ni los civiles ni los militares pueden, en sentido estricto, confiar plenamente en las decisiones de la IA. Y por lo tanto, siempre existe al menos un riesgo teórico de que el robot realice alguna acción que no se espera de él.

Esto se puede evitar con un desarrollo más cuidadoso de los algoritmos. Hay algoritmos completamente “transparentes”, pero no siempre son aplicables.

• El segundo nivel es cómo la IA puede cambiar la forma en que organizamos las guerras y los conflictos. ¿Será más fácil para los humanos dar órdenes de matar si consideran que no hay peligro de muerte, ya que en el campo de batalla solo hay robots, o la mayoría?

Esto plantea problemas humanitarios a gran escala. Los civiles estarán en la línea de fuego. En primer lugar, el problema de distinguir a un civil de un militante sigue siendo muy grande. En segundo lugar, aumentará el riesgo de catástrofes humanitarias porque aumentará el riesgo de nuevos conflictos. Después de todo, iniciar una “guerra de robots” en términos morales puede ser mucho más fácil.

Aquí, según Bulanen, es necesario enseñar a los militares a no confiar demasiado en la IA: no es un “robot que nunca comete un error”, sino un sistema ordinario hecho por el hombre que tiene sus limitaciones e inconvenientes. Después de todo, un robot, como un ser humano, toma decisiones en base a ciertos datos, y estos pueden ser incompletos, erróneos o distorsionados deliberadamente.

Vincent Boulanin, investigador principal del SIPRI:

“Hay cosas que los propios militares pueden hacer: en términos de tomar medidas de reducción de riesgos, en términos de capacitar a las personas que van a usar estos sistemas o decidir no adoptar un determinado sistema, porque el riesgo de un accidente puede ser demasiado alto, es decir, estamos hablando de autocontrol y evaluación de riesgos”.

• El tercer nivel es la posibilidad de la distribución más amplia posible de estos sistemas.. La IA es, de hecho, una “tecnología de doble uso”. Es muy utilizado en el ámbito civil, y es muy fácil para los especialistas adaptar códigos públicos para uso militar.

“No es como la tecnología nuclear, no puedes comprar un arma nuclear en la esquina. Y es muy fácil desarrollar aplicaciones de IA. Los datos ya están ahí. Los métodos están ahí. Hay ingenieros capacitados en todo el mundo. Así que la El riesgo potencial es que se necesita muy poco para desarrollar IA militar, los delincuentes pueden acceder fácilmente a esta tecnología”, dijo Boulanin.

Reducir este riesgo es muy difícil, ya que requerirá ciertos acuerdos restrictivos a nivel internacional. En primer lugar, pueden entrar en conflicto con la libertad de difusión de información (cuando se trata de IA “pacífica”); y en segundo lugar, estos documentos no serán importantes para los atacantes.

¿La IA cambiará los futuros conflictos militares? ¿Los robots reemplazarán a los soldados?

Hasta el momento, desde un punto de vista puramente tecnológico, no existe ningún robot que pueda reemplazar al tirador con una ametralladora. Pero en muchas otras formas, la IA ya ha encontrado su aplicación más amplia. Un aspecto de la respuesta final a esta pregunta es ético.

El experto del SIPRI considera: “Algunas personas adoptan un enfoque práctico. Si en teoría la IA puede ayudar a reducir las bajas civiles, ¿por qué no utilizar la automatización? Otros partirán de lo fundamental. No es normal que automaticen este tipo de decisiones, aunque podría ser efectivo de alguna manera. No querrán hacerlo porque ese es su principio ético”.

El concepto de toma de decisiones por parte de los gerentes ya está cambiando. En primer lugar, estas decisiones se tomarán mucho más rápido y, en general, esto puede acelerar el curso de los conflictos armados. Los comandantes confiarán más en los “consejos” de la IA, y esto conlleva los riesgos ya mencionados.

Desde el punto de vista del derecho internacional que rige el desarrollo de las hostilidades -las “leyes y usos de la guerra”-, la IA no destaca en absoluto. Un dron controlado por IA no es diferente de un misil con un sistema de guía “normal” o una bomba “estúpida” sin guía. Si hablamos, por ejemplo, de crímenes de guerra, la gente seguirá siendo responsable de ellos, incluso si la “decisión la tomó” el dron.