REAIM: Responsible Artificial Intelligence in the Military Domain

He dejado el título en inglés, para no cargarme el acrónimo. REAIM o Responsible Artificial Intellgence in the Military Domain es el nombre de la reunión internacional que ha tenido lugar esta semana en La Haya para hablar de los retos, donde caben oportunidades, riesgos, peligros, y necesidades, a la hora de adoptar el uso de la Inteligencia Artificial en el mundo militar, donde hace años ya se utiliza.

Figura 1: REAIM: Responsible Artificial Intelligence in the Military Domain

Imagen Dall-e "Tank in Picasso Style"

En la reunión internacional de REIM se ha concluido con la emisión de una "Llamada a la acción" o CTA (Call To Action) donde se enuncian una serie de hechos que quedan reconocidos y una necesidad de tomar decisiones a futuro para mejorar la situación. Está claro que la Inteligencia Artificial se va a aplicar a todo, como nosotros la aplicamos al mundo de la ciberseguridad en nuestro libro, pero la vemos aplicada a la salud, los transportes, los negocios, el diseño generativo, etcétera. 

Figura 2: Libro de Machine Learning aplicado a Ciberseguridad de
Carmen Torrano, Fran Ramírez, Paloma Recuero, José Torres y Santiago Hernández

Entre otros, se reconoce que estamos solo en los inicios de la eclosión de la Inteligencia Artificial y no comprendemos completamente el impacto y los retos a los que nos vamos a enfrentar con su uso en el dominio militar.

Figura 3: Reconocimiento de nuestro desconocimiento de su impacto

La carta, que podéis leer online o descargar en PDF reconoce muchas cosas que no sabemos, algunas de ellas tiene que ver incluso con la necesidad de "cazar los mitos" alrededor de la IA, ya que todos tenemos en mente las películas de ciencia ficción que tanto nos han asustado con ella.

Figura 4: Necesidad de aprender más de IA (incluidos los mitos)

Uno de los puntos importantes que la carta ha puesto en la lista, ha sido un debate muy fuerte en los últimos años, ya que si un sistema de IA toma una decisión de atacar a un objetivo provocando muertes por error del sistema IA, ¿quién es el responsable? La carta deja claro que siempre debe haber una persona que debe tomar la responsabilidad.

Figura 5: Necesidad de que haya un ser humano responsable de la IA

Esto fue una gran debate desde el inicio de uso de los llamados “robots asesinos” vigilados por la organización Human Rights Watch que en el año 2020, donde se constató que ya se utilizaron para tomar la decisión de "matar a un humano", han estado peleando por regular su uso en el mundo militar.

Figura 6: Informe de Human Rights Watch sore los Robots Asesinos

Esto no es nuevo, ya que desde el año 2013 se lleva hablando de esta posibilidades en la Unión Europea, y como contaba en el artículo de la cámaras de Super High Definition, en el año 2015, en el congreso de Future of Life, al final del mismo se firmó una carta abierta en la que se pedía el uso responsable de estas tecnologías. Elon Musk, Steve Wozniak, Bruce Shneier, en una larga lista pedían que el la Inteligencia Artificial no se explotara militarmente de esta forma.

Figura 7: Carta abierta de Future of Life

Ahora en el Call To Action de REIM se ha pedido que los humanos tomen responsabilidad del uso de la IA si esta toma decisiones. Esto obliga a trabajar mucho en el ámbito de entender cómo está entrenada una Inteligencia Artificial, por qué toma una determinada decisión. Las áreas de interpretabilidad de la IA van a ser de gran importancia de ahora en adelante, ¿o tomarías responsabilidad del uso de una tecnología que puede matar sin saber cómo decide matar?

Figura 8: KARGU - Autonomous Tactical Multi-Rotor Attack UAV

De hecho en la carta se habla de la necesidad de comprender mejor el funcionamiento de la IA, sus posibles sesgos de aprendizaje a la hora de tomar una decisión, lo que implica mucho trabajo de investigación. 

Figura 9: Libro de "Hacking con Drones: Love is in the air"
escrito por David Meléndez Cano a.k.a. TaiksonTexas en 0xWord

Por eso, en la carta se hace el llamamiento a la "Academia" reiteradas, y aparece citada en 6 de las 24 frases que componen la carta antes de hacer el llamado. Es decir, el 25% de los "statements", lo que me gustaría reiterar. El mundo de la investigación tiene una oportunidad de dar un paso al frente y seguir alimentando un debate que nos tiene que preocupar a todos.

Figura 10: Necesidad de entender el funcionamiento y consecuencias del uso de la IA

La carta la podéis descargar de la web de REIM, y analizar completamente, pues da para pensar mucho, pero me parece que es más que necesario este tipo de debates públicos.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)