Cámaras de "Super High Definition", Inteligencia Artificial y Drones (o globos) de Vigilancia

En el año 2019, en mi último año como responsable ejecutivo de ElevenPaths y Chief Data Officer, poco antes de comenzar una nueva andadura como Chief Digital Consumer Officer, tuvimos el último Security Innovation Day. En aquel evento elegimos la temática de Blade Runner porque la película original estaba datada en un futuro lejano de un año 2019, exactamente en el que estábamos. En mi charla, que podéis ver en mi canal de youtube, yo hacía un recorrido a algunas tecnologías de seguridad, de pentesting, de hardening, de investigación y, por supuesto, de privacidad. 

Figura 1: Cámaras de "Super High Definition", Inteligencia Artificial

y Drones (o globos) de Vigilancia

Entre ellas, al final de mi presentación, hablaba de cómo las cámaras de Super-High Definition mezcladas con los avances en "Cognitive Services" para el reconocimiento facial ya eran una realidad. Se podría controlar a todas las personas de una gran área con fotografías de Super-High Definition de manera muy sencilla. 

Figura 2: Security Innovation Day 2019

Para hacer una demostración a las personas de cómo de potentes eran las cámaras comerciales SHD, es decir, las que pueden comprar las empresas, hacía una demo sencilla con una fotografía de 195 billones de píxeles de la ciudad de Shangai de la empresa china Big Píxel, que podéis ver en este vídeo y con la que podéis jugar en este enlace: Shangai Big Píxel.

Figura 3: Imagen SHD de Shangai por Big Pixel

En muchos lugares esto ha sido una gran polémica, porque el número de cámaras que hay por la ciudad es grande, las legislaciones en algunos países permiten este tipo de control - se ha usado también como mecanismos de seguridad para entrar en actos multitudinarios o para vigilar alrededores.

Figura 4: Imagen SHD de el Vaticano por Big Pixel

De uso militar, existen cámaras  como la Super-High Def Argus IS, que es capaz de tomar imágenes claras de objetos de 15 centímetros desde una altura de 6 kilómetros, lo que está pensado en su uso en drones militar. Y su tamaño, como podéis ven en este vídeo es bastante reducido.

Figura 5: Cámara Super-High Def Argus IS

Como os podéis imaginar, este tipo de cámaras montadas en drones de vigilancia, drones militares, o drones de control de industrias, carreteras, etcétera son de gran utilidad, y por eso su uso se está masificando en el mundo de los amantes de los drones.

Figura 6: Libro de "Hacking con Drones: Love is in the air"
escrito por David Meléndez Cano a.k.a. TaiksonTexas en 0xWord

Este tipo de tecnologías, son utilizadas en sistemas de control de matrículas en las cámaras de las autopistas, los parkings o los alrededores de un edificio vigilado, y se han ido especializando para leer todo tipo de información útil para generar datos. La empresa All Read usa AI para reconocer cualquier señal, placa o información en camiones, contenedores, vehículos, etcétera, generando un base de datos con lo que sucede en un lugar concreto.

Figura 7: Lectura de placas, letreros, señales y matrículas con AI por All Read

Es decir, que si sumamos cámaras de Super-High Definition con servicios cognitivos de reconocimiento facial, de lectura de datos de vehículos, de generación de metainformación de una foto, de contado de personales, de reconocimiento de casi lo que queráis, tenemos un sistema de vigilancia en modo GIS generado de forma muy sencilla mezclando estos dos avances tecnológicos.

Reconocimiento facial e industria militar

Por supuesto, este tipo de vigilancia de las ciudades está protegido en muchos países con limitaciones, pero lo cierto es que cada vez más (y mejor) la tecnología permite implementar estas soluciones de control que recuerdan mucho a la película de Enemigo Público, donde una persona no podía esconderse del mega-control de un país usando toda la potencia de estas tecnologías.

Figura 8: Carta abierta de Future of Life

Por supuesto, esto no es perfecto, y su uso en fines militares empieza a ser un gran debate. En el año 2015, en el congreso de Future of Life, al final del mismo se firmó una carta abierta en la que se pedía el uso responsable de estas tecnologías. Elon Musk, Steve Wozniak, Bruce Shneier, en una larga lista pedían que el la Inteligencia Artificial no se explotara militarmente de esta forma.

Figura 9: KARGU - Autonomous Tactical Multi-Rotor Attack UAV

Pero esto ya está en uso y se ha utilizado en operaciones donde Drones han usado AI para elegir su objetivo y tomar la decisión de disparar y matar un objetivo. Esto generó mucha polémica en el año 2020 y Human Rights Watch levanto el caso de los Robots Asesinos que toman decisiones autónomas de vida o muerte usando tecnología. En un artículo del año 2021, hablaba de todo esto mi compañero Sergio Sancho, donde veíamos también los drones de ataque a objetivos tipo Kargu, y los sistemas militares que utilizan los enjambres de drones bomba como Kerkes para destruir objetivos militares.

Figura 10: Sistema KERKES de vuelos en enjambre Kargu-2

La polémica está en que, si utilizan un sistema cognitivo basado en AI para el reconocimiento facial, y esta falla, podrían estar atacando al objetivo equivocado. Y por eso, yo ponía el ejemplo de cómo el servicio cognitivo de reconocimiento facial de Microsoft Azure me confundía con George Clooney, algo que este verano pasado volví a probar con otra IA en otra fotografía, y volvía a suceder.

Figura 11: Probabilidad muy alta de que seamos la misma persona

Todo esto que conté en el año 2019, y que es un debate abierto desde el año 2015, se ha vuelto a poner de actualidad por culpa de los globos chinos que estaban sobre volando EEUU y que han sido derribados por este último país. Y de todo esto es para lo que me invitó ayer el gran Iker Jiménez para hablar en su programa Horizonte de ayer. De cómo funcionan estas tecnologías y qué podrían hacer o no.

Figura 12: Horizonte Tx3 Episodio 21

Lo cierto es que la preocupación es grande, y empresas como Google, Microsoft, o nosotros mismos en Telefónica, tenemos controles éticos para el uso de la Inteligencia Artificial en determinados proyectos, y hay que reportar su uso y validarlo.

Figura 13: Uso responsable de IA para reconocimiento facial en Microsoft

En el caso de Microsoft, este equipo ha puesto limitación al uso de los sistemas de Inteligencia Artificial para el reconocimiento facial, por las implicaciones que esto supone hoy en día, pero... ya os garantizo que no todas las empresas tienen esos controles y que el uso de la IA en la industria militar para la selección de objetivos ya empieza casi a ser algo que todos tienen como capacidad.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  

Figura 14: Contactar con Chema Alonso