Riesgos de la Inteligencia Artificial: Cuando Alan Turing jugó a ser el guardián del Futuro.

No hace falta que os presente al gran Alan Turing. Todos conocemos su enorme legado a la informática moderna y su gran aportación a la historia de toda la Humanidad (y no exagero) por ejemplo, siendo clave para vencer a los nazis en la Segunda Guerra Mundial contribuyendo al descifrado de la máquina Enigma. Pero su impacto se dejó notar en muchas más cosas, como vamos a ver.

Figura 1: Riesgos de la Inteligencia Artificial.

 Cuando Alan Turing jugó a ser el guardián del Futuro.

Pues es curioso que, aunque Alan Turing nunca fabricó una Inteligencia Artificial (IA) como tal (entre otros problemas no tenía tecnología para hacerlo), su trabajo sentó la base en este campo e incluso se atrevió a predecir los futuros problemas que tendríamos y que estamos empezando a ver hoy día en nuestra sociedad.

Figura 2: Primera página del ensayo “Computing Machinery and Intelligence”.

En 1950, Turing publicó un histórico ensayo académico llamado "Computing Machinery and Intelligence", un artículo en el que se hizo la pregunta "¿Pueden pensar las máquinas?". En lugar de intentar definir lo que significaría para una máquina "pensar" en términos humanos (algo que ni siquiera hoy día tenemos claro), propuso que si una máquina puede interactuar con un humano de tal manera que el humano no puede distinguir si está interactuando con una máquina o con otro humano, entonces la máquina podría considerarse inteligente. En otras palabras, además de parecer inteligente, nos podría engañar. Estamos hablando, nada más y nada menos, del famoso Test de Turing.

Figura 3: "Microhistorias: anécdotas y curiosidades de la historia de la
informática (y los hackers)"de Fran Ramírez y Rafael Troncoso en 0xWord. 

Conocer la historia de la informática, donde como vemos, Turing juega un papel protagonista, es vital para entender y moldear nuestro futuro. Por eso te recomendamos nuestro libro "Microhistorias: anécdotas y curiosidades de la historia de la informática (y los hackers)" ;) donde hablamos, por supuesto, de Alan Turing y otros pioneros de la Informática. 

El Test de Turing y las Predicciones de Seguridad de Turing

El Test de Turing es de base, una prueba de engaño. Una máquina pasa el test si puede engañar a un ser humano para que crea que está interactuando con otro humano. Alan Turing ya predijo que las máquinas (o la IA) serían capaces de pasar su test a finales del Siglo XX. Por otro lado, Turing también reconocía que el engaño al test podría tener implicaciones muy peligrosas. Es decir, si una máquina puede engañar a un humano para que crea que es otro humano ¿cuál es el límite? ¿qué otros engaños serían posibles? 

Figura 4: Alan Turing en 1935 leyendo en el jardín de sus padres

En otras palabras, el Test de Turing es el primer reconocimiento de los riesgos sobre la seguridad que la Inteligencia Artificial nos podría plantear en el futuro (es decir, ahora).

Y Turing tenía razón: DeepFakes, FakesNews y más allá

Hoy día ya estamos viviendo las consecuencias de los peligros que Alan Turing predijo. Los Deepfakes y las Fakenews son sólo la punta del iceberg. Ya hemos comprobado que las redes sociales y el correo electrónico se han llenado de bots inteligentes capaces de generar desinformación o ser el anzuelo para estafar y engañar.  En este punto aprovecho para recomendarte utilizar MyPublicInbox si quieres tener una comunicación fiable y directa con todo tipo de perfiles y evitar estos cada vez más frecuentes problemas de desinformación y suplantación que tenemos a día de hoy. 

Estamos empezando a ver ya deepfakes prácticamente imposibles de detectar llegando incluso tener que usar técnicas enfocadas a por ejemplo la biometría (latidos del corazón, parpadeo, movimiento, etc) para poder detectarlas. El Deep Learning y los LLMs como ChatGPT y similares han sido un avance como nunca visto en el mundo de la IA que ha potenciado por otro lado, esta parte oscura de la tecnología.

Figura 5: Respuesta de ChatGPT (GPT-4) al preguntarle

si es capaz de superar el Test de Turing

Continuando con los deepfakes, estos son una gran amenaza a la seguridad y confianza de los datos y de la información. Con esta tecnología se pueden crear vídeos y audios falsos (clonación de voz) tan convincentes capaces de engañar incluso a familiares cercanos. Pero no sólo hablamos de engaños, también de ética y privacidad. La IA puede ser utilizada para sacar beneficio desde prácticamente cualquier ámbito digital, algo que puede afectar a nuestra privacidad. Por lo tanto, la ética es también un tema importante que Alan Turing ya vaticinó.

Luchando contra las DeepFakes

Nosotros, desde nuestro equipo de Ideas Locas junto a Chema Alonso, llevamos tiempo avisando sobre este problema e intentando crear herramientas para ayudar a la detección de este tipo de engaños. Pensamos que la seguridad en el mundo de la IA es crítica debido a cómo avanza la tecnología a día de hoy. 

Figura 6: Matriz en desarrollo con los diferentes desafíos

y soluciones para diferentes modelos

Por ejemplo, con OMLASP (aquí tienes un artículo donde lo explicamos a fondo) queremos emular a nuestro querido Mitre ATT&CK para crear un framework que ayude a evaluar y encontrar vulnerabilidades en modelos de Machine Learning.

Figura 7: Demo de DeepFake Detector con humanos

Centrándonos en las deepfakes, llevamos tiempo desarrollando una aplicación llamada Deep Fake Detector (DTD), la cual utiliza diferentes técnicas de Machine Learning y otras basadas en el movimiento, para detectar deepfakes en tiempo real. 

Figura 8: Demo de DeepFake Detector con DeepFakes

Es decir, se puede usar con cualquier programa de conferencia e incluso con vídeos grabados. Cada vez estamos perfeccionando más esta aplicación añadiendo nuevos métodos de detección como los VIT o detección incluso de voces clonadas. Os iremos dando más información sobre esta herramienta en futuros artículos.

Reflexión final

A pesar de que han pasado más de 70 años desde que Alan Turing publicó "Computing Machinery and Intelligence", su trabajo sigue siendo increíblemente relevante. En muchos sentidos, Turing fue un profeta de la era de la IA, anticipando tanto sus posibilidades como sus peligros. 

El Test de Turing, con su enfoque centrado en la capacidad de una máquina para engañar a un humano, nos recuerda y advierte los grandes riesgos de seguridad inherentes a la IA. En una época de DeepFakes, FakeNews, y sobre todo lo que ha supuesto la evolución de la IA Generativa, la visión de Turing de una máquina que puede imitar a un humano parece más relevante que nunca.

Figura 9: No Lusers 171 - Emociones Intelectuales

La visión de Alan Turing nos deja un mensaje claro: precaución en nuestro desarrollo de la IA. Esta tecnología puede ser utilizada tanto para el bien como para el mal, por lo tanto, es nuestra responsabilidad asegurar la ética y la privacidad de las personas, ya sea creando modelos eficientes y equilibrados o directamente creando herramientas que nos ayuden a detectar estas amenazas. 

A medida que avanzamos en la era de la inteligencia artificial, las advertencias de Turing son más relevantes que nunca, recordándonos que debemos abordar la IA con una combinación de asombro y precaución. Nuestra habilidad para aplicar la sabiduría que Turing nos transmitió será la base para determinar si la IA será un aliado de la humanidad o un adversario.

Happy Hacking Hackers!!! 

Autor: Fran Ramírez, es investigador de seguridad y miembro del equipo de Ideas Locas en CDO en Telefónica, co-autor del libro "Microhistorias: Anécdotas y Curiosidades de la historia de la informática (y los hackers)", del libro "Docker: SecDevOps", también de "Machine Learning aplicado a la Ciberseguridad” además del blog CyberHades. Puedes contactar con Fran Ramirez en MyPublicInbox.

 Contactar con Fran Ramírez en MyPublicInbox