DeepNude y el peligro de que acabes en sitios pornográficos sin ropa

Al igual que los casos de los Falsos Brokers que han estafado a personas o el caso de la persona que estaba siendo espiada por la compartición de ubicación de iPhone sin saberlo, el caso que os traigo hoy también me llegó a mi buzón de MyPublicInbox y me llamó mucho la atención. Se trataba un caso de venganza y daño gratuito a un grupo de chicas de una ciudad, utilizando los algoritmos de DeepNudes.

Figura 1: DeepNude y el peligro de que acabes en sitios pornográficos sin ropa

Estos algoritmos de Inteligencia Artificial están entrenados para eliminar la ropa de las personas en fotografías, especialmente trajes de baño, bikinis o ropa interior, haciendo que la persona parezca desnuda. Generó mucha polémica la primera app que se publicó con esta tecnología y el propio creador decidió eliminarla debido a que estaba siendo utilizada para dañar a las personas.

Figura 2: Mensaje de cierre de DeepNudeApp

Sin embargo, hoy en día hay cientos de apps, bots, webs y algoritmos públicos que permiten hacer eso de forma sencilla, con modelos de negocio que van desde la publicidad masiva, hasta el pago por uso en modelos freemium. Y, por supuesto, algunas personas que las utilizan para hacer daño.

Figura 3: El caso que me llegó a mi buzón de MyPublicInbox

En el caso que os cuento, como podéis ver en el mensaje de la Figura 3, una persona había cogido unas fotos en ropa de baño de un grupo de amigas y se había dedicado a quitarles la ropa con DeepNudes - que antes se hacía con Photoshop igualmente - y subirlas a un sitio de contenido pornográfico exponiéndolas en todas las redes sociales.

Figura 4: El negocio de las apps de DeepNudes.

Puedes pagar en BitCoins.

El funcionamiento es siempre el mismo, se busca una foto con traje de baño, cuanto más pequeño mejor, y que se vea bien de frente, como explican en los tutoriales de estas aplicaciones que puedes ver, incluso, en Youtube (no entiendo cómo luego eliminan vídeos de tutoriales de pentesting a researchers), y como dicen en la ayuda de las webs.

Figura 5: Usa fotos de verano, recomiendan.

El resto es trivial, subir la foto, darle a un botón, y el algoritmo de DeepNude que estén utilizando se ocupa de eliminar la ropa de baño utilizando el algoritmo de visión artificial entrando para esa inteligencia artificial en concreto. 

Figura 6: Con un solo clic el algoritmo desnuda la fotografía

Después, la foto se difunde por redes sociales, por grupos de WhatsApp, web, o como en el caso que me llegó por MyPublicInbox, en sitios pornográficos, lo que causó un gran dolor y sufrimiento al grupo de amigas. Hoy en día, muchas de esas webs, después de multitud de denuncias que han recibido por aceptar contenido no autorizado por los que aparecen en esas fotografías y vídeos, tienen sistemas de eliminación rápida, e, incluso, de detección de estas DeepNudes para que no se puedan subir... pero no todas.

Figura 7: Libro de "Cómo protegerse de los peligros en Internet"
de José Carlos Gallego en  0xWord

Al final, no hay mucho más que hacer que denunciar y educar para que sepan protegerse de los peligros en Internet. Explicar, sobre todo a los menores de edad, que esto puede suceder fácilmente, y que por tanto si publican fotos así, pueden ser utilizadas automáticamente. Pero tampoco llegar a prohibirles nada y que decida cada persona en libertad, que si no ganan los malos. Desde que apareció el Photoshop, las fakes que ponen la cara de una persona con el cuerpo de alguien desnudo se ha hecho, y también vimos que las DeepFakes se usaron para crear vídeos de escenas de películas pornográficas con caras de artistas de cine. Lo importante, es esa conversación para que entiendan que este es el mundo en el que van a vivir. Con muchas cosas buenas, y algunas .... como estas.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)