"AB-730 Elections: deceptive audio or visual media". Una ley contra los DeepFakes en California

Se ha hecho público esta semana que el pasado 3 de Octubre el Gobernador de California aprobó y firmo al ley "AB-730 Elections: deceptive audio or visual media" que persigue y criminaliza el uso de vídeos o audios especialmente creados para suplantar a personalidades públicas, especialmente políticos, por cualquier fin. Es decir, busca hacer punibles los vídeos y audios creados con DeepFake.

Figura 1: "AB-730 Elections: deceptive audio or visual media". Una ley contra los DeepFakes en California

Como hemos ido viendo, las tecnologías de Inteligencia Artificial han avanzado mucho en la creación de movimientos faciales en tiempo real a partir de una persona existente. Hace ya mucho tiempo, para explicar cómo iba a evolucionar los ataques a personas públicas, hicimos un Face Swapping utilizando Autoencoders y GANs. Todo esto lo cuento en la charla de Big Data & AI for Bad Gays.

Figura 2: Big Data & AI for Bad Guys

A estos ataques se les añadió la generación de personas en tiempo real, con voz creada a partir de un Cognitive Service que permite hacer una IA que hable como tú y se mueva en una vídeo conferencia como tú. Algo que ayuda a la famosa estafa del CEO o del CDO como hicieron mis compañeros Enrique Blanco y Pablo González en la RootedCON 2019, donde me manejaron en tiempo real.

Figura 3: Autoencoders, GANs y otros chicos del montón

NOTA: Puedes ir al Webinar que van a hacer mis compñaeros en LUCA sobre GANS y  Autoencoders en Ciberseguridad HOY mismo por la tarde.

Figura 4: Usos de GANS y Autoencodes en Ciberseguridad

Todo el trabajo que expusieron, está disponible en el artículo de "Autoenconders, Gans y otros chicos (buenos y malos) del montón". Estas técnicas de generación de vídeo con personas se fueron mejorando, y ya vimos en el trabajo de las Talking Heads que a partir de pocas imágenes se podía crear movimiento. De hecho, ya existen apps como ZAO que permiten generar vídeos con suplantación de caras a partir de una fotografía, y es impresionante.

Figura 5: Explicación y funcionamiento de ZAO (inglés)

Por supuesto, en el caso de que se quiera hacer un ataque a una persona pública, una difamación, o un robo - como el que ya hemos visto hecho suplantando la voz de un CEO - los atacantes seguro que se lo trabajan muy seriamente. Es una amenaza real que hay que mitigar, y el Estado de California en USA ya ha decidido criminalizar estos actos.

Figura 6: Nueva ley AB 730

A partir de ahora, cualquier material en audio o vídeo que haya sido manipulado de alguna forma para hacer creer que un candidato en una elección pública se comporta de una determinada manera, será considerado delito y perseguido.

Figura 7: Descripción del material ilegal

Eso sí, el daño en la opinión pública es algo que siempre queda, así que tendremos que aprender todos como sociedad a no juzgar por titulares en las redes, y esperar a entender bien qué es lo que ha pasado y si realmente ha pasado o no. Tienes el PDF de esta ley en esta URL: AB-732 Elections.

Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)