Cómo detectar que un empleado de tu empresa está sufriendo una estafa con Deepfakes

Uno de los proyectos a los que más cariño estamos dando en Tu.com es Tu Verifai, la versión empresarial del proyecto AutoVerifAI que os dejamos en abierto desde hace tiempo para que lo probéis. La idea es tan sencilla como poder detectar vídeos o imágenes generadas con GenAI o que sean DeepFakes utilizando diferentes algoritmos de inteligencia artificial.

Figura 1: Cómo detectar que un empleado de tu empresa

está sufriendo una estafa con Deepfakes

Hoy os voy a hablar de una de las capacidades que tiene, utilizando su API empresarial para poder analizar imágenes o vídeos, y descubrir si se está utilizando una DeepFake. 

Detectando DeepFakes en los Temas de tu empresa

Dejadme que os haga un ejemplo muy sencillo con una sesión de Microsoft Teams en la que un empleado está siendo engañado por un atacante que está ocultando su verdadero aspecto usando una DeepFake.

Figura 2: El atacante usa un software de DeepFak en tiempo

real en una sesión de Microsoft Teams

En este caso el atacante está usando un software que permite usar DeepFake en tiempo real, y esta salida es la que está retransmitiendo por la cámara que está configurada en su reunión de Microsoft Teams, por lo que está ocultando su verdadero aspecto en una reunión virtual de tu empresa.

Figura 3: La DeepFake se está viendo en la sesión de Microsoft Teams

Lo que estamos haciendo ahora con nuestra tecnología es seleccionar trozos de vídeo o simplemente fotogramas de la cámara de nuestro interlocutor, y enviarlos vía API al servidor de Tu VerifAI - la versión profesional para empresas de AutoVerifAI -. 

Figura 4: Con nuestro plugin, capturamos fotogramas de la sesión

de Microsoft Teams y los enviamos al servidor de seguridad que los

analizará utilizando VerifAI.

Para hacer esto, usamos una Consola de Seguridad Centralizada que recibe los fotogramas y los analiza con el API de Tu VerifiAI, dándonos una lista de posibles resultados, entre otros, el de Posible DeepFake.

Figura 5: Lista de resultados de los análisis hechos a los fotogramas

Si filtramos en la consola solo por los que han dado el resultado de "Posible DeepFake", podremos hacer un análisis más detallado de los posibles ataques están recibiendo nuestros empleados, tal y como vemos en la imagen siguiente.

Figura 6: Posibles DeepFakes en las sesiones de MS Teams

Y si entramos en cada uno de estos análisis, podemos ver los resultados de ese análisis, los fotogramas y los algoritmos que han detectado la posible DeepFake en cada una de estas alertas. Aquí tienes un ejemplo de cómo han saltado unas alarmas.

Figura 7: Detectando una posible DeepFake. Evidencias

Si quieres probar estas tecnologías, integrar esta solución en tus productos, o en las herramientas de vídeo conferencia de tu organización, no dudes en ponerte en contacto con nosotros a través de la web de Tu para Empresas, y te ayudaremos con ello.

Figura 8: Contacta con nosotros si quieres más info de VerifAI

Por supuesto, si quieres ser nuestro partner, y distribuir estas tecnologías o ayudar a desplegarlas en tus clientes, también contacta con nosotros.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)