Más de 32.000 firmas en Change.org para que Microsoft y Google arreglen el sesgo de género en la IA del traductor

Hace justo un año decidí abrir una petición en Change.org para pedir a Google y Microsoft, dos de las dos empresas que más dinero valen en el mundo, que arreglasen el Sesgo de Género en el Traductor Inglés<->Español, donde algunas profesiones tienen sesgo de género masculino (juez e ingeniero) y otras femenino (enfermera). Y hoy al mirar cuánta gente ha apoyado la petición, me ha sorprendido, ya que son más de 32.000 personas.

Figura 1: Más de 32.000 firmas para que Microsoft y Google

arreglen el sesgo de género en la IA del traductor

Este número de peticiones ha llevado a que sea una de las que más peticiones ha recibido, así que espero que consigan presupuesto para poder arreglar esto de una vez por todas. De hecho, Google y Microsoft están trabajando en ello, pero aún nos queda para arreglarlo.

Figura 2: Con poco más de 5.000 la RAE refinó la definición de hacker

Con algo más de 5.000 firmas, la RAE escuchó la petición para revisar la definición de hacker, y añadió una acepción positiva más cercana al uso y la realidad de la gente a la que llamamos hackers, así que estoy ilusionado de que los equipos de Google y Microsoft consigan arreglar esto este año, y que ya, 22 años pasados en el Siglo XXI podamos decir que estos sesgos de género los hemos arreglado en algo que debe ser una herramienta aséptica como un traductor.

Lipstick on a Pig

Si quieres saber más de todo esto, te recomiendo que te leas con calma el artículo que publiqué, - no lo leas en diagonal, que luego se pierden los detalles - , titulado "El sesgo subliminal de género en los traductores de Google y Microsoft" que publiqué hace un año.  Eso sí, por el camino, hemos visto algunos cambios de interfaz que ayudan en algo. Este tipo de estrategias se basan en la idea de poner "pintalabios a los cerdos", que aunque tenga un nombre tan extraño, se basa en hacer correcciones en el resultado una vez que hemos contrastado que hay sesgo. 

Figura 3: Artículo académico de Lipstick on a Pig para

quitar el sesgo de los resultados de una IA pero no eliminarlos.

El artículo académico que explica cómo hacerlo, en concreto con los sesgos de género en las profesiones que usa de ejemplo es el de "Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them" que como clarifica en su título, no los elimina, solos los corrige con un post-procesado. Como dice el artículo, la solución es solo superficial.

Figura 4: "The debiasing is mostly superficial"

Así, por ejemplo, si ponemos a prueba el traductor de Google con una profesión que tiene sesgada, como por ejemplo "judge", vemos que en el interfaz se muestran los dos géneros. No es porque la IA que está detrás del traductor de Google no tenga sesgo. Ni mucho menos. Pero se ha aplicado una solución de "Lipstick on a Pig" basado en UX para eliminarlo en la información resultante.

Figura 5: Una profesión sesgada, dos respuestas correctas.

Lo mismo sucede con dos profesiones sesgadas. En este caso "The judge told to the nurse." Donde el sesgo de género de la Inteligencia Artificial del traductor le llevaría a poner "juez" y "enfermera", pero se ha optado por una doble barra de labios dejando los dos en femenimo y los dos en masculino. Funcional, por supuesto.

Figura 6: Dos profesiones con sesgo, dos soluciones correctas

(de las cuatro posibles)

Sin embargo, si ponemos tres profesiones en las que no se especifica el género en el texto original, podemos ver el sesgo latente en la IA del traductor de Google. Es decir, ya es demasiado lápiz de labios para el cerdo, así que sale a relucir.

Figura 7: Con tres profesiones sesgadas en el texto original

salen los sesgos de cada una de las profesiones.

Por supuesto, el que las dos compañías estén trabajando en corregirlo es positivo. Que los equipos de investigación estén buscando nuevas soluciones, es un paso, pero creo que nos merecemos como sociedad que está apostando por el uso masivo de IA que, herramientas tan populares como los traductores, eliminen cuanto antes estos sesgos en su construcción. Ten en cuenta que, si una empresa utiliza los servicios cognitivos de traducción de Google o Microsoft, sus soluciones serán también sesgadas, como ya vimos que le sucedía a Twitter. 

Figura 8: Tweet traducido con sesgo de genero por los servicios de Google

Si quieres apoyar esta causa para que se arregle cuanto antes, todavía puedes firmar y dar tu apoyo a la petición de "Que Google y Microsoft eliminen el sesgo de género en los traductores Inglés/Español" en Change.org.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)