Los hackers son hombres, según la IA del traductor de Google y de Microsoft

Ya sabéis que hace tiempo que abrí una petición en Change.org para que Google y Microsoft eliminen el sesgo de género que tiene la IA en su traductor por haber sido entrenada con datos sesgados. Ha pasado un año y medio, ha habido más de 32.000 firmas, pero aún sigue estando presente ese sesgo de género en las traducciones.

Figura 1: Los hackers son hombres, según la IA del traductor de Google y de Microsoft

Se puede ver el sesgo en muchos ejemplos que he ido publicando a largo del tiempo, pero la parte más sencilla de localizarlo es poner estos ejemplos, que hacen que salga a la primera en las traducciones como hay profesiones que considera de "male" como "judge" o "engineer", y profesiones que considera como de "female", como son el caso de "nurse".

Figura 2: Con tres profesiones sesgadas en el texto original

salen los sesgos de cada una de las profesiones.

Hoy, acordándome de esto, he pensado en comprobar qué sesgo de género tiene para la profesión de "hacker", y el resultado es... que los "hacker" son "hombres". Puedes ver cómo, al traducir de Español a Inglés la frase de " Cómo hacker aceptó el reto", en inglés se traduce por "he" (male).

Figura 3: Google traduce Hacker como "he" por el sesgo de genero de su IA

Y en el caso de Bing, el resultado es exactamente lo mismo, los hackers son hombres, y se traduce como he.

Figura 4: Bing también traduce Hacker como "he" por el sesgo de genero de su IA.

Por supuesto, estos sesgos se propagan a todos los sistemas y plataformas que utilicen los servicios de traducción de Google Cloud, ya que se basan en la misma IA entrenada con sesgo. Así, como vimos, el sesgo se transmite a los tweets traducidos en Twitter. 

Figura 5: Tweet traducido con sesgo de genero por los servicios de Google

Esperemos que este sesgo pueda ser eliminado pronto. Lleva mucho tiempo metido, y tanto Google como Bing es uno de los servicios que más se usan en la educación, así que eliminar cualquier sesgo subliminal del que no se puedan proteger los más jóvenes es primordial.

Figura 6: Más de 32.000 firmas para que Microsoft y Google

arreglen el sesgo de género en la IA del traductor

Si te animas a firmar la petición, más que encantado, que con 35.000 firmas se convertiría en una de las peticiones con más firmas en Change.org. Puedes firmarla aquí. Supongo que seguir empujando el rol de mujeres hackers, sigue teniendo importancia hoy en día.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)