Google Gemini puede arreglar el sesgo de género en Google Translate

Hoy en día, las reuniones de tecnología acaban siempre con nuevos casos de uso que pueden ser implementados gracias a la Generative AI - o GenAI -. En concreto Google Gemini es uno de esos "Frontier Model" de la lista de GenAI Multi-modales que pueden resolver problemas de lenguaje con facilidad, así que ... ¿por qué no resolver el Problema del Sesgo de Género en Google Translate con Google Gemini? Parece bastante evidente. Vamos a ver cómo lo podría realizar.

Figura 1: Google Gemini puede arreglar el sesgo de género en Google Translate

Para comenzar, vamos a comprobar cómo Google Traslate a día de hoy - 22 de Septiembre de 2024 - sigue teniendo el Sesgo de Género en sus traducciones. Basta con pedirle una traducción con tres términos con género indeterminado para ver cómo en su traducción elige las profesiones de hombres y las de mujeres.

Figura 2: Google Traslate con sesgo de género en la traducción.

Ahora vamos a resolverlo con Google Gemini. En este caso de forma muy sencilla. Vamos a buscar primero las palabras de género incierto, que esto es algo que Google Gemini puede hacer muy bien. Yo he probado con este Prompt que podéis ver aquí.

Figura 3: Prompt enviado a Google Gemini

Y la respuesta de Google Gemini es perfecta. Entiende muy bien qué es lo que tiene que hacer, como podéis ver en su respuesta.

Figura 4: Google Gemini entiende y explica el género indeterminado

Así que vamos a probarlo ahora con el caso anterior, para que veamos cómo lo resuelve, que a Google Translate parece que se le hace imposible resolverlo.

Figura 5: Resuelto el sesgo de género en la traducción

Es increíble que Google Gemini pueda resolver tan fácil esto como para que no lo implementen en Google Traslate. 

Consideraciones

Con la detección de los términos de género indeterminado se arregla una parte importante de la traducción sesgada, que es la de poder avisar a los usuarios de que hay palabras en las que se ha elegido un género por defecto. 

Figura 6: Propuesta de solución de Apple idéntica a la que propuse en 2019

Esta solución no implica quitar el sesgo en el entrenamiento de Google Traslate, sino en lo que se llama poner "Lipstick on a pig", que es la misma solución que han propuesto los investigadores de Apple, y que es la misma que propuse yo en el año 2019: Avisar a quién usa el traductor y dejar que elija los géneros que conozca, o que sepa cuáles son indeterminados.

Figura 7: Ejemplo de cómo podría informarse al usuario de que
una traducción tiene "géneros arbitrarios" publicado en Junio de 2019

Y ahora, la pregunta es ... ¿por qué no solucionarlo? Google Gemini es un Frontier Model, es decir, de los "TOP" en la resolución de problemas de lenguaje. Éste es un claro problema de lenguaje que conlleva detectar palabras de género indeterminadas e identificarlas en el interfaz de usuario... ¿Cuál es el problema para  Google resuelva esto?

Figura 8: El sesgo de género subliminal en los traductores

de Google y Microsoft y una petición en Change.org

Más de 35.000 personas han firmado ya. Firma tú.

Viendo que esto lo puede solucionar Google, si piensas que esto merece la pena que lo cambien, puedes firmar la campaña en Change.ORG que abrí para recoger firmas de todos los que pensamos que Google (y Microsoft) deberían eliminar ese sesgo de género por defecto subliminal en los traductores.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)