Ya sabéis que hace tiempo que abrí una petición en Change.org para que Google y Microsoft eliminen el sesgo de género que tiene la IA en su traductor por haber sido entrenada con datos sesgados. Ha pasado un año y medio, ha habido más de 32.000 firmas, pero aún sigue estando presente ese sesgo de género en las traducciones.

Se puede ver el sesgo en muchos ejemplos que he ido publicando a largo del tiempo, pero la parte más sencilla de localizarlo es poner estos ejemplos, que hacen que salga a la primera en las traducciones como hay profesiones que considera de "male" como "judge" o "engineer", y profesiones que considera como de "female", como son el caso de "nurse".

Hoy, acordándome de esto, he pensado en comprobar qué sesgo de género tiene para la profesión de "hacker", y el resultado es... que los "hacker" son "hombres". Puedes ver cómo, al traducir de Español a Inglés la frase de " Cómo hacker aceptó el reto", en inglés se traduce por "he" (male).

Y en el caso de Bing, el resultado es exactamente lo mismo, los hackers son hombres, y se traduce como he.

Por supuesto, estos sesgos se propagan a todos los sistemas y plataformas que utilicen los servicios de traducción de Google Cloud, ya que se basan en la misma IA entrenada con sesgo. Así, como vimos, el sesgo se transmite a los tweets traducidos en Twitter. 

Esperemos que este sesgo pueda ser eliminado pronto. Lleva mucho tiempo metido, y tanto Google como Bing es uno de los servicios que más se usan en la educación, así que eliminar cualquier sesgo subliminal del que no se puedan proteger los más jóvenes es primordial.

Si te animas a firmar la petición, más que encantado, que con 35.000 firmas se convertiría en una de las peticiones con más firmas en Change.org. Puedes firmarla aquí. Supongo que seguir empujando el rol de mujeres hackers, sigue teniendo importancia hoy en día.

¡Saludos Malignos!