Ayer os hablé del sesgo de género masculino del término "hacker" que hay en Google y Bing a la hora de traducirlo. Pero tú mismo puedes elegir la profesión que quieras y comprobar qué sesgo es el que ha aprendido, que te va a sorprender. Y es que no es que haya "algún sesgo", es que han aprendido que cada profesión tiene un sesgo, como un niño "mal" enseñado. En ausencia de género, cada profesión tiene un "género por defecto".

Con estas sencillas pruebas puedes saber si una determinada profesión tiene sesgo de género masculino o género femenino en Google y Bing. Haz la prueba tú con estos ejemplos.

Aunque Bing y Google se parecen mucho en el modelo IA que tienen para producir la traducción, hay que tener en cuenta que a nivel de interfaz toman decisiones diferentes. En el mundo de los sesgos se le llama "Poner pintalabios al cerdo" cuando se sabe que hay un sesgo pero que se corrige en el interfaz de usuario. 

Vamos a ver un ejemplo con "leader", para ver si tiene sesgo de género. En este primer caso vemos que las traducciones son en masculino y femenino con "el líder" y "la líder".

En el caso de Google, por ejemplo, tienen "pintalabios" en el Interfaz de Usuario para traducciones de hasta dos profesiones sesgadas con género, como podéis ver en este ejemplo anterior "leader". Lo mismo pasa si ponemos "President" o "Nurse", vemos que hay traducción en masculino y femenino.  Pero si a eso añadimos otra tercera profesión con género, el interfaz ya no ayuda, y entonces sale el sesgo claramente, que es algo que vamos a hacer en todas las pruebas: saltarnos el pintalabios. 

En este caso, con dos profesiones ha sido suficiente, pero no siempre es así y necesitamos tres. Para ello, cuando nos salga "pintalabios" si ponemos tres profesiones, veremos cómo es el sesgo de la profesión.

Sabiendo esto, podemos encontrarnos con dos situaciones diferentes. La primera de ellas son profesiones u actividades que no tienen genero en Español, cómo líder, pianista, logopeda, nutricionista, etcétera, donde el género lo sabemos por el artículo que usamos para precederlas. En estos casos, sacamos el sesgo de género por su traducción al inglés, viendo si traduce como "he" o como "she". Y sorprende.

Por ejemplo, si probamos cualquier deporte sin género en Español, como tenista, golfista, piragüista, con dos profesiones sesgadas, veremos que casi el 100% son "masculino", y en todos ellos utiliza "he" en la segunda frase, pero si probamos "logopeda" o "recepcionista", lo que obtenemos es "she".

En Bing, los sesgos de "logopeda" y "tenista" son los mismos, es decir, "she" para "logopeda" y "he" para tenista, pero "recepcionista" es "he". Cosas del entrenamiento.

Como habéis visto, en la traducción Español a Inglés de profesiones sin género con este formato de frase no nos ha salido el "pintalabios" y se puede ver perfectamente el sesgo. Si saliera, solo habría que añadir más profesiones para evitarlo. Hemos hecho un estudio con muchas profesiones, que os publicaremos esta semana.

En este caso introducimos una frase en inglés con una profesión que en inglés es sin género, como president, judge, doctor, etc.. y que en Español tiene género, como jueza, enfermero o secretario. Como veis, he puesto enfermero y secretario para que veáis que no es que "se pueda decir también" a una jueza como "el juez", sino que cuando es sesgo femenino sale "secretaria" y "enfermera", así que cuando sale "juez" es porque tiene sesgo masculino.

En este caso, como si hay mucho pintalabios - como vemos en la imagen anterior - usamos siempre una frase con tres profesiones en inglés, y vemos el sesgo con mucha facilidad. En este caso, con "president" es fácil suponer.

Si pruebas con "secretary", "nurse", y profesiones "she", verás que el resultado es en femenino. Aquí tienes un ejemplo.

Y en Bing lo mismo. Donde la mayoría de las profesiones son "he", algunas muy sesgadas son "she", como el caso de enfermera.

Con solo estas pruebas, puedes conocer el sesgo con que cada profesión (prueba con la tuya) ha sido aprendidas por las Inteligencias Artificiales de Bing y Google para sus traductores. De nuevo, que una traducción juegue a poner cosas que no están, no es la mejor herramienta de traducción, ya que debería de hablar de todas las profesiones y marcar aquellas profesiones en las que el género ha sido inventado. 

Yo propuse que en aquellas profesiones en las que no hubiera género, se indicara con un indicador visual cuando la IA se lo ha "inventado", y por lo tanto, es sesgado y es subliminal. Al final, una persona que no conoce el idioma - y por tanto utiliza un traductor - no sabe si el género estaba o no en la frase original, así que es un sesgo subliminal del que no puede protegerse, y eso hay que evitarlo.

¡Saludos Malignos!