Inicio > Firmas > El futuro está por hackear > La «Máquina Aprendiendo» que nombró secretaria a tu hija e ingeniero a tu hijo

La «Máquina Aprendiendo» que nombró secretaria a tu hija e ingeniero a tu hijo

La «Máquina Aprendiendo» que nombró secretaria a tu hija e ingeniero a tu hijo

Siempre que toco este tema alguno se pone nervioso, pero cuando tenemos algoritmos de Inteligencia Artificial que se usan para que la “Máquina Aprenda” sola, o lo que conocemos como el famoso “Machine Learning” que dicen los ingleses y que se usa tanto en las profesiones tecnológicas, resulta que dejamos que adquiera conocimiento con la información que hemos generado. Y sí, lo siento, hemos generado a lo largo de los siglos mucha información sesgada que lleva a pensar que hay determinadas profesiones que son para niños y otras son para niñas.

Estoy seguro de que alguno me va a decir que esto no es verdad, que la información que hemos generado a lo largo de los años no tiene ningún mensaje subliminal que esté condicionando a las personas a entender que hay profesiones para niños y profesiones para niñas, pero yo tuve mi propia experiencia personal con mi hija mayor, a la que denomino cariñosamente como “Mi Hacker” porque desde el día que nació cambió los ejes de coordenadas de mi vida, que me demostraron justo lo contrario, y que me hizo entender lo sutil, oculto y difícil que es para los niños y niñas defenderse de este mal.

Fue un día, cuando estaba charlando con esta fotocopia mía que me ha tocado por hija mayor, a la edad de los nueve años de ella, para preguntarle algo muy habitual entre los padres. ¿Qué es lo que quieres ser de mayor? La idea es que yo la fui interrogando sobre qué profesión le gustaría desempeñar en su futuro adulto y le propuse varias profesiones: panadera, carpintera, veterinaria, jueza, qué se yo… pero el golpe de realidad llegó cuando llegamos a la profesión de “Astronauta”, ya que me dijo:

“No, papá, que eso es de niños.”

Perdonadme que utilice un acrónimo anglosajón archiconocido para explicar mi reacción a esa respuesta: WTF??? Lo que me volvía loco era cómo, a una edad tan temprana, Mi Hacker ya había asumido que había profesiones de niños y profesiones de niñas. No podía ser.

"Ni de broma iba a dejar que mi hija sufriera una cercenación de sus opciones de futuro porque una sociedad no protegida contra este tipo de virus la hubiera infectado"

Por supuesto que nadie en su familia le había dicho que había profesiones de niños o profesiones de niñas. Por supuesto, nadie en el colegio, donde fui a hablar y expresar mi preocupación por esta situación, tampoco le había dicho que había profesiones de niños y profesiones de niñas. Simplemente lo había aprendido ella.

Le habría llegado de la forma más sutil y subliminal. Por la información audiovisual que haya consumido en la televisión en forma de películas, series de dibujos o programas de televisión. O por los cuentos que hubiera leído. O por lo que otra niña o niño le hubiera contado en clase, pues al final la comunicación oral entre pares es también una forma de condicionamiento por cada frase o por cada mensaje dicho. No sé de dónde, pero ese virus se coló en su cabeza y ella lo tomó como que era lo normal. Lo suyo. Lo que debía ser. El orden natural de las cosas. Con nueve años el virus se había metido en su cabeza, como una idea que nace desde dentro de la que no te puedes defender, que decían en la fantástica película de Nolan Origen (Inception en su nombre original). Estaba infectada con que había profesiones de niños y profesiones de niñas. Y astronauta era de niños.

Ni de broma iba a dejar que mi hija sufriera una cercenación de sus opciones de futuro porque una sociedad no protegida contra este tipo de virus la hubiera infectado. Había que desinfectarla. Esto había que subsanarlo. Me junté con mis compañeros de Telefónica, donde tenemos un fuerte con mejorar los parámetros de diversidad en todos los estamentos de la empresa, y coincidimos en que, dentro de nuestro compromiso con la sociedad, debíamos comenzar con los niños y niñas desde una edad más temprana. El problema no es solo para las profesiones como astronauta, sino para muchas otras. Muchas de ellas tecnológicas, donde las niñas abandonan muchas veces sus estudios en estas ramas, y no está claro cuáles son esos motivos. Así que, como lo que necesitan las niñas y los niños es modelos en los que fijarse en esas edades tan tempranas, para que vean que cualquier profesión puede ser de niño o niña, decidimos que había que darles referencias que pudieran tener.

"Es un problema heredado, por culpa de muchos años en los que las mujeres, como mi madre, tuvieron que luchar por cosas tan sencillas como poder conducir"

Y lanzamos una campaña que llamamos “Mujeres Hacker”, para que las niñas y niños tuvieran modelos de mujeres en el mundo de la tecnología en quienes inspirarse, fijarse y emocionarse. Le propusimos esto a nuestras compañeras hackers de nuestra unidad dentro de Telefónica, y para el Día de la Madre lanzamos un vídeo en el que nuestra protagonista quiere ser hacker como su mamá, y hablan muchas de las compañeras creadoras de tecnología.

Pero por supuesto, esto no es más que un paso pequeño en un viaje de muchos kilómetros, ya que ese mensaje de que hay profesiones de niños y profesiones de niñas está metido en muchos rincones de forma subliminal. Está metido en textos, en guiones de películas, libros clásicos, en la estadística del número de papeles femeninos haciendo de secretarias, o de enfermeras en obras de teatro, mientras que los doctores son siempre hombres, al igual que lo son jueces y astronautas. Hay muchas muestras aún donde se dice, de forma directa o subliminal, que hay profesiones de niños y profesiones de niñas.

Es un problema heredado, por culpa de muchos años en los que las mujeres, como mi madre, tuvieron que luchar por cosas tan sencillas como poder conducir, tener una cartilla bancaria a su nombre o mil y otras cosas. Sí, la ley se lo permitía, pero no la sociedad, que criticaba, dificultaba o ridiculizaba con chistes por esas cosas. Yo he contado muchas veces la historia de mi madre, y de por qué me siento tan unido y agradecido a ella.

"El problema es el sesgo de género que muestran en las traducciones"

Y por eso el tema del que os quiero hablar hoy me parece importante y relevante. Me parece importante y relevante porque echa leña al fuego de ese condicionamiento sutil que genera virus subliminales que se meten en las mentes de niños y niñas. Y eso está mal. Y me parece aún peor, porque arreglarlo está en la mano de las empresas con más dinero de este planeta. Las grandes empresas tecnológicas. Y hoy, en concreto, voy a poner los ejemplos de dos de ellas: Google y Microsoft.

El problema es el sesgo de género que muestran en las traducciones, y mis hijas —Mi Hacker, la mayor, Mi Surivivor, la menor— utilizan, como muchas otras niñas y muchos otros niños, constantemente. Está tan cerca de ellos como irse a los buscadores de estas compañías, Bing y Google, y traducir textos.

Dejadme que empiece con una prueba muy sencilla. En ella voy a usar Google y Microsoft para traducir una profesión del inglés al español y, por favor, poneos en los zapatos de un niño o una niña de nueve años que hace lo mismo. En esta primera prueba voy a traducir una sencilla frase “The judge told the nurse…”. Como podéis ver, hemos hablado de un juez o una jueza y un enfermero o una enfermera, ya que en inglés no hay género para las profesiones, y se pueden referir tanto a un hombre como a una mujer. Veamos qué hace Google.

Como podéis ver, hace una cosa que está muy bien, que es traducir visualmente con dos géneros distintos. Y esto está genial, porque le deja claro a ese niño o niña que puede ser cualquiera de los dos géneros. Bien por Google en este ejemplo. No hay mensaje subliminal enviado a la tierna mente de nuestros niños.

Si vemos ahora lo que hace Microsoft, vemos que tenemos un sesgo brutal de género, que no deberíamos permitir. En este caso, Microsoft ha decidido decirle a nuestros niñas y niños que la persona que ejerce de “judge” es un hombre y la persona que ejerce de “nurse” es enfermera. De forma arbitraria. Un sesgo que manda un mensaje subliminal malo y negativo para los niños y niñas, desprotegidos ante ello.

Tened en cuenta que si están traduciendo un titular de una noticia y no saben que esto es un mal servicio de traducción, se creerán que en la historia original el juez era un hombre y la enfermera una mujer, cuando es algo que ha sido totalmente inventado de forma arbitraria en este caso concreto.

"El algoritmo ha aprendido que “judge” es un hombre de la misma manera que mi niña de 9 años aprendió que “astronauta” era de niños"

Por supuesto hay una explicación de por qué hace esto. El algoritmo ha aprendido que “judge” es un hombre de la misma manera que mi niña de 9 años aprendió que “astronauta” era de niños: porque ese sesgo de género viene inducido al usar datos estadísticos históricos o suposiciones procedentes de montones de documentos y textos con los que el motor de traducción ha sido entrenado. Es decir, se ha dejado que el motor de traducción aprenda con sesgo de género. Y está mal. El virus de que hay profesiones de niños y profesiones de niñas ha infectado a este motor de traducción de Microsoft, y él está infectando y viralizando el mismo sesgo de género a los niños y niñas que lo utilicen.

Pero perdonadme que vuelva al caso de Google, porque si hemos visto que en el caso anterior lo hacía bien, lo cierto es que, si le presionamos un poco más, veremos que sale el sesgo de género que lleva oculto. En este caso basta con poner tres profesiones en la traducción para que el interfaz de usuario no le permita tomar todas las posibles combinaciones. Vamos con algo más completo como “The judge told the nurse to call the engineer”.

En este caso el traductor de Google ha elegido. Y fijaos qué ha elegido. Ha elegido que juez es profesión de niños, que la enfermería es una profesión de niñas, y que ser ingeniero es para los niños. Mal. Muy mal. Está enviando de nuevo ese subliminal mensaje a los niños y niñas, y tenemos que protegerlos contra esto.

Yo hace ya más de un año y medio propuse solucionar esto dando alertas a los usuarios de este traductor cuando el género de una profesión hubiera sido “supuesto” porque no se pudiera conocer por el contexto. Esto que os dejo aquí adelante no existe, y para una empresa tecnológica del tamaño de Microsoft y Google es una inversión enana comparada con las grandes inversiones en tecnología.

En este ejemplo el traductor marcaría en qué profesiones de las que aparecen en la traducción no se sabe cuál es el género por el texto introducido. Al mismo tiempo le da la opción al usuario de cambiar el género de la traducción de forma manual. De esta forma estaríamos quitando la subliminalidad del mensaje de que hay profesiones de niñas y profesiones de niños, y estaríamos dando la oportunidad a las personas de defenderse de él.

"Debemos solicitar que se esfuercen en arreglar este sesgo de género en los traductores, ya que el bien que harían a la sociedad hispanoparlante sería enorme"

Por supuesto, esta es una inversión cuasi irrelevante para una compañía como Google o Microsoft, y su impacto en todo el mundo Hispanohablante (EEUU, Latinoamérica, África, Europa) sería enorme en cuanto a positividad. Tendría la opción de ayudar a erradicar el mensaje de que hay profesiones de niños y profesiones de niñas y hacer mucho bien a las nuevas generaciones.

Pero dejadme que os lo haga ahora al revés. Habéis visto que hasta el momento he traducido un texto del inglés al español, pero es que el sesgo se puede observar también al contrario, haciendo un ejercicio de ponérselo difícil al traductor de Google y al de Microsoft con una frase compleja.

Vale, se lo he puesto difícil y no le he dicho en ningún momento si era él o ella, y además he elegido una profesión neutra en español, como es «responsable». El traductor de Google ha elegido “he” (él), pero podía haber usado “he or she” para dejar claro que no sabe el género. También podía haber usado “he” y haber avisado de que podría ser “she”, como proponía yo poniendo un subrayado rojo debajo y avisando al usuario. O podía haber usado “they”, que es una forma que usan a veces los ingleses para evitar el “he or she”. Pero no, se ha optado por “he”. Por supuesto, si hubiera utilizado Google para buscar quién es el responsable nacional de Google en España, el traductor de Google habría descubierto que, hoy en día, es una mujer maravillosa, gran profesional, defensora de la diversidad y modelo a seguir para muchas de nuestras niñas en este país.

Por supuesto, en el caso de Microsoft sucede lo mismo. Ante una frase similar vuelve a elegir “he” en lugar de “he or she” o “they”. Y de nuevo, Microsoft Ibérica cuenta con una gran líder a la cabeza de su subsidiaria en España, que es referente para las jóvenes que quieren hacer su carrera en tecnología, y que apoya la inclusión de la mujer en el mundo STEM con fuerte convicción. Pero el traductor de Microsoft tampoco buscó en Bing.

En estos casos el sesgo es aún es de mayor impacto, pues ese “he” es por defecto. Es decir, en este tipo de frases que he elegido yo —con mucha malignidad, por supuesto, que quería ver su sesgo de género oculto— se elige, para cualquier profesión de la que no se conozca el género, y que aparezca en una frase subordinada como la que yo he elegido, el “he”. No importa ya si es profesión de niño o de niña. Es siempre profesión de niño, lo que hace a los “he”, perdón, a los niños, siempre más protagonistas, relegando a las “she” o niñas a aparecer menos.

Tecnología Humanista

Cuando tuve que dar mi discurso el día que tuve el honor de recibir mi título de Doctor Honoris Causa por la URJC decidí hablar de Tecnología Humanista. De que la tecnología debe ser humanista y hacer la vida de las personas mejor. De todas y cada una de ellas, y no solo de algunas. Y en este caso, las traducciones con sesgo de género de los motores de traducción de Google y Microsoft no están haciendo que la vida de todas las personas sea mejor. Algunas están recibiendo mensajes subliminales con sesgo de género, de los que no pueden protegerse.

Creo sin duda que, al igual que debemos pedir a las grandes empresas tecnológicas que realicen inversiones en sus herramientas de corrección ortográfica y gramatical para no deformar y cercenar el español, debemos solicitar que se esfuercen en arreglar este sesgo de género en los traductores, ya que el bien que harían a la sociedad hispanoparlante sería enorme, reduciendo el número de mensajes subliminales que van a nuestros niños y niñas. La pena es que de nuevo estas soluciones tecnológicas se hacen en inglés, y en su mayoría no por hispanohablantes.

Saludos malignos,

Chema Alonso.

https://MyPublicInbox.com/ChemaAlonso

4.4/5 (46 Puntuaciones. Valora este artículo, por favor)