El sesgo de ‘la IA’: tecnología con nombre de mujer, pero hecha y alimentada por hombres
Que la palabra inteligencia sea femenina dice mucho bueno sobre la naturaleza humana y es un honor para las mujeres y para la inteligencia en general. Con el adjetivo de «artificial» se denomina a una tecnología que lo está inundando todo, hasta el punto de ser tan disruptiva como para cambiar la sociedad para siempre. Sin embargo, está ideada y desarrollada básicamente por hombres. Y para que sea realmente inteligente, la inteligencia artificial (IA) debe alimentarse de millones de datos que proceden de siglos de historia de sociedad patriarcal, por lo que es su vivo reflejo; contiene y reproduce todos sus sesgos de género. La IA tiene nombre de mujer, pero toma decisiones automatizadas que discriminan a las mujeres porque está hecha y alimentada por hombres.
Con motivo del día de la mujer este domingo día 8 de marzo, más estudios que nunca se han encargado de evidenciar lo que todos notamos a la hora de utilizar la IA. Este 5 de marzo se conoció el informe titulado ‘El espejismo de la IA, un reflejo incómodo con alto impacto en los jóvenes‘ elaborado por Llorente y Cuenca (LLYC) que confirma cómo la IA amplifica los sesgos de género.
El estudio afirma que el 56% de las respuestas etiquetan a las mujeres jóvenes como frágiles, responde con consejos de moda a las mujeres un 48% más, genera imágenes situando a las mujeres en profesiones clásicas de cuidados y a los hombres en entornos relacionados con la ingeniería, y cuando interactúa con mujeres, utiliza un tono amistoso en dos tercios de las ocasiones, con respuestas más empáticas que técnicas un 13% más veces que con los hombres, donde sus respuestas son más «profesionales».
A los hombres, en cambio, les contesta con verbos en modo imperativo, como «di», «haz» «coge» o «ve», lo que según Luisa García, CEO global de Corporate Affairs en LLYC , «refuerza la idea de que el hombre es un sujeto de acción«. Según el análisis, realizado en doce países durante 2025 con jóvenes de entre 16 y 25 años, a través la observación de 9.600 recomendaciones y el examen de cinco IAs, entre ellas ChatGPT, Gemini o Grok, esta tecnología considera «impresionante» que una mujer gane más que un hombre, «una reacción que no aplica a la inversa», dice García.
Cuando se le pregunta por cuestiones de familia, a las mujeres nos atribuye un rol rodeado de cierto halo heroico, mientras que a los hombres los sigue situando como meros ayudantes. Al perpetuar los estereotipos de género, el algoritmo redirige el 75% de las vocaciones entre las jóvenes hacia profesiones relacionadas con la salud o las ciencias sociales y las recomienda buscar validación externa seis veces más que a los hombres.
Los algoritmos y las herramientas con las que aprende automáticamente son machistas y discriminatorias, como lo es el mundo que las ha creado y programado
El problema se ha observado desde el comienzo de los tiempos en los que nacían los primeros modelos de algoritmos automatizados. La UNESCO publicó en 2019 el informe «I’d blush if I could», donde denunciaba que los asistentes virtuales con voz femenina como Siri, Alexa o Cortana estaban programados para «responder con sumisión a insultos o comentarios sexistas, reforzando la idea de una feminidad obediente y servicial».
El Observatorio de Género de la revista Alas Tensas (OGAT), desde Cuba, recopiló y y señaló ya el pasado año varias investigaciones que detectaban casi todos los sesgos machistas posibles en la IA. El del reconocimiento facial se demostró con el estudio de 2018 realizado por Joy Buolamwini y Timnit Gebru en el MIT, donde indicaban que «los sistemas comerciales de reconocimiento facial tenían errores del 34-35% al identificar mujeres de piel oscura, frente a menos del 1% en hombres blancos». El estudio Stanford AI Index 2024 mostraba cómo al pedir a una IA «representar a un líder político, el 82% de las imágenes mostraban hombres blancos, mientras que al pedir un enfermero, el 93% eran mujeres».
La todopoderosa Amazon, ya en 2018 contaba con un sistema de reclutamiento de talento que penalizaba CV que incluían las palabras women o female porque los datos históricos «mostraban más hombres en puestos relacionados con la tecnología». Y se continúan eligiendo voces femeninas y nombres de mujer en casi todos los asistentes virtuales por que lo de ayudar y hacer trabajo de secretaría es de señoras en el imaginario universal.
El algoritmo es machista
El Consejo Superior de Investigaciones Científicas (CSIC) publicó este pasado mes de febrero otra investigación con la que demostraban que no solo se produce el sesgo de género en las consultas a las distintas IAs debido a los datos que las han entrenado. El problema persiste porque «si el equipo de desarrollo no es diverso, los sesgos pueden pasar desapercibidos y condicionar el modelo, es decir, la IA puede heredar los sesgos ya existentes en las personas».
En el CSIC se preguntaron cómo se comportaban IAs como ChatGPT, Copilot y Perplexity ante los sesgos de género. Preguntaron a ChatGPT y a Copilot por 5 referentes científicos del CSIC en cada una de las áreas STEM. «De las 20 personas que enumeró ChatGPT, tan solo 1 era una mujer. En el caso de Copilot, primero nos repreguntó para entender mejor nuestra petición y, después, nos ofreció un listado de 20 nombres, en el que 7 eran de mujeres».
Sin embargo, preguntaron a Perplexity sobre personas referentes del CSIC en STEM, y le pedimos 10 fuentes. Esta IA no solo detalló las fuentes, sino que incluyó información genérica, contenidos especializados en mujer y ciencia, listados institucionales, etc.; junto a una pequeña explicación del contenido. Para los y las científicas del CSIC queda claro que ante la IA «siempre hay que aplicar el pensamiento crítico», porque el sesgo de género está, persiste y pocas veces aparece debidamente filtrado.
El portal de empleo Infojobs ha aprovechado la efeméride feminista para contar que el 65% de las empresas utilizan ya la IA en los procesos de selección de personal, y esta práctica aplica sesgos de género casi por defecto. Hay perfiles para los que la IA va a elegir a un hombre antes que una mujer, porque la información que maneja le indica que esa decisión es la habitual, y por lo tanto la correcta. Los algoritmos y las herramientas con las que aprende automáticamente son machistas y discriminatorias, como lo es el mundo que las ha creado y programado.
Por su parte, el Informe preliminar con perspectiva interseccional sobre sesgos de género en la IA, elaborado por el Instituto de las Mujeres en 2023, confirma también que los sistemas algorítmicos «no operan en el vacío, sino que reflejan los valores, prejuicios y jerarquías presentes en los datos con los que se entrenan».
Ya en febrero de 2024, la doctora Marta Grañó Calvete, Profesora de OBS Business School publicó su demoledor trabajo «La brecha de género en la era de la Inteligencia Artificial» en el que se demostraba que la brecha de género «persiste en la actualidad y, a pesar de los notables avances logrados en las últimas décadas, conseguir cerrarla y alcanzar la paridad puede requerir todavía 131 años, si avanza al ritmo actual». El trabajo partía de la base de que la desigualdad de género «proviene de normas sociales, culturales, económicas y políticas que favorecen a los hombres, perpetuando estereotipos y roles tradicionales».
Además de discriminar a las mujeres en la selección de personal sobre todo para perfiles de liderazgo con trayectorias tradicionalmente masculinas, en el ámbito del reconocimiento facial los sistemas fallan más al identificar a mujeres y, «de forma especialmente acusada, a mujeres racializadas, ya que los algoritmos se entrenan mayoritariamente con imágenes de hombres blancos, lo que incrementa los márgenes de error para otros grupos de población», tal y como le confirma a Efeminista la directora de Ciencia de Datos del laboratorio de ideas Data-Pop Alliance, Zynnia del Villar.
Pero los algoritmos de la IA también nos discriminan en el ámbito de la salud, porque el entrenamiento mayoritario con datos de pacientes hombres, «pueden generar diagnósticos erróneos para las mujeres y agravar sesgos ya existentes en la práctica médica». Así, ya se ha comprobado que estos sistemas automatizados fallan clamorosamente en la detección de enfermedades cardiovasculares en mujeres, al basarse en patrones clínicos masculinos.
Ese informe recoge los estudios de la doctora y premio Nobel Claudia Goldín, quien ha investigado, identificado y analizado las raíces estructurales y culturales de la brecha de género en el mercado laboral. Goldín ha destacado factores como la segregación ocupacional, los sesgos sociales y las políticas laborales, que influencian las trayectorias profesionales de las mujeres, y que pese a los avances «aún persisten importantes desigualdades salariales entre hombres y mujeres«.
En la investigación se señala que si no se cuidaba la brecha de género en el desarrollo de la IA, se crearían «sistemas de IA que perpetúan estereotipos de género y discriminación, afectando desde decisiones de contratación hasta diagnósticos médicos y/o preferencias de consumo«.
Y lo peor es que ante la irrupción de la IA la brecha histórica se mantiene y se expande, porque no solo las mujeres están infra-representadas en sus algoritmos, sino que estos están cargados de sesgos de género. Al igual que informes más recientes todavía señalan, la doctora ya dejó escrito hace dos años que «la presencia de mujeres en la IA sigue siendo muy baja y los sesgos existentes en la tecnología reflejan y perpetúan desigualdades preexistentes». La educación es la solución, según las responsables del trabajo de investigación.
La IA y el futuro del talento femenino
Esta misma semana la consultora McKinsey & Company presentó un informe con otra óptica titulado «Las mujeres en la tecnología y la IA en Europa: ¿puede la región cerrar su brecha de género?», en el que advierte que aunque la IA va a generar riqueza que superará los 480.000 millones de euros anuales para la economía europea, precisamente la industria tecnológica se enfrenta a una «triple amenaza» que ha reducido la participación femenina en roles técnicos básicos a un mínimo histórico del 19%. No obstante, ve en esto una oportunidad para «rediseñar» la gestión del talento y por fin posicionar a las mujeres como «un motor estratégico indispensable para fortalecer la innovación y la competitividad global», lo que contrasta con las recomendaciones que las jóvenes se encuentran a consultar a la IA, tal y como ha demostrado el estudio de LLYC la misma semana.
Según el análisis de McKinsey, sí que se ha incrementado el porcentaje de mujeres graduadas en carreras técnicas, que llegan al 33% en licenciaturas y el 39% en doctorados pero, curiosamente, el flujo de todo ese talento laboral debe quedarse en casa por el camino, porque ha caído en 20 puntos porcentuales. En ello tiene mucho que ver la IA y la automatización de roles «en áreas como diseño y gestión de productos, donde las mujeres tienen una presencia mayoritaria, lo que ha provocado caídas en la demanda de hasta el 17%». Además, la consultora señala que persiste el inefable «techo de cristal» que continúa poniendo límites a la presencia femenina en la alta dirección y la sitúa en solo un 8%.
La IA mantiene los sesgos de género, pero puede ser disruptiva y llegar a corregir la brecha en el entorno laboral tecnológico
Así que la IA mantiene los sesgos de género, pero puede ser disruptiva y llegar a corregir la brecha en el entorno laboral tecnológico. Podría llegar a reintegrar a unas 200.000 mujeres con formación STEM a través de programas de reskilling enfocados en IA y computación en la nube, roles laborales de alto valor y relacionado con la supervisión humana. El estudio deja bien a nuestro país, porque indica cómo las mujeres españolas trabajan que trabajan en tecnología alcanzan el 23%, una media superior a la europea, que se queda en el 19%, aunque nos superan Letonia o Finlandia.
Sin embargo, la IA va a tardar en ser «limpiada de sesgo». Mientra tanto, según nos confirma la la profesora de Ciencias de la Computación de la Universidad Autónoma de Barcelona (UAB) Aura Hernández desde Efeminista, «el problema no es solamente que la diseñen más hombres, sino que estos no tengan perspectiva de género. Hernández concluye que «La tecnología en general tiene a más profesionales masculinos y la IA no va a esperar a la igualdad. Los hombres también deberían velar por ella«.
