El uso de la IA en procesos de selección reproduce desigualdades de género al redactar currículos y evaluar candidaturas
La inteligencia artificial (IA) se utiliza en los procesos de selección, tanto por parte de las personas candidatas como de las empleadoras. Una investigación a través de experimentos de auditoría, publicada en PNAS, ha determinado que los grandes modelos de lenguaje (LLM) reafirman sesgos de género que se acumulan a lo largo de las distintas fases, desde la redacción del CV hasta la preselección. Los sesgos influyen en las valoraciones y las recomendaciones salariales, reflejando las desigualdades estructurales del mercado laboral.
Carlos Carrasco Farré - sesgo género IA
Carlos Carrasco Farré
Profesor de IA en la Toulouse Business School (Francia), miembro del equipo editorial de PLoS ONE (Ciencias Sociales) y doctor en Management Sciences (ESADE Business School)
El principal resultado del estudio es que la IA funciona como un espejo del mercado laboral: penaliza a las mujeres en las profesiones donde ya son minoría y a los hombres en aquellas donde lo son ellos. Dicho de otro modo, la IA no es un árbitro neutral, porque ha aprendido de un mercado laboral que tampoco lo es. Además, me ha parecido interesante que esto explique por qué los estudios anteriores eran contradictorios: ambos efectos se compensan y el sesgo medio es casi nulo. En otras palabras, si solo miramos la media, el sesgo desaparece y eso es precisamente lo más interesante: una IA puede parecer justa en promedio y no serlo en ninguna profesión concreta.
Sin embargo, los resultados deben interpretarse con cautela. Las diferencias son pequeñas: alrededor de un 2,7 % en la puntuación en las ocupaciones más segregadas y un 1,6 % de media en el salario recomendado (unos 79 dólares al mes sobre 5.000), muy por debajo de la brecha salarial real. Aun así, en un proceso de selección una diferencia pequeña puede decidir quién pasa el corte y quién se queda fuera: en las ocupaciones con menos de un 10 % de mujeres, la probabilidad de que una candidata supere el primer filtro es 4,8 puntos porcentuales menor. Esto es importante, no tanto por la magnitud del efecto, sino por el potencial masivo en el mercado laboral: una diferencia pequeña que la IA aplica de forma automática a miles de candidaturas (o potencialmente millones) se puede acumular generando un efecto muy grande.
En cuanto a las implicaciones, me ha parecido especialmente interesante que pedirle a la IA que sea neutral no sirve de casi nada y pedirle que favorezca a las mujeres provoca una sobrecorrección enorme (más de un 20 % en la puntuación). Esto es importante porque, basándome en mi experiencia, muchas empresas confían en este tipo de instrucciones para corregir sesgos. Por el lado político/legislativo, en Europa, el Reglamento de IA clasifica los sistemas de selección de personal como de alto riesgo y las auditorías deberían hacerse profesión por profesión, porque una auditoría basada en promedios daría por bueno un sistema que no lo es.
Josep Curto - sesgo género IA
Josep Curto
Director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya (UOC) y profesor adjunto en IE Business School
¿Es de buena calidad? ¿Están las conclusiones respaldadas por datos sólidos?
“Respecto a su calidad, podemos considerar que es de alta calidad científica. No en vano ha superado el exigente proceso de revisión por pares de PNAS (Proceedings of the National Academy of Sciences) y cuenta con un diseño experimental prerregistrado (AEARCTR-0013538) inspirado en los clásicos estudios de correspondencia en economía laboral, adaptado ahora a modelos de lenguaje (LLM). Los resultados están respaldados por un volumen de datos muy robusto y bien estructurado: 35.280 currículums generados a lo largo de 98 ocupaciones reales (clasificación SOC de EE. UU.) y evaluados en seis modelos tanto propietarios como de pesos abiertos (GPT 5.4, Claude Opus 4.6, DeepSeek 3.2, Mistral Large 3, Grok 4.1 y Llama 3.3 70B). Desde el punto de vista de la ciencia de datos, destaca positivamente que los autores no usen otro LLM como juez (evitando sesgos circulares), sino diccionarios seleccionados por expertos, regresión logística penalizada (Ridge) y similitud del coseno frente a ofertas reales de Glassdoor, además de publicar todo el código y los datos en Zenodo para su replicabilidad”.
¿Cómo encaja este trabajo con la evidencia existente?
“Este trabajo proporciona una visión más holística. Hasta ahora, la literatura científica sobre IA generativa había documentado sesgos de género y raza en tareas aisladas (por ejemplo, redacción de cartas de recomendación o evaluación de currículums por separado). El enfoque se orienta a riesgos sistémicos.
Este estudio da un paso más al demostrar el efecto acumulativo o compuesto (adaptando el marco teórico de discriminación sistémica de Bohren et al.). En el mundo real, tanto candidatos como departamentos de recursos humanos usan los mismos modelos: unos para redactar su CV y otros para filtrarlos. El artículo demuestra que ambos procesos no son independientes, sino que se retroalimentan”.
¿Qué impacto tiene el sesgo de evaluación de la IA, según esta investigación?
“Hay diversos aspectos que comentar:
- El estudio desmiente la idea de que la IA penalice a las mujeres de forma uniforme. En realidad, actúa como un espejo estructural del mercado laboral: en profesiones masculinizadas, las candidatas reciben puntuaciones de empleabilidad inferiores (reduciendo su probabilidad de pasar el filtro inicial), mientras que en sectores feminizados reciben una prima equivalente. Un análisis agregado promedio ocultaría este problema al compensarse ambos extremos. Esto nos indica la necesidad de realizar un análisis de la equidad interseccional.
- En las recomendaciones salariales, la IA asigna a las mujeres sueldos menores. Esto se debe principalmente al sesgo de evaluación (valorar peor un mismo perfil solo por el marcador de género), agravado por el sesgo de generación (el modelo redacta para las mujeres CVs con más rasgos asociados a tareas no promocionables o de apoyo, y menos orientados a puestos de alta disponibilidad).
- Cuando el mismo ecosistema de IA genera el currículum y luego lo evalúa, las distorsiones iniciales se magnifican en lugar de corregirse. Es decir, se observa una de las consecuencias del fenómeno llamado colapso del modelo (donde se refuerzan los patrones y se empobrece la calidad del modelo)”.
¿Tiene alguna limitación importante que haya que tener en cuenta?
“Aunque el artículo es de buena calidad, habría que señalar cinco limitaciones clave (los propios autores reconocen algunas):
- Es un experimento de auditoría controlado, no un experimento de campo. Abstrae la interacción humana real: en una empresa, un reclutador puede supervisar la herramienta y un candidato suele editar el borrador que le da la IA.
- El estudio se realiza exclusivamente en inglés y con datos ocupacionales de Estados Unidos. En idiomas con marcada flexión de género como el español, la propagación del sesgo desde la generación hasta la evaluación podría comportarse de forma distinta (e incluso más intensa).
- Los resultados salariales son sensibles a cómo se indica el género (explícito vs. nombre propio) y al modelo concreto (por ejemplo, GPT 5.4 mostró comportamientos atípicos respecto a los otros cinco modelos al usar nombres propios). Además, las versiones más recientes de los modelos no muestran una reducción del sesgo; en algunos casos, es incluso mayor.
- En el diseño base, los modelos generan CVs sin experiencia ni formación previa real. Aunque los autores demuestran en pruebas de sensibilidad que el sesgo de evaluación persiste al incluir credenciales reales de LiveCareer, el sesgo de generación disminuye cuando el usuario aporta información detallada desde el principio.
- Nos da una fotografía en el tiempo teniendo en cuenta la velocidad a la que aparecen nuevos modelos. Eso no significa que no sea relevante, puesto que los nuevos modelos no pueden entenderse como una actualización del anterior en general, sino como un nuevo artefacto a razón de sus cambios estructurales internos. En este sentido, no siempre repercuten en mejoras, y suele suceder que introducen nuevos problemas”.
¿Qué implicaciones tiene?
“Desde mi perspectiva, las conclusiones de este estudio dejan mensajes claros para organizaciones, desarrolladores y reguladores:
- Automatizar procesos de selección con IA generativa no garantiza objetividad; sin auditorías específicas, las empresas corren el riesgo de automatizar y escalar la desigualdad existente bajo una pátina de eficiencia tecnológica.
- Pedirle al modelo en las instrucciones que 'sea neutral respecto al género' es prácticamente ineficaz. Por el contrario, pedirle explícitamente que favorezca la contratación femenina provoca una sobre corrección masiva en todos los sectores, sin discriminar dónde existe infrarrepresentación real.
- Dado que los modelos se actualizan constantemente y los promedios globales engañan, las empresas deben implementar auditorías granulares por puesto y sector, realizar ajustes estadísticos en las fases de filtrado e incorporar diferentes puertas de gobernanza, alineándose con marcos regulatorios como el Reglamento Europeo de IA (AI Act), que cataloga los sistemas de selección de personal como de alto riesgo.
- Es necesario implementar puertas de gobernanza reales para evitar un cumplimiento simbólico”.
Patricia Sánchez-Holgado - sesgo género IA
Patricia Sánchez-Holgado
Este estudio es muy pertinente en el marco del uso de la inteligencia artificial (IA) en el sector de los recursos humanos y la selección de personal, especialmente cuando se estudian las desigualdades de género en el mercado laboral.
Lo más interesante es que presenta un planteamiento innovador, ya que realiza un análisis empírico de la interacción entre la oferta y la demanda, es decir, de las solicitudes de empleo (currículos generados con IA) y de la evaluación de esas solicitudes utilizando las mismas herramientas de IA. Destaca porque lo hace a gran escala, ya que audita en un entorno controlado (no se ha llevado a cabo en real) seis de los modelos más avanzados (GPT 5.4, Claude Opus 4.6, DeepSeek 3.2, Mistral Large 3, Grok 4.1 y Llama 3.3 70B) a través de 98 ocupaciones laborales reales del censo estadounidense, generando y evaluando más de 35.000 currículums.
El hallazgo central es que, dado que los mismos sistemas de IA se utilizan tanto para redactar currículos como para evaluarlos y recomendar salarios, se produce una amplificación algorítmica: los sesgos generados en la redacción del currículo se refuerzan posteriormente cuando la IA evalúa ese mismo perfil. Dicho de otro modo, demuestra que la IA no solo absorbe los estereotipos de sus datos de entrenamiento, sino que los amplifica cuando se utiliza tanto para redactar candidaturas como para evaluarlas. Siguiendo esa misma línea, respecto al género, se observa que la IA no penaliza a las mujeres de manera uniforme, sino que copia la segregación del mercado laboral real. Si solo se cambia el género del aspirante, los modelos penalizan a las mujeres en sectores masculinizados y las favorecen en sectores feminizados, incluyendo cuestiones de salario, con lo que las brechas serán persistentes.
Las implicaciones prácticas de esta investigación son directas para empresas, reguladores y personas en búsqueda de empleo. La automatización de los recursos humanos no garantiza la objetividad, sino que conlleva un riesgo medible de amplificación algorítmica si los mismos sistemas filtran los textos que ellos ayudaron previamente a crear. Se hacen necesarias auditorías estadísticas desagregadas por sector, ya que los promedios globales ocultan las desigualdades reales.
Mikel Galar - sesgo género IA
Mikel Galar
Profesor del Área de Ciencias de la Computación e Inteligencia Artificial de la Universidad Pública de Navarra
Este trabajo, metodológicamente sólido, estudia los sesgos de género en los modelos de inteligencia artificial aplicados a procesos de selección laboral. Su principal aportación es analizar cómo estos sesgos pueden acumularse en distintas etapas: primero, cuando la IA ayuda a generar un currículum y, después, cuando se utiliza para evaluarlo. Los resultados muestran que los modelos reproducen desigualdades existentes en el mercado laboral, penalizando a las mujeres en profesiones masculinizadas y favoreciéndolas en las feminizadas (en torno a un 3 % en cada sentido). Como ambos efectos se compensan, en promedio el sesgo parece inexistente, lo que demuestra que no basta con utilizar medias para auditar estos sistemas.
Es importante destacar que el estudio demuestra que los modelos reproducen sesgos de género y que estos pueden acumularse, pero no que su uso aumente la discriminación respecto a los procesos de selección actuales. De hecho, las diferencias salariales en las recomendaciones de los modelos (en torno a un 1,6 %) son inferiores a las existentes en el mercado laboral, aunque no son magnitudes directamente comparables. Tampoco hay soluciones sencillas para evitar estos sesgos: pedir al modelo que sea neutral no cambia nada y pedirle que favorezca a las mujeres provoca una corrección excesiva. Más que demostrar que la IA agrava la discriminación laboral, el estudio identifica riesgos. La pregunta pendiente es si estos sistemas discriminan más o menos que las alternativas a las que sustituyen.
Pablo Haya Coll - sesgo género IA
Pablo Haya Coll
Director del área de procesamiento del lenguaje natural (PLN) del Instituto de Ingeniería del Conocimiento (IIC) e investigador del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid (UAM)
El artículo contribuye mediante una serie de experimentos que identifican sesgos de género tanto en la generación de CV (sesgos de generación) como en la evaluación de candidaturas y la recomendación de salarios (sesgo de evaluación) realizadas por modelos de lenguaje (LLM). Los resultados muestran que los LLM evaluados reproducen estereotipos de género existentes en el mercado laboral.
Estos resultados son relevantes para los candidatos que emplean la IA que tiene que afinar sus prompts para que LLM no reproduzca estereotipos laborales donde influye el género. Las empresas tienen que considerar que los sistemas de IA destinados a evaluar candidatos en procesos de selección se clasifican, con carácter general, como sistemas de alto riesgo según el RIA, lo cual implica que tienen que ser especialmente cuidadosos en la evaluación de los sesgos de sus sistemas de evaluación de candidatos.
Finalmente, desde mi punto de vista, estos estudios de auditoría creo que deberían implementarse como plataformas de pruebas de evaluación que permitiera realizar un seguimiento periódico de los sistemas IA. Las evaluaciones puntuales resultan insuficientes dado los cambios constantes en la tecnología. La adopción de benchmarks reproducibles y comparables contribuiría a mejorar la transparencia, detectar posibles efectos discriminatorios y facilitar el cumplimiento de las obligaciones regulatorias.
- Artículo de investigación
- Revisado por pares
Elass et al.
- Artículo de investigación
- Revisado por pares