Josep Curto
Director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya (UOC) y profesor adjunto en IE Business School
¿Es de buena calidad? ¿Están las conclusiones respaldadas por datos sólidos?
“Respecto a su calidad, podemos considerar que es de alta calidad científica. No en vano ha superado el exigente proceso de revisión por pares de PNAS (Proceedings of the National Academy of Sciences) y cuenta con un diseño experimental prerregistrado (AEARCTR-0013538) inspirado en los clásicos estudios de correspondencia en economía laboral, adaptado ahora a modelos de lenguaje (LLM). Los resultados están respaldados por un volumen de datos muy robusto y bien estructurado: 35.280 currículums generados a lo largo de 98 ocupaciones reales (clasificación SOC de EE. UU.) y evaluados en seis modelos tanto propietarios como de pesos abiertos (GPT 5.4, Claude Opus 4.6, DeepSeek 3.2, Mistral Large 3, Grok 4.1 y Llama 3.3 70B). Desde el punto de vista de la ciencia de datos, destaca positivamente que los autores no usen otro LLM como juez (evitando sesgos circulares), sino diccionarios seleccionados por expertos, regresión logística penalizada (Ridge) y similitud del coseno frente a ofertas reales de Glassdoor, además de publicar todo el código y los datos en Zenodo para su replicabilidad”.
¿Cómo encaja este trabajo con la evidencia existente?
“Este trabajo proporciona una visión más holística. Hasta ahora, la literatura científica sobre IA generativa había documentado sesgos de género y raza en tareas aisladas (por ejemplo, redacción de cartas de recomendación o evaluación de currículums por separado). El enfoque se orienta a riesgos sistémicos.
Este estudio da un paso más al demostrar el efecto acumulativo o compuesto (adaptando el marco teórico de discriminación sistémica de Bohren et al.). En el mundo real, tanto candidatos como departamentos de recursos humanos usan los mismos modelos: unos para redactar su CV y otros para filtrarlos. El artículo demuestra que ambos procesos no son independientes, sino que se retroalimentan”.
¿Qué impacto tiene el sesgo de evaluación de la IA, según esta investigación?
“Hay diversos aspectos que comentar:
- El estudio desmiente la idea de que la IA penalice a las mujeres de forma uniforme. En realidad, actúa como un espejo estructural del mercado laboral: en profesiones masculinizadas, las candidatas reciben puntuaciones de empleabilidad inferiores (reduciendo su probabilidad de pasar el filtro inicial), mientras que en sectores feminizados reciben una prima equivalente. Un análisis agregado promedio ocultaría este problema al compensarse ambos extremos. Esto nos indica la necesidad de realizar un análisis de la equidad interseccional.
- En las recomendaciones salariales, la IA asigna a las mujeres sueldos menores. Esto se debe principalmente al sesgo de evaluación (valorar peor un mismo perfil solo por el marcador de género), agravado por el sesgo de generación (el modelo redacta para las mujeres CVs con más rasgos asociados a tareas no promocionables o de apoyo, y menos orientados a puestos de alta disponibilidad).
- Cuando el mismo ecosistema de IA genera el currículum y luego lo evalúa, las distorsiones iniciales se magnifican en lugar de corregirse. Es decir, se observa una de las consecuencias del fenómeno llamado colapso del modelo (donde se refuerzan los patrones y se empobrece la calidad del modelo)”.
¿Tiene alguna limitación importante que haya que tener en cuenta?
“Aunque el artículo es de buena calidad, habría que señalar cinco limitaciones clave (los propios autores reconocen algunas):
- Es un experimento de auditoría controlado, no un experimento de campo. Abstrae la interacción humana real: en una empresa, un reclutador puede supervisar la herramienta y un candidato suele editar el borrador que le da la IA.
- El estudio se realiza exclusivamente en inglés y con datos ocupacionales de Estados Unidos. En idiomas con marcada flexión de género como el español, la propagación del sesgo desde la generación hasta la evaluación podría comportarse de forma distinta (e incluso más intensa).
- Los resultados salariales son sensibles a cómo se indica el género (explícito vs. nombre propio) y al modelo concreto (por ejemplo, GPT 5.4 mostró comportamientos atípicos respecto a los otros cinco modelos al usar nombres propios). Además, las versiones más recientes de los modelos no muestran una reducción del sesgo; en algunos casos, es incluso mayor.
- En el diseño base, los modelos generan CVs sin experiencia ni formación previa real. Aunque los autores demuestran en pruebas de sensibilidad que el sesgo de evaluación persiste al incluir credenciales reales de LiveCareer, el sesgo de generación disminuye cuando el usuario aporta información detallada desde el principio.
- Nos da una fotografía en el tiempo teniendo en cuenta la velocidad a la que aparecen nuevos modelos. Eso no significa que no sea relevante, puesto que los nuevos modelos no pueden entenderse como una actualización del anterior en general, sino como un nuevo artefacto a razón de sus cambios estructurales internos. En este sentido, no siempre repercuten en mejoras, y suele suceder que introducen nuevos problemas”.
¿Qué implicaciones tiene?
“Desde mi perspectiva, las conclusiones de este estudio dejan mensajes claros para organizaciones, desarrolladores y reguladores:
- Automatizar procesos de selección con IA generativa no garantiza objetividad; sin auditorías específicas, las empresas corren el riesgo de automatizar y escalar la desigualdad existente bajo una pátina de eficiencia tecnológica.
- Pedirle al modelo en las instrucciones que 'sea neutral respecto al género' es prácticamente ineficaz. Por el contrario, pedirle explícitamente que favorezca la contratación femenina provoca una sobre corrección masiva en todos los sectores, sin discriminar dónde existe infrarrepresentación real.
- Dado que los modelos se actualizan constantemente y los promedios globales engañan, las empresas deben implementar auditorías granulares por puesto y sector, realizar ajustes estadísticos en las fases de filtrado e incorporar diferentes puertas de gobernanza, alineándose con marcos regulatorios como el Reglamento Europeo de IA (AI Act), que cataloga los sistemas de selección de personal como de alto riesgo.
- Es necesario implementar puertas de gobernanza reales para evitar un cumplimiento simbólico”.