Autor/es reacciones

Carlos Carrasco Farré

Profesor de IA en la Toulouse Business School (Francia), miembro del equipo editorial de PLoS ONE (Ciencias Sociales) y doctor en Management Sciences (ESADE Business School)

El principal resultado del estudio es que la IA funciona como un espejo del mercado laboral: penaliza a las mujeres en las profesiones donde ya son minoría y a los hombres en aquellas donde lo son ellos. Dicho de otro modo, la IA no es un árbitro neutral, porque ha aprendido de un mercado laboral que tampoco lo es. Además, me ha parecido interesante que esto explique por qué los estudios anteriores eran contradictorios: ambos efectos se compensan y el sesgo medio es casi nulo. En otras palabras, si solo miramos la media, el sesgo desaparece y eso es precisamente lo más interesante: una IA puede parecer justa en promedio y no serlo en ninguna profesión concreta. 

Sin embargo, los resultados deben interpretarse con cautela. Las diferencias son pequeñas: alrededor de un 2,7 % en la puntuación en las ocupaciones más segregadas y un 1,6 % de media en el salario recomendado (unos 79 dólares al mes sobre 5.000), muy por debajo de la brecha salarial real. Aun así, en un proceso de selección una diferencia pequeña puede decidir quién pasa el corte y quién se queda fuera: en las ocupaciones con menos de un 10 % de mujeres, la probabilidad de que una candidata supere el primer filtro es 4,8 puntos porcentuales menor. Esto es importante, no tanto por la magnitud del efecto, sino por el potencial masivo en el mercado laboral: una diferencia pequeña que la IA aplica de forma automática a miles de candidaturas (o potencialmente millones) se puede acumular generando un efecto muy grande. 

En cuanto a las implicaciones, me ha parecido especialmente interesante que pedirle a la IA que sea neutral no sirve de casi nada y pedirle que favorezca a las mujeres provoca una sobrecorrección enorme (más de un 20 % en la puntuación). Esto es importante porque, basándome en mi experiencia, muchas empresas confían en este tipo de instrucciones para corregir sesgos. Por el lado político/legislativo, en Europa, el Reglamento de IA clasifica los sistemas de selección de personal como de alto riesgo y las auditorías deberían hacerse profesión por profesión, porque una auditoría basada en promedios daría por bueno un sistema que no lo es.

ES