Mikel Galar
Profesor del Área de Ciencias de la Computación e Inteligencia Artificial de la Universidad Pública de Navarra
Este trabajo, metodológicamente sólido, estudia los sesgos de género en los modelos de inteligencia artificial aplicados a procesos de selección laboral. Su principal aportación es analizar cómo estos sesgos pueden acumularse en distintas etapas: primero, cuando la IA ayuda a generar un currículum y, después, cuando se utiliza para evaluarlo. Los resultados muestran que los modelos reproducen desigualdades existentes en el mercado laboral, penalizando a las mujeres en profesiones masculinizadas y favoreciéndolas en las feminizadas (en torno a un 3 % en cada sentido). Como ambos efectos se compensan, en promedio el sesgo parece inexistente, lo que demuestra que no basta con utilizar medias para auditar estos sistemas.
Es importante destacar que el estudio demuestra que los modelos reproducen sesgos de género y que estos pueden acumularse, pero no que su uso aumente la discriminación respecto a los procesos de selección actuales. De hecho, las diferencias salariales en las recomendaciones de los modelos (en torno a un 1,6 %) son inferiores a las existentes en el mercado laboral, aunque no son magnitudes directamente comparables. Tampoco hay soluciones sencillas para evitar estos sesgos: pedir al modelo que sea neutral no cambia nada y pedirle que favorezca a las mujeres provoca una corrección excesiva. Más que demostrar que la IA agrava la discriminación laboral, el estudio identifica riesgos. La pregunta pendiente es si estos sistemas discriminan más o menos que las alternativas a las que sustituyen.