Autor/es reacciones

Pablo Haya Coll

Director del área de procesamiento del lenguaje natural (PLN) del Instituto de Ingeniería del Conocimiento (IIC) e investigador del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid (UAM)

El artículo contribuye mediante una serie de experimentos que identifican sesgos de género tanto en la generación de CV (sesgos de generación) como en la evaluación de candidaturas y la recomendación de salarios (sesgo de evaluación) realizadas por modelos de lenguaje (LLM). Los resultados muestran que los LLM evaluados reproducen estereotipos de género existentes en el mercado laboral. 

Estos resultados son relevantes para los candidatos que emplean la IA que tiene que afinar sus prompts para que LLM no reproduzca estereotipos laborales donde influye el género. Las empresas tienen que considerar que los sistemas de IA destinados a evaluar candidatos en procesos de selección se clasifican, con carácter general, como sistemas de alto riesgo según el RIA, lo cual implica que tienen que ser especialmente cuidadosos en la evaluación de los sesgos de sus sistemas de evaluación de candidatos. 

Finalmente, desde mi punto de vista, estos estudios de auditoría creo que deberían implementarse como plataformas de pruebas de evaluación que permitiera realizar un seguimiento periódico de los sistemas IA. Las evaluaciones puntuales resultan insuficientes dado los cambios constantes en la tecnología. La adopción de benchmarks reproducibles y comparables contribuiría a mejorar la transparencia, detectar posibles efectos discriminatorios y facilitar el cumplimiento de las obligaciones regulatorias.

ES