Un estudio con más de 630.000 millones de palabras (la mayoría en inglés) usadas en 3.000 millones de páginas web concluye que el término ‘gente’ no es neutral en cuanto al género: su significado está sesgado hacia el concepto ‘hombres’. Los autores escriben en Science Advances que lo ven como “un sesgo fundamental en la visión colectiva de nuestra especie”, relevante porque el concepto ‘gente’ está "en casi todas las decisiones y políticas de la sociedad”.
Adobe Stock
Reacción inteligencia artificial ‘gente’ sesgado a ‘hombres’ - Nuria Oliver
Nuria Oliver
Directora científica y cofundadora de la Fundación ELLIS Alicante
Es un artículo interesante que investiga con una perspectiva de género el concepto de “gente”/persona (en inglés) a partir del análisis de miles de millones de palabras de un corpus de datos de internet. El artículo analiza la similitud de los términos utilizados en dicho corpus al escribir sobre la gente, sobre los hombres y sobre las mujeres. Encuentra una mayor similitud entre los términos usados para referirse a la gente/persona y los términos usados para referirse a los hombres que para referirse a las mujeres. De este análisis, concluyen que hay un sesgo de género en el concepto “gente”/persona (en inglés), priorizando a los hombres sobre las mujeres.
Los conceptos que describen términos colectivos (como gente) no son simplemente un reflejo de un posible sesgo subyacente, sino que también actúan como un refuerzo sobre la percepción que tiene la sociedad con relación a los hombres y las mujeres. Por ello, el sesgo de género encontrado en un término colectivo de tanta importancia como el analizado podría tener implicaciones profundas en nuestra sociedad
Reacción inteligencia artificial ‘gente’ sesgado a ‘hombres’ - Pablo Haya Coll
Pablo Haya Coll
Investigador del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid (UAM) y director del área de Business & Language Analytics (BLA) del Instituto de Ingeniería del Conocimiento (IIC)
Durante siglos las mujeres han estado excluidas de la esfera pública. No ha sido hasta después de la Revolución Francesa que esta situación se empezó a revertir, aunque el eco de sus consecuencias resuena hasta nuestros días. El artículo añade una evidencia más sobre cómo esta asimetría ha influido en el lenguaje en favor de una asociación del concepto ‘persona’ con el concepto ‘hombre’ más fuerte que con el concepto ‘mujer’.
El poder detectar sesgos de género computacionalmente es un aviso en el desarrollo de sistemas de Inteligencia Artificial. Estos sistemas aprenden a partir de los datos vinculando diferencias en el uso del lenguaje con las predicciones del modelo. Dependiendo de la aplicación pueden contravenir principios éticos y legales, lo cual implica incluir medidas paliativas. No obstante, hay que tener en cuenta que existen aplicaciones donde los sesgos pueden ser beneficiosos, como a la hora de detectar enfermedades que tienen distinta prevalencia por género.
Este trabajo demuestra el potencial de técnicas computacionales y estadísticas para analizar inmensos volúmenes de textos. Ahora bien, hay que seguir profundizando en las conclusiones del artículo. Grandes volúmenes de datos no garantizan la representatividad de los mismos. Sería interesante ampliar el horizonte temporal para entender si los sesgos detectados están aumentando o disminuyendo. Y, finalmente, pasar de un análisis basado en correlaciones a modelos que capturen relaciones causales.
En particular, la influencia entre lenguaje y pensamiento es una asociación controvertida que todavía sigue en discusión.
- Research article
- Peer reviewed
April H. Bailey, Adina Williams, Andrei Cimpian
- Research article
- Peer reviewed