IA perpetúa estereotipos

MADRID (EFE).— La inteligencia artificial (IA) se usa cada vez más para ayudar a redactar currículos y para evaluar a los candidatos. Un estudio advierte que los grandes modelos de lenguaje generan currículos que reflejan estereotipos de género, además de mostrar sesgos en las puntuaciones de selección y en las recomendaciones salariales.
La rápida introducción de los modelos de lenguaje a gran escala (LLM) en los mercados laborales para estos usos plantea un riesgo inédito: los mismos sistemas de IA que dan forma a los documentos de candidatura son los que los evalúan.
Investigadores italianos y franceses publican un estudio en “PNAS” en el que identifican dos vías por medio de las cuales se puede dar pie al sesgo.
Por una parte, los LLM generan currículos que reflejan estereotipos de género; en segundo lugar, la selección y las recomendaciones salariales basadas en los LLM reflejan la segregación laboral y las brechas salariales de género existentes en el mundo real.
Ambas vías se suman, creando “riesgos cuantificables de amplificación algorítmica en la búsqueda de empleo mediada por la IA”, destaca el estudio.
Los investigadores observaron que “las puntuaciones de selección reflejan la segregación de género en el ámbito laboral, penalizando a las mujeres en profesiones dominadas por hombres y favoreciéndolas en aquellas dominadas por mujeres”.
Además, las recomendaciones salariales reflejan las brechas de género por profesión cuando el género se indica explícitamente en la solicitud, aunque se atenúa cuando se deduce a partir del nombre y depende de los grandes modelos de lenguaje que se utilicen, agrega el artículo científico.
El estudio se basa en una serie de experimentos de auditoría a lo largo de tres etapas de la búsqueda de empleo: la generación del currículum, la recomendación salarial y la selección de los candidatos al puesto.
Los investigadores se inspiraron en los estudios de correspondencia que miden la discriminación enviando currículos ficticios a empleadores reales y adaptaron esa lógica al contexto de los LLM. La pregunta era si esos modelos generan, valoran y evalúan a los solicitantes de manera diferente cuando solo cambia el género.
Para reflejar la heterogeneidad del mercado laboral se analizaron 98 profesiones, entre ellas alto directivo, ingeniero, profesor de enseñanza superior, trabajador agrícola y carpintero.
Este es un nivel de detalle que “permite comparar los resultados del modelo con los patrones reales específicos de cada profesión”.
Tanto en el contenido que genera como en la forma en que luego evalúa el contenido, la IA generativa “no aplica una penalización única y uniforme a las mujeres”, sino que, “más bien, refleja la estructura existente del mercado laboral”.
Señales detectables
Los currículos contienen señales de “género claras y detectables”.
En comparación con los redactados para hombres, los hechos para mujeres contienen, aproximadamente, un 19.4% menos de términos asociados a rasgos físicos y un 5.1% menos de términos vinculados a puestos de trabajo ambiciosos.
Por el contrario, tienen un 31.1% más de términos relacionados con las habilidades lingüísticas; un 15.6% más con el sentido del trabajo; un 10% más de términos relacionados con la personalidad afable o un 6.5% más de términos relacionados con tareas que no dan lugar a ascensos.
“Estas diferencias reflejan fielmente los estereotipos de género bien documentados en los mercados laborales”, indica el estudio.
Los resultados sugieren, según los investigadores, que el uso de los LLM por parte de quienes buscan empleo y de los empleadores podría amplificar algorítmicamente la segregación laboral existente y las diferencias salariales de género en los mercados laborales.
De un vistazo
Currículos con estereotipos
Investigadores detectaron que la inteligencia artificial genera currículos con diferencias de género, reproduciendo prejuicios existentes en los mercados laborales actuales.
Selección desigual
Los sistemas automatizados penalizan a mujeres en profesiones dominadas por hombres, mientras que las favorecen en ocupaciones que tradicionalmente son consideradas femeninas.
Ver nota original ↗
¿Querés un resumen rápido de esta noticia, hecho por nuestra IA?
