La IA refleja estereotipos de género al hacer currículos y en la selección de puestos
Redacción Ciencia, 16 nov (EFE).- La inteligencia artificial (IA) se usa cada vez más para ayudar a redactar currículos y para evaluar a los candidatos. Un estudio advierte de que los grandes modelos de lenguaje generan currículos que reflejan estereotipos de género, además de mostrar sesgos en las puntuaciones de selección y en las recomendaciones salariales.
La rápida introducción de los modelos de lenguaje a gran escala (LLM) en los mercados laborales para estos usos plantea un riesgo inédito: los mismos sistemas de IA que dan forma a los documentos de candidatura son los que los evalúan.
Investigadores italianos y franceses publican un estudio en PNAS en el que identifican dos vías a través de las cuales puede surgir el sesgo.
Por una parte, los LLM generan currículos que reflejan estereotipos de género; en segundo lugar, la selección y las recomendaciones salariales basadas en los LLM reflejan la segregación laboral y las brechas salariales de género existentes en el mundo real.
Ambas vías se suman, creando "riesgos cuantificables de amplificación algorítmica en la búsqueda de empleo mediada por la IA", destaca el estudio.
Los investigadores observaron que "las puntuaciones de selección reflejan la segregación de género en el ámbito laboral, penalizando a las mujeres en profesiones dominadas por hombres y favoreciéndolas en aquellas dominadas por mujeres".
Además, las recomendaciones salariales reflejan las brechas de género por profesión cuando el género se indica explícitamente en la solicitud, aunque se atenúa cuando se deduce a partir del nombre y depende de los grandes modelos de lenguaje que se utilicen, agrega el artículo.
El estudio se basa en una serie de experimentos de auditoría a lo largo de tres etapas de la búsqueda de empleo: la generación del currículum, la recomendación salarial y la selección de candidatos.
Los investigadores se inspiraron en los estudios de correspondencia que miden la discriminación enviando currículos ficticios a empleadores reales y adaptaron esa lógica al contexto de los LLM. La pregunta era si esos modelos generan, valoran y evalúan a los solicitantes de manera diferente cuando solo cambia el género.
Para reflejar la heterogeneidad del mercado laboral, se analizaron 98 profesiones, entre ellas alto directivo, ingeniero, profesor de enseñanza superior, trabajador agrícola o carpintero. Un nivel de detalle que "permite comparar los resultados del modelo con los patrones reales específicos de cada profesión".
Tanto en el contenido que genera como en la forma en que luego evalúa el contenido, la IA generativa "no aplica una penalización única y uniforme a las mujeres", sino que "más bien, refleja la estructura existente del mercado laboral".
Los currículos contienen señales de "género claras y detectables". En comparación con los redactados para hombres, los hechos para mujeres contienen, aproximadamente, un 19,4 % menos de términos asociados a rasgos físicos y un 5,1 % menos de términos vinculados a puestos de trabajo ambiciosos.
Por el contrario, tienen un 31,1 % más de términos relacionados con las habilidades lingüísticas; un 15,6 % más con el sentido del trabajo; un 10 % más de términos relacionados con la personalidad afable o un 6,5 % más de términos relacionados con tareas que no dan lugar a ascensos.
"Estas diferencias reflejan fielmente los estereotipos de génerobien documentados en los mercados laborales", indica el estudio.
Los resultados sugieren, según los investigadores, que el uso de los LLM por parte de quienes buscan empleo y de los empleadores podría amplificar algorítmicamente la segregación laboral existente y las diferencias salariales de género en los mercados laborales. EFE
cr/icn