Resumen: El uso de tecnologías de lenguaje en entornos de alto riesgo está aumentando en los últimos años, motivado principalmente por el éxito de los modelos de idiomas grandes (LLM). Sin embargo, a pesar del gran desempeño de LLM, son susceptibles a preocupaciones éticas, como sesgos demográficos, responsabilidad o privacidad. Este trabajo busca analizar la capacidad de los sistemas basados en transformadores para aprender sesgos demográficos presentes en los datos, utilizando un estudio de caso sobre el reclutamiento automatizado basado en IA. Proponemos un marco para mejorar la privacidad para reducir la información de género de la tubería de aprendizaje como una forma de mitigar los comportamientos sesgados en las herramientas finales. Nuestros experimentos analizan la influencia de los sesgos de datos en los sistemas construidos en dos LLM diferentes, y cómo el marco propuesto evita efectivamente que los sistemas capacitados reproduzcan el sesgo en los datos.
Publicado Originalme en rss.arxiv.org El 15 de junio de 2025.
Ver Fuente Original
