Resumen: Los sistemas de inteligencia artificial, especialmente aquellos que usan aprendizaje automático, se están implementando en dominios desde la contratación hasta la emisión de préstamos para automatizar estas decisiones complejas. Juzgar tanto la efectividad como la equidad de estos sistemas de IA, y su contraparte de la toma de decisiones humanas, es un tema complejo e importante estudiado en ciencias computacionales y sociales. Dentro del aprendizaje automático, una forma común de abordar el sesgo en los clasificadores posteriores es volver a muestrear los datos de capacitación a las disparidades de compensación. Por ejemplo, si las tasas de contratación varían de alguna clase protegida, entonces uno puede igualar la tasa dentro de la capacitación establecida para aliviar el sesgo en el clasificador resultante. Si bien son simples y aparentemente efectivos, estos métodos típicamente solo se han evaluado utilizando datos obtenidos a través de muestras de conveniencia, introduciendo sesgo de selección y sesgo de etiqueta en métricas. Dentro de las ciencias sociales, la psicología, la salud pública y la medicina, los estudios de auditoría, en los que se envían “ “ evaluadores ” ” ficticios (por ejemplo, currículums, correos electrónicos, actores de pacientes) a los sujetos (por ejemplo, aperturas de trabajo, empresas, médicos) en ensayos de control aleatorios, proporcionan datos de alta calidad que apoyan rigurosas estimaciones de la discriminación. En este documento, investigamos cómo los datos de los estudios de auditoría pueden usarse para mejorar nuestra capacidad de entrenar y evaluar los algoritmos de contratación automatizados. Encontramos que dichos datos revelan casos en los que el método de intervención de justicia común para igualar las tasas base en todas las clases parece lograr la paridad utilizando medidas tradicionales, pero de hecho tiene aproximadamente el 10% de disparidad cuando se mide adecuadamente. Además, introducimos intervenciones basadas en métodos de estimación del efecto de tratamiento individual que reducen aún más la discriminación algorítmica utilizando estos datos.
Publicado Originalme en export.arxiv.org El 3 de julio de 2025.
Ver Fuente Original
