Resumen:Objetivos: Esta revisión de alcance tiene como objetivo examinar cómo las comunidades AIES y FAccT conceptualizan, miden y validan la confiabilidad de la IA, identificando las principales brechas y oportunidades para avanzar en una comprensión holística de los sistemas de IA confiables.
Métodos: Llevamos a cabo una revisión del alcance de las actas de las conferencias AIES y FAccT hasta la fecha, analizando sistemáticamente cómo se define, operacionaliza y aplica la confiabilidad en diferentes dominios de investigación. Nuestro análisis se centra en enfoques de conceptualización, métodos de medición, técnicas de verificación y validación, áreas de aplicación y valores subyacentes.
Resultados: Si bien se han logrado avances significativos en la definición de atributos técnicos como la transparencia, la rendición de cuentas y la solidez, nuestros hallazgos revelan brechas críticas. La investigación actual a menudo enfatiza predominantemente la precisión técnica a expensas de consideraciones sociales y éticas. La naturaleza sociotécnica de los sistemas de IA sigue siendo menos explorada y la confiabilidad emerge como un concepto controvertido moldeado por quienes tienen el poder de definirlo.
Conclusiones: Un enfoque interdisciplinario que combine el rigor técnico con consideraciones sociales, culturales e institucionales es esencial para promover una IA confiable. Proponemos medidas viables para que la comunidad de ética de la IA adopte marcos holísticos que aborden genuinamente la compleja interacción entre los sistemas de IA y la sociedad, promoviendo en última instancia un desarrollo tecnológico responsable que beneficie a todas las partes interesadas.
Publicado originalmente en export.arxiv.org el 26 de octubre de 2025.
Ver fuente original
