Resumen:Si bien las explicaciones globales son cruciales para comprender los modelos de visión en conjuntos de datos, clases y contextos de decisión, su naturaleza compleja y monolítica a menudo obstaculiza la exploración práctica. Debido a que los usuarios generalmente buscan respuestas específicas a preguntas específicas en lugar de artefactos estáticos, presentamos una interfaz interactiva basada en LLM que brinda acceso en lenguaje natural a explicaciones globales para clasificadores de imágenes de caja negra. El LLM principal del sistema actúa como mediador, traduciendo preguntas en lenguaje natural en consultas SQL estructuradas sobre datos explicativos locales. Esto permite una agregación flexible sin exponer a los usuarios a representaciones de bajo nivel. Para cada consulta, la interfaz genera respuestas en lenguaje natural aumentadas con estadísticas, respaldando explicaciones locales y visualizaciones alineadas con la intención. Evaluamos el sistema en función de la interpretación de la intención, la precisión del mapeo de consultas, la generalización a consultas y conjuntos de datos novedosos y la solidez ante errores lingüísticos. Nuestros resultados demuestran que las consultas mediadas por LLM mejoran sustancialmente la accesibilidad y usabilidad de las explicaciones globales para XAI centrada en el ser humano.
Publicado originalmente en export.arxiv.org el 18 de junio de 2026.
Ver fuente original
