Resumen: Las técnicas explicables de inteligencia artificial (XAI), como las explicaciones aditivas de Shapley (SHAP), se han convertido en herramientas esenciales para interpretar modelos complejos basados en árboles, especialmente en dominios de alto riesgo como el análisis de la salud. Sin embargo, los valores de SHAP generalmente se tratan como estimaciones puntuales, que ignoran la incertidumbre inherente y ubicua en modelos y datos predictivos. Esta incertidumbre tiene dos fuentes principales: aleatórica y epistémica. La incertidumbre aleatórica, que refleja el ruido irreducible en los datos. La incertidumbre epistémica, que surge de la falta de datos. En este trabajo, proponemos un enfoque para descomponer la incertidumbre en los valores de forma de forma en componentes aleatóricos, epistémicos y enredos. Este enfoque integra la teoría de evidencia de Depster-Shafer y el muestreo de hipótesis a través de procesos de Dirichlet sobre conjuntos de árboles. Validamos el método en tres casos de uso del mundo real con análisis estadísticos descriptivos que proporcionan información sobre la naturaleza de la incertidumbre epistémica integrada en las explicaciones de forma. Las experimentos permiten proporcionar una comprensión más integral de la confiabilidad e interpretabilidad de las atribuciones basadas en la forma. Esta comprensión puede guiar el desarrollo de procesos de toma de decisiones sólidos y el refinamiento de modelos en aplicaciones de alto riesgo. A través de nuestros experimentos con múltiples conjuntos de datos, concluimos que las características con los valores de forma más altos no son necesariamente los más estables. Esta incertidumbre epistémica se puede reducir a través de datos mejores y más representativos y siguiendo las técnicas de desarrollo del modelo apropiadas o deseadas de casos. Los modelos basados en árboles, especialmente el embolsado, facilitan la cuantificación efectiva de la incertidumbre epistémica.
Publicado Originalme en export.arxiv.org El 13 de agosto de 2025.
Ver Fuente Original
