Resumen: La inteligencia artificial explicable (XAI) es crítica para lograr la confianza en el funcionamiento de los sistemas de IA. Una pregunta clave de un sistema de IA es “ ¿Por qué se tomó esta decisión de esta manera ”? Los enfoques formales para XAI utilizan un modelo formal del sistema AI para identificar explicaciones abductivas. Si bien las explicaciones abductivas pueden ser aplicables a una gran cantidad de entradas que comparten los mismos valores concretos, se pueden preferir explicaciones más generales para las entradas numéricas. Las llamadas explicaciones abductivas infladas dan intervalos para cada característica que garantiza que cualquier entrada cuyos valores caigan con estos intervalos todavía se garantiza que hagan la misma predicción. Las explicaciones infladas cubren una porción más grande del espacio de entrada y, por lo tanto, se consideran explicaciones más generales. Pero puede haber muchas explicaciones abductivas (infladas) para una instancia. ¿Cuál es el mejor? En este artículo, mostramos cómo encontrar una explicación abductiva general para una decisión de IA. Esta explicación cubre la mayor parte del espacio de entrada como sea posible, aunque sigue siendo una explicación formal correcta del comportamiento del modelo. Dado que solo queremos darle a un humano una explicación para una decisión, la explicación más general nos da la explicación con la aplicabilidad más amplia y, por lo tanto, es más sensata a la más probable. (El documento ha sido aceptado en la conferencia IJCAI2025).
Publicado Originalme en rss.arxiv.org El 18 de mayo de 2025.
Ver Fuente Original
