Resumen: Desarrollos recientes en inteligencia artificial (IA) y sus aplicaciones en industrias críticas como la atención médica, la tecnología de aletas y la ciberseguridad han llevado a un aumento en la investigación en la explicación de la IA. Se están explorando métodos de investigación innovadores para extraer información significativa de los sistemas Blackbox AI para hacer que la tecnología de toma de decisiones sea transparente e interpretable. La explicabilidad se vuelve aún más crítica cuando la IA se usa en la toma de decisiones en dominios como los sistemas críticos de FinTech, Salud y Seguridad, como ciberseguridad y vehículos autónomos. Sin embargo, todavía existe una ambigüedad en las evaluaciones confiables para los usuarios y la naturaleza de la transparencia en las explicaciones proporcionadas para las decisiones tomadas por la IA de caja negra. Para resolver la naturaleza blackbox de los sistemas de detección de intrusos basados en el aprendizaje automático, se propone un marco en este documento para dar una explicación para la toma de decisiones del IDSS. Este marco utiliza explicaciones locales del modelo y agnóstico del modelo (LIME) junto con la explicación como I’m Five (ELI5) y los algoritmos de árbol de decisión para proporcionar explicaciones locales y globales y mejorar la interpretación de IDS. Las explicaciones locales proporcionan la justificación para la decisión tomada en una entrada específica. Mientras que las explicaciones globales proporcionan la lista de características significativas y su relación con el tráfico de ataque. Además, este marco trae transparencia en el campo de las ID de ML impulsadas que podrían ser muy significativas para la adopción a gran escala de IA explicable en sistemas cibercríticos. Nuestro marco puede lograr una precisión del 85 por ciento en la clasificación del comportamiento de ataque en el conjunto de datos UNSW-NB15, al tiempo que muestra la clasificación de significación de características de las 10 características principales utilizadas en la clasificación.
Publicado Originalme en export.arxiv.org El 25 de agosto de 2025.
Ver Fuente Original
