Resumen: Los sistemas multiagente (MAS) se utilizan cada vez más en la atención sanitaria para respaldar la toma de decisiones complejas mediante la colaboración entre agentes especializados. Dado que estos sistemas actúan como tomadores de decisiones colectivos, plantean desafíos para la confianza, la rendición de cuentas y la supervisión humana. Los enfoques existentes para una IA confiable se basan en gran medida en la explicabilidad, pero la explicabilidad por sí sola es insuficiente en entornos de múltiples agentes, ya que no permite a los cuidadores cuestionar o corregir los resultados del sistema. Para abordar esta limitación, Contestable AI (CAI) caracteriza sistemas que respaldan el desafío humano efectivo durante todo el ciclo de vida de la toma de decisiones al brindar transparencia, oportunidades estructuradas de intervención y mecanismos de revisión, corrección o anulación. Este documento de posición sostiene que la contestabilidad es un requisito de diseño necesario para sistemas de atención algorítmica multiagente confiables. Identificamos limitaciones clave en la investigación actual de MAS y IA explicable (XAI) y presentamos un marco humano involucrado que integra argumentación estructurada y contestación basada en roles para preservar la agencia humana, la responsabilidad clínica y la confianza en contextos de atención de alto riesgo.
Publicado originalmente en export.arxiv.org el 23 de marzo de 2026.
Ver fuente original
