Resumen: Los modelos independientes de aprendizaje automático se destacan en el reconocimiento de patrones, pero rara vez proporcionan orientación procesable e interpretable, erosionando la confianza del clínico. El uso adyacente de LLM por los médicos no resultó en una mejor precisión o velocidad diagnóstica. Limitaciones clave trazan al paradigma basado en datos: salidas de caja negra que carecen de transparencia, vulnerabilidad a las alucinaciones y un razonamiento causal débil. Los enfoques híbridos que combinan el aprendizaje estadístico con el conocimiento experto basado en reglas e involucran a los médicos a lo largo del proceso ayudan a recuperar la interpretabilidad. También encajan mejor con los flujos de trabajo clínicos existentes, como se ve en ejemplos como Peirs y Athena-CDS.
El soporte de decisión futuro debe priorizar la coherencia explicativa al vincular las predicciones con causas clínicamente significativas. Esto se puede hacer a través de IA neuro-simbólica o híbrida que combina la capacidad del lenguaje de los LLM con experiencia causal humana. Los investigadores de IA han abordado esta dirección, con IA explicable y IA neuro-simbólica siendo los próximos pasos lógicos para un avance adicional en la IA. Sin embargo, todavía se basan en la integración del conocimiento basada en datos en lugar de los enfoques humanos en el bucle. La investigación futura debería medir el éxito no solo por precisión sino también por mejoras en la comprensión del clínico, el ajuste del flujo de trabajo y los resultados del paciente. Se necesita una mejor comprensión de lo que ayuda a mejorar las interacciones humanas-computadora para que los sistemas de IA se formen parte de la práctica clínica.
Publicado Originalme en export.arxiv.org El 2 de julio de 2025.
Ver Fuente Original
