Resumen: Los grandes modelos de lenguaje (LLM) y los grandes modelos de razonamiento (LRM) ofrecen un potencial transformador para dominios de alto riesgo como las finanzas y el derecho, pero su tendencia a alucinar, generando contenido factualmente incorrecto o sin respaldo, plantea un riesgo crítico de confiabilidad. Este documento presenta un marco operativo integral para el manejo de las alucinaciones, construido sobre un ciclo de mejora continua impulsado por el conocimiento de la causa raíz. Clasificamos las fuentes de alucinaciones en modelos, datos y factores relacionados con el contexto, lo que permite intervenciones específicas en lugar de soluciones genéricas. El marco integra métodos de detección multifacéticos (por ejemplo, estimación de la incertidumbre, coherencia del razonamiento) con estrategias de mitigación estratificadas (por ejemplo, base de conocimientos, calibración de confianza). Demostramos su aplicación a través de una arquitectura por niveles y un estudio de caso de extracción de datos financieros, donde los niveles de modelo, contexto y datos forman un circuito de retroalimentación cerrado para una mejora progresiva de la confiabilidad. Este enfoque proporciona una metodología sistemática y escalable para construir sistemas de IA generativa confiables en entornos regulados.
Publicado originalmente en export.arxiv.org el 15 de enero de 2026.
Ver fuente original
