Resumen: Los agentes del modelo de lenguaje grande (LLM) son cada vez más capaces de orquestar tareas complejas en entornos de bajo código. Sin embargo, estos agentes a menudo exhiben alucinaciones e inconsistencias lógicas porque sus mecanismos de razonamiento inherentes dependen de asociaciones probabilísticas en lugar de una comprensión causal genuina. Este documento presenta un nuevo paradigma de programación: programación causal-visual (CVP), diseñada para abordar este problema fundamental al introducir explícitamente estructuras causales en el diseño del flujo de trabajo. CVP permite a los usuarios definir un “modelo mundial” simple para los módulos de flujo de trabajo a través de una interfaz intuitiva de bajo código, creando efectivamente un gráfico acíclico dirigido (DAG) que define explícitamente las relaciones causales entre los módulos. Este gráfico causal actúa como una restricción crucial durante el proceso de razonamiento del agente, anclando sus decisiones a una estructura causal definida por el usuario y reduciendo significativamente los errores y alucinaciones lógicas al evitar la dependencia de las correlaciones espurias. Para validar la efectividad de CVP, diseñamos un experimento sintético que simula un problema común del mundo real: un cambio de distribución entre los entornos de entrenamiento y prueba. Nuestros resultados muestran que un modelo causalmente anclado mantuvo una precisión estable frente a este cambio, mientras que un modelo de referencia puramente asociativo que se basaba en correlaciones probabilísticas experimentó una caída de rendimiento significativa. Las contribuciones principales de este estudio son: una definición formal de estructuras causales para módulos de flujo de trabajo; la propuesta e implementación de un marco CVP que ancla el razonamiento del agente a un gráfico causal definido por el usuario; y evidencia empírica que demuestra la efectividad del marco para mejorar la robustez del agente y reducir los errores causados por la confusión causal en entornos dinámicos. CVP ofrece un camino viable hacia la construcción de agentes de IA más interpretables, confiables y confiables.
Publicado Originalme en export.arxiv.org El 30 de septiembre de 2025.
Ver Fuente Original
