Resumen: El razonamiento causal en modelos de lenguaje grandes que abarcan asociación, intervención e inferencia contrafactual es esencial para la toma de decisiones confiable en entornos de alto riesgo. A medida que la implementación avanza hacia entornos de borde y recursos limitados, los modelos cuantificados como INT8 y NF4 se están convirtiendo en estándar. Sin embargo, no se comprende bien el impacto de la reducción de la precisión en el razonamiento causal formal. Hasta donde sabemos, este es el primer estudio que evalúa sistemáticamente los efectos de cuantificación en los tres niveles de Pearls Causal Ladder. Utilizando un punto de referencia CLadder estratificado de 3000 muestras, encontramos que la precisión del nivel de peldaño en Llama 3 8B permanece ampliamente estable bajo la cuantificación, y NF4 muestra menos del uno por ciento de degradación general. Las consultas intervencionistas en el peldaño 2 son las más sensibles a la pérdida de precisión, mientras que el razonamiento contrafactual en el peldaño 3 es comparativamente estable pero muestra debilidades heterogéneas entre los tipos de consultas, como el sesgo del colisionador y el ajuste de puerta trasera. Los experimentos en el punto de referencia CRASS muestran un rendimiento casi idéntico en todas las precisiones, lo que indica que los conjuntos de datos contrafactuales de sentido común existentes carecen de la sensibilidad estructural necesaria para revelar la deriva del razonamiento inducida por la cuantificación. Evaluamos además la generación aumentada de recuperación de gráficos utilizando gráficos causales reales y observamos una mejora constante en la precisión intervencional de NF4 de más del 1,7 por ciento, compensando parcialmente la degradación relacionada con la compresión. Estos resultados sugieren que el razonamiento causal es inesperadamente robusto a la cuantificación de cuatro bits, el aumento estructurado de gráficos puede reforzar selectivamente el razonamiento intervencionista y los puntos de referencia contrafactuales actuales no logran capturar una fragilidad causal más profunda. Este trabajo proporciona un mapa empírico inicial de razonamiento causal comprimido y una guía práctica para implementar sistemas de IA causales eficientes y con soporte estructural.
Publicado originalmente en export.arxiv.org el 16 de diciembre de 2025.
Ver fuente original
