Resumen: El transformador LMS muestra un razonamiento emergente que resiste la comprensión mecanicista. Ofrecemos un marco de física estadística para la dinámica de razonamiento de la cadena de pensamiento de tiempo continuo. Modelamos las trayectorias de estado oculto a nivel de oración como un sistema dinámico estocástico en un colector de baja dimensión. Este sistema de difusión de deriva utiliza el cambio de régimen latente para capturar diversas fases de razonamiento, incluidos estados o fallas desalineados. Las trayectorias empíricas (8 modelos, 7 puntos de referencia) muestran una proyección de rango 40 (captura de varianza de equilibrio y viabilidad) explica ~ 50% de varianza. Encontramos cuatro regímenes de razonamiento latentes. Un modelo SLDS está formulado y validado para capturar estas características. El marco permite la simulación de razonamiento de bajo costo, ofreciendo herramientas para estudiar y predecir transiciones críticas como estados desalineados u otras fallas de LM.
Publicado Originalme en rss.arxiv.org El 5 de junio de 2025.
Ver Fuente Original
