Resumen: Los procesos puntuales temporales (TPP) son cruciales para analizar eventos a lo largo del tiempo y se utilizan ampliamente en campos como las finanzas, la atención médica y los sistemas sociales. Estos procesos son particularmente valiosos para comprender cómo se desarrollan los acontecimientos a lo largo del tiempo, dando cuenta de su irregularidad y dependencias. A pesar del éxito de los modelos de lenguaje grande (LLM) en el modelado de secuencias, aplicarlos a procesos puntuales temporales sigue siendo un desafío. Una cuestión clave es que los métodos actuales luchan por capturar de manera efectiva la compleja interacción entre la información temporal y el contexto semántico, que es vital para un modelado preciso de eventos. En este contexto, presentamos TPP-TAL (Procesos puntuales temporales con conciencia temporal mejorada en LLM), un novedoso marco plug-and-play diseñado para mejorar el razonamiento temporal dentro de los LLM. En lugar de utilizar el método convencional de simplemente concatenar el tiempo del evento y las incrustaciones de tipos, TPP-TAL alinea explícitamente la dinámica temporal con la semántica contextual antes de introducir esta información en el LLM. Esta alineación permite que el modelo perciba mejor las dependencias temporales y las interacciones de largo alcance entre los eventos y sus contextos circundantes. A través de experimentos integrales en varios conjuntos de datos de referencia, se demuestra que TPP-TAL ofrece mejoras sustanciales en la estimación de probabilidad temporal y la precisión de la predicción de eventos, destacando la importancia de mejorar la conciencia temporal en los LLM para el modelado de eventos en tiempo continuo. El código está disponible en esta URL https
Publicado originalmente en export.arxiv.org el 5 de enero de 2026.
Ver fuente original
