Hace apenas unos años, la industria de las baterías estaba muy, muy, muy caliente. Hubo un número aparentemente infinito de empresas que surgieron, con nuevas químicas brillantes y rondas masivas de recaudación de fondos. Mi mayor problema era examinar la pila para elegir las noticias más interesantes que cubrir.
Leer más →
Resumen: Los modelos de mezcla de expertos (MoE) permiten un rendimiento escalable pero enfrentan graves limitaciones de memoria en los dispositivos perimetrales. Las estrategias de descarga existentes luchan contra los cuellos de botella de E/S debido a la naturaleza dinámica y con poca información de la activación experta autorregresiva.
Leer más →
Resumen: La evaluación de la confiabilidad del LLM mediante probabilidades escalares a menudo no logra capturar la dinámica estructural del razonamiento. Presentamos TRACED, un marco que evalúa la calidad del razonamiento a través de cinemática geométrica fundamentada teóricamente.
Leer más →