Energía derramada en modelos de lenguaje grandes

Resumen: Reinterpretamos el clasificador softmax final del Modelo de lenguaje grande (LLM) como un modelo basado en energía (EBM), descomponiendo la cadena de probabilidad de secuencia a secuencia en múltiples EBM que interactúan en la inferencia.

Leer más →

Comentarios desactivados en Energía derramada en modelos de lenguaje grandes

La modularidad es la base de la inteligencia natural y artificial

Resumen:El notable desempeño de los sistemas modernos de IA ha sido impulsado por escalas de datos, computación y energía sin precedentes, que superan con creces los recursos requeridos por la inteligencia humana. Esta disparidad resalta la necesidad de nuevos principios rectores y motiva a inspirarse en los principios organizativos fundamentales de la computación cerebral.

Leer más →

Comentarios desactivados en La modularidad es la base de la inteligencia natural y artificial

Fin del contenido

No hay más páginas por cargar