Más allá de las indicaciones: sesgo contextual eficiente y sólido para LLM de habla a través de la integración Logit-Space (LOGIC)
Resumen:En este trabajo, presentamos LOGIC (Logit-Space Integration for Contextual Biasing), un marco eficiente y robusto que opera directamente en la capa de decodificación. A diferencia de las indicaciones, LOGIC desacopla la inyección de contexto del procesamiento de entrada, lo que garantiza una complejidad de tiempo constante en relación con la duración de la solicitud.
Leer más →