Mejora del rendimiento del LLM mediante el ajuste en línea de Black-Box: un caso para agregar especificaciones del sistema a hojas informativas para una IA confiable
Resumen: En este artículo, presentamos un novedoso controlador en línea de caja negra que utiliza solo mediciones de extremo a extremo en segmentos cortos, sin instrumentación interna, y escalada para maximizar el buen rendimiento, definido como el rendimiento de las solicitudes que satisfacen el objetivo de nivel de servicio.
Leer más →