Observatorio de información y Publicaciones

Resumen: Los agentes de aprendizaje por refuerzo profundo a menudo están desalineados, ya que sobreexplotan las señales tempranas de recompensa. Recientemente, varios enfoques simbólicos han abordado estos desafíos codificando objetivos dispersos junto con planes alineados. Sin embargo, las arquitecturas puramente simbólicas son complejas de escalar y difíciles de aplicar a entornos continuos.

Resumen: Operativizamos los 2 requisitos como determinismo de ejecución (ED) y flexibilidad conversacional (CF), y utilizamos estos ejes para revisar 20 sistemas que abarcan 5 grupos arquitectónicos a lo largo de un espectro de alcance de validación.

Resumen: La automejora recursiva está pasando de la teoría a la práctica: los sistemas modernos pueden criticar, revisar y evaluar sus propios resultados, pero la automodificación iterativa corre el riesgo de una sutil desviación de la alineación.