Observatorio de información y Publicaciones

Resumen: Garantizar que los modelos de lenguajes grandes (LLM) cumplan con los principios de seguridad sin rechazar solicitudes benignas sigue siendo un desafío importante.

Resumen:La inteligencia general debe reorganizar la experiencia en estructuras internas que permitan la predicción y la acción con recursos finitos. Los sistemas existentes presuponen implícitamente unidades primitivas fijas (fichas, subpalabras, píxeles o canales de sensores predefinidos), evitando así la cuestión de cómo emergen y se estabilizan las propias unidades representacionales.

Resumen:Cuando un modelo sabe cuando no sabe, surgen muchas posibilidades. La primera pregunta es cómo permitir que un modelo reconozca que no sabe. Un enfoque prometedor es utilizar la confianza, calculada a partir de las señales internas del modelo, para reflejar su ignorancia.