Observatorio de información y Publicaciones

Resumen: Los sistemas de IA altamente capaces podrían buscar en secreto objetivos desalineados, lo que llamamos “esquemas”. Debido a que una IA esquema intentaría deliberadamente ocultar sus objetivos y acciones desalineadas, medir y mitigar el esquema requiere diferentes estrategias de las que se usan típicamente en ML.

Resumen: La retrosíntesis, el proceso de deconstrucción de una molécula objetivo en precursores más simples, es crucial para la planificación de síntesis asistida por computadora (CASP). Los métodos de búsqueda de árboles ampliamente adoptados a menudo sufren de complejidad computacional exponencial.

Resumen: La rápida evolución de las arquitecturas neuronales, desde perceptrones multicapa hasta modelos basados ​​en transformadores a gran escala, ha habilitado los modelos de idiomas (LLM) para exhibir comportamientos de agente emergentes cuando están equipados con memoria, planificación y uso de herramientas externas.