Observatorio de información y Publicaciones

Resumen: La alineación de seguridad estándar optimiza los modelos de lenguaje grande (LLM) para lograr utilidad y honestidad universales, inculcando efectivamente una moralidad rígida de “Boy Scout”.

Resumen: Los avances recientes en el razonamiento con modelos de lenguaje grande (LLM) se han centrado en dominios como las matemáticas y la codificación, donde se encuentran disponibles abundantes datos de alta calidad y métricas de evaluación objetivas.

Resumen: Un error de un sistema de IA en un entorno crítico para la seguridad puede costar vidas. A medida que los modelos de lenguaje grande (LLM) se vuelven parte integral de la toma de decisiones en robótica, la dimensión física del riesgo crece; una sola instrucción incorrecta puede poner en peligro directamente la seguridad humana.