Observatorio de información y Publicaciones

Resumen: Los agentes de capacitación para actuar en entornos incorporados generalmente requieren grandes datos de capacitación o acceso a una simulación precisa, ninguno de los cuales existe para muchos casos en el mundo real.

Resumen: Grandes modelos de idiomas (LLM) han hecho un progreso notable en el razonamiento matemático, pero aún continúan luchando con tareas de alta precisión como el cálculo numérico y la manipulación simbólica formal. La integración de herramientas externas ha surgido como un enfoque prometedor para cerrar esta brecha.

Resumen: Este documento de posición sostiene que la investigación moderna de IA debe adoptar una perspectiva antifrágil sobre la seguridad, una en la que la capacidad del sistema para garantizar la seguridad de IA a largo plazo, como el manejo de eventos raros o fuera de distribución (OOD) se expande con el tiempo.