Resumen: Los sistemas de IA agentes planifican, utilizan herramientas, mantienen el estado y producen trayectorias de varios pasos con efectos externos. Esas propiedades crean un problema de gobernanza que difiere materialmente de la IA generativa de un solo turno: surgen riesgos importantes durante la ejecución, no sólo en el momento del desarrollo o implementación del modelo. Los estándares de gobernanza como ISO/IEC 42001, ISO/IEC 23894, ISO/IEC 42005, ISO/IEC 5338, ISO/IEC 38507 y el marco de gestión de riesgos de IA del NIST son, por lo tanto, muy relevantes para la IA agente, pero por sí solos no generan barreras de seguridad implementables en tiempo de ejecución. Este artículo propone un método de traducción en capas que conecta los objetivos de gobernanza derivados de estándares con cuatro capas de control: objetivos de gobernanza, restricciones de tiempo de diseño, mediación en tiempo de ejecución y retroalimentación de seguridad. Distingue objetivos de gobernanza, controles técnicos, barreras de seguridad en tiempo de ejecución y evidencia de aseguramiento; introduce una tupla de control y una rúbrica de aplicabilidad en tiempo de ejecución para la asignación de capas; y demuestra el método en un estudio de caso de un agente de adquisiciones. La afirmación central es modesta: los estándares deben guiar la ubicación de los controles en toda la arquitectura, la política de tiempo de ejecución, la escalada humana y la auditoría, mientras que las barreras de seguridad en tiempo de ejecución están reservadas para controles que son observables, determinados y lo suficientemente sensibles al tiempo como para justificar la intervención en tiempo de ejecución.
Publicado originalmente en export.arxiv.org el 7 de abril de 2026.
Ver fuente original
