Resumen: Los sistemas de IA agentes autónomos impulsados por modelos de lenguaje grande (LLM) introducen una nueva clase de desafíos de seguridad, privacidad y cumplimiento: un agente que puede invocar herramientas, manipular datos, instalar software y coordinar con agentes pares a través de los límites organizacionales debe estar limitado no solo por la autenticación y el control de acceso, sino por la estructura completa de la gobernanza empresarial. Esto incluye especificar qué agentes tienen permitido y prohibido hacer, qué están obligados a hacer después de ciertas acciones (por ejemplo, notificar al CISO), bajo qué condiciones se puede renunciar a una obligación permanente y qué reglas tienen prioridad cuando las políticas entran en conflicto. Este problema de gobernanza excede lo que ofrecen los motores de políticas actuales. Sistemas como XACML, Rego y Cedar abordan únicamente el subconjunto de permisos/prohibiciones de esta estructura de gobernanza. No proporcionan gestión del ciclo de vida de las obligaciones, resolución de conflictos de metapolíticas, dispensas que renuncian a obligaciones en circunstancias específicas ni razonamiento ontológico sobre jerarquías de clases de dominio que se encuentran comúnmente en aplicaciones como la atención médica, la ciberseguridad o la privacidad de datos. Proponemos AgenticRei, que cumple con los requisitos clave de gobernanza, como obligaciones, dispensas, resolución de conflictos de políticas y razonamiento sobre políticas, así como las restricciones básicas de permiso/prohibición. Utilizamos un lenguaje de políticas deónticas construido sobre el marco Rei, expresado como OWL (Web Ontology Language) y evaluado en tiempo de ejecución por un motor lógico de alto rendimiento completamente externo al LLM. La misma canalización gobierna tanto las invocaciones de herramientas por parte del agente como los mensajes de agente a agente. Mostramos a través de ejemplos que las políticas deónticas capturan las limitaciones de gobernanza en torno a la seguridad y la privacidad que en su mayoría no pueden expresarse en los motores de producción actuales. Nuestro enfoque se integra naturalmente con marcos estándar de la industria como A2AS.
Publicado originalmente en export.arxiv.org el 18 de junio de 2026.
Ver fuente original
