Resumen: Los sistemas de IA agente, que aprovechan múltiples agentes autónomos y modelos de lenguaje grande (LLM), se utilizan cada vez más para abordar tareas complejas de varios pasos. La seguridad y la funcionalidad de estos sistemas son fundamentales, especialmente en aplicaciones de alto riesgo. Sin embargo, el ecosistema actual de comunicación entre agentes está fragmentado, con protocolos como el Protocolo de contexto modelo (MCP) para el acceso a herramientas y el protocolo Agente a agente (A2A) para la coordinación que se analizan de forma aislada. Esta fragmentación crea una brecha semántica que impide el análisis riguroso de las propiedades del sistema e introduce riesgos como desalineación arquitectónica y problemas de coordinación explotables. Para abordar estos desafíos, presentamos un marco de modelado para sistemas de IA agentes compuesto por dos modelos fundamentales. El primero, el modelo de agente anfitrión, formaliza la entidad de nivel superior que interactúa con el usuario, descompone las tareas y organiza su ejecución aprovechando agentes y herramientas externos. El segundo, el modelo de ciclo de vida de la tarea, detalla los estados y las transiciones de las subtareas individuales desde su creación hasta su finalización, proporcionando una visión detallada de la gestión de tareas y el manejo de errores. Juntos, estos modelos proporcionan un marco semántico unificado para razonar sobre el comportamiento de sistemas de agentes múltiples de IA. Con base en este marco, definimos 17 propiedades para el agente anfitrión y 14 para el ciclo de vida de la tarea, categorizadas en vivacidad, seguridad, integridad y equidad. Expresadas en lógica temporal, estas propiedades permiten la verificación formal del comportamiento del sistema, la detección de casos extremos de coordinación y la prevención de interbloqueos y vulnerabilidades de seguridad. A través de este esfuerzo, presentamos el primer marco rigurosamente fundamentado e independiente del dominio para el análisis, diseño e implementación sistemáticos de sistemas de IA agentes correctos, confiables y robustos.
Publicado originalmente en export.arxiv.org el 16 de octubre de 2025.
Ver fuente original
