Resumen: ¿Qué es un agente? ¿Qué constituye agencia? Con el surgimiento de los sistemas de Modelos de Lenguaje Grande (LLM, por sus siglas en inglés) comercializados como “agentes de codificación”, “cocientíficos de la IA” y otras herramientas “agentivas” que prometen aumentar la productividad, y al mismo tiempo, preocupaciones “existenciales” como la de que la IA escape del control humano con poder destructivo bajo una especulativa “agencia de la máquina” contra los humanos, se ha vuelto esencial aclarar dónde termina la automatización y dónde comienza la agencia, tanto para construir sistemas capaces como para comprender si hay que temer y a qué. Basándonos en la base cartesiana de la agencia en el pensamiento independiente y en las representaciones de seres autónomos en la ciencia ficción, analizamos el panorama actual de los agentes de IA y analizamos las arquitecturas de los agentes en cinco dimensiones: objetivo, identidad, toma de decisiones, autorregulación y aprendizaje. Los sistemas emph{agentivos}, cuyas capacidades (incluida la interacción social) surgen de forma endógena, definen el límite entre los sistemas diseñados para tareas prescritas y aquellos capaces de operar en el mundo abierto con verdadera autonomía, proponemos la arquitectura Goal-Identity-Configurator (GIC) para un modelo de agente de propósito general, que combina la descomposición jerárquica de objetivos, la evolución de la identidad, el razonamiento simulativo basado en un modelo mundial entrenado por separado, la autorregulación aprendida y el aprendizaje autodirigido de ambos mundos reales. y experiencia simulada, compartimos conocimientos sobre la auditabilidad, controlabilidad y seguridad de los sistemas agentes que poseen mayor autonomía y “agencia”, pero permanecen bajo supervisión humana.
Publicado originalmente en export.arxiv.org el 23 de junio de 2026.
Ver fuente original
