Resumen: Los sistemas de IA agentes impulsados por grandes modelos de lenguaje (LLM) y dotados de planificación, uso de herramientas, memoria y autonomía, están surgiendo como plataformas poderosas y flexibles para la automatización. Su capacidad para ejecutar tareas de forma autónoma en entornos web, de software y físicos crea riesgos de seguridad nuevos y amplificados, distintos tanto de la seguridad tradicional de la IA como de la seguridad del software convencional. Esta encuesta describe una taxonomía de amenazas específicas de la IA agente, revisa puntos de referencia y metodologías de evaluación recientes y analiza estrategias de defensa desde perspectivas tanto técnicas como de gobernanza. Sintetizamos la investigación actual y destacamos los desafíos abiertos, con el objetivo de respaldar el desarrollo de sistemas de agentes seguros por diseño.
Publicado originalmente en export.arxiv.org el 28 de octubre de 2025.
Ver fuente original
