Resumen: Los sistemas ciberfísicos dependen cada vez más de modelos fundamentales como los modelos de lenguaje grande (LLM) y los modelos de visión-lenguaje (VLM) para aumentar la autonomía a través de una mejor percepción, inferencia y planificación. Sin embargo, estos modelos también introducen nuevos tipos de errores, como alucinaciones, generalizaciones excesivas y desalineaciones del contexto, lo que resulta en decisiones incorrectas y defectuosas. Para abordar esto, presentamos el concepto de envolventes de cognición, diseñado para establecer límites de razonamiento que limiten las decisiones generadas por la IA y al mismo tiempo complementen el uso de la metacognición y las envolturas de seguridad tradicionales. Al igual que las envolventes de seguridad, las envolventes cognitivas requieren directrices prácticas y procesos sistemáticos para su definición, validación y garantía.
Publicado originalmente en export.arxiv.org el 2 de noviembre de 2025.
Ver fuente original
