Noticias externas

Resumen: Los agentes autónomos del modelo de lenguaje grande (LLM) exhiben una vulnerabilidad significativa a los ataques de inyección rápida indirecta (IPI). Estos ataques secuestran el comportamiento de los agentes contaminando fuentes de información externas, explotando compensaciones fundamentales entre seguridad y funcionalidad en los mecanismos de defensa existentes.

Resumen: Los modelos de lenguaje grande se utilizan cada vez más para evaluar otros modelos, pero estos juicios generalmente carecen de toda representación de confianza.

Resumen:A medida que los grandes modelos de lenguaje se convierten en componentes de sistemas agentes más grandes, la confiabilidad de la evaluación se vuelve crítica: los subagentes poco confiables introducen fragilidad en el comportamiento del sistema posterior.