Resumen: Este documento investiga las vulnerabilidades del mundo real de los modelos de idiomas grandes basados en audio (ALLM), como QWEN2-Audio. Primero demostramos que un adversario puede crear perturbaciones de audio sigilosas para manipular alojamientos para que exhiban comportamientos específicos específicos, como obtener respuestas a las palabras de wetak-llay (por ejemplo, “Hola Qwen”), o desencadenar comportamientos dañinos (por ejemplo, “Cambiar mi evento calendario”). Posteriormente, mostramos que reproducir el ruido de fondo adversario durante la interacción del usuario con los Allms puede degradar significativamente la calidad de la respuesta. De manera crucial, nuestra investigación ilustra la escalabilidad de estos ataques a los escenarios del mundo real, lo que afectan a otros usuarios inocentes cuando estos ruidos adversos se juegan a través del aire. Además, discutimos la transferencia del ataque y posibles medidas defensivas.
Publicado Originalme en export.arxiv.org El 9 de julio de 2025.
Ver Fuente Original
