Resumen: El desaprendizaje de máquinas (MU) tiene como objetivo eliminar la información de datos de capacitación específicos de un modelo capacitado, asegurando el cumplimiento de las regulaciones de privacidad y las solicitudes de los usuarios. Mientras que una línea de métodos MU existentes se basa en actualizaciones de parámetros lineales a través de la aritmética de la tarea, sufren de enredo de peso. En este trabajo, proponemos un nuevo marco MU llamado Mode Connectivity Unarnearning (MCU) que aprovecha la conectividad del modo para encontrar una vía de desaprendizaje de manera no lineal. Para mejorar aún más el rendimiento y la eficiencia, presentamos una estrategia de máscara de parámetros que no solo mejora la efectividad del desaprendizaje, sino que también reduce la sobrecarga computacional. Además, proponemos una estrategia de ajuste adaptativo para nuestro coeficiente de penalización de desaprendizaje para equilibrar adaptativamente el olvido de la calidad y el rendimiento predictivo durante el entrenamiento, eliminando la necesidad de un ajuste empírico de hiperparameter. A diferencia de los métodos MU tradicionales que identifican solo un solo modelo de desaprendizaje, MCU descubre un espectro de modelos de desaprendizaje a lo largo de la vía. En general, MCU sirve como un marco plug-and-play que se integra perfectamente con los métodos MU existentes, mejorando constantemente la eficacia del desaprendizaje. Experimentos extensos en la tarea de clasificación de imágenes demuestran que MCU logra un rendimiento superior.
Publicado Originalme en rss.arxiv.org El 18 de mayo de 2025.
Ver Fuente Original
