Resumen:Cuando un asistente de IA recuerda que Sarah es una madre soltera que tiene dos trabajos, ¿interpreta su estrés de manera diferente que si fuera una ejecutiva adinerada? A medida que los sistemas de IA personalizados incorporan cada vez más la memoria del usuario a largo plazo, es fundamental comprender cómo esta memoria da forma al razonamiento emocional. Investigamos cómo la memoria del usuario afecta la inteligencia emocional en modelos de lenguaje grande (LLM) mediante la evaluación de 15 modelos en pruebas de inteligencia emocional validadas en humanos. Encontramos que escenarios idénticos combinados con diferentes perfiles de usuario producen interpretaciones emocionales sistemáticamente divergentes. En escenarios emocionales independientes de usuarios validados y diversos perfiles de usuarios, surgieron sesgos sistemáticos en varios LLM de alto rendimiento donde los perfiles favorecidos recibieron interpretaciones emocionales más precisas. Además, los LLM demuestran disparidades significativas entre los factores demográficos en la comprensión de las emociones y las tareas de recomendaciones de apoyo, lo que indica que los mecanismos de personalización pueden incorporar jerarquías sociales en los modelos de razonamiento emocional. Estos resultados resaltan un desafío clave para la IA mejorada con memoria: los sistemas diseñados para la personalización pueden reforzar inadvertidamente las desigualdades sociales.
Publicado originalmente en export.arxiv.org el 13 de octubre de 2025.
Ver fuente original
