Resumen: Los conceptos de “ IA centrada en humanos ” y “ decisión basada en el valor ” han ganado una atención significativa tanto en la investigación como en la industria. Sin embargo, muchos aspectos críticos permanecen poco superpuestos y requieren una mayor investigación. En particular, es necesario comprender cómo los sistemas incorporan valores humanos, cómo los humanos pueden identificar estos valores dentro de los sistemas y cómo minimizar los riesgos de daño o consecuencias no deseadas. En este artículo, destacamos la necesidad de repensar cómo enmarcamos la alineación del valor y afirmamos que la alineación del valor debería ir más allá de las concepciones estáticas y singulares de los valores. Argumentamos que los sistemas de IA deberían implementar un razonamiento a largo plazo y permanecer adaptable a los valores en evolución. Además, la alineación del valor requiere más teorías para abordar el espectro completo de los valores humanos. Dado que los valores a menudo varían entre individuos o grupos, los sistemas de múltiples agentes proporcionan el marco correcto para navegar en pluralismo, conflicto y razonamiento entre agentes sobre los valores. Identificamos los desafíos asociados con la alineación del valor e indicamos instrucciones para avanzar en la investigación de alineación de valor. Además, discutimos ampliamente las diversas perspectivas de alineación de valor, desde metodologías de diseño hasta aplicaciones prácticas.
Publicado Originalme en export.arxiv.org El 25 de agosto de 2025.
Ver Fuente Original
