Resumen: De acuerdo con lo que llamamos la política de diseño de alineación emocional, las entidades artificiales deben diseñarse para provocar reacciones emocionales de los usuarios que reflejan adecuadamente las capacidades y el estado moral de las entidades, o la falta de ellas. Este principio puede violarse de dos maneras: diseñando un sistema artificial que provoca reacciones emocionales más fuertes o más débiles que sus capacidades y su estado moral (sobrepasando o subrayando), o diseñando un sistema que provoca el tipo incorrecto de reacción emocional (que golpea el objetivo equivocado). Aunque presumiblemente atractiva, la implementación práctica enfrenta varios desafíos que incluyen: ¿Cómo podemos respetar la autonomía del usuario al tiempo que promueve las respuestas apropiadas? ¿Cómo debemos navegar por el desacuerdo y la incertidumbre de expertos y públicos sobre hechos y valores? ¿Qué pasa si la alineación emocional parece requerir creación o destrucción de entidades con estatus moral? ¿En qué medida los diseños deben cumplir con versus alterar los supuestos y actitudes de los usuarios?
Publicado Originalme en export.arxiv.org El 9 de julio de 2025.
Ver Fuente Original
