Resumen: Las decisiones de ética de la máquina deben considerar las implicaciones de la incertidumbre sobre las decisiones. Se deben tomar decisiones sobre secuencias de acciones para alcanzar los resultados preferibles a largo plazo. Sin embargo, la evaluación de los resultados puede invocar una o más teorías morales, que podrían tener juicios conflictivos. Cada teoría requerirá representaciones diferentes de la situación ética. Por ejemplo, el utilitarismo mide los valores numéricos, la deontología analiza los deberes y la ética de la virtud enfatiza el carácter moral. Al equilibrar las consideraciones morales potencialmente conflictivas, es posible que se deben tomar decisiones, por ejemplo, para lograr objetivos moralmente neutrales con costos mínimos. En este documento, formalizamos el problema como un proceso de decisión de Markov multimoral y un problema de ruta estocástica multimoral. Desarrollamos un algoritmo heurístico basado en AO*de múltiples objetivos, utilizando el procedimiento de retrospección hipotética de Sven-Ove Hansson para el razonamiento ético bajo incertidumbre. Nuestro enfoque es validado por un estudio de caso de la literatura de ética de la máquina: el problema de si robar insulina a alguien que la necesita.
Publicado Originalme en rss.arxiv.org El 7 de mayo de 2025.
Ver Fuente Original
