Resumen: Los sistemas de inteligencia artificial (IA) se colocan cada vez más en posiciones donde sus decisiones tienen consecuencias reales, por ejemplo, moderando espacios en línea, realización de investigaciones y asesoramiento sobre políticas. Asegurarse de que operen de una manera segura y éticamente aceptable es, por lo tanto, crítico. Sin embargo, la mayoría de las soluciones han sido una forma de “alineación” de talla única. Nos preocupa que tales sistemas, que pasan por alto la diversidad moral duradera, provocan resistencia, erosionarán la confianza y desestabilicen nuestras instituciones. Este documento traza el problema subyacente a un axioma a menudo no establecido de convergencia racional: la idea de que en condiciones ideales, los agentes racionales convergerán en el límite de conversación en una sola ética. Tratando esa premisa como opcional y dudosa, proponemos lo que llamamos el marco de adecuación: un enfoque alternativo basado en la teoría de conflictos, la evolución cultural, los sistemas de múltiples agentes y la economía institucional. El marco de idoneidad trata el desacuerdo persistente como el caso normal y los diseños para la aplicación de cuatro principios: (1) a tierra contextual, (2) personalización comunitaria, (3) adaptación continua y (4) gobernanza policéntrica. Argumentamos aquí que adoptar estos principios de diseño es una buena manera de cambiar la metáfora de la alineación principal de la unificación moral a una metáfora más productiva de la gestión de conflictos, y que dar este paso es deseable y urgente.
Publicado Originalme en rss.arxiv.org El 8 de mayo de 2025.
Ver Fuente Original
