Resumen: a pesar de los logros impresionantes de la IA, incluidos los avances en modelos generativos y modelos de idiomas grandes, sigue habiendo una brecha significativa en la capacidad de la IA para manejar la incertidumbre y generalizar más allá de los datos de capacitación. Argumentamos que los modelos de IA, especialmente en los sistemas autónomos, no hacen predicciones robustas cuando se enfrentan a datos desconocidos o adversos, como lo demuestran los incidentes con vehículos autónomos. Los enfoques de aprendizaje automático tradicional luchan para abordar estos problemas debido a un énfasis excesivo en el ajuste de datos y la adaptación del dominio. Este documento de posición plantea un cambio de paradigma hacia la inteligencia artificial epistémica, enfatizando la necesidad de que los modelos aprendan no solo de lo que saben sino también de su ignorancia. Este enfoque, que se centra en reconocer y gestionar la incertidumbre, ofrece una solución potencial para mejorar la resistencia y la robustez de los sistemas de IA, asegurando que puedan manejar mejor entornos de mundo real impredecibles.
Publicado Originalme en rss.arxiv.org El 8 de mayo de 2025.
Ver Fuente Original
