Resumen: Comparamos tres métodos para familiarizar a un humano con un compañero de equipo de inteligencia artificial (AI) (“agente”) antes de la operación en un entorno colaborativo de inteligencia, vigilancia y reconocimiento (ISR). En un estudio de usuario entre sujetos (n = 60), los participantes leyeron documentación sobre el agente, entrenados junto con el agente antes de la misión, o no se les dio familiarización. Los resultados mostraron que la información más valiosa sobre el agente incluía detalles de sus algoritmos de toma de decisiones y sus fortalezas y debilidades relativas en comparación con el humano. Esta información permitió a los grupos de familiarización formar estrategias sofisticadas de equipo más rápidamente que el grupo de control. La familiarización basada en la documentación condujo a la adopción más rápida de estas estrategias, pero también a los participantes sesgados hacia el comportamiento de reaja de riesgo que evitó puntajes altos. Los participantes familiarizados a través de la interacción directa pudieron inferir gran parte de la misma información a través de la observación, y estaban más dispuestos a asumir riesgos y experimentar con diferentes modos de control, pero informaron una comprensión más débil de los procesos internos del agente. Se observaron diferencias significativas entre la tolerancia al riesgo de los participantes individuales y los métodos de interacción de IA, que deben considerarse al diseñar interfaces de control Human-AI. Según nuestros hallazgos, recomendamos un método de familiarización del equipo Human-AI que combine la documentación de IA, el entrenamiento in situ estructurado y la interacción exploratoria.
Publicado Originalme en rss.arxiv.org El 20 de mayo de 2025.
Ver Fuente Original
