Resumen: Las mejoras recientes en modelos de idiomas grandes (LLM) han llevado a muchos investigadores a centrarse en construir agentes de IA totalmente autónomos. Este documento de posición cuestiona si este enfoque es el camino correcto hacia adelante, ya que estos sistemas autónomos aún tienen problemas con la confiabilidad, la transparencia y la comprensión de los requisitos reales de los humanos. Sugerimos un enfoque diferente: Sistemas de agentes humanos basados en LLM (LLM-HAS), donde la IA trabaja con humanos en lugar de reemplazarlos. Al mantener a los humanos involucrados para proporcionar orientación, responder preguntas y mantener el control, estos sistemas pueden ser más confiables y adaptables. Al observar ejemplos de la atención médica, las finanzas y el desarrollo de software, mostramos cómo el trabajo en equipo Human-AI puede manejar tareas complejas mejor que la IA que trabaja solo. También discutimos los desafíos de construir estos sistemas de colaboración y ofrecemos soluciones prácticas. Este artículo argumenta que el progreso en la IA no debe medirse por cómo se vuelven los sistemas independientes, sino por lo bien que pueden trabajar con los humanos. El futuro más prometedor para la IA no es en los sistemas que asumen los roles humanos, sino en aquellos que mejoran las capacidades humanas a través de una asociación significativa.
Publicado Originalme en rss.arxiv.org El 11 de junio de 2025.
Ver Fuente Original
