Observatorio de información y Publicaciones

Resumen:A medida que los estudiantes dependen cada vez más de grandes modelos lingüísticos, las alucinaciones representan una amenaza creciente para el aprendizaje. Para mitigar esto, la alfabetización en IA debe ir más allá de la ingeniería rápida para abordar cómo los estudiantes deben detectar y responder a las alucinaciones del LLM.

Resumen:La Actividad de Proyectos de Investigación Avanzada en Inteligencia (IARPA) lanzó el programa TrojAI para enfrentar una vulnerabilidad emergente en la inteligencia artificial moderna: la amenaza de los troyanos de IA.

Resumen: El aprendizaje por refuerzo de múltiples agentes en línea (MARL) es un marco destacado para la coordinación eficiente de agentes. Fundamentalmente, mejorar la expresividad de las políticas es fundamental para lograr un desempeño superior.