Observatorio de información y Publicaciones

Resumen: En este trabajo, presentamos la primera evaluación manual dirigida por expertos de cuatro LLM (dos modelos sin razonamiento de propósito general ampliamente utilizados y dos modelos de dominio específico diseñados para contextos de IPV) centrados en su efectividad para responder a preguntas relacionadas con TFA.

Resumen:A medida que los estudiantes dependen cada vez más de grandes modelos lingüísticos, las alucinaciones representan una amenaza creciente para el aprendizaje. Para mitigar esto, la alfabetización en IA debe ir más allá de la ingeniería rápida para abordar cómo los estudiantes deben detectar y responder a las alucinaciones del LLM.

Resumen:La Actividad de Proyectos de Investigación Avanzada en Inteligencia (IARPA) lanzó el programa TrojAI para enfrentar una vulnerabilidad emergente en la inteligencia artificial moderna: la amenaza de los troyanos de IA.