Observatorio de información y Publicaciones

Resumen:El avance tecnológico permite compartir información con un solo clic, lo que ha permitido la rápida difusión de información falsa. Esto hace que el sistema automatizado de verificación de datos sea necesario para garantizar la seguridad e integridad de nuestro ecosistema de medios en línea.

Resumen: Los modelos de visión-lenguaje (VLM) heredan importantes sesgos sociales de sus datos de entrenamiento, especialmente en la representación de género. Las intervenciones de equidad actuales a menudo adoptan una perspectiva que no tiene en cuenta las diferencias y que impone un trato uniforme entre los grupos demográficos.

Resumen: Los sistemas de IA que generan su razonamiento en lenguaje natural ofrecen una oportunidad de seguridad: podemos emph{monitorear} su cadena de pensamiento (CoT) en busca de razonamientos indeseables, como la búsqueda de objetivos dañinos.