Observatorio de información y Publicaciones

Resumen: Los modelos de lenguaje grande (LLM) son prometedores en la automatización del diagnóstico clínico, pero su toma de decisiones poco transparente y su alineación limitada con los estándares de diagnóstico obstaculizan la confianza y la adopción clínica. Abordamos este desafío proponiendo un marco de diagnóstico de dos etapas que mejora la transparencia, la confiabilidad y la fiabilidad.

Resumen: La coincidencia de subgrafos, una piedra angular de la detección de patrones relacionales en dominios que van desde sistemas bioquímicos hasta análisis de redes sociales, enfrenta importantes desafíos computacionales debido al espectacular crecimiento del espacio de búsqueda.

Resumen: La falsificación de alineación es una forma de engaño estratégico en IA en la que los modelos cumplen selectivamente con los objetivos de entrenamiento cuando infieren que están en entrenamiento, mientras preservan un comportamiento diferente fuera del entrenamiento. El fenómeno se documentó por primera vez para Claude 3 Opus y luego se examinó en modelos de lenguaje grandes adicionales.