Observatorio de información y Publicaciones

Resumen:A medida que los sistemas de IA se vuelven más capaces y se implementan ampliamente como agentes, garantizar su funcionamiento seguro se vuelve fundamental. El control de la IA ofrece un enfoque para mitigar el riesgo de agentes de IA que no son de confianza al monitorear sus acciones e intervenir o auditar cuando sea necesario.

Resumen: Los investigadores de IA se han centrado durante mucho tiempo en juegos similares al póquer como banco de pruebas para entornos caracterizados por dinámicas multijugador, información imperfecta y razonamiento en condiciones de incertidumbre.

Resumen:Este artículo presenta una investigación teórica integral sobre la complejidad parametrizada de los problemas de explicación en varios modelos de aprendizaje automático (ML). Contrariamente a la percepción predominante de caja negra, nuestro estudio se centra en modelos con mecanismos internos transparentes.