TreeGPT: una nueva arquitectura híbrida para procesamiento de árboles de sintaxis abstracta con agregación global de padres e hijos
Resumen: La innovación central se encuentra en nuestro mecanismo global de agregación matriz-hijo, formalizado como: $$ h_i^{(t + 1)} = sigma big (h_i^{(0)} + w_ {pc} sum _ {(p, c) in e_i} f (h_p^{(t)}, h_c^{(t)})}) $ H_i^{(t)} $ representa el estado oculto del nodo $ i $ en iteración $ T $, $ E_I $ denota todos los bordes de los padres e hijos que involucran el nodo $ i $ y $ F (H_P, H_C) $
Leer más →