Gaussian Relational Graph Transformer

Pendekatan pengambilan sampel kolaboratif struktur-semantik dan atensi Gaussian untuk pembelajaran graf relasional jarak jauh

Zezhong Ding; Jin Li; Xugang Wang; Xike Xie· 2026· DOI 10.48550/arXiv.2605.15575

Masalah inti

Pembelajaran graf relasional memodelkan basis data relasional sebagai graf dan telah menunjukkan kinerja unggul pada berbagai tugas prediktif relasional. Namun, metode yang ada kesulitan menangkap dependensi jarak jauh akibat peluruhan informasi dalam mekanisme message passing. Transformer graf relasional terkini masih terbatas dalam memodelkan informasi struktural, semantik, dan temporal secara bersamaan. Untuk mengatasi tantangan ini, penulis mengusulkan GelGT, sebuah transformer graf relasional Gaussian yang secara eksplisit menangani keterbatasan tersebut. Inovasi utamanya adalah strategi pengambilan sampel kolaboratif struktur-semantik dan mekanisme atensi graf Gaussian dengan bias Gaussian yang dapat dipelajari.

Eksperimen ekstensif pada berbagai dataset dunia nyata menunjukkan bahwa GelGT mencapai kinerja tugas hilir terbaik. Secara khusus, model ini menghasilkan peningkatan hingga 13,8% dalam kinerja prediktif dibandingkan metode yang ada. Hasil ini memvalidasi efektivitas mekanisme pengambilan sampel dan atensi yang diusulkan dalam menangkap dependensi jarak jauh serta memodelkan informasi struktural, semantik, dan temporal secara bersamaan.

Pembelajaran graf relasional memodelkan basis data relasional sebagai graf dan telah menunjukkan kinerja unggul pada berbagai tugas prediktif relasional. Namun, metode yang ada kesulitan menangkap dependensi jarak jauh akibat peluruhan informasi dalam mekanisme message passing. Transformer graf relasional terkini masih terbatas dalam memodelkan informasi struktural, semantik, dan temporal secara bersamaan. Untuk mengatasi tantangan ini, penulis mengusulkan GelGT, sebuah transformer graf relasional Gaussian yang secara eksplisit menangani keterbatasan tersebut. Inovasi utamanya adalah strategi pengambilan sampel kolaboratif struktur-semantik dan mekanisme atensi graf Gaussian dengan bias Gaussian yang dapat dipelajari.

GelGT memperkenalkan dua komponen utama:

Penulis mengaitkan keberhasilan GelGT dengan kemampuannya mengatasi peluruhan informasi melalui pengambilan sampel kolaboratif yang mempertahankan konektivitas struktural sekaligus menyaring derau semantik. Mekanisme atensi Gaussian dengan bias yang dapat dipelajari secara efektif mengodekan dependensi temporal, memungkinkan model menyesuaikan pengaruh node tetangga secara dinamis berdasarkan kedekatan temporal. Hal ini mengatasi keterbatasan transformer graf relasional sebelumnya yang kesulitan memodelkan informasi struktural, semantik, dan temporal secara bersamaan. Peningkatan hingga 13,8% menegaskan dampak praktis dari inovasi-inovasi ini. Penelitian selanjutnya dapat mengeksplorasi penskalaan GelGT ke graf yang lebih besar dan penggabungan semantik relasional tambahan.

Praktisi dan peneliti ilmu komputer

Membuka konten member…