Grid Multi-Resolusi Eager Berakselerasi Tensor untuk Substrat Skala Besar yang Berkembang

EMR-HyperNEAT: Menggantikan subdivisi quadtree sekuensial dengan evaluasi eager paralel untuk neuroevolusi berakselerasi GPU

Romain Claret; Michael O'Neill; Paul Cotofrei; Kilian Stoffel· 2026· DOI 10.48550/arXiv.2608.27612

Masalah inti

Dalam neuroevolusi, pengodean tidak langsung menghasilkan konektivitas jaringan saraf dari genom yang ringkas alih-alih menentukan setiap koneksi. ES-HyperNEAT secara otomatis menemukan tempat untuk menempatkan node tersembunyi dengan memeriksa pola keluaran CPPN: ia membagi ruang secara rekursif menggunakan quadtree, memperluas wilayah tempat keluaran CPPN menunjukkan varians tinggi. Pendekatan adaptif ini menemukan topologi jaringan tanpa spesifikasi substrat manual, memperluas kerangka HyperNEAT grid tetap yang dibangun di atas NEAT. Namun, quadtree menolak tensorisasi. Setiap tingkat kedalaman bergantung pada varians induknya, sehingga memaksa evaluasi sekuensial. CPPN yang berbeda menghasilkan pola subdivisi yang berbeda, sehingga mencegah batching. Dan jumlah daun yang bervariasi tidak kompatibel dengan persyaratan bentuk statis JAX untuk kompilasi JIT. Pekerjaan sebelumnya mengonfirmasi batasan ini pada kedalaman melebihi 5, dan reimplementasi JAX dari quadtree hanya menghasilkan percepatan marginal meskipun ada optimasi batch, yang memotivasi perumusan ulang eager yang disajikan di sini.

Bagian eksperimen memvalidasi percepatan GPU on-device 12-34\times pada XOR di kedalaman 5-7, dan secara empiris tingkat penyelesaian yang lebih tinggi di berbagai benchmark. Ini menunjukkan bahwa perumusan ulang eager tidak hanya mempercepat komputasi tetapi juga meningkatkan hasil evolusioner, kemungkinan karena paralelisme yang meningkat memungkinkan ukuran populasi yang lebih besar atau lebih banyak generasi dalam anggaran komputasi yang sama.

Dalam neuroevolusi, pengodean tidak langsung menghasilkan konektivitas jaringan saraf dari genom yang ringkas alih-alih menentukan setiap koneksi. ES-HyperNEAT secara otomatis menemukan tempat untuk menempatkan node tersembunyi dengan memeriksa pola keluaran CPPN: ia membagi ruang secara rekursif menggunakan quadtree, memperluas wilayah tempat keluaran CPPN menunjukkan varians tinggi. Pendekatan adaptif ini menemukan topologi jaringan tanpa spesifikasi substrat manual, memperluas kerangka HyperNEAT grid tetap yang dibangun di atas NEAT.

Namun, quadtree menolak tensorisasi. Setiap tingkat kedalaman bergantung pada varians induknya, sehingga memaksa evaluasi sekuensial. CPPN yang berbeda menghasilkan pola subdivisi yang berbeda, sehingga mencegah batching. Dan jumlah daun yang bervariasi tidak kompatibel dengan persyaratan bentuk statis JAX untuk kompilasi JIT. Pekerjaan sebelumnya mengonfirmasi batasan ini pada kedalaman melebihi 5, dan reimplementasi JAX dari quadtree hanya menghasilkan percepatan marginal meskipun ada optimasi batch, yang memotivasi perumusan ulang eager yang disajikan di sini.

Pergeseran dari subdivisi quadtree sekuensial ke evaluasi eager merupakan pertukaran mendasar: melakukan lebih banyak kueri CPPN dengan imbalan paralelisasi penuh. Pertukaran ini menguntungkan pada arsitektur GPU modern di mana throughput paralel jauh melebihi kinerja sekuensial. Pengurangan kompleksitas dari \BigO (4^{D}) menjadi \BigO (4^{D} / P) menyoroti potensi skalabilitas untuk substrat skala besar. Taksonomi jenis koneksi memungkinkan konfigurasi rekuren, memperluas penerapan metode berbasis HyperNEAT. Pekerjaan selanjutnya dapat mengeksplorasi strategi pemfilteran adaptif untuk mengurangi kueri berlebih sambil mempertahankan paralelisme, dan memperluas pendekatan ke kedalaman yang lebih tinggi dan benchmark yang lebih kompleks.

Praktisi dan peneliti ilmu komputer

Membuka konten member…