ForgeStencil: Mengotomatiskan Spesialisasi Stensil per Kasus dari Kernel hingga 100+ Aplikasi Nyata

Kerangka kerja agen sintesis kode yang menghilangkan generality tax dengan menempa operator stensil terspesialisasi per konfigurasi dan per aplikasi, mencapai percepatan kernel geometric mean 2,35x dan percepatan aplikasi end-to-end median 1,41x.

Yaojian Chen; Yuxuan Li; Wubing Wan; Lin Gan; Guangwen Yang; Zhiyuan Liu· 2026· DOI 10.48550/arXiv.2609.06694

Masalah inti

Komputasi stensil adalah kelas kernel fundamental dalam komputasi industri dan ilmiah, yang menopang model cuaca dan iklim, pencitraan seismik, dinamika fluida, dan pemrosesan citra. Meskipun sangat umum, tidak ada satu implementasi stensil yang paling cepat secara universal: kernel optimal berubah secara kualitatif sesuai bentuk stensil, bentuk grid, presisi, dan aplikasi inang. Selama dua dekade, bidang ini merespons dengan metode umum—domain-specific language (DSL), generator kode, dan autotuner—karena membangun solusi terspesialisasi per kasus terlalu mahal. Semua metode umum ini menggunakan ulang satu resep buatan manusia, dan penggunaan ulang itu menimbulkan penalti kinerja yang oleh penulis disebut **generality tax**. Premis utama karya ini adalah bahwa kendala ekonomi yang membenarkan sifat umum tidak lagi berlaku. Agen sintesis kode modern dapat membangun solusi terspesialisasi yang benar per kasus dengan biaya yang dapat diterima. ForgeStencil mengoperasionalkan wawasan ini melalui arsitektur agen dua tingkat: **Kernel Agent** yang menyintesis CUDA dan menempa peta operator terspesialisasi per konfigurasi, serta **App Agent** yang menempa solusi terspesialisasi per aplik

Inovasi

Pada NVIDIA A100, peta operator per konfigurasi yang dihasilkan Kernel Agent mengalahkan baseline publik terkuat dalam **37 dari 37 kasus**. Percepatan geometric mean adalah **2,35x** terhadap baseline f32 dengan presisi sama dan **1,95x** untuk fp16, dengan setiap hasil dilaporkan pada presisinya sendiri. Ini menunjukkan bahwa sintesis terspesialisasi secara konsisten mengungguli metode umum di seluruh rentang konfigurasi yang diuji. Pada tingkat aplikasi, App Agent dievaluasi pada **100 kode industri dan ilmiah nyata**. Percepatan end-to-end median adalah **1,41x** terhadap baseline GPU masing-masing aplikasi. Ini adalah perolehan substansial karena pustaka operator generik disetel sekali untuk kasus umumnya sendiri dan digunakan ulang di berbagai aplikasi, sehingga bentuk, tata letak, dan batas peluncurannya tidak optimal untuk satu pun aplikasi tersebut—bentuk generality tax pada tingkat aplikasi. Sintesis per aplikasi ForgeStencil menghilangkan tax ini, memberikan peningkatan end-to-end yang terukur di berbagai kode nyata. Sepengetahuan penulis, ini adalah demonstrasi pertama bahwa sintesis per kasus berlanjut dari pustaka kernel ke aplikasi lengkap pada keluasan ini. Hasiln

Komputasi stensil adalah kelas kernel fundamental dalam komputasi industri dan ilmiah, yang menopang model cuaca dan iklim, pencitraan seismik, dinamika fluida, dan pemrosesan citra. Meskipun sangat umum, tidak ada satu implementasi stensil yang paling cepat secara universal: kernel optimal berubah secara kualitatif sesuai bentuk stensil, bentuk grid, presisi, dan aplikasi inang. Selama dua dekade, bidang ini merespons dengan metode umum—domain-specific language (DSL), generator kode, dan autotuner—karena membangun solusi terspesialisasi per kasus terlalu mahal. Semua metode umum ini menggunakan ulang satu resep buatan manusia, dan penggunaan ulang itu menimbulkan penalti kinerja yang oleh penulis disebut **generality tax**.

Premis utama karya ini adalah bahwa kendala ekonomi yang membenarkan sifat umum tidak lagi berlaku. Agen sintesis kode modern dapat membangun solusi terspesialisasi yang benar per kasus dengan biaya yang dapat diterima. ForgeStencil mengoperasionalkan wawasan ini melalui arsitektur agen dua tingkat: **Kernel Agent** yang menyintesis CUDA dan menempa peta operator terspesialisasi per konfigurasi, serta **App Agent** yang menempa solusi terspesialisasi per aplikasi dengan menemukan hotspot, menulis ulang struktur aplikasi, dan memvalidasi serta mengintegrasikan setiap perubahan. Hasilnya adalah penghapusan sistematis generality tax, kasus demi kasus, dari tingkat kernel hingga aplikasi lengkap.

Mengapa penting

Signifikansi ForgeStencil terletak pada tantangannya terhadap asumsi fundamental komputasi berkinerja tinggi: bahwa sifat umum diperlukan karena spesialisasi terlalu mahal. Penulis berargumen bahwa agen sintesis kode telah membatalkan premis ini. **Generality tax** bukan sekadar fenomena tingkat kernel; ia merambat ke kinerja tingkat aplikasi karena pustaka operator generik memaksakan bentuk, tata letak, dan batas peluncuran yang suboptimal pada setiap aplikasi yang menggunakannya ulang. Arsitektur dua tingkat ForgeStencil menangani kedua bentuk tax tersebut. Kernel Agent menghilangkannya pada tingkat operator dengan menempa peta per konfigurasi, sedangkan App Agent menghilangkannya pada tingkat aplikasi dengan menulis ulang struktur dan mengintegrasikan kernel terspesialisasi. Tingkat kemenangan kernel 37/37 dan percepatan aplikasi median 1,41x di 100 kode menunjukkan bahwa pendekatan ini robust dan berlaku luas. Namun, karya ini juga memunculkan pertanyaan tentang biaya sintesis, pemeliharaan solusi per kasus, dan sejauh mana sintesis agentic dapat digeneralisasi ke kelas kernel lain di luar stensil. Penulis memosisikan kontribusi mereka sebagai bukti bahwa penggunaan ulang bukan lagi default, tetapi implikasi jangka panjang bagi praktik rekayasa perangkat lunak dalam komputasi ilmiah masih perlu ditelusuri. Kandidat taksonomi—Architecture, Cybersecurity, Network, Cryptography—tidak dibahas secara langsung dalam sumber, tetapi metodologi spesialisasi otomatis mungkin memiliki analogi di domain tersebut.

Siapa yang sebaiknya membaca

Praktisi dan peneliti ilmu komputer

Membuka konten member…