Editorial Ilmu Komputer & AI
Open AccessOA2026
FlashGPU-sim: Memungkinkan Pemodelan GPU untuk Arsitektur Modern dan Beban Kerja AI
Simulator open-source, execution-driven, cycle-accurate untuk beban kerja AI modern, mencapai MAPE 5,24% pada 131 konfigurasi di RTX 5090, H100, dan B200.
Siying Yu; Yixun Hong; Guozhi Qiu; Jingci Liu; Feng Gu; Chenbo Geng; Zhengrong Wang; Chen Zhang; Bei Yu· 2026· DOI 10.48550/arXiv.2609.15311
Masalah inti
Kemajuan pesat kecerdasan buatan telah menciptakan lingkar co-design perangkat lunak-perangkat keras yang ketat, di mana GPU modern mengekspos fitur seperti perpindahan data asinkron, pipeline tensor core, dan sinkronisasi berbutir halus yang secara agresif dimanfaatkan oleh kernel berperforma tinggi. Pada saat yang sama, perilaku aplikasi yang muncul semakin memengaruhi generasi berikutnya dari desain perangkat keras. Namun, simulator open-source terbaru untuk GPU NVIDIA berfokus pada arsitektur dan tumpukan perangkat lunak dari sekitar enam tahun lalu. Akibatnya, simulator tersebut tidak dapat mendukung banyak kernel AI mutakhir yang dihasilkan oleh tumpukan kompilator modern, seperti Triton, atau memodelkan fitur perangkat keras yang menjadi sandarannya secara akurat. Sebagai hasilnya, arsitek kekurangan platform yang kredibel untuk menganalisis hambatan dalam flywheel ini atau mengevaluasi trade-off desain untuk sistem AI masa depan. Untuk menjembatani kesenjangan ini, penulis memperkenalkan FlashGPU-sim, simulator GPU open-source, execution-driven, cycle-accurate untuk beban kerja AI modern. FlashGPU-sim secara setia memodelkan fitur perangkat keras modern seperti perpindahan
Inovasi
FlashGPU-sim dievaluasi pada 131 konfigurasi beban kerja di tiga arsitektur GPU modern: RTX 5090, H100, dan B200. Hasil utamanya adalah:
- **Akurasi tingkat siklus**: Simulator mencapai MAPE 5,24%, yang menunjukkan kesetiaan tinggi dalam memodelkan jumlah siklus dibandingkan perangkat keras nyata.
- **Kinerja multi-thread**: Dengan 16 host thread, FlashGPU-sim mencapai percepatan 7,86x dibandingkan simulasi single-thread, membuat eksplorasi ruang desain skala besar menjadi layak.
- **Studi kasus**: Studi kasus H100 menunjukkan kegunaan simulator untuk eksplorasi desain mikroarsitektur, memungkinkan arsitek menganalisis hambatan dan mengevaluasi trade-off.
Diagram Mermaid berikut menggambarkan alur simulasi:
Hasil ini menegaskan bahwa FlashGPU-sim dapat menyimulasikan beban kerja AI modern secara akurat dan efisien, menjembatani kesenjangan yang ditinggalkan oleh simulator lama.
Kemajuan pesat kecerdasan buatan telah menciptakan lingkar co-design perangkat lunak-perangkat keras yang ketat, di mana GPU modern mengekspos fitur seperti perpindahan data asinkron, pipeline tensor core, dan sinkronisasi berbutir halus yang secara agresif dimanfaatkan oleh kernel berperforma tinggi. Pada saat yang sama, perilaku aplikasi yang muncul semakin memengaruhi generasi berikutnya dari desain perangkat keras. Namun, simulator open-source terbaru untuk GPU NVIDIA berfokus pada arsitektur dan tumpukan perangkat lunak dari sekitar enam tahun lalu. Akibatnya, simulator tersebut tidak dapat mendukung banyak kernel AI mutakhir yang dihasilkan oleh tumpukan kompilator modern, seperti Triton, atau memodelkan fitur perangkat keras yang menjadi sandarannya secara akurat. Sebagai hasilnya, arsitek kekurangan platform yang kredibel untuk menganalisis hambatan dalam flywheel ini atau mengevaluasi trade-off desain untuk sistem AI masa depan. Untuk menjembatani kesenjangan ini, penulis memperkenalkan FlashGPU-sim, simulator GPU open-source, execution-driven, cycle-accurate untuk beban kerja AI modern. FlashGPU-sim secara setia memodelkan fitur perangkat keras modern seperti perpindahan data asinkron, sinkronisasi berbutir halus, eksekusi tensor-core, dan distributed shared memory. Front-end ekstraksi Triton memungkinkan simulasi langsung operator AI yang dioptimalkan tanpa porting manual, sementara eksekusi multi-thread membuat co-design perangkat lunak-perangkat keras skala besar menjadi praktis. Pada 131 konfigurasi beban kerja di RTX 5090, H100, dan B200, FlashGPU-sim mencapai MAPE tingkat siklus 5,24%, sementara simulasi multi-thread mencapai percepatan 7,86x dengan 16 host thread. Studi kasus H100 lebih lanjut menunjukkan kegunaannya untuk eksplorasi desain mikroarsitektur.
FlashGPU-sim dirancang sebagai simulator execution-driven, cycle-accurate yang memodelkan fitur perangkat keras GPU modern yang utama. Simulator ini menggabungkan:
Mengapa penting
Pengenalan FlashGPU-sim menjawab kebutuhan kritis dalam komunitas sistem AI: platform yang kredibel untuk menganalisis hambatan dalam lingkar co-design perangkat lunak-perangkat keras dan mengevaluasi trade-off desain untuk sistem AI masa depan. Dengan mendukung tumpukan kompilator modern seperti Triton dan memodelkan fitur perangkat keras kontemporer, simulator ini memungkinkan arsitek mempelajari kernel AI mutakhir tanpa porting manual. MAPE 5,24% menunjukkan bahwa simulator ini cukup cycle-accurate untuk eksplorasi mikroarsitektur, sementara percepatan 7,86x dengan 16 thread membuatnya praktis untuk studi skala besar. Studi kasus H100 lebih lanjut memvalidasi kegunaannya. Namun, batasan dapat mencakup cakupan arsitektur yang didukung dan overhead front-end Triton. Pekerjaan selanjutnya dapat memperluas dukungan ke lebih banyak generasi GPU dan tumpukan kompilator tambahan. Secara keseluruhan, FlashGPU-sim merupakan langkah maju yang signifikan dalam memungkinkan simulasi GPU open-source yang ketat untuk beban kerja AI modern, mendorong inovasi dalam desain perangkat keras maupun perangkat lunak.
Siapa yang sebaiknya membaca
Praktisi dan peneliti ilmu komputer
Membuka konten member…