Editorial Ilmu Komputer & AI
Cnuas: Platform Emulasi Rack-scale AI/HPC Berbasis Software-Defined dan Kembar Fasilitas Pusat Data Hyperscale
Masalah inti
Inovasi
Makalah ini menyajikan hasil prototipe terbatas untuk platform inti dan ekstensinya. Prototipe ini menunjukkan kelayakan emulasi fungsional untuk infrastruktur AI/HPC rack-scale pada host komoditas. Hasil utamanya meliputi:
- Implementasi CnuasNIC yang berhasil sebagai adaptor RDMA yang terlihat oleh guest, memungkinkan komunikasi berbasis RDMA di lingkungan yang diemulasi.
- CnuasSwitch yang mendukung RoCEv2 dan InfiniBand native, menyediakan switch perangkat lunak hibrida yang dapat mengemulasi fabric jaringan.
- Fabric peer akselerator AI/ML (GPU) khusus yang memungkinkan studi interaksi akselerator, meskipun tumpukan perangkat lunak akselerator masih berupa prototipe penelitian awal.
- Manajemen rack berbasis OpenBMC dengan firmware catu daya dan baterai cadangan yang dapat dieksekusi melalui RS-485, menunjukkan emulasi pengendali manajemen.
- Antarmuka pengguna berbasis web yang memvisualisasikan rack, perangkat, dan interkoneksi, membantu pembangunan model mental tingkat sistem.
Hasilnya terbatas dalam arti berfokus pada kebenaran fungsional dan kompatibilitas antarmuka, bukan pencocokan performa. Platform ini ditujukan untuk eksperimen, pembelajaran, dan pengembangan peran
Mengapa penting
Platform Cnuas menjawab kesenjangan kritis dalam pengembangan perangkat lunak AI/HPC: kebutuhan akan infrastruktur yang mudah diakses dan fleksibel untuk eksperimen. Dengan menyediakan emulasi fungsional komponen rack-scale, platform ini menurunkan hambatan masuk bagi peneliti dan pengembang yang tidak memiliki akses ke perangkat keras yang langka dan mahal. Penggunaan spesifikasi OCP Open Rack v3 memastikan emulasi selaras dengan standar industri, sehingga relevan untuk penerapan di dunia nyata.
Switch perangkat lunak hibrida yang mendukung RoCEv2 dan InfiniBand native merupakan kontribusi penting, karena memungkinkan pengembang bereksperimen dengan berbagai protokol jaringan tanpa perangkat keras. Adaptor RDMA yang terlihat oleh guest (CnuasNIC) memungkinkan semantik RDMA dipelajari dalam perangkat lunak, yang esensial untuk mengembangkan pustaka komunikasi berperforma tinggi. Fabric peer GPU, meskipun masih prototipe awal, membuka jalan untuk mempelajari interaksi akselerator dan model pemrograman.
Manajemen rack berbasis OpenBMC dengan firmware yang dapat dieksekusi melalui RS-485 menyediakan antarmuka manajemen yang realistis, memungkinkan pengembang menguji perangkat lunak manajemen dan interaksi firmware. UI berbasis web meningkatkan pengalaman pengembang dengan memvisualisasikan interkoneksi yang kompleks, yang dapat krusial untuk memahami dependensi tingkat sistem.
Namun, platform ini memiliki batasan. Platform ini tidak bertujuan menyamai karakteristik performa, sehingga tidak cocok untuk benchmarking performa atau studi yang sensitif terhadap latensi. Tumpukan perangkat lunak akselerator masih belum matang, dan pemodelan fasilitas dengan OpenUSD bersifat eksploratif. Batasan ini menunjukkan bahwa Cnuas paling cocok untuk prototipe fungsional, pendidikan, dan pengembangan tahap awal.
Makalah ini memposisikan Cnuas sebagai dasar kolaborasi komunitas. Dengan membuka sumber platform ini, penulis mengundang kontribusi untuk memperluas kemampuannya, meningkatkan fidelitas, dan berintegrasi dengan alat lain. Pendekatan kolaboratif ini dapat mempercepat inovasi dalam pengembangan perangkat lunak AI/HPC dengan menyediakan testbed bersama yang mudah diakses.
Dalam konteks yang lebih luas, Cnuas selaras dengan tren infrastruktur berbasis software-defined dan digital twin. Konsep "facility twin" menggunakan OpenUSD mengisyaratkan integrasi di masa depan dengan teknologi digital twin untuk desain dan operasi pusat data. Meskipun masih eksploratif, arah ini dapat mengarah pada lingkungan emulasi yang lebih komprehensif yang mencakup tidak hanya peralatan TI tetapi juga daya, pendinginan, dan tata letak fisik.
Secara keseluruhan, Cnuas merupakan kontribusi berharga bagi komunitas AI/HPC, menawarkan platform open-source yang fleksibel untuk emulasi rack-scale. Fokusnya pada emulasi fungsional dan kolaborasi komunitas menjadikannya alat yang menjanjikan untuk penelitian, pendidikan, dan pengembangan tahap awal.
Siapa yang sebaiknya membaca
Membuka konten member…