Siapa Butuh DRAM? Kita Punya Fiber

Arsitektur memori delay-line siaran optik paralel-data untuk bobot model AI yang immutable

Hannah Atmer; Yuan Yao; Thiemo Voigt; Stefanos Kaxiras· 2026· DOI 10.48550/arXiv.2607.08407

Masalah inti

Pertumbuhan pesat AI generatif telah menciptakan permintaan memori berperforma tinggi yang belum pernah terjadi sebelumnya, menekan ketersediaan DRAM dan harga kontrak. Ekspansi pusat data hyperscale kini mengonsumsi sebagian signifikan dari output DRAM global, memperburuk tekanan pasokan. Karya ini mengusulkan **Fiber Memory**, arsitektur baru yang memanfaatkan ulang serat optik di pusat data hyperscale sebagai memori delay-line resirkulasi aktif untuk data immutable—khususnya bobot large language model (LLM). Wawasan intinya adalah data immutable tidak perlu disimpan di DRAM yang mahal; sebagai gantinya, data dapat disirkulasikan terus-menerus dalam serat optik, memanfaatkan rugi rendah dan bandwidth tinggi yang melekat pada serat. Penulis menyajikan arsitektur memori delay-line siaran optik paralel-data yang memperhitungkan realitas fisik serat, mencakup serat multi-core termultipleks divisi ruang, antarmuka tap-and-amplify optik pasif, co-packaged optics, dan regenerasi all-optical regional. Evaluasi studi kasus menunjukkan Fiber Memory dapat menghapus penyimpanan bobot redundan di 10.000 akselerator AI dan mengurangi energi pengiriman bobot lebih dari 70% dibanding konfigurasi

Evaluasi studi kasus menunjukkan Fiber Memory dapat menghapus penyimpanan bobot redundan di 10.000 akselerator AI. Dalam konfigurasi HBM3e tradisional, setiap akselerator menyimpan salinan penuh bobot model, menyebabkan duplikasi masif. Fiber Memory, sebaliknya, menyimpan satu salinan bobot dalam delay line optik dan menyiarkannya ke semua akselerator, menghapus redundansi. Lebih lanjut, energi yang dibutuhkan untuk pengiriman bobot berkurang lebih dari 70% dibanding HBM3e. Pengurangan ini berasal dari energi per bit yang lebih rendah pada transmisi optik melalui serat dibanding akses DRAM elektrik dan penghapusan pembacaan DRAM berulang. Penulis juga mencatat arsitektur ini memperhitungkan realitas fisik serat, seperti rugi dan dispersi, melalui penggunaan amplifikasi dan regenerasi optik. Hasilnya menunjukkan Fiber Memory dapat secara signifikan meringankan tekanan DRAM di pusat data hyperscale, memungkinkan pelatihan dan inferensi AI yang lebih berkelanjutan dan hemat biaya. Evaluasi tidak memberikan nilai numerik spesifik untuk kapasitas penyimpanan atau latensi, tetapi klaim kualitatif didukung oleh desain arsitektur dan pemodelan energi.

Pertumbuhan pesat AI generatif telah menciptakan permintaan memori berperforma tinggi yang belum pernah terjadi sebelumnya, menekan ketersediaan DRAM dan harga kontrak. Ekspansi pusat data hyperscale kini mengonsumsi sebagian signifikan dari output DRAM global, memperburuk tekanan pasokan. Karya ini mengusulkan **Fiber Memory**, arsitektur baru yang memanfaatkan ulang serat optik di pusat data hyperscale sebagai memori delay-line resirkulasi aktif untuk data immutable—khususnya bobot large language model (LLM). Wawasan intinya adalah data immutable tidak perlu disimpan di DRAM yang mahal; sebagai gantinya, data dapat disirkulasikan terus-menerus dalam serat optik, memanfaatkan rugi rendah dan bandwidth tinggi yang melekat pada serat. Penulis menyajikan arsitektur memori delay-line siaran optik paralel-data yang memperhitungkan realitas fisik serat, mencakup serat multi-core termultipleks divisi ruang, antarmuka tap-and-amplify optik pasif, co-packaged optics, dan regenerasi all-optical regional. Evaluasi studi kasus menunjukkan Fiber Memory dapat menghapus penyimpanan bobot redundan di 10.000 akselerator AI dan mengurangi energi pengiriman bobot lebih dari 70% dibanding konfigurasi HBM3e tradisional.

Arsitektur Fiber Memory yang diusulkan dirancang sebagai memori delay-line siaran optik paralel-data. Prinsip dasarnya adalah menyimpan data immutable sebagai sinyal optik yang bersirkulasi dalam loop serat. Panjang delay line menentukan kapasitas penyimpanan, sedangkan laju data dan format modulasi menentukan bandwidth. Untuk mencapai kapasitas praktis, arsitektur ini menggunakan space-division multiplexing (SDM) dengan serat multi-core (MCF), di mana setiap core membawa aliran data independen. Antarmuka tap-and-amplify optik pasif memungkinkan beberapa akselerator membaca data yang bersirkulasi tanpa mengganggu loop. Co-packaged optics (CPO) mengintegrasikan transceiver optik langsung dengan akselerator, mengurangi overhead interkoneksi elektrik. Regenerasi all-optical regional secara berkala memperkuat dan membentuk ulang sinyal optik untuk mengompensasi rugi dan dispersi serat, memungkinkan resirkulasi jarak jauh. Penulis memodelkan konsumsi energi dan efisiensi penyimpanan sistem, membandingkannya dengan konfigurasi HBM3e tradisional. Parameter kunci meliputi jumlah akselerator (10.000), laju data per core, panjang serat, dan kebutuhan amplifikasi. Evaluasi berfokus pada energi pengiriman bobot dan penghapusan penyimpanan redundan. Arsitektur dianalisis untuk kemampuannya menyiarkan bobot ke semua akselerator secara simultan, memanfaatkan sifat siaran yang melekat pada serat optik.

Arsitektur Fiber Memory menghadirkan pergeseran paradigma dalam hierarki memori untuk beban kerja AI. Dengan memanfaatkan serat optik sebagai media penyimpanan aktif, arsitektur ini menantang ketergantungan konvensional pada DRAM untuk data immutable. Penggunaan serat multi-core termultipleks divisi ruang dan co-packaged optics sejalan dengan tren yang muncul dalam interkoneksi pusat data, menunjukkan kelayakan. Namun, beberapa tantangan masih ada. Pendekatan delay-line resirkulasi memperkenalkan latensi yang proporsional dengan panjang serat, yang mungkin dapat diterima untuk siaran bobot tetapi tidak untuk operasi yang sensitif terhadap latensi. Kebutuhan regenerasi all-optical menambah kompleksitas dan biaya. Penulis tidak membahas bagaimana bobot awalnya dimuat ke dalam serat atau bagaimana pembaruan (misalnya, fine-tuning) ditangani, mengingat data bersifat immutable. Kekhawatiran keamanan dan keandalan, seperti degradasi sinyal atau penyadapan, juga tidak dibahas. Meskipun ada pertanyaan terbuka ini, potensi untuk mengurangi ketergantungan DRAM dan konsumsi energi lebih dari 70% sangat menarik. Pekerjaan mendatang dapat mengeksplorasi arsitektur hibrida di mana Fiber Memory menangani bobot immutable sementara DRAM mengelola data mutable. Kandidat taksonomi (Architecture, Cybersecurity, Network, Cryptography) menyoroti sifat interdisipliner penelitian ini, meskipun makalah ini terutama berfokus pada aspek arsitektur dan jaringan.

Praktisi dan peneliti ilmu komputer

Membuka konten member…