Dari Bahasa Alami ke PromQL: Kerangka Berbasis Katalog dengan Resolusi Temporal Dinamis untuk Observabilitas Cloud-Native

Pipeline berbasis katalog yang menerjemahkan bahasa alami menjadi kueri PromQL yang dapat dieksekusi, dengan resolusi temporal dinamis dan integrasi MCP, diterapkan pada klaster Kubernetes produksi untuk beban kerja inferensi AI.

Twinkll Sisodia· 2026· DOI 10.48550/arXiv.2604.13048

Masalah inti

Platform cloud-native modern mengekspos ribuan metrik time series melalui sistem seperti Prometheus, namun merumuskan kueri yang benar dalam bahasa khusus domain seperti PromQL tetap menjadi hambatan signifikan bagi platform engineer dan tim site reliability. Makalah ini menjawab kesenjangan antara maksud manusia dan data observabilitas dengan menyajikan kerangka berbasis katalog yang menerjemahkan pertanyaan bahasa alami menjadi kueri PromQL yang dapat dieksekusi. Penulis mengidentifikasi tiga kontribusi utama: (1) katalog metrik hibrida yang menggabungkan basis terkurasi statis sekitar 2.000 metrik dengan penemuan runtime sinyal spesifik perangkat keras di berbagai vendor GPU, (2) pipeline kueri bertahap dengan klasifikasi maksud, perutean metrik berbasis kategori, dan penilaian semantik multi-dimensi, dan (3) mekanisme resolusi temporal dinamis yang menafsirkan beragam ekspresi waktu bahasa alami dan memetakannya ke sintaks durasi PromQL yang sesuai. Kerangka ini terintegrasi dengan Model Context Protocol (MCP) untuk memungkinkan interaksi LLM yang diperkaya alat di berbagai penyedia. Sistem ini telah diterapkan pada klaster Kubernetes produksi yang mengelola beban kerja inferen

Pendekatan berbasis katalog mencapai penemuan metrik di bawah satu detik melalui indeks kategori yang telah dihitung sebelumnya. Pipeline penuh selesai dalam sekitar 1,1 detik melalui jalur katalog. Sistem ini telah diterapkan pada klaster Kubernetes produksi yang mengelola beban kerja inferensi AI, di mana sistem mendukung kueri bahasa alami pada sekitar 2.000 metrik yang mencakup kesehatan klaster, pemanfaatan GPU, dan kinerja penyajian model. Penulis melaporkan bahwa katalog hibrida, yang menggabungkan kurasi statis dengan penemuan runtime, secara efektif menangani sinyal spesifik perangkat keras di berbagai vendor GPU. Integrasi dengan MCP memungkinkan interaksi LLM yang diperkaya alat di berbagai penyedia, meningkatkan fleksibilitas dan penerapan kerangka ini. Meskipun metrik akurasi spesifik tidak disediakan dalam abstrak, penerapan pada klaster produksi menunjukkan kelayakan praktis dan kinerja dalam batas latensi yang dapat diterima untuk tugas observabilitas interaktif.

Platform cloud-native modern mengekspos ribuan metrik time series melalui sistem seperti Prometheus, namun merumuskan kueri yang benar dalam bahasa khusus domain seperti PromQL tetap menjadi hambatan signifikan bagi platform engineer dan tim site reliability. Makalah ini menjawab kesenjangan antara maksud manusia dan data observabilitas dengan menyajikan kerangka berbasis katalog yang menerjemahkan pertanyaan bahasa alami menjadi kueri PromQL yang dapat dieksekusi. Penulis mengidentifikasi tiga kontribusi utama: (1) katalog metrik hibrida yang menggabungkan basis terkurasi statis sekitar 2.000 metrik dengan penemuan runtime sinyal spesifik perangkat keras di berbagai vendor GPU, (2) pipeline kueri bertahap dengan klasifikasi maksud, perutean metrik berbasis kategori, dan penilaian semantik multi-dimensi, dan (3) mekanisme resolusi temporal dinamis yang menafsirkan beragam ekspresi waktu bahasa alami dan memetakannya ke sintaks durasi PromQL yang sesuai. Kerangka ini terintegrasi dengan Model Context Protocol (MCP) untuk memungkinkan interaksi LLM yang diperkaya alat di berbagai penyedia. Sistem ini telah diterapkan pada klaster Kubernetes produksi yang mengelola beban kerja inferensi AI, mendukung kueri bahasa alami pada sekitar 2.000 metrik yang mencakup kesehatan klaster, pemanfaatan GPU, dan kinerja penyajian model.

Kerangka yang diusulkan terdiri dari tiga komponen inti: katalog metrik hibrida, pipeline kueri bertahap, dan mekanisme resolusi temporal dinamis. Katalog metrik hibrida menggabungkan basis terkurasi statis sekitar 2.000 metrik dengan penemuan runtime sinyal spesifik perangkat keras di berbagai vendor GPU. Katalog ini diindeks oleh indeks kategori yang telah dihitung sebelumnya untuk memungkinkan penemuan metrik di bawah satu detik. Pipeline kueri bertahap mencakup klasifikasi maksud, perutean metrik berbasis kategori, dan penilaian semantik multi-dimensi. Klasifikasi maksud menentukan jenis kueri (misalnya, agregasi, perbandingan, analisis tren), sedangkan perutean berbasis kategori mengarahkan kueri ke kategori metrik yang relevan. Penilaian semantik multi-dimensi memberi peringkat metrik kandidat berdasarkan kemiripan semantik dengan pertanyaan bahasa alami. Mekanisme resolusi temporal dinamis menafsirkan ekspresi waktu bahasa alami (misalnya, "5 menit terakhir", "kemarin") dan memetakannya ke sintaks durasi PromQL. Kerangka ini terintegrasi dengan Model Context Protocol (MCP) untuk memungkinkan interaksi LLM yang diperkaya alat di berbagai penyedia. Pipeline dapat direpresentasikan sebagai berikut:

Kerangka ini menjawab hambatan kritis dalam observabilitas cloud-native: kompleksitas PromQL bagi pengguna non-ahli. Dengan memanfaatkan pendekatan berbasis katalog, sistem mengurangi beban kognitif pada platform engineer dan SRE, memungkinkan mereka mengueri metrik menggunakan bahasa alami. Kombinasi elemen statis dan dinamis dalam katalog hibrida memastikan cakupan metrik umum maupun khusus, seperti sinyal spesifik GPU. Pipeline bertahap dengan klasifikasi maksud dan penilaian semantik meningkatkan relevansi kueri yang dihasilkan. Mekanisme resolusi temporal dinamis menangani ambiguitas ekspresi waktu bahasa alami, yang penting untuk pembuatan kueri yang akurat. Integrasi dengan MCP memfasilitasi interoperabilitas dengan berbagai penyedia LLM, membuat kerangka ini dapat diadaptasi ke berbagai lingkungan. Penerapan pada klaster Kubernetes produksi menunjukkan ketangguhan dan skalabilitas sistem. Namun, makalah ini tidak menyediakan metrik evaluasi terperinci seperti akurasi kueri atau kepuasan pengguna, yang dapat menjadi area untuk pekerjaan selanjutnya. Selain itu, ketergantungan pada katalog terkurasi 2.000 metrik mungkin memerlukan pemeliharaan saat metrik baru diperkenalkan. Secara keseluruhan, kerangka ini merupakan langkah signifikan menuju demokratisasi akses data observabilitas melalui antarmuka bahasa alami.

Praktisi dan peneliti ilmu komputer

Membuka konten member…