Larch: Optimasi Kueri Terpelajari untuk Predikat Semantik

Kerangka kerja untuk mengoptimalkan eksekusi filter semantik pada kueri AI SQL, menurunkan biaya token 3x-19x

Fuheng Zhao; Pawel Liskowski; Zihan Li; Benjamin Han; Puxuan Yu; Varich Boonsanong; Dimitris Tsirogiannis; Anupam Datta· 2026· DOI 10.48550/arXiv.2606.07923

Masalah inti

Integrasi Large Language Models (LLMs) ke dalam sistem basis data telah memungkinkan operator semantik yang memungkinkan kueri analitis atas data tak terstruktur seperti teks, gambar, dan video. Namun, operator semantik ini menimbulkan biaya inferensi dan latensi yang tinggi, sehingga kueri AI SQL sulit diterapkan pada dataset berskala besar. Sifat semantiknya membuat mesin basis data memperlakukannya sebagai kotak hitam, sehingga menghambat optimasi. Makalah ini memperkenalkan Larch, sebuah kerangka kerja untuk mengoptimalkan eksekusi filter semantik pada kueri AI SQL. Larch terinspirasi oleh dua pengamatan kunci: (i) latensi tinggi operator semantik menyisakan ruang signifikan untuk teknik optimasi runtime yang berat secara komputasi, dan (ii) data tak terstruktur biasanya disertai informasi semantik dalam bentuk embedding, yang memungkinkan perbandingan semantik yang efisien antara prompt AI_FILTER dan nilai data. Berdasarkan pengamatan tersebut, penulis menyajikan dua varian Larch: Larch-A2C dan Larch-Sel.

Inovasi

Penulis mengevaluasi Larch pada beragam dataset dunia nyata dan beban kerja sintetis yang komprehensif. Kedua varian Larch secara konsisten mengungguli teknik optimasi filter semantik yang ada dalam hal penggunaan token. Secara spesifik, Larch menurunkan overhead biaya token total sebesar 3x hingga 19x dibandingkan Palimpzest dan Quest. Hasilnya menunjukkan bahwa Larch tangguh pada beragam beban kerja, secara efektif mengoptimalkan eksekusi filter semantik. Eksperimen mencakup berbagai jenis filter, modalitas data, dan kompleksitas kueri, menunjukkan bahwa Larch beradaptasi dengan berbagai skenario. Pengurangan biaya token disebabkan oleh urutan evaluasi terpelajari yang memprioritaskan filter dengan selektivitas tinggi dan biaya rendah, meminimalkan panggilan LLM yang mahal.

Integrasi Large Language Models (LLMs) ke dalam sistem basis data telah memungkinkan operator semantik yang memungkinkan kueri analitis atas data tak terstruktur seperti teks, gambar, dan video. Namun, operator semantik ini menimbulkan biaya inferensi dan latensi yang tinggi, sehingga kueri AI SQL sulit diterapkan pada dataset berskala besar. Sifat semantiknya membuat mesin basis data memperlakukannya sebagai kotak hitam, sehingga menghambat optimasi. Makalah ini memperkenalkan Larch, sebuah kerangka kerja untuk mengoptimalkan eksekusi filter semantik pada kueri AI SQL. Larch terinspirasi oleh dua pengamatan kunci: (i) latensi tinggi operator semantik menyisakan ruang signifikan untuk teknik optimasi runtime yang berat secara komputasi, dan (ii) data tak terstruktur biasanya disertai informasi semantik dalam bentuk embedding, yang memungkinkan perbandingan semantik yang efisien antara prompt AI_FILTER dan nilai data. Berdasarkan pengamatan tersebut, penulis menyajikan dua varian Larch: Larch-A2C dan Larch-Sel.

Larch-A2C mengodekan pohon ekspresi filter semantik arbitrer menggunakan Gated Graph Neural Network (GGNN) yang diperkaya embedding dan merumuskan urutan evaluasi filter sebagai proses keputusan Markov (MDP). GGNN memproses pohon ekspresi, di mana setiap node diperkaya dengan embedding prompt dan nilai data. Status MDP merepresentasikan status evaluasi saat ini, dan aksi berkaitan dengan pemilihan filter berikutnya yang akan dievaluasi. Agen pembelajaran penguatan dilatih untuk meminimalkan biaya token yang diharapkan.

Mengapa penting

Wawasan kunci di balik Larch adalah bahwa filter semantik bukanlah kotak hitam; selektivitasnya dapat diprediksi menggunakan embedding dan model terpelajari. Dengan menyusun ulang evaluasi filter, Larch secara signifikan mengurangi jumlah pemanggilan LLM, sehingga menghasilkan penghematan biaya yang besar. Larch-A2C dan Larch-Sel menawarkan pendekatan yang saling melengkapi: Larch-A2C menggunakan pembelajaran penguatan untuk menangani pohon ekspresi yang kompleks, sedangkan Larch-Sel menggunakan pembelajaran terawasi dan pemrograman dinamis untuk optimasi per baris yang lebih sederhana. Ketangguhan kerangka kerja ini pada berbagai beban kerja menunjukkan bahwa ia dapat diintegrasikan ke dalam berbagai sistem basis data. Namun, makalah ini tidak membahas potensi overhead inferensi model untuk prediksi selektivitas, yang bisa menjadi trade-off. Pekerjaan selanjutnya dapat mengeksplorasi peralihan adaptif antar varian berdasarkan karakteristik beban kerja. Secara keseluruhan, Larch merupakan langkah signifikan menuju kueri AI SQL yang praktis pada skala besar.

Siapa yang sebaiknya membaca

Praktisi dan peneliti ilmu komputer

Membuka konten member…