Editorial Ilmu Komputer & AI
Prakiraan Deret Waktu Berbasis Prompt dengan Model Bahasa Besar
Masalah inti
Prakiraan deret waktu dengan pembelajaran mesin sangat penting di berbagai bidang, mulai dari perencanaan permintaan di ritel hingga analisis mobilitas manusia dalam sistem perkotaan. Model ensemble dan jaringan saraf adalah keluarga model yang paling umum digunakan untuk memprediksi nilai-nilai masa depan: arsitektur LSTM dan Transformer unggul dalam memodelkan pola temporal yang kompleks dan berjangka panjang, sementara Random Forest telah berulang kali menunjukkan kinerja yang kuat pada deret waktu univariat meskipun relatif sederhana.
Munculnya Model Bahasa Besar (LLM) membuka peluang baru dan sebagian besar belum tereksplorasi untuk prediksi deret waktu. Alih-alih melatih regressor khusus tugas, LLM dapat dikondisikan secara langsung pada riwayat yang diserialkan dan diminta untuk menghasilkan nilai-nilai berikutnya dalam bahasa alami atau terstruktur. Pertanyaan utama dari karya ini (Bastos, Freitas, Franco & Caminha, 2025) oleh karena itu bersifat empiris: seberapa baik kinerja LLM tujuan umum yang digerakkan oleh prompt relatif terhadap baseline yang sudah mapan?
Secara formal, diberikan deret yang diamati
Inovasi
Di seluruh 40 deret dan 65.940 unit waktu yang dievaluasi, peringkat ketiga pendekatan tersebut stabil tetapi bergantung pada domain: Gemini 1.5 PRO jelas mengungguli LSTM, namun tidak melampaui Random Forest di kedua domain.
| Perbandingan | Ritel | Mobilitas |
|---|---|---|
| Gemini 1.5 PRO vs. LSTM | ≈ keuntungan 4% untuk Gemini | ≈ keuntungan 6,5% untuk Gemini |
| Gemini 1.5 PRO vs. Random Forest | ≈ kekurangan 5,5% untuk Gemini | ≈ kekurangan 1% untuk Gemini |
**Melawan LSTM.** LLM berbasis prompt mengurangi SMAPE sekitar 4% di domain Ritel dan sekitar 6,5% di domain Mobilitas relatif terhadap jaringan berulang. Keuntungan Mobilitas adalah yang lebih besar dari keduanya, menunjukkan bahwa keuntungan LLM atas LSTM lebih jelas pada deret yang struktur temporalnya lebih sulit ditangkap oleh model berulang yang dilatih dari awal dengan data terbatas.
**Melawan Random Forest.** Baseline klasik masih memimpin. Gemini 1.5 PRO tertinggal dari Random Forest sekitar 5,5% di Ritel dan sekitar 1% di Mobilitas. Kesenjangan Mobilitas yang kecil — sekitar satu poin persentase — menunjukkan bahwa pada beberapa kelas deret, LLM sudah pada dasarnya setara dengan pembelajar univariat yang kua
Mengapa penting
Hasilnya menempatkan LLM sebagai teknologi prakiraan yang kompetitif tetapi belum dominan, dan bentuk perbandingannya lebih menarik daripada rata-rata utama.
**Mengapa LLM mengalahkan LSTM.** Model LSTM harus mempelajari struktur temporal dari data target saja, yang membuatnya sensitif terhadap panjang deret, volatilitas, dan pergeseran distribusi. LLM beku, sebaliknya, membawa prior yang telah dilatih secara luas tentang tren, magnitudo, dan pola berulang ke tugas dengan nol pembaruan gradien. Ketika riwayat yang tersedia pendek atau bising — kondisi umum dalam deret Mobilitas yang digunakan di sini — prior ini bertindak sebagai regularizer, yang konsisten dengan keuntungan 6,5% yang lebih besar yang diamati di domain tersebut.
**Mengapa Random Forest masih menang.** Random Forest tetap menjadi pembelajar univariat yang sangat kuat: ia tangguh terhadap outlier, membutuhkan penyetelan minimal, dan memodelkan hubungan tertinggal secara langsung. Kesenjangan 5,5% (Ritel) dan 1% (Mobilitas) menunjukkan bahwa prakiraan LLM berbasis prompt belum menyamai, dalam kasus rata-rata, baseline non-neural yang sudah mapan. Implikasi praktisnya adalah aturan keputusan daripada vonis:
**Kontribusi dan posisi.** Karya ini memberikan dua hal: (i) benchmark komparatif Gemini 1.5 PRO terhadap Random Forest dan LSTM pada 40 deret dan 65.940 unit waktu, dan (ii) templat prompt baru untuk prakiraan deret waktu yang menyediakan alat praktis untuk penelitian dan aplikasi di masa depan. Bersama-sama, keduanya menurunkan hambatan untuk mereproduksi dan memperluas eksperimen prakiraan berbasis LLM.
**Keterbatasan dan pekerjaan di masa depan.** Evaluasi mencakup dua domain (Ritel, Mobilitas) dan satu metrik kesalahan (SMAPE), terhadap satu LLM (Gemini 1.5 PRO) dan dua baseline. Delta yang dilaporkan bersifat perkiraan dan dirata-ratakan di seluruh set deret, sehingga varians per-deret tidak terselesaikan. Ekstensi alami mencakup cakupan domain yang lebih luas, metrik tambahan (misalnya, MAE, RMSE, MASE), LLM tambahan, ablasi templat prompt, dan arsitektur hibrida di mana LLM berfungsi sebagai anggota ensemble pelengkap daripada pengganti pembelajar yang sudah mapan.
Siapa yang sebaiknya membaca
Membuka konten member…