Editorial Ilmu Komputer & AI
Tinjauan Lingkup Aplikasi Kecerdasan Buatan dalam Penilaian Risiko Uji Klinis
Masalah inti
### Ruang Masalah
Uji klinis adalah salah satu upaya paling mahal dan rentan kegagalan dalam penelitian biomedis. Sponsor dan regulator harus terus-menerus memperkirakan tiga jenis risiko yang berbeda secara kualitatif: **risiko keselamatan** (apakah intervensi akan membahayakan peserta?), **risiko efikasi** (apakah efek pengobatan akan cukup besar untuk dideteksi?), dan **risiko operasional** (apakah uji coba akan merekrut, mempertahankan, dan maju melalui fasenya sesuai jadwal?). Secara historis, penilaian ini mengandalkan tinjauan ahli, statistik ringkasan, dan tolok ukur uji coba historis.
Teodoro dan rekan-rekannya membingkai kecerdasan buatan sebagai lapisan komputasi pemersatu di atas jenis-jenis risiko ini. Tinjauan lingkup mereka mencakup **142 studi yang diterbitkan antara tahun 2013 dan 2024**, dibagi menjadi prediksi risiko keselamatan (n = 55), efikasi (n = 46), dan operasional (n = 45). Pembagian tiga bagian yang hampir sama ini sendiri merupakan temuan: literatur AI tidak dimonopoli oleh satu kategori risiko pun, menunjukkan konvergensi metodologis yang nyata daripada satu kasus penggunaan dominan.
### Pembingkaian Konseptual
Secara formal, model risiko memetakan
Inovasi
### Distribusi Lintas Kategori Risiko
142 studi terbagi menjadi prediksi risiko **keselamatan (n = 55)**, **efikasi (n = 46)**, dan **operasional (n = 45)**. Dominasi keselamatan sederhana tetapi konsisten dengan taruhan regulasi deteksi kejadian merugikan, di mana biaya *false negative* adalah yang tertinggi.
### Keluarga Teknik
Tiga keluarga besar muncul:
1. **Pembelajaran mesin tradisional** — regresi, *tree ensembles*, dan metode kernel yang diterapkan pada fitur uji coba dan molekul terstruktur.
2. **Pembelajaran mendalam** — termasuk **jaringan saraf graf (graph neural networks)** untuk struktur molekuler dan relasional, serta **transformer** untuk input berbasis urutan dan teks berat seperti dokumen protokol dan publikasi.
3. **Pembelajaran mesin kausal** — digunakan secara khusus untuk estimasi efek pengobatan, di mana estimand bukanlah probabilitas melainkan kontras:
di mana dan menunjukkan hasil potensial di bawah perlakuan dan kontrol. ML kausal adalah formalisme alami untuk risiko efikasi karena memisahkan *prediksi* dari *intervensi*.
### Sumber Data
Input bersifat heterogen berdasarkan desain
Mengapa penting
### Menginterpretasikan Batas Atas AUROC
AUROC utama sebesar 96% mengundang optimisme berlebihan. Dalam pengaturan retrospektif, sumber tunggal, diskriminasi tinggi dapat mencerminkan keteraturan spesifik dataset — efek situs, konvensi pengkodean, kebocoran temporal — daripada sinyal yang dapat ditransfer. Identifikasi **bias seleksi** oleh tinjauan ini sebagai batasan yang berulang adalah tuas interpretatif utama: ketika kohort evaluasi tidak representatif dari populasi penyebaran, metrik diskriminasi melebih-lebihkan utilitas dunia nyata.
### Kesenjangan Validasi
Kelangkaan **studi prospektif** bisa dibilang merupakan temuan paling konsekuensial dari tinjauan ini. Evaluasi retrospektif tidak dapat menetapkan bahwa skor risiko mengubah perilaku pemantauan atau hasil uji coba. Pemantauan berbasis risiko adalah *intervensi* pada pelaksanaan uji coba; menunjukkan manfaat memerlukan bukti bahwa tindakan berdasarkan keluaran model meningkatkan keselamatan atau efisiensi relatif terhadap pemantauan seragam. Tidak ada hasil agregat dalam korpus ini yang menyelesaikan pertanyaan tersebut.
### Kualitas Data sebagai Kendala Struktural
Masalah kualitas data muncul di ketiga kategori risiko. Ini penting secara berbeda berdasarkan domain. Dalam prediksi keselamatan, pengkodean kejadian merugikan yang buruk secara langsung menurunkan validitas label. Dalam prediksi efikasi, heterogenitas protokol dan titik akhir merusak komparabilitas. Dalam prediksi operasional, data situs dan pendaftaran yang hilang atau tidak konsisten membatasi resolusi temporal yang diperlukan untuk peringatan dini.
### Perbedaan Kausal
Penyertaan pembelajaran mesin kausal untuk estimasi efek pengobatan secara konseptual penting. Model prediktif menjawab *apa yang akan terjadi*; model kausal menjawab *apa yang akan terjadi di bawah alternatif*. Hanya yang terakhir yang mendukung penalaran kontrafaktual yang diperlukan oleh keputusan regulasi dan *go/no-go*. Taksonomi tinjauan ini secara implisit membuat perbedaan ini terlihat dengan memisahkan prediksi risiko efikasi dari perkiraan hasil murni.
### Di Mana LLM Cocok
Munculnya LLM — 7 dari 33 studi pada tahun 2023 — menunjukkan bahwa bidang ini sedang berkonvergensi pada teks tidak terstruktur sebagai sinyal risiko kelas satu. Protokol, publikasi, dan dokumen regulasi mengkodekan akumulasi penilaian manusia tentang desain uji coba dan mode kegagalan. Apakah fitur yang berasal dari LLM meningkatkan estimasi risiko yang terkalibrasi, dibandingkan dengan hanya meningkatkan skor tolok ukur, masih terbuka.
### Implikasi Praktis
Klaim konstruktif tinjauan ini adalah bahwa penilaian risiko berbasis AI memiliki potensi besar untuk mengubah uji klinis, **terutama melalui kerangka kerja pemantauan berbasis risiko yang ditingkatkan**. Mewujudkan janji tersebut memerlukan pergeseran pusat gravitasi bidang dari diskriminasi pada tolok ukur retrospektif menuju validasi prospektif yang relevan dengan keputusan.
Siapa yang sebaiknya membaca
Membuka konten member…