Editorial Ilmu Komputer & AI
Potensi Model Bahasa Besar dalam Pelayanan Kesehatan: Studi Delphi
Masalah inti
Model bahasa besar (LLM) adalah model pembelajaran mesin yang diinferensi dari data teks yang menangkap pola halus penggunaan bahasa dalam konteks. LLM modern dibangun di atas arsitektur jaringan saraf yang menggabungkan metode *transformer*, yang memungkinkan model untuk menghubungkan kata-kata melalui perhatian pada beberapa kata dalam urutan teks. Mekanisme inti dari arsitektur ini adalah *scaled dot-product attention*:
di mana , , dan adalah matriks *query*, *key*, dan *value* dan adalah dimensi vektor *key* yang digunakan untuk penskalaan. LLM telah terbukti sangat efektif untuk berbagai tugas pemrosesan bahasa alami (NLP), termasuk tugas klasifikasi dan ekstraksi informasi, serta aplikasi generatif.
Namun, kemampuan teknis tidak sama dengan kesiapan klinis. Tujuan yang dinyatakan dari studi ini adalah untuk mengumpulkan opini peneliti tentang bagaimana LLM dapat memengaruhi pelayanan kesehatan dan tentang kekuatan, kelemahan, peluang, dan ancaman (SWOT) penggunaan LLM dalam pelayanan kesehatan. Daripada membandingkan keluaran model, para penulis mensurvei komunita
Inovasi
Kesepakatan dicapai pada 103 item terkait kasus penggunaan, manfaat, risiko, keandalan, aspek adopsi, dan masa depan LLM dalam pelayanan kesehatan.
**Kasus penggunaan.** Para peserta menawarkan beberapa kasus penggunaan, termasuk mendukung tugas klinis, tugas dokumentasi, serta penelitian dan pendidikan medis. Mereka sepakat bahwa sistem berbasis LLM akan bertindak sebagai asisten kesehatan untuk edukasi pasien.
**Manfaat.** Manfaat yang disepakati meliputi peningkatan efisiensi dalam penanganan dan ekstraksi data, peningkatan otomatisasi proses, peningkatan kualitas layanan kesehatan dan hasil kesehatan secara keseluruhan, penyediaan perawatan yang dipersonalisasi, percepatan proses diagnosis dan pengobatan, serta peningkatan interaksi antara pasien dan profesional kesehatan.
**Risiko terhadap pelayanan kesehatan secara umum.** Secara total, 5 risiko diidentifikasi: pelanggaran keamanan siber, potensi misinformasi pasien, masalah etika, kemungkinan pengambilan keputusan yang bias, dan risiko yang terkait dengan komunikasi yang tidak akurat. Secara terpisah, kepercayaan berlebihan pada sistem berbasis LLM diakui sebagai risiko bagi profesi medis itu sendiri.
**Risiko privasi.**
Mengapa penting
Kumpulan konsensus ini tidak terbaca sebagai perkiraan teknologi melainkan sebagai spesifikasi kondisi. Para peserta mengelompokkan ekspektasi mereka di sekitar sumbu yang sama: LLM dipandang mampu menyerap beban dokumentasi, mempercepat diagnosis dan pengobatan, serta mempersonalisasi perawatan, namun risiko yang disepakati hampir satu-satu memetakan batas kepercayaan yang dilintasi oleh sistem tersebut. Pelanggaran keamanan siber, layanan *cloud* yang tidak diatur, pelanggaran kerahasiaan, dan kerentanan dalam penyimpanan dan komunikasi data semuanya menunjuk pada masalah arsitektur sebelum menunjuk pada masalah pemodelan. Dalam istilah taksonomi, diskusi ini mencakup arsitektur (bagaimana LLM tertanam dalam alur kerja klinis), keamanan siber (tata kelola akses dan penyalahgunaan), jaringan (tempat inferensi dan *hosting* terjadi), dan kriptografi (bagaimana data pasien dilindungi saat tidak digunakan dan dalam transit).
Risiko yang mencapai konsensus paling baik dipahami sebagai risiko residual dari penerapan yang bermanfaat:
Dua fitur hasil patut ditekankan. Pertama, kepercayaan berlebihan pada sistem berbasis LLM diakui sebagai risiko bagi profesi medis, berbeda dari lima risiko terhadap pelayanan kesehatan secara umum; ini membingkai ketergantungan berlebihan sebagai bahaya profesional dan budaya, bukan hanya mode kegagalan teknis. Kedua, risiko privasi yang diidentifikasi sebagian besar bersifat infrastruktur daripada algoritmik, menunjukkan bahwa layanan *cloud* yang tidak diatur, akses yang tidak tepat ke data pasien, dan kerentanan penyimpanan dan komunikasi akan menentukan apakah efisiensi dan peningkatan kualitas yang dijanjikan dapat direalisasikan dalam praktik. Para penulis memposisikan keandalan, aspek adopsi, dan regulasi sebagai kategori konsensus kelas satu di samping kasus penggunaan dan manfaat.
Siapa yang sebaiknya membaca
Membuka konten member…