Editorial ilmu komputer
Persuasi yang Direkayasa: Mengevaluasi Pretext yang Dipersonalisasi dalam Spear Phishing yang Dihasilkan LLM
Masalah inti
Large language model (LLM) kini dapat menyisipkan detail tempat kerja ke dalam pretext phishing dengan biaya rendah, sehingga spear phishing menjadi lebih skalabel daripada sebelumnya. Namun, penulis berargumen bahwa detail semacam itu bermata dua: detail tersebut dapat mendukung atau melemahkan kredibilitas pesan. Pertanyaan penelitian utamanya adalah apakah personalisasi sekadar soal menambahkan lebih banyak detail, atau apakah hal itu bergantung pada kecocokan antara pretext dan konteks kerja penerima.
Studi ini merekrut 180 pekerja dewasa di AS untuk mengevaluasi email phishing simulasi yang dihasilkan AI dalam survei terbuka. Email tersebut memakai empat tingkat informasi yang kumulatif:
- **Tingkat 1:** hanya konteks tempat kerja
- **Tingkat 2:** nama dan jabatan penerima
- **Tingkat 3:** tanggung jawab pekerjaan
- **Tingkat 4:** konteks rekan kerja/proyek bersama
Partisipan menilai daya meyakinkan setiap pesan dari 0 hingga 100, memilih satu tindakan yang dinyatakan (membuka tautan, menyelidiki, menghapus, atau melaporkan), dan menjelaskan mengapa pesan dengan nilai tertinggi dan terendah menonjol. Analisis didasarkan pada 1.436 evaluasi yang valid.
Inovasi
Dari 1.436 evaluasi yang valid, daya meyakinkan meningkat sebesar 2,40 poin per tingkat personalisasi dalam analisis sensitivitas. Peluang menyatakan niat mengklik meningkat sebesar 28% per tingkat. Di antara partisipan yang tidak menyatakan niat mengklik, penyelidikan tetap umum, pelaporan menurun, dan penghapusan meningkat.
Analisis deskriptif post-hoc menemukan nilai dan niat mengklik yang lebih tinggi untuk pesan dari orang bernama yang menyebut rekan kerja yang diberikan daripada pesan dari departemen atau entitas. Hal ini menunjukkan bahwa sumber pesan dan kekhususan rujukan rekan kerja berpengaruh di luar sekadar keberadaan personalisasi.
Diagram Mermaid berikut merangkum pergeseran perilaku yang teramati di seluruh tingkat personalisasi:
Pengodean kualitatif menunjukkan mengapa detail t
Mengapa penting
Hasil ini menyoroti bahwa personalisasi bukan sekadar soal menambahkan lebih banyak detail: hal itu bergantung pada apakah pretext cocok dengan konteks kerja penerima. Detail yang selaras dengan peran dan rutinitas penerima meningkatkan kredibilitas, sedangkan detail yang tidak cocok, kabur, atau tidak sesuai kanal memicu kecurigaan. Perbedaan ini memiliki implikasi penting bagi pelatihan keamanan siber di tempat kerja.
Temuan bahwa peluang niat mengklik naik sebesar 28% per tingkat personalisasi menegaskan risiko yang ditimbulkan oleh spear phishing yang dihasilkan LLM. Namun, penurunan pelaporan dan peningkatan penghapusan di antara non-clicker menunjukkan bahwa sebagian perilaku defensif mungkin bergeser alih-alih hilang. Pelatihan karena itu harus berfokus tidak hanya pada mengenali personalisasi tetapi juga pada mengevaluasi kecocokan kontekstual.
Penulis mengusulkan agar organisasi dapat memakai wawasan ini untuk merancang intervensi pelatihan yang lebih efektif. Misalnya, karyawan dapat diajari untuk memverifikasi apakah detail pesan cocok dengan tanggung jawab aktual dan norma komunikasi mereka. Studi ini juga menyerukan penelitian lebih lanjut tentang bagaimana berbagai jenis personalisasi berinteraksi dengan faktor individu dan organisasi.
Secara ringkas, studi ini memberikan bukti empiris bahwa efektivitas phishing yang dipersonalisasi bergantung pada kongruensi kontekstual, bukan sekadar pada jumlah informasi pribadi yang disertakan.
Siapa yang sebaiknya membaca
Membuka konten member…