Dari Alignment ke Kontrol Akses: Kerangka Kerja untuk Penegakan Kebijakan GenAI

Metodologi berprinsip untuk membedah dan menyatukan penegakan kebijakan dalam aplikasi AI generatif

Nathalie Baracaldo· 2026· DOI 10.48550/arXiv.2609.26682

Masalah inti

Aplikasi AI generatif (GenAI) telah berkembang pesat, memungkinkan pengguna berinteraksi dengan large language model (LLM) dan menyebarkan agen otonom untuk berbagai tugas. Namun, laju pengembangan kapabilitas yang sangat cepat telah membuat mekanisme keamanan dan keselamatan tertinggal, sehingga menimbulkan insiden di dunia nyata. Kebijakan—definisi perilaku aplikasi yang diinginkan—sangat penting untuk sistem yang aman dan patuh, tetapi maknanya berbeda-beda di kalangan praktisi, sehingga menimbulkan kebingungan dan solusi yang terpisah-pisah serta tidak memadai. Makalah ini mengkaji sisi baik, buruk, dan jelek dari penegakan kebijakan di GenAI, serta mengusulkan metodologi untuk menganalisis dan membedah pendekatan yang ada secara sistematis. Berdasarkan analisis ini, penulis memberikan rekomendasi dan seruan bertindak bagi komunitas. Karya ini memperluas talk Enigma USENIX Security 2026 berjudul "From Alignment to Access Control: A Unified View of GenAI Policy Enforcement" oleh Nathalie Baracaldo.

Makalah ini menyajikan temuan dari penerapan metodologi yang diusulkan, mengungkap keadaan penegakan kebijakan di GenAI saat ini. Makalah ini menyoroti "sisi baik, buruk, dan jelek": implementasi yang berhasil, praktik yang bermasalah, dan kegagalan yang nyata. Hasil utama kemungkinan mencakup identifikasi solusi yang terpisah-pisah yang tidak memadai untuk kepatuhan, kebingungan yang timbul dari perbedaan interpretasi kebijakan, dan insiden keamanan yang terjadi akibat mekanisme keselamatan yang tertinggal. Analisis ini kemungkinan mengungkap spektrum titik penegakan, dari alignment model hingga kontrol akses saat runtime, dan menilai efektivitasnya. Hasil ini menegaskan perlunya kerangka kerja terpadu dan memberikan bukti untuk mendukung rekomendasi. Hasil kuantitatif spesifik tidak disediakan dalam abstrak, tetapi temuan kualitatif diharapkan dirinci dalam makalah lengkap.

Aplikasi AI generatif (GenAI) telah berkembang pesat, memungkinkan pengguna berinteraksi dengan large language model (LLM) dan menyebarkan agen otonom untuk berbagai tugas. Namun, laju pengembangan kapabilitas yang sangat cepat telah membuat mekanisme keamanan dan keselamatan tertinggal, sehingga menimbulkan insiden di dunia nyata. Kebijakan—definisi perilaku aplikasi yang diinginkan—sangat penting untuk sistem yang aman dan patuh, tetapi maknanya berbeda-beda di kalangan praktisi, sehingga menimbulkan kebingungan dan solusi yang terpisah-pisah serta tidak memadai. Makalah ini mengkaji sisi baik, buruk, dan jelek dari penegakan kebijakan di GenAI, serta mengusulkan metodologi untuk menganalisis dan membedah pendekatan yang ada secara sistematis. Berdasarkan analisis ini, penulis memberikan rekomendasi dan seruan bertindak bagi komunitas. Karya ini memperluas talk Enigma USENIX Security 2026 berjudul "From Alignment to Access Control: A Unified View of GenAI Policy Enforcement" oleh Nathalie Baracaldo.

Makalah ini memperkenalkan metodologi berprinsip untuk menganalisis dan membedah pendekatan yang ada dalam mendefinisikan dan menegakkan kebijakan pada aplikasi GenAI secara sistematis. Metodologi ini kemungkinan melibatkan taksonomi yang mengategorikan mekanisme penegakan kebijakan di berbagai lapisan tumpukan GenAI, dari teknik alignment hingga kontrol akses. Analisis ini didasarkan pada survei pendekatan yang "ditemukan di lapangan," yang menunjukkan tinjauan komprehensif terhadap praktik saat ini. Metodologi ini bertujuan memberikan kejelasan pada lanskap yang terfragmentasi dengan mengidentifikasi kesamaan, kesenjangan, dan area kebingungan. Meskipun abstrak tidak merinci langkah-langkah spesifik, pendekatannya tampak kualitatif dan komparatif, yang mengarah pada rekomendasi untuk unifikasi. Talk pendampingnya lebih menekankan pandangan terpadu, yang menunjukkan bahwa metodologi ini menjembatani bidang-bidang yang berbeda seperti alignment AI dan kontrol akses tradisional.

Pembahasan menafsirkan temuan dan menawarkan rekomendasi bagi komunitas. Makalah ini berargumen bahwa kebijakan harus menjadi landasan sistem GenAI yang aman dan patuh, tetapi pemahaman yang terfragmentasi saat ini menghasilkan solusi yang tidak memadai. Penulis menyerukan pandangan terpadu yang mengintegrasikan alignment dan kontrol akses, seperti yang disarankan oleh judul talk. Mereka kemungkinan membahas tantangan dalam menerapkan pendekatan terpadu tersebut, termasuk hambatan teknis, organisasi, dan regulasi. Makalah ini juga mungkin mengusulkan peta jalan untuk penelitian dan standardisasi di masa depan. Analisis ini menekankan bahwa tanpa pendekatan sistematis terhadap penegakan kebijakan, aplikasi GenAI akan terus menghadapi risiko keamanan dan kepatuhan. Seruan bertindak ini mendesak peneliti, praktisi, dan pembuat kebijakan untuk berkolaborasi dalam mengembangkan mekanisme penegakan kebijakan yang kuat dan interoperabel.

Praktisi dan peneliti ilmu komputer

Membuka konten member…