Satu Gerbang Tidak Cukup: Menyusun Kontrol Pra-Tindakan Stateful untuk AI Agentik

Kopling kontrol akibat remediasi, operator yang tidak komutatif, dan batas cakupan deteksi tersusun

Gaston Besanson· 2026· DOI 10.48550/arXiv.2608.18360

Masalah inti

Sistem AI agentik semakin banyak mengambil tindakan berkonsekuensi yang diatur oleh beberapa kontrol pra-tindakan secara simultan. Makalah ini mengidentifikasi tiga kelas gerbang: gerbang otoritas, gerbang sumber daya, dan gerbang bukti. Setiap gerbang dapat mengizinkan, menurunkan, atau meremediasi suatu tindakan sebelum dieksekusi. Masalah utamanya adalah kontrol-kontrol ini tidak independen. Remediasi yang diterapkan oleh satu kontrol dapat mengubah tindakan, bukti, atau konteks yang dievaluasi kontrol lain, sehingga membatalkan penilaian kontrol tersebut sebelumnya. Makalah ini menamai fenomena ini **kopling kontrol akibat remediasi**. Karya ini dimotivasi oleh pengamatan bahwa menyusun kontrol pra-tindakan stateful bukan sekadar detail rekayasa, melainkan tantangan semantik: urutan dan interaksi remediasi memengaruhi apakah sistem tersusun tetap sahih. Makalah ini memformalkan kopling tersebut dan mengusulkan protokol remediate-and-regate untuk memulihkan kesahihan per-tindakan dalam setting terbatas dan idempoten. Makalah ini juga menyelidiki komutativitas operator remediasi dan keterpercayaan buffer bukti yang diatur, menunjukkan bahwa kelayakan saat ini tidak menyiratkan ke

Inovasi

Finite-model checker menemukan instance contoh kontra konkret yang menunjukkan bahwa dua operator remediasi yang diimplementasikan—substitusi bukti dan resource-budget downroute—tidak komutatif. Ini berarti urutan remediasi penting: menerapkan r_{1} lalu r_{2} dapat menghasilkan keadaan akhir yang berbeda dari menerapkan r_{2} lalu r_{1} . Akibatnya, urutan remediasi adalah bagian dari semantik control plane, bukan detail implementasi. Makalah ini juga menetapkan kondisi tepat di mana agregasi linear berbobot positif dari luaran gerbang dapat mengompensasi veto anggota. Secara spesifik, untuk himpunan luaran gerbang o_{i} \in {0, 1} dengan bobot w_{i} > 0, veto oleh gerbang k (yaitu o_{k} = 0) dapat dikompensasi jika dan hanya jika i \neq = k \sum w_{i} o_{i} \geq θ, dengan θ adalah ambang agregasi. Evidence Set lintas-kontrol yang terpadu terbukti diperlukan untuk evaluasi yang konsisten antar kontrol. Hasil negatif kuncinya adalah komposisi tidak menghasilkan cakupan deteksi baru: gabungan deteksi dari kontrol tersusun tidak lebih besar daripada gabungan deteksi dari kontrol individual. Ini dilaporkan secara jujur sebagai batasan. Buffer bukti yang diatur, yang memper

Sistem AI agentik semakin banyak mengambil tindakan berkonsekuensi yang diatur oleh beberapa kontrol pra-tindakan secara simultan. Makalah ini mengidentifikasi tiga kelas gerbang: gerbang otoritas, gerbang sumber daya, dan gerbang bukti. Setiap gerbang dapat mengizinkan, menurunkan, atau meremediasi suatu tindakan sebelum dieksekusi. Masalah utamanya adalah kontrol-kontrol ini tidak independen. Remediasi yang diterapkan oleh satu kontrol dapat mengubah tindakan, bukti, atau konteks yang dievaluasi kontrol lain, sehingga membatalkan penilaian kontrol tersebut sebelumnya. Makalah ini menamai fenomena ini **kopling kontrol akibat remediasi**. Karya ini dimotivasi oleh pengamatan bahwa menyusun kontrol pra-tindakan stateful bukan sekadar detail rekayasa, melainkan tantangan semantik: urutan dan interaksi remediasi memengaruhi apakah sistem tersusun tetap sahih. Makalah ini memformalkan kopling tersebut dan mengusulkan protokol remediate-and-regate untuk memulihkan kesahihan per-tindakan dalam setting terbatas dan idempoten. Makalah ini juga menyelidiki komutativitas operator remediasi dan keterpercayaan buffer bukti yang diatur, menunjukkan bahwa kelayakan saat ini tidak menyiratkan keterpercayaan referensi di masa depan. Kontribusinya adalah demonstrasi mekanisme pada data payload terbuka dengan lapisan metadata sintetis, bukan klaim tentang prevalensi produksi.

Makalah ini memformalkan kopling kontrol akibat remediasi dengan mendefinisikan himpunan kontrol C = {c_{1}, c_{2}, \dots, c_{n}}, yang masing-masing mengevaluasi tindakan a dan menghasilkan luaran dalam {admit, degrade, remediate} . Operator remediasi r_{i} mentransformasi tindakan, bukti, atau konteks. Properti kuncinya adalah untuk dua kontrol c_{i} dan c_{j}, penerapan r_{i} dapat mengubah input ke c_{j}, sehingga penilaian c_{j} sebelumnya tidak lagi valid. Makalah ini memperkenalkan **protokol remediate-and-regate**: setelah remediasi apa pun, semua kontrol yang terdampak harus mengevaluasi ulang tindakan. Protokol ini terbukti memulihkan kesahihan per-tindakan di bawah asumsi keterbatasan dan idempotensi. Penulis mengimplementasikan dua operator remediasi: **substitusi bukti** dan **resource-budget downroute**. Mereka menggunakan finite-model checker untuk mencari contoh kontra terhadap komutativitas. Mereka juga menganalisis buffer bukti yang diatur yang mempercayai penulisan yang diterima paling akhir, menunjukkan bahwa buffer tersebut rentan terhadap poisoning dari kelas cacat yang dinyatakan tidak tercakup. Dua mitigasi diusulkan dan dievaluasi. Secara empiris, studi ini menggunakan artefak data terbuka deterministik yang menyusun tiga mesin terbitan tanpa modifikasi. Enam hipotesis (CH1-CH5 dan CH6) diuji pada 30 seed yang telah diregistrasi sebelumnya. CH1-CH5 memenuhi aturan keputusan yang diregistrasi pada semua seed; CH6 memenuhi aturannya pada workflow W1 tetapi tidak pada workflow W2 yang lebih kecil. Metodologi mencakup Evidence Set lintas-kontrol yang terpadu dan analisis agregasi linear berbobot positif dari luaran gerbang.

Mengapa penting

Wawasan utama makalah ini adalah kontrol pra-tindakan stateful tidak dapat disusun secara naif. Kopling kontrol akibat remediasi berarti remediasi oleh satu kontrol dapat membatalkan penilaian kontrol lain, sehingga menghasilkan tindakan yang tidak sahih. Protokol remediate-and-regate mengatasi hal ini dengan mengevaluasi ulang semua kontrol yang terdampak setelah remediasi apa pun, tetapi protokol ini bergantung pada asumsi keterbatasan dan idempotensi. Sifat tidak komutatif dari operator remediasi menyiratkan bahwa control plane harus mendefinisikan urutan remediasi yang deterministik, atau memastikan bahwa keadaan akhir independen dari urutan. Masalah buffer bukti yang diatur menyoroti bahwa kelayakan saat ini tidak menyiratkan keterpercayaan referensi di masa depan: buffer bukti yang mempercayai penulisan yang diterima paling akhir dapat diracuni oleh kelas cacat yang dinyatakan tidak tercakup. Dua mitigasi mengurangi paparan tetapi tidak menghilangkannya, menunjukkan bahwa kepercayaan pada buffer bukti harus dibatasi dalam waktu atau cakupan. Hasil bahwa komposisi tidak menghasilkan cakupan deteksi baru menjadi peringatan agar tidak mengasumsikan bahwa menambah lebih banyak kontrol secara otomatis meningkatkan keamanan. Demonstrasi empiris pada data payload terbuka dengan lapisan metadata sintetis adalah demonstrasi mekanisme, bukan klaim prevalensi. Kontribusi makalah ini mencakup formalisasi kopling kontrol, protokol untuk komposisi yang sahih, bukti ketidakkomutatifan, kondisi untuk kompensasi veto, dan Evidence Set yang terpadu. Karya ini berimplikasi pada desain sistem AI agentik yang harus menyeimbangkan batasan otoritas, sumber daya, dan bukti. Pekerjaan selanjutnya dapat memperluas protokol ke setting tak terbatas atau non-idempoten, mengeksplorasi operator remediasi lain, dan menguji pendekatan pada data produksi.

Siapa yang sebaiknya membaca

Praktisi dan peneliti ilmu komputer

Membuka konten member…