Kapan Tidak Mengotomatiskan: Protokol Formal untuk Pelestarian Manusia di Organisasi yang Dioptimalkan AI

Kerangka kerja return-on-investment (ROI) otomatisasi standar mengevaluasi keputusan otomatisasi pada tingkat peran terutama melalui penggantian biaya langsung dan keuntungan efisiensi. Makalah ini berargumen bahwa kerangka kerja semacam itu secara sistematis melewatkan empat kategori risiko sistemik yang memengaruhi kinerja organisasi jangka panjang: (1) erosi pengetahuan tacit, (2) penurunan resiliensi, (3) eksposur regulasi, dan (4) degradasi modal sosio-institusional. Risiko-risiko ini tidak diberi harga dalam analisis biaya-manfaat konvensional, namun terakumulasi di seluruh proses multi-langkah dan dapat menetralkan manfaat yang diharapkan dari otomatisasi. Penulis memperkenalkan PHP-AIO (Protocol for Human Preservation in AI-Optimized Organizations), protokol keputusan sekuensial lima gerbang dengan pemeriksaan komposit akhir yang dirancang untuk mengukur risiko-risiko ini pada tingkat peran dan menghasilkan keputusan otomatisasi yang dapat diaudit. Protokol ini dimotivasi oleh domain berisiko tinggi seperti jasa keuangan, di mana pengawasan manusia sering diwajibkan oleh regulator. Makalah ini memformalkan utang otomatisasi melalui ukuran bentuk tertutup $\rho (P)$ yang menangkap bagaimana keputusan tingkat peran terakumulasi di seluruh proses, dan menunjukkan bahwa peringatannya hanya dinetralkan oleh jangkar human-in-the-loop yang diwajibkan regulator. Ketika diterapkan pada profil stilir peran internal yang representatif, PHP-AIO menghasilkan hasil yang berbeda—automate, augment, hybrid, dan preserve—untuk kandidat yang akan secara seragam diotomatisasi oleh analisis biaya-manfaat standar. Analisis sensitivitas ambang batas mengonfirmasi ketahanan terhadap perturbasi ke atas setidaknya 14% dalam tiga dari empat kasus representatif.

Metodologi berpusat pada protokol PHP-AIO, prosedur keputusan sekuensial lima gerbang yang diikuti oleh pemeriksaan komposit. Setiap gerbang mengevaluasi dimensi spesifik risiko sistemik pada tingkat peran. Gerbang-gerbang dirancang untuk diterapkan secara berurutan, dengan pemeriksaan komposit akhir mengagregasi hasil gerbang menjadi keputusan yang dapat diaudit. Protokol menghasilkan salah satu dari empat hasil: automate, augment, hybrid, atau preserve. Untuk memformalkan akumulasi risiko di seluruh proses multi-langkah, penulis mendefinisikan ukuran utang otomatisasi $\rho (P)$ dalam bentuk tertutup. Untuk proses $P$ yang terdiri dari $n$ peran, misalkan $d_i$ adalah keputusan otomatisasi untuk peran $i$ (dengan $d_i=1$ jika diotomatisasi, $0$ jika tidak), dan misalkan $w_i$ adalah bobot yang mencerminkan kontribusi risiko sistemik dari peran $i$. Maka utang otomatisasi diberikan oleh: