Seruan Moratorium AI Anthropic: Alarm Nyata atau Strategi Bisnis?

Seruan Anthropic, salah satu perusahaan kecerdasan buatan (AI) terdepan di dunia, untuk menghentikan sementara pengembangan AI generasi terbaru menuai perdebatan. Di satu sisi, kekhawatiran akan risiko eksistensial yang muncul ketika sistem AI mampu meningkatkan kemampuannya sendiri tanpa campur tangan manusia—yang disebut recursive self-improvement—memang layak dipertimbangkan. Namun, di sisi lain, realitas geopolitik dan insentif ekonomi membuat moratorium semacam itu sulit diwujudkan, bahkan mungkin tidak lebih dari sekadar wacana.

Dalam laporan bertajuk When AI Builds Itself yang dirilis awal Juni lalu, Anthropic memperingatkan bahwa ambang batas di mana AI bisa mendesain dan membangun versi dirinya yang lebih canggih secara otonom mungkin tiba lebih cepat dari perkiraan. Meski perusahaan tersebut menegaskan bahwa skenario itu belum terjadi dan “tidak bisa dihindari”, risiko kehilangan kendali atas laju percepatan kemampuan AI menjadi sorotan utama. Jika kecepatan peningkatan kapasitas AI melampaui kemampuan manusia untuk memahami, mengevaluasi, atau mengarahkannya, maka tidak akan ada lagi kesempatan untuk melakukan intervensi.

Pertanyaan mendasar yang diajukan oleh para pengamat, termasuk Profesor Jungpil Hahn dari National University of Singapore, adalah: “Moratorium menuju ke arah apa?” Tanpa target yang terukur—seperti tingkat interpretabilitas sistem AI yang harus dicapai, kerangka tata kelola global yang harus dibentuk, atau kriteria verifikasi yang harus dipenuhi—moratorium hanyalah penundaan tanpa arah. Riset alignment (penyelarasan AI dengan nilai-nilai manusia) masih belum tuntas, alat interpretabilitas masih primitif, dan lembaga pengawas internasional belum ada. Jika semua kondisi itu tidak dijadikan prasyarat untuk mencabut moratorium, apa sebenarnya yang ingin dicapai?

Masalah penegakan aturan juga menjadi batu sandungan. Anthropic sendiri mengakui bahwa analogi dengan perjanjian pengendalian senjata nuklir tidak sepenuhnya tepat. Pelatihan AI jauh lebih mudah disembunyikan daripada silo rudal. Insentif untuk “berbuat curang” sangat besar karena pihak yang terus mengembangkan AI saat yang lain berhenti akan memimpin perlombaan. Lebih dalam lagi, keberhasilan pengendalian senjata nuklir tidak dicapai dengan menghentikan penelitian fisika, melainkan melalui perjanjian yang terverifikasi, rezim inspeksi bersama, dan keseimbangan kekuatan. Semua itu membutuhkan waktu puluhan tahun untuk dibangun dan tetap memiliki celah signifikan.

Konteks geopolitik memperparah situasi. Kemampuan AI kini menjadi pusat persaingan strategis AS-China. Koordinasi untuk mematuhi moratorium bukan hanya sulit secara politik, tetapi juga tidak rasional secara strategis bagi kedua negara. Contoh nyata: pemerintah AS baru-baru ini memerintahkan Anthropic untuk menangguhkan akses model AI tercanggihnya bagi warga negara asing dengan alasan keamanan nasional. Langkah ini menunjukkan bahwa kepentingan nasional lebih diutamakan daripada kerja sama global.

Yang lebih menarik, seruan Anthropic muncul bersamaan dengan dua perkembangan yang menimbulkan tanda tanya besar. Pertama, perusahaan tersebut diam-diam mengajukan penawaran umum perdana (IPO) beberapa hari sebelumnya. Kedua, laporan Financial Times mengungkapkan bahwa Anthropic telah menempatkan insinyurnya di Badan Keamanan Nasional AS (NSA) untuk mengerahkan model AI Mythos dalam operasi siber ofensif. Kedua fakta ini, meski tidak serta-merta mendiskreditkan niat baik Anthropic, menunjukkan bahwa aktor yang paling vokal menyerukan moratorium adalah pihak yang justru memiliki kepentingan finansial dan strategis terbesar dalam kelanjutan pengembangan AI. Setiap kerangka tata kelola yang dibangun berdasarkan preferensi laboratorium AI terkemuka harus dicermati dengan kritis.

Di luar perdebatan moratorium, ada persoalan yang lebih mendesak bagi Indonesia dan kawasan ASEAN: bagaimana adopsi AI yang masif saat ini secara diam-diam mengubah kapasitas kognitif dan penilaian manusia yang kelak akan mengelola tata kelola AI itu sendiri. Setiap rezim tata kelola, secanggih apa pun, pada akhirnya bergantung pada kapasitas manusia dan institusi untuk menerapkan, memantau, dan menegakkannya. Kapasitas itu sedang dibentuk sekarang—bukan oleh model AI frontier yang mendekati risiko recursive self-improvement, tetapi oleh generasi AI saat ini yang sudah tertanam dalam cara pembuat kebijakan meneliti, analis mengevaluasi bukti, regulator menalar pertanyaan teknis yang rumit, dan generasi ahli berikutnya dilatih.

Jika adopsi AI secara massal diam-diam merestrukturisasi kebiasaan kognitif dan penilaian orang-orang yang akan mengisi lembaga tata kelola AI, maka infrastruktur tata kelola yang ingin dibangun Anthropic menghadapi masalah yang tidak bisa diselesaikan oleh moratorium. Tidak mungkin menghentikan sementara proses untuk menghasilkan penilaian manusia yang lebih baik. Bagi Indonesia, yang bukan pengembang AI frontier, pertanyaan kuncinya bukanlah ikut dalam perdebatan moratorium, melainkan bagaimana struktur adopsi AI di bidang pendidikan, administrasi publik, dan praktik profesional akan menentukan apakah kita masih memiliki kapasitas institusional dan manusia untuk berpartisipasi secara bermakna dalam tata kelola AI global, atau justru diam-diam telah menyerahkan penilaian yang diperlukan kepada mesin.