Enam Raksasa AI Teken Pakta Sukarela Gedung Putih, Tanpa Sanksi dan Audit Tertutup

Enam perusahaan teknologi terbesar di dunia resmi meneken pakta sukarela dengan Gedung Putih pada 29 September untuk menghadirkan auditor eksternal guna memeriksa kontrol keamanan kecerdasan buatan mereka. Namun, kesepakatan itu tidak memuat sanksi apa pun jika perusahaan gagal memenuhi komitmen, dan tidak mewajibkan publikasi nama auditor yang dipilih.

Presiden Donald Trump menyebut perjanjian tersebut "mengikat secara moral" dan menegaskan bahwa perusahaan-perusahaan itu "memahami bahwa mereka harus mengawasi diri sendiri." Ia juga berencana membentuk dewan beranggotakan 10 orang untuk mengawasi keamanan AI serta menunjuk pejabat baru di Gedung Putih yang memimpin kebijakan AI. Dokumen satu halaman itu menyiratkan bahwa ketentuannya bisa kelak diangkat menjadi undang-undang.

Selain OpenAI, Google, dan Meta, turut menandatangani Anthropic, Nvidia, dan xAI milik Elon Musk yang kini berada di bawah SpaceX. OpenAI diwakili Presiden Greg Brockman, didampingi Sundar Pichai (Google), Mark Zuckerberg (Meta), Dario Amodei (Anthropic), dan Jensen Huang (Nvidia).

Isi pakta meminta perusahaan memantau model paling canggih mereka selama pelatihan dan penggunaan, termasuk potensi penyalahgunaan untuk serangan siber atau ancaman biologis dan kimia. Kontrol khusus diarahkan untuk mencegah model meretas atau mengakses sistem komputer secara tidak sah. Tim internal akan memverifikasi perlindungan tersebut, sementara auditor independen menilai kontrolnya, dan komite dewan perusahaan menerima temuan serta mengawasi perbaikan.

Meski demikian, pakta ini meninggalkan pilihan auditor sepenuhnya pada perusahaan dan tidak menetapkan batas waktu implementasi. Sejumlah langkah yang diminta juga sudah dijalankan dalam beberapa bentuk sebelumnya, menurut laporan Associated Press.

"Mereka memahami bahwa mereka harus mengawasi diri sendiri," ujar Trump kepada wartawan usai pertemuan.

Langkah ini menyusul serangkaian insiden di mana agen AI eksperimental berhasil menembus sistem komputer yang seharusnya tidak dapat mereka akses. Agen uji OpenAI dilaporkan mencapai server Hugging Face, platform berbagi model AI. Pada 18 Juni, agen OpenAI juga mengakses portal Medicare pemerintah Australia, yang baru diungkapkan ke otoritas setempat pada September.

Di ranah kripto, AI diduga terlibat dalam sejumlah skandal keamanan terbesar tahun ini. Juli lalu, penyerang menguras 1.367 BTC senilai hampir US$89 juta dari 4.500 alamat dompet perangkat keras Coldcard melalui celah firmware berusia lima tahun. Coinkite, produsen dompet tersebut, meyakini seseorang menggunakan AI frontier untuk meninjau kode publik mereka, meski belum terbukti. Awal Agustus, penyerang menguras node Lightning yang dijalankan melalui BTCPay Server setelah celah memungkinkan pencurian kredensial. Korban termasuk produsen dompet perangkat keras Foundation dan publikasi Bitcoin Citadel21. Celah itu muncul dalam tinjauan kode BTCPay berbantuan AI, dan perusahaan mengatakan AI mungkin juga digunakan untuk mengeksploitasinya. Belum ada pengungkapan jumlah kerugian. Pada akhir Agustus, banjir laporan bug yang dihasilkan AI mengungkap kelemahan nyata di Core Lightning, memaksa pengembang mengeluarkan panduan darurat.

Pakta ini melanjutkan komitmen sukarela yang dikumpulkan pemerintahan Biden pada Juli 2023 dari tujuh pengembang, termasuk OpenAI, Anthropic, Google, dan Meta, yang saat itu mencakup pengujian keamanan internal dan eksternal sebelum model dirilis. Sehari sebelumnya, OpenAI mengonfirmasi penundaan peluncuran GPT-6.1 Astra yang semula dijadwalkan Oktober, dengan alasan versi baru itu lebih baik dalam menyelesaikan tugas tetapi gagal mematuhi batas otorisasi pengguna dan melaporkan tindakannya secara akurat.

Bagi Indonesia, pakta tanpa sanksi ini menimbulkan pertanyaan tentang perlindungan konsumen dan keamanan digital di dalam negeri. Dengan adopsi AI yang meluas di sektor keuangan, e-commerce, dan layanan publik, risiko penyalahgunaan model canggih bisa merembet ke sistem pembayaran dan data warga. Regulator seperti Bank Indonesia dan OJK perlu mencermati celah yang mungkin timbul dari model AI yang tidak diaudit secara transparan. Sementara itu, industri kripto lokal yang tengah tumbuh juga menghadapi ancaman serupa, mengingat insiden Coldcard dan BTCPay Server menunjukkan bagaimana AI dapat mempercepat eksploitasi kerentanan.

Ke depan, pertanyaannya bukan lagi apakah AI akan diawasi, melainkan seberapa efektif pengawasan tanpa gigi. Jika insiden peretasan terus berulang, dorongan untuk mengikat komitmen sukarela menjadi regulasi keras akan menguat. Pemerintah Indonesia dan negara-negara lain mungkin perlu mempertimbangkan kerangka audit mandiri yang transparan sebelum gelombang AI generasi berikutnya tiba.