Uji Coba Pengawasan OpenAI Temukan Celah, Regulator Diminta Waspada
Baca dalam 60 detik
- Evaluator independen METR dan Redwood Research menemukan kerentanan baru pada sistem pemantauan OpenAI dalam uji coba akses mendalam.
- Temuan ini memicu pertanyaan tentang efektivitas pengawasan pihak ketiga dan kesiapan perusahaan AI menghadapi audit eksternal.
- Indonesia perlu memperkuat kerangka regulasi AI untuk mengantisipasi risiko serupa saat adopsi teknologi meningkat.
Dua organisasi nirlaba yang terlibat dalam evaluasi independen, METR dan Redwood Research, mengungkap adanya "kerentanan" pada sistem pemantauan OpenAI. Temuan ini berasal dari uji coba yang dirancang untuk menguji sejauh mana akses mendalam yang diberikan perusahaan kepada pihak ketiga untuk menilai keamanan sistem kecerdasan buatan.
Uji coba berlangsung antara 21 Juli dan 11 Agustus. Satu perwakilan dari masing-masing organisasi memperoleh akses ke basis kode, dokumentasi, dan sejumlah staf teknis OpenAI. Mereka menggunakan perangkat perusahaan yang tidak pernah meninggalkan lokasi, dengan pengawasan ketat. Dari proses tersebut, para evaluator menemukan beberapa celah baru, termasuk satu yang memungkinkan agen mencegah ratusan tindakan terbaru agar tidak terpantau oleh sistem monitoring.
OpenAI menyatakan bahwa kerentanan yang memengaruhi pengamanan produksi telah ditambal. Perusahaan juga menerima laporan internal setebal 61 halaman dari tim evaluator. Juru bicara OpenAI menegaskan komitmennya untuk memperkuat perlindungan dan membentuk kolaborasi masa depan dengan evaluator independen. Langkah ini menyusul janji CEO Sam Altman yang akan memberikan akses setara karyawan kepada pihak eksternal, sejalan dengan usulan CEO Anthropic, Dario Amodei, untuk memperlambat pengembangan AI.
Temuan ini bukan sekadar catatan teknis. Di tengah gelombang adopsi AI generatif, kemampuan sistem pemantauan untuk mendeteksi penyalahgunaan menjadi krusial. Kerentanan yang ditemukan menunjukkan bahwa pengawasan internal pun memiliki titik lemah yang bisa dieksploitasi. METR dan Redwood menekankan bahwa uji coba ini adalah langkah awal untuk memahami bagaimana akses mendalam dapat dilakukan tanpa mengorbankan keamanan. Mereka berencana membagikan lebih banyak detail di masa depan.
"Kolaborasi ini membangun komitmen lama kami dalam merintis pendekatan baru untuk pengujian pihak ketiga, dan kami menggunakan apa yang kami pelajari untuk memperkuat perlindungan dan membentuk kolaborasi masa depan dengan evaluator independen," ujar juru bicara OpenAI.
Sejumlah perusahaan teknologi besar seperti OpenAI, Anthropic, Google, SpaceX, dan Nvidia telah menandatangani kesepakatan sukarela yang dipresentasikan Presiden Donald Trump di Gedung Putih bulan lalu. Kesepakatan itu mendorong perusahaan AI untuk bermitra dengan auditor atau evaluator eksternal independen. Anthropic bahkan telah mengumumkan pakta serupa dengan Accenture, METR, dan SecureBio. Langkah ini menandakan pergeseran menuju tata kelola AI yang lebih transparan, meski masih bersifat sukarela.
Bagi Indonesia, perkembangan ini relevan mengingat increasing adopsi AI di berbagai sektor. Pemerintah perlu mempercepat penyusunan regulasi yang mewajibkan audit keamanan AI, terutama untuk sistem yang berdampak publik. Tanpa kerangka pengawasan yang kuat, risiko penyalahgunaan atau kegagalan sistem bisa merugikan masyarakat. Kolaborasi dengan organisasi independen seperti METR dan Redwood dapat menjadi model untuk membangun ekosistem AI yang lebih aman di dalam negeri.
Ke depan, pertanyaannya adalah seberapa efektif pengawasan pihak ketiga jika kerentanan masih ditemukan? Apakah model kesukarelaan cukup, atau perlu regulasi mengikat? Jawaban atas pertanyaan ini akan menentukan arah tata kelola AI global, termasuk di Indonesia.
