Peringatan PBB: Kemajuan AI Tanpa Kendali Berpotensi Bencana Global
Baca dalam 60 detik
- Panel ilmiah PBB memperingatkan bahwa kecerdasan buatan berkembang lebih cepat dari pemahaman sains dan kebijakan pemerintah, meningkatkan risiko bencana.
- Laporan awal menyoroti ancaman AI otonom yang bisa digunakan untuk kejahatan siber, misinformasi, dan senjata biologis, dengan tata kelola global yang masih terfragmentasi.
- Indonesia perlu segera membangun kapasitas regulasi dan riset AI agar tidak sekadar menjadi konsumen teknologi yang tidak dipahami.
Kemajuan pesat kecerdasan buatan (AI) telah melampaui kemampuan sains untuk memahaminya dan kesiapan pemerintah untuk mengaturnya, sehingga tidak ada jaminan teknologi ini tidak akan menimbulkan kerusakan besar. Peringatan keras itu disampaikan panel independen Perserikatan Bangsa-Bangsa (PBB) dalam laporan pendahuluan yang dirilis Rabu (1/7) di Jenewa.
Panel Ilmiah Internasional Independen PBB tentang Kecerdasan Buatan, yang terdiri dari 40 pakar lintas kawasan, menilai para pembuat kebijakan menghadapi dilema serius. Di satu sisi, mereka membutuhkan bukti ilmiah yang kuat untuk merumuskan regulasi yang efektif. Namun di sisi lain, bukti semacam itu justru tertinggal dari laju evolusi AI yang sangat cepat.
"Kemampuan AI melampaui pemahaman ilmiah dan kemampuan pemerintah untuk beradaptasi," ujar Yoshua Bengio, salah satu ketua panel tersebut. Ia menambahkan bahwa dengan semakin banyaknya bukti perilaku AI yang menipu, sains saat ini tidak dapat menjamin bahwa peningkatan kemampuan AI tidak akan menyebabkan kerusakan bencana, baik karena sistem itu sendiri maupun akibat penyalahgunaan oleh pihak jahat.
Laporan yang dijuluki sebagai penilaian global independen pertama tentang risiko dan peluang AI ini bertujuan memberikan evaluasi ilmiah terkini untuk membantu pengambilan keputusan. Dalam jangka pendek, panel memperkirakan akan terjadi pergeseran menuju sistem AI agen yang mampu melakukan tugas-tugas di dunia nyata, meskipun pertumbuhannya mungkin terhambat oleh keterbatasan energi dan data berkualitas tinggi. Dalam jangka panjang, AI diprediksi akan semakin tertanam dalam perekonomian dan menyatu dengan teknologi seperti komputasi kuantum dan bioteknologi.
Di tengah potensi manfaat ekonomi yang besar, laporan itu juga mengingatkan bahwa belum jelas apakah peningkatan produktivitas dari AI akan benar-benar mendorong pertumbuhan ekonomi secara luas atau justru mengganggu pasar tenaga kerja. Kekhawatiran lain mencakup risiko kehilangan kendali atas sistem AI yang semakin otonom dan manipulatif. AI telah digunakan untuk menghasilkan misinformasi dan konten berbahaya, serta berpotensi dieksploitasi untuk penipuan, serangan siber, dan ancaman biologis.
Tata kelola AI saat ini masih terfragmentasi. Banyak negara, termasuk Indonesia, belum memiliki kapasitas untuk menilai atau membentuk sistem AI canggih, sehingga bergantung pada teknologi yang tidak sepenuhnya mereka pahami atau kendalikan. Alat pengaman yang ada sering kali hanya mengandalkan data uji terbatas yang diungkapkan oleh perusahaan pengembang.
Sekretaris Jenderal PBB António Guterres mendesak pemerintah untuk bertindak cepat. "Dunia tidak dapat mengatur apa yang tidak dapat dipahaminya," kata Guterres dalam pernyataannya. "Potensinya besar, tetapi risikonya nyata, dan biaya dari menunggu semakin meningkat."
Bagi Indonesia, laporan ini menjadi pengingat bahwa pengembangan AI tidak bisa dibiarkan tanpa arah. Tanpa investasi dalam riset, pendidikan, dan kerangka regulasi yang adaptif, Indonesia berisiko menjadi pasar pasif bagi teknologi yang mungkin membawa dampak negatif. Pertanyaannya, apakah pemerintah dan pemangku kepentingan di Tanah Air siap mengejar ketertinggalan sebelum AI benar-benar lepas kendali?
