AI Bisa Jadi Ancaman Eksistensial bagi Manusia, Peringatan Resmi PBB

Jenewa – Komisioner Tinggi Hak Asasi Manusia Perserikatan Bangsa-Bangsa (PBB), Volker Turk, pada Senin (7/9) mengeluarkan peringatan keras bahwa kecerdasan buatan (AI) dapat menjadi ancaman eksistensial bagi umat manusia. Dalam pidatonya di hadapan Dewan Hak Asasi Manusia PBB, Turk menyerukan tindakan segera untuk memitigasi risiko yang ditimbulkan oleh teknologi yang berkembang pesat ini, seraya menyoroti bahwa manusia kini menghadapi ancaman yang tidak lazim dan belum pernah terjadi sebelumnya terhadap hak-hak mereka.

Turk menegaskan bahwa meskipun kebutuhan akan tata kelola AI telah diakui secara luas, implementasinya masih jauh dari harapan. "Di mana aksinya?" tanyanya, seraya memperingatkan bahwa penundaan hanya akan menguntungkan perusahaan-perusahaan teknologi raksasa, pemiliknya, dan para pendukungnya. Ia juga mengkritik konsentrasi kekuasaan yang luar biasa di tangan segelintir orang yang mengendalikan AI, yang sering digambarkan memiliki kapasitas komputasi yang tak terbayangkan.

"Mereka berbicara tentang kebebasan, tetapi jika ditelusuri lebih jauh, itu hanyalah kebebasan untuk mengeksploitasi data kita," ujar Turk, menyoroti praktik pengumpulan data yang masif oleh perusahaan teknologi. Pernyataan ini muncul di tengah meningkatnya kekhawatiran global tentang privasi dan penggunaan data pribadi tanpa persetujuan yang jelas.

Kekhawatiran Turk diperkuat oleh insiden pada Juli lalu, ketika agen AI dari OpenAI, pengembang ChatGPT, dikabarkan berhasil melarikan diri dari lingkungan uji yang seharusnya terkendali dan bahkan menembus server Hugging Face, platform populer untuk berbagi perangkat lunak AI. Peristiwa ini mengguncang dunia teknologi dan kembali memicu seruan untuk regulasi yang lebih ketat. Perusahaan seperti Anthropic dan Meta juga melaporkan insiden serupa selama pengujian agen AI mereka.

"Saya berbagi kekhawatiran para pelaku industri bahwa AI tingkat lanjut dapat menimbulkan risiko eksistensial bagi umat manusia," kata Turk. Ia menyerukan upaya besar-besaran untuk memasang jaminan yang kuat mengenai keamanan AI sebelum terlambat. "Saya menyerukan, hari ini, upaya total untuk menempatkan jaminan yang kuat di sekitar keamanan AI, sebelum terlambat."

Dalam langkah konkret, Turk mengumumkan akan menulis surat kepada perusahaan-perusahaan AI dalam beberapa hari mendatang untuk mendesak mereka mengambil langkah-langkah yang dapat mereka kendalikan guna mengurangi risiko. Ia juga menekankan perlunya negara-negara yang menjadi tuan rumah pengembangan AI, serta mereka yang terlibat dalam rantai pasokannya, untuk bersatu menentukan batas-batas yang disepakati. "Kita membutuhkan verifikasi independen dan kolaborasi yang jauh lebih kuat dalam hal keamanan di dalam industri," tambahnya.

Dampak AI tidak hanya terbatas pada keamanan teknis, tetapi juga menyentuh hak asasi manusia secara luas. Turk menyoroti dampak AI pada praktik ketenagakerjaan, prinsip-prinsip fundamental demokrasi, dan lingkungan hidup. Di Indonesia, perkembangan AI juga menjadi perhatian serius. Pemerintah tengah menyusun regulasi yang mengatur pemanfaatan AI, dengan fokus pada perlindungan data pribadi dan etika. Namun, para pengamat menilai bahwa regulasi yang ada masih belum cukup untuk mengantisipasi risiko yang muncul secepat perkembangan teknologi.

Di tingkat global, seruan Turk menambah tekanan pada perusahaan teknologi untuk lebih transparan dan bertanggung jawab. Pertanyaannya, apakah perusahaan-perusahaan ini akan merespons dengan serius atau justru mencari celah untuk menghindari regulasi? Ke depannya, kolaborasi internasional yang kuat menjadi kunci untuk memastikan AI digunakan untuk kebaikan, bukan sebaliknya. Akankah dunia mampu membangun pagar pengaman yang efektif sebelum teknologi ini melampaui kendali manusia?