Para "Godfather" AI Peringatkan Ledakan Kecerdasan Buatan, Pemerintah Diminta Bertindak Sebelum Terlambat

Dua ilmuwan perintis kecerdasan buatan (AI) modern, Geoffrey Hinton dan Yoshua Bengio, bersama para petinggi OpenAI dan Anthropic, menyerukan agar pemerintah di seluruh dunia segera bersiap menghadapi apa yang mereka sebut sebagai "ledakan kecerdasan"—sebuah percepatan dramatis dalam pengembangan AI yang berpotensi menjadi perkembangan teknologi paling berdampak dalam sejarah manusia.

Dalam laporan berjudul "What if automating AI R&D triggers an intelligence explosion", yang ditulis oleh lebih dari 20 peneliti termasuk Hinton, Bengio, salah satu pendiri Anthropic Jack Clark, dan kepala ilmuwan OpenAI Jakub Pachocki, mereka memperingatkan bahwa otomatisasi riset dan pengembangan AI dapat memicu peningkatan kemampuan sistem AI secara mandiri tanpa campur tangan manusia—sebuah proses yang dikenal sebagai "recursive self-improvement".

Laporan tersebut menilai bahwa begitu sistem AI mencapai kemampuan setara ahli dalam riset dan pengembangan AI, satu pengembang saja dapat mengoperasikan tenaga kerja yang setara dengan "jutaan" peneliti manusia terbaik. "Ledakan kecerdasan bisa menjadi perkembangan teknologi paling konsekuensial dalam sejarah manusia, memampatkan kemajuan yang seharusnya memakan waktu bertahun-tahun menjadi hitungan bulan atau kurang, mengancam kendali manusia atas sistem AI, dan mengikis secara parah checks and balances di dalam dan antarnegara, perusahaan, serta cabang pemerintahan," demikian bunyi laporan itu.

Para penulis laporan tidak hanya menyoroti potensi kemajuan pesat di bidang medis dan teknologi, tetapi juga tiga risiko utama: pertama, sistem yang kuat dapat memungkinkan ancaman biologis dan siber yang berkembang lebih cepat daripada langkah penanggulangannya; kedua, keterlibatan manusia yang berkurang dalam riset dan pengembangan AI dapat menghilangkan kesempatan untuk mengendalikan sistem; ketiga, negara dapat memanfaatkan ledakan kecerdasan untuk mengubah keunggulan kecil di bidang seperti dunia maya menjadi keunggulan yang menentukan.

Meskipun demikian, laporan tersebut mengakui bahwa dampak-dampak ini masih "tidak pasti". Sebuah terobosan teknologi, misalnya, bisa memerlukan waktu untuk diimplementasikan karena perlunya membangun rantai pasok untuk material khusus atau mematuhi regulasi. Di sisi lain, sistem AI juga dapat mempercepat mitigasi risiko. "Bukti awal menunjukkan bahwa ledakan kecerdasan yang digerakkan perangkat lunak mungkin terjadi," tulis laporan itu, seraya menambahkan bahwa hal ini akan mengarah pada "pengembangan sistem AI yang sangat mampu atau superhuman dengan sangat cepat".

"Begitu ledakan kecerdasan dimulai, jendela untuk bertindak mungkin akan menutup," tegas para penulis laporan, mendesak pemerintah untuk bergerak cepat.

Mereka merekomendasikan tiga prioritas kebijakan: mewajibkan laporan kemajuan transparan tentang riset dan pengembangan AI, termasuk menempatkan auditor independen di perusahaan; mencari cara untuk membatasi laju pengembangan AI yang terlalu cepat; dan bersiap beradaptasi dengan ledakan kecerdasan. Langkah-langkah spesifik yang diusulkan meliputi pembatasan seberapa cepat AI dapat meningkat dalam periode tertentu, bekerja sama dengan pusat data untuk memungkinkan penangguhan proyek riset tertentu, memastikan sistem riset AI otomatis terisolasi penuh dan tidak dapat lepas dari kendali manusia, serta membuat rencana tanggap darurat untuk berbagai skenario.

Baik Anthropic maupun OpenAI telah menyetujui penilaian independen terhadap model mereka setelah memperingatkan bahwa pengembangan AI mencapai titik kritis dalam hal keamanan. Namun, laporan ini menekankan bahwa persiapan menghadapi ledakan kecerdasan "harus menjadi prioritas mendesak, termasuk di tingkat kepemimpinan pemerintah tertinggi".

Bagi Indonesia, peringatan ini menjadi relevan mengingat ambisi pemerintah mengembangkan ekosistem AI nasional melalui Strategi Nasional AI 2020-2045. Tanpa kerangka pengawasan yang memadai, Indonesia berisiko tertinggal dalam tata kelola AI global sekaligus rentan terhadap dampak negatif, seperti disrupsi pasar tenaga kerja dan ancaman siber yang semakin canggih. Negara-negara ASEAN lain seperti Singapura dan Malaysia telah bergerak cepat menyusun regulasi AI; Indonesia perlu memastikan bahwa percepatan adopsi teknologi tidak mengorbankan keamanan dan kedaulatan digital.

Pertanyaannya kini: akankah pemerintah Indonesia dan negara-negara lain mampu bertindak sebelum ledakan kecerdasan benar-benar terjadi, atau justru lengah hingga jendela tindakan tertutup rapat?