Perlombaan AI Tanpa Kendali: Mantan Peneliti Anthropic Peringatkan Batas Waktu 2027

Seorang peneliti kecerdasan buatan yang baru saja mengundurkan diri dari Anthropic, Jacob Coxon, memperingatkan bahwa perlombaan menuju superintelijensi tanpa kendali dapat membawa malapetaka bagi umat manusia, dengan skenario terburuk mulai terwujud pada akhir 2027. Peringatan ini muncul di tengah kebijakan Amerika Serikat yang justru mengurangi regulasi untuk mempercepat inovasi AI.

Coxon, yang pindah dari OpenAI ke Anthropic pada awal 2026, mengumumkan pengunduran dirinya sebagai protes terhadap apa yang ia sebut sebagai "perlombaan tidak bertanggung jawab" di antara perusahaan-perusahaan AI. Dalam unggahannya di platform X, ia menegaskan bahwa tidak ada aktivitas manusia lain yang memiliki potensi bahaya sebesar pengembangan superintelijensi yang mampu memperbaiki kodenya sendiri secara mandiri. Menurutnya, siklus pengembangan yang biasanya memakan waktu berbulan-bulan bisa menyusut menjadi hitungan menit, dan pada akhirnya lepas dari kendali manusia.

Kekhawatiran Coxon bukan tanpa dasar. Ia didukung oleh Evan Hubinger, pemimpin tim alignment stress test di Anthropic, yang memperkirakan peluang AI membunuh seluruh umat manusia dalam satu dekade ke depan lebih dari 10 persen. Hubinger menambahkan bahwa Anthropic belum menemukan solusi untuk masalah alignment—situasi di mana tujuan AI tidak selaras dengan maksud manusia. Bahkan, sebuah AI bisa menolak dimatikan bukan karena niat jahat, melainkan karena tujuan yang diprogramkan tidak akan tercapai jika sistem tersebut dimatikan.

Para pionir AI seperti Geoffrey Hinton dan Yoshua Bengio juga telah lama menyuarakan kekhawatiran serupa. Hinton, peraih Nobel Fisika yang dijuluki "Godfather of AI", meninggalkan Google pada 2023 untuk bebas memperingatkan publik. Bengio, penerima Penghargaan Turing, berulang kali menyerukan regulasi negara yang ketat. Namun, di bawah pemerintahan Donald Trump, Amerika Serikat justru mengambil arah berlawanan: mengurangi hambatan regulasi dan mempercepat pengembangan teknologi.

Di sisi lain, sejumlah pakar menilai skenario kiamat AI terlalu dibesar-besarkan. Yann LeCun, Kepala Ilmuwan Meta, pada Oktober 2024 menyebut kekhawatiran tersebut sebagai "omong kosong belaka". Argumen mereka, AI tetap bergantung pada server, jaringan listrik, dan infrastruktur fisik yang dikuasai manusia. Risiko jangka pendek yang lebih nyata, menurut banyak ahli, adalah disinformasi skala besar, manipulasi demokrasi, pengawasan massal, dan hilangnya lapangan kerja—semua bisa terjadi tanpa perlu superintelijensi.

"Di OpenAI, banyak orang belum benar-benar memahami risiko peradaban yang ditimbulkan AI. Di Anthropic, risiko itu dipahami dengan baik, tetapi mereka terjebak dalam perlombaan untuk menjadi yang pertama mencapainya," tulis Coxon di X.

Bagi Indonesia, perdebatan ini bukan sekadar wacana akademis. Sebagai negara dengan adopsi AI yang tumbuh cepat di sektor keuangan, e-commerce, dan pemerintahan, Indonesia menghadapi risiko yang sama: disinformasi menjelang pemilu, serangan siber otomatis, dan disrupsi tenaga kerja. Ketergantungan pada teknologi AI dari perusahaan global yang berlomba tanpa regulasi ketat menempatkan Indonesia pada posisi rentan. Tanpa kerangka etis dan pengawasan yang memadai, dampak buruk AI bisa lebih cepat terasa di negara berkembang yang infrastruktur digitalnya belum sekuat negara maju.

Pertanyaannya, akankah Indonesia mengambil langkah preventif dengan menyusun regulasi AI yang berpihak pada keamanan dan kedaulatan digital, atau justru ikut arus perlombaan global yang mengabaikan risiko jangka panjang? Waktu terus berjalan, dan batas waktu yang disebut Coxon tinggal beberapa tahun lagi.