Trump Umumkan Kesepakatan AI 'Moral' Tanpa Sanksi, Ganti Istilah AI Jadi 'Superintelligence'

Presiden Amerika Serikat Donald Trump mengumumkan pada Selasa (29/9) bahwa para pemimpin perusahaan teknologi dan kecerdasan buatan terbesar telah menandatangani kesepakatan “morally binding” atau mengikat secara moral untuk menempatkan kontrol pada pengembangan AI. Kesepakatan bernama Joint Commitment on Frontier Responsibilities itu dideklarasikan setelah jamuan makan siang di Gedung Putih bersama sejumlah CEO teknologi papan atas.

“Ini hampir seperti konstitusi, dan orang-orang terbesar di dunia menandatanganinya, dan saya sebagai presiden juga menandatangani, dan ini benar-benar bentuk perlindungan,” ujar Trump dalam pernyataannya.

Langkah tersebut tidak berdiri sendiri. Trump juga meneken perintah eksekutif yang secara resmi mengubah nomenklatur “artificial intelligence” menjadi “superintelligence”. Perintah itu menginstruksikan seluruh kementerian dan lembaga federal untuk menggunakan istilah “Super Intelligence” dan “SI” dalam korespondensi resmi, komunikasi publik, dokumen kebijakan, serta dokumen non-statuter di lingkungan eksekutif, dan tidak lagi mengakui istilah “Artificial Intelligence” atau “AI”.

Dokumen yang diunggah Trump melalui akun Truth Social itu merinci empat “lapisan kontrol dan audit” bagi perusahaan AI. Lapisan pertama adalah penerapan pemantauan keselamatan internal selama pelatihan model—praktik yang sebenarnya sudah berjalan di laboratorium besar namun belum mampu mencegah kegagalan pengujian. Lapisan kedua memberdayakan tim internal untuk memastikan pemantauan lapis pertama berjalan benar. Lapisan ketiga memberikan akses kepada auditor eksternal untuk menilai kontrol keselamatan secara independen. Lapisan keempat meminta perusahaan menunjuk dewan independen guna meninjau laporan tentang kontrol tersebut.

Namun, tidak ada satu pun kontrol yang melibatkan regulator pemerintah atau memuat kewajiban mempublikasikan temuan evaluasi independen. Kesepakatan itu juga tampak memberi keleluasaan bagi perusahaan untuk memilih evaluator sendiri, menunjuk dewan pengawas sendiri, dan memutuskan apakah hasilnya akan dipublikasikan. Alhasil, komitmen ini dinilai tidak memiliki gigi karena tidak ada mekanisme penegakan maupun implikasi hukum.

Kritik pun mengalir. Anggota parlemen, peneliti AI, bahkan sebagian perusahaan AI telah menyerukan pengawasan pemerintah yang lebih ketat. Trump secara luas menolak seruan regulasi tambahan dengan alasan persaingan dengan China dan ancaman terhadap pertumbuhan ekonomi. Industri teknologi yang selama ini cenderung selaras dengan pemerintahan Trump gencar melobi agar tidak diatur terlalu ketat, dengan dalih regulasi akan menghambat inovasi dan ekonomi.

“Ini adalah awal dan kesepakatan yang bisa diikuti seluruh industri. Ini semacam percakapan bersejarah,” kata CEO Meta Mark Zuckerberg, yang berdiri di samping Trump dan taipan teknologi lainnya dalam konferensi pers usai jamuan.

Zuckerberg mengaku bangga dengan kesepakatan itu dan menyebutnya sebagai upaya meyakinkan publik Amerika bahwa teknologi mereka dapat dipercaya. Hadir dalam jamuan tersebut antara lain Elon Musk (CEO SpaceX), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), dan Dario Amodei (Anthropic), serta sejumlah eksekutif papan atas lainnya.

Insiden kebocoran saat pengujian keselamatan—di mana perusahaan AI tanpa sengaja meretas organisasi luar—menjadi pemicu meningkatnya sorotan publik terhadap industri ini. Meski demikian, kesepakatan yang digadang-gadang sebagai “konstitusi AI” itu justru menuai pertanyaan tentang efektivitasnya dalam mencegah risiko nyata.

Konteks Indonesia

Bagi Indonesia, perubahan istilah dan komitmen sukarela ini dapat memengaruhi lanskap regulasi AI domestik. Pemerintah Indonesia tengah menyusun kerangka etika AI dan perlindungan data, dan langkah AS yang cenderung deregulatif bisa menjadi preseden yang membingungkan. Di satu sisi, perusahaan teknologi global yang beroperasi di Indonesia mungkin akan merujuk pada standar sukarela ini untuk menghindari kewajiban hukum yang lebih ketat. Di sisi lain, Indonesia memiliki kepentingan untuk memastikan AI tidak merugikan konsumen dan ekonomi lokal, terutama dengan meningkatnya adopsi AI di sektor keuangan, kesehatan, dan pemerintahan.

Jika AS memilih jalur “self-policing” tanpa pengawasan pemerintah, negara-negara seperti Indonesia perlu mempertimbangkan apakah akan mengikuti model serupa atau justru memperkuat regulasi demi melindungi warganya. Kerja sama internasional dalam tata kelola AI menjadi semakin krusial, terutama karena teknologi ini melintasi batas negara.

Ke depan, pertanyaannya: apakah komitmen moral tanpa sanksi cukup untuk mencegah penyalahgunaan AI, ataukah dunia justru membutuhkan perjanjian internasional yang mengikat secara hukum? Indonesia memiliki peluang untuk mengambil posisi strategis dalam mendorong tata kelola AI global yang lebih akuntabel.