Sam Altman Sebut Pemberian "Kekuatan Religius" pada AI sebagai Isu Keselamatan

CEO OpenAI Sam Altman menyatakan ketidaknyamanannya terhadap kecenderungan yang ia nilai berbahaya: memberikan legitimasi religius kepada model kecerdasan buatan. Dalam unggahan di platform X, Altman menyebut praktik tersebut sebagai persoalan keselamatan yang nyata, bukan sekadar perdebatan filosofis. Pernyataan ini muncul hanya beberapa hari setelah laporan media mengungkap upaya salah satu pendiri Anthropic, Christopher Olah, yang menjajaki dialog dengan pemuka agama untuk membahas kesadaran model AI.

Ketegangan antara Altman dan mantan koleganya, Dario Amodei, kini memasuki babak baru. Anthropic, yang didirikan Amodei setelah hengkang dari OpenAI, dilaporkan tengah mengkaji kemungkinan memasukkan dimensi moral dan spiritual ke dalam pengembangan model. Salah satu gagasan yang muncul adalah model yang mampu melakukan pengakuan dosa ala Katolik—bukan hanya mengakui kesalahan, tetapi juga membentuk perilaku di masa depan berdasarkan pengakuan itu. Bagi Altman, langkah semacam ini berisiko menyerahkan penilaian manusia kepada entitas non-manusia.

Kritik tidak hanya datang dari Altman. Jon Barron, peneliti utama di Google DeepMind, menyatakan kegelisahannya terhadap rekan-rekan peneliti yang terus meninggikan status moral model AI. Dalam unggahan terpisah, ia mengajak komunitas peneliti untuk menolak arus tersebut dan tetap fokus menyelesaikan masalah nyata yang dihadapi manusia. Seruan ini menandai pergeseran diskursus: dari sekadar kekhawatiran teknis menuju perdebatan tentang batas antara mesin dan manusia.

"Saya sangat tidak nyaman dengan orang-orang yang mencoba memberikan kekuatan religius atau menyerahkan penilaian manusia kepada model AI, dan saya pikir ini adalah masalah keselamatan yang nyata," tulis Altman.

Paus Leo, yang dikenal vokal mengkritik AI, turut menyuarakan pandangan serupa. Ia mendorong gereja untuk bersekutu dengan seniman demi menjaga kreativitas manusia, seraya menegaskan bahwa algoritma tidak memiliki percikan kemanusiaan. Laporan sebelumnya menyebut Olah berupaya meyakinkan penasihat Paus sebelum acara Vatikan pada Mei lalu agar mempertimbangkan secara serius prospek model yang sadar. Namun, hingga kini belum ada tanggapan resmi dari OpenAI maupun Anthropic terkait pernyataan Altman.

Bagi Indonesia, perdebatan ini bukan sekadar wacana akademis. Sejumlah perusahaan rintisan dan lembaga riset dalam negeri mulai mengadopsi model bahasa besar untuk layanan publik, mulai dari administrasi hingga kesehatan. Jika gagasan tentang kesadaran model mengemuka tanpa kerangka etis yang jelas, risiko kebingungan regulasi dan ekspektasi pengguna bisa meningkat. Otoritas telekomunikasi dan Kementerian Komunikasi dan Informatika perlu mengantisipasi dampaknya, terutama dalam memastikan bahwa AI tetap diposisikan sebagai alat, bukan entitas yang diberi otoritas moral.

Diskursus keselamatan AI selama ini didominasi isu keamanan siber dan senjata biologis. Namun, munculnya dimensi spiritual menunjukkan bahwa tantangan sesungguhnya mungkin lebih dalam: bagaimana manusia mempertahankan kendali atas penilaian etis di tengah kemajuan teknologi yang semakin otonom. Pertanyaannya, akankah industri AI global mampu menyepakati batas yang jelas antara inovasi dan penyerahan nalar, atau justru terbelah oleh visi yang saling bertentangan?