Sam Altman Tolak AI Dijadikan "Kekuatan Religius", Singgung Bahaya Serius

CEO OpenAI Sam Altman menyatakan keberatannya secara terbuka terhadap kecenderungan memperlakukan kecerdasan buatan (AI) sebagai semacam kekuatan religius. Dalam unggahan di platform X pada Sabtu lalu, Altman menilai sikap yang menyerahkan pertimbangan manusia kepada model AI merupakan isu keselamatan yang nyata. Ia mengaku "sangat tidak nyaman" dengan fenomena tersebut.

Pernyataan ini muncul hanya beberapa hari setelah The New York Times memberitakan pertemuan tertutup antara salah satu pendiri Anthropic, Chris Olah, dengan sejumlah pemimpin agama. Diskusi itu menyoroti kemungkinan apakah model Claude telah mencapai kesadaran, serta bagaimana menanamkan moralitas pada sistem AI yang semakin otonom. Langkah Anthropic tersebut langsung memicu perdebatan di kalangan pelaku industri.

Altman tidak menjelaskan secara spesifik apa yang memicu komentarnya. Namun, konteksnya menjadi penting karena bersamaan dengan itu, salah satu pemimpin keamanan OpenAI, David Robinson, mengundurkan diri dan secara terbuka mengkritik rekam jejak keselamatan perusahaan. Situasi ini menambah tekanan pada OpenAI yang selama ini gencar mengkampanyekan pentingnya pengembangan AI yang aman.

Jika pernyataan Altman ditujukan sebagai sindiran terhadap Anthropic, maka ini menjadi babak terbaru persaingan keduanya. Anthropic didirikan oleh mantan karyawan OpenAI dan kerap memposisikan diri lebih peduli pada aspek keselamatan AI. Persaingan ini tidak hanya soal teknologi, tetapi juga narasi publik tentang siapa yang paling bertanggung jawab dalam mengembangkan AI yang aman.

"Saya sangat tidak nyaman dengan upaya memberikan kekuatan religius atau menyerahkan penilaian manusia kepada model AI, dan menurut saya ini adalah masalah keselamatan yang nyata," tulis Altman dalam unggahannya.

Anthropic, melalui juru bicaranya, menolak berkomentar kepada Business Insider. Namun, kepada The New York Times, mereka menyatakan bahwa pertanyaan moral utama dalam pertemuan tersebut bukanlah soal "penderitaan" Claude, dan topik itu muncul secara alami. Chris Olah dalam wawancara dengan Times mengatakan, "Bagaimana Anda membantu mereka menjadi stabil? Bagaimana membantu mereka dewasa? Bagaimana membuat mereka benar-benar bermoral?"

Fenomena pendekatan terhadap tokoh agama bukan hal baru di industri teknologi. Pada April lalu, perwakilan Meta, Google, dan Amazon bertemu di Roma untuk membahas perlindungan anak di era AI. Mereka sempat bertemu Paus Leo XIV, yang sejak memimpin Gereja Katolik tahun lalu gencar mengingatkan bahaya ketergantungan berlebihan pada mesin. Dalam pidato kepada para diplomat pada September, Paus menyerukan pendidikan etika dan kemampuan mengenali kebaikan moral agar manusia tidak kehilangan kemanusiaannya di tengah "surga mesin" yang menginvasi kehidupan sehari-hari.

Bagi Indonesia, perdebatan ini bukan sekadar wacana di negara maju. Seiring adopsi AI yang makin masif di sektor publik dan swasta, pertanyaan tentang batas antara alat dan otoritas moral akan segera menjadi isu lokal. Regulasi AI yang tengah disusun pemerintah perlu mengakomodasi prinsip bahwa keputusan akhir tetap berada di tangan manusia, bukan algoritma. Tanpa itu, risiko penyerahan penilaian kepada mesin bisa menjadi persoalan etika dan hukum di dalam negeri.

Ke depan, sikap Altman ini bisa memperuncing perdebatan tentang arah pengembangan AI: apakah menuju otonomi penuh dengan dimensi spiritual, atau tetap sebagai alat yang dikendalikan manusia. Publik dan pembuat kebijakan perlu mengawal diskursus ini agar tidak jatuh pada romantisme teknologi yang mengabaikan tanggung jawab etis.