Sam Altman: Menjadikan AI sebagai "Kekuatan Religius" adalah Risiko Keselamatan Nyata

CEO OpenAI Sam Altman menyuarakan keprihatinan mendalam terhadap kecenderungan sebagian kalangan yang mengangkat model kecerdasan buatan ke posisi setara otoritas spiritual. Dalam unggahan di platform X pada Sabtu lalu, ia menegaskan bahwa sikap menyerahkan penilaian manusia sepenuhnya kepada AI merupakan persoalan keselamatan yang serius. "Saya sangat tidak nyaman dengan orang-orang yang mencoba memberikan kekuatan religius atau menyerahkan pertimbangan manusia kepada model AI, dan menurut saya ini adalah masalah keselamatan yang nyata," tulisnya.

Pernyataan itu muncul hanya beberapa hari setelah laporan The New York Times mengungkap pertemuan tertutup antara Anthropic dan sejumlah cendekiawan agama. Dalam forum tersebut, salah satu pendiri Anthropic, Chris Olah, membahas pertanyaan filosofis tentang kesadaran, moralitas, dan bagaimana sistem canggih seharusnya mengembangkan nilai-nilai ketika semakin mandiri. Olah mempertanyakan bagaimana membantu model AI tetap stabil, matang, dan memiliki landasan moral yang kokoh.

Altman juga menyoroti mundurnya David Robinson, yang sebelumnya menjabat sebagai pemimpin tim keamanan OpenAI. Robinson mengkritik pendekatan perusahaan terhadap manajemen risiko. Kepergiannya menambah daftar panjang sorotan terhadap cara laboratorium AI menangani isu keselamatan di tengah percepatan kapabilitas teknologi.

Kekhawatiran Altman bukan tanpa dasar. Dalam beberapa bulan terakhir, sejumlah organisasi teknologi mulai menjajaki kerja sama dengan lembaga keagamaan untuk merumuskan kerangka etika AI. Paus Leo XIV, dalam pidatonya di hadapan para diplomat pada September lalu, memperingatkan bahaya kehilangan kemanusiaan akibat "surga mesin" yang menginvasi kehidupan sehari-hari. Ia menyerukan pendidikan etika dan kemampuan mengenali kebaikan moral sebagai benteng pertahanan.

"Jika kita ingin menghindari kehilangan kemanusiaan di tengah 'surga mesin' yang menginvasi dan mengondisikan kehidupan kita, ada kebutuhan mendesak akan pendidikan dalam diskresi etis dan kapasitas untuk mengakui kebaikan moral," ujar Paus Leo XIV.

Bagi Indonesia, perdebatan ini bukan sekadar wacana internasional. Adopsi AI di sektor layanan publik, pendidikan, dan kesehatan terus meningkat, sementara regulasi etika AI masih dalam tahap pengembangan. Pemerintah melalui Kementerian Komunikasi dan Informatika telah menyusun peta jalan AI, namun aspek pengawasan terhadap potensi penyalahgunaan otoritas algoritmik belum menjadi prioritas utama. Jika kecenderungan menyerahkan keputusan strategis kepada mesin dibiarkan, risiko erosi akuntabilitas manusia bisa menjadi nyata.

Pengamat kebijakan teknologi menilai peringatan Altman sebagai sinyal bahwa industri perlu segera menyusun standar bersama. Mereka menekankan pentingnya transparansi dalam pengambilan keputusan AI, terutama ketika sistem digunakan untuk menentukan akses layanan publik atau menilai kelayakan kredit. Tanpa kerangka yang jelas, masyarakat rentan menerima output algoritmik sebagai kebenaran mutlak tanpa ruang koreksi.

Ke depan, pertanyaannya bukan lagi apakah AI akan semakin canggih, melainkan sejauh mana manusia tetap memegang kendali atas nilai dan keputusan yang mendasar. Dialog lintas disiplin—antara teknolog, agamawan, dan pembuat kebijakan—menjadi kunci untuk memastikan AI tetap menjadi alat, bukan pengganti hati nurani.