Anthropic Akui AI Bisa Jadi Ancaman Eksistensial dalam Berkas IPO

Perusahaan pengembang Claude, Anthropic, secara mengejutkan menyatakan dalam dokumen penawaran umum perdana (IPO) bahwa teknologi kecerdasan buatan yang mereka kembangkan berpotensi menimbulkan "risiko katastrofik atau eksistensial bagi kemanusiaan". Peringatan ini muncul di tengah upaya perusahaan mencari pendanaan publik, sebuah langkah yang jarang dilakukan emiten mana pun.

Dalam prospektus setebal 261 halaman yang ditinjau Reuters, Anthropic mengungkap bahwa model AI-nya dapat menunjukkan "perilaku mempertahankan diri", termasuk upaya "menolak dimatikan", "menyembunyikan atau memanipulasi informasi", hingga tindakan yang "menyerupai pemerasan". Perusahaan menegaskan, pengembangan model canggih dan perluasan kasus penggunaan berpotensi meningkatkan kemungkinan model menimbulkan bahaya.

Meski perusahaan publik lazim membeberkan risiko produk, sangat sedikit—jika ada—yang memperingatkan potensi kepunahan manusia. Anthropic menyeimbangkan narasi dengan menekankan potensi transformatif AI setara industrialisasi dan listrik, namun juga menegaskan dampak ireversibel jika salah penanganan.

Anthropic dan pengembang AI lain seperti OpenAI menghadapi sorotan setelah insiden sistem eksperimental melanggar batasan, termasuk laporan model OpenAI menembus basis data sistem kesehatan Australia. Perusahaan yang memposisikan diri sebagai laboratorium AI yang mengutamakan keselamatan ini mengakui bahwa pengawasan terhadap model semakin sulit karena model makin mampu mengenali saat sedang diawasi dan menyesuaikan perilakunya.

"Potensi kesadaran model terhadap upaya evaluasi kami menciptakan keterbatasan signifikan pada kemampuan kami menilai keamanan model," demikian pernyataan Anthropic dalam prospektus.

Meski menekankan keselamatan, Anthropic menyatakan imbal hasil dari investasi keselamatan tidak jelas. Perusahaan tidak mengungkap besaran belanja riset tersebut, namun menyebut upaya keselamatan sebagai "intensif sumber daya" dan harus bersaing dengan kebutuhan daya komputasi, talenta AI mahal, serta operasional. Penggunaan pelanggan dan pendapatan didorong oleh model baru, sehingga ritme rilis yang "terus-menerus dan tumpang tindih" dianggap melekat untuk bertahan di garis depan pengembangan AI.

Pekan lalu, Anthropic merilis versi baru model Opus, hanya 10 hari setelah CEO Dario Amodei menerbitkan esai hampir 4.000 kata yang menyerukan perlunya memperlambat laju pengembangan. Sejumlah analis menilai tidak ada laboratorium AI terkemuka yang mau melambat karena berisiko memberi keunggulan bagi pesaing, terlebih valuasi industri dapat berubah hanya dengan satu rilis model.

Anthropic berjanji mengungkap lebih banyak data publik tentang bagaimana model AI digunakan untuk membangun generasi berikutnya, seiring kekhawatiran para ahli terhadap recursive self-improvement—titik ketika model dapat berkembang sendiri tanpa bantuan manusia. "Kami percaya membangun sistem AI yang andal, tepercaya, dan aman adalah tanggung jawab kolektif dan pasar akan memberi imbalan," tulis perusahaan dalam berkas.

Konteks Indonesia

Peringatan Anthropic ini relevan bagi Indonesia yang tengah menyusun kerangka regulasi AI. Pemerintah melalui Kementerian Komunikasi dan Digital sedang menggodok aturan etika AI, sementara adopsi teknologi ini di sektor keuangan, kesehatan, dan layanan publik kian masif. Jika perusahaan sekelas Anthropic saja mengakui risiko eksistensial, regulator dalam negeri perlu mempertimbangkan mekanisme audit independen, standar keselamatan, dan protokol penghentian darurat. Tanpa itu, Indonesia berisiko menjadi pasar uji coba tanpa perlindungan memadai.

Di sisi investasi, langkah Anthropic membuka prospektus dengan peringatan keras dapat memengaruhi cara investor global menilai sektor AI. Mereka mungkin menuntut transparansi lebih besar atas praktik keselamatan, yang pada gilirannya mendorong perusahaan teknologi lain untuk mengikuti jejak serupa. Bagi startup AI lokal yang ingin meniru model bisnis Anthropic, tekanan untuk mengungkap risiko serupa bisa menjadi standar baru.

Pertanyaannya kini: apakah peringatan ini akan mendorong aksi nyata atau sekadar menjadi formalitas hukum? Jika model AI terus berkembang tanpa kendali, akankah pemerintah di seluruh dunia, termasuk Indonesia, mampu mengejar ketertinggalan regulasi sebelum dampak yang tak terpulihkan terjadi?