AS Paksa Anthropic Hentikan Claude AI: Ketika Model Terlalu Pintar untuk Dilepas

Pemerintah Amerika Serikat secara mendadak memerintahkan laboratorium kecerdasan buatan Anthropic untuk menghentikan akses publik terhadap model AI terbarunya, Claude Fable 5 dan Mythos 5, hanya tiga hari setelah perilisan—langkah yang mengungkap keretakan serius antara Washington dan industri AI frontier.

Perintah yang dikeluarkan pada Jumat (12 Juni) itu melarang penggunaan kedua model oleh siapa pun yang bukan warga negara AS. Anthropic, yang berbasis di San Francisco, langsung mematuhi arahan tersebut tanpa penjelasan resmi dari pemerintah. Namun, perusahaan menduga keputusan itu dipicu oleh ditemukannya metode jailbreak yang dapat menembus sistem pengaman Fable, memungkinkan akses ke kemampuan hacking tingkat tinggi yang sengaja dikunci.

Mythos 5, yang dirilis pada April lalu, sempat disebut oleh Anthropic sebagai model paling canggih mereka—terlalu mahir dalam peretasan untuk dilepas ke publik. Alih-alih, Mythos hanya diberikan kepada segelintir organisasi, mayoritas perusahaan teknologi AS, untuk menambal celah keamanan sistem digital vital. Sementara itu, Fable 5 adalah versi publik dari model yang sama, tetapi dengan lapisan pengaman tambahan yang dirancang untuk mencegah penyalahgunaan di bidang keamanan siber. Ironisnya, pengaman itulah yang justru menjadi titik lemah.

Ketegangan antara Anthropic dan pemerintahan Trump sebenarnya sudah berlangsung sejak awal 2025. Pemerintah menuduh Anthropic menciptakan "AI yang terlalu sensitif" dan menyebut CEO Dario Amodei sebagai "ideolog gila". Perselisihan awal berkisar pada regulasi AI dan kebijakan ekspor semikonduktor, tetapi memuncak ketika Anthropic menolak permintaan Pentagon untuk menggunakan model mereka dalam pengawasan domestik dan sistem senjata otonom penuh. Sebagai balasan, Departemen Pertahanan mengancam akan menetapkan Anthropic sebagai "risiko rantai pasok", yang akan memaksa kontraktor militer memutus hubungan.

Menurut Anthropic, penelitian yang mendasari perintah pemerintah tampaknya berasal dari insinyur Amazon—perusahaan yang sekaligus menjadi pesaing dan investor signifikan Anthropic. Namun, bukan itu satu-satunya celah. Dalam 48 jam setelah Fable 5 dirilis, seorang peneliti dengan nama samaran "Pliny the Liberator" mempublikasikan system prompt lengkap model tersebut di X dan GitHub. System prompt adalah serangkaian instruksi tersembunyi yang menentukan perilaku AI, dan meski belum jelas bagaimana pengetahuan itu bisa dimanfaatkan, peristiwa ini menarik perhatian komunitas bawah tanah yang disebut "Undersphere".

Masalah mendasar dalam mengamankan model bahasa besar seperti Fable, menurut ekonom Universitas Oxford sekaligus pakar pembelajaran mesin Maximilian Kasy, adalah bahwa kita tidak sepenuhnya memahami cara kerja mereka. "Model-model ini bekerja jauh lebih baik daripada yang seharusnya," ujarnya. Dengan miliaran parameter internal dan dilatih pada data raksasa, sistem seperti Claude dan ChatGPT mampu melakukan generalisasi—sesuatu yang tidak diharapkan secara teoretis. Kasy menyamakan pengembangan AI modern dengan alkimia: berhasil melalui coba-coba, tetapi belum didasari teori sistematis. Akibatnya, perilaku AI sebagian tidak bisa dijelaskan bahkan oleh pembuatnya sendiri.

Opasitas teknologi ini menjadi alasan utama mengapa regulasi begitu sulit. Pemerintah tidak memiliki akses independen terhadap data, infrastruktur, dan keahlian yang diperlukan untuk mengevaluasi model frontier milik swasta. Perintah eksekutif keamanan AI yang diterbitkan dua pekan lalu oleh pemerintahan Trump, yang meminta pengembang berbagi model untuk ditinjau sebelum dirilis, merupakan pengakuan implisit bahwa pemerintah tidak mempercayai perusahaan untuk mengevaluasi kemampuan dan potensi penyalahgunaan model mereka secara menyeluruh.

Bagi Indonesia, perkembangan ini menjadi pengingat bahwa AI frontier bukanlah sekadar alat produktivitas, melainkan teknologi dengan dampak geopolitik yang dalam. Negara-negara berkembang, termasuk Indonesia, kerap menjadi konsumen teknologi yang dikembangkan di negara maju, tanpa memiliki kendali atas keamanan dan etika penggunaannya. Ketika AS membatasi akses ke model tertentu, negara lain bisa tertinggal dalam pemanfaatan AI untuk pertahanan siber atau pembangunan infrastruktur digital. Di sisi lain, insiden ini juga menunjukkan pentingnya membangun kapasitas riset AI mandiri agar tidak bergantung sepenuhnya pada ekosistem asing yang rentan terhadap intervensi politik.

"Kita tidak bisa mengandalkan regulasi karena teknologi akan berkembang lebih cepat daripada adaptasi aturan. Kita juga tidak bisa mengandalkan pagar pengaman karena akan selalu ada yang menerobosnya. Yang dibutuhkan adalah kerangka tata kelola yang dibangun untuk mengantisipasi kegagalan—global, partisipatif, dan berdasarkan kepercayaan timbal balik," tulis Francesco Bailo, dosen senior di Universitas Sydney, dalam analisisnya.

Pertanyaan yang kini menggantung: apakah langkah AS ini merupakan awal dari era baru pengawasan ketat terhadap AI, atau justru akan memicu fragmentasi global di mana setiap negara mengembangkan standar keamanan sendiri? Jika tren ini berlanjut, bukan tidak mungkin Indonesia dan negara-negara Asia Tenggara lainnya harus segera merumuskan strategi AI yang tidak hanya inovatif, tetapi juga berdaulat.