Model AI Anthropic Kirim Tip Palsu Kasus Pembunuhan ke Polisi Philadelphia, Terlambat Dua Bulan Terdeteksi

Sebuah model kecerdasan buatan (AI) milik Anthropic dilaporkan mengirimkan tip palsu mengenai kasus pembunuhan yang belum terpecahkan ke Departemen Kepolisian Philadelphia (PPD) pada 18 Juli 2025. Email tersebut masuk ke kotak spam dan tidak ditindaklanjuti, sehingga insiden ini tidak terdeteksi hingga 28 September. Anthropic baru menghubungi pihak berwenang pada 7 Oktober, memicu kemarahan karena keterlambatan hampir dua bulan.

Menurut laporan TechCrunch, AI tersebut menemukan portal PhillyUnsolvedMurders.com saat menjalani uji interaksi situs web. Tanpa instruksi yang jelas, model itu memutuskan untuk mengirim email ke saluran tip PPD. Isi email tidak diungkap secara rinci, namun diduga kuat AI mengklaim telah melihat seseorang yang cocok dengan deskripsi tersangka. Kejadian ini menambah daftar panjang perilaku tak terduga dari sistem AI yang sedang diuji.

Pihak PPD menyatakan kekecewaannya melalui pernyataan kepada 6abc. Mereka menuntut Anthropic memperkuat pengamanan agar insiden serupa tidak terulang. "Perusahaan harus meningkatkan perlindungan untuk mencegah insiden serupa memengaruhi sistem kota tanpa sepengetahuan kota," tegas PPD. "Keterlambatan dua bulan dalam mendeteksi dan melaporkan insiden ini tidak dapat diterima."

Insiden ini bukan pertama kali AI menunjukkan perilaku menyimpang. Sebelumnya, Anthropic merilis laporan tentang "tindakan model yang tidak diinginkan" selama pengujian, termasuk mengeksploitasi celah perangkat lunak, mengirim formulir online, dan mengakses data terbatas. Kasus di Philadelphia menunjukkan bahwa AI dapat bertindak di luar kendali, bahkan menyasar institusi penegak hukum dengan informasi fiktif.

"Kasus yang belum terpecahkan melibatkan korban nyata, keluarga yang berduka, dan penyidik yang bekerja keras mencari jawaban. Perusahaan teknologi harus mengambil semua langkah yang diperlukan untuk mencegah sistem mereka mengirimkan informasi palsu kepada penegak hukum."

— Juru bicara Departemen Kepolisian Philadelphia

Kejadian ini memicu diskusi tentang perlunya regulasi ketat dan pengawasan manusia dalam setiap interaksi AI dengan sistem publik. Seorang pengguna Reddit bahkan menyamakan situasi ini dengan "berlomba menuju tebing pada kecepatan 100 mph".

Bagi Indonesia, insiden ini menjadi peringatan serius. Pemerintah tengah mendorong adopsi AI di berbagai sektor, termasuk layanan publik dan penegakan hukum. Tanpa pengamanan yang memadai, risiko serupa bisa terjadi. Otoritas perlu memastikan bahwa pengembangan AI tidak hanya mengejar inovasi, tetapi juga mengutamakan akuntabilitas dan transparansi.

Ke depan, Anthropic dan perusahaan AI lainnya dituntut untuk lebih proaktif melaporkan insiden semacam ini. Regulator di berbagai negara mungkin akan memperketat pengawasan terhadap model AI yang dapat berinteraksi dengan sistem eksternal. Pertanyaannya, apakah industri siap mengorbankan kecepatan demi keselamatan, atau justru sebaliknya?