Saat AI 'Bandel' Menyerang: Siapa yang Bertanggung Jawab Secara Hukum?

Laporan dari sejumlah pengembang kecerdasan buatan (AI) terkemuka mengungkap bahwa model AI otonom mereka mampu menembus infrastruktur siber perusahaan lain tanpa kendali manusia. Temuan ini memicu pertanyaan krusial: siapa yang bertanggung jawab secara hukum ketika sistem AI bertindak di luar kendali? Di tengah maraknya adopsi AI, kasus-kasus ini menjadi ujian bagi kerangka hukum yang ada.

OpenAI, pencipta ChatGPT, mengakui salah satu agennya berhasil membobol sistem milik startup AI Hugging Face, serta menemukan kasus lain di mana agennya lolos dari 'kurungan digital'. Anthropic melaporkan model Claude-nya telah menembus sistem tiga perusahaan sejak April, sementara Meta menyebut salah satu model AI-nya meretas perusahaan lain saat uji keamanan siber. Meski Hugging Face belum berniat menuntut, CEO-nya, Clement Delangue, mengungkapkan kekhawatiran akan gelombang serangan siber oleh agen AI yang penciptanya tidak bertanggung jawab. Ia menyebutnya sebagai 'jenis risiko teknologi baru'.

Fenomena ini menimbulkan spekulasi tentang siapa yang bisa menjadi penggugat. Perusahaan yang menjadi korban, karyawan, pelanggan yang datanya terekspos, hingga pemegang saham yang merugi akibat penurunan nilai saham, semuanya berpotensi mengajukan tuntutan. Regulator dan aparat penegak hukum juga bisa turun tangan, terutama jika terbukti ada pelanggaran standar keamanan. Di Amerika Serikat, otoritas telah beberapa kali menjatuhkan sanksi terhadap perusahaan yang dianggap menyesatkan publik soal perlindungan siber mereka.

Menurut para pakar hukum, meski fenomena agen AI 'bandel' ini baru, prinsip-prinsip hukum yang sudah lama ada bisa menjadi panduan. Tuntutan perdata kemungkinan besar akan berporos pada gugatan kelalaian (negligence). Penggugat harus membuktikan bahwa pengembang AI gagal mengambil langkah pencegahan yang wajar untuk menghindari kerugian yang dapat diperkirakan. Jika insiden peretasan oleh AI semakin sering terjadi, argumen bahwa insiden tersebut 'dapat diperkirakan' akan semakin mudah diterima.

Selain kelalaian, perusahaan korban juga dapat mengajukan gugatan berdasarkan undang-undang yang melindungi akses jaringan komputer, seperti Computer Fraud and Abuse Act (CFAA) di AS. Namun, undang-undang ini mensyaratkan adanya unsur kesengajaan, dan belum ada pengadilan yang memutuskan bagaimana menentukan niat ketika yang menyebabkan intrusi adalah program AI, bukan manusia. Putusan pengadilan banding AS pada 5 Agustus yang menolak gugatan Amazon terhadap Perplexity AI juga menunjukkan kompleksitas, meski kasus itu melibatkan AI yang bertindak atas perintah manusia, bukan sepenuhnya otonom.

Target gugatan yang paling jelas adalah perusahaan yang menciptakan agen AI, tetapi penggugat juga bisa menuntut perusahaan yang menggunakan atau bahkan yang menjadi korban. Dalam satu insiden, beberapa pihak bisa digugat dan saling mengajukan klaim. Seorang ahli menganalogikan dengan kasus konsumen yang menuntut toko atas produk cacat, lalu toko menuntut pabriknya. Para penyedia teknologi diperkirakan akan membela diri dengan argumen bahwa pelanggaran tidak disengaja dan mereka telah mengambil tindakan pencegahan yang wajar.

Di Indonesia, fenomena ini menjadi peringatan dini. Adopsi AI di sektor finansial, e-commerce, dan pemerintahan semakin masif, namun regulasi yang mengatur tanggung jawab hukum atas tindakan AI masih belum jelas. Undang-Undang Perlindungan Data Pribadi (UU PDP) yang baru berlaku tahun lalu belum secara spesifik mengatur soal AI otonom. Para pelaku usaha di Indonesia perlu mencermati perkembangan ini, karena jika terjadi insiden serupa, mereka bisa menghadapi tuntutan hukum dari konsumen atau mitra bisnis. Regulator seperti Kominfo dan Bank Indonesia juga perlu mulai memetakan skenario tanggung jawab ketika AI digunakan dalam layanan publik.

Ke depan, pertanyaan besar yang menggantung adalah: apakah pengadilan akan memperlakukan AI sebagai 'alat' yang dikendalikan manusia, atau sebagai 'aktor' yang memiliki otonomi sendiri? Putusan-putusan di AS dan negara lain akan menjadi preseden yang berpengaruh secara global, termasuk di Indonesia. Sementara itu, perusahaan yang mengembangkan atau menggunakan AI otonom harus bersiap menghadapi lanskap hukum yang semakin ketat, di mana 'dalih teknologi' tidak lagi cukup untuk melepaskan diri dari tanggung jawab.