ITU Bentuk Gugus Tugas untuk Jaga Akuntabilitas AI Agent

Badan Perserikatan Bangsa-Bangsa untuk teknologi digital, International Telecommunication Union (ITU), mengumumkan pembentukan Focus Group yang bertujuan merumuskan kerangka kerja guna memastikan kecerdasan buatan (AI) yang bertindak secara otonom—dikenal sebagai AI agent—tetap dapat diawasi dan dipertanggungjawabkan. Langkah ini diambil di tengah meningkatnya kekhawatiran bahwa AI agent dapat digunakan untuk menyamar sebagai manusia atau mengambil keputusan tanpa izin.

AI agent merupakan generasi baru sistem AI yang dirancang untuk bertindak mandiri atas nama pengguna, mulai dari menjadwalkan pertemuan, melakukan pembelian, hingga menangani proses bisnis yang kompleks. Meskipun dapat meningkatkan produktivitas, teknologi ini juga membawa risiko serius, seperti penipuan identitas dan pengambilan keputusan yang tidak sah. ITU menekankan bahwa tanpa kerangka pengawasan yang jelas, AI agent bisa menjadi alat yang membahayakan, terutama di sektor sensitif seperti transaksi keuangan dan infrastruktur kritis.

Dalam pengumuman di AI for Good Summit di Jenewa, Co-Chair Focus Group Debora Comparin menyatakan bahwa AI agent akan segera menjadi entitas yang bernegosiasi, bertransaksi, dan mengambil keputusan atas nama manusia. “Kita membutuhkan fondasi internasional yang sama untuk menetapkan siapa agen-agen ini, bagaimana dan kapan mereka bisa dipercaya,” ujarnya. Pernyataan ini menggarisbawahi urgensi untuk memiliki standar global sebelum teknologi tersebut meluas tanpa kendali.

Bagi Indonesia, inisiatif ITU ini menjadi pengingat bahwa regulasi AI di dalam negeri masih perlu diperkuat. Saat ini, adopsi AI di sektor perbankan, e-commerce, dan layanan publik semakin masif, namun belum diimbangi dengan kerangka hukum yang spesifik mengatur AI agent. Otoritas Jasa Keuangan (OJK) dan Kementerian Komunikasi dan Digital dapat menjadikan rekomendasi Focus Group sebagai acuan dalam menyusun kebijakan yang adaptif, sehingga Indonesia tidak hanya menjadi pasar tetapi juga berperan dalam membentuk tata kelola AI global.

Ke depan, tantangan terbesar bukan hanya pada aspek teknis, melainkan juga pada kesepakatan lintas negara mengenai batas otonomi AI. Apakah setiap negara akan mengadopsi standar yang sama, atau justru muncul fragmentasi regulasi yang menyulitkan interoperabilitas? Jawabannya akan menentukan sejauh mana AI agent dapat diintegrasikan ke dalam kehidupan sehari-hari tanpa mengorbankan keamanan dan hak-hak fundamental manusia.