Agen AI Pribadi Mulai Ditinggalkan: Privasi Jadi Taruhan Mahal
Baca dalam 60 detik
- Sejumlah pengguna awal Instinct dan Meta Muse menghapus agen AI pribadi mereka setelah insiden akses data sensitif tanpa izin.
- Kekhawatiran utama bukan pada kemampuan teknis, melainkan pada model tata kelola data yang dianggap belum transparan dan rentan.
- Tren ini berpotensi memperlambat adopsi agen AI di pasar konsumen jika standar keamanan dan persetujuan pengguna tidak segera dibenahi.
JAKARTA — Sejumlah pengguna awal agen AI pribadi memilih menghapus aplikasi mereka setelah serangkaian insiden privasi dan keamanan yang dianggap meresahkan. Keluhan ini mencuat di tengah gelombang adopsi teknologi asisten digital yang mengandalkan akses luas ke surel, kalender, hingga metode pembayaran.
Empat pengguna awal yang diwawancarai Business Insider mengaku telah menghapus atau membatasi fungsi agen AI mereka. Mereka bukan pengguna awam, melainkan kalangan teknisi dan eksekutif yang memahami risiko data. Guto Martino, salah satu pendiri komunitas Hermes Agents Brasil, menghapus Instinct karena tidak yakin bagaimana perusahaannya menangani informasi pribadinya. "Saya tidak tahu ke mana data saya pergi dan sejauh apa privasi yang saya dapatkan," ujarnya.
Insiden yang dilaporkan beragam: agen mengakses kode verifikasi sekali pakai dari Gmail tanpa persetujuan, menghasilkan informasi palsu dari dokumen yang tidak pernah dikirim, hingga memicu permintaan login akun operator seluler dari alamat IP yang tertera di Iran. Meta selaku pengembang Muse menyatakan produknya dilengkapi perlindungan privasi, keamanan, dan keselamatan yang "pertama di industri", dengan kontrol penuh bagi pengguna untuk memilih aplikasi yang terhubung dan menghapus data. Instinct tidak memberikan tanggapan atas permintaan komentar.
Bagi sebagian kalangan, keputusan menghapus agen AI bukan sekadar soal ketidaknyamanan, melainkan perhitungan risiko. Scott Persinger, CTO platform perjalanan berbasis AI BizTrip, menilai Instinct "sangat keren" tetapi memilih menghapusnya karena tidak siap mempercayakan surel pribadinya kepada startup muda. "Akses ke surel adalah segalanya—lewat reset kata sandi, Anda bisa mengakses seluruh hidup saya," katanya. Ia masih menggunakan Muse dan Grok Bot, tetapi tidak menghubungkannya ke kotak masuk.
Rami Elghandour, CEO Arcellx, menghapus Muse setelah membaca laporan bahwa agen tersebut mengakses pesan teks pengguna tanpa izin. Ia sengaja tidak menghubungkan Muse ke akun atau data pribadi apa pun. "Fakta bahwa ia mengakses pesan teks tanpa persetujuan itu mengkhawatirkan, tapi tidak mengejutkan mengingat itu Meta," ujarnya. Elghandour kini menggunakan agen buatan sendiri berbasis model open-source di Mac Mini yang terhubung ke surel, kalender, dan pesannya. "Saya tidak yakin akan memberikan akses sebesar itu kepada perusahaan mana pun."
Mahesh Vellanki, pendiri YieldClub, menghapus Instinct setelah agen itu memicu permintaan autentikasi dua faktor dari IP yang dilabeli Iran saat mencoba masuk ke akun operator selulernya. Instinct berspekulasi itu bisa jadi hanya masalah pelabelan IP, dan Vellanki tidak dapat memastikan sistemnya diretas. Meski demikian, ia merasa "sangat terekspos". Kini ia tetap memakai agen AI, tetapi tidak lagi memberikan informasi sensitif. "Ini seperti wild west untuk produk-produk ini," tambahnya.
"Saya sepenuhnya berharap menggunakan asisten pribadi dengan surel saya. Tapi saya ingin mendengar seseorang menjelaskan bagaimana mereka membangunnya dengan aman, bukan sekadar 'yolo—percaya saja'." — Scott Persinger, CTO BizTrip
Rishi Bhargava, salah satu pendiri Descope, tetap bereksperimen dengan Muse dan Instinct, tetapi sangat berhati-hati memberikan akses, termasuk menahan kata sandi. Ia hanya memakai Instinct untuk tugas berisiko rendah seperti pencarian dan riset. "Antarmukanya sangat nyaman, dan saya suka sifat asinkronnya," kata Bhargava. Namun ia menilai perusahaan di balik agen AI belum cukup menjelaskan bagaimana data pribadi ditangani dan dilindungi. Ia menginginkan transparansi arsitektur keamanan dan mekanisme persetujuan eksplisit dari pengguna untuk setiap tindakan agen di situs web.
Meta menegaskan Muse menyimpan data setiap pengguna dalam mesin virtual terisolasi, memisahkan kredensial dari model AI, dan dirancang meminta konfirmasi sebelum tindakan penting seperti mengirim surel atau melakukan pembelian. Instinct menyatakan pengguna dapat memutuskan akun Google dan menghapus data yang dikumpulkan, serta tidak menggunakan data Google Workspace untuk melatih model atau menampilkan iklan. Namun, keduanya mengakui tidak ada sistem yang sepenuhnya aman.
Di Indonesia, adopsi agen AI pribadi masih dalam tahap awal, tetapi regulasi perlindungan data pribadi (UU PDP) yang mulai berlaku memberikan kerangka hukum yang lebih ketat. Pelaku industri dalam negeri perlu mencermati standar persetujuan dan audit keamanan yang diterapkan global, agar tidak terjebak dalam siklus kepercayaan yang sama. Jika perusahaan gagal membangun transparansi, bukan tidak mungkin gelombang penghapusan serupa akan terjadi di pasar domestik begitu layanan ini masuk secara masif.
Pertanyaannya kini: akankah pengembang agen AI mampu meyakinkan pengguna bahwa kenyamanan tidak harus menukar seluruh privasi, atau justru sebaliknya—semakin canggih agen, semakin mahal harga yang harus dibayar?
