Block Rilis AI Suara Dessa yang Mirip Manusia, Picu Kekhawatiran Penipuan Telepon

Block, perusahaan pembayaran yang dipimpin Jack Dorsey, mengumumkan model kecerdasan buatan suara bernama Dessa yang kemampuannya meniru percakapan manusia memancing reaksi beragam—dari kagum hingga cemas akan penyalahgunaan. Dessa dilatih sepenuhnya menggunakan rekaman suara manusia, bukan teks, sehingga dapat mendengar sambil berbicara dan menyesuaikan diri dengan interupsi, tawa, serta perubahan nada lawan bicara.

Berbeda dari sistem konvensional yang mengubah suara menjadi teks terlebih dahulu sebelum merespons, Dessa memproses audio secara langsung. Block mengklaim model ini dibangun dari nol dengan satu sistem komputasi Nvidia GB200 NVL72 dan cukup ringkas untuk dijalankan secara lokal pada MacBook Pro berchip M4 Max atau lebih tinggi. Meski demikian, Dessa belum menjadi produk komersial; statusnya masih pratinjau riset.

Dalam demonstrasi yang diunggah perusahaan, Dessa terdengar tertawa di tengah kalimat dan bereaksi terhadap kejutan dengan emosi yang tampak tulus. Block menegaskan rekaman tersebut diambil secara langsung tanpa arahan atas respons model. Klaim ini belum diverifikasi pihak independen karena Block tidak merilis ukuran model, hasil benchmark, atau tanggal peluncuran.

Reaksi di media sosial X menunjukkan polarisasi. Sebagian pengguna memuji kealamian interaksi; seorang pengguna, Alexander Hoff, menyebut belum pernah mendengar suara artifisial yang begitu mirip manusia, sementara Hesamation menyebutnya seperti adegan film fiksi ilmiah. Pendiri Binance, Changpeng Zhao, melihat potensi positif untuk pendidikan, khususnya proyek GiggleAcademy, karena suara AI yang natural dapat membantu anak belajar melalui percakapan.

Namun, sisi gelap teknologi ini langsung disorot. Pembuat film Justine Bateman mempertanyakan mengapa suara AI perlu dibuat semirip mungkin dengan manusia, dan menilai hal itu dapat menurunkan kewaspadaan orang. Jurnalis Shiv Aroor bahkan memperingatkan bahwa panggilan penipuan bisa mencapai tingkat pandemi. Kekhawatiran ini masuk akal: suara yang sangat manusiawi mempersulit korban membedakan penelepon asli dari mesin, terutama dalam skema penipuan yang mengandalkan rekayasa sosial.

“Berbicara dengannya terasa seperti berbicara dengan seseorang… penuh emosi, nuansa, jeda, dan irama yang alami,” tulis Dorsey di X.

Block selama ini dikenal sebagai induk Square, Cash App, dompet bitcoin Bitkey, dan unit perangkat keras penambangan bitcoin Proto. Laboratorium riset AI-nya berada langsung di bawah Dorsey dan diperkuat oleh mantan staf Dessa, startup AI asal Toronto yang diakuisisi Square pada 2020. Langkah Block menggarap AI suara bukan tanpa alasan: perusahaan melihat teknologi berbasis suara dapat lebih baik menangkap isyarat emosional—seperti tekanan atau rasa sakit—yang sering hilang dalam transkrip teks.

Bagi Indonesia, perkembangan ini relevan dengan meningkatnya kasus penipuan digital, termasuk modus panggilan telepon yang mengaku sebagai pihak bank atau instansi. Jika model semacam Dessa jatuh ke tangan pelaku kejahatan, deteksi dini menjadi lebih sulit. Regulator telekomunikasi dan otoritas siber perlu memperbarui literasi digital masyarakat, sementara penyedia layanan suara dituntut mengembangkan alat verifikasi penelepon. Di sisi lain, industri lokal dapat memanfaatkan AI suara untuk layanan pelanggan atau pendidikan, dengan catatan tata kelola risiko yang ketat.

Ke depan, pertanyaannya bukan sekadar seberapa cepat Block merilis Dessa ke publik, melainkan bagaimana ekosistem AI global menyepakati standar transparansi—misalnya kewajiban menandai panggilan yang dihasilkan mesin. Tanpa itu, inovasi suara sintetis berpotensi memperlebar jurang kepercayaan di saluran komunikasi yang paling personal: telepon.