Tiongkok Siapkan Aturan Tegas untuk Awasi Risiko Manusia Digital Berbasis AI
Baca dalam 60 detik
- Pemerintah Tiongkok merilis draf regulasi untuk mengatur industri "manusia digital" AI yang bernilai ratusan juta dolar guna mencegah penyalahgunaan dan mengatasi masalah etika.
- Aturan tersebut mewajibkan pelabelan konten AI secara jelas, melarang keras pembuatan kloning digital tanpa izin, dan membatasi AI yang dapat memicu ketergantungan emosional pada anak di bawah umur.
- Tindakan regulasi ini diambil menyusul maraknya tren pembuatan avatar AI dari orang yang sudah meninggal untuk meredakan duka, yang memicu perdebatan publik antara kenyamanan psikologis dan penipuan emosional.
Tiongkok mulai mempercepat langkah regulasi terhadap industri "manusia digital" (digital human) yang tengah berkembang pesat di negaranya. Langkah ini diambil seiring dengan meningkatnya popularitas avatar AI—termasuk yang meniru wujud orang yang sudah meninggal—yang memunculkan potensi risiko etika, psikologis, dan keamanan secara luas.
Fakta Pertumbuhan Industri Manusia Digital di Tiongkok:
- Nilai Ekonomi: Menurut Kantor Berita Xinhua, sektor ini bernilai sekitar 4,1 miliar yuan ($600 juta) pada tahun 2024, mencatatkan pertumbuhan 85% dari tahun ke tahun.
- Tren Penggunaan: Avatar AI ini digunakan secara luas di media sosial untuk e-commerce, pembuatan konten, hingga tujuan personal seperti mengatasi rasa duka dengan membuat replika dari anggota keluarga yang telah tiada.
- Sanksi Pelanggaran: Perusahaan yang melanggar pedoman regulasi yang baru dapat menghadapi denda mulai dari 10.000 yuan hingga 200.000 yuan.
Kisah tentang penggunaan AI untuk tujuan emosional ini tercermin pada Zhang Xinyu, seorang wanita yang menggunakan jasa perusahaan bernama Super Brain untuk membuat avatar mendiang ayahnya yang meninggal karena kanker. Meskipun hal ini membantunya mengatasi kesedihan, banyak kritikus yang memperingatkan bahaya ketergantungan emosional serta ilusi "kenyamanan palsu" yang ditawarkan oleh teknologi tersebut.
"Insiden viral yang melibatkan seorang wanita tua yang tanpa sadar berinteraksi dengan avatar putranya yang telah meninggal... memicu perdebatan sengit tentang apakah penggunaan AI semacam ini mewakili kenyamanan atau justru sebuah penipuan."
Rincian Draf Regulasi dari Cyberspace Administration of China
Merespons berbagai kekhawatiran tersebut, lembaga pengawas internet Tiongkok (Cyberspace Administration of China) telah mengeluarkan draf aturan yang bertujuan memperketat pengawasan. Berikut adalah poin-poin utama dari aturan yang diusulkan:
| Fokus Regulasi | Ketentuan Utama dalam Draf |
|---|---|
| Hak Konsen & Identitas | Melarang keras pembuatan replika digital (suara/wajah) tanpa persetujuan eksplisit dari individu yang bersangkutan. |
| Transparansi Konten | Mewajibkan pemberian label yang jelas pada semua konten yang dihasilkan oleh Kecerdasan Buatan (AI). |
| Perlindungan Anak (Di Bawah Umur) | Melarang sistem AI yang mendorong ketergantungan emosional atau mensimulasikan hubungan intim yang dapat berdampak buruk bagi anak-anak. |
| Pencegahan Penyalahgunaan | Mencegah penggunaan AI untuk penipuan, penyebaran misinformasi, serta konten yang dapat mengancam stabilitas sosial atau keamanan nasional. |
Draf peraturan ini terbuka untuk komentar publik hingga awal bulan Mei, yang kemudian akan dilanjutkan dengan penegakan hukum yang lebih ketat. Para ahli menilai model regulasi Tiongkok ini berpotensi menjadi cetak biru bagi negara-negara lain yang tengah bergulat dengan dilema etika seputar identitas, persetujuan, dan dampak emosional dari AI.
