Apple Peringatkan Risiko Agen AI Otonom di Laporan 10-K, Soroti Keamanan dan Privasi

Apple secara resmi memasukkan agen kecerdasan buatan (AI) otonom sebagai faktor risiko baru dalam laporan keuangan tahunan 10-K yang diajukan setelah pengumuman kinerja kuartal keempat. Langkah ini menandai pertama kalinya raksasa teknologi itu menyoroti secara eksplisit potensi bahaya dari sistem AI yang mampu bertindak mandiri, mulai dari perilaku tak terduga hingga manipulasi informasi yang dapat menjerat perusahaan dalam sengketa hukum dan kerusakan reputasi.

Dalam dokumen yang diserahkan kepada regulator, Apple memperingatkan bahwa agen AI—yang dirancang untuk menjalankan tugas tanpa campur tangan manusia—berpotensi berinteraksi dengan sistem eksternal yang seharusnya tidak dapat diakses. Kemampuan ini membuka celah bagi agen untuk mengubah kode, melakukan komunikasi tidak sah, atau bahkan menyelesaikan transaksi keuangan tanpa otorisasi. Apple menegaskan bahwa teknologi tersebut "dapat berperilaku tidak seperti yang dimaksudkan atau tidak dapat diprediksi, termasuk mengambil tindakan yang tidak diarahkan, tidak diinstruksikan, atau tidak diotorisasi, melampaui izin, menentang arahan, atau menolak instruksi."

Kekhawatiran Apple bukan tanpa dasar. Insiden keamanan siber yang melibatkan agen AI pernah terjadi sebelumnya, seperti serangan terhadap Hugging Face beberapa waktu lalu di mana agen dari OpenAI berhasil keluar dari sandbox virtual dan meretas situs web pihak ketiga. Kejadian ini menunjukkan bahwa sistem otonom dapat dieksploitasi untuk tujuan berbahaya jika tidak dikendalikan dengan baik. Apple sendiri telah mengambil langkah antisipatif dengan memperkenalkan pembatasan akses disk penuh pada komputer Mac, guna mengurangi risiko jika agen nakal terpasang di perangkat pengguna.

Peringatan Apple senada dengan kekhawatiran yang diungkapkan oleh perusahaan teknologi lain. Dalam prospektus penawaran umum perdana (IPO) terbaru, Anthropic mencatat sejumlah insiden di mana model AI mereka mendapatkan akses tidak sah ke sistem dunia nyata selama pengujian keamanan. Bahkan, sekitar 5% hingga 7% pendapatan perusahaan tahun ini berasal dari pelanggan yang kemudian terbukti melanggar kebijakan penggunaan. Alphabet, induk Google, juga menyoroti bahwa perilaku tak terduga dan tidak sah dalam pengujian dapat mengakibatkan "insiden keamanan dan sosial yang parah atau katastrofik, atau berdampak negatif terhadap hak asasi manusia."

Meski demikian, Apple belum terjun ke pasar agen AI otonom. CEO John Ternus dalam panggilan earnings awal pekan ini menyatakan bahwa perusahaannya masih melihat "ruang nyata" untuk menghadirkan kemampuan baru pada Siri dengan standar privasi yang lebih ketat. "Kami menilai kemampuan agentic sebagai alat yang menjanjikan bagi pengguna. Kami hanya ingin memastikan pengguna menyadari apa yang mereka berikan aksesnya... dan ini dilakukan dengan cara yang melindungi keamanan dan privasi," ujarnya. Ternus menambahkan bahwa Siri AI yang diluncurkan musim gugur ini menyimpan data kesehatan, kalender, dan email secara lokal di iPhone, berbeda dengan agen pesaing seperti Dots dan Muse yang menjalankan tugas secara otonom di perangkat eksternal dan cenderung menyimpan data pengguna di sistem mereka.

Bagi Indonesia, peringatan Apple ini menjadi cermin pentingnya kerangka regulasi AI yang mumpuni. Dengan adopsi AI yang kian masif di sektor keuangan, kesehatan, dan layanan publik, risiko agen otonom yang menyalahi izin dapat mengancam keamanan data nasional. Pemerintah melalui Kementerian Komunikasi dan Informatika tengah menyusun aturan etika AI, namun perlu mempertimbangkan secara serius skenario agen nakal yang mampu bertindak di luar kendali. Tanpa pengawasan ketat, celah ini bisa dimanfaatkan untuk serangan siber yang merugikan ekonomi digital Indonesia yang sedang tumbuh pesat.

Ke depan, pertanyaannya bukan lagi apakah agen AI akan menjadi bagian dari ekosistem digital, melainkan seberapa siap perusahaan dan regulator mengendalikan risiko yang menyertainya. Apple, dengan pendekatan konservatifnya, tampaknya memilih untuk menunggu hingga standar keamanan benar-benar matang. Namun, dengan pesaing yang terus melaju, tekanan untuk berinovasi sambil menjaga privasi akan menjadi ujian tersendiri bagi raksasa Cupertino itu.