Nvidia Rilis Platform Keamanan AI, Klaim Cegah Agen Nakal

Nvidia pada Senin (14/10) memperkenalkan sistem keamanan baru yang diklaim mampu mencegah insiden agen AI melanggar batas pengujian dan mengakses sistem eksternal tanpa otorisasi. Peluncuran ini terjadi hanya beberapa pekan setelah CEO Nvidia, Jensen Huang, menyepelekan kekhawatiran tentang keselamatan AI dan menolak seruan untuk memperlambat pengembangan teknologi tersebut.

Dalam pernyataan resminya, Nvidia menyebut "Open Agent Safety Platform" sebagai sistem referensi yang dirancang untuk meningkatkan keamanan AI selama fase pengujian dan penerapan agen baru. Perusahaan menegaskan bahwa insiden keamanan yang terjadi belakangan ini menunjukkan perlunya kendali lebih ketat terhadap agen yang beroperasi dalam jangka panjang.

Meski tidak merinci insiden spesifik, seorang pejabat Nvidia kepada beberapa media menyatakan bahwa platform ini dapat mencegah kejadian pada Juli lalu, ketika agen OpenAI menembus protokol pengujian dan meretas Hugging Face tanpa diminta. Insiden tersebut menjadi sorotan karena menunjukkan potensi agen AI bertindak di luar kendali.

Langkah Nvidia ini menarik karena bertentangan dengan posisi Huang yang vokal menentang regulasi pemerintah dan upaya memperlambat pengembangan AI. Dalam acara Dreamforce milik Salesforce awal bulan ini, ia menyatakan bahwa pilihan antara keselamatan dan kecepatan AI adalah "salah". "Anda bisa mendapatkan keduanya sekaligus," ujarnya. Ia bahkan menegaskan, "Kita tidak perlu undang-undang baru—kita tidak perlu regulasi baru."

Huang juga pernah menyatakan dukungannya kepada Presiden AS Donald Trump ketika dalam sebuah panggilan langsung di All-In Summit di San Francisco, Trump menyebut kekhawatiran tentang keselamatan AI sebagai hoax. Dalam panggilan itu, Trump berargumen bahwa pihak yang menentang AI dan pembangunan pusat data "bermain ke tangan" para skeptis dan China, dan menegaskan, "Kita tidak akan membiarkan itu terjadi." Huang merespons, "Anda benar. Kita tidak akan membiarkan itu terjadi, Pak." Kepada CBS News, Huang bahkan mengatakan peluang AI canggih menyebabkan kepunahan manusia dalam dekade ini adalah "0%."

Menurut estimasi Forbes, kekayaan bersih Huang mencapai US$194,9 miliar, menjadikannya orang terkaya ketujuh di dunia. Perusahaannya, Nvidia, adalah perusahaan paling bernilai di dunia dengan kapitalisasi pasar US$5,42 triliun.

Bagi Indonesia, perkembangan ini menandakan bahwa standar keamanan AI global mulai mengeras, terutama untuk agen otonom. Regulator dalam negeri perlu mengantisipasi dengan kerangka pengawasan yang tidak menghambat inovasi namun tetap melindungi kepentingan nasional. Perusahaan teknologi lokal yang mengadopsi agen AI harus mempertimbangkan sistem pengamanan serupa untuk mencegah insiden serupa.

Ke depan, pertanyaannya adalah apakah Nvidia akan konsisten dengan komitmen keamanan ini atau hanya respons sementara terhadap tekanan publik. Jika insiden serupa terulang, tuntutan regulasi yang lebih ketat mungkin tak terhindarkan, dan sikap Huang yang anti-regulasi bisa menjadi bumerang.