Nvidia Rilis Platform Keamanan Agen AI Terbuka, Dukungan 100+ Organisasi Global

Nvidia secara resmi meluncurkan Open Agent Safety Platform pada 28 September, sebuah platform perangkat lunak terbuka dan desain sistem referensi yang menyediakan kontrol keamanan untuk agen AI sejak tahap pengujian hingga penerapan. Langkah ini menandai upaya serius perusahaan chip raksasa itu untuk mengatasi kekhawatiran yang meningkat tentang keamanan sistem otonom.

Platform ini terdiri dari dua komponen utama: Nvidia OpenShell dan Nvidia Sentry. OpenShell adalah perangkat lunak open-source yang menciptakan batas runtime aman bagi agen AI, melacak tindakan agen dan menegakkan kebijakan yang ditetapkan saat agen beroperasi pada CPU Nvidia Vera. Sementara itu, Sentry adalah desain sistem referensi yang menggunakan watchdog out-of-band pada unit pemrosesan data Nvidia BlueField-4, yang mampu memantau perilaku agen secara terus-menerus dan mengarantina agen dalam hitungan milidetik jika mencoba beroperasi di luar batas yang ditentukan.

Lebih dari 100 organisasi dari berbagai sektor—teknologi, jasa keuangan, robotika, dan lainnya—turut serta dalam pengembangan platform ini. Beberapa nama besar yang terlibat antara lain Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow, dan SpaceXAI. Keterlibatan luas ini menunjukkan bahwa industri melihat kebutuhan mendesak akan standar keamanan agen AI yang terpadu.

Integrasi platform ini ke dalam ekosistem perusahaan telah dimulai. Salesforce mengintegrasikan OpenShell dengan Slack, memungkinkan tim memantau aktivitas agen dan menyetujui atau menolak permintaan izin langsung di dalam aplikasi. SAP memasukkan OpenShell ke dalam runtime Joule Studio sebagai bagian dari SAP Business AI Platform, sementara Scale AI mengintegrasikannya ke lapisan infrastruktur agentic dalam Scale GenAI Portfolio. Perusahaan robotika seperti Figure, Gecko Robotics, dan Skild AI juga menggunakan OpenShell untuk mengembangkan kontrol keamanan bagi agen AI yang beroperasi dalam sistem fisik otonom. Citi dan JPMorganChase turut berkolaborasi dengan Nvidia dalam teknologi open-source untuk keamanan agen AI.

“Platform ini dirancang untuk memberikan rasa aman bagi perusahaan yang mengadopsi agen AI, dengan kontrol yang ketat namun tetap fleksibel,” ujar seorang perwakilan Nvidia dalam pengumuman resminya.

Platform ini juga mendukung Open Secure AI Alliance, sebuah aliansi yang digawangi Linux Foundation dengan lebih dari 120 organisasi. Aliansi ini berfokus pada keamanan agen AI melalui riset terbuka dan berbagi alat. Langkah Nvidia ini sejalan dengan tren industri yang semakin menyadari pentingnya tata kelola AI yang aman dan transparan.

Bagi Indonesia, peluncuran platform ini membuka peluang sekaligus tantangan. Di satu sisi, perusahaan teknologi dan startup lokal dapat memanfaatkan OpenShell untuk mengembangkan agen AI yang lebih aman, terutama di sektor keuangan dan layanan publik yang mulai mengadopsi AI. Namun, adopsi masih terkendala infrastruktur komputasi yang memadai dan sumber daya manusia yang terlatih. Pemerintah melalui Kementerian Komunikasi dan Informatika perlu mendorong standardisasi keamanan AI agar tidak tertinggal dari negara lain.

Ke depan, pertanyaannya adalah apakah platform ini akan menjadi standar de facto dalam keamanan agen AI, atau justru memunculkan fragmentasi karena adanya alternatif dari pemain lain. Dengan semakin banyaknya agen AI yang beroperasi di berbagai sektor, kolaborasi lintas industri seperti yang diinisiasi Nvidia menjadi kunci untuk memastikan inovasi tidak mengorbankan keamanan.