Nadella Serukan Rem Darurat AI, Microsoft Desak Standar Keamanan Global

CEO Microsoft Satya Nadella pada Sabtu (10/10/2026) menyerukan perlunya sistem kecerdasan buatan (AI) canggih dilengkapi dengan mekanisme penghentian darurat yang dapat dikendalikan manusia. Usulan ini disampaikan melalui unggahan di platform X, menandai intervensi terbaru dari eksekutif teknologi terkemuka dalam debat global tentang pengawasan AI.

Nadella menekankan bahwa model AI yang bersifat non-deterministik harus dikelilingi oleh desain sistem yang kuat, kontrol manusia, dan prosedur operasi yang andal. "Kita perlu mengelilingi model non-deterministik dengan desain sistem yang kuat, kontrol manusia, dan prosedur operasi yang dapat diandalkan, serta menetapkan standar industri di mana standar yang ada belum memadai," tulisnya. Ia juga mengusulkan agar model frontier tertutup dan terbuka diperlakukan seperti risiko orang dalam, sebagai cara membangun sistem tersebut.

Pernyataan Nadella muncul di tengah meningkatnya kekhawatiran dari para eksekutif dan peneliti tentang protokol keamanan AI yang dinilai belum memadai. Seorang peneliti AI mengundurkan diri dari Anthropic bulan lalu dan menuduh perusahaan itu, bersama rivalnya OpenAI, "mempertaruhkan hidup kita". Pada hari yang sama, seorang pemimpin alignment di Anthropic yang fokus pada keamanan AI mengatakan ada kemungkinan lebih dari 10% teknologi tersebut dapat "membunuh semua manusia" dalam dekade berikutnya.

Di sisi lain, Presiden Donald Trump telah berulang kali mengabaikan risiko kepunahan akibat AI dan lebih menekankan perlunya industri AS tetap unggul dari China. Trump baru-baru ini memperkenalkan "AI Force" yang dipimpin Direktur Intelijen Nasional Jay Clayton untuk memfasilitasi industri dan menindak pelaku jahat. Pendekatan ini mencerminkan perbedaan pandangan antara pemerintah dan sebagian pelaku industri mengenai prioritas keamanan versus inovasi.

Dalam unggahannya, Nadella merinci prinsip-prinsip yang harus menjadi fondasi pengembangan AI. Ia menyebut perlunya keberagaman model, jejak tindakan model yang dapat dibaca manusia, pengujian sistem berkelanjutan, kontrol independen dan auditabilitas, pengurungan (containment), serta pengungkapan insiden. "Sistem Super Intelligence yang paling tepercaya tidak akan menjadi yang modelnya paling kita percayai. Melainkan yang memungkinkan kita paling tidak mempercayai model tersebut," tulisnya.

"Kita perlu mengelilingi model non-deterministik dengan desain sistem yang kuat, kontrol manusia, dan prosedur operasi yang dapat diandalkan, serta menetapkan standar industri di mana standar yang ada belum memadai." - Satya Nadella, CEO Microsoft

Usulan Nadella ini berpotensi mengguncang lanskap regulasi AI global. Jika diadopsi secara luas, perusahaan teknologi harus menginvestasikan lebih banyak sumber daya untuk membangun mekanisme pengawasan dan kontrol yang ketat. Hal ini bisa memperlambat peluncuran produk AI baru, tetapi juga meningkatkan kepercayaan publik terhadap teknologi tersebut. Di sisi lain, pemerintah yang ingin tetap kompetitif dalam perlombaan AI mungkin enggan memberlakukan pembatasan yang ketat.

Bagi Indonesia, perkembangan ini memiliki implikasi signifikan. Pemerintah Indonesia sedang menyusun strategi nasional AI yang mencakup aspek etika dan keamanan. Usulan Nadella dapat menjadi referensi dalam merumuskan kerangka regulasi yang seimbang antara mendorong inovasi dan melindungi masyarakat dari risiko. Selain itu, perusahaan teknologi Indonesia yang mengadopsi AI perlu memperhatikan standar keamanan yang mungkin menjadi norma global.

Ke depan, pertanyaannya adalah apakah industri akan secara sukarela mengadopsi standar keamanan yang diusulkan Nadella, ataukah diperlukan intervensi pemerintah untuk memaksanya. Dengan semakin dekatnya AI menuju kemampuan super intelligence, tekanan untuk bertindak sebelum terjadi kesalahan besar semakin meningkat. Apakah kita akan melihat kolaborasi global untuk rem darurat AI, atau justru fragmentasi regulasi yang memperuncing persaingan? Waktu yang akan menjawab, tetapi langkah Nadella setidaknya telah membuka diskusi yang lebih serius.