BSSN: Pengawasan manusia kunci keamanan siber di era AI

Ketika kecerdasan artifisial (AI) semakin banyak digunakan di berbagai sektor, mulai dari pemerintahan, ekonomi, hingga pertahanan dan keamanan, muncul pertanyaan mengenai kesiapan organisasi dalam mengelola risiko yang menyertainya. 

Deputi Bidang Keamanan Siber dan Sandi Pemerintahan Badan Siber dan Sandi Negara (BSSN), Sulistyo, mengatakan bahwa manusia tetap memegang peran sentral dalam memitigasi risiko AI.  

"Ketika kemampuan dan adopsi AI bergerak lebih cepat daripada kesiapan organisasi, penting bagi kita untuk memiliki tata kelola yang kuat, meningkatkan pengawasan manusia, serta memiliki kemampuan untuk mendeteksi dan menangani insiden siber," katanya.  

Hal itu disampaikan Sulistyo dalam pidato pembukaan National Cyber Security Connect (NCC) 2026 di Jakarta pada 28 Oktober.  

Ia menjelaskan bahwa perkembangan AI saat ini sangat berbeda dibandingkan ketika dunia mengalami "AI winter" pada periode 1970-an hingga 1990-an. Pada masa itu, perkembangan AI mengalami stagnasi dan belum banyak investor yang tertarik untuk mengembangkannya.  

Kini, lanskap tersebut telah berubah drastis. Dunia menghadapi apa yang disebut Sulistyo sebagai "tsunami AI", ditandai dengan kemunculan berbagai model AI baru yang dikembangkan oleh perusahaan-perusahaan teknologi besar dengan jangkauan global.  

Hal ini kemudian memperbesar risiko terhadap keamanan siber dan sistem pemerintahan. 

Contohnya sudah muncul di berbagai negara. Pada Oktober 2026, serangan ransomware di Jepang menyasar sedikitnya 53 perusahaan dan berpotensi membocorkan lebih dari enam juta data pelanggan, dengan AI diduga mempercepat pemindaian celah keamanan dan mengotomatisasi phishing.  

Di Amerika Serikat, sistem intelijen berbantuan AI keliru mengidentifikasi muatan kapal China sebagai komponen terkait senjata nuklir, nyaris memicu operasi militer.  

Di Australia, pada Juni 2026, agen AI menembus portal Medicare milik Services Australia, mengakses kredensial, dan menjangkau sistem pemerintahan lainnya.  

"Rangkaian insiden itu memberikan pelajaran bahwa kemampuan memanfaatkan AI tidak bisa dipisahkan dari kemampuan mengamankannya," tegas Sulistyo. 

Pengawasan manusia tetap menjadi kunci 

Sulistyo menekankan dua prinsip dalam pemanfaatan AI, yakni Securing AI dan AI to secure. 

Securing AI berarti memastikan teknologi itu sendiri aman melalui perlindungan data, integritas sistem, pembatasan akses, dan akuntabilitas. Sementara itu, AI to secure berarti memanfaatkan AI untuk memperkuat pertahanan siber, termasuk membantu menemukan kerentanan sistem. 

Dalam kedua pendekatan tersebut, pengawasan manusia tetap menjadi kunci.  

Ia menjelaskan tiga tingkat pengawasan: human in the loop, ketika manusia menyetujui hasil AI; human on the loop, ketika manusia terus memantau dan dapat menghentikan sistem; serta human in command, ketika manusia menentukan tujuan dan batas penggunaan AI. 

“Semakin besar otonomi AI, semakin kuat pengawasan yang harus disiapkan. Kita tidak boleh mengalihkan tanggung jawab itu kepada mesin,” ujarnya. 

Untuk memperkuat tata kelola, BSSN telah memiliki kerangka NIST SP 800-61 yang mengatur langkah-langkah identifikasi risiko, perlindungan, deteksi, respons, pemulihan, dan perbaikan berkelanjutan.  

Indonesia juga memiliki Peraturan BSSN Nomor 1 Tahun 2024 tentang Pengelolaan Insiden Siber dan Peraturan BSSN Nomor 2 Tahun 2024 tentang Manajemen Krisis Siber sebagai kerangka kesiapan menghadapi insiden dan eskalasi krisis. 

Menurut dia, upaya membangun ketahanan siber juga membutuhkan keterlibatan pemerintah, industri, akademisi, komunitas, dan media. Masing-masing memiliki peran dalam mendeteksi kerentanan, melaporkan insiden, serta memastikan informasi yang disampaikan kepada masyarakat telah terverifikasi. 

Tanpa keamanan siber, ekonomi kreatif mandek 

Keamanan siber juga menjadi fondasi bagi keberlanjutan bisnis dan inovasi, termasuk di sektor ekonomi kreatif.

Dalam pidato kuncinya, Deputi Bidang Kreativitas Digital dan Teknologi Kementerian Ekonomi Kreatif Muhammad Neil El Himam mengatakan perkembangan AI dan transformasi digital membuka peluang besar bagi pertumbuhan ekonomi kreatif Indonesia. 

Namun, meningkatnya aktivitas ekonomi di ruang digital juga memperbesar risiko kebocoran data, pencurian identitas, pembajakan karya, dan penyalahgunaan teknologi. 

“Keamanan siber bukan sekadar persoalan teknis, melainkan fondasi kepercayaan yang menentukan keberlanjutan dan daya saing ekonomi kreatif Indonesia,” ujarnya. 

Neil menyampaikan tiga prioritas untuk memperkuat kepercayaan digital. 

Pertama, menjadikan keamanan dan pelindungan data sebagai bagian dari proses inovasi sejak awal melalui prinsip security by design dan privacy by design. Menurutnya, keamanan seharusnya menjadi pendorong inovasi, bukan penghambat.

Kedua, memperkuat perlindungan karya dan kekayaan intelektual di tengah perkembangan AI. Pemanfaatan teknologi ini perlu dilakukan secara aman, etis, transparan, dan bertanggung jawab. 

Ketiga, meningkatkan kapasitas keamanan digital bagi startup, UMKM kreatif, pengembang aplikasi, dan kreator independen. Upaya tersebut perlu didukung peningkatan literasi, pendampingan, pengembangan talenta, serta akses terhadap solusi keamanan yang terjangkau. 

Neil menambahkan bahwa kolaborasi antara pemerintah, industri, akademisi, komunitas, dan media diperlukan untuk membangun ekosistem digital yang aman dan terpercaya. 

“Kreativitas melahirkan inovasi, sementara keamanan membangun kepercayaan yang membuka jalan bagi pertumbuhan ekonomi kreatif yang berkelanjutan,” katanya. 

BSSN perkuat kesiapan tim siber pemerintah 

Dalam NCC 2026, BSSN telah meluncurkan program bimbingan teknis Kesiapsiagaan Teknis Insiden Keamanan Siber bagi Tim Tanggap Insiden Siber (CSIRT/TTIS) Pemerintah Pusat.

Program melibatkan 35 instansi pemerintah pusat dengan bertujuan meningkatkan kesiapan teknis dan kemampuan pemerintah dalam menghadapi berbagai ancaman keamanan siber.  

Selain memperkuat pemahaman peserta mengenai pola serangan, program ini juga membekali mereka dengan keterampilan menggunakan perangkat analisis dan menerapkan teknik investigasi digital.  

Kemampuan tersebut diperlukan untuk memeriksa insiden, mengidentifikasi indikasi serangan, serta mendukung proses penanganan berdasarkan hasil analisis.