Mengapa pemblokiran Grok di Indonesia dan Malaysia penting bagi negara lain? 

Pembatasan sementara ini diberlakukan hanya dalam satu akhir pekan, setelah regulator menemukan bahwa platform tersebut digunakan untuk menghasilkan gambar deepfake non-konsensual terhadap perempuan dan anak-anak.

Kecepatan tindakan ini memberikan pelajaran penting bagi para pembuat kebijakan di kawasan Asia Pasifik, khususnya bagi negara-negara kecil yang tengah bergulat dengan bagaimana mengatur platform AI yang dikembangkan dan dioperasikan jauh di luar wilayah yurisdiksi mereka. 

Apa yang dilakukan regulator 

Kementerian Komunikasi dan Digital Indonesia memberlakukan pemblokiran sementara pada hari Sabtu (10 Januari), disusul oleh Komisi Komunikasi dan Multimedia Malaysia pada hari Minggu (11 Januari).

Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, membingkai keputusan tersebut dalam konteks hak asasi manusia, dengan menyatakan bahwa deepfake seksual non-konsensual merupakan “pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga negara di ruang digital”.

Regulator Malaysia menyebut adanya “penyalahgunaan berulang” Grok untuk menghasilkan gambar cabul dan pornografis, termasuk konten yang melibatkan anak di bawah umur.  

Surat peringatan yang dikirimkan kepada X Corp dan xAI, yang menuntut pengamanan yang lebih kuat, hanya ditanggapi dengan mekanisme pelaporan pengguna. Bagi regulator, mekanisme ini sangat tidak memadai.   

Kedua negara memberlakukan pembatasan sementara sembari proses hukum dan regulasi terus berjalan, dengan akses tetap diblokir hingga pengamanan yang efektif dapat dibuktikan. 

Menariknya, Indonesia dan Malaysia sama-sama merupakan negara dengan mayoritas penduduk Muslim dan memiliki undang-undang antipornografi yang sudah ada, yang memberikan landasan hukum tambahan untuk bertindak cepat.  

Respons global yang lebih lambat  

Uni Eropa, Inggris, Prancis, India, dan Australia semuanya telah menyatakan keprihatinan atau membuka penyelidikan, namun belum ada yang membatasi akses ke platform tersebut. 

Komisi Eropa memerintahkan X untuk menyimpan seluruh dokumen terkait Grok hingga akhir 2026 dan menyebut gambar-gambar yang dihasilkan sebagai “melanggar hukum” dan “memprihatinkan”.

Regulator Inggris, Ofcom, melakukan kontak mendesak dengan X dan xAI. Kementerian Teknologi Informasi India mengeluarkan ultimatum 72 jam setelah menilai respons awal X tidak memuaskan. Prancis merujuk kasus ini ke jaksa.  

Namun, hingga kini Indonesia dan Malaysia tetap menjadi satu-satunya negara yang mengambil tindakan langsung pada tingkat platform. 

Berlangganan bulletin GovInsider di sini. 

Mengapa ini penting bagi negara kepulauan kecil 

Bagi Small Island Developing States (SIDS) di kawasan Samudra Hindia, Pasifik, dan Karibia, situasi ini menyoroti tantangan struktural dalam tata kelola digital.

Maladewa, misalnya, memiliki populasi sekitar 500.000 jiwa yang tersebar di 1.200 pulau. Secara keseluruhan, ukuran negara ini bahkan lebih kecil dibandingkan jumlah tenaga kerja di beberapa perusahaan teknologi global. 

Indonesia memiliki 275 juta penduduk, sementara Malaysia sekitar 34 juta. Keduanya memiliki skala pasar yang cukup besar untuk menarik perhatian platform digital.  

Lalu, pilihan apa yang dimiliki negara-negara kecil ketika platform gagal menerapkan pengamanan yang memadai?  

Jawabannya bukan dengan menerima keterbatasan daya tawar, melainkan dengan memikirkan ulang pendekatan negara kecil terhadap tata kelola platform AI. 

Lima pertimbangan kebijakan bagi regulator negara kepulauan kecil  

1. Mekanisme koordinasi regional 

Indonesia dan Malaysia bertindak hanya dalam hitungan hari. Negara-negara SIDS dapat mengeksplorasi mekanisme koordinasi respons cepat serupa melalui organisasi yang sudah ada seperti AOSIS (Alliance of Small Island States) atau kelompok regional lainnya. 

Koalisi yang terdiri dari 39 negara SIDS yang berbicara dengan satu suara memiliki bobot regulasi yang jauh lebih besar dibandingkan tindakan individual. 

Digital Forum of Small States (DFOSS) telah mulai menggelar diskusi tingkat menteri mengenai tata kelola digital. Forum-forum ini dapat diperkuat untuk memungkinkan respons terkoordinasi terhadap kegagalan platform. 

2. Kesiapan kerangka hukum 

Indonesia dan Malaysia memiliki instrumen hukum yang memungkinkan tindakan cepat: Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) di Indonesia dan Communications and Multimedia Act 1998 di Malaysia.

Negara kecil perlu menilai apakah arsitektur hukum yang ada dapat merespons dampak buruk AI dengan kecepatan serupa.  

Pertanyaan kunci meliputi: apakah regulator dapat mengeluarkan instruksi yang mengikat kepada platform? Mekanisme penegakan apa yang tersedia terhadap entitas asing yang tidak patuh? Apakah terdapat definisi hukum yang jelas terkait media sintetis berbasis AI? 

3. Digital Public Infrastructure sebagai lapisan tata kelola 

Negara yang membangun infrastruktur digital nasional memiliki peluang untuk menyematkan pengamanan AI pada tingkat platform. 

Infrastruktur publik digital nasional Maladewa – termasuk termasuk identitas digital, sistem pembayaran, dan platform layanan warga – merupakan contoh sistem dasar tempat persyaratan verifikasi identitas untuk aplikasi AI berisiko tinggi dapat diterapkan.

Pendekatan ini menangani risiko pada lapisan infrastruktur, bukan hanya bergantung pada kerja sama platform. 

4. Partisipasi dalam penetapan standar internasional  

Digital Services Act Uni Eropa dan Online Safety Act Inggris sedang membentuk preseden regulasi yang akan memengaruhi tata kelola AI global. 

Negara kecil perlu berpartisipasi aktif dalam forum seperti inisiatif AI for Good dari International Telecommunications Union (ITU) dan diskusi WSIS+20 mendatang, agar perspektif mereka ikut membentuk kerangka kerja yang berkembang.  

Penilaian terbaru UNESCO menemukan bahwa 50 persen negara SIDS belum memiliki inisiatif AI resmi. Membangun kapasitas institusional untuk terlibat dalam diskusi ini merupakan pekerjaan mendasar. 

5. Kesadaran publik sebagai infrastruktur regulasi 

Tata kelola AI yang efektif membutuhkan warga negara yang memahami kemampuan sekaligus risiko AI generatif.

Program literasi digital yang secara khusus membahas media sintetis, deepfake, dan konten berbasis AI dapat menciptakan publik yang terinformasi, mendukung tindakan regulasi, dan mampu mengidentifikasi potensi dampak buruk sejak dini. 

Pertanyaan kedaulatan 

Direktur Jenderal Pengawasan Ruang Digital, Kementerian Komunikasi dan Digital Indonesia, Alexander Sabar, mencatat bahwa temuan awal menunjukkan Grok “tidak memiliki pengamanan yang efektif untuk menghentikan pengguna dalam membuat dan mendistribusikan konten pornografi berbasis foto asli warga Indonesia”.

Pembingkaian ini penting. Isu ini diposisikan bukan semata-mata sebagai moderasi konten, melainkan sebagai upaya melindungi warga negara dari kegagalan teknis platform asing. 

Bagi negara kecil, perspektif kedaulatan semacam ini bisa jadi lebih efektif dibandingkan mencoba menyamai kapasitas regulasi yurisdiksi yang lebih besar. 

Kesenjangan antara kemampuan teknologi dan kapasitas regulasi semakin melebar setiap hari ketika tindakan ditunda. Indonesia dan Malaysia telah menunjukkan bahwa negara berukuran menengah dapat bertindak tegas ketika platform gagal melindungi warganya. 

Pertanyaan bagi negara yang lebih kecil adalah bagaimana membangun koalisi, kerangka hukum, dan kapasitas institusional untuk melakukan hal yang sama. 

Insiden Grok bukan yang terakhir. Cara negara kecil mempersiapkan diri hari ini akan menentukan apakah mereka merespons dari posisi yang kuat atau justru tergopoh-gopoh mengejar ketertinggalan. 

Mohamed Shareef adalah mantan Menteri Negara untuk Lingkungan Hidup, Perubahan Iklim, dan Teknologi di Maladewa (2021–2023). Ia sebelumnya menjabat sebagai Sekretaris Permanen Kementerian Sains dan Teknologi (2019–2021) serta Chief Information Officer di National Centre for Information Technology (2009–2014), dan memimpin pengembangan infrastruktur publik digital nasional negara tersebut. Ia juga memiliki pengalaman di dunia akademik, termasuk sebagai peneliti di United Nations University. Saat ini, ia menjabat sebagai Senior Advisor for Digital Transformation di Nexia Maldives.