Peluang AI di ASEAN bergantung pada tata kelola yang tepercaya

Peluang AI di ASEAN bergantung pada tata kelola yang tepercaya 

Seiring AI menjadi semakin otonom dan risikonya makin melintasi batas negara, Asia Tenggara membutuhkan tata kelola yang tepercaya dan interoperabel agar teknologi ini memperkuat layanan publik tanpa merusak kepercayaan publik. 

Tata kelola kecerdasan buatan (AI) tidak akan berhasil jika penerapannya hanya terbatas pada pasar teknologi terbesar di dunia. 

Pesatnya kemajuan AI memunculkan pertanyaan tentang bagaimana masyarakat dan pemerintah dapat menangkap manfaatnya sambil mengelola risiko yang sering melampaui batas negara.  

AI mungkin menciptakan peluang besar bagi ekonomi ASEAN, tetapi juga menuntut pendekatan baru dalam tata kelola regional.  

Ekonomi yang lebih kecil, pemerintah daerah, sekolah, jurnalis, dan organisasi masyarakat juga membutuhkan perangkat, pelatihan, dan dukungan kelembagaan yang mudah diakses. 

Kekhawatiran terhadap tata kelola AI meningkat setelah seorang mantan peneliti Anthropic memperingatkan pada 8 September bahwa AI dapat menjadi ancaman eksistensial bagi umat manusia. Peringatan ini memicu perdebatan dalam Sidang Majelis Umum PBB (UNGA) ke-81 bulan September ini.  

Lanskap tata kelola AI di Asia  

China’s AI Safety Governance Framework 3.0, yang dirilis pada September, dapat menjadi acuan yang berguna bagi diskusi ASEAN.

Kerangka ini mengusulkan pendekatan yang berbasis klasifikasi risiko, pengamanan teknis, tata kelola yang komprehensif, regulatory sandbox, dan kerja sama internasional.

Waktunya penting bagi ASEAN. Asia Tenggara adalah rumah bagi beragam ekonomi, bahasa, sistem hukum, infrastruktur digital, dan tingkat kesiapan teknologi.  

Pendekatan regional yang berhasil harus mendukung inovasi sekaligus menyadari bahwa risiko AI tidak berhenti di perbatasan negara.  

Ambil contoh Malaysia, Indonesia, dan Singapura, negara-negara ASEAN yang saat ini sedang memperkuat kerangka tata kelola AI mereka.  

Malaysia merencanakan RUU Tata Kelola AI dan pendirian Malaysia AI Safety Institute.  

Indonesia sedang menyiapkan dua Peraturan Presiden: satu tentang Peta Jalan AI Nasional 2026-2029, dan satu lagi tentang Etika AI. Keduanya telah menyelesaikan harmonisasi antarkementerian pada 2026 dan tinggal menunggu tanda tangan Presiden.  

Singapura, melalui 2026 Consensus on Global AI Safety Research Priorities, menegaskan perlunya para peneliti dan praktisi AI memberi perhatian serius pada risiko seperti serangan siber berbasis AI.  

Komunitas AI ASEAN yang peduli pada isu ini juga menginisiasi aisean.org, situs web sumber terbuka yang memantau perkembangan ekosistem AI di berbagai negara ASEAN.  

Peluang bersama, risiko bersama  

AI dapat membantu ASEAN meningkatkan produktivitas, memperkuat layanan publik, mendukung usaha kecil dan menengah (UKM), memperluas akses pendidikan, dan memperbaiki penanganan bencana.

AI juga dapat membantu komunikasi multibahasa, melestarikan pengetahuan dan bahasa adat serta tradisional, dan menjembatani budaya di kawasan ini. 

Namun, sistem yang sama dapat menimbulkan risiko bersama.  

Misinformasi yang dihasilkan AI dapat menyebar lintas negara dalam hitungan menit, bahkan detik. 

Serangan siber dapat menjadi semakin otomatis. Data pribadi dapat diproses tanpa persetujuan yang memadai. 

Bias dalam model merugikan komunitas yang bahasa dan konteks budayanya kurang terwakili dalam data pelatihan, terutama di Asia Tenggara, yang memiliki lebih dari 1.561 bahasa. 

Kerangka Tiongkok mengelompokkan risiko AI ke dalam risiko inheren, risiko terkait penerapan, dan risiko turunan. Risiko inheren mencakup halusinasi, peracunan data, prompt injection, bias, penjelasan yang buruk (poor explainability), dan infrastruktur yang tidak aman.

Risiko penerapan mencakup akses tanpa izin oleh agen AI, penggunaan perangkat yang tidak aman, deepfake, serangan siber, pelanggaran privasi, dan gangguan terhadap infrastruktur kritis. 

Risiko turunan mencakup gangguan ketenagakerjaan, tekanan terhadap lingkungan, homogenisasi budaya, dan melebarnya kesenjangan kecerdasan. 

Kategori-kategori ini relevan bagi ASEAN karena sistem digital kawasan ini semakin saling terhubung. 

Kelemahan dalam lingkungan informasi satu negara dapat memengaruhi kepercayaan publik terhadap pemerintah, dunia usaha, dan komunitas ASEAN. 

Berdasarkan prinsip-prinsip PBB, cara terbaik untuk mengatasi risiko global AI adalah menyatukan negara-negara untuk mengadopsi prinsip dan komitmen bersama dalam tata kelola AI. 

Perlunya tata kelola yang interoperabel 

ASEAN tidak memerlukan hukum nasional yang identik untuk mendorong kerja sama regional. Namun, ASEAN membutuhkan prinsip yang kompatibel dan praktik yang interoperabel dalam kerangka tata kelola AI ASEAN. 

Pada 2024, Sekretariat ASEAN menerbitkan ASEAN Guide on AI Governance and Ethics yang terus diperbarui pada 2025 dan 2026.  

Dokumen ini berfungsi sebagai panduan praktis bagi pemerintah dan organisasi di kawasan yang ingin merancang, mengembangkan, dan menerapkan teknologi AI tradisional untuk penggunaan komersial serta non-militer atau non-dual use.  

Panduan ini berfokus pada upaya mendorong keselarasan di dalam ASEAN dan mendorong interoperabilitas kerangka AI lintas yurisdiksi.  

Panduan ini juga memuat rekomendasi tentang inisiatif tingkat nasional dan regional yang dapat dipertimbangkan pemerintah di kawasan untuk merancang, mengembangkan, dan menerapkan sistem AI secara bertanggung jawab.  

Untungnya, ASEAN memiliki perwakilan yang menjabat sebagai Co-Chair of Independent International Scientific Panel on AI, Maria Ressa, serta perwakilan yang menjadi anggota pendiri AI for Good Global Commission yang baru diluncurkan (pada UNGA ke-81, Digital@UN), yaitu Menteri Pembangunan Digital dan Informasi Singapura, Josephine Teo.  

Bidang prioritas interoperabilitas ASEAN  

Ada lima bidang yang layak diprioritaskan untuk mencapai interoperabilitas di ASEAN.  

Pertama, pemerintah ASEAN perlu mengembangkan kosakata bersama untuk risiko AI; kedua, perlindungan data lintas batas; ketiga, ASEAN perlu mendorong pendekatan bersama dalam pelabelan konten, asal-usul (provenance), verifikasi, dan respons cepat lintas batas; keempat, metode pengujian bersama, tolok ukur evaluasi, dan pelatihan profesional; dan terakhir, pengembangan kapasitas.  

Untuk memperkuat kerja sama internasional dalam pengembangan kapasitas AI, 29 negara, termasuk lima dari ASEAN, menjadi anggota pendiri World AI Cooperation Organisation (WAICO) pada World AI Conference and High-Level Meeting on Global AI Governance 2026 pada Juli.  

Pertemuan tersebut juga menghasilkan komitmen dari Tiongkok: menyediakan 5.000 tempat dalam program pelatihan dan seminar AI bagi negara-negara berkembang selama lima tahun ke depan; mengembangkan pusat kerja sama penerapan AI internasional dengan ASEAN, Liga Arab, Uni Afrika, CELAC, Shanghai Cooperation Organisation, dan BRICS; serta memungkinkan 30 negara menerapkan sistem peringatan cuaca berbasis AI, MAZU. 

Ini adalah komitmen kebijakan yang berorientasi ke depan, yang pelaksanaannya perlu diverifikasi melalui proyek-proyek lanjutan dan pelaporan publik. 

Regulatory sandbox untuk inovasi ASEAN 

Regulatory sandbox dapat membantu ASEAN mengelola ketegangan antara inovasi dan kehati-hatian. Dalam model sandbox, aplikasi AI terpilih diuji di lingkungan terkendali dengan tujuan yang jelas, persyaratan pemantauan, pengamanan, dan kondisi keluar. 

Jejaring sandbox regional dapat memungkinkan pemerintah dan inovator berbagi pelajaran tanpa harus segera melakukan penerapan skala penuh. 

Jejaring ini juga dapat membantu mengidentifikasi pengamanan mana yang efektif di berbagai lingkungan hukum dan budaya.  

Namun, sandbox tidak boleh menjadi cara untuk menghindari akuntabilitas. Keikutsertaan dalam sandbox tidak boleh menghapus tanggung jawab atas kesalahan yang disengaja, kerugian besar, atau pelanggaran hak individu.  

Kendali manusia harus tetap menjadi inti  

Seiring agen AI menjadi semakin otonom, kendali manusia menjadi semakin penting.  

Sistem AI sebaiknya memiliki identitas unik, izin terbatas, akses perangkat yang dipantau, dan batas operasional yang terdefinisi dengan jelas.

Tindakan berisiko tinggi harus memerlukan persetujuan manusia, sementara log harus mencatat perilaku sistem dan titik-titik pengambilan keputusan.  

Bagi pemerintah ASEAN, prinsip ini sangat relevan untuk penerapan di sektor publik.  

Sistem AI dapat membantu mengidentifikasi kesenjangan layanan, merangkum masukan publik, atau mendukung analisis kebijakan. Namun, tanggung jawab akhir harus tetap berada pada lembaga publik yang akuntabel dan pejabat yang berwenang.  

Kendali manusia juga berarti menjaga hak untuk menggugat atau mengoreksi keputusan yang dibantu AI. Warga harus dapat memahami kapan AI memengaruhi suatu keputusan, meminta penjelasan, dan mengajukan peninjauan oleh manusia.  

Jika Elon Musk mengatakan kepada The Economist bahwa AI dapat melampaui total kecerdasan seluruh manusia sekitar tahun 2031, kita harus memastikan kendali manusia tetap menjadi inti dalam skenario itu.

Kita tidak ingin “hal-hal buruk” yang menurut Sam Altman dari OpenAI harus diterima dunia dari AI, dalam diskusinya dengan Politico belum lama ini, benar-benar terjadi.  

------------------------------------- 

Penulis adalah mahasiswa PhD Komunikasi dan Pembangunan Global di School of Journalism and Communication, Tsinghua University. Sebelumnya ia memimpin Pemasaran, Komunikasi, dan Operasi Pelanggan di Tim Transformasi dan Digitalisasi Kesehatan (GovTech Health), Kementerian Kesehatan.