Hadang ‘deepfake’, Pemerintah Indonesia dorong implementasi AI yang beretika

Sebuah video deepfake yang menunjukkan Presiden Joko Widodo berpidato dalam bahasa Mandarin dan Arab mengejutkan publik pada bulan Oktober lalu. Padahal, Presiden tidak bisa berbicara dalam bahasa asing tersebut. Video ini, antara lain, menimbulkan kekhawatiran tentang dampak deepfake pada pemilihan umum yang diadakan pada bulan Februari. 

Deepfakes mengacu pada video yang direkayasa oleh AI dengan begitu meyakinkan sehingga berpotensi menyesatkan pemirsa, menciptakan hoaks, dan melakukan penipuan. 

“Berdasarkan pola [yang kami amati] di Indonesia, deepfake yang ditemukan kebanyakan menggunakan wajah orang yang sesungguhnya. Suaranya mirip, tapi yang dibicarakan tidak sesuai dengan karakter orang tersebut,” ujar Usman Kansong, Direktur Jenderal Informasi dan Komunikasi Publik Kementerian Komunikasi dan Informatika, kepada GovInsider. 

Ia mengungkapkan, menjelang pemilihan umum Februari lalu di Indonesia sempat beredar sejumlah deepfake yang menyasar para tokoh politik. Selain Presiden Jokowi, materi visual Surya Paloh dan Anies Baswedan pun pernah disalahgunakan.

Lebih lanjut, deepfake pun dijumpai pada video seorang dokter yang seolah-olah mempromosikan obat tertentu. Padahal obat tersebut belum tentu terdaftar di Badan Pengawas Obat dan Makanan (BPOM). 

Antisipasi deepfake, Menteri Kominfo keluarkan surat edaran

Untuk menanggulangi kejahatan deepfake sebagai bentuk penyalahgunaan teknologi AI, Menteri Kominfo Budi Arie Setiadi telah mengeluarkan surat edaran tentang etika penggunaan AI yang ditujukan kepada para pelaku usaha di ranah publik dan swasta.

Pertama, AI harus digunakan untuk mendukung aktivitas manusia, terutama untuk meningkatkan kreativitas pengguna dalam menyelesaikan masalah dan pekerjaan.

Kedua, penggunaan AI harus menjaga privasi dan data, sehingga tidak ada individu yang dirugikan. Ketiga, harus ada pengawasan terhadap penggunaan AI untuk mencegah penyalahgunaan baik oleh pemerintah, penyedia teknologi, maupun pengguna. 

“Kominfo mendorong perusahaan dan organisasi yang mengembangkan dan menggunakan AI untuk memperhatikan prinsip-prinsip dalam pedoman etika,” kata Usman.

Sebagai contoh, Google telah menerapkan teknologi watermark, bersama dengan pemain lain seperti Adobe dan Intel, untuk melakukan pengecekan ketika sebuah konten telah diubah secara digital

Selain itu, Kominfo terus mendorong Dewan Pers untuk mengedepankan etika penggunaan AI dalam jurnalisme. Perhimpunan Hubungan Masyarakat Indonesia (Perhumas) saat ini sedang menyusun pedoman etika yang rencananya akan diluncurkan pada bulan November.

Hingga saat ini, selain Kominfo, hanya Otoritas Jasa Keuangan (OJK) dan asosiasi FinTech yang telah merilis pedoman etika penggunaan AI. OJK merilis kode etik untuk penggunaan AI yang bertanggung jawab di FinTech pada awal tahun 2024.

Salah satu poin dalam panduan kode etik tersebut adalah penyelenggara FinTech harus memiliki kerangka pertanggungjawaban atas output yang dihasilkan dari aplikasi berbasis AI, untuk memberikan kepastian pertanggungjawaban kepada konsumen apabila terjadi hal-hal yang merugikan. 

'AIS' Mesin bertenaga AI untuk identifikasi konten berbahaya 

Kominfo menyampaikan bahwa belum ada teknologi khusus untuk mengidentifikasi deepfakes. “Kami mendorong produsen teknologi untuk mencegahnya,” kata Usman.

Dia mengatakan bahwa Kominfo juga telah bertemu dengan semua penyelenggara platform media sosial menjelang pemilihan umum terakhir, untuk meningkatkan kewaspadaan terhadap konten semacam itu.

Kementerian Kominfo mengatakan ada 3.235 hoaks terkait pemilu yang beredar di platform media sosial dan mesin pencari sejak 17 Juli 2023. Dari jumlah tersebut, 1.971 di antaranya telah diturunkan.

Usman menjelaskan bahwa sejak tahun 2018 Kominfo telah menggunakan “AIS”, mesin pengais berbasis kecerdasan buatan (AI), untuk mengidentifikasi konten-konten negatif yang berbahaya di Internet, termasuk ujaran kebencian, pornografi, berita bohong dan ancaman. 

Teknologi ini mengklasifikasikan hingga jutaan tautan yang terdeteksi mengandung konten berbahaya. Kominfo kemudian memerintahkan penyedia konten untuk menghapus konten berbahaya tersebut dalam waktu 2x24 jam.

Kominfo juga bekerja sama dengan Direktorat Tindak Pidana Siber Polri untuk memberantas konten-konten berbahaya. “Polri juga bisa meminta informasi dari Kominfo jika ada temuan,” tambah Usman. 

Selain itu, Kominfo secara aktif menerima dan memproses laporan dari masyarakat untuk membantu petugas mengidentifikasi konten berbahaya dengan lebih cepat, mengingat tidak ada satu pun teknologi yang 100% mampu mendeteksi hoaks.

Saat ini, Indonesia belum memiliki peraturan pemerintah yang spesifik mengenai deepfake dan segala bentuk manipulasi gambar atau video oleh AI. Pembuatan konten baru yang diedit dari konten asli dengan tujuan untuk menyebarkan berita palsu dikategorikan sebagai hoaks di bawah undang-undang yang berlaku saat ini. Hoaks dianggap sebagai pengaduan, sehingga pelakunya tidak dapat dituntut jika tidak ada laporan tindak pidana atau kerugian.

Berlangganan Bulletin GovInsider untuk mendapatkan informasi terbaru mengenai inovasi sektor publik.