Kasusnya nyata dan berulang. Pada Januari 2025, Bareskrim Polri menangkap pelaku berinisial AMA di Lampung Tengah karena menggunakan video deepfake wajah Presiden Prabowo Subianto untuk menipu sekitar 100 korban dari 20 provinsi. Dua pekan kemudian, pelaku kedua ditangkap dengan modus serupa — kali ini menampilkan deepfake Presiden Prabowo bersama Menteri Keuangan Sri Mulyani. Wajah diganti, narasi direkayasa, korban pun berjatuhan.
Kerugian yang ditimbulkan pun tidak main-main. Berdasarkan data Kementerian Komunikasi dan Digital, kejahatan siber berbasis deepfake AI telah menelan kerugian hingga Rp700 miliar. OJK dan Indonesia Anti-Scam Centre (IASC) mencatat lebih dari 432 ribu laporan penipuan digital hingga Januari 2026, dengan total kerugian mencapai triliunan rupiah.
Ketua Masyarakat Anti Fitnah Indonesia (Mafindo) Septiaji Eko Nugroho menegaskan bahwa pola ini bukan kebetulan. "Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake," ujarnya. Indonesia bukan penonton dalam pusaran ancaman ini — melainkan salah satu medan pertempurannya.
Bukan Sekadar Hukum
Model segitiga disinformasi dari Rubin (2019) membuka secara signifikan perspektif baru di dalam riset ini. Kreator pesan, medium, dan audiens bekerja sama menciptakan jaringan penyebaran hoaks yang tidak bisa dihentikan hanya berfokus pada satu aspek. Di Indonesia, TikTok dan WhatsApp sudah berubah jadi ruang gema—pengguna berada dalam lingkaran penguatan informasi yang bertumpu pada bias kelompok, bukan pada fakta yang sudah diverifikasi.
Situasi ini tegas memperlihatkan tingkat pendekatan hukum seperti halnya UU ITE tidak cukup efektif apabila berdiri sendiri. Informasi salah bukan sekadar urusan hukum; faktor ini pun berhubungan dengan tradisi serta pola pikir komunitas. Jadi, solusinya perlu mencakup aspek pendidikan dan kebiasaan sosial, bukan hanya mengandalkan aturan.
Baca Juga: Ekonomika Pancasila: Kini Rupiah Makin Tak Berdaulat
Riset ini turut menghubungkan isu literasi digital dengan pencapaian SDG 4 tentang Pendidikan Berkualitas dan SDG 16 tentang Kelembagaan yang Tangguh — yang dalam konteks Indonesia bermakna satu hal konkret: literasi digital harus masuk kurikulum pendidikan dasar secara sistematis, bukan sekadar muatan lokal yang opsional.
Kelompok Paling Rentan
Satu kelompok yang sering luput dari perhatian adalah lansia. Mereka kerap menjadi penyebar utama hoaks di grup keluarga bukan karena niat buruk, melainkan karena keterbatasan kemampuan verifikasi mandiri dan tingginya rasa percaya terhadap pesan yang terlihat "tulus". Masyarakat desa, anak-anak, dan komunitas migran menghadapi risiko serupa karena minimnya akses terhadap sumber informasi pembanding yang kredibel.
Program literasi digital yang ada hari ini masih terlalu sering dirancang untuk mereka yang sudah melek teknologi. Padahal justru kelompok yang paling terpinggirkan dari ekosistem digital itulah yang paling rentan dimanipulasi.
Wakil Menteri Komdigi Nezar Patria menegaskan pentingnya literasi digital sebagai keterampilan dasar. Ia menyoroti kemampuan berpikir kritis saat memilah informasi dan menjaga privasi data sebagai bagian penting dari literasi ini. Pernyataannya sejalan dengan rekomendasi yang mengedepankan pendekatan literasi yang inklusif, humanis, dan relevan dengan kehidupan sehari-hari kelompok rentan. Meski begitu, perlindungan bagi kelompok tersebut tidak cukup hanya mengandalkan program literasi digital. Mereka juga butuh jaminan hukum yang tegas.
Regulasi Tertinggal dari Ancaman
Di tengah banjir arus disinformasi yang berasal dari teknologi AI, Indonesia masih harus menghadapi sebuah persoalan penting: apakah regulasi kita benar-benar siap menghadapi ancaman ini? Sampai sekarang, belum ada aturan khusus yang mengatur soal deepfake. Karena itu, terdapat kekosongan hukum yang membuat proses pembuktian kasus jadi rumit serta korban sering tidak terlindungi. Sesungguhnya, UU ITE dan UU Pelindungan Data Pribadi dapat digunakan sebagai acuan, tapi keduanya masih terlalu luas. Kedua peraturan ini belum dapat mengatasi level manipulasi yang rumit sebagaimana yang dapat dilakukan AI.
Kondisi tersebut menunjukkan bahwa penegakan hukum digital di Indonesia masih bertumpu pada kerangka regulasi yang lahir sebelum perkembangan AI generatif berlangsung secara masif. Dengan kata lain, aparat penegak hukum masih menggunakan instrumen hukum yang dirancang untuk ekosistem digital sebelumnya guna menghadapi tantangan baru seperti deepfake, sintesis suara, dan manipulasi visual berbasis AI. Pernyataan ini tercermin dalam penjelasan Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar bahwa regulasi khusus AI masih dalam tahap pembahasan sehingga UU ITE tetap menjadi dasar hukum yang digunakan saat ini.
