POSKOTA.CO.ID - Kementerian Komunikasi dan Digital (Komdigi) mengancam blokir platform media sosial X (dulu Twitter) buntut penyalahgunaan fitur kecerdasan buatan Grok AI.
Berdasarkan pantauan Poskota belakangan ini, fitur tersebut digunakan sebagian pengguna X untuk memanipulasi foto. Foto-foto tersebut diubah menjadi gambar yang cenderung tidak senonoh.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar menyebutkan, fitur AI tersebut dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi," kata Alexander di Jakarta dalam keterangan resmi, dikutip Rabu, 7 Januari 2026.
Baca Juga: Link Video Botol Golda 19 Detik Viral di TikTok, Apa Isinya? Ternyata Ini Faktanya
Komdigi juga memandang manipulasi digital ini sebagai bentuk perampasan kendali individu atas identitas visualnya.
Praktik deepfake semacam ini berdampak cukup fatal pada kerugian psikologis bagi korban, kerusakan reputasi sosial di ruang publik, dan pelanggaran hak atas citra diri (right to one's image).
"Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang," ujarnya.
Sanksi Tegas Penyalahgunaan Grok
Kemkomdigi menegaskan, penyedia layanan kecerdasan buatan atau pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi pidana sesuai ketentuan hukum yang berlaku.
Baca Juga: Siapa HRA? Pengakuan Ratu Qori di Podcast Richard Lee Gegerkan Netizen
Pelaku terancam dijerat Pasal 172 dan Pasal 407 UU Nomor 1 Tahun 2023 KUHP tentang pornografi.
