POSKOTA.CO.ID - Pemanfaatan kecerdasan buatan (artificial intelligence/AI) Grok milik Elon Musk menuai kontroversi di platform media sosial X.
Fitur chatbot tersebut disorot setelah terbukti dapat digunakan untuk memanipulasi foto seseorang menjadi konten bermuatan pornografi tanpa persetujuan pemilik gambar.
Dalam praktiknya, sejumlah pengguna X menyebut akun Grok AI pada unggahan foto perempuan, lalu menyertakan perintah spesifik seperti mengganti pakaian menjadi bikini atau melepas busana.
Perintah tersebut kerap dipatuhi Grok, dengan hasil visual yang menampilkan perubahan pakaian, pose sensual, hingga konten seksual eksplisit berbasis foto asli.
Baca Juga: Link Video Botol Golda 19 Detik Viral di TikTok, Apa Isinya? Ternyata Ini Faktanya
Grok AI dan X Terancam Pemutusan Akses
Merespons fenomena tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas terhadap platform X dan pengembang Grok AI.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan temuan awal menunjukkan sistem moderasi Grok AI masih lemah.
“Belum ditemukan pengaturan khusus yang efektif untuk mencegah pemanfaatan Grok AI dalam pembuatan konten pornografi berbasis foto pribadi,” kata Alexander, dikutip dari laman resmi komdigi Kamis, 8 Januari 2026.
Pemerintah menegaskan, apabila X dan Grok AI tidak kooperatif memperbaiki sistem pengamanan dan moderasi konten, sanksi tegas akan diberlakukan.
Baca Juga: Link Video Bocil Block Blast Zoom Viral Banyak di Cari? Ini Fakta di Baliknya
Sanksi tersebut mencakup tindakan administratif hingga pemutusan akses layanan di wilayah Indonesia.
Kemkomdigi menilai praktik deepfake asusila bukan sekadar pelanggaran norma kesusilaan, melainkan juga perampasan hak individu atas identitas visualnya.
Dampaknya dinilai serius, mulai dari tekanan psikologis korban, rusaknya reputasi sosial, hingga pelanggaran hak atas citra diri.
"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindung," ujar Alexander.
Manipulasi Konten Asusila Berpotensi Pidana
Fenomena ini juga menjadi perhatian Bareskrim Polri. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan manipulasi foto menjadi konten vulgar menggunakan teknologi AI termasuk kategori kejahatan deepfake.
“Penggunaan AI untuk mengubah foto seseorang tanpa izin merupakan bentuk manipulasi data elektronik,” ujar Himawan Rabu, 7 Januari 2026.
Ia menambahkan, apabila terbukti dilakukan tanpa persetujuan pemilik data, pelaku dapat diproses secara pidana.
Ketentuan hukum tersebut berlaku tidak hanya pada Grok AI, tetapi juga pada aplikasi atau platform lain yang digunakan untuk tujuan serupa.