POSKOTA.CO.ID - Kementerian Komunikasi dan Digital (Komdigi) tengah mendalami dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terintegrasi dalam platform X.
Teknologi tersebut diduga dimanfaatkan untuk memproduksi hingga menyebarkan konten asusila, termasuk manipulasi foto pribadi warga tanpa persetujuan yang sah, permasalahan viral dan menjadi ramai di X.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa penelusuran awal menemukan celah pengamanan pada Grok AI yang berpotensi membuka ruang pelanggaran privasi.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di kutip Poskota dari laman resmi Komdigi.go.id pada, 8 Januari 2026.
Grok AI Dinilai Belum Miliki Pengamanan Konten yang Memadai
Alexander menjelaskan, absennya sistem pembatasan yang eksplisit pada Grok AI dapat berdampak serius terhadap perlindungan hak individu, khususnya hak atas citra diri atau right to one’s image.
Risiko tersebut muncul ketika foto seseorang dimanipulasi menjadi konten asusila dan disebarkan tanpa izin pemiliknya.
Ia menegaskan bahwa manipulasi digital terhadap foto pribadi bukan sekadar persoalan pelanggaran kesusilaan, tetapi juga bentuk perampasan kendali seseorang atas identitas visualnya. Dampaknya dapat meluas, mulai dari tekanan psikologis, kerugian sosial, hingga rusaknya reputasi korban.
Baca Juga: Doktif Tegas Tolak Damai dengan Richard Lee, Pilih Kasus Pencemaran Nama Baik Berlanjut
Kemkomdigi Koordinasi dengan PSE Perkuat Perlindungan Digital
Dalam merespons temuan tersebut, Kemkomdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme perlindungan yang efektif.
Langkah ini mencakup penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat terhadap laporan pelanggaran privasi.
Alexander menekankan bahwa setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana eksploitasi seksual, pelanggaran privasi, maupun perusakan martabat seseorang.
Kepatuhan terhadap regulasi nasional menjadi kewajiban mutlak bagi seluruh penyelenggara layanan digital yang beroperasi di Indonesia.
Ancaman Sanksi Administratif hingga Pemutusan Akses
Kemkomdigi juga mengingatkan bahwa ketidakpatuhan terhadap peraturan perundang-undangan dapat berujung pada sanksi tegas.
Jika ditemukan pelanggaran atau sikap tidak kooperatif, pemerintah berwenang menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI maupun platform X di Indonesia.
Selain itu, penyedia layanan kecerdasan buatan dan pengguna yang terbukti memproduksi atau menyebarkan konten pornografi, termasuk manipulasi citra pribadi tanpa hak, dapat dikenai sanksi administratif maupun pidana sesuai hukum yang berlaku.
Baca Juga: Pramugari Gadungan Batik Air Akhirnya Minta Maaf, Ini Pengakuan Khairun Nisa
Ketentuan Pidana Pornografi dalam KUHP Baru
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, ketentuan terkait pornografi diatur dalam Pasal 172 dan Pasal 407.
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.
Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan yang berlaku.
Kemkomdigi mengimbau masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri untuk menempuh jalur hukum.
Upaya tersebut dapat dilakukan melalui pelaporan kepada aparat penegak hukum maupun pengaduan resmi kepada Kemkomdigi.
“Teknologi akal imitasi harus digunakan secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, karena ada privasi dan hak atas citra diri setiap warga yang wajib dihormati dan dilindungi,” pungkas Alexander.