POSKOTA.CO.ID - Kementerian Komunikasi dan Digital (Komdigi) tengah mendalami dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terintegrasi dalam platform X.
Teknologi tersebut diduga dimanfaatkan untuk memproduksi hingga menyebarkan konten asusila, termasuk manipulasi foto pribadi warga tanpa persetujuan yang sah, permasalahan viral dan menjadi ramai di X.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa penelusuran awal menemukan celah pengamanan pada Grok AI yang berpotensi membuka ruang pelanggaran privasi.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di kutip Poskota dari laman resmi Komdigi.go.id pada, 8 Januari 2026.
Grok AI Dinilai Belum Miliki Pengamanan Konten yang Memadai
Alexander menjelaskan, absennya sistem pembatasan yang eksplisit pada Grok AI dapat berdampak serius terhadap perlindungan hak individu, khususnya hak atas citra diri atau right to one’s image.
Risiko tersebut muncul ketika foto seseorang dimanipulasi menjadi konten asusila dan disebarkan tanpa izin pemiliknya.
Ia menegaskan bahwa manipulasi digital terhadap foto pribadi bukan sekadar persoalan pelanggaran kesusilaan, tetapi juga bentuk perampasan kendali seseorang atas identitas visualnya. Dampaknya dapat meluas, mulai dari tekanan psikologis, kerugian sosial, hingga rusaknya reputasi korban.
Baca Juga: Doktif Tegas Tolak Damai dengan Richard Lee, Pilih Kasus Pencemaran Nama Baik Berlanjut
Kemkomdigi Koordinasi dengan PSE Perkuat Perlindungan Digital
Dalam merespons temuan tersebut, Kemkomdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme perlindungan yang efektif.
Langkah ini mencakup penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat terhadap laporan pelanggaran privasi.
