POSKOTA.CO.ID - Chatbot AI Grok milik xAI Elon Musk kembali menuai kecaman global setelah fitur pengeditan gambar disalahgunakan secara luas di platform X untuk menghasilkan konten deepfake seksual non-konsensual.
Pengguna cukup memberikan perintah sederhana seperti "pakai bikini" atau "lepaskan pakaian" pada foto wanita berpakaian sopan, dan Grok langsung mematuhi, mengubahnya menjadi gambar dengan pose erotis atau pakaian minim.
Dilansir dari The Atlantic pada 4 Januari 2026, kasus ini melibatkan tidak hanya wanita dewasa, tapi juga anak di bawah umur, memicu kemarahan dari pemerintah berbagai negara.
Kisah Korban: Dari Foto Jadi Trauma Digital
Salah satu korban yang mencuat adalah Julie Yukari, musisi asal Rio de Janeiro, Brasil. Foto itu mendapat ratusan likes, tapi keesokan harinya, Yukari menemukan notifikasi mengerikan: pengguna lain meminta Grok mengedit fotonya menjadi hanya memakai bikini atau hampir telanjang.
Ia awalnya yakin AI seperti Grok tak akan menuruti permintaan tidak pantas. Namun, gambar manipulasi itu langsung beredar luas di X, membuatnya merasa malu dan ingin menyembunyikan diri.
Pengalaman serupa dialami banyak wanita lain. Seorang korban bernama Samantha Smith menyatakan kepada Media bahwa meski gambar itu bukan dirinya yang sebenarnya telanjang, rasanya sama saja dengan pelanggaran privasi berat.
"Saya merasa direndahkan dan dijadikan objek seksual," ujarnya.
Menurut pantauan redaksi poskota di x, banyak menemukan puluhan kasus serupa, termasuk gambar anak di bawah umur yang diubah menjadi minim pakaian, melanggar kebijakan xAI sendiri yang melarang seksualisasi anak.
Di Indonesia sendiri penyanyi Bernadya dan member JKT48 juga bersuara mengenai Grok AI ini.
"Udah kali, kasihan Grok-nya capek dan eneg," tulis Bernadya dalam akun X pribadinya
Dia melihat bahwa fenomena penggunaan Grok ini sudah terlalu berlebihan. Para pengguna X dianggap sebagai anak kecil yang baru saja menggunakan teknologi.
Selain itu Freya JKT48 juga memberikan komentar tegas.
“Stop menyalahgunakan AI. Berpikirlah lebih pintar daripada kecerdasan buatan, Tuhan beri kamu hati dan akal untuk berpikir lebih baik dan sehat daripada alat ciptaan manusia,” ungkap Freya JKT48.
Respons Pemerintah: Prancis dan India Ambil Tindakan Tegas
Gelombang penyalahgunaan ini memprovokasi reaksi keras dari otoritas internasional. Di Prancis, beberapa menteri melaporkan X ke jaksa penuntut dan regulator, menyebut konten "seksual dan seksis" dari Grok sebagai "jelas ilegal".
Kasus ini juga dilaporkan ke platform pengawas Pharos dan potensial melanggar Digital Services Act Uni Eropa.
Baca Juga: Link Video Bocil Block Blast Zoom Viral Banyak di Cari? Ini Fakta di Baliknya
Sementara di India, Kementerian Elektronika dan Teknologi Informasi (MeitY) mengirim surat teguran kepada unit lokal X, menuding platform gagal mencegah Grok menghasilkan konten cabul, vulgar, dan eksplisit seksual.
India mengancam mencabut perlindungan "safe harbor" jika tak ada tindakan cepat.
Malaysia juga bergabung mengkritik, sementara xAI mengaku ada "kegagalan pengamanan" dan sedang memperbaiki.
Meski beberapa gambar dihapus dan akun pelaku ditangguhkan, banyak konten manipulasi masih beredar.
Tips Melindungi Diri dari Manipulasi AI di Media Sosial
Di tengah maraknya AI generatif, pengguna perlu langkah proaktif untuk melindungi foto pribadi.
Berikut rekomendasinya:
- Gunakan Tools Anti-AI seperti Glaze atau Nightshade
Alat ini menambahkan "racun" pixel tak terlihat yang mengacaukan algoritma AI, membuat hasil edit menjadi rusak.
- Tambahkan Watermark Kompleks
Gunakan watermark berulang (tiled) transparan yang menutupi wajah atau tubuh, sulit dihapus AI tanpa merusak gambar.
- Turunkan Kualitas Foto
Unggah dalam resolusi rendah atau tambah noise; AI sulit menghasilkan manipulasi realistis dari gambar berkualitas buruk.
- Jadikan Akun Private
Kunci profil agar hanya follower terverifikasi yang bisa akses foto.
- Hindari Foto Full Body
Crop menjadi close-up wajah atau bahu untuk mengurangi material yang bisa dimanipulasi.
- Laporkan Segera
Report sebagai "non-consensual nudity" atau pelecehan jika menemukan gambar palsu.
- Nonaktifkan Integrasi Grok
Di pengaturan X: Privasi dan Keamanan > Grok > Matikan semua izin penggunaan data untuk training, personalisasi, dan riwayat obrolan.
Kontroversi ini menyoroti risiko AI tanpa pengawasan ketat, terutama di platform publik seperti X.