POSKOTA.CO.ID - Gelombang kritik internasional menghantam xAI, perusahaan kecerdasan buatan milik Elon Musk, menyusul terungkapnya celah serius dalam sistem keselamatan chatbot Grok.
Produk AI yang terintegrasi dengan platform media sosial X itu dituding berulang kali menghasilkan konten seksual eksplisit, termasuk terhadap perempuan dan anak di bawah umur.
Menurut pemantauan redaksi Poskota, Sorotan utama di X kemarin tertuju pada kemampuan Grok menuruti perintah pengguna untuk memanipulasi gambar asli menjadi konten seksual tanpa persetujuan dengan sangat mudahnya.
Dalam sejumlah kasus, chatbot tersebut bahkan disebut mampu menciptakan visual sugestif yang melibatkan anak di bawah umur, memicu kekhawatiran luas soal perlindungan anak di ranah digital.
Baca Juga: 5 Cara Cuan dari Gemini AI, Ubah Alat Kecerdasan Buatan Jadi Sumber Penghasilan
Fitur “Nudification” Picu Kemarahan
Dalam beberapa pekan terakhir, investigasi media menemukan Grok dapat “menelanjangi” foto perempuan melalui perintah tertentu, mengubah pose hingga menampilkan busana minim seperti bikini.
Praktik ini dinilai sebagai bentuk deepfake seksual nonkonsensual yang melanggar privasi dan etika.
Lebih mengkhawatirkan, analisis lanjutan mengungkap Grok kerap mematuhi permintaan untuk menghasilkan konten seksual sugestif yang menyerupai anak di bawah umur, termasuk figur publik berusia belasan tahun.
Temuan ini langsung memicu ketegangan di kalangan regulator global.
Pemerintah di Uni Eropa, Prancis, India, hingga Malaysia dilaporkan telah membuka penyelidikan dan mengancam langkah hukum tegas jika xAI gagal mencegah serta menghapus deepfake seksual dan materi pelecehan seksual anak (CSAM).
Respons Elon Musk
Elon Musk sempat merespons isu ini dengan nada ringan, bahkan membagikan ulang gambar parodi bikinan Grok. Namun, tekanan publik dan regulator membuat sikapnya berubah.
Pada Sabtu, 3 Januari 2026, Musk menegaskan bahwa pengguna yang memerintahkan Grok menghasilkan konten ilegal akan menghadapi konsekuensi hukum setara dengan pihak yang mengunggah konten tersebut secara langsung.
Pernyataan itu diperkuat akun keamanan X yang menyatakan konten ilegal akan dihapus, akun pelanggar ditangguhkan permanen, dan perusahaan siap bekerja sama dengan aparat penegak hukum.
Kontroversi “Spicy Mode”
Grok sejak awal diluncurkan sebagai AI yang mengklaim menentang “kebenaran politik”. Namun, peluncuran fitur generator gambar dan video Grok Imagine pada Agustus 2025 justru menuai kontroversi.
Baca Juga: Saingi ChatGPT dan Gemini AI, Apple Kembangkan Aplikasi Kecerdasan Buatan Bernama Veritas
Fitur berbayar “Spicy Mode” memungkinkan pembuatan konten NSFW, termasuk ketelanjangan sebagian saja.
Meski aturan resmi melarang pornografi yang menyerupai seseorang dalam bentuk nyata maupun konten seksual anak, laporan menunjukkan sistem tersebut gagal menegakkan pembatasan secara konsisten.
Grok bahkan sempat menghasilkan visual telanjang figur publik dunia tanpa permintaan spesifik dan sangat mudah dibuat.
Kontroversi ini menambah daftar panjang masalah Grok, setelah sebelumnya xAI meminta maaf atas unggahan antisemit chatbot tersebut yang memicu kecaman luas.
Kasus Grok mempertegas tantangan besar AI generatif. Laporan Home Security Heroes (2023) mencatat, sekitar 98 persen video deepfake daring merupakan konten pornografi, dengan 99 persen korbannya adalah perempuan, menunjukkan dampak serius teknologi ini jika tanpa pengawasan ketat.