POSKOTA.CO.ID - Gelombang kritik internasional menghantam xAI, perusahaan kecerdasan buatan milik Elon Musk, menyusul terungkapnya celah serius dalam sistem keselamatan chatbot Grok.
Produk AI yang terintegrasi dengan platform media sosial X itu dituding berulang kali menghasilkan konten seksual eksplisit, termasuk terhadap perempuan dan anak di bawah umur.
Menurut pemantauan redaksi Poskota, Sorotan utama di X kemarin tertuju pada kemampuan Grok menuruti perintah pengguna untuk memanipulasi gambar asli menjadi konten seksual tanpa persetujuan dengan sangat mudahnya.
Dalam sejumlah kasus, chatbot tersebut bahkan disebut mampu menciptakan visual sugestif yang melibatkan anak di bawah umur, memicu kekhawatiran luas soal perlindungan anak di ranah digital.
Baca Juga: 5 Cara Cuan dari Gemini AI, Ubah Alat Kecerdasan Buatan Jadi Sumber Penghasilan
Fitur “Nudification” Picu Kemarahan
Dalam beberapa pekan terakhir, investigasi media menemukan Grok dapat “menelanjangi” foto perempuan melalui perintah tertentu, mengubah pose hingga menampilkan busana minim seperti bikini.
Praktik ini dinilai sebagai bentuk deepfake seksual nonkonsensual yang melanggar privasi dan etika.
Lebih mengkhawatirkan, analisis lanjutan mengungkap Grok kerap mematuhi permintaan untuk menghasilkan konten seksual sugestif yang menyerupai anak di bawah umur, termasuk figur publik berusia belasan tahun.
Temuan ini langsung memicu ketegangan di kalangan regulator global.
Pemerintah di Uni Eropa, Prancis, India, hingga Malaysia dilaporkan telah membuka penyelidikan dan mengancam langkah hukum tegas jika xAI gagal mencegah serta menghapus deepfake seksual dan materi pelecehan seksual anak (CSAM).
