Dirinya merasa sedih serta miris karena AI seharusnya tidak digunakan untuk merendahkan martabat manusia, apalagi dengan mengeksploitasi tubuh dan identitas orang lain tanpa izin.
“Stop menyalahgunakan AI. Berpikirlah lebih pintar daripada kecerdasan buatan, Tuhan beri kamu hati dan akal untuk berpikir lebih baik dan sehat daripada alat ciptaan manusia,” ungkap Freya JKT48.
“Berhentilah mengganggu manusia lain. Tidak ada satu manusia pun yang wajar diperlakukan tidak menyenangkan, bagaimanapun caranya. Apapun gender, ras, warna kulit, agama, pekerjaan, dan berapapun usianya,” ujarnya.
Tak hanya Freya, member lainnya seperti Greesella Adhalia juga menyampaikan keresahan dalam akun X miliknya. Dalam cuitannya, dia meminta Grok untuk menolak setiap parmintaan pengguna yang ingin mengedit fotonya.
“Hai @grok, saya TIDAK memberikan izin kepada kamu untuk mengambil, memproses, atau mengedit foto-foto saya dalam bentuk apa pun, baik yang sudah dipublikasikan di masa lalu maupun yang akan datang," tegas Greesell.
"Jika ada pengguna yang meminta kamu untuk mengedit atau memanipulasi gambar saya dengan cara apa pun, tolong langsung tolak permintaan tersebut,” katanya.
Pihak Manajemen JKT48 Turun Tangan
Sementara itu, pihak manajemen JKT48 mengeluarkan pernyataan resmi terkait pengguna AI Grok yang edit foto para member menjadi tak senonoh. Mereka menegaskan bahwa komitmen untuk melindungi keamanan, kehormatan dan kenyamanan seluruh member JKT48.
Manajemen mengatakan telah menerima laporan terkait penyalahgunaan AI kepada beberapa member. Kronologi selanjutnya, mereka lalu menilai konten itu berpotensi memenuhi unsur pencemaran nama baik dan/atau penghinaan sesuai peraturan perundang-undangan yang berlaku.
Pihak manajemen kemudian mengimbau pihak-pihak yang terlibat untuk segera menghentikan dan menghapus konten tersebut secara permanen. Para pengguna kemudian diberikan waktu 2 x 24 jam setelah pengumuman diterbitkan.
Jika dalam waktu tersebut masih terdapat konten serupa beredar, maka JKT48 siap mendukung penuh member terdampak untuk menempuh jalur hukum.
JKT48 Operation Team juga memastikan akan memfasilitasi pendampingan penasihat hukum guna mengawal proses hukum hingga tuntas.
Langkah hukum tersebut dapat mencakup beberapa pihak yang terkait. Hal ini seperti membuat konten pornografi berbasis AI dengan menampilkan wajah atau identitas member, pihak yang menyebarkan atau mempromosikan konten tersebut, hingga unggahan atau komentar yang mendukung dan mengeksploitasi materi bermasalah itu.
