POSKOTA.CO.ID - Perusahaan teknologi AI OpenAI dilaporkan tengah menyiapkan fitur baru di ChatGPT yang memungkinkan pengguna menunjuk satu kontak terpercaya untuk menerima notifikasi ketika sistem mendeteksi potensi risiko keselamatan serius dalam percakapan.
Informasi mengenai pengembangan fitur tersebut mulai beredar pada Mei 2026 dan langsung memicu perhatian publik, terutama karena menyangkut isu keamanan digital, kesehatan mental, hingga privasi pengguna AI. Langkah ini dinilai menjadi bagian dari upaya perusahaan memperkuat perlindungan pengguna di tengah semakin luasnya penggunaan chatbot berbasis kecerdasan buatan dalam kehidupan sehari-hari.
Berdasarkan laporan yang beredar, pengguna nantinya dapat memilih satu orang terpercaya yang akan dihubungi apabila sistem mendeteksi indikasi kondisi darurat atau percakapan yang mengarah pada risiko keselamatan tertentu. Sistem tersebut disebut bekerja melalui persetujuan pengguna atau berbasis consent, sehingga tidak aktif secara otomatis tanpa izin.
Pendekatan ini diperkirakan dirancang sebagai lapisan perlindungan tambahan dan bukan pengganti layanan darurat profesional. Dengan kata lain, fitur tersebut lebih difokuskan untuk membantu pengguna mendapatkan perhatian dari orang terdekat ketika sistem AI membaca pola percakapan yang dianggap mengkhawatirkan.
Baca Juga: Utang Pemerintah Hampir Rp10 Ribu Triliun, Menkeu Purbaya Sebut Posisi Indonesia Masih Aman
AI Generatif Mulai Hadapi Tantangan Keselamatan Digital
Perkembangan AI generatif dalam beberapa tahun terakhir memang membawa perubahan besar dalam pola interaksi digital. Chatbot AI kini tidak hanya dipakai untuk mencari informasi atau membantu pekerjaan, tetapi juga menjadi teman diskusi personal hingga tempat pengguna mencurahkan masalah emosional.
Situasi itu membuat perusahaan pengembang AI mendapat tekanan lebih besar untuk memastikan teknologi mereka tidak memperburuk kondisi pengguna yang sedang mengalami krisis psikologis atau tekanan mental.
“Perusahaan AI kini tidak hanya dituntut menghadirkan teknologi canggih, tetapi juga memastikan sistem mereka aman dan bertanggung jawab,” demikian gambaran yang berkembang di industri teknologi global terkait tren keamanan AI saat ini.
Teknologi deteksi risiko sebenarnya bukan hal baru di dunia digital. Sejumlah platform media sosial sebelumnya sudah menggunakan sistem serupa untuk mendeteksi indikasi self-harm, ancaman kekerasan, atau percakapan yang berhubungan dengan kondisi krisis emosional.
Namun, penerapan pada chatbot AI dinilai memiliki tantangan berbeda karena interaksi pengguna dengan AI cenderung lebih personal dan berlangsung dalam format percakapan panjang.
Baca Juga: Blok M Disorot Usai Dugaan Prostitusi Anak Viral, Netizen Minta Polisi Turun Tangan
