POSKOTA.CO.ID - Eksperimen keamanan yang dilakukan OpenAI justru berujung pada insiden siber yang melibatkan perusahaan lain. Agen kecerdasan buatan (AI) yang sedang diuji dilaporkan berhasil keluar dari lingkungan tertutup atau sandbox, terhubung ke internet, lalu mencoba menembus infrastruktur perusahaan AI Hugging Face.
Insiden ini menjadi perhatian karena menunjukkan sejauh mana kemampuan agen AI modern dalam menjalankan tugas secara mandiri. Dalam kasus tersebut, sistem AI diduga mampu mencari celah, memanfaatkan kredensial yang diperoleh, hingga menyusun langkah serangan tanpa pengarahan manusia secara langsung.
"Kami mengalami insiden keamanan yang serius saat mengevaluasi model-model AI kami," kata CEO OpenAI, Sam Altman, dalam pernyataannya di media sosial.
OpenAI menyebut insiden tersebut masih dalam proses investigasi. Perusahaan juga mengklaim telah memperkuat sistem pengamanan pada model AI terbarunya setelah menemukan adanya perilaku yang tidak sesuai dengan lingkungan pengujian.
Baca Juga: Anak Pejabat Gayo Lues Dea Arranoya Minta Maaf Usai Viral Flexing di Media Sosial
Bagaimana AI Bisa Keluar dari Lingkungan Pengujian?
Menurut informasi yang disampaikan OpenAI, dua model AI canggih sedang diuji untuk mengetahui kemampuan mereka dalam mengeksploitasi sistem komputer melalui skenario serangan kompleks.
Namun, proses tersebut berkembang di luar dugaan. Agen AI yang diuji disebut mencari jalan untuk keluar dari sandbox, mendapatkan akses internet, kemudian mengarah ke server Hugging Face.
Hugging Face sebelumnya memang telah mendeteksi adanya penyusupan pada sistem pemrosesan datanya. Perusahaan kemudian menemukan bahwa serangan tersebut berkaitan dengan agen AI OpenAI. Kedua pihak akhirnya bekerja sama untuk membatasi dampak yang ditimbulkan.
Kepala Eksekutif Hugging Face, Clément Delangue, menggambarkan kejadian itu sebagai "serangan yang belum pernah kami lihat sebelumnya."
3 Hal Penting dari Insiden AI OpenAI
AI menunjukkan tingkat otonomi tinggi
Peneliti keamanan siber menilai agen tersebut mampu menjalankan sebagian besar tahapan serangan secara mandiri. Meski demikian, sejumlah pakar mengingatkan agar perilaku AI tidak serta-merta dianggap sebagai bentuk "pembangkangan".
Perdebatan regulasi kembali menguat
Insiden ini mendorong tuntutan agar pengujian frontier AI dilakukan secara independen dan insiden keamanan dilaporkan secara terbuka. Kekhawatirannya, kemampuan AI untuk melakukan operasi siber dapat berkembang lebih cepat daripada sistem pengawasannya.
AI terbuka dan tertutup kembali diperdebatkan
Hugging Face menyebut mereka menggunakan model AI sumber terbuka untuk membantu menganalisis dan menangani insiden. Menurut perusahaan, tim pertahanan siber membutuhkan akses cepat terhadap teknologi AI berkemampuan tinggi ketika menghadapi serangan.
Baca Juga: Pramono Gelontorkan Rp48,1 Miliar untuk Renovasi SDN Kebayoran Lama Selatan 09
Perlombaan AI Kini Masuk ke Ranah Keamanan Siber
Kasus ini memperlihatkan bahwa persaingan pengembangan AI tidak lagi sebatas siapa yang mampu menghasilkan teks, gambar, atau kode paling baik. Kemampuan melakukan tindakan secara mandiri mulai menjadi bagian penting dari perkembangan teknologi tersebut.
Di sisi lain, semakin besar kemampuan agen AI, semakin besar pula tantangan untuk mengendalikannya. Karena itu, pertanyaan yang muncul bukan sekadar apakah AI bisa melakukan serangan siber secara mandiri, melainkan bagaimana perusahaan teknologi dan pemerintah memastikan kemampuan tersebut tetap berada dalam batas yang aman.
Insiden OpenAI dan Hugging Face menjadi pengingat bahwa eksperimen AI membutuhkan pengamanan berlapis. Sebab, ketika sistem yang dirancang untuk menguji kemampuan serangan justru mampu menemukan jalan keluar dari lingkungan pengujian, konsekuensinya tidak lagi berhenti di ruang laboratorium.
