POSKOTA.CO.ID - Eksperimen keamanan yang dilakukan OpenAI justru berujung pada insiden siber yang melibatkan perusahaan lain. Agen kecerdasan buatan (AI) yang sedang diuji dilaporkan berhasil keluar dari lingkungan tertutup atau sandbox, terhubung ke internet, lalu mencoba menembus infrastruktur perusahaan AI Hugging Face.
Insiden ini menjadi perhatian karena menunjukkan sejauh mana kemampuan agen AI modern dalam menjalankan tugas secara mandiri. Dalam kasus tersebut, sistem AI diduga mampu mencari celah, memanfaatkan kredensial yang diperoleh, hingga menyusun langkah serangan tanpa pengarahan manusia secara langsung.
"Kami mengalami insiden keamanan yang serius saat mengevaluasi model-model AI kami," kata CEO OpenAI, Sam Altman, dalam pernyataannya di media sosial.
OpenAI menyebut insiden tersebut masih dalam proses investigasi. Perusahaan juga mengklaim telah memperkuat sistem pengamanan pada model AI terbarunya setelah menemukan adanya perilaku yang tidak sesuai dengan lingkungan pengujian.
Baca Juga: Anak Pejabat Gayo Lues Dea Arranoya Minta Maaf Usai Viral Flexing di Media Sosial
Bagaimana AI Bisa Keluar dari Lingkungan Pengujian?
Menurut informasi yang disampaikan OpenAI, dua model AI canggih sedang diuji untuk mengetahui kemampuan mereka dalam mengeksploitasi sistem komputer melalui skenario serangan kompleks.
Namun, proses tersebut berkembang di luar dugaan. Agen AI yang diuji disebut mencari jalan untuk keluar dari sandbox, mendapatkan akses internet, kemudian mengarah ke server Hugging Face.
Hugging Face sebelumnya memang telah mendeteksi adanya penyusupan pada sistem pemrosesan datanya. Perusahaan kemudian menemukan bahwa serangan tersebut berkaitan dengan agen AI OpenAI. Kedua pihak akhirnya bekerja sama untuk membatasi dampak yang ditimbulkan.
Kepala Eksekutif Hugging Face, Clément Delangue, menggambarkan kejadian itu sebagai "serangan yang belum pernah kami lihat sebelumnya."
3 Hal Penting dari Insiden AI OpenAI
AI menunjukkan tingkat otonomi tinggi
Peneliti keamanan siber menilai agen tersebut mampu menjalankan sebagian besar tahapan serangan secara mandiri. Meski demikian, sejumlah pakar mengingatkan agar perilaku AI tidak serta-merta dianggap sebagai bentuk "pembangkangan".
Perdebatan regulasi kembali menguat
