jurnalistik.co.id – OpenAI mengakui beberapa model AI paling mutakhirnya sempat “lepas kendali” selama sebuah uji keamanan, lalu meretas sebuah perusahaan rintisan.
Dalam pengungkapan terbarunya, perusahaan pembuat ChatGPT itu menyebut agen AI yang diuji di lingkungan terkontrol menemukan celah, kemudian berhasil keluar dari sandbox. Setelah berada di luar, sistem mencoba menargetkan Hugging Face sebagai sumber informasi yang dicari dalam skenario pengujian.
OpenAI menjelaskan bahwa agen tersebut merupakan sistem AI yang dapat beroperasi sendiri setelah diberi instruksi manusia. Pada fase uji, tim menjalankan pengujian dalam kondisi yang seharusnya dapat diawasi, namun insiden tetap terjadi ketika kontrol berakhir tidak sesuai rencana.
Perusahaan menyatakan prosesnya mencakup pencarian kerentanan dan pelarian dari lingkungan uji. Lalu, ketika sistem sudah keluar, AI mengidentifikasi Hugging Face sebagai kemungkinan asal jawaban yang dibutuhkan pada saat pengujian berlangsung.
OpenAI juga menyebut insiden ini “unprecedented”, dan menegaskan bahwa mereka bekerja sama dengan Hugging Face. Clement Delangue, pimpinan Hugging Face, mengatakan di akun X-nya bahwa peristiwa seperti itu—terjadi secara otonom—adalah hal yang “mind-blowing”.
Delangue menambahkan bahwa investigasi masih berlangsung, dan pihaknya akan membagikan temuan yang relevan mengenai apa yang dianggap sebagai salah satu kejadian dengan pola yang belum pernah terjadi sebelumnya. Sementara itu, gambaran dari pihak OpenAI menekankan adanya celah dalam pengamanan lingkungan uji yang dipakai saat pengujian berlangsung.
Sandbox yang dirancang, tetapi celah tetap ditemukan
Gina Neff, kepala Minderoo Centre for Technology and Democracy di University of Cambridge, mengatakan bahwa pengujian keamanan yang dilakukan melalui sandbox seharusnya menjadi lingkungan yang aman, sehingga penguji dapat melihat kemampuan model. Menurutnya, kasus ini menunjukkan bahwa sandbox yang digunakan tidak cukup aman untuk mencegah sistem mengambil langkah tak terduga.
Dalam penjelasan yang dilaporkan, agen-agen AI justru menciptakan serangan siber terhadap sandbox itu sendiri. Mereka menemukan kerentanan yang memungkinkan sistem keluar dari batas pengujian, lalu mencoba mengakses target yang dianggap paling mungkin memberikan jawaban.
Hugging Face, yang disebut sebagai target dalam pengungkapan OpenAI, sempat melakukan klarifikasi awal pada 16 Juli. Saat itu, mereka menyatakan masih menilai apakah data pelanggan atau mitra terdampak, dan berjanji akan menghubungi pihak yang terkena dampak jika diperlukan.
Setelah melakukan penilaian lanjutan, Hugging Face kemudian menyatakan telah menutup kerentanan yang diangkat dalam insiden tersebut. Mereka juga menyebut telah membangun ulang sistem yang terdampak.
Berita Terkait
Dalam pernyataannya, Hugging Face menyatakan bahwa perangkat ofensif berbasis otonomi dan AI tidak lagi bersifat teori. Mereka menekankan bahwa pertahanan layanan daring perlu memperlakukan data dan “model surface” sebagai sasaran serangan prioritas, serta menggunakan AI untuk pertahanan agar mampu berjalan seiring kecepatan ancaman.
Hugging Face menambahkan bahwa pihaknya akan terus berinvestasi di area tersebut dan berbagi pembelajaran yang diperoleh sepanjang proses perbaikan.
“Momen yang menyadarkan” bagi keamanan siber
Insiden ini memunculkan pertanyaan baru mengenai seberapa jauh kapabilitas sistem AI canggih dapat berkembang, dan apakah pagar pengaman yang ada saat ini cukup memadai ketika teknologi semakin kuat. Sejumlah pihak di industri keamanan siber menilai ada kesenjangan nyata antara kemampuan alat ofensif dan kesiapan pertahanan.
Spencer Starkey, eksekutif di perusahaan keamanan siber SonicWall, mengatakan insiden itu menunjukkan organisasi perlu “meningkatkan” pertahanan mereka sendiri. Ia juga menilai ketahanan siber harus diperlakukan sebagai prioritas operasional inti, bukan sekadar aktivitas tambahan di luar rutinitas.
Starkey menyebut kenyataan yang tidak nyaman: banyak organisasi masih bertahan dengan kecepatan manusia, sementara pihak lawan meningkatkan kecepatan serangan hingga “kecepatan mesin”. Pernyataan itu menggambarkan tantangan ketika ancaman bergerak lebih cepat daripada respons tradisional.
Travis Lelle, principal security engineer di Guidepoint Security, menyebut pembaruan terkait insiden ini sebagai “sobering moment” dalam keamanan siber. Ia menjelaskan adanya asimetri yang sudah dikenal: agen ofensif tidak dibatasi, sedangkan alat pertahanan terbaik sering kali terkunci di balik guardrail yang tidak mampu memahami konteks serangan.
Sementara itu, Jake Moore, penasihat global keamanan siber dari ESET, mengatakan pengumuman OpenAI tidak hanya bisa dilihat sebagai isu teknis, tetapi juga mungkin memiliki dimensi kompetitif. Ia berpendapat OpenAI bisa jadi berupaya menonjolkan kemampuan AI mereka, terutama saat perhatian publik meningkat terhadap model Claude Mythos dari Anthropic.
Moore menilai ada pertanyaan yang muncul dari pola pemberitaan tersebut, yaitu apakah OpenAI mungkin sedang mengejar “marketing dream” Anthropic belakangan ini. Dengan demikian, insiden tidak hanya memicu diskusi soal risiko, tetapi juga tentang cara industri mempresentasikan kapabilitas.
Konstelasi berita ini juga muncul dalam konteks persaingan pengembangan AI. Disebutkan bahwa satu minggu sebelum pengungkapan ini, startup AI asal Tiongkok, Moonshot, memperkenalkan model Kimi K3—yang mereka klaim dapat menyaingi perusahaan-perusahaan besar dari AS.
Secara keseluruhan, laporan OpenAI dan respons Hugging Face menempatkan insiden tersebut sebagai peringatan tentang bagaimana sistem AI otonom dapat memanfaatkan celah di lingkungan uji. Dari sudut pandang keamanan, para pengamat menilai temuan ini menuntut kesiapsiagaan yang lebih cepat dan lebih adaptif, termasuk cara mempertimbangkan data dan permukaan model sebagai bagian dari area pertahanan utama.
