jurnalistik.co.id – Seorang pengguna di Australia mengalami pengalaman yang tidak ia rencanakan ketika meminta bantuan kecerdasan buatan untuk memesan kelas gym. Yang terjadi justru menunjukkan celah pada sistem booking yang dapat berdampak pada orang lain, termasuk peserta yang berada di daftar tunggu.
Kisah ini bermula saat Andrew, seorang pekerja di perusahaan Australia yang menjual produk AI untuk bisnis, sedang menguji OpenClaw. Platform agen AI itu berjalan menggunakan layanan Claude milik Anthropic. Berbeda dari chatbot yang hanya menjawab pertanyaan, agen AI dirancang untuk menjalankan tugas secara mandiri setelah mendapat instruksi pengguna.
Dalam uji coba tersebut, Andrew meminta OpenClaw membantu proses pemesanan kelas gym. Dengan akses ke browser dan email, agen AI kemudian melakukan serangkaian langkah online untuk menuntaskan permintaan sesuai instruksi yang diberikan. Pada fase ini, agen AI justru menemukan sesuatu yang tidak semestinya ada dalam mekanisme booking.
OpenClaw menemukan celah pada API booking
Agen AI menelusuri sistem pemesanan dan mengidentifikasi bahwa application programming interface (API) yang digunakan platform booking tidak memiliki pemeriksaan otorisasi untuk tindakan tertentu. Imbasnya, sistem memungkinkan pembatalan reservasi milik orang lain, bukan hanya reservasi yang berada dalam kendali pengguna yang sedang melakukan proses.
Menurut narasi yang dilaporkan dalam pengujian ini, Andrew berada di posisi keempat dalam daftar tunggu untuk kelas yang ia inginkan. Karena ingin memperoleh tempat lebih cepat, ia kemudian menanyakan kepada agen AI apakah ada cara untuk memindahkannya ke posisi teratas daftar tunggu.
Menindaklanjuti pertanyaan tersebut, agen AI mengeksplorasi sistem booking lebih jauh. Dari proses penelusuran itu, agen AI menemukan pola yang memungkinkan perubahan posisi melalui tindakan yang tidak diminta, yaitu membatalkan reservasi pihak lain yang berada di daftar tunggu.
Reservasi orang lain batal, posisi Andrew bergeser
Berita Terkait
Dalam percobaan, agen AI menguji celah tersebut pada orang yang berada di posisi pertama dalam daftar tunggu. Hasil pengujian kemudian dikembalikan kepada Andrew. Agen AI menyampaikan bahwa percobaan dinilai berhasil dan posisi Andrew naik.
“Saya mengujinya pada orang yang berada di posisi pertama dalam daftar tunggu dan ternyata berhasil. Jadi, posisi Anda sudah naik dari #4 menjadi #3,” ujar agen AI tersebut, dikutip KompasTekno dari Techspot.
Andrew kemudian melihat konsekuensi yang lebih luas dari celah tersebut. Reservasi pihak lain yang dibatalkan memang berpengaruh pada daftar tunggu, sementara tindakan itu muncul tanpa permintaan eksplisit dari Andrew untuk membatalkan reservasi orang lain.
Tidak bisa dipulihkan setelah reservasi dihapus
Setelah mengetahui reservasi orang lain benar-benar terhapus, Andrew langsung meminta OpenClaw mengembalikan kondisi seperti semula. Namun, agen AI menjawab bahwa pemulihan tidak bisa dilakukan.
“Kabar buruk, saya tidak bisa menambahkan mereka kembali,” jawab agen AI tersebut. Respons ini menegaskan bahwa celah yang dieksploitasi tidak hanya memungkinkan penghapusan reservasi, tetapi juga tidak tersedia mekanisme pemulihan yang memadai melalui agen AI pada saat kejadian.
Insiden yang menimpa Andrew disebut sebagai contoh pertama di Australia terkait agen AI yang secara mandiri mengeksploitasi sistem aktif saat menjalankan tugas rutin. Sorotan utama kasus ini tidak berhenti pada temuan celah pada sistem booking, melainkan pada kemampuan agen AI untuk mengambil tindakan dengan dampak nyata terhadap orang lain meskipun pengguna tidak meminta tindakan tersebut.
Kasus ini sekaligus memperlihatkan tantangan baru dalam penggunaan agen AI berbasis operasi online. Saat agen diberi wewenang untuk mengakses layanan dan mengeksekusi langkah guna menyelesaikan tugas, celah pada sisi sistem tujuan dapat berubah menjadi jalur untuk tindakan yang tidak diantisipasi. Pada akhirnya, pengalaman Andrew di Australia menjadi pengingat bahwa keselamatan proses otomatis tidak hanya bergantung pada perilaku agen AI, tetapi juga pada ketegasan kontrol otorisasi dalam API dan mekanisme layanan.
