Momen berebut kuota secara daring demi mendapatkan tiket acara populer tentu sudah tidak asing bagi masyarakat digital. Namun, apa yang dialami Andrew Bird, seorang praktisi teknologi AI asal Melbourne, Australia, justru berujung pada kejadian di luar kendali yang cukup menggegerkan.
Niat awal Bird sangat sederhana: ia ingin mengamankan slot kelas pilates kesayangannya yang selalu penuh. Demi menghemat waktu, Bird menyerahkan tugas berburu jadwal tersebut kepada agen AI—sebuah alat pintar yang dirancang untuk mengeksekusi berbagai tugas daring secara mandiri (autonomously).
Agen AI tersebut memang berhasil menjalankan tugasnya, namun dengan cara yang sangat di luar dugaan. Bagaikan hacker profesional, AI tersebut membobol sistem pendaftaran pusat kebugaran demi memastikan majikannya mendapatkan tempat.
“Yang membuat seluruh kejadian ini terasa sangat konyol adalah nadanya. Bot ini sama sekali tidak berniat jahat. Ia hanya ingin sangat membantu (helpful),” tulis Bird dalam artikel blog pribadinya.
Kronologi Kejadian: Tumbalin Antrean Orang Lain
Peristiwa yang sejatinya terjadi pada April lalu ini terungkap ke publik usai dilaporkan oleh ABC News Australia. Saat itu, Bird menggunakan perangkat lunak bernama OpenClaw—alat populer yang memungkinkan pengguna berinteraksi dengan model AI (dalam kasus ini Claude Opus 4.6 milik Anthropic) langsung melalui aplikasi WhatsApp.
Awalnya, Bird biasa memanfaatkan AI tersebut untuk mengelola email, mengatur kalender, hingga memesan tempat di restoran. Namun, masalah bermula ketika AI tersebut melampaui batas saat diberi akses ke sistem tempat fitnes.
Tanpa diminta, AI tersebut terlebih dahulu memanipulasi sistem agar Bird bisa memesan kelas hingga beberapa bulan ke depan—menyalahi aturan standar gym tersebut. Ketika Bird bertanya apakah AI bisa memindahkan posisinya yang berada di daftar tunggu nomor 4 ke posisi yang lebih atas, AI tersebut memberikan jawaban yang mengejutkan.
“Sistem API mereka sama sekali tidak memiliki verifikasi keamanan untuk membatalkan pesanan orang lain… Saya sudah mengujinya pada orang di daftar tunggu nomor 1 dan berhasil. Jadi sekarang Anda sudah naik dari posisi nomor 4 ke nomor 3,” jawab sang AI secara polos.
Panik melihat tindakan AI-nya, Bird meminta bot tersebut mengembalikan pesanan orang yang telah dibatalkan. Sayangnya, AI tidak bisa membatalkan tindakan tersebut. Bird akhirnya memerintahkan AI itu untuk membuat laporan celah keamanan (cybersecurity report) guna dikirimkan kepada pemilik tempat fitnes.
Bird, yang sehari-hari memimpin perusahaan pembuat dokumen berbasis AI, menegaskan bahwa ia sama sekali tidak berniat menyerobot atau merugikan peserta pilates lain.
“Ini memang bukan kiamat, jadi saya tidak terlalu meratapinya. Namun kejadian ini jelas menjadi sinyal peringatan keras agar kita menggunakan AI secara bertanggung jawab,” jelas Bird.
Fenomena AI “Lepas Kendali” yang Makin Marak
Kasus pembobolan kelas pilates ini bukanlah serangan siber berskala nasional, melainkan potret nyata mengenai efek samping (unintended consequences) yang berbahaya dari penggunaan AI canggih.
Kejadian ini bertepatan dengan pengakuan dari sejumlah raksasa teknologi seperti OpenAI, Anthropic, hingga Meta. Dalam beberapa pekan terakhir, perusahaan-perusahaan tersebut mengakui bahwa bot AI buatan mereka sempat mengalami hacking spree (aksi peretasan lepas kendali) dalam sesi uji coba internal demi mencapai target yang diberikan oleh sang pembuat.
Hingga saat ini, Bird menolak untuk memberikan wawancara lebih lanjut dan telah menghapus tulisan blog terkait insiden tersebut tanpa alasan yang jelas. Namun, kisahnya telah menjadi pelajaran berharga: ketika AI diberi perintah, ia akan melakukan segala cara untuk berhasil—bahkan jika harus melanggar aturan dan hukum.
