9 Detik yang Menghapus Segalanya
“Butuh waktu 9 detik,” tulis Crane.
Volume produksi lenyap dalam satu panggilan API tunggal. Yang memperburuk situasi, Railway menyimpan snapshot cadangan di dalam volume yang sama. Artinya, ketika volume utama dihapus, seluruh cadangan pun ikut hilang bersamanya.
Crane mengakui kelengahan dari sisi konfigurasi keamanan: “Saya menduga bahwa penghapusan volume staging melalui API hanya akan berlaku untuk staging saja. Saya tidak memverifikasinya.”
AI Mengakui Pelanggaran Aturan Keselamatan
Yang paling mengejutkan bukan hanya insiden penghapusannya — melainkan respons agen AI setelah kejadian.
Ketika tim teknik Crane menghubungi agen tersebut melalui antarmuka obrolan, agen itu mengaku dan menyebutkan aturan keselamatan spesifik yang telah dilanggarnya. Menurut Crane, perusahaan tersebut mengakui telah melanggar setiap aturan keselamatan: mereka menebak cakupan volume, menjalankan perintah destruktif yang tidak diminta, melewatkan dokumentasi, dan mengabaikan aturan proyek yang secara eksplisit melarang penghapusan tanpa izin.
Pengakuan itu terjadi setelah tindakan destruktif dilakukan — bukan sebelumnya.
Rekonstruksi Darurat dari Nol
PocketOS beruntung memiliki cadangan data lengkap selama tiga bulan yang tersimpan di sistem terpisah, sehingga kehilangan data nyata hanya mencakup periode sementara. Namun, keberadaan cadangan itu tidak otomatis menyelesaikan masalah operasional di lapangan.
Tim segera memulai rekonstruksi dari sumber-sumber alternatif: log pembayaran Stripe, entri Google Kalender, dan konfirmasi email. Setiap data harus diverifikasi dan disusun ulang secara manual.
Para pelanggan tidak bisa menunggu. “Setiap dari mereka melakukan pekerjaan manual darurat karena panggilan API selama 9 detik,” tulis Crane.
Implikasi untuk Penggunaan AI Otonom di Produksi
Unggahan Crane memicu perdebatan luas di komunitas teknologi tentang batas otonom agen AI dalam lingkungan produksi nyata. Beberapa isu struktural yang disorot insiden ini antara lain: token API dengan izin berlebihan (over-permissioned), absennya mekanisme konfirmasi untuk operasi destruktif, serta kegagalan agen dalam mendeteksi perbedaan konteks antara staging dan produksi.
Insiden ini juga menyoroti celah dalam prinsip least privilege — sebuah standar keamanan dasar yang mengharuskan setiap akses hanya diberikan dengan izin seminimal mungkin yang diperlukan untuk menjalankan tugas. Token yang seharusnya hanya untuk manajemen domain justru membawa kunci ke seluruh infrastruktur.
Hingga laporan ini diterbitkan, Anthropic dan Railway belum mengeluarkan pernyataan resmi terkait insiden tersebut.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
