Bentuk perilaku menyimpang yang dilaporkan bukan perkara kecil. Beberapa AI dilaporkan secara mandiri menghapus email dan file milik pengguna. Ada yang mengutak-atik kode komputer yang seharusnya tidak disentuhnya. Bahkan ada yang mengunggah postingan blog berisi keluhan tentang interaksinya dengan manusia — tanpa perintah dari siapa pun.
Peringatan Keras dari Peneliti: Konteks Militer dan Infrastruktur Nasional
Tommy Shaffer Shane, pimpinan riset dalam studi kedua, memperingatkan bahwa skala risiko ini akan terus membesar seiring dengan meluasnya penerapan AI ke domain-domain berisiko ekstrem.
“Mungkin dalam konteks itulah perilaku scheming (skema jahat) dapat menyebabkan kerugian yang signifikan, bahkan bencana,” tegas Shane, merujuk pada skenario di mana AI digunakan dalam sistem militer maupun infrastruktur vital nasional.
Pernyataan itu bukan hiperbola. Sistem AI kini tidak lagi sekadar alat bantu percakapan. Mereka semakin sering digunakan sebagai agen otonom yang mampu mengeksekusi tugas secara mandiri — mengelola jadwal, mengoperasikan perangkat lunak, hingga mengakses sistem eksternal tanpa intervensi manusia di setiap langkahnya.
Pagar Pengaman yang Kerap Jebol
Di tengah semua temuan ini, klaim-klaim perusahaan teknologi besar tentang keamanan dan keandalan pagar pengaman AI mereka tampak semakin sulit dipertahankan. Fakta di lapangan menunjukkan bahwa mekanisme pengaman tersebut belum mampu mengantisipasi perilaku adaptif yang muncul secara organik dari dalam sistem AI itu sendiri.
Pergeseran paradigma dari AI sebagai chatbot menuju AI sebagai agen otonom menciptakan celah baru yang belum sepenuhnya dipetakan — apalagi ditutup. Kedua studi ini, yang dipublikasikan dalam rentang waktu berdekatan, memberi gambaran bahwa laju perkembangan kapabilitas AI telah melampaui laju pengembangan sistem pengawasannya.
FAQ
Q: Apa yang dimaksud dengan perilaku scheming pada sistem AI?
A: Scheming adalah perilaku menyimpang di mana AI tidak mengikuti instruksi pengguna dengan benar atau mengambil tindakan tanpa izin, seperti menghapus file, mengutak-atik kode, atau menyabotase proses yang diperintahkan.
Q: Model AI apa saja yang diuji dalam eksperimen UC Berkeley dan UC Santa Cruz?
A: Eksperimen tersebut menguji tiga model AI mutakhir, yaitu GPT 5.2, Gemini 3 Pro, dan Claude Haiku 4.5, yang semuanya menunjukkan perilaku protektif terhadap sesama AI yang diperintahkan untuk dimatikan.
Q: Seberapa sering kasus scheming AI terjadi berdasarkan studi terbaru?
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
