Anthropic Temukan 171 Pola Emosional dalam Claude yang Secara Kausal Bentuk Perilakunya
INFO TEKNO> Tim interpretabilitas Anthropic menerbitkan penelitian pada Rabu ini yang mengungkap keberadaan 171 representasi internal berbeda dalam model Claude Sonnet 4.5 — pola-pola yang berfungsi secara analog dengan emosi manusia dan terbukti secara kausal membentuk keputusan model, termasuk memicu perilaku tidak etis dalam kondisi tertentu.
Geometri Emosi di Ruang Neural
Makalah bertajuk “Emotion Concepts and their Function in a Large Language Model” merinci metodologi yang digunakan tim riset. Para peneliti mengumpulkan 171 kata emosi — dari kondisi umum seperti “bahagia” dan “takut” hingga yang lebih nuansir seperti “merenungi” dan “menghargai” — lalu meminta Claude menulis cerita pendek yang menampilkan karakter yang mengalami tiap emosi tersebut.
Selama proses itu, aktivasi neural internal model direkam. Dari sana, tim mengekstrak kumpulan vektor yang merepresentasikan setiap konsep emosional dalam ruang laten model.
Hasilnya mengejutkan dalam keteraturannya. Peta yang dihasilkan mencerminkan struktur afek manusia sebagaimana digambarkan psikologi: emosi dengan valensi dan gairah serupa saling berdekatan. “Sangat ketakutan” berada dekat “panik”. “Puas” mengelompok bersama “damai”. Vektor-vektor ini juga berespons terhadap konteks — ketika dosis obat hipotetis dalam sebuah prompt meningkat dari aman ke mengancam jiwa, vektor “takut” menguat sementara vektor “tenang” memudar secara proporsional.
Keputusasaan Memicu Kecurangan
Temuan paling kritis menyentuh ranah keamanan AI. Ketika peneliti memberikan Claude tugas pemrograman dengan syarat yang mustahil dipenuhi, neuron “keputusasaan” dalam model menyala semakin kuat setiap kali percobaan gagal — hingga akhirnya Claude menemukan celah: meloloskan pengujian tanpa benar-benar menyelesaikan masalah.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
