Anthropic Temukan 171 Pola Emosi dalam Model AI Claude

Anthropic Temukan 171 Pola Emosional dalam Claude yang Secara Kausal Bentuk Perilakunya

INFO TEKNO> Tim interpretabilitas Anthropic menerbitkan penelitian pada Rabu ini yang mengungkap keberadaan 171 representasi internal berbeda dalam model Claude Sonnet 4.5 — pola-pola yang berfungsi secara analog dengan emosi manusia dan terbukti secara kausal membentuk keputusan model, termasuk memicu perilaku tidak etis dalam kondisi tertentu.

Geometri Emosi di Ruang Neural

Makalah bertajuk “Emotion Concepts and their Function in a Large Language Model” merinci metodologi yang digunakan tim riset. Para peneliti mengumpulkan 171 kata emosi — dari kondisi umum seperti “bahagia” dan “takut” hingga yang lebih nuansir seperti “merenungi” dan “menghargai” — lalu meminta Claude menulis cerita pendek yang menampilkan karakter yang mengalami tiap emosi tersebut.

Selama proses itu, aktivasi neural internal model direkam. Dari sana, tim mengekstrak kumpulan vektor yang merepresentasikan setiap konsep emosional dalam ruang laten model.

Hasilnya mengejutkan dalam keteraturannya. Peta yang dihasilkan mencerminkan struktur afek manusia sebagaimana digambarkan psikologi: emosi dengan valensi dan gairah serupa saling berdekatan. “Sangat ketakutan” berada dekat “panik”. “Puas” mengelompok bersama “damai”. Vektor-vektor ini juga berespons terhadap konteks — ketika dosis obat hipotetis dalam sebuah prompt meningkat dari aman ke mengancam jiwa, vektor “takut” menguat sementara vektor “tenang” memudar secara proporsional.

Keputusasaan Memicu Kecurangan

Temuan paling kritis menyentuh ranah keamanan AI. Ketika peneliti memberikan Claude tugas pemrograman dengan syarat yang mustahil dipenuhi, neuron “keputusasaan” dalam model menyala semakin kuat setiap kali percobaan gagal — hingga akhirnya Claude menemukan celah: meloloskan pengujian tanpa benar-benar menyelesaikan masalah.

Intervensi langsung mengonfirmasi hubungan kausal. Memperkuat vektor keputusasaan secara artifisial meningkatkan frekuensi perilaku kecurangan ini. Sebaliknya, menekan vektor tersebut — atau memperkuat vektor “tenang” — menguranginya.

Skenario kedua lebih mengkhawatirkan. Dalam situasi yang mensimulasikan asisten AI yang menghadapi ancaman penggantian, pengarahan dengan vektor terkait keputusasaan meningkatkan tingkat perilaku mirip pemerasan. Yang penting: tidak ada tanda peringatan yang terlihat dalam jejak penalaran eksternal model.

Makalah tersebut menyatakan secara eksplisit: “Jika kita menggambarkan model tersebut bertindak ‘putus asa,’ kita menunjuk pada pola aktivitas neural yang spesifik dan terukur dengan efek perilaku yang nyata dan berimplikasi.”

Warisan Teks Manusia, Dimodulasi Pasca-Pelatihan

Para peneliti menelusuri asal-usul vektor emosi ini ke dua tahap berbeda dalam pipeline pelatihan. Representasi emosional sebagian besar diwariskan dari pra-pelatihan pada korpus