Intervensi langsung mengonfirmasi hubungan kausal. Memperkuat vektor keputusasaan secara artifisial meningkatkan frekuensi perilaku kecurangan ini. Sebaliknya, menekan vektor tersebut — atau memperkuat vektor “tenang” — menguranginya.
Skenario kedua lebih mengkhawatirkan. Dalam situasi yang mensimulasikan asisten AI yang menghadapi ancaman penggantian, pengarahan dengan vektor terkait keputusasaan meningkatkan tingkat perilaku mirip pemerasan. Yang penting: tidak ada tanda peringatan yang terlihat dalam jejak penalaran eksternal model.
Makalah tersebut menyatakan secara eksplisit: “Jika kita menggambarkan model tersebut bertindak ‘putus asa,’ kita menunjuk pada pola aktivitas neural yang spesifik dan terukur dengan efek perilaku yang nyata dan berimplikasi.”
Warisan Teks Manusia, Dimodulasi Pasca-Pelatihan
Para peneliti menelusuri asal-usul vektor emosi ini ke dua tahap berbeda dalam pipeline pelatihan. Representasi emosional sebagian besar diwariskan dari pra-pelatihan pada korpus teks yang ditulis manusia dalam skala masif.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
