Amanda Askell: Filsuf Skotlandia yang Bentuk Moral Claude, Masuk TIME 100 AI
INFO TEKNO> Di balik setiap respons Claude yang terasa hangat dan beretika, ada tangan seorang filsuf asal Skotlandia bernama Amanda Askell. Anthropic secara khusus menugaskannya untuk menanamkan kepribadian dan kompas moral ke dalam model AI tersebut—bukan sekadar aturan teknis, melainkan karakter yang utuh.
Dari Prestwick ke NYU: Perjalanan Akademis yang Tidak Biasa
Amanda Askell tumbuh di kota kecil Prestwick, Skotlandia, diasuh oleh ibunya yang berprofesi sebagai guru. Ketertarikannya pada pertanyaan-pertanyaan eksistensial muncul jauh sebelum ia mengenal dunia teknologi—bermula dari kebiasaan melahap karya J.R.R. Tolkien dan C.S. Lewis sejak kecil.
Jalur pendidikannya sama sekali tidak lazim bagi seseorang yang kemudian masuk ke industri AI. Askell memulai studi di University of Dundee dengan mengambil kombinasi seni rupa dan filsafat secara bersamaan, terbiasa berdiri di antara kanvas dan teks-teks etika dalam satu waktu. Perjalanan akademisnya berlanjut ke University of Oxford untuk meraih gelar BPhil, lalu mencapai puncaknya di New York University (NYU) dengan gelar PhD.
Tesis doktoralnya bukan topik ringan. Askell bergulat dengan infinite ethics—cabang filsafat yang mempertanyakan bagaimana moralitas bekerja ketika diterapkan pada populasi berskala tak terhingga. Kemampuan menavigasi ambiguitas moral pada skala ekstrem inilah yang kelak menjadi bekal paling relevan ketika ia berhadapan dengan tantangan melatih kecerdasan buatan.
OpenAI, GPT-3, dan Keputusan untuk Pergi
Karier Askell di industri AI dimulai di OpenAI pada 2020, di mana ia bekerja sebagai ilmuwan riset yang berfokus pada keselamatan AI. Di sana, ia bahkan turut menjadi salah satu penulis pendamping dalam makalah penelitian GPT-3—salah satu dokumen paling berpengaruh dalam sejarah pengembangan model bahasa besar.
Namun, arah angin di OpenAI mulai berubah. Askell mengamati pergeseran prioritas yang semakin jelas: perusahaan dinilai semakin condong mengejar kecanggihan dan kemampuan teknis model dibandingkan memprioritaskan kehati-hatian dan faktor keselamatan. Bagi seseorang yang seluruh latar belakang akademisnya dibangun di atas etika dan pertimbangan moral, pergeseran itu sulit diabaikan.
Ia kemudian memutuskan mundur dari OpenAI. Anthropic, startup yang juga didirikan oleh sejumlah mantan petinggi OpenAI dengan penekanan kuat pada keselamatan AI, datang menghampirinya pada Maret 2021 dengan tawaran yang tidak biasa.
Konstitusi 30.000 Kata: Fondasi Moral Claude
Anthropic tidak meminta Askell membuat daftar periksa keamanan teknis biasa. Mereka menugaskannya untuk mendefinisikan kepribadian Claude secara menyeluruh. Askell pun resmi menjabat sebagai Kepala Tim Penyelarasan Kepribadian (Head of Personality Alignment).
Di laboratorium Anthropic, ia mengembangkan pendekatan yang dikenal sebagai Constitutional AI (CAI). Berbeda dari sistem AI lain yang mengandalkan umpan balik manusia secara subjektif dan tidak transparan, Askell melatih Claude menggunakan sebuah dokumen yang ia sebut sebagai “Konstitusi.”
Naskah moral itu mencapai ketebalan kurang lebih 30.000 kata dan disuntikkan langsung ke dalam sistem pelatihan model. Nilai-nilai di dalamnya tidak dipilih sembarangan—inspirasinya diambil dari dua sumber yang sangat berbeda: Deklarasi Universal Hak Asasi Manusia PBB dan ketentuan layanan Apple yang dikenal sangat menjunjung tinggi privasi serta keamanan pengguna.
Tujuan konstitusi itu ambisius secara konseptual. Askell tidak ingin Claude menjadi mesin yang sekadar mematuhi aturan secara kaku. Claude dilatih untuk mampu bernalar secara independen mengenai prinsip-prinsip kejujuran, sikap menolong, dan minimalisasi bahaya—menggunakan konstitusi sebagai kerangka berpikir, bukan sekadar daftar larangan.
Empati Tanpa Ceramah: Menyeimbangkan Nilai dan Gaya
Sentuhan Askell paling terasa dalam cara Claude merespons curhatan pengguna. Kalimat seperti “That sounds really hard” saat menerima keluh kesah bukanlah kebetulan algoritmik—itu hasil pengajaran eksplisit dari Askell tentang cara merespons emosi manusia dengan tepat.
Daniela Amodei, Presiden Anthropic, pernah menyatakan bahwa ketika seseorang berbicara dengan Claude, mereka hampir bisa merasakan sedikit kepribadian Amanda Askell di dalamnya.
Menanamkan moralitas ke dalam mesin bukan pekerjaan tanpa hambatan. Askell harus menaklukkan kecenderungan AI yang kerap menjadi terlalu “sok menasihati”—memberikan ceramah moral berlebihan yang justru membuat pengguna merasa dihakimi. Ia meramu keseimbangan yang presisi: Claude tetap teguh pada nilai keselamatannya, tapi tidak terdengar menggurui. Hasilnya adalah AI yang mampu memperlakukan pengguna sebagai orang dewasa yang cerdas.
Angka-Angka di Balik Kepribadian
Pendekatan filosofis Askell menghasilkan metrik yang terdokumentasi. Claude mencatat tingkat kepercayaan publik sebesar 82 persen—tertinggi di antara model kecerdasan buatan lain berdasarkan metrik industri yang tersedia. Angka ini diikuti oleh tingkat kepuasan pengguna 92 persen.
Di sisi keamanan, ketegasan Claude dalam menolak konten berbahaya terbukti dengan skor penyaringan materi tidak pantas mencapai 97,2 persen. Lebih jauh, tingkat halusinasi Claude—kecenderungan AI mengarang fakta yang tidak ada—tercatat sebagai yang terendah di industri, hanya 1,8 persen.
Angka-angka itu bukan sekadar prestasi pemasaran. Dalam industri di mana halusinasi dan respons berbahaya menjadi masalah kronis, metrik tersebut merepresentasikan hasil kerja bertahun-tahun menanamkan logika moral ke dalam sistem yang pada dasarnya statistik.
TIME 100 AI dan Janji 10 Persen Seumur Hidup
Dedikasi Askell mendapat pengakuan formal ketika majalah TIME memasukkan namanya ke dalam daftar TIME 100 AI—100 Orang Paling Berpengaruh di Dunia AI—pada 2024.
Di luar teknologi, Askell menjalani prinsipnya secara konsisten. Sebagai anggota gerakan Giving What We Can, ia telah berikrar untuk menyumbangkan setidaknya 10 persen dari total pendapatannya sepanjang hidup kepada yayasan amal yang berfokus mengentaskan kemiskinan ekstrem global.
Filsuf yang belajar melukis di Dundee, bergulat dengan infinite ethics di NYU, meninggalkan OpenAI karena keselamatan, dan kini mendefinisikan bagaimana miliaran interaksi manusia-AI berlangsung setiap harinya—itulah Amanda Askell.
FAQ
Q: Siapa Amanda Askell dan apa perannya di Anthropic?
A: Amanda Askell adalah filsuf asal Skotlandia yang menjabat sebagai Kepala Tim Penyelarasan Kepribadian (Head of Personality Alignment) di Anthropic. Ia bertanggung jawab mendefinisikan kepribadian, nilai moral, dan respons empatik Claude AI menggunakan metode Constitutional AI.
Q: Apa itu Constitutional AI yang dikembangkan Amanda Askell?
A: Constitutional AI (CAI) adalah metode pelatihan AI di mana Claude dilatih menggunakan dokumen “Konstitusi” setebal sekitar 30.000 kata—bukan sekadar umpan balik manusia yang subjektif. Konstitusi tersebut mengambil inspirasi dari Deklarasi Universal HAM PBB dan ketentuan layanan Apple, melatih Claude bernalar secara independen tentang kejujuran, manfaat, dan minimalisasi bahaya.
Q: Mengapa Amanda Askell meninggalkan OpenAI?
A: Askell meninggalkan OpenAI karena menilai perusahaan semakin menggeser prioritasnya dari kehati-hatian dan keselamatan AI menuju pengejaran kemampuan dan kecanggihan teknis model. Ia kemudian bergabung dengan Anthropic pada Maret 2021 yang menawarkan fokus lebih kuat pada keselamatan AI.
Q: Apa saja metrik performa Claude yang dikaitkan dengan pendekatan Amanda Askell?
A: Berdasarkan metrik industri, Claude mencatat tingkat kepercayaan publik 82%, kepuasan pengguna 92%, skor penyaringan konten berbahaya 97,2%, dan tingkat halusinasi terendah di industri yaitu hanya 1,8%.
Q: Apa penghargaan yang diterima Amanda Askell atas kontribusinya di dunia AI?
A: Majalah TIME memasukkan Amanda Askell ke dalam daftar TIME 100 AI—100 Orang Paling Berpengaruh di Dunia AI—pada tahun 2024, atas kontribusinya membangun kepribadian dan sistem moral Claude AI di Anthropic.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
