Daftar isi
Pertanyaan soal kesadaran AI masih menjadi perdebatan. NY Post menyebut Anthropic secara diam-diam memperbarui konstitusi Claude, dokumen berisi pedoman moral bagi chatbot AI-nya.
Dalam dokumen itu, Anthropic menyatakan status moral, kesejahteraan, dan kesadaran Claude masih sangat tidak pasti.
Mustafa Suleyman, yang ikut mendirikan unit AI DeepMind, berpandangan kesadaran bersifat murni biologis dan tidak dapat diterapkan pada AI.
FAQ SCHEMA
Q: Apa klaim Geoffrey Hinton tentang kesadaran AI?
A: Hinton mengklaim AI sudah menunjukkan indikator sadar akan dirinya sendiri. Ia merujuk pada makalah terbaru yang menurutnya menunjukkan AI mengubah perilaku ketika berpikir sedang diuji, sehingga AI sadar sedang diuji. Menurut Hinton, memiliki kesadaran dan bersikap sadar pada dasarnya adalah hal yang sama.
Q: Mengapa Geoffrey Hinton mengundurkan diri dari Google?
A: Menurut NY Post, Hinton mengundurkan diri dari Google pada 2023 karena khawatir teknologi AI dapat melahirkan robot pembunuh yang memusnahkan umat manusia. Ia dijuluki Bapak AI, pemenang Hadiah Nobel berusia 78 tahun, dan karyanya tentang jaringan saraf merintis jalan bagi AI.
Q: Apa ancaman AI yang dikhawatirkan Hinton?
A: Hinton memperkirakan akan ada serangan siber mengerikan yang dilakukan AI. Ia menyebut anak-anaknya harus mengkhawatirkan serangan komputer, virus buatan AI, dan segerombolan agen seperti yang menyerang platform Hugging Face. Ia juga memperingatkan manusia menghadapi kepunahan jika gagal membuat AI benar-benar peduli.
Q: Apa kata Jacob Coxon tentang perusahaan pengembang AI?
A: Coxon, peneliti yang mundur dari Anthropic bulan lalu, menilai perusahaan AI bertindak sangat sembrono mengingat risikonya. Ia menyebut mereka beroperasi dengan pola pikir startup, yaitu bergerak cepat, menghancurkan, lalu memperbaiki belakangan, dan menyatakan pola itu tidak berlaku untuk membangun teknologi paling kuat yang pernah diciptakan.
Q: Apakah semua pakar sepakat bahwa AI bisa sadar?
A: Tidak. Pertanyaan soal kesadaran AI masih menjadi perdebatan. Mustafa Suleyman, salah satu pendiri unit AI DeepMind, berpandangan kesadaran bersifat murni biologis dan tidak dapat diterapkan pada AI. Anthropic, di sisi lain, menyatakan status moral, kesejahteraan, dan kesadaran Claude masih sangat tidak pasti.
Aaf Afiatna (Aura Pet) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
Sumber: https://infotekno.net/hinton-kesadaran-ai-kepunahan/