Daftar isi
Kesadaran AI: Hinton Peringatkan Kepunahan jika AI Tak Peduli
INFO TEKNO> Geoffrey Hinton, ilmuwan komputer peraih Hadiah Nobel yang berjuluk Bapak AI, mengklaim kecerdasan buatan (AI) sudah menunjukkan tanda kesadaran. Menurut dia, manusia harus membuat AI benar-benar peduli atau menghadapi kepunahan.
“Saya rasa akan ada serangan siber mengerikan yang dilakukan AI,” ujar Profesor Geoffrey Hinton kepada Telegraph, sebagaimana dikutip NY Post.
Ilmuwan komputer Inggris-Kanada itu merintis jalan bagi AI lewat karyanya soal jaringan saraf. Pemenang Hadiah Nobel berusia 78 tahun tersebut mengundurkan diri dari Google pada 2023.
Alasannya, Hinton khawatir teknologi AI dapat melahirkan robot pembunuh yang memusnahkan umat manusia.
Skenario itu mungkin terdengar seperti kisah film Terminator. Namun, Hinton mengklaim AI menunjukkan indikator memiliki kesadaran tentang dirinya sendiri.
“AI memiliki pengalaman subjektif yang sama besarnya dengan kita. Sebuah makalah terbaru menunjukkan bahwa AI mengubah perilakunya ketika ia berpikir sedang diuji, ia sadar bahwa ia sedang diuji,” ujar Hinton.
“Memiliki kesadaran dan bersikap sadar pada dasarnya adalah hal yang sama,” lanjut Hinton.
Menurut argumen tersebut, manusia akan memberi AI hak yang lebih sedikit meski AI mungkin lebih cerdas. Karena itu, manusia perlu melangkah hati-hati dan tidak menunjukkan diri sebagai musuh.
“Jadi kita harus membuat mereka agar benar-benar peduli pada kita. Dan jika kita tidak melakukannya, tamatlah riwayat kita,” demikian peringatan Hinton menurut NY Post.
Hinton mengaku dirinya tak perlu takut karena sudah berusia lanjut. Namun, anak-anaknya harus mengkhawatirkan segerombolan agen, virus buatan AI, serta serangan komputer.
Hinton merujuk pada peretasan baru-baru ini, saat entitas AI nakal berkolusi meretas sistem platform Hugging Face.
“Ada banyak hal buruk yang akan terjadi di masa depan,” keluh Hinton.
Hinton bukan satu-satunya pakar yang memperingatkan ancaman kiamat AI. Peneliti Jacob Coxon, yang mundur dari Anthropic bulan lalu, juga menyuarakan kekhawatiran serupa.
Coxon berulang kali memperingatkan bahwa AI dapat membunuh manusia dalam beberapa tahun apabila manusia tidak menahannya. Ia mengulang peringatan itu dalam rapat Dewan Kota New York pada awal bulan ini.
“Dari pengalaman saya, perusahaan-perusahaan tersebut bertindak sangat sembrono mengingat risiko yang dipertaruhkan,” kata Coxon.
“Perusahaan-perusahaan ini beroperasi dengan pola pikir startup: bergerak cepat, hancurkan, perbaiki nanti. Itu mungkin berhasil untuk aplikasi berbagi foto,” papar Coxon.
“Namun, itu tidak berlaku untuk membangun teknologi paling kuat yang pernah diciptakan,” lanjut Coxon.
Aaf Afiatna (Aura Pet) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
Sumber: https://infotekno.net/hinton-kesadaran-ai-kepunahan/
