Penggunaan kecerdasan buatan (AI) dalam layanan pencarian informasi terus berkembang pesat, termasuk di sektor kesehatan. Namun, inovasi ini tidak lepas dari kontroversi. Sejumlah pakar kesehatan memperingatkan bahwa fitur Ikhtisar AI Google (AI Overview) berpotensi membahayakan pasien karena menyajikan ringkasan informasi medis yang tidak selalu akurat.
Isu ini mencuat setelah sebuah laporan dari harian Inggris, The Guardian, yang diterbitkan pada 2 waktu setempat. Laporan tersebut menyoroti bagaimana ringkasan berbasis AI yang muncul di bagian atas hasil pencarian Google dapat menyesatkan pengguna, khususnya ketika mereka mencari informasi terkait kondisi kesehatan serius.
Klaim Google tentang Keandalan Ikhtisar AI
Google selama ini mempromosikan fitur AI Overview sebagai alat bantu yang memudahkan pengguna memahami topik kompleks secara cepat. Fitur ini menggunakan teknologi AI generatif untuk merangkum informasi penting dari berbagai sumber dan menyajikannya dalam bentuk ringkas di halaman pencarian.
Menurut Google, Ikhtisar AI dirancang untuk membantu pengguna mendapatkan gambaran awal yang akurat dan relevan, termasuk dalam topik sensitif seperti kesehatan. Namun, pendekatan ini justru memunculkan kekhawatiran baru ketika ringkasan tersebut dianggap menggantikan peran sumber medis yang kredibel.
Peringatan dari Pakar Kesehatan
The Guardian menyebutkan bahwa Ikhtisar AI Google “dapat membahayakan orang dengan memberikan informasi kesehatan yang tidak akurat.” Kekhawatiran ini bukan sekadar spekulasi, melainkan didukung oleh temuan konkret setelah dilakukan verifikasi dengan berbagai organisasi kesehatan dan pakar medis.
Contoh Kasus: Saran Diet untuk Pasien Kanker Pankreas
Salah satu contoh yang disoroti adalah saran AI Google kepada pasien kanker pankreas untuk menghindari makanan tinggi lemak. Sekilas, rekomendasi ini tampak masuk akal. Namun, menurut para ahli, saran tersebut justru bisa berdampak buruk bagi pasien dengan kondisi tersebut.
Anna Jewell, petugas penelitian dan dukungan di lembaga amal Pancreatic Cancer UK, menjelaskan bahwa pasien kanker pankreas sering kali mengalami kesulitan mempertahankan berat badan dan asupan kalori. “Jika pasien mengikuti hasil pencarian ini secara mentah, mereka berisiko tidak mendapatkan cukup kalori dan mengalami penurunan berat badan,” ujarnya.
Ia menambahkan bahwa kondisi tersebut dapat mempersulit pasien dalam menjalani pengobatan antikanker atau bahkan operasi penyelamatan jiwa. Kasus ini menunjukkan betapa berbahayanya informasi kesehatan yang tidak kontekstual jika disajikan tanpa penjelasan medis yang memadai.
Temuan Lain yang Mengkhawatirkan
Setelah meninjau berbagai contoh, The Guardian mengidentifikasi sejumlah kasus lain di mana Ikhtisar AI Google memberikan informasi kesehatan yang tidak sepenuhnya akurat atau berpotensi menyesatkan. Informasi yang muncul di posisi teratas hasil pencarian dinilai memiliki pengaruh besar terhadap keputusan pengguna.
Sophie Randall, Direktur Forum Informasi Pasien Inggris, menegaskan bahwa temuan ini tidak boleh dianggap remeh. “Kasus-kasus ini menunjukkan bahwa Ikhtisar AI Google dapat menimbulkan risiko kesehatan dengan menempatkan informasi yang tidak akurat di bagian paling terlihat dari pencarian online,” ujarnya.
Menurut Randall, banyak pengguna cenderung mempercayai informasi yang ditampilkan Google tanpa melakukan verifikasi lanjutan, terutama ketika informasi tersebut terlihat ringkas dan meyakinkan.
Tanggapan Resmi dari Google
Menanggapi kritik tersebut, pihak Google menyatakan bahwa mereka terus melakukan investasi besar untuk meningkatkan kualitas Ikhtisar AI, terutama pada topik-topik sensitif seperti kesehatan. Seorang sumber dari Google mengatakan bahwa sebagian besar Ikhtisar AI memberikan informasi yang akurat dan bermanfaat bagi pengguna.
Terkait kasus-kasus yang disorot oleh The Guardian, Google menjelaskan bahwa ringkasan tersebut bersumber dari referensi yang “terkenal dan dapat diandalkan.” Meski demikian, Google juga menyarankan pengguna untuk tetap mencari nasihat ahli medis dalam mengambil keputusan kesehatan.
Tantangan AI dalam Menyajikan Informasi Kesehatan
Kasus ini menyoroti tantangan besar dalam penggunaan AI untuk menyampaikan informasi medis. Berbeda dengan topik umum, kesehatan membutuhkan konteks individual, penilaian profesional, dan pemahaman mendalam terhadap kondisi pasien.
Para pakar menilai bahwa AI seharusnya diposisikan sebagai alat pendukung, bukan sebagai pengganti sumber medis tepercaya. Tanpa pengawasan dan penyempurnaan yang ketat, ringkasan AI berisiko menyederhanakan isu kompleks dan menimbulkan kesalahpahaman.
Kesimpulan: Perlu Kehati-hatian dalam Mengandalkan AI untuk Informasi Medis
Kontroversi seputar Ikhtisar AI Google menjadi pengingat bahwa kemajuan teknologi harus diimbangi dengan tanggung jawab besar, terutama di bidang kesehatan. Informasi yang salah, meski disajikan secara ringkas dan meyakinkan, dapat berdampak langsung pada keselamatan pasien.
Bagi pengguna, para ahli menekankan pentingnya menjadikan informasi dari mesin pencari sebagai referensi awal, bukan sebagai dasar keputusan medis. Konsultasi dengan tenaga kesehatan profesional tetap menjadi langkah paling aman dalam menghadapi persoalan kesehatan apa pun.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
Respon (2)