Salah satu pemicunya adalah Sora milik OpenAI. Aplikasi video ini menunjukkan betapa mudahnya teknologi AI disalahgunakan. Dengan kemampuan itu, tingkat penyebaran konten palsu meningkat cepat. Krisis deepfake kini berkembang menjadi masalah besar. Deteksi gambar AI menjadi solusi awal yang wajib tersedia bagi publik.
SynthID: Fondasi Baru Deteksi Gambar AI dari Google
Pada 2023, Google memperkenalkan SynthID sebagai sistem watermark tak terlihat yang menempel pada konten AI. Setiap model yang dirilis setelahnya otomatis menyematkan watermark SynthID. Selain watermark tersembunyi, terdapat juga watermark visual berbentuk kilauan kecil. Namun watermark visual sering terlewat saat pengguna menggulir feed dengan cepat. Inilah alasan mengapa deteksi gambar AI berbasis watermark tersembunyi menjadi lebih relevan.
SynthID bekerja dengan cara menganalisis pola watermark dalam gambar. Dengan metode ini, Gemini dapat memberi tahu apakah gambar tersebut dibuat oleh AI Google. Pengguna cukup mengunggah gambar ke Gemini, lalu menanyakannya. Namun ada batas besar yang perlu dipahami sebelum mengandalkan deteksi gambar AI sepenuhnya.
Batasan Besar dalam Deteksi Gambar AI di Gemini
Meski memiliki teknologi canggih, deteksi gambar AI Google masih terbatas. Gemini hanya bisa mengidentifikasi gambar buatan AI Google. Itu berarti gambar dari model AI lain tidak dapat diverifikasi. Dengan semakin banyaknya platform pembuat gambar dan video AI, kemampuan ini jelas masih jauh dari sempurna.
Batasan tersebut membuat deteksi gambar AI hanya efektif pada ekosistem Google. Pengguna tetap harus berhati-hati terhadap gambar mencurigakan yang mungkin dibuat dengan alat lain. Walaupun demikian, langkah ini tetap penting. Teknologi deteksi gambar AI pada dasarnya masih berkembang dan harus beradaptasi cepat terhadap evolusi AI generatif.
Google Akan Perluas Deteksi ke Video dan Audio
Saat ini, alat tersebut hanya mampu melakukan deteksi gambar AI. Namun Google menyatakan akan memperluasnya ke video dan audio. Jika hal tersebut terwujud, maka deteksi gambar AI akan berkembang menjadi deteksi konten AI menyeluruh. Hal ini penting mengingat video deepfake kini semakin sulit dihentikan.
