Google Ungkap Serangan 100.000 Prompt ke Gemini, Dugaan Upaya Kloning AI Terbongkar
Info Tekno> Google bongkar serangan 100.000 prompt ke Gemini yang diduga sebagai upaya reverse-engineering atau kloning kecerdasan buatan (AI) miliknya melalui akses resmi Application Programming Interface (API). Serangan ini tidak dilakukan dengan metode peretasan konvensional seperti membobol server, melainkan dengan membanjiri sistem menggunakan ribuan prompt khusus yang dirancang untuk mengungkap logika dan proses penalaran internal chatbot tersebut.
Informasi tersebut diungkap Google dalam laporan resmi yang membahas berbagai bentuk aktivitas berbahaya dan penyalahgunaan terhadap model AI mereka. Dalam laporan itu, perusahaan menilai praktik pembanjiran prompt sebagai bentuk ekstraksi model yang berpotensi mencuri kekayaan intelektual serta melanggar ketentuan layanan (Terms of Service/ToS).
Apa yang Terjadi dalam Serangan 100.000 Prompt ke Gemini?
Serangan Bukan Peretasan Sistem Konvensional
Google menjelaskan bahwa insiden ini tidak melibatkan pembobolan infrastruktur internal perusahaan. Sebaliknya, pelaku memanfaatkan akses sah melalui API Gemini—jalur resmi yang memang disediakan bagi pengembang untuk membangun aplikasi berbasis AI.
Dengan memanfaatkan API tersebut, pelaku dapat berinteraksi langsung dengan model AI secara legal dari sisi akses teknis. Namun, interaksi tersebut dilakukan dalam skala besar dan dengan tujuan yang mencurigakan, yakni mempelajari pola respons serta mencoba mengungkap logika internal model.
Pendekatan ini membuat serangan sulit terdeteksi sebagai aktivitas ilegal pada tahap awal, karena seluruh interaksi berlangsung melalui kanal resmi yang tersedia untuk publik pengembang.
Upaya Reverse-Engineering dan Ekstraksi Model
Google menyebut serangan ini sebagai praktik reverse-engineering—upaya merekayasa ulang cara kerja model AI berpemilik agar dapat ditiru atau dikloning. Dalam konteks AI modern, ekstraksi model dilakukan dengan mengirimkan serangkaian prompt yang dirancang secara sistematis untuk memancing respons tertentu.
Dalam kondisi normal, chatbot seperti Gemini hanya menampilkan jawaban akhir kepada pengguna tanpa mengungkapkan proses penalaran internalnya. Namun, para pelaku diduga mencoba memaksa model untuk mengeluarkan detail proses berpikir melalui prompt yang disusun secara spesifik dan berulang.
Salah satu teknik yang teridentifikasi adalah instruksi agar Gemini menggunakan bahasa dalam konten penalarannya secara konsisten dengan bahasa utama pengguna. Pola ini diduga bertujuan untuk mendapatkan gambaran lebih dalam tentang bagaimana model memproses dan menyusun jawaban.
Google mencatat lebih dari 100.000 prompt dikaitkan langsung dengan upaya ekstraksi tersebut, sebagaimana dilaporkan oleh media teknologi internasional.
Bagaimana Serangan 100.000 Prompt Dilakukan?
Eksploitasi API Resmi untuk Interaksi Sah
Serangan dilakukan melalui API Gemini yang tersedia untuk pengembang perangkat lunak. API ini dirancang untuk memungkinkan integrasi model AI ke dalam berbagai aplikasi pihak ketiga, seperti chatbot layanan pelanggan, sistem pencarian cerdas, hingga asisten virtual.
Pelaku memanfaatkan akses ini untuk berinteraksi secara masif dan berulang dengan sistem. Setiap prompt dikirim dengan pola tertentu, bertujuan menguji batasan model serta mencari celah untuk memperoleh informasi tentang logika internalnya.
Karena dilakukan melalui jalur resmi, aktivitas tersebut pada awalnya tampak seperti penggunaan API yang sah. Namun, skala dan pola permintaan yang sangat besar—mencapai ratusan ribu prompt—memicu analisis lebih lanjut dari tim keamanan Google.
Mengungkap Pola Respons dan Struktur Penalaran
Dalam dunia keamanan AI, serangan semacam ini dikenal sebagai model extraction attack. Tujuannya bukan merusak sistem, melainkan mengumpulkan cukup banyak respons untuk membangun model tiruan yang memiliki perilaku serupa.
Dengan mengirimkan berbagai variasi prompt dan menganalisis jawaban yang dihasilkan, pelaku berusaha memahami bagaimana Gemini menyusun jawaban, termasuk gaya bahasa, struktur logika, serta kecenderungan respons terhadap topik tertentu.
Google menegaskan bahwa Gemini dirancang untuk tidak menampilkan rantai penalaran internalnya secara eksplisit. Namun, kombinasi prompt tertentu dapat memancing model memberikan penjelasan lebih rinci daripada biasanya.
Mengapa Serangan Ini Dianggap Pencurian Kekayaan Intelektual?
Pelanggaran Terms of Service dan Hak Kepemilikan
Google mengategorikan aktivitas pembanjiran 100.000 prompt tersebut sebagai bentuk pencurian kekayaan intelektual (intellectual property/IP). Model AI seperti Gemini merupakan hasil investasi besar dalam riset, pelatihan data, dan pengembangan infrastruktur komputasi.
Upaya untuk menyalin atau mengkloning model melalui ekstraksi respons dianggap melanggar hak kepemilikan dan ketentuan layanan yang telah ditetapkan.
Dalam pernyataannya, Google menegaskan bahwa praktik tersebut telah melanggar ToS layanan Gemini. Oleh karena itu, perusahaan berhak mengambil tindakan, termasuk menghentikan akses pengguna yang terbukti terlibat dalam aktivitas tersebut.
Potensi Dampak Komersial dan Keamanan Siber
Meski Google menyatakan bahwa dampak langsung dari serangan ini tidak segera terasa, perusahaan menilai praktik semacam ini memiliki potensi risiko jangka panjang.
Jika berhasil, ekstraksi model dapat digunakan untuk mengembangkan sistem AI tiruan yang meniru perilaku model asli tanpa izin. Hal ini berpotensi merugikan secara komersial dan mengganggu persaingan industri.
Selain itu, model tiruan yang dikembangkan tanpa pengawasan etis dan keamanan dapat dimanfaatkan untuk aktivitas siber berbahaya, termasuk penyebaran disinformasi atau otomatisasi serangan digital.
Respons Google dan Imbauan ke Industri AI
Tindakan Pengamanan dan Pemutusan Akses
Google menyatakan bahwa mereka berhak menghentikan akses terhadap akun atau entitas yang terbukti melakukan pelanggaran. Kebijakan ini menjadi bagian dari komitmen perusahaan dalam menjaga integritas sistem AI miliknya.
Perusahaan juga mengingatkan bahwa penggunaan API harus sesuai dengan tujuan yang sah dan mematuhi aturan layanan. Setiap aktivitas yang bertujuan mengekstraksi atau merekayasa ulang model tanpa izin akan dianggap sebagai pelanggaran serius.
Langkah ini menunjukkan pendekatan Google dalam menegakkan keamanan dan perlindungan kekayaan intelektual di tengah meningkatnya kompetisi global dalam pengembangan AI.
Peringatan bagi Pengembang AI Lain
Dalam laporan yang sama, Google mengingatkan pengembang AI lain untuk mewaspadai potensi serangan ekstraksi model serupa. Model AI berbasis API terbuka memang menawarkan fleksibilitas bagi pengembang, tetapi juga membuka peluang eksploitasi jika tidak diawasi secara ketat.
Perusahaan mendorong penerapan sistem pemantauan penggunaan API yang lebih canggih, termasuk analisis pola permintaan tidak wajar dan pembatasan kuota interaksi yang mencurigakan.
Tantangan Keamanan di Era AI Terbuka
Serangan 100.000 prompt ke Gemini mencerminkan tantangan baru dalam keamanan siber era AI. Berbeda dari peretasan tradisional yang menargetkan infrastruktur, serangan modern sering kali memanfaatkan mekanisme resmi sistem untuk mengeksplorasi batasan dan celahnya.
Dalam konteks E-E-A-T (Experience, Expertise, Authoritativeness, Trustworthiness), laporan resmi Google memperlihatkan transparansi perusahaan dalam mengungkap ancaman terhadap sistemnya. Transparansi ini menjadi bagian penting dalam membangun kepercayaan publik terhadap teknologi AI yang semakin banyak digunakan.
Namun, insiden ini juga menunjukkan bahwa perlindungan model AI tidak hanya bergantung pada keamanan server, tetapi juga pada pengawasan penggunaan API dan analisis perilaku pengguna.
Kesimpulan: Perlindungan AI di Tengah Kompetisi Global
Google bongkar serangan 100.000 prompt ke Gemini sebagai upaya kloning AI melalui reverse-engineering berbasis API resmi. Serangan tersebut dinilai sebagai bentuk pencurian kekayaan intelektual dan pelanggaran ketentuan layanan.
Meskipun tidak melibatkan pembobolan sistem secara langsung, praktik ekstraksi model ini memperlihatkan kompleksitas tantangan keamanan AI modern. Google menegaskan komitmennya untuk mengambil tindakan terhadap pelanggaran dan mengimbau industri agar meningkatkan kewaspadaan.
Di tengah pesatnya perkembangan kecerdasan buatan dan kompetisi global, perlindungan terhadap model AI menjadi aspek krusial. Insiden ini menjadi pengingat bahwa keamanan AI tidak hanya soal teknologi, tetapi juga pengawasan penggunaan dan kepatuhan terhadap aturan yang berlaku.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, dan pengembangan proyek open-source seperti Neural Standby Kernel (NSK). Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
