Google baru-baru ini mengumumkan adanya upaya peretasan terhadap Gemini, chatbot kecerdasan buatannya (AI). Serangan ini dilakukan dengan cara membanjiri sistem Gemini dengan ribuan prompt khusus.
Prompt-prompt ini dirancang untuk mengungkap logika internal dan proses penalaran yang digunakan oleh chatbot tersebut.
Menurut Google, tindakan ini merupakan bagian dari praktik reverse-engineering, yaitu upaya merekayasa ulang cara kerja model AI berpemilik dengan tujuan untuk melakukan kloning.
Informasi mengenai upaya peretasan ini terungkap dalam laporan Google yang membahas berbagai aktivitas berbahaya dan penyalahgunaan yang menargetkan Gemini.
Dalam laporan tersebut, Google menjelaskan bahwa serangan ribuan prompt ini berbeda dari peretasan konvensional yang membobol sistem perusahaan.
Para pelaku memanfaatkan akses resmi melalui API Gemini, yang memang disediakan Google bagi pengembang perangkat lunak untuk membangun aplikasi berbasis chatbot. Dengan cara ini, mereka dapat berinteraksi secara sah dengan model AI dan secara bertahap mempelajari pola respons serta logika internal Gemini.
Dalam kondisi normal, Gemini hanya menampilkan jawaban akhir kepada pengguna tanpa memperlihatkan proses penalaran yang mendasarinya. Namun, para peretas ini berupaya memaksa model untuk menampilkan seluruh proses penalaran tersebut melalui prompt yang disusun secara spesifik dan berulang.
Salah satu prompt yang teridentifikasi adalah instruksi kepada Gemini untuk menggunakan bahasa yang sepenuhnya konsisten dengan bahasa utama pengguna dalam konten penalarannya.
Google mencatat bahwa lebih dari 100.000 prompt terkait langsung dengan upaya ekstraksi model ini.
Menurut Google, aktivitas pembanjiran prompt ini merupakan bentuk pencurian kekayaan intelektual (IP) dan melanggar Ketentuan Layanan (ToS) Gemini.
Google menegaskan bahwa pihaknya berhak mengambil tindakan, termasuk menghentikan akses pengguna yang terbukti terlibat. Perusahaan juga mengingatkan pengembang AI lain untuk mewaspadai serangan ekstraksi model serupa.
Meskipun dampaknya tidak langsung terasa, Google menilai bahwa serangan semacam ini berpotensi dimanfaatkan untuk kepentingan komersial maupun aktivitas siber yang berbahaya.

