SAI100FM.ID – Google Gemini rentan dibajak menjadi sorotan setelah peneliti keamanan siber dari SafeBreach menemukan celah eksploitasi baru yang dapat memanipulasi asisten AI Google melalui pesan WhatsApp. Teknik ini memungkinkan instruksi tersembunyi dalam pesan biasa dijalankan oleh sistem AI tanpa disadari pengguna.
Metode serangan tersebut dikenal sebagai Fake Context Alignment, yaitu teknik penyisipan perintah berbahaya ke dalam pesan yang kemudian dibaca atau dirangkum oleh Gemini melalui fitur ringkasan notifikasi. Dalam kondisi tertentu, AI dapat salah menafsirkan konteks pesan dan menjalankan instruksi yang sebenarnya berasal dari penyerang.
Temuan ini menimbulkan kekhawatiran baru terkait keamanan sistem kecerdasan buatan yang terintegrasi dengan aplikasi pesan dan layanan sehari-hari.
Google Gemini Rentan Dibajak Lewat Teknik Fake Context Alignment
Dalam laporan yang dipublikasikan SafeBreach, teknik Fake Context Alignment bekerja dengan cara menyembunyikan instruksi dalam pesan WhatsApp, misalnya melalui hyperlink tersembunyi atau teks yang tidak langsung terlihat sebagai perintah.
Ketika Gemini membaca atau merangkum pesan tersebut, sistem AI dapat keliru menganggap informasi itu sebagai konteks normal. Dalam situasi seperti pengguna sedang berkendara atau tidak membuka pesan secara langsung, risiko manipulasi menjadi lebih besar karena pengguna hanya menerima ringkasan dari AI, bukan isi asli pesan.
Peneliti menjelaskan bahwa kondisi ini sangat berbahaya karena menghilangkan kemampuan pengguna untuk melakukan verifikasi langsung terhadap isi pesan.
Dua Teknik Serangan yang Digabungkan untuk Menipu AI
SafeBreach menemukan bahwa serangan ini dapat dilakukan melalui dua pendekatan utama yang bisa digunakan secara terpisah maupun digabungkan untuk efek yang lebih kuat.
Teknik pertama adalah penyisipan hyperlink tersembunyi dalam pesan WhatsApp. Tautan ini mengandung instruksi yang dapat membuat AI salah memahami konteks pesan, misalnya menganggap pesan tersebut berasal dari kontak terpercaya padahal sebenarnya dikirim oleh pihak tidak dikenal.
Teknik kedua melibatkan penyisipan teks dalam bahasa asing atau format yang tidak dibaca langsung oleh sistem ringkasan. Teks tersebut berisi instruksi tambahan yang dapat memicu aksi tertentu jika pengguna memberikan respons seperti “iya” terhadap pertanyaan yang disisipkan.
Ketika kedua teknik ini digabungkan, penyerang dapat menciptakan skenario manipulasi yang lebih kompleks. Pengguna bisa saja mendengar ringkasan pesan yang terdengar normal, namun tanpa sadar menyetujui tindakan yang memicu eksekusi perintah tersembunyi oleh AI.
Potensi Dampak Serangan Terhadap Pengguna
Jika teknik ini dimanfaatkan oleh pelaku kejahatan siber, dampaknya bisa sangat luas. Penyerang berpotensi mengendalikan perangkat rumah pintar, mengakses layanan streaming tanpa izin, hingga melakukan manipulasi sosial dengan menyamar sebagai kontak terpercaya.
Lebih jauh lagi, terdapat risiko bahwa sistem AI dapat dimanfaatkan untuk memodifikasi atau memengaruhi memori jangka panjang dalam model AI, yang dapat berdampak pada akurasi informasi dan perilaku sistem di masa depan.
Ancaman ini menunjukkan bahwa integrasi AI dengan aplikasi komunikasi sehari-hari membawa tantangan keamanan baru yang tidak bisa diabaikan.
Google Sudah Bertindak, Tapi Risiko Tetap Ada
Menanggapi laporan tersebut, Google langsung merilis pembaruan sistem untuk memperkuat filter konten dan mencegah jenis serangan ini. Meskipun belum ada bukti bahwa eksploitasi ini telah digunakan secara luas di dunia nyata, langkah mitigasi tetap dianggap penting.
Para peneliti menegaskan bahwa serangan berbasis prompt injection seperti ini tidak bisa diselesaikan dengan satu kali perbaikan saja. Sistem AI yang menerima input eksternal harus selalu memperlakukan semua data sebagai tidak sepenuhnya terpercaya.
Pendekatan keamanan yang disarankan adalah penerapan guardrail atau lapisan pengaman yang terus memantau perilaku input dan output AI secara real time.
Perkembangan Gemini Intelligence dan Risiko Baru AI Agent
Di sisi lain, Google terus mengembangkan kemampuan Gemini melalui fitur baru bernama Gemini Intelligence yang diperkenalkan dalam ajang Google I/O 2026.
Fitur ini dirancang agar Gemini dapat melakukan tugas yang lebih kompleks secara otomatis, seperti membaca daftar belanja, memasukkan item ke aplikasi, hingga membantu menyelesaikan pekerjaan lintas aplikasi tanpa harus dilakukan manual oleh pengguna.
Contohnya, Gemini dapat membantu mencari paket perjalanan berdasarkan brosur digital, lalu memproses pencarian tersebut di berbagai aplikasi secara otomatis sebelum meminta konfirmasi akhir dari pengguna.
Fitur ini menandai pergeseran besar menuju konsep AI agent, di mana kecerdasan buatan tidak hanya menjawab pertanyaan, tetapi juga melakukan tindakan nyata atas nama pengguna.
Namun, Google tetap menegaskan bahwa setiap transaksi atau tindakan penting tetap memerlukan persetujuan pengguna di tahap akhir untuk menghindari penyalahgunaan.
Tantangan Baru di Era AI yang Semakin Otonom
Perkembangan ini menunjukkan bahwa semakin canggih sebuah sistem AI, semakin besar pula tantangan keamanannya. Integrasi AI dengan aplikasi komunikasi, perangkat pintar, dan layanan digital menciptakan permukaan serangan baru yang kompleks.
Keseimbangan antara kenyamanan pengguna dan keamanan sistem menjadi tantangan utama bagi perusahaan teknologi saat ini. Di satu sisi, AI membuat aktivitas sehari-hari lebih mudah, tetapi di sisi lain membuka peluang eksploitasi yang lebih sulit dideteksi.
Kesimpulan:
Temuan bahwa Google Gemini rentan dibajak melalui pesan WhatsApp menunjukkan bahwa ancaman terhadap sistem AI kini tidak lagi bersifat tradisional. Serangan dapat terjadi melalui manipulasi konteks pesan sederhana yang tampak tidak berbahaya.
Meskipun Google telah merespons dengan pembaruan keamanan, para ahli menilai bahwa perlindungan terhadap AI harus terus ditingkatkan secara berkelanjutan. Di era AI agent seperti Gemini Intelligence, keamanan sistem menjadi aspek yang sama pentingnya dengan kecanggihan fitur yang ditawarkan.
