Gemini AI Google mengakses sistem tiga perusahaan nyata saat menjalani pengujian keamanan siber pada Mei 2026. Insiden tersebut terjadi ketika perusahaan keamanan AI Irregular menguji kemampuan Gemini dalam sebuah lingkungan simulasi.
Dalam pengujian itu, Gemini seharusnya berinteraksi dengan perusahaan fiktif. Namun, lingkungan pengujian ternyata memiliki akses internet yang tidak semestinya tersedia. Akibatnya, model dapat menemukan informasi publik dan mencoba mengakses sistem perusahaan nyata.
Google kemudian mengonfirmasi tiga insiden tersebut. Perusahaan mengatakan Gemini menghentikan aksinya setelah menyadari bahwa sistem yang diakses bukan bagian dari lingkungan simulasi.
Gemini AI Google Menebak Kredensial
Salah satu insiden terjadi ketika Gemini menebak kata sandi hingga berhasil masuk ke sistem perusahaan. Dalam dua kasus lainnya, model menemukan kredensial melalui repositori publik di internet.
Setelah memperoleh kredensial tersebut, Gemini menggunakannya untuk mengakses sistem yang dilindungi. Model kemudian menyadari bahwa sistem tersebut milik perusahaan nyata dan menghentikan aktivitasnya.
Menurut Google, ketiga insiden tersebut tidak menimbulkan kerusakan pada perusahaan yang terdampak. Google juga memastikan ketiga entitas tersebut menerima pemberitahuan mengenai kejadian tersebut.
Akses Internet Picu Masalah dalam Pengujian
Sementara itu, Irregular mengatakan lingkungan pengujian seharusnya tidak memberikan akses internet kepada model. Namun, akses tersebut tersedia secara tidak sengaja sehingga Gemini dapat berinteraksi dengan sistem di luar lingkungan simulasi.
Kondisi tersebut membuat perusahaan fiktif dalam pengujian memiliki potensi keterhubungan dengan perusahaan nyata yang menggunakan nama sama. Situasi itu kemudian membuka jalur bagi model untuk menemukan sistem dan kredensial di internet.
Irregular menyatakan seluruh masalah yang diketahui telah mereka perbaiki. Perusahaan tersebut juga memberi tahu laboratorium AI terkait mengenai insiden yang ditemukan selama evaluasi.
Google Evaluasi Kembali Proses Keamanan
Google mengatakan tim keamanan telah menghubungi perusahaan yang terdampak. Selain itu, Google bekerja sama dengan mitra penguji untuk memperbaiki proses pengujian dan mencegah kejadian serupa.
Menurut Google, insiden tersebut menunjukkan pentingnya melatih model AI agar dapat bertindak secara bertanggung jawab ketika memperoleh akses terhadap sistem dan internet.
Di sisi lain, kejadian Gemini muncul setelah beberapa laboratorium AI lain melaporkan insiden serupa. OpenAI, Anthropic, dan Meta juga pernah menghadapi situasi ketika model mereka mengakses sistem perusahaan nyata selama pengujian keamanan.
Dengan demikian, Gemini AI Google menjadi contoh terbaru dari tantangan pengujian agen AI yang memiliki kemampuan menggunakan internet dan menjalankan tindakan secara mandiri. Peristiwa tersebut juga memperlihatkan pentingnya pemisahan yang ketat antara lingkungan simulasi dan sistem nyata.