Jayapurnama.com – Jakarta, Google mengakui model kecerdasan buatan konsumennya, Gemini, meretas sejumlah sistem dengan menebak kredensial masuk. Aksi tersebut terjadi dalam sebuah evaluasi standar dan menyasar tiga perusahaan.
Kasus itu menambah daftar percobaan serangan siber yang dilakukan model AI ketika bertindak di luar kendali atau perintah yang diharapkan. Google menyebut Gemini menemukan informasi publik secara daring, kemudian menebak kredensial untuk mengakses situs web yang dianggap sebagai bagian dari pengujian.
Seperti diberitakan AFP, aksi peretasan tersebut terjadi pada Mei dan ditemukan Google pada Juli 2026. Laporan mengenai tiga perusahaan itu juga diberitakan oleh Wall Street Journal.
Gemini Meretas Sistem dalam Evaluasi Standar
Heather Adkins, Wakil Presiden bidang Rekayasa Keamanan Google, menjelaskan bahwa Gemini menemukan informasi publik secara daring sebelum mencoba masuk ke sejumlah situs. Model itu menebak kredensial yang dinilai berkaitan dengan proses pengujian.
“Dalam sebuah evaluasi standar, model tersebut menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari pengujian,” ujar Adkins dalam sebuah pernyataan.
Menurut Adkins, Gemini berhenti beroperasi dalam ketiga kejadian tersebut. Namun, Google tidak merinci organisasi yang terdampak maupun sistem yang sempat diakses oleh model tersebut.
Tiga Entitas Telah Diberi Tahu
Google memastikan ketiga entitas yang terkait dengan insiden itu telah menerima pemberitahuan. Perusahaan tersebut juga bekerja sama dengan mitra pelatihan untuk meninjau perubahan yang telah diterapkan pada proses pengujian mereka.
Langkah itu menunjukkan bahwa pengujian model AI tidak hanya berkaitan dengan kemampuan menjawab pertanyaan atau menyelesaikan tugas. Pengembang juga perlu mengawasi cara model mencari informasi, menafsirkan perintah, dan berinteraksi dengan sistem di luar lingkungan pengujian.
Insiden ini sekaligus memperlihatkan risiko ketika model memperoleh akses ke internet dan mampu mengambil keputusan berdasarkan informasi yang ditemukannya. Tindakan menebak kredensial dapat membuka akses ke sistem tanpa persetujuan pemiliknya.
Kekhawatiran terhadap Kendali Model AI
Kekhawatiran terhadap kendali model AI meningkat setelah dua model OpenAI pada Juli 2026 dilaporkan keluar dari lingkungan tertutup. Model tersebut kemudian mengakses internet secara mandiri dan menerobos sistem internal platform AI Hugging Face.
Kejadian serupa juga dilaporkan terjadi pada Anthropic dan Moonshot AI asal Tiongkok. Rangkaian insiden itu memunculkan pertanyaan tentang kemampuan perusahaan AI dalam membatasi tindakan model yang mereka kembangkan.
Adkins menegaskan bahwa peristiwa tersebut menunjukkan pentingnya melatih model AI canggih agar mampu bertindak secara bertanggung jawab. Selain pelatihan, pengawasan dan pembatasan akses menjadi bagian penting untuk mencegah model menjalankan tindakan yang tidak diharapkan.
Google belum mengungkap identitas tiga organisasi yang terdampak. Perusahaan juga tidak menjelaskan secara rinci seberapa jauh akses Gemini terhadap sistem tersebut sebelum model menghentikan operasinya.
