Mengirimkan data sensitif ke layanan kecerdasan buatan kini membawa risiko yang jauh lebih besar dari perkiraan banyak orang. Sebuah studi keamanan siber yang dipublikasikan oleh periset HD Moore pada blog firma keamanan Dragos mengungkapkan bahwa prompt yang dikirimkan ke berbagai layanan AI sering kali dapat diakses oleh pihak ketiga di luar sepengetahuan pengguna.
Risiko ini mengancam jutaan data bisnis dan privasi pengguna. Peneliti bahkan menemukan bahwa pengaturan privasi terketat sekalipun gagal menghentikan kebocoran tersebut di jalur perantara.
Jutaan Prompt Diuji Sepanjang Juli hingga November
Dalam kurun waktu antara Juli hingga November, tim periset mengirimkan sekitar dua juta prompt ke berbagai layanan AI yang populer digunakan publik. Setiap prompt disisipkan umpan rahasia berupa kunci AWS kosong yang asli, kata sandi, atau tautan tersembunyi. Siapa pun yang mengakses umpan tersebut dipastikan telah membaca isi prompt.
Hasilnya sangat mengkhawatirkan. Setidaknya tiga penyedia layanan hosting yang menjalankan model AI untuk perusahaan lain terbukti mengalami pembobolan. Penyerang menyalin permintaan dari ketiga penyedia tersebut, dan tidak satupun dari perusahaan penyedia layanan yang menyadarinya hingga pihak Dragos melaporkannya.
Pencurian Ratusan Kunci AWS dan Eksploitasi Otomatis
Pada kasus terbesar yang ditemukan, ratusan kunci AWS berhasil dicuri oleh pihak yang tidak bertanggung jawab. Sejumlah kunci bahkan langsung diuji dalam kurun waktu beberapa jam dan dipakai untuk menjalankan puluhan ribu panggilan API.
Mulai 1 November, perangkat penyerang juga memasukkan ARTEX, kerangka kerja pengujian penetrasi berbasis AI yang sebelumnya sempat dikaitkan dengan insiden serangan siber pada Komisi Eropa. Umpan rahasia yang dikirimkan diproses bersamaan dengan permintaan pelanggan sungguhan, sehingga data asli pengguna hampir pasti turut tersalin.
Pengaturan Privasi dan Router Pihak Ketiga Menjadi Celah
Banyak aplikasi dan agen AI tidak berkomunikasi langsung dengan model utama. Permintaan dikirimkan melalui router yang meneruskan setiap pesan ke penyedia layanan dengan tarif termurah, terkadang melalui beberapa tahapan lompatan, di mana setiap titik perantara dapat membaca keseluruhan isi prompt.
Bahkan pengaturan privasi paling ketat seperti Zero Data Retention (ZDR) yang menjamin tidak ada data yang disimpan, gagal melindungi informasi pengguna. Sebuah laboratorium AI asal Cina tercatat mengambil tautan tersembunyi dari lebih separuh prompt yang dikirimkan ke model mereka, termasuk sekitar dua pertiga permintaan yang ditandai tanpa pengumpulan data.
Langkah Antisipasi untuk Pengguna
Temuan ini memberikan pelajaran penting bagi siapa saja yang sering berinteraksi dengan sistem berbasis AI. Pengguna disarankan untuk tidak pernah mengetikkan kata sandi, kunci API, atau tautan akses pribadi ke dalam prompt, termasuk saat sedang melakukan uji debugging cepat.
Langkah pencegahan ini wajib diterapkan lebih ketat pada agen AI yang memiliki izin membaca file dan kotak masuk surel secara otomatis. Apabila memungkinkan, gunakan model AI langsung dari pengembang resminya daripada melalui aplikasi perantara yang menggabungkan berbagai model dengan harga murah.