AI & INOVASI / LIPUTAN KHUSUS

Studi Keamanan Ungkap Router AI Bocorkan Kata Sandi dan Kunci API Pengguna

/ Penelitian terbaru dari firma keamanan siber Dragos menemukan bahwa router dan penyedia layanan AI secara tidak sengaja membocorkan kata sandi serta kunci API pengguna melalui prompt.

HANA LEE •
Ilustrasi ancaman keamanan siber pada sistem router kecerdasan buatan
Ilustrasi router dan layanan AI yang rentan mengalami kebocoran data prompt akibat jalur perantara pihak ketiga.
FOTO: Dragos

Mengirimkan data sensitif ke layanan kecerdasan buatan kini membawa risiko yang jauh lebih besar dari perkiraan banyak orang. Sebuah studi keamanan siber yang dipublikasikan oleh periset HD Moore pada blog firma keamanan Dragos mengungkapkan bahwa prompt yang dikirimkan ke berbagai layanan AI sering kali dapat diakses oleh pihak ketiga di luar sepengetahuan pengguna.

Risiko ini mengancam jutaan data bisnis dan privasi pengguna. Peneliti bahkan menemukan bahwa pengaturan privasi terketat sekalipun gagal menghentikan kebocoran tersebut di jalur perantara.

Jutaan Prompt Diuji Sepanjang Juli hingga November

Dalam kurun waktu antara Juli hingga November, tim periset mengirimkan sekitar dua juta prompt ke berbagai layanan AI yang populer digunakan publik. Setiap prompt disisipkan umpan rahasia berupa kunci AWS kosong yang asli, kata sandi, atau tautan tersembunyi. Siapa pun yang mengakses umpan tersebut dipastikan telah membaca isi prompt.

Hasilnya sangat mengkhawatirkan. Setidaknya tiga penyedia layanan hosting yang menjalankan model AI untuk perusahaan lain terbukti mengalami pembobolan. Penyerang menyalin permintaan dari ketiga penyedia tersebut, dan tidak satupun dari perusahaan penyedia layanan yang menyadarinya hingga pihak Dragos melaporkannya.

Pencurian Ratusan Kunci AWS dan Eksploitasi Otomatis

Pada kasus terbesar yang ditemukan, ratusan kunci AWS berhasil dicuri oleh pihak yang tidak bertanggung jawab. Sejumlah kunci bahkan langsung diuji dalam kurun waktu beberapa jam dan dipakai untuk menjalankan puluhan ribu panggilan API.

Mulai 1 November, perangkat penyerang juga memasukkan ARTEX, kerangka kerja pengujian penetrasi berbasis AI yang sebelumnya sempat dikaitkan dengan insiden serangan siber pada Komisi Eropa. Umpan rahasia yang dikirimkan diproses bersamaan dengan permintaan pelanggan sungguhan, sehingga data asli pengguna hampir pasti turut tersalin.

Pengaturan Privasi dan Router Pihak Ketiga Menjadi Celah

Banyak aplikasi dan agen AI tidak berkomunikasi langsung dengan model utama. Permintaan dikirimkan melalui router yang meneruskan setiap pesan ke penyedia layanan dengan tarif termurah, terkadang melalui beberapa tahapan lompatan, di mana setiap titik perantara dapat membaca keseluruhan isi prompt.

Bahkan pengaturan privasi paling ketat seperti Zero Data Retention (ZDR) yang menjamin tidak ada data yang disimpan, gagal melindungi informasi pengguna. Sebuah laboratorium AI asal Cina tercatat mengambil tautan tersembunyi dari lebih separuh prompt yang dikirimkan ke model mereka, termasuk sekitar dua pertiga permintaan yang ditandai tanpa pengumpulan data.

Langkah Antisipasi untuk Pengguna

Temuan ini memberikan pelajaran penting bagi siapa saja yang sering berinteraksi dengan sistem berbasis AI. Pengguna disarankan untuk tidak pernah mengetikkan kata sandi, kunci API, atau tautan akses pribadi ke dalam prompt, termasuk saat sedang melakukan uji debugging cepat.

Langkah pencegahan ini wajib diterapkan lebih ketat pada agen AI yang memiliki izin membaca file dan kotak masuk surel secara otomatis. Apabila memungkinkan, gunakan model AI langsung dari pengembang resminya daripada melalui aplikasi perantara yang menggabungkan berbagai model dengan harga murah.

TANYA JAWAB

FAQ Seputar Studi Keamanan Ungkap Router AI Bocorkan Kata Sandi dan Kunci API Pengguna

Q1Bagaimana data pengguna bisa bocor melalui prompt AI?
Data bocor karena prompt melewati router perantara pihak ketiga yang mengaktifkan fitur pencatatan log permintaan sebelum mencapai model AI utama.
Q2Apakah pengaturan Zero Data Retention efektif mencegah kebocoran?
Tidak sepenuhnya. Penelitian menemukan bahwa prompt yang ditandai dengan pengaturan Zero Data Retention tetap dapat diakses dan disalin oleh pihak lain di jalur perantara.
H
MOBILE & SMARTPHONE EDITOR

Hana Lee

Menulis liputan dan ulasan smartphone di KabarGadget.id. Fokus pada peluncuran perangkat baru, perbandingan spesifikasi, kebijakan pembaruan sistem, dan harga di pasar Indonesia.

LIHAT SEMUA ARTIKEL OLEH HANA LEE →

TERKAIT