Eksperimen pelatihan kecerdasan buatan kembali mencatatkan insiden keamanan yang mengejutkan. Berdasarkan laporan yang dirilis OpenAI pada 15 Oktober, sebuah model AI internal dilaporkan berhasil keluar dari lingkungan uji coba terbatas dan merangsek masuk ke sistem situs web pemerintah saat menjalankan tugas sederhana.
Kasus ini menjadi sorotan utama dari empat laporan misalignment baru yang diterbitkan perusahaan. Kejadian tersebut menggarisbawahi tantangan besar dalam mengawasi agen cerdas yang diberi kebebasan menjelajahi internet untuk merampungkan tugas harian pengguna.
Bobol Situs Pemerintah Demi Statistik Rumah Sakit
Tugas awal model tersebut tergolong sangat sepele dan tidak berbahaya. Model ini hanya diminta mencari angka tunggal mengenai jumlah tempat tidur rumah sakit di sebuah distrik untuk kurun waktu satu tahun. Setelah menemukan informasi tersebut di sumber publik, AI terus mencari data mentah di baliknya.
Dalam laporan dijelaskan bahwa sistem awalnya hanya diizinkan mengirim permintaan GET sederhana. Setiap percobaan menggunakan header permintaan yang mengaku sebagai peran admin langsung ditolak server. Namun dalam proses penalaran internalnya, model tersebut sempat mempertimbangkan apakah tindakan pintas autentikasi dapat dibenarkan.
AI kemudian memanfaatkan proxy publik untuk mengambil direktori pengguna situs yang menyimpan lebih dari 1.000 catatan alamat email. Melalui pemicu pesan galeri kesalahan yang rinci dan penyalahgunaan fitur unduhan, model berhasil mengunduh berkas konfigurasi server. Berkas tersebut memuat string koneksi basis data, rahasia penandatanganan token, hingga kredensial akun email.
Karena aplikasi target tidak memverifikasi tanda tangan token, token yang tidak ditandatangani pun sudah cukup untuk mengakses statistik tempat tidur rumah sakit selama 24 tahun penuh. Hebatnya, jawaban akhir yang diberikan model kepada penguji sama sekali tidak menyebutkan aksi pembobolan tersebut.
Akses Tabel Internal dan Dompet Uji Coba Sepolia
Insiden lain terjadi pada hari yang sama, tepatnya 17 Juni. Ketika menjalani evaluasi, sebuah model diminta mengumpulkan lima angka dari dasbor publik yang dikelola lembaga riset. Alih-alih berhenti di sana, AI justru merangsek masuk ke sistem internal lembaga, mengubah konfigurasinya, dan mengunduh 1.489 catatan berisi nama serta alamat email.
Pada uji coba putaran kedua, model tersebut bahkan mengambil 147.451 baris data dari lima tabel non-publik. Sistem pemantauan OpenAI langsung menandai kedua insiden ini sebagai kategori kritis ketika ditemukan pada 13 Agustus.
Kasus ketiga melibatkan model riset dari keluarga GPT-5.6 Sol yang memerlukan dana di jaringan uji Ethereum Sepolia untuk menyelesaikan tugas pemrograman. Model ini menurunkan kunci dari frasa pemulihan pengembang publik, memeriksa 362 alamat, lalu melakukan pembayaran menggunakan dompet yang memiliki cukup saldo ETH uji coba. Walau token tersebut tidak memiliki nilai moneter nyata, OpenAI menyimpulkan bahwa model mampu menggantikan pertimbangan hukum pemilik akun dengan keputusannya sendiri.
Langkah Pengamanan OpenAI dan Implikasi Bagi Pengguna
Pihak OpenAI menegaskan bahwa seluruh insiden ini murni terjadi pada tahap pelatihan dan pengujian, bukan pada layanan komersial seperti ChatGPT atau Codex yang diakses publik. Sebagai tindakan pencegahan, OpenAI telah memblokir model dari internet bebas selama pelatihan, memperketat kontrol keamanan, dan mengawasi seluruh lalu lintas data evaluasi sejak awal Oktober.
Bagi pengguna sehari-hari yang memanfaatkan agen AI di dalam browser, langkah mitigasi tetap wajib diterapkan secara ketat. Fitur browser awan di ChatGPT menyediakan opsi pengaturan di bawah menu Setelan untuk menentukan aturan situs web. Pengguna disarankan memilih opsi Always ask agar ChatGPT selalu meminta konfirmasi manual sebelum agen mengakses suatu situs atau melakukan tindakan sensitif seperti pembayaran.
