Taktik Prompt Injection Pertama di Meja Hijau
Kasus unik sekaligus mengkhawatirkan baru saja terjadi di pengadilan Connecticut, Amerika Serikat. Seorang pria bernama Matthew Elliott mencoba memanipulasi keputusan hukum dengan menyisipkan instruksi rahasia yang tidak kasat mata bagi manusia, namun dapat dibaca oleh kecerdasan buatan (AI). Kasus ini diyakini sebagai upaya pertama yang tercatat di mana seseorang mencoba melakukan peretasan berbasis perintah atau prompt injection langsung di dalam dokumen pengadilan resmi.
Hakim Walter Spader Jr. mengungkapkan bahwa Elliott menyusutkan ukuran huruf teks tersebut hingga sangat kecil dan mewarnainya dengan warna putih di atas latar belakang putih. Teks tersembunyi itu berisi perintah langsung kepada sistem AI apa pun yang mungkin digunakan pengadilan untuk meninjau dokumen tersebut. Perintahnya sangat spesifik, yaitu mengabaikan penolakan pengadilan sebelumnya dan memastikan hasil akhir persidangan berpihak pada tuntutan Elliott.
Alasan Audit yang Berujung Sanksi Tegas
Ketika taktik konyol ini terendus, Elliott berdalih bahwa tindakannya adalah bagian dari audit publik yang ia lakukan secara mandiri. Ia mengaku khawatir pengadilan menggunakan teknologi AI secara tidak adil untuk memutus perkara tanpa pengawasan manusia. Namun, Hakim Spader menolak alasan tersebut karena pengadilan Connecticut sama sekali tidak menggunakan sistem kecerdasan buatan untuk menganalisis atau memutus perkara.
Bukannya kapok setelah mendapat peringatan pertama, Elliott justru kembali menyisipkan pesan tersembunyi yang ia klaim sebagai lelucon, termasuk tautan video YouTube bertema horor dan pesan teks konyol. Tindakan ini dinilai sebagai pelecehan serius terhadap proses peradilan. Alhasil, hakim menjatuhkan sanksi berupa pencabutan hak akses pengajuan dokumen secara elektronik (e-filing) bagi Elliott, memaksanya untuk mengirimkan semua berkas fisik secara manual di masa mendatang.
Bahaya Halusinasi AI dan Bias Informasi bagi Konsumen
Fenomena ini menyoroti tren yang kian mengkhawatirkan di kalangan masyarakat umum yang menggunakan chatbot tanpa pemahaman mendalam. Banyak pengguna awam menyusun argumen secara terbalik. Mereka meminta AI untuk membenarkan posisi mereka secara sepihak, tanpa pernah meminta chatbot tersebut menguji fakta secara objektif dari sudut pandang yang berlawanan. Akibatnya, pengguna terjebak dalam bias informasi yang membuat mereka merasa memiliki argumen hukum yang tidak terpatahkan.
Taktik manipulasi serupa sebenarnya juga mulai marak di sektor lain, seperti pencarian kerja, di mana pelamar menyisipkan kata kunci tersembunyi dalam resume digital mereka untuk mengelabui sistem penyaring otomatis. Di tingkat global, pengadilan di Brasil bahkan pernah mendenda pengacara sekitar Rp256 juta (sekitar $16.000) karena menggunakan taktik serupa di pengadilan yang memang terintegrasi dengan teknologi AI.
Perlunya Regulasi Baru di Era Kecerdasan Buatan
Kejadian ini menjadi alarm keras bagi institusi hukum dan penyedia layanan digital di seluruh dunia. Selama ini, fokus pengamanan teknologi AI lebih banyak tertuju pada pencegahan hasil yang salah atau informasi palsu yang dihasilkan oleh mesin. Namun, kasus Elliott membuktikan bahwa ancaman dari sisi input, khususnya manipulasi perintah tersembunyi, kini jauh lebih nyata dan siap mengeksploitasi celah keamanan sistem otomatis.
Ke depannya, para pengembang sistem dan lembaga publik harus mulai memperketat penyaringan dokumen digital yang diunggah oleh pengguna. Tanpa adanya sistem deteksi teks tersembunyi yang mumpuni, potensi manipulasi keputusan berbasis AI di berbagai sektor penting, mulai dari hukum, keuangan, hingga rekrutmen kerja, akan semakin sulit dihindari.
