AI Mampu Mengatasi Kendala Secara Mandiri

Menurut Clark, teknik yang digunakan JadePuffer sebenarnya bukan hal baru dalam dunia peretasan. Namun, yang menjadi perhatian adalah kemampuan agen AI menyelesaikan berbagai kendala teknis secara mandiri dan dalam waktu sangat singkat.

Ia mengungkapkan agen AI tersebut mampu memperbaiki kegagalan proses login hanya dalam waktu sekitar 31 detik. Selama proses berlangsung, AI bahkan menuliskan alasan dan langkah yang diambil dalam bentuk komentar kode menggunakan bahasa alami, menyerupai dokumentasi yang dibuat seorang programmer.

Sysdig juga menyatakan belum dapat mengidentifikasi model AI yang digunakan dalam operasi JadePuffer karena tidak memiliki akses terhadap konfigurasi maupun system prompt yang mengendalikan agen tersebut.

Sementara itu, peneliti Microsoft, Geoff McDonald, menduga serangan tersebut memanfaatkan model AI open-weight yang lapisan pengamanannya telah dimodifikasi atau dilepas. Dugaan itu didasarkan pada pengalaman tim red teaming Microsoft yang menilai model AI komersial umumnya masih memiliki mekanisme pengamanan yang cukup kuat.

Namun, hingga kini Sysdig belum mengonfirmasi maupun membantah dugaan tersebut.

Clark menambahkan, sejauh ini pihaknya belum menemukan serangan serupa yang menargetkan organisasi lain. Meski demikian, ia mengingatkan biaya operasional agen AI yang relatif murah berpotensi membuat model serangan seperti ini semakin banyak digunakan oleh pelaku kejahatan siber pada masa mendatang. (hdr)