Pengaruh LLM pada Kerentanan Keamanan
Kemajuan pesat dalam bidang kecerdasan buatan, terutama Model Bahasa Besar (LLM), telah mengubah banyak aspek pengembangan perangkat lunak. Namun, sebuah analisis terbaru menyoroti sisi gelap yang tidak terduga: bagaimana LLM dapat berkontribusi pada kelangsungan hidup kelemahan keamanan yang sudah lama ada.
Path Traversal: Kerentanan Klasik yang Bertahan
Salah satu kerentanan yang terus muncul adalah path traversal. Kelemahan ini memungkinkan penyerang untuk mengakses berkas atau direktori di luar jalur yang diizinkan atau direncanakan, seringkali dengan memanipulasi input yang berkaitan dengan nama berkas atau jalur direktori, misalnya menggunakan karakter ” ../ “. Meskipun ini adalah cacat keamanan yang dikenal luas dan tua, studi menunjukkan bahwa LLM mungkin secara tidak sengaja membantunya tetap hidup.
Bagaimana LLM Dapat Mengabadikan Cacat Keamanan?
Penelitian menunjukkan bahwa LLM, dalam upaya mereka untuk menghasilkan kode atau memberikan solusi, terkadang menghasilkan kode yang rentan terhadap path traversal. Selain itu, pengembang yang mengandalkan LLM untuk membuat kode atau bahkan untuk audit keamanan mungkin menerima output yang tidak mengenali atau memitigasi kerentanan ini secara efektif. Hal ini terjadi karena LLM dilatih pada data yang luas, yang mungkin mencakup contoh kode yang tidak aman atau saran yang tidak lengkap. Ketergantungan tanpa verifikasi manual yang ketat dapat menyebabkan kelemahan ini masuk atau bertahan dalam aplikasi modern.
Implikasi dan Perlindungan
Temuan ini menggarisbawahi paradoks penggunaan AI dalam pengembangan perangkat lunak: alat yang seharusnya meningkatkan efisiensi dan kualitas dapat tanpa sadar memperkenalkan atau mempertahankan risiko keamanan. Para profesional keamanan siber dan pengembang harus berhati-hati dan tidak mengandalkan sepenuhnya pada LLM untuk tugas-tugas kritis keamanan. Validasi kode manual, pengujian keamanan yang komprehensif, dan pemahaman mendalam tentang prinsip keamanan dasar tetap penting untuk melindungi sistem dari ancaman seperti path traversal, meskipun dengan bantuan alat AI. Waspada dan verifikasi independen adalah kunci untuk memastikan keamanan yang kokoh.
Sumber: https://go.theregister.com/feed/www.theregister.com/2025/06/05/llm_kept_persistent_path_traversal_bug_alive/