Tidak, ChatGPT belum memenangkan kontes bug keamanan … belum

Itu pasti akan terjadi cepat atau lambat. Untuk pertama kalinya, pemburu bug menggunakan ChatGPT dalam eksploitasi Pwn2Own yang sukses, membantu peneliti membajak perangkat lunak yang digunakan dalam aplikasi industri dan memenangkan $20,000.

Untuk lebih jelasnya: AI tidak menemukan kerentanan atau menulis dan menjalankan kode untuk mengeksploitasi kelemahan tertentu. Tetapi penggunaannya yang sukses dalam kontes pelaporan bug bisa menjadi pertanda akan datangnya peretasan.

"Ini tidak menafsirkan Batu Rosetta," kata Dustin Childs, kepala kesadaran ancaman di Zero Day Initiative (ZDI) Trend Micro. Pendaftaran. 

“Ini adalah langkah pertama menuju sesuatu yang lebih. Kami tidak berpikir AI adalah masa depan peretasan, tetapi itu pasti bisa berubah menjadi asisten yang hebat ketika seorang peneliti menemukan kode yang tidak mereka kenal atau pertahanan yang tidak mereka duga. 

Pada kontes minggu lalu di Miami, Florida, Tim Claroty82 meminta ChatGPT untuk membantu mereka mengembangkan serangan eksekusi kode jarak jauh terhadap Softing edgeAggregator Siemens — perangkat lunak yang menyediakan konektivitas pada antarmuka antara OT (teknologi operasional) dan TI dalam aplikasi industri.  

Detail teknis terbatas karena sifat Pwn2Own: orang menemukan celah keamanan, mendemonstrasikannya di atas panggung, secara pribadi mengungkapkan bagaimana mereka melakukannya kepada pengembang atau vendor, mengklaim hadiah, dan kita semua menunggu detail dan tambalan keluar akhirnya ketika siap.

Sementara itu, kami dapat mengatakan ini: manusia yang terlibat dalam eksploitasi, peneliti keamanan Noam Moshe dan Uri Katz, mengidentifikasi kerentanan dalam klien OPC Unified Architecture (OPC UA) mungkin dalam rangkaian perangkat lunak industri edgeAggregator. OPC UA adalah protokol komunikasi machine-to-machine yang digunakan dalam otomasi industri.

Setelah menemukan bug tersebut, para peneliti meminta ChatGPT untuk mengembangkan modul backend untuk server OPC UA guna menguji eksploit eksekusi jarak jauh mereka. Tampaknya modul ini pada dasarnya diperlukan untuk membangun server jahat untuk menyerang klien yang rentan melalui kerentanan yang ditemukan duo tersebut.

“Karena kami harus membuat banyak modifikasi agar teknik eksploitasi kami berfungsi, kami harus membuat banyak perubahan pada proyek OPC UA open source yang ada,” kata Moshe dan Katz. Pendaftaran.

“Karena kami tidak terbiasa dengan implementasi SDK server tertentu, kami menggunakan ChatGPT untuk mempercepat proses dengan membantu kami menggunakan dan memodifikasi server yang ada.”

Tim memberikan instruksi kepada AI, dan memang harus melakukan beberapa putaran koreksi dan perubahan "kecil" sampai muncul dengan modul server backend yang bisa diterapkan, mereka mengakui.

Namun secara keseluruhan, kami diberi tahu, chatbot menyediakan alat berguna yang menghemat waktu mereka, terutama dalam hal mengisi kesenjangan pengetahuan seperti mempelajari cara menulis modul backend dan memungkinkan manusia untuk lebih fokus dalam mengimplementasikan eksploit.

“ChatGPT memiliki kapasitas untuk menjadi alat yang hebat untuk mempercepat proses pengkodean,” kata duo tersebut, menambahkan bahwa hal itu meningkatkan efisiensi mereka.  

“Ini seperti melakukan banyak putaran pencarian Google untuk template kode tertentu, lalu menambahkan beberapa putaran modifikasi pada kode berdasarkan kebutuhan khusus kami, hanya dengan menginstruksikan apa yang ingin kami capai,” kata Moshe dan Katz.

Menurut Childs, ini mungkin bagaimana kita akan melihat penjahat dunia maya menggunakan ChatGPT dalam serangan kehidupan nyata terhadap sistem industri. 

“Mengeksploitasi sistem yang kompleks itu menantang, dan seringkali pelaku ancaman tidak terbiasa dengan setiap aspek dari target tertentu,” katanya. Childs menambahkan bahwa dia tidak berharap untuk melihat eksploitasi penulisan alat yang dihasilkan AI, "tetapi memberikan potongan terakhir dari teka-teki yang diperlukan untuk sukses."

Dan dia tidak peduli AI mengambil alih Pwn2Own. Setidaknya belum.

"Itu masih jauh," kata Childs. “Namun, penggunaan ChatGPT di sini menunjukkan bagaimana AI dapat membantu mengubah kerentanan menjadi eksploit – asalkan peneliti tahu cara mengajukan pertanyaan yang tepat dan mengabaikan jawaban yang salah. Ini adalah perkembangan yang menarik dalam sejarah kompetisi, dan kami berharap dapat melihat ke mana arahnya.” ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2023/02/22/chatgpt_pwn2own_ai/