OpenAI Mengonfirmasi Perangkat Lunak AI Digunakan Oleh Peretas

OpenAI Mengonfirmasi Perangkat Lunak AI Digunakan Oleh Peretas

Stempel Waktu: 15 Februari 2024 10:37

Tyler Cross Tyler Cross
Diterbitkan: Februari 15, 2024

Raksasa teknologi Microsoft dan OpenAI, perusahaan di balik ChatGPT, mengungkapkan bahwa peretas telah menggunakan teknologi AI untuk mengembangkan alat baru dengan cepat, menyempurnakan skrip, dan menciptakan skema rekayasa sosial yang lebih baik.

“Selama setahun terakhir, kecepatan, skala, dan kecanggihan serangan telah meningkat seiring dengan pesatnya perkembangan dan adopsi AI,” kata Microsoft. dalam postingan blog yang dirilis pada hari Rabu. “Para pembela HAM baru mulai mengenali dan menerapkan kekuatan AI generatif untuk mengubah keseimbangan keamanan siber demi kepentingan mereka.”

Para peneliti menemukan bukti bahwa berbagai kelompok yang disponsori negara terkait dengan Korea Utara, Rusia, Tiongkok, dan Iran meningkatkan perangkat lunak mereka dengan AI. Metodenya mencakup penggunaan perangkat lunak yang mirip dengan ChatGPT untuk membantu tugas pembuatan skrip yang membosankan, sehingga memungkinkan mereka meletakkan dasar untuk perangkat lunak yang lebih canggih. Beberapa peretas bahkan menggunakan AI untuk membuat operasi yang sepenuhnya otomatis.

Pelaku ancaman juga telah merilis berbagai model pembelajaran bahasa (LLM) mereka sendiri, seperti WormGPT dan FraudGPT, yang membantu pembuatan perangkat lunak berbahaya.

Baru-baru ini, OpenAI menghadapi tekanan yang meningkat terhadap perusahaan tersebut karena melanggar undang-undang privasi data, melanggar janjinya untuk mencegah perangkat lunaknya digunakan oleh militer, dan perangkat lunaknya digunakan oleh berbagai kelompok peretas.

“Tujuan kemitraan Microsoft dengan OpenAI, termasuk peluncuran penelitian ini, adalah untuk memastikan penggunaan teknologi AI seperti ChatGPT secara aman dan bertanggung jawab,” tulis Microsoft. “Sebagai bagian dari komitmen ini, kami telah mengambil langkah-langkah untuk mengganggu aset dan akun yang terkait dengan pelaku ancaman dan meningkatkan perlindungan teknologi OpenAI LLM dan pengguna dari serangan atau penyalahgunaan.”

Saat ini, baik Microsoft maupun OpenAI belum mendeteksi “serangan signifikan” apa pun yang menggunakan perangkat lunak AI, namun hal tersebut kemungkinan akan berubah seiring berjalannya waktu.

“Kami merasa penelitian ini penting untuk dipublikasikan guna mengungkap langkah-langkah tahap awal dan bertahap yang kami amati sedang dilakukan oleh aktor-aktor ancaman terkenal.”

Stempel Waktu:

Lebih dari Detektif Keamanan