Cybercrooks Memberitahu ChatGPT Untuk Membuat Kode Berbahaya

Diterbitkan Ulang Oleh Plato

Followers: 0

Penjahat dunia maya memberi tahu ChatGPT untuk membuat kode berbahaya PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Penjahat dunia maya mulai menggunakan teknologi ChatGPT OpenAI yang sangat populer untuk mengembangkan kode dengan cepat dan mudah untuk tujuan jahat.

Berputar di sekitar situs peretasan bawah tanah mengungkap contoh awal penjahat yang mengembangkan alat ancaman dunia maya menggunakan antarmuka model bahasa besar (LLM) yang diluncurkan perusahaan pada akhir November dan membukanya untuk penggunaan publik, menurut Check Point Research pakaian infosec.

Tangan [bantuan] yang bagus untuk menyelesaikan skrip dengan cakupan yang bagus

Mirip dengan kebangkitan model as-a-service di dunia kejahatan dunia maya, ChatGPT membuka jalan lain bagi penjahat yang kurang terampil untuk meluncurkan serangan dunia maya dengan mudah, kata para peneliti dalam sebuah melaporkan Jumat.

“Seperti yang kami duga, beberapa kasus dengan jelas menunjukkan bahwa banyak penjahat dunia maya yang menggunakan OpenAI tidak memiliki keterampilan pengembangan sama sekali,” tulis mereka. “Meskipun alat yang kami sajikan dalam laporan ini cukup mendasar, hanya masalah waktu sampai pelaku ancaman yang lebih canggih menyempurnakan cara mereka menggunakan alat berbasis AI untuk kejahatan.”

Jangan lupa bahwa ChatGPT juga terkenal karena menghasilkan kode buggy – Stack Overflow memilikinya perangkat lunak yang dilarang dihasilkan oleh sistem AI karena sering cacat serius. Tapi teknologinya membaik dan bulan lalu pemerintah Finlandia melaporkan memperingatkan Sistem AI sudah digunakan untuk rekayasa sosial dan dalam lima tahun dapat mendorong gelombang besar serangan.

Pembelajaran mesin ChatGPT kemampuan mengaktifkan alat berbasis teks untuk berinteraksi dengan cara percakapan, dengan pengguna mengetik pertanyaan dan menerima jawaban dalam format dialog. Teknologi ini juga dapat menjawab pertanyaan lanjutan dan menantang jawaban pengguna.

Kecanggihan penawaran OpenAI telah menghasilkan sebanyak itu kuatir sebagai antusiasme, dengan lembaga pendidikan, penyelenggara konferensi, dan kelompok lain bergerak untuk melarang penggunaan ChatGPT untuk segala hal mulai dari makalah sekolah hingga pekerjaan penelitian.

Para analis pada bulan Desember menunjukkan bagaimana ChatGPT dapat digunakan untuk membuat seluruh aliran infeksi, dari email phishing hingga menjalankan shell terbalik. Mereka juga menggunakan chatbot untuk membuat malware pintu belakang yang dapat menjalankan skrip yang dibuat oleh alat AI secara dinamis. Pada saat yang sama, mereka menunjukkan bagaimana hal itu dapat membantu profesional keamanan siber dalam pekerjaan mereka.

Sekarang penjahat dunia maya sedang mengujinya.

Utas berjudul "ChatGPT - Manfaat Malware" muncul pada 29 Desember di forum peretasan bawah tanah yang banyak digunakan yang ditulis oleh seseorang yang mengatakan bahwa mereka sedang bereksperimen dengan antarmuka untuk membuat ulang jenis dan teknik malware yang umum. Penulis menunjukkan kode pencuri informasi berbasis Python yang mencari dan menyalin jenis file dan mengunggahnya ke server FTP hardcoded.

Check Point mengonfirmasi bahwa kode tersebut berasal dari malware pencuri dasar.

Dalam sampel lain, penulis menggunakan ChatGPT untuk membuat cuplikan Java sederhana yang mengunduh klien SSH dan telnet umum yang dijalankan secara diam-diam di sistem menggunakan PowerShell.

“Orang ini tampaknya adalah aktor ancaman yang berorientasi pada teknologi, dan tujuan postingannya adalah untuk menunjukkan kepada penjahat dunia maya yang kurang mampu secara teknis bagaimana menggunakan ChatGPT untuk tujuan jahat, dengan contoh nyata yang dapat segera mereka gunakan,” tulis para peneliti.

Pada tanggal 21 Desember, seseorang yang menyebut diri mereka USDoD memposting alat enkripsi yang ditulis dengan Python yang mencakup berbagai operasi enkripsi, dekripsi, dan penandatanganan. Dia menulis bahwa teknologi OpenAI memberinya "uluran tangan [membantu] yang bagus untuk menyelesaikan skrip dengan cakupan yang bagus."

Para peneliti menulis bahwa USDoD memiliki keterampilan pengembangan yang terbatas tetapi aktif dalam komunitas bawah tanah dengan riwayat menjual akses ke organisasi yang disusupi dan basis data yang dicuri.

Utas diskusi lain yang diterbitkan di forum pada Malam Tahun Baru berbicara tentang betapa mudahnya menggunakan ChatGPT untuk membuat pasar web gelap untuk memperdagangkan alat ilegal seperti malware atau obat-obatan dan data yang dicuri seperti akun dan kartu pembayaran.

Penulis utas menerbitkan beberapa kode yang dibuat dengan ChatGPT yang menggunakan API pihak ketiga untuk mendapatkan harga terbaru untuk cryptocurrency seperti Bitcoin, Monero, dan Ethereum untuk sistem pembayaran pasar.

Minggu ini, penjahat berbicara di forum bawah tanah tentang cara lain untuk memanfaatkan ChatGPT untuk berbagai skema, termasuk menggunakannya dengan teknologi Dall-E 2 OpenAI untuk membuat karya seni untuk dijual secara online melalui situs resmi seperti Etsy dan membuat ebook atau bab pendek tentang topik tertentu yang bisa dijual secara online.

Untuk mendapatkan informasi lebih lanjut tentang bagaimana ChatGPT dapat disalahgunakan, peneliti bertanya kepada ChatGPT. Dalam jawabannya, ChatGPT berbicara tentang penggunaan teknologi AI untuk membuat email phishing yang meyakinkan dan postingan media sosial untuk mengelabui orang agar memberikan informasi pribadi atau mengeklik tautan jahat atau membuat video dan audio yang dapat digunakan untuk informasi yang salah.

ChatGPT juga membela penciptanya.

“Penting untuk dicatat bahwa OpenAI sendiri tidak bertanggung jawab atas penyalahgunaan teknologinya oleh pihak ketiga,” kata chatbot tersebut. “Perusahaan mengambil langkah-langkah untuk mencegah penggunaan teknologinya untuk tujuan jahat, seperti meminta pengguna untuk menyetujui persyaratan layanan yang melarang penggunaan teknologinya untuk tujuan ilegal atau berbahaya.” ®