Aktor ancaman menunggangi popularitas ChatGPT telah meluncurkan alat peretas peniru lainnya yang menawarkan layanan charbot serupa dengan aplikasi berbasis AI generatif nyata tetapi ditujukan khusus untuk mempromosikan aktivitas jahat.
Para peneliti telah menemukan iklan yang diposting di Dark Web untuk alat peretas berbasis AI yang dijuluki "FraudGPT", yang dijual dengan berlangganan dan telah beredar di Telegram sejak Sabtu, ungkap para peneliti dari Netenrich dalam sebuah posting diterbitkan 25 Juli. FraudGPT mulai dari $200 per bulan dan naik menjadi $1,700 per tahun, dan ditujukan untuk membantu peretas melakukan bisnis jahat mereka dengan bantuan AI. Aktor tersebut mengklaim memiliki lebih dari 3,000 penjualan dan ulasan yang dikonfirmasi sejauh ini untuk FraudGPT.
Alat peretas serupa lainnya yang digerakkan oleh AI, cacingGPT, telah beredar sejak 13 Juli, dan diuraikan secara rinci dalam sebuah laporan oleh SlashNext. Seperti ChatGPT, ini muncul AI lawan alat juga didasarkan pada model yang dilatih pada sumber data besar, dan mereka dapat menghasilkan teks seperti manusia berdasarkan masukan yang mereka terima.
Alat tersebut “tampaknya menjadi salah satu kecenderungan pertama pelaku ancaman membangun fitur AI generatif ke dalam alat mereka,” kata John Bambenek, pemburu ancaman utama di Netenrich, kepada Dark Reading. “Sebelum ini, diskusi kami tentang lanskap ancaman bersifat teoretis.”
FraudGPT — yang dalam iklan disebut-sebut sebagai “bot tanpa batasan, aturan, [dan] batasan” — dijual oleh aktor ancaman yang mengaku sebagai vendor terverifikasi di berbagai pasar Dark Web bawah tanah, termasuk Empire, WHM, Torrez, World , AlphaBay, dan Versus.
Penjahat dunia maya Sekarang Dipersenjatai Dengan AI Chatbots
WormGPT dan FraudGPT dapat membantu penyerang menggunakan AI untuk keuntungan mereka saat membuat kampanye phishing, menghasilkan pesan yang ditujukan untuk menekan korban agar jatuh ke kompromi email bisnis (BEC), dan penipuan berbasis email lainnya, sebagai permulaan.
FraudGPT juga dapat membantu pelaku ancaman melakukan banyak hal buruk lainnya, seperti: menulis kode berbahaya; membuat malware yang tidak terdeteksi; menemukan tempat sampah non-VBV; membuat halaman phishing; membangun alat peretasan; menemukan grup, situs, dan pasar peretasan; menulis halaman dan surat penipuan; menemukan kebocoran dan kerentanan; dan belajar membuat kode atau meretas.
Meski begitu, tampaknya membantu penyerang membuat kampanye phishing yang meyakinkan masih menjadi salah satu kasus penggunaan utama untuk alat seperti FraudGPT, menurut Netenrich. Kemahiran alat ini bahkan disebut-sebut dalam materi promosi yang muncul di Dark Web yang menunjukkan bagaimana FraudGPT dapat membuat draf email yang "akan menarik penerima untuk mengklik tautan jahat yang disediakan," kata Krishnan.
Jailbreak Pagar Pembatas Etis ChatGPT
Sementara ChatGPT juga bisa dimanfaatkan sebagai alat peretas untuk menulis email yang direkayasa secara sosial, ada perlindungan etis yang membatasi penggunaan ini. Namun, meningkatnya prevalensi alat berbasis AI seperti WormGPT dan FraudGPT menunjukkan bahwa "bukan hal yang sulit untuk menerapkan kembali teknologi yang sama tanpa perlindungan tersebut," tulis Krishnan.
Faktanya, FraudGPT dan WormGPT adalah lebih banyak bukti dari apa yang oleh seorang pakar keamanan disebut "jailbreak AI generatif untuk boneka," di mana aktor jahat menyalahgunakan aplikasi AI generatif untuk mem-bypass pagar etis untuk AI generatif yang telah dilawan secara aktif oleh OpenAI — pertempuran yang sebagian besar berat.
“Ini merupakan perjuangan yang berkelanjutan,” kata Pyry Avist, salah satu pendiri dan CTO di Hoxhunt. "Aturan dibuat, aturan dilanggar, aturan baru dibuat, aturan itu dilanggar, dan seterusnya."
Meskipun seseorang tidak dapat “menyuruh ChatGPT untuk membuat email phishing yang meyakinkan dan templat pengambilan kredensial yang dikirim dari CEO Anda”, seseorang “dapat berpura-pura menjadi CEO dan dengan mudah membuat draf email mendesak ke tim keuangan yang meminta mereka untuk mengubah pembayaran faktur ," dia berkata.
Membela Terhadap Ancaman Siber yang Diaktifkan AI
Memang, secara keseluruhan, alat AI generatif memberi penjahat fungsi inti yang sama dengan yang mereka berikan kepada profesional teknologi: "kemampuan untuk beroperasi dengan kecepatan dan skala yang lebih besar," kata Bambenek. “Penyerang sekarang dapat menghasilkan kampanye phishing dengan cepat dan diluncurkan lebih bersamaan.”
Karena phishing tetap menjadi salah satu cara utama penyerang dunia maya mendapatkan entri awal ke sistem perusahaan untuk melakukan aktivitas jahat lebih lanjut, penting untuk menerapkan perlindungan keamanan konvensional terhadapnya. Pertahanan ini masih dapat mendeteksi phishing yang didukung AI, dan yang lebih penting, tindakan selanjutnya oleh pelaku ancaman.
“Pada dasarnya, ini tidak mengubah dinamika kampanye phishing, atau konteks operasinya,” kata Bambenek. “Selama Anda tidak berurusan dengan phishing dari akun yang disusupi, sistem reputasi masih dapat mendeteksi phishing dari pengirim yang tidak autentik, yaitu domain yang salah ketik, faktur dari akun email Web gratis, dll.”
Menerapkan strategi pertahanan mendalam dengan semua telemetri keamanan yang tersedia untuk analitik cepat juga dapat membantu organisasi mengidentifikasi serangan phishing sebelum penyerang membahayakan korban dan beralih ke fase serangan berikutnya, katanya.
“Pembela tidak perlu mendeteksi setiap hal yang dilakukan penyerang dalam rantai ancaman, mereka hanya perlu mendeteksi sesuatu sebelum tahap akhir serangan — yaitu, ransomware atau eksfiltrasi data - jadi memiliki program analitik data keamanan yang kuat sangatlah penting,” kata Bambenek.
Profesional keamanan lainnya juga mempromosikan penggunaan Alat keamanan berbasis AI, yang jumlahnya terus bertambah, untuk melawan AI musuh, pada dasarnya memadamkan api dengan api untuk memerangi peningkatan kecanggihan lanskap ancaman.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Otomotif / EV, Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- BlockOffset. Modernisasi Kepemilikan Offset Lingkungan. Akses Di Sini.
- Sumber: https://www.darkreading.com/threat-intelligence/fraudgpt-malicious-chatbot-for-sale-dark-web
- :memiliki
- :adalah
- $NAIK
- 000
- 13
- 25
- 7
- 700
- a
- kemampuan
- Menurut
- Akun
- Akun
- di seluruh
- tindakan
- aktif
- kegiatan
- aktor
- iklan
- Keuntungan
- permusuhan
- terhadap
- AI
- ditujukan
- Semua
- Alfabay
- juga
- antara
- an
- analisis
- dan
- Lain
- aplikasi
- muncul
- Muncul
- aplikasi
- ADALAH
- bersenjata
- AS
- At
- menyerang
- tersedia
- Buruk
- berdasarkan
- dasar
- Pertarungan
- BE
- BEC
- menjadi
- sebelum
- papan
- Bot
- batas-batas
- Rusak
- Bangunan
- bisnis
- kompromi email bisnis
- tapi
- by
- Panggilan
- Kampanye
- Kampanye
- CAN
- kasus
- ceo
- rantai
- perubahan
- ChatBot
- ChatGPT
- beredar
- Sirkulasi
- klaim
- Klik
- Co-founder
- kode
- memerangi
- kompromi
- Dikompromikan
- Mengadakan
- DIKONFIRMASI
- konteks
- konvensional
- Core
- membuat
- dibuat
- membuat
- MANDAT
- Penjahat
- CTO
- maya
- gelap
- Bacaan gelap
- Web Gelap
- data
- Data Analytics
- berurusan
- Pembela
- menuntut
- mendemonstrasikan
- menunjukkan
- rinci
- menemukan
- sulit
- diskusi
- do
- tidak
- Tidak
- domain
- Dont
- draf
- dijuluki
- dinamika
- e
- mudah
- efek
- muncul
- Kekaisaran
- Enterprise
- masuk
- penting
- dll
- etis
- Bahkan
- Setiap
- bukti
- pengelupasan kulit
- ahli
- fakta
- Jatuh
- jauh
- FAST
- prestasi
- Fitur
- pertarungan
- perkelahian
- terakhir
- tahap akhir
- keuangan
- temuan
- Kebakaran
- Pertama
- Untuk
- ditemukan
- Gratis
- dari
- fungsi
- secara fundamental
- lebih lanjut
- Mendapatkan
- menghasilkan
- menghasilkan
- generatif
- AI generatif
- Pergi
- lebih besar
- Grup
- Pertumbuhan
- terjangan
- hacker
- hacker
- peretasan
- Panen
- Memiliki
- memiliki
- he
- membantu
- membantu
- Seterpercayaapakah Olymp Trade? Kesimpulan
- Namun
- HTTPS
- pemburu
- i
- mengenali
- melaksanakan
- in
- Termasuk
- Pada meningkat
- mulanya
- memasukkan
- ke
- IT
- John
- jpg
- Juli
- hanya
- pemandangan
- besar
- jalankan
- diluncurkan
- kebocoran
- pengetahuan
- 'like'
- MEMBATASI
- keterbatasan
- LINK
- Panjang
- Utama
- malware
- pasar
- pasar
- bahan
- pesan
- model
- Bulan
- lebih
- kebanyakan
- pindah
- Perlu
- New
- berikutnya
- sekarang
- nomor
- of
- Penawaran
- on
- ONE
- terus-menerus
- ke
- OpenAI
- beroperasi
- beroperasi
- or
- organisasi
- Lainnya
- kami
- diuraikan
- halaman
- pembayaran
- untuk
- tahap
- Phishing
- serangan phishing
- kampanye phishing
- plato
- Kecerdasan Data Plato
- Data Plato
- diposting
- primer
- Utama
- Sebelumnya
- menghasilkan
- profesional
- program
- mendorong
- mempromosikan
- promosional
- memberikan
- diterbitkan
- segera
- ransomware
- Bacaan
- nyata
- menerima
- penerima
- sisa
- melaporkan
- peneliti
- Terungkap
- Review
- naik
- aturan
- s
- pengamanan
- Tersebut
- penjualan
- penjualan
- sama
- Sabtu
- mengatakan
- Skala
- Scam
- penipuan
- keamanan
- mengirim
- Layanan
- mirip
- serentak
- sejak
- tunggal
- Situs
- So
- sejauh ini
- sosial
- terjual
- Seseorang
- sesuatu
- sumber
- Secara khusus
- kecepatan
- magang
- dimulai
- Masih
- Penyelarasan
- kuat
- Perjuangan
- berlangganan
- selanjutnya
- seperti itu
- dipasok
- sistem
- sistem
- tim
- Teknologi
- Telegram
- mengatakan
- mengatakan
- Template
- dari
- bahwa
- Grafik
- mereka
- Mereka
- teoretis
- Sana.
- Ini
- mereka
- hal
- hal
- ini
- itu
- ancaman
- aktor ancaman
- untuk
- alat
- alat
- dipuji
- terlatih
- mendesak
- menggunakan
- menggunakan
- berbagai
- penjaja
- diverifikasi
- Lawan
- Korban
- korban
- Kerentanan
- adalah
- cara
- jaringan
- Apa
- ketika
- yang
- SIAPA
- akan
- dengan
- tanpa
- dunia
- menulis
- penulisan
- menulis
- tahun
- namun
- Kamu
- Anda
- zephyrnet.dll