Kampanye jahat yang melibatkan penggunaan teknologi deepfake jauh lebih dekat daripada yang diperkirakan banyak orang. Selain itu, mitigasi dan deteksi mereka sulit.
Sebuah studi baru tentang penggunaan dan penyalahgunaan deepfake oleh penjahat dunia maya menunjukkan bahwa semua elemen yang diperlukan untuk penggunaan teknologi secara luas telah tersedia dan tersedia di pasar bawah tanah dan forum terbuka. Studi oleh Trend Micro menunjukkan bahwa banyak phishing yang mendukung deepfake, kompromi email bisnis (BEC), dan penipuan promosi telah terjadi dan dengan cepat membentuk kembali lanskap ancaman.
Bukan Lagi Ancaman Hipotetis
“Dari ancaman hipotetis dan proof-of-concept, [serangan deepfake-enabled] telah pindah ke tahap di mana penjahat non-dewasa mampu menggunakan teknologi semacam itu,” kata Vladimir Kropotov, peneliti keamanan dengan Trend Micro dan penulis utama sebuah melaporkan topik yang dirilis vendor keamanan minggu ini.
'Kami sudah melihat bagaimana deepfake diintegrasikan ke dalam serangan terhadap lembaga keuangan, penipuan, dan upaya untuk meniru politisi,' katanya, menambahkan bahwa yang menakutkan adalah banyak dari serangan ini menggunakan identitas orang sungguhan - sering kali diambil dari konten yang mereka posting di media sosial. jaringan media.
Salah satu kesimpulan utama dari studi Trend Micro adalah ketersediaan alat, gambar, dan video untuk menghasilkan deepfake. Vendor keamanan menemukan, misalnya, bahwa beberapa forum, termasuk GitHub, menawarkan kode sumber untuk mengembangkan deepfake kepada siapa saja yang menginginkannya. Demikian pula, gambar dan video berkualitas tinggi yang cukup dari individu biasa dan tokoh masyarakat tersedia bagi aktor jahat untuk dapat menciptakan jutaan identitas palsu atau untuk menyamar sebagai politisi, pemimpin bisnis, dan tokoh terkenal lainnya.
Permintaan akan layanan deepfake dan orang-orang yang ahli dalam topik tersebut juga meningkat di forum bawah tanah. Trend Micro menemukan iklan dari penjahat yang mencari keterampilan ini untuk melakukan penipuan cryptocurrency dan penipuan yang menargetkan akun keuangan individu.
"Aktor sudah bisa meniru dan mencuri identitas politisi, eksekutif tingkat C, dan selebriti," kata Trend Micro dalam laporannya. “Ini dapat secara signifikan meningkatkan tingkat keberhasilan serangan tertentu seperti skema keuangan, kampanye disinformasi berumur pendek, manipulasi opini publik, dan pemerasan.”
Banyak Risiko
Ada risiko yang berkembang juga dari identitas yang dicuri atau dibuat ulang milik orang biasa yang digunakan untuk menipu korban yang menyamar, atau untuk melakukan aktivitas jahat dengan identitas mereka.
Dalam banyak grup diskusi, Trend Micro menemukan pengguna secara aktif mendiskusikan cara menggunakan deepfake untuk melewati perbankan dan kontrol verifikasi akun lainnya — terutama yang melibatkan metode verifikasi video dan tatap muka.
Misalnya, penjahat dapat menggunakan identitas korban dan menggunakan video deepfake mereka untuk membuka rekening bank, yang nantinya dapat digunakan untuk kegiatan pencucian uang. Mereka juga dapat membajak akun, menyamar sebagai eksekutif tingkat atas di organisasi untuk memulai transfer uang palsu atau menanam bukti palsu untuk memeras individu, kata Trend Micro.
Perangkat seperti Amazon Alexa dan iPhone, yang menggunakan pengenalan suara atau wajah, bisa segera masuk dalam daftar perangkat target untuk serangan berbasis deepfake, vendor keamanan mencatat.
“Karena banyak perusahaan masih bekerja dalam mode jarak jauh atau campuran, ada peningkatan risiko peniruan personel dalam panggilan konferensi yang dapat memengaruhi komunikasi bisnis internal dan eksternal serta proses bisnis dan aliran keuangan yang sensitif,” kata Kropotov.
Trend Micro tidak sendirian dalam membunyikan alarm pada deepfake. Sebuah survei online baru-baru ini yang dilakukan VMware terhadap 125 profesional keamanan siber dan respons insiden juga menemukan bahwa ancaman yang mendukung deepfake tidak hanya datang — mereka sudah ada di sini. 66% yang mengejutkan — naik 13% dari tahun 2021 — dari responden mengatakan mereka telah mengalami insiden keamanan yang melibatkan penggunaan deepfake selama 12 bulan terakhir.
“Contoh serangan deepfake [sudah] disaksikan termasuk panggilan suara CEO ke CFO mengarah ke transfer kawat, serta panggilan karyawan ke TI untuk memulai pengaturan ulang kata sandi,” kata Rick McElroy, ahli strategi keamanan siber utama VMware.
Sedikit Mitigasi untuk Serangan & Deteksi Deepfake Sulit
Secara umum, jenis serangan ini bisa efektif, karena belum ada perbaikan teknologi untuk mengatasi tantangan tersebut, kata McElroy.
“Mengingat meningkatnya penggunaan dan kecanggihan dalam menciptakan deepfake, saya melihat ini sebagai salah satu ancaman terbesar bagi organisasi dari perspektif penipuan dan penipuan ke depan,” dia memperingatkan.
Cara paling efektif untuk mengurangi ancaman saat ini adalah untuk meningkatkan kesadaran akan masalah di antara tim keuangan, eksekutif, dan TI yang menjadi target utama serangan rekayasa sosial ini.
“Organisasi dapat mempertimbangkan metode berteknologi rendah untuk memutus siklus. Ini dapat mencakup penggunaan tantangan dan frasa sandi di antara para eksekutif saat mengirimkan uang dari organisasi atau memiliki proses persetujuan dua langkah dan terverifikasi, ”katanya.
Gil Dabah, salah satu pendiri dan CEO Piaano, juga merekomendasikan kontrol akses yang ketat sebagai langkah mitigasi. Tidak ada pengguna yang memiliki akses ke data pribadi dalam jumlah besar dan organisasi perlu menetapkan batas kecepatan serta deteksi anomali, katanya.
“Bahkan sistem seperti intelijen bisnis, yang memerlukan analisis data besar, hanya boleh mengakses data yang disembunyikan,” catat Dabah, menambahkan bahwa tidak ada data pribadi sensitif yang harus disimpan dalam teks biasa dan data seperti PII harus diberi token dan dilindungi.
Sementara itu di bidang deteksi, perkembangan teknologi seperti berbasis AI Jaringan Adversarial Generatif (GAN) telah membuat deteksi deepfake lebih sulit. "Itu berarti kami tidak dapat mengandalkan konten yang berisi petunjuk 'artefak' bahwa telah terjadi perubahan," kata Lou Steinberg, salah satu pendiri dan mitra pengelola di CTM Insights.
Untuk mendeteksi konten yang dimanipulasi, organisasi memerlukan sidik jari atau tanda tangan yang membuktikan bahwa ada sesuatu yang tidak berubah, tambahnya.
“Yang lebih baik lagi adalah mengambil sidik jari mikro di atas bagian konten dan dapat mengidentifikasi apa yang berubah dan apa yang tidak,” katanya. “Itu sangat berharga ketika sebuah gambar telah diedit, tetapi terlebih lagi ketika seseorang mencoba menyembunyikan gambar dari deteksi.”
Tiga Kategori Ancaman Luas
Steinberg mengatakan ancaman deepfake terbagi dalam tiga kategori besar. Yang pertama adalah kampanye disinformasi yang sebagian besar melibatkan pengeditan konten yang sah untuk mengubah makna. Sebagai contoh, Steinberg menunjuk aktor negara-bangsa yang menggunakan gambar dan video berita palsu di media sosial atau memasukkan seseorang ke dalam foto yang aslinya tidak ada — sesuatu yang sering digunakan untuk hal-hal seperti dukungan produk tersirat atau porno balas dendam.
Kategori lain melibatkan perubahan halus pada gambar, logo, dan konten lain untuk melewati alat deteksi otomatis seperti yang digunakan untuk mendeteksi logo produk tiruan, gambar yang digunakan dalam kampanye phishing, atau bahkan alat untuk mendeteksi pornografi anak.
Kategori ketiga melibatkan deepfake sintetis atau komposit yang berasal dari koleksi asli untuk menciptakan sesuatu yang benar-benar baru, kata Steinberg.
“Kami mulai melihat ini dengan audio beberapa tahun yang lalu, menggunakan pidato yang disintesis komputer untuk mengalahkan cetakan suara di pusat panggilan layanan keuangan,” katanya. “Video sekarang digunakan untuk hal-hal seperti versi modern dari kompromi email bisnis atau untuk merusak reputasi dengan meminta seseorang 'mengatakan' sesuatu yang tidak pernah mereka katakan.”
