Deepfakes — juga dikenal sebagai media sintetik — dapat digunakan lebih dari sekadar meniru identitas selebritas dan membuat disinformasi lebih dapat dipercaya. Mereka juga dapat digunakan untuk penipuan keuangan.
Penipu dapat menggunakan teknologi deepfake untuk mengelabui karyawan di lembaga keuangan agar mengubah nomor rekening dan memulai permintaan pengiriman uang untuk jumlah yang besar, kata Satish Lalchand, kepala sekolah di Deloitte Transaction and Business Analytics. Dia mencatat bahwa transaksi ini seringkali sulit, jika bukan tidak mungkin, untuk dibalik.
Penjahat dunia maya terus mengadopsi teknik baru untuk menghindari proses verifikasi kenali pelanggan Anda dan kontrol deteksi penipuan. Sebagai tanggapan, banyak bisnis mengeksplorasi cara pembelajaran mesin (ML) dapat mendeteksi transaksi penipuan yang melibatkan media sintetis, penipuan identitas sintetis, atau perilaku mencurigakan lainnya. Namun, tim keamanan harus memperhatikan keterbatasan penggunaan ML untuk mengidentifikasi penipuan dalam skala besar.
Menemukan Penipuan dalam Skala Besar
Penipuan di sektor jasa keuangan selama dua tahun terakhir didorong oleh fakta bahwa banyak transaksi didorong ke saluran digital akibat pandemi COVID-19, kata Lalchand. Dia mengutip tiga faktor risiko yang mendorong penerapan teknologi ML untuk verifikasi pelanggan dan bisnis: pelanggan, karyawan, dan penipu.
Meskipun karyawan di perusahaan jasa keuangan biasanya dipantau melalui kamera dan obrolan digital di kantor, pekerja jarak jauh tidak diawasi sebanyak itu, kata Lalchand. Dengan lebih banyak pelanggan yang mendaftar ke layanan keuangan secara virtual, perusahaan jasa keuangan semakin menggabungkan ML ke dalam proses verifikasi dan autentikasi pelanggan mereka untuk menutup jendela tersebut bagi karyawan dan pelanggan. ML juga dapat digunakan untuk mengidentifikasi aplikasi penipuan untuk bantuan pemerintah atau penipuan identitas, kata Lalchand.
Selain menemukan penipuan Pinjaman Program Perlindungan Gaji, Model ML dapat dilatih untuk mengenali pola transaksi yang dapat menandakan penipuan perdagangan manusia atau penyalahgunaan orang tua, kata Gary Shiffman, salah satu pendiri Consilient, sebuah perusahaan IT yang berspesialisasi dalam pencegahan kejahatan keuangan.
Institusi keuangan sekarang melihat penipuan muncul di berbagai produk, tetapi mereka cenderung mencari transaksi penipuan dalam silo. Kecerdasan buatan dan teknologi ML dapat membantu menyatukan sinyal penipuan dari berbagai area, kata Shiffman.
“Lembaga terus melakukan whack-a-mole, dan terus mencoba dan mengidentifikasi di mana penipuan meningkat, tetapi itu terjadi begitu saja dari semua tempat,” kata Lalchand. “Perpaduan informasi … disebut CyFi, menyatukan data siber dan keuangan.”
Alat ML dapat membantu dalam mengidentifikasi pelanggan secara positif, mendeteksi penipuan identitas, dan menemukan kemungkinan risiko, kata Jose Caldera, kepala petugas produk produk global untuk Acuant di GBG. ML dapat memeriksa perilaku masa lalu dan sinyal risiko serta menerapkan pelajaran tersebut di masa mendatang, ujarnya.
Batasan Pembelajaran Mesin
Meskipun model ML dapat menganalisis poin data untuk mendeteksi penipuan dalam skala besar, akan selalu ada false positive dan false negative, dan model akan menurun seiring waktu, kata Caldera. Oleh karena itu, tim keamanan siber yang melatih algoritme untuk menemukan penipuan harus memperbarui model mereka dan memantau temuannya secara rutin, tidak hanya setiap enam bulan atau setiap tahun, katanya.
“Anda harus memastikan bahwa Anda memahami bahwa prosesnya bukan [tugas] satu kali. Dan… Anda perlu memiliki staf yang tepat yang memungkinkan Anda mempertahankan proses itu dari waktu ke waktu,” kata Caldera. “Anda akan selalu mendapatkan lebih banyak informasi, dan… Anda harus dapat menggunakannya terus-menerus untuk meningkatkan model dan meningkatkan sistem Anda.”
Untuk tim TI dan keamanan siber yang mengevaluasi keefektifan algoritme ML, Shiffman mengatakan bahwa mereka perlu menetapkan kebenaran dasar — jawaban yang benar atau “benar” untuk pertanyaan atau masalah. Untuk melakukannya, tim yang menggunakan teknologi ML mencoba model menggunakan kumpulan data pengujian, menggunakan kunci jawaban untuk menghitung negatif palsu, positif palsu, positif sebenarnya, dan negatif sebenarnya, ujarnya. Setelah kesalahan dan jawaban yang benar ini diperhitungkan, perusahaan dapat mengkalibrasi ulang model ML mereka untuk mengidentifikasi aktivitas penipuan di masa mendatang, jelasnya.
Selain memperbarui algoritme mereka untuk mendeteksi penipuan, tim TI dan keamanan siber yang menggunakan teknologi ML juga harus mengetahui batasan hukum berbagi data dengan entitas lain, bahkan untuk mengidentifikasi penipuan, kata Shiffman. Jika Anda menangani data dari negara lain, Anda mungkin tidak dapat mentransfernya secara legal ke AS, katanya.
Untuk tim yang ingin menggunakan teknologi ML untuk deteksi penipuan, Caldera memperingatkan bahwa alat semacam itu hanyalah salah satu komponen dari strategi pencegahan penipuan dan tidak ada satu solusi pun untuk memecahkan masalah tersebut. Setelah orientasi pelanggan baru, cybersecurity dan profesional TI harus tetap mengikuti bagaimana mereka mengubah perilaku dari waktu ke waktu.
“Penggunaan teknologi atau pembelajaran mesin hanyalah salah satu komponen perangkat Anda,” kata Caldera. “Anda sebagai bisnis, Anda harus memahami: Berapa biaya yang Anda keluarkan untuk ini, apa toleransi risiko yang Anda miliki, dan kemudian posisi pelanggan seperti apa yang Anda inginkan?”
