Polisi Korea Selatan Kerahkan Alat Deteksi Deepfake Jelang Pemilu

Polisi Korea Selatan Kerahkan Alat Deteksi Deepfake Jelang Pemilu

Stempel Waktu: 8 Maret 2024 3
South Korean Police Deploy Deepfake Detection Tool Prior to Elections PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Di tengah peningkatan tajam deepfake bermotif politik, Badan Kepolisian Nasional Korea Selatan (KNPA) telah mengembangkan dan menerapkan alat untuk mendeteksi konten buatan AI untuk digunakan dalam penyelidikan kriminal.

Menurut Kantor Investigasi Nasional (NOI) KNPA, program pembelajaran mendalam dilatih pada sekitar 5.2 juta data yang bersumber dari 5,400 warga Korea. Ini dapat menentukan apakah suatu video (yang belum dilatih sebelumnya) itu nyata atau tidak hanya dalam waktu lima hingga 10 menit, dengan tingkat akurasi sekitar 80%. Alat ini secara otomatis menghasilkan lembar hasil yang dapat digunakan polisi dalam investigasi kriminal.

Seperti dilansir media Korea, hasil ini akan digunakan untuk menginformasikan penyelidikan tetapi tidak akan digunakan sebagai bukti langsung dalam persidangan pidana. Polisi juga akan memberikan ruang untuk berkolaborasi dengan pakar AI di bidang akademis dan bisnis.

Pakar keamanan AI telah menyerukan penggunaan AI untuk kebaikan, termasuk mendeteksi misinformasi dan deepfake.

“Inilah intinya: AI dapat membantu kita menganalisis [konten palsu] pada skala apa pun,” Gil Shwed, CEO Check Point, mengatakan kepada Dark Reading dalam sebuah wawancara minggu ini. Meskipun AI adalah penyakitnya, katanya, AI juga merupakan obatnya: “[Mendeteksi penipuan] biasanya membutuhkan teknologi yang sangat kompleks, namun dengan AI Anda dapat melakukan hal yang sama dengan jumlah informasi yang minimal — tidak hanya informasi yang bagus dan dalam jumlah besar. informasi."

Masalah Deepfake Korea

Sementara seluruh dunia menunggu untuk mengantisipasi deepfake menyerbu musim pemilu, Masyarakat Korea telah menangani masalah ini secara dekat dan pribadi.

Pertengkaran di tambang batu bara terjadi selama pemilihan provinsi pada tahun 2022, ketika sebuah video menyebar di media sosial yang menunjukkan Presiden Yoon Suk Yeol mendukung kandidat lokal untuk partai yang berkuasa.

Penipuan jenis ini akhir-akhir ini semakin marak. Bulan lalu, Komisi Pemilihan Umum Nasional mengungkapkan bahwa antara tanggal 29 Januari dan 16 Februari, hal tersebut terjadi mendeteksi 129 deepfake melanggar undang-undang pemilu – angka yang diperkirakan akan meningkat menjelang Hari Pemilu 10 April. Semua ini terlepas dari revisi undang-undang yang mulai berlaku pada tanggal 29 Januari, yang menyatakan bahwa penggunaan video, foto, atau audio palsu sehubungan dengan pemilu dapat mengakibatkan warga negara mendapatkan hukuman hingga tujuh tahun penjara, dan denda hingga 50 juta won. (sekitar $37,500). 

Bukan Hanya Disinformasi

Shwed dari Check Point memperingatkan bahwa, seperti teknologi baru lainnya, AI memiliki risikonya sendiri. “Jadi ya, ada hal-hal buruk yang bisa terjadi dan kita perlu mempertahankannya,” ujarnya.

Informasi palsu bukanlah masalahnya, tambahnya. “Masalah terbesar dalam konflik kemanusiaan secara umum adalah kita tidak melihat gambaran keseluruhannya – kita memilih elemen-elemen [dalam berita] yang ingin kita lihat, dan kemudian berdasarkan elemen-elemen tersebut kita mengambil keputusan,” katanya.

“Ini bukan tentang disinformasi, ini tentang apa yang Anda yakini. Dan berdasarkan apa yang Anda yakini, Anda memilih informasi mana yang ingin Anda lihat. Bukan sebaliknya.”

Stempel Waktu:

Lebih dari Bacaan gelap