Kepalsuan AI Pemilu: Akankah Regulator Uni Eropa Mengatasinya?

Kepalsuan AI pemilu diperkirakan akan membebani regulator Uni Eropa karena lebih dari 10 negara di kawasan ini akan mengadakan pemilu pada tahun 2024 dengan latar belakang pemerintahan yang tidak siap.

Pada tahun 2024, benua ini diperkirakan akan mengalami gelombang deepfake bermotif politik dalam bentuk video, audio, dan gambar. Dengan alat seperti Midjourney versi 6, yang menciptakan “fotorealisme luar biasa”, akan mudah untuk menargetkan orang atau adegan kerusuhan dan gerakan migran secara nyata.

Beberapa pemilu Uni Eropa

Menurut Sinyal Brussel, Austria, Finlandia, Kroasia, Belgia, Lituania, Islandia, Portugal, Rumania, dan Slovakia akan mengadakan pemilu nasional pada tahun mendatang.

Di negara lain, Jerman, Irlandia, Malta, dan Polandia menyelenggarakan pemilu lokal, sementara Spanyol menyelenggarakan dua pemilu regional.

Secara global, sekitar 25% populasi dunia tinggal di negara yang menyelenggarakan pemilu pada tahun 2024, misalnya Amerika Serikat.

Periode pemilu juga terjadi pada saat dunia sedang menyaksikan lonjakan pemilu AI generatif mengikuti kisah sukses ChatGPT yang diluncurkan pada November 2022.

Oleh karena itu, Henry Ajder, pendiri startup AI generatif di Cambridge, mengatakan pada tahun 2024 akan terjadi “sebagian besar orang akan memilih, dan pada saat yang sama, kita melihat evolusi dan penerapan AI yang sangat cepat. ”

Baca juga: Pemerintah Korea Selatan Menyatakan Tidak Ada Hak Cipta untuk Konten AI

Persiapan yang buruk

Sara Ibrahim, seorang pengacara di Gatehouse Chambers London yang sering bekerja dan menulis tentang AI, berpendapat bahwa pemilu mendatang akan menghadapi ancaman AI karena ketidaksiapan regulator UE dalam menangani penggunaan AI selama periode pemilu.

Ia berpendapat bahwa kawasan ini saat ini ditandai oleh “badai besar pemerintahan yang tidak siap dan kemungkinan terjadinya penipuan dan penyelewengan dalam skala besar, serta menyebarkan informasi yang salah dengan sangat cepat.”

Pengadilan di Eropa sudah merasakan dampak AI generatif, dan ini merupakan tanda peringatan dini.

Sistem hukum, menurut Ibrahim, “sudah mengalami banyak orang yang mengutip kasus-kasus yang dibuat-buat dan berhalusinasi melalui ChatGPT, sehingga memberikan tekanan nyata pada sumber daya publik pada saat perekonomian sedang sulit kuat.”

Menghentikan penyebaran deepfake dengan menggunakan peraturan mungkin merupakan tugas berat bagi UE saat ini.

“Regulator tidak dapat menghentikan seseorang di komputernya menggunakan alat yang sangat mudah diakses untuk menghasilkan audio atau video, membagikannya di Twitter pada saat yang tepat, atau menyebarkannya di grup Discord,” kata Ajder.

Meskipun memiliki Undang-undang Layanan Digital di UE, efektivitasnya “belum terbukti,” menurut Oxford Analytica.

AI yang menipu

Meskipun AI generatif disebut-sebut sebagai game changer karena kemampuan transformatifnya, dunia telah menyaksikan kelemahan AI generatif. Gambar, video, dan audio yang dihasilkan AI menjadi “sempurna” dan sulit dibedakan dari aslinya, sehingga membuat pengguna bingung.

Pada bulan September, di tengah pemilu Bangladesh, sebuah outlet berita bernama BD Politico menayangkan video di platform X dengan cuplikan kerusuhan karena diplomat AS ikut campur dalam pemilu di negara tersebut.

Tapi video itu dibuat menggunakan HaiGen, generator video AI. Pembawa berita dalam cuplikan tersebut, “Edward,” adalah salah satu dari banyak avatar yang ditawarkan pembuat video kepada pengguna dengan biaya berlangganan $24 per bulan.

Contoh lainnya adalah fitur rekaman audio Sir Keir Starmer melecehkan secara verbal para pembantunya selama konferensi Partai Buruh Inggris pada bulan September. Klip tersebut telah ditonton 1.5 juta kali.

Pada bulan yang sama, klip lain dari Walikota London Sadiq Khan desakan untuk penjadwalan ulang Hari Gencatan Senjata karena adanya demonstrasi pro-Palestina beredar luas.

Menurut Brussels Signal, klip-klip tersebut membuktikan bahwa klip tersebut dibuat oleh AI.

[Embedded content]

Politisi yang rentan

Karena jabatan yang mereka pegang, para politisi dan orang-orang penting telah menjadi target pemalsuan AI, terutama menjelang pemilu di seluruh dunia.

Ajder sependapat bahwa politisi “sangat rentan.”

“Ada banyak data latihan dalam rekamannya, dan berdiri di podium atau duduk di meja adalah sesuatu yang sangat mudah dipalsukan,” kata Ajder.

Baru-baru ini, Pakistan Imran Khan memiliki suara yang dihasilkan AI tentang dirinya yang menyerukan dukungan saat berada di penjara dalam rapat umum virtual selama tujuh jam.

Klip video dari konflik Gaza dan Ukraina juga menggambarkan bayi-bayi yang berdarah dan ditelantarkan, namun ini tidak nyata. Jika dilihat lebih dekat, terlihat jari-jari melengkung dengan “cara anatomi yang tidak mungkin atau warna mata yang tidak alami,” menurut Imran Ahmed, kepala eksekutif Center for Countering Digital Hate yang berbasis di Washington, DC.

Apa yang bisa dilakukan?

Meskipun memproduksi dan menyiarkan materi ekstremis membutuhkan biaya yang besar, frekuensi kemunculan konten semacam itu di platform seperti X cukup tinggi.

Menurut Ahmed, AI yang tidak diatur akan “meningkatkan kebencian dan disinformasi.”

Meskipun hanya sedikit yang bisa dilakukan oleh regulator saat ini, ada kebutuhan untuk memastikan pengungkapan konten apa pun yang dihasilkan AI oleh para politisi, menurut Ajder.

“Atau setidaknya hanya diizinkan untuk digunakan tanpa pengungkapan jika sudah jelas bagi penonton bahwa hal itu tidak nyata dan merupakan parodi,” katanya.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/election-ai-deepfakes-will-eu-regulators-cope/