IWF Menuntut Tindakan Terhadap Pedofil Menggunakan AI Generatif

Internet Watch Foundation memperingatkan bahwa AI generatif mengancam akan memungkinkan terjadinya “pembuatan gambar dalam skala besar,” yang akan “membebani mereka yang berupaya memerangi pelecehan seksual terhadap anak secara online.”

Badan ini khawatir dengan pesatnya kemajuan AI generatif selama setahun terakhir dan memperkirakan bahwa materi pelecehan seksual terhadap anak (CSAM) yang dihasilkan oleh AI hanya akan menjadi lebih gamblang seiring berjalannya waktu.

Kejahatan yang paling meresahkan

Internet Watch Foundation mengatakan hal itu bersifat generatif AI memiliki potensi besar untuk memperbaiki kehidupan kita, namun memperingatkan bahwa teknologi dapat dengan mudah digunakan untuk tujuan jahat.

Susie Hargreaves, kepala eksekutif IWF, mengatakan kepada Guardian Rabu bahwa “mimpi buruk terburuk telah menjadi kenyataan.”

“Awal tahun ini, kami memperingatkan bahwa gambar-gambar AI akan segera menjadi tidak dapat dibedakan dari gambar-gambar nyata dari anak-anak yang mengalami pelecehan seksual, dan kita dapat mulai melihat gambar-gambar ini berkembang biak dalam jumlah yang jauh lebih besar. Kami sekarang telah melewati titik itu,” kata Hargreaves.

Dia menambahkan, “Yang mengerikan, kami melihat para penjahat dengan sengaja melatih AI mereka pada gambar korban sebenarnya yang telah mengalami pelecehan. Anak-anak yang pernah diperkosa di masa lalu kini dimasukkan ke dalam skenario baru karena seseorang, di suatu tempat, ingin melihatnya.”

Besarnya permasalahan ini telah menimbulkan masalah besar bagi mereka yang memerangi CSAM.

Dalam satu bulan, 20,254 gambar yang dihasilkan AI diposting ke satu forum CSAM web gelap. Analis IWF mengidentifikasi 2,562 foto palsu kriminal yang dibuat dengan bantuan AI generatif.

Lebih dari setengahnya menampilkan anak-anak di bawah usia 10 tahun, sementara 564 di antaranya diklasifikasikan sebagai gambar kategori A – yang merupakan bentuk gambar pelecehan anak yang paling serius.

Foto CSAM Selebriti

AI Generatif menciptakan kategori CSAM baru. Temuan IWF menunjukkan bahwa selebriti mengalami penurunan usia dan diubah menjadi anak-anak dengan alat AI.

Para selebritas yang sudah lanjut usia kemudian ditempatkan dalam skenario pelecehan demi kepuasan para pedofil online.

Anak-anak selebriti juga menjadi sasaran, “nudifying” anak-anak muda untuk pengguna di forum darknet.

IWF mengatakan gambar-gambar ini semakin sulit dibedakan dari CSAM asli.

“AI CSAM yang paling meyakinkan secara visual tidak dapat dibedakan dari CSAM sebenarnya, bahkan bagi analis IWF yang terlatih. Teknologi text-to-image akan menjadi lebih baik dan menimbulkan lebih banyak tantangan bagi IWF dan lembaga penegak hukum,” tulisnya melaporkan.

Rekomendasi pemerintah

IWF, yang berbasis di Inggris, meminta perusahaan teknologi di seluruh dunia untuk memastikan bahwa CSAM melanggar perjanjian ketentuan penggunaan mereka. Pemerintah juga menginginkan pelatihan yang lebih baik bagi lembaga penegak hukum sehingga mereka dapat lebih mudah mengidentifikasi jenis gambar tersebut.

IWF juga meminta pemerintah Inggris menjadikan AI CSAM sebagai topik diskusi utama pada KTT AI mendatang di Bletchley Park bulan depan.

Inggris berharap dapat menarik para pemain kunci dari dunia bisnis serta para pemimpin dunia untuk menghadiri acara tersebut. Sejauh ini, Perdana Menteri Italia Giorgia Meloni adalah satu-satunya pemimpin G7 yang diperkirakan akan hadir.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/