Garis Antara Ciptaan Nyata dan AI Terlalu Tipis untuk Dilihat

Ketika pengembang AI generatif terus menyempurnakan model mereka hingga menjadi lebih canggih, semakin sulit untuk membedakan antara gambar asli dan kreasi AI, ungkap para peneliti.

Sebuah studi oleh para peneliti di University of Waterloo menemukan bahwa orang-orang mengalami kesulitan dalam mencari tahu gambaran orang sungguhan dan gambar orang yang dibuat oleh AI.

Di bawah ambang batas yang diharapkan

Dalam melaksanakan penelitian tersebut, para peneliti di Universitas Waterloo memberikan 20 gambar tanpa label kepada 260 partisipan. Separuh dari gambar tersebut adalah gambar orang sungguhan yang diambil dari Gambar Google, sementara separuh lainnya dihasilkan oleh AI menggunakan alat seperti Dall-E dan Difusi Stabil.

Peserta kemudian diminta memberi label pada gambar tersebut, apakah itu asli atau buatan AI, untuk membenarkan jawaban mereka.

Meskipun 61% peserta dapat membedakan antara gambar asli dan gambar yang dihasilkan AI, angka ini masih jauh di bawah ambang batas yang diharapkan yaitu 85%.

Saat mengamati gambar, peserta memperhatikan detail seperti mata, jari, gigi, dan indikator lain yang menjadi indikator saat mencari gambar yang dibuat oleh AI, namun “penilaian mereka tidak selalu benar.”

“Orang-orang tidak begitu mahir dalam membuat perbedaan seperti yang mereka kira,” tersebut penulis utama studi ini, Andrea Pocol, yang juga merupakan kandidat PhD di bidang Ilmu Komputer di universitas tersebut.

Meskipun pengguna internet mungkin hanya melihat gambar secara sepintas, para peneliti di Waterloo mengatakan bahwa mereka mengizinkan peserta meluangkan waktu untuk menganalisis gambar tersebut.

“Orang-orang yang hanya memikirkan nasib buruk atau tidak punya waktu tidak akan memahami isyarat ini,” kata Pocol.

Baca juga: CEO Leonardo Menyoroti Kebodohan Pengguna Atas Ancaman AI di Davos

Menyalahgunakan teknologi

Mereka belajar, berjudul “Seeing Is Not Longer Believing: A Survey on State of Deepfakes, AI-Generated Humans, and Other Nonveridical Media,” yang muncul di jurnal Advances in Computer Graphics, juga menyoroti risiko yang terkait dengan kemajuan teknologi AI generatif .

Para peneliti juga prihatin dengan pesatnya perubahan teknologi AI generatif dan semakin canggih dari hari ke hari. Penelitian akademis dan peraturan perundang-undangan gagal mengimbangi perkembangan industri generatif.

Pocol mengatakan gambar AI menjadi lebih nyata sehingga menyulitkan sebagian orang untuk dengan mudah membedakan gambar asli dan gambar yang dihasilkan AI. Hal ini, kata Pocol, menciptakan lahan subur bagi pelaku kejahatan yang memanfaatkan teknologi untuk menyebarkan kebencian dan melanggengkan disinformasi atau menipu masyarakat.

“Disinformasi bukanlah hal baru, namun alat disinformasi terus berubah dan berkembang,” kata Pocol.

“Ini mungkin sampai pada titik di mana orang-orang, tidak peduli seberapa terlatihnya mereka, masih kesulitan membedakan gambar asli dan palsu. Itu sebabnya kita perlu mengembangkan alat untuk mengidentifikasi dan mengatasi hal ini. Ini seperti perlombaan senjata AI yang baru.”

Para peneliti juga mengakui tantangan yang ditimbulkan oleh teknologi ini, terutama dalam hal penyebaran deepfake.

Teknologi ada di tangan yang salah

Dengan kesulitan yang dialami masyarakat awam dalam membedakan gambar asli dan palsu, terdapat kekhawatiran akan meningkatnya penyebaran deepfake. Para ahli telah memperingatkan pelaku kejahatan akan memanfaatkan teknologi AI generatif untuk menyebarkan kebohongan pemilu dalam upaya mereka menyesatkan pemilih.

Grafik Pusat Penanggulangan Kebencian Digital (CCDH), sebuah organisasi nirlaba yang memantau ujaran kebencian online memperingatkan dalam laporan mereka bahwa generator gambar bertenaga AI memperburuk misinformasi pemilu 2024.

“Potensi gambar yang dihasilkan AI untuk berfungsi sebagai 'bukti foto' dapat memperburuk penyebaran klaim palsu, sehingga menimbulkan tantangan besar dalam menjaga integritas pemilu,” kata peneliti CCDH dalam laporan mereka.

Namun hal ini terjadi di tengah pengumuman bahwa sekitar 20 perusahaan teknologi besar termasuk OpenAI, Microsoft, dan Stabilitas AI menandatangani perjanjian untuk bekerja sama mencegah konten yang menipu oleh AI agar tidak “mengganggu pemilu yang berlangsung secara global tahun ini.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/