Upaya untuk menghindari batasan AI yang disalahkan atas deepfake Swift

Upaya untuk menghindari batasan AI yang disalahkan atas deepfake Swift

Stempel Waktu: 5 Februari 2024 5
Upaya untuk menghindari pagar pembatas AI yang disalahkan atas deepfake Swift, PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Gambar deepfake cabul yang viral dari bintang pop Taylor Swift dilaporkan berasal dari kompetisi online di 4chan, yang menantang kontestan untuk memecahkan filter konten perangkat lunak AI. 

Orang-orang di Graphika, sebuah firma analisis media sosial di New York, telah melacak foto-foto tersebut langsung ke 4chan. Orang-orang diminta untuk menemukan trik untuk melewati pagar pengaman pada aplikasi seperti Microsoft's Designer atau OpenAI's DALL-E untuk membuat gambar NSFW dari selebriti wanita. Gambar-gambar Taylor Swift dibuat menggunakan Microsoft Designer, dan kemudian dibagikan dalam obrolan grup di Telegram, sebelum diposting di X, menurut Graphika.

“Kami terus menyelidiki gambar-gambar ini dan telah memperkuat sistem keamanan yang ada untuk mencegah penyalahgunaan layanan kami untuk membantu menghasilkan gambar seperti itu”, kata juru bicara Microsoft. Pendaftaran dalam sebuah pernyataan. 

Gambar deepfake dari cepat mengumpulkan jutaan penayangan di X sebelum platform media sosial menghapusnya dan memblokir sementara beberapa istilah pencarian yang terkait dengan penulis lagu. Namun Graphika mengatakan bahwa kompetisi tersebut menargetkan tokoh perempuan terkenal lainnya, dan memperingatkan bahwa teknologi tersebut dapat disalahgunakan untuk menargetkan siapa pun. 

“Meskipun gambar-gambar porno Taylor Swift yang viral telah menarik perhatian arus utama terhadap isu gambar intim non-konsensual yang dihasilkan oleh AI, dia bukanlah satu-satunya korban,” Cristina López G., analis senior di Graphika, mengatakan Bloomberg. “Di komunitas 4chan tempat gambar-gambar ini berasal, dia bahkan bukan figur publik yang paling sering menjadi sasaran. Hal ini menunjukkan bahwa siapa pun dapat menjadi sasaran dengan cara ini, mulai dari selebriti global hingga anak sekolah.”

Namun, sifat viral dari gambar-gambar palsu yang menggambarkan Swift dalam pose-pose yang menjurus ke arah seksual, tampaknya telah membuat para anggota parlemen mengambil tindakan. Sekretaris pers Gedung Putih Karine Jean-Pierre mendesak Kongres untuk “mengambil tindakan legislatif” sebagai tanggapan terhadap gambar-gambar yang “mengkhawatirkan” tersebut. 

Pekan lalu, para senator AS memperkenalkan Undang-undang Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act of 2024, sebuah tagihan bipartisan Hal ini akan memungkinkan korban untuk menuntut orang-orang yang membuat dan membagikan deepfake kotor yang dihasilkan oleh AI. Undang-undang tersebut, yang dipelopori oleh Senator Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN), dan Josh Hawley (R-MO), menunjuk pada sebuah penelitian yang mengklaim 96 persen video deepfake bersifat pornografi dan dibuat tanpa izin atau izin dari wanita yang digambarkan. 

Tindakan DEFIANCE diluncurkan pada saat para CEO platform media sosial diinterogasi di Kongres pendengaran atas eksploitasi seksual terhadap anak-anak secara online, dan kurangnya perlindungan.

Pendaftaran telah meminta Graphika untuk memberikan komentar lebih lanjut. ®

Stempel Waktu:

Lebih dari Pendaftaran