Swift'in derin sahtekarlıklarından sorumlu tutulan AI korkuluklarından kaçınma girişimleri

Swift'in derin sahtekarlıklarından sorumlu tutulan AI korkuluklarından kaçınma girişimleri

Zaman Damgası: 5 Şubat 2024 5:11
Swift'in PlatoBlockchain Veri Zekasını derin sahtekarlığıyla suçlayan AI korkuluklarından kaçınma girişimleri. Dikey Arama. Ai.

Pop yıldızı Taylor Swift'in viral, müstehcen deepfake görüntülerinin, yarışmacıları AI yazılım içerik filtrelerini kırmaya zorlayan 4chan'daki çevrimiçi bir yarışmadan kaynaklandığı bildirildi. 

New York'lu bir sosyal medya analiz firması olan Graphika'daki kişiler, fotoğrafları doğrudan 4chan'e kadar takip etti. İnsanlardan, kadın ünlülerin NSFW görüntülerini oluşturmak için Microsoft'un Designer'ı veya OpenAI'nin DALL-E'si gibi uygulamalardaki güvenlik korkuluklarını atlayacak hileler bulmaları istendi. Graphika'ya göre Taylor Swift'in resimleri Microsoft Designer kullanılarak oluşturuldu ve daha sonra X'te yayınlanmadan önce Telegram'daki bir grup sohbetinde paylaşıldı.

Bir Microsoft sözcüsü, "Bu görüntüleri araştırmaya devam ediyoruz ve hizmetlerimizin bunlar gibi görüntülerin oluşturulmasına yardımcı olmak amacıyla kötüye kullanılmasını önlemek için mevcut güvenlik sistemlerimizi güçlendirdik" dedi. Kayıt yaptığı açıklamada. 

Deepfake görselleri Hızlı sosyal medya platformu onları kaldırmadan ve şarkı yazarıyla ilgili bazı arama terimlerini geçici olarak engellemeden önce X üzerinde milyonlarca görüntüleme topladı. Ancak Graphika, yarışmanın diğer tanınmış kadın figürleri hedef aldığını söyledi ve teknolojinin herkesi hedef alacak şekilde suistimal edilebileceği konusunda uyardı. 

Graphika'nın kıdemli analistlerinden Cristina López G., "Taylor Swift'in viral pornografik resimleri, yapay zeka tarafından oluşturulan rıza dışı mahrem görüntüler konusuna ana akım dikkati çekmiş olsa da, kendisi tek kurban değil" dedi. söyledi Bloomberg. “Bu görüntülerin ortaya çıktığı 4chan topluluğunda kendisi en sık hedef alınan halk figürü bile değil. Bu, küresel ünlülerden okul çocuklarına kadar herkesin bu şekilde hedef alınabileceğini gösteriyor.”

Ancak Swift'i cinsel açıdan müstehcen pozlarda tasvir eden sahte görüntülerin viral doğası, yasa koyucuları harekete geçirmiş gibi görünüyor. Beyaz Saray'ın basın sözcüsü Karine Jean-Pierre, Kongre'yi "endişe verici" resimlere yanıt olarak "yasal eyleme geçmeye" çağırdı. 

Geçtiğimiz hafta ABD senatörleri, 2024 tarihli Açık Sahte Görüntüleri ve Rıza Dışı Düzenlemeleri (DEFIANCE) Engelleme Yasasını tanıttı. iki partili yasa tasarısı Bu, kurbanların yapay zeka tarafından üretilen müstehcen deepfake'ler yaratan ve paylaşan kişileri dava etmesine olanak tanıyacak. Senatörler Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) ve Josh Hawley (R-MO) tarafından öncülük edilen yasa, deepfake videoların yüzde 96'sını iddia eden bir çalışmaya işaret etti. pornografikti ve tasvir ettiği kadınların izni veya rızası alınmadan oluşturulmuştu. 

DEFIANCE yasası, sosyal medya platformlarının üst düzey CEO'larının Kongre'de sorgulandığı sırada başlatıldı. işitme Çocukların internette cinsel istismarı ve koruma eksikliği nedeniyle.

Kayıt Graphika'dan daha fazla yorum yapmasını istedi. ®

Zaman Damgası:

Den fazla Kayıt