Meta'nın Gözetim Kurulu sahte Biden videosunun ardından kuralları gözden geçiriyor

Meta'nın Gözetim Kurulu sahte Biden videosunun ardından kuralları gözden geçiriyor

Zaman Damgası: 10 Ekim 2023 11:29
Meta'nın Gözetim Kurulu, sahte Biden videosu PlatoBlockchain Veri İstihbaratı sonrasında kuralları gözden geçiriyor. Dikey Arama. Ai.

Meta'nın Gözetim Kurulu, Facebook'un ABD Başkanı Joe Biden'ı sahte bir şekilde sübyancı olarak etiketleyen sahte bir videoyu kaldırmamaya karar vermesinin ardından, sosyal medya devinin derin sahte içerikle ilgili politikalarını araştırıyor.

Sahte video, Biden'ın Amerika'nın 2022 ara seçimleri sırasında torunu Natalie Biden'ın göğsünün üzerine "Oy verdim" çıkartmasını yapıştırdığı görüntülerden uyarlandı.

Bu yılın mayıs ayında paylaşılan yedi saniyelik videoda, arka planda rapçi Pharoahe Monch'un "Simon Says" adlı şarkısının NSFW sözleri çalınırken, sanki Başkan torununa uygunsuz bir şekilde dokunmuş gibi görünecek şekilde üzerinde oynamalar yapıldı ve döngüye alındı. Videodaki bir başlık hatalı bir şekilde Biden'ın "hasta bir sübyancı" olduğunu iddia etti ve seçimde ona oy veren kişilerin "zihinsel açıdan rahatsız" olduğunu iddia etti.

Bir kullanıcının şikayetine rağmen Meta moderatörleri klibi kaldırmadı. Denetim kuruluna göre, raporu hazırlayan Facebook kullanıcısı videonun saklanması kararına itiraz etti.

Meta, geçen ay itibariyle 30'dan az kez izlendiği kabul edilen sahte videoyu bir kez daha kaldırmamaya karar verdi; çünkü bu video yapay zeka kullanılarak oluşturulmamıştı ve orijinal gibi gösterilmemişti ve Biden'ın konuşmasında onu Biden gibi gösterecek herhangi bir manipülasyon da içermiyordu. hiç söylemediği bir şeyi söyledi.

Şikayetçi sonunda konuyu, içerik denetleme politikalarını incelemek üzere Meta tarafından görevlendirilen bağımsız uzmanlardan oluşan bir panel olan denetim kuruluna iletti.

Grup, "Kurul bu vakayı, Meta'nın politikalarının, insanları politikacıların konuşma dışında yapmadıkları eylemlerde bulunduğuna inandıracak şekilde yanıltabilecek değiştirilmiş videoları yeterince kapsayıp kapsamadığını değerlendirmek için seçti" dedi. yazdı yaptığı açıklamada.

"Bu dava, yönetim kurulunun seçimleri ve sivil alan ile politikaların otomatik olarak uygulanması ve içerik önceliklerinin belirlenmesi kapsamına giriyor."

Facebook manipüle medya politikalar, kullanıcıların "derin öğrenme teknikleri (örneğin, teknik deepfake) dahil olmak üzere, içeriği bir videoya birleştiren, birleştiren, değiştiren ve/veya üst üste koyarak görünen bir video oluşturan yapay zeka veya makine öğrenimi kullanılarak oluşturulan sentetik videoları yayınlamaması gerektiğini belirtir. özgün” veya “ortalama bir insanı, videodaki bir kişinin söylemediği sözleri söylediğine inandıracak şekilde yanıltabilecek” içerik.

Söz konusu sahte Biden videosu her iki kuralı da ihlal etmedi ve bu nedenle çevrimiçi kalmasına izin verildi. Makine yapımı değildi ve Başkan'ın ağzından çıkan sözler değildi.

Öyle olsa bile, Meta'nın siyasi yanlış bilgilendirmeyle mücadele etme ve bunları azaltma yönünde belirttiği çabaları, bu tür içeriğin yayılmasına izin verilmesi durumunda zayıflayabilir. Yukarıdaki videonun yayında kalmasına izin verilirse kurallarda bir dengesizlik olabilir, bunun nedeni bir insan tarafından beceriksizce düzenlenmiş olması ve deepfake'lere karşı sıkı bir önlem alınmasıdır. Yapay zeka üzerinde oynanmış videoyu yapsaydı, yayından kaldırılır mıydı? Ama eğer insan yapımıysa, buna gerek yok mu?

Bu nedenle kurul, bu davanın ışığında kamuoyunun aşağıdaki alanlarda yorum ve fikirlerini davet ediyor:

  • Özellikle Amerika Birleşik Devletleri'nde siyasi figürlerin algısını etkilemek için değiştirilmiş veya manipüle edilmiş video içeriği kullanma yönündeki çevrimiçi eğilimleri araştırın.
  • Meta'nın manipüle edilmiş medya da dahil olmak üzere yanlış bilgilendirme politikalarının, özellikle seçimler bağlamında bu alandaki mevcut ve gelecekteki zorluklara yanıt vermeye uygunluğu.
  • Kamuya mal olmuş bir kişi hakkında yanıltıcı bir izlenim yaratacak şekilde değiştirilen video içeriği söz konusu olduğunda Meta'nın insan hakları sorumlulukları ve bunların üretken yapay zekadaki gelişmeler göz önünde bulundurularak nasıl anlaşılması gerektiği.
  • Otomasyon kullanımı da dahil olmak üzere, video içeriğinin geniş ölçekte doğrulanmasıyla ilgili zorluklar ve en iyi uygulamalar.
  • İçerik kaldırmanın ötesinde, siyasi dezenformasyona veya yanlış bilgiye karşı, bilgi doğrulama programları veya etiketleme gibi alternatif yanıtların ("bilgilendirme tedavileri" olarak da bilinir) etkinliğine ilişkin araştırma. Ayrıca bu tür yanıtlarda önyargıdan kaçınmaya yönelik araştırmalar.

Bu girdiyle donanmış olan panelin politikaları gözden geçirmesi ve Meta'ya önerilerde bulunması bekleniyor; ancak bundan pek bir şey gelmeyebilir.

“Kararlarının bir parçası olarak kurul, Meta'ya politika önerileri sunabilir. Tavsiyeler bağlayıcı olmasa da Meta'nın bunlara 60 gün içinde yanıt vermesi gerekiyor" diye kabul etti panel. "Bu nedenle kurul, bu davayla ilgili tavsiyeler sunan kamu yorumlarını memnuniyetle karşılıyor."

Bu arada uzmanlar ve milletvekilleri, yaklaşan 2024 ABD başkanlık seçimleri öncesinde deepfake'lerin siyasi söylemi manipüle etmesinden giderek daha fazla endişe duyuyor.

Geçen hafta, ABD Senatörü Amy Klobuchar (D-MN) ve Temsilciler Meclisi Temsilcisi Yvette Clarke (D-NY), Meta CEO'su Mark Zuckerberg ve X CEO'su Linda Yaccarino'ya, siyasi derin sahtekarlıklarla ilgili içerik politikalarını açıklığa kavuşturmak amacıyla mektuplar gönderdiler.

"2024 seçimleri hızla yaklaşırken, siyasi reklamlardaki bu tür içeriklerle ilgili şeffaflığın olmaması, seçmenlerin adaylar ve sorunlar hakkında bilgi edinmek için sıklıkla başvurduğu platformlarınız arasında seçimle ilgili tehlikeli bir yanlış bilgi ve dezenformasyon seline yol açabilir." belirtilen mektup, AP rapor.

Kayıt Meta'dan yorum istedi. ®

Zaman Damgası:

Den fazla Kayıt