Haydi Bir Oyun Oynayalım: Deepfake Haber Sunucusu mu yoksa Gerçek Bir Kişi mi?

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

Çin hükümeti yanlısı propaganda yapan yapay zeka tarafından oluşturulan haber spikerlerinin yer aldığı çevrimiçi Deepfake videoları, muhtemelen Spamouflage adlı üretken bir dezenformasyon ekibinin yaratımlarıdır.

Sosyal medya analiz firmasının araştırmacıları, bir raporda Spamouflage derin sahtekarlıklarını ayrıntılandırarak, "Graphika'nın operasyonlarında yapay zeka tarafından oluşturulan hayali kişilerin video görüntülerini kullanan devlet bağlantılı IO [etki operasyonu] aktörlerini ilk kez gözlemlediğini" temsil ediyor [PDF] Bu hafta.

Videolar, her ikisi de Wolf News adlı bir medya şirketi için habercilik yaptığını iddia eden bir erkek ve kadın yayıncıyı gösteriyor. Birinde, haber spikeri Amerika'yı silahlı şiddeti durdurmadaki başarısızlıklarından dolayı kınıyor. Diğeri, küresel ekonomik toparlanma çabalarında Çin-ABD işbirliğine duyulan ihtiyacı vurguluyor.

Graphika, "İlk bakışta, Wolf News sunucuları gerçek insanlar gibi görünüyor," dedi. "İlk hipotezimiz, videolarda yer almaları için işe alınan ücretli aktörler olduklarıydı."

Graphika ve diğer araştırmacılar Zalimleri Dragonbridge olarak izleyen ve daha önceki dezenformasyon kampanyalarında kamera önünde gerçek insanları kullandıklarını belgeleyen Google da dahil.

Mürettebatın diğer etki operasyonlarından bazıları, karışmak 2022 Amerikan ara seçimlerinde ve trolling nadir toprak madenciliği şirketlerinin binlerce sahte sosyal medya hesabını kullanarak Pentagon'un sert bir şekilde parmağını sallamasına neden oldu.

Graphika araştırmacıları, "Ancak daha fazla araştırma, Wolf News sunucularının neredeyse kesinlikle Synthesia adlı bir İngiliz AI video şirketi tarafından sağlanan teknoloji kullanılarak yaratıldığını ortaya çıkardı" dedi.

Ters görüntü aramaları, Spamouflage Wolf News yayınında görünen aynı erkek ve kadın "haber spikerlerini" gösteren bir ton ilgisiz videoyu ortaya çıkardı. AI tarafından üretilen insanlar bu videolarda Arapça, Rumence, İspanyolca ve İngilizce dahil olmak üzere birçok dilde konuşurlar. bunu nakliye komisyonculuğu hizmetlerini teşvik etmek.

İçinde erkek spiker, “Merhaba, benim adım Bay Cruise. Ve ben bir avatarım.”

Seyir bunlardan biridir Synthesia'nın “100+” avatarıve adının Jason olduğu ortaya çıktı. Wolf News videolarındaki kadın spiker Anna'dır.

Synthesia'nın etik sayfası "[kendi] yazılımını halkın kullanımına sunmayacağını" söylüyor. Tüm içerik, güvenilir müşterilerimize yayınlanmadan önce açık bir dahili tarama sürecinden geçecek."

Ayrıca, avatar SSS sayfası avatarların söyleyebileceklerinin ve söyleyemeyeceklerinin sınırları olduğunu söylüyor: "Siyasi, cinsel, kişisel, suç teşkil eden ve ayrımcı içeriğe müsamaha gösterilmez veya onaylanmaz."

Spamouflage'ın sahte haberleri her iki politikayı da ihlal eder. Yorum için Synthesia'ya ulaşılamadı. Synthesia'nın kurucu ortağı ve CEO'su Victor Riparbelli, söyledi New York Times bu haftanın başlarında Spamouflage, videolarını yapmak için teknolojiyi kullanarak Synthesia'nın hizmet şartlarını çiğnedi.

Yani Spamouflage bir şekilde Synthesia'nın teknolojisini ele geçirdi ve Synthesia'nın kurallarına aykırı olarak içeriğini üretmek için kullandı. Synthesia'nın yanlış yaptığına dair bir öneri yok.

Süre devlet kurumları ve güvenlik araştırmacıları Graphika'ya göre, ikisi de çok uzak olmayan bir gelecekte siyasi nüfuz operasyonlarında kullanılan derin sahtekarlıklarla ilgili alarm verdi, şimdiye kadar yapay zeka tarafından üretilen medya büyük ölçüde sahte yüzlerle sınırlıydı - tamamen sahte insanlarla değil.

Bununla birlikte, avatar kullanımına rağmen, Spamouflage videolarının geri kalanı "düşük kaliteli siyasi spam" gibi görünüyor, araştırmacılar yazdı ve yankılandı. Google'ın değerlendirmesi yüzde 83'ü 100'den az izlenen mürettebatın YouTube videolarının yüzdesi.

Rapor ayrıca, haber programlarının derin sahte unsurunun şirket içi yetenek yerine "neredeyse kesinlikle ticari bir hizmet kullanılarak oluşturulduğu" sonucuna vardı. Bu, Spamouflage ve diğerlerinin son derece karmaşık derin sahtekarlıkları kaldıracak teknik uzmanlığa sahip olmadığını ve mevcut ticari araçları kullanmaya devam edeceklerini gösteriyor.

Ancak Graphika'nın da belirttiği gibi, "bu aynı zamanda bu ürün ve hizmetlerin kullanımının etkili bir şekilde nasıl kontrol altına alınacağı konusunda soruları da gündeme getiriyor." ®