Sosyal Medyada Yapay Zeka Deepfake'leri Nasıl Tespit Edilir?

Sosyal Medyada Yapay Zeka Deepfake'leri Nasıl Tespit Edilir?

Zaman Damgası: 4 Kasım 2023 2:59
Sosyal Medyada Yapay Zeka Deepfake'leri Nasıl Tespit Edilir? PlatoBlockchain Veri Zekası. Dikey Arama. Ai.

Geçen hafta Çin sosyal medya platformu Weibo'da yayınlanan bir videoda Amerikalı pop yıldızı Taylor Swift'in akıcı Mandarin dili konuştuğu görülüyor. Ancak klipteki 33 yaşındaki şarkıcı değildi. Bu, Çinli start-up HeyGen'in bir yapay zeka aracı tarafından oluşturulan deepfake bir videoydu.

Swift'in deepfake'inin ilk olduğu 21 Ekim'den bu yana Paylaşılanvideo altı milyondan fazla görüntüleme aldı. Ancak bu aynı zamanda yapay zeka geliştikçe ortaya çıkan ve gerçek ile sahte kimlik veya içerik arasında ayrım yapmayı zorlaştıran potansiyel tuzaklara ilişkin tartışmayı da tetikledi.

Deepfake'ler (sesi de dahil olmak üzere başka birinin kimliğine bürünmek için kullanılan gerçekçi ancak sahte görseller veya videolar), sahte dijital kimlikler oluşturmak için kullanılabilir ve siber suçlular bunu dolandırıcılık yapmak için kullanabilir. Görüntüler ve videolar tam olarak hedeflenen kişi gibi görünüyor ve konuşuyor.

Örneğin Mayıs ayında Çinli bir işadamı 4.3 milyon yuan kaybetti Bir dolandırıcının, arkadaşının kimliğine bürünmek için yüz değiştiren yapay zekayı kullanmasının ardından [612,000 dolar]. Taylor Swift deepfake'inde herhangi bir para kaybı yaşanmadı ancak sosyal medyada dolandırılmamak için dikkat edilmesi gerekenler şöyle:

AI ünlülerinin onaylarını doğrulayın

Dolandırıcılar, kurbanlarını cezbetmek için genellikle güvenilir kişilerin yapay zeka derin sahtelerini kullanır. Son aylarda, insanları sahte onaylarla kandırmak için sayısız sahte yapay zeka ünlüsü ortaya çıktı. Elon Musk ve Beyonce gibi ikonların sahte versiyonları, sahte markaları tanıtmak amacıyla hedefleniyor.

Görünen o ki, sahte reklamların çoğu Google'daki arama sonuçlarında daha üst sıralarda yer alıyor; bunun nedeni muhtemelen şirketin sahte içeriği filtrelemek için yeterli çabayı göstermemesi.

Ancak yapay zeka tarafından oluşturulan sahte içerik çağında, gerçek olamayacak kadar iyi olan videolara eleştirel bir gözle yaklaşmak çok önemli. Olağanüstü iddialar olağanüstü deliller gerektirir. Sansasyonel görünen viral videolarla karşılaşırsanız, bunların orijinalliğini ve kaynaklarını doğrulamak için zaman ayırın.

Tüketici teknolojisi uzmanı ve radyo sunucusu Kim Komando, "Bir ürün veya hizmet hakkında tavsiye almak istiyorsanız, incelemelere bakın veya bu konuda bilgili ve bunu kanıtlayabilecek bir uzman bulun" diyor.

“Başka bir akıllı adım: Ürünü ve reklamdaki aktörü 'inceleme' kelimesiyle birlikte Google'da arayın. Birisi bir ürünü onaylamak için para alıyorsa, sosyal medyada dolaşan tek bir rastgele reklam kalmaz," diye ekledi bir makalede yayınlanan New York Post tarafından.

Ayrıca okuyun: Taylor Swift, Emma Watson ve Diğerleri Yapay Zeka Pornosu Artışı Olarak Hedef Alınıyor

Ayrıntılara dikkat edin

Deepfake teknolojisi özellikle korkutucu çünkü çok gerçekçi. Yapay zeka araçları gibi Kararlı Difüzyon sesleri ve ağız hareketlerini manipüle ederek insanların bir videonun veya ses kaydının gerçek olduğuna inanmasını kolaylaştırır.

Ghostwriter'ın yapay zeka tarafından oluşturulduğunu hatırlayın Drake ve The Weeknd şarkısı, Bu, müzik yayını hizmetleri de dahil olmak üzere milyonlarca insanı bunun yeni bir sürüm olduğunu düşünerek kandırdı? AI odaklı e-ticaret hızlandırıcı Rice'ın kurucu ortağı ve CEO'su Alex Kim, deepfake'i tespit etmek için şunları öneriyor:

“İzlediğiniz videodaki olağandışı tutarsızlıklara dikkat edin. Deepfake'leri kullanan içerik oluşturucular genellikle zamandan tasarruf etmeye çalışıyorlar, bu nedenle ayrıntılara ince ayar yapmak, zaman ayıracakları bir şey değil" dedi Kim, MetaNews'e.

Kim, "Bu, herhangi bir uyumsuz yüz ifadesinin, doğal olmayan hareketlerin, garip eserlerin, ses uyumsuzluğunun veya dudak senkronizasyonunun muhtemelen derin sahte bir videoda bulunacağı anlamına geliyor" dedi ve ekledi:

"Deepfake'ler en çok gözlerle mücadele ettiğinden gözlere özellikle dikkat edin."

Çinli iş adamının durumu, deepfake teknolojisinin iyiye de kötüye de kullanılabilecek güçlü bir araç olduğunu hatırlatıyor. Düzenleyiciler, OpenAI'nin Kasım ayında viral sohbet robotu ChatGPT'yi piyasaya sürmesinden bu yana yapay zekanın tehlikelerine daha fazla dikkat etmeye başladı ve bu da küresel bir yapay zeka yarışını ateşledi.

Daha önce MetaNews olarak raporUzmanlar, sahte kimlikleri tespit edip kullanımını engelleyebilecek yeni teknolojilerin geliştirilmesini öneriyor. Bu, kullanıcıların çevrimiçi kimliğini doğrulamak için yüz tanıma veya parmak izi taraması gibi biyometrik verilerin kullanımını içerebilir.

İpuçları için arka planı kontrol edin

Bazı uygulamalar kullanılırken filigran Yapay zeka tarafından oluşturulan içeriği tanımlamak diğerlerinde bu kadar açık değildir. Alex Kim'e göre, kullanıcıların AI deepfake materyali hakkında ipuçları bulmak için görsellerin veya videoların arka planını taraması gerekecek. Pirinç.win CEO.

Kim, "Arka plan doğal olmayan bir şekilde hareket ediyorsa veya ışık, ön plandaki gölgelerle eşleşmiyorsa, bu muhtemelen bir deepfake'dir" dedi. "Malzemelerdeki doku veya doku eksikliği gibi detaylar diğer işaretlerdir."

"Özellikle bir insan üzerinde oluyorsa, olmaması gereken yerlerde pikselleşme veya bulanıklık olup olmadığına bakın. Saç çizgileri, kulaklar, burunlar veya yüz özellikleri gibi doğal detayların deepfake'te en azından ikna edici şekilde ortaya çıkarılması zordur."

Çoğunlukla ücretsiz ve kolayca erişilebilen yapay zeka teknolojisi, kötü aktörler tarafından birçok şekilde kullanılıyor. Aralarında Taylor Swift ve Emma Watson'ın da bulunduğu yüksek profilli kadın ünlülerin görüntüleri, deepfake oluşturmak için yapay zeka kullanılarak manipüle edildi pornografik içerik.

ABD'deki Massachusetts Teknoloji Enstitüsü'nün (MIT) yeni bir yapay zeka aracı, derin sahtekarlıkları engellemeyi vaat ediyor. İnsanlar kullanabilir Fotoğraf Koruması "Fotoğraflarını derin sahtekarlıklardan ve kötü düzenlemelerden korumak için küçük, görünmez ince ayarlar yapmak; çevrimiçi güvenlikte umut verici bir altın standart."

Alex Kim, MetaNews'e sosyal medyadaki sahte yapay zeka videolarını tanımlamanın en açık ve yaygın yolunun bu videoların barındırıldığı kanalları dikkate almak olduğunu söyledi.

Kim, "Kanalın son zamanlarda ne kadar paylaşım yaptığına ve içerik oluşturmada büyük artışlar olup olmadığına bakmak isteyeceksiniz" dedi. "Yayınlanan videolarda kötü, düşük kaliteli veya tuhaf görünen büyük bir artış varsa, bu, içerik oluşturucunun deepfake kullandığının oldukça kesin bir işaretidir."

Zaman Damgası:

Den fazla MetaHaberler