Yapay Zeka Deepfake'leri İşletmeler İçin de Tehdit Oluşturuyor - İşte Nedeni - Şifre Çözme

Yapay Zeka Deepfake'leri İşletmeler İçin de Tehdit Oluşturuyor - İşte Nedeni - Şifre Çözme

Zaman Damgası: 25 Ağustos 2023 3:50
AI Deepfake'leri İşletmeler İçin de Tehdit Oluşturuyor - İşte Nedeni - PlatoBlockchain Veri Zekasının Şifresini Çözün. Dikey Arama. Ai.

Teknoloji devleri, yapay zekayı kitlelere ulaştırmak ve gelişen pazara sahip olmak için rekabet ederken, yapay zeka silahlanma yarışı, "derin sahte" video ve ses içeriklerinde (çoğunlukla ikna edici derecede meşru görünen veya kulağa meşru gelen ancak aslında sahtekarlık niteliğindeki bir yanlış beyan olan) içeriğin artışını körüklüyor. Yeni bir rapora göre bunlar işletmeleri de etkiliyor.

Deepfake'ler, insanları kandırmak için manipüle edilen görüntüler, videolar ve ses gibi yapay zeka tarafından oluşturulan yaratımlardır. Dolandırıcılar deepfake'leri dolandırıcılık için kullanıyor gaspveya itibarına zarar vermek. Yaygınlaşması üretken yapay zeka araçlar, dolandırıcıların sahte içerik oluşturmasını her zamankinden daha kolay hale getirdi.

Ünlüler ve diğer kamuoyuna mal olmuş kişiler, bazen viral hale gelebilecek veya sosyal medyada paniğe yol açabilecek şekillerde, rızaları olmadan yapay ve bazen müstehcen görüntülere dahil ediliyor. Kendisine sunulan bir raporda azalmak, küresel muhasebe firması KPMG iş sektörünün de deepfake tehdidine karşı bağışık olmadığını yazdı.

KPMG, Deepfake içeriğinin sosyal mühendislik saldırılarında ve şirketleri hedef alan diğer siber saldırı türlerinde kullanılabileceğini, aynı zamanda bu tür içeriklerin işletmelerin ve liderlerinin itibarını da etkileyebileceğini yazdı. Şirket temsilcilerinin sahte beyanları, müşterileri dolandırmak veya çalışanları yasa dışı aktörlere bilgi sağlamaya veya para aktarmaya ikna etmek için de kullanılabilir.

KPMG 2020 örneğini gösterdi Hong Kong'lu bir şirket şube yöneticisinin, patronunun telefonda olduğuna inanıp kendisine bunu yapmasını emretmesi üzerine kandırılarak 35 milyon dolar değerindeki şirket fonunu dolandırıcılara transfer etmesiyle ilgili olay. Bunun yerine, yöneticinin sesinin yapay zeka tarafından klonlanmış bir kopyasıydı; hepsi de firmadan para dolandırmaya yönelik ayrıntılı bir planın parçasıydı.

"Sentetik içeriği (kötü amaçlarla oluşturulan veya manipüle edilen dijital içerik) kullanan siber saldırıların sonuçları çok büyük, maliyetli olabilir ve diğerlerinin yanı sıra finansal, itibar, hizmet ve jeopolitik dahil olmak üzere çeşitli sosyoekonomik etkilere sahip olabilir." raporda şunlar yazıyor.

Donald Trump'ın Deepfake görüntüleri tutuklandı senenin başlarında, Franciscus Balenciaga'nın lüks kıyafetlerini giyiyor ve Elon Musk Gelişen yapay zeka araçları sayesinde deepfake teknolojisi geliştikçe, kripto dolandırıcılıklarını teşvik etmek geçen yıl viral hale geldi.

KPMG, "İster ucuz sahte olsun ister derin sahte olsun, üretken yapay zeka modelleri nedeniyle ekonomik model önemli ölçüde değişti" diye yazdı.

Yukarıda bahsedilen tanınmış kişilerin ötesinde, benzerleri çalınan ve sahte görüntülere uygulanan tanınmış ünlüler arasında aktris Emma Watson ve müzisyen Taylor Swift de yer alıyor. Ancak KPMG'nin alarma geçirdiği şey, işletmeler ve onların bazen öne çıkan liderleri üzerindeki potansiyel etkisidir.

KPMG, "Bir risk faktörü olarak derin sahte içerik yalnızca sosyal medya, arkadaşlık siteleri ve eğlence endüstrisi için bir endişe kaynağı değil, artık bir toplantı odası sorunudur" dedi. "Örneğin, KPMG'nin çeşitli sektörlerden ve coğrafyalardan 92 yöneticiyle yaptığı yakın tarihli üretken yapay zeka anketine katılanların neredeyse tamamı (%300), üretken yapay zekayı uygulamanın riskleri hakkındaki endişelerinin orta ila yüksek derecede önemli olduğunu söylüyor."

İnternetteki deepfake videoların hem kalitesi hem de sayısındaki artışla uğraşanlar yalnızca işletmeler ve ünlüler değil. Hükümetler ve düzenleyiciler aynı zamanda toplum ve seçimler üzerindeki potansiyel etkiyi de hesaba katarken, bu tür yapay zeka araçlarının yaratıcıları da bunların potansiyel olumsuz etkilerini değerlendiriyor.

Geçtiğimiz hafta, ABD Federal Seçim Komisyonu, 2024 seçimlerinde deepfake kullanımını öngörerek bir adım attı. dilekçe kampanya reklamlarında yapay zeka kullanımının yasaklanması.

Onaylanması halinde ajans, "kampanya otoritesinin" sahtekarlıkla yanlış beyanına ilişkin mevcut düzenlemeleri değiştirecek ve yasağın kasıtlı olarak aldatıcı AI kampanya reklamları için geçerli olduğunu açıklığa kavuşturacak.

KPMG Siber Güvenlik Hizmetleri Müdürü Matthew Miller, "Düzenleyiciler, gelişen tehditlerin mevcut düzenlemeler üzerindeki etkisini anlamaya ve değerlendirmeye devam etmeli" dedi. azalmak. "Yapay zeka tarafından oluşturulan içeriğin etiketlenmesi ve filigranlanması için önerilen gereksinimler olumlu bir etkiye sahip olabilir."

Temmuz ayında MIT'deki araştırmacılar önerilen Deepfake riskini azaltmak için büyük yayılma modellerine kod değişiklikleri eklemek, görülmesi zor olan ancak sonuçta modellerin çalışma şeklini değiştiren küçük değişiklikler ekleyerek gerçek gibi görünmeyen görüntüler oluşturmalarına neden olmak. Bu arada Meta, yakın zamanda bir yapay zeka aracını geri tuttu Deepfake potansiyeli nedeniyle.

Üretken yapay zeka araçlarının yaratıcı potansiyeline ilişkin heyecan, bunların benzer şekilde kötü amaçlı içerik için fırsatlar yaratabileceğinin anlaşılmasıyla azaldı. Sonuç olarak, bu tür araçlardaki hızlı gelişmelerin ortasında Miller, herkesi sahte içerik potansiyeli konusunda dikkatli olmaya çağırdı.

"Halkın dijital kanallar aracılığıyla etkileşimde bulunurken sürekli tetikte olması gerekiyor" dedi. Azalmak. “Durumsal farkındalık ve sağduyu, bir olayın meydana gelmesini önlemede büyük rol oynuyor. Bir şey 'doğru gelmiyorsa' bunun kötü niyetli bir faaliyet olma olasılığı yüksektir."

Kripto haberlerinden haberdar olun, gelen kutunuzda günlük güncellemeler alın.

Zaman Damgası:

Den fazla azalmak