Gerçek ile Yapay Zeka Yaratımı Arasındaki Çizgi Göz İçin Çok İnce

Araştırmacılar, üretken yapay zeka geliştiricilerinin modellerini en üst düzeye çıkaracak şekilde ince ayarlar yapmaya devam ettikçe, gerçek görüntüler ile yapay zeka yaratımları arasında ayrım yapmanın da giderek zorlaştığını ortaya koyuyor.

Araştırmacıların yaptığı bir araştırma Waterloo Üniversitesi İnsanların gerçek bir kişinin ve yapay zeka tarafından oluşturulan bir kişinin resmini bulmakta zorlandıkları tespit edildi.

Beklenen eşiğin altında

Çalışmayı yürütürken Waterloo Üniversitesi'ndeki araştırmacılar 20 katılımcıya 260 adet etiketsiz fotoğraf sağladı. Resimlerin yarısı Google Görseller'den alınan gerçek kişilere aitken, diğer yarısı Dall-E ve gibi araçlar kullanılarak oluşturulan yapay zekaydı. Kararlı Difüzyon.

Daha sonra katılımcılardan, yanıtlarını gerekçelendirecek şekilde, görüntülerin gerçek mi yoksa yapay zeka tarafından mı oluşturulduğunu etiketlemeleri istendi.

Katılımcıların %61'i gerçek görüntüler ile yapay zeka tarafından oluşturulan görüntüler arasındaki farkı anlayabilse de bu yine de beklenen %85 eşiğinin çok altındaydı.

Katılımcılar görüntüleri incelerken gözler, parmaklar, dişler gibi ayrıntılara ve yapay zeka ararken görüntüleri oluşturan göstergelerin diğer göstergelerine dikkat ettiler, ancak "değerlendirmeleri her zaman doğru değildi."

“İnsanlar ayrım yapma konusunda sandıkları kadar usta değiller” şuraya araştırmanın başyazarı Andrea Pocol, aynı zamanda üniversitede bilgisayar bilimleri alanında doktora adayıdır.

İnternet kullanıcıları görüntülere geçerken bakabilirken Waterloo araştırmacıları, katılımcıların görüntüleri analiz etmek için zaman ayırmalarına izin verdiklerini söyledi.

Pocol, "Kıyamete doğru giden ya da zamanı olmayan insanlar bu ipuçlarını fark etmeyecekler" dedi.

Ayrıca okuyun: Leonardo CEO'su Davos'ta Yapay Zeka Tehditleri Karşısındaki Kullanıcı Aptallığını Vurguladı

Teknolojiyi kötüye kullanmak

Onların ders çalışmaAdvances in Computer Graphics dergisinde yer alan "Görmek Artık İnanmak Değil: Derin Sahtelerin, Yapay Zeka Tarafından Üretilen İnsanların ve Diğer Doğrulanmamış Medyanın Durumu Üzerine Bir Araştırma" başlıklı araştırma, aynı zamanda üretken yapay zeka teknolojisindeki ilerlemelerle ilişkili riskleri de vurguluyor .

Araştırmacılar ayrıca üretken yapay zeka teknolojisinin hızla değişme ve her geçen gün daha da karmaşıklaşma hızına da endişeyle dikkat çekti. Akademik araştırma ve mevzuat, üretim endüstrisindeki gelişmelere ayak uyduramıyor.

Pocol, yapay zeka görüntülerinin giderek daha gerçekçi hale geldiğini ve bu durumun bazı kişilerin gerçek görüntüler ile yapay zeka tarafından oluşturulan görüntüler arasında kolayca ayrım yapmasını zorlaştırdığını söyledi. Pocol, bunun, kötülük yaymak, dezenformasyonu sürdürmek veya insanları kandırmak için teknolojiden yararlanan kötü aktörler için verimli bir zemin oluşturduğunu söyledi.

Pocol, "Dezenformasyon yeni değil, ancak dezenformasyon araçları sürekli değişiyor ve gelişiyor" dedi.

"İnsanlar, ne kadar eğitimli olurlarsa olsunlar, gerçek görselleri sahte olanlardan ayırma konusunda hâlâ zorluk çekecekleri bir noktaya gelebilirler. Bu yüzden bunu tespit edip karşı koyacak araçlar geliştirmemiz gerekiyor. Yeni bir yapay zeka silahlanma yarışına benziyor.”

Araştırmacılar ayrıca teknolojinin özellikle derin sahtekarlıkların yayılması konusunda ortaya çıkardığı zorlukları da kabul etti.

Teknoloji yanlış ellerde

Sıradan insanların gerçek ve sahte görselleri ayırt etmede yaşadığı zorluklar nedeniyle, deepfake'lerin yayılmasında artış olacağı yönünde korkular artıyor. Uzmanlar, kötü aktörlerin seçmenleri yanıltma girişimlerinde seçim yalanlarını yaymak için üretken yapay zeka teknolojisinden yararlanacağı konusunda uyardı.

The Dijital Nefretle Mücadele Merkezi Çevrimiçi nefret söylemini izleyen kar amacı gütmeyen bir kuruluş olan (CCDH) halihazırda uyardı AI destekli görüntü oluşturucuların 2024 seçimleriyle ilgili yanlış bilgileri daha da kötüleştirdiğini bildiren raporlarında.

CCDH araştırmacıları raporlarında, "Yapay zeka tarafından oluşturulan bu tür görüntülerin 'fotoğraf kanıtı' olarak hizmet etme potansiyeli, yanlış iddiaların yayılmasını artırabilir ve seçimlerin bütünlüğünün korunmasında önemli bir zorluk oluşturabilir" dedi.

Ancak bu, yaklaşık 20 büyük teknoloji şirketinin de dahil olduğu bir duyurunun ortasında geldi. OpenAI, Microsoft ve Stabilite Yapay Zekası anlaşma imzaladı AI yanıltıcı içeriğinin "bu yıl küresel olarak gerçekleşen seçimlere müdahale etmesini" önlemek için birlikte çalışmak.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/