DALL·E 2'de Önyargıyı Azaltma ve Güvenliği İyileştirme

Bugün, DALL·E'nin dünya nüfusunun çeşitliliğini daha doğru yansıtan insan görüntülerini oluşturması için yeni bir teknik uyguluyoruz. Bu teknik, DALL·E'ye "itfaiyeci" gibi ırk veya cinsiyet belirtmeyen bir kişiyi tanımlayan bir komut istemi verildiğinde sistem düzeyinde uygulanır.

Dahili değerlendirmemize dayanarak, kullanıcıların, teknik uygulandıktan sonra DALL·E görüntülerinin farklı geçmişlere sahip insanları içerdiğini söyleme olasılıkları 12 kat daha fazlaydı. Daha fazla veri ve geri bildirim topladıkça bu tekniği zaman içinde geliştirmeyi planlıyoruz.

Nisan ayında, sistemin yeteneklerini ve sınırlamalarını daha iyi anlamamıza ve güvenlik sistemlerimizi geliştirmemize olanak sağlayan DALL·E 2 araştırmasını sınırlı sayıda kişiye önizlemeye başladık.

Bu önizleme aşamasında, ilk kullanıcılar bu yeni azaltmayı bilgilendirmeye ve değerlendirmeye yardımcı olan hassas ve önyargılı görüntüleri işaretledi.

DALL·E gibi yapay zeka sistemlerinin eğitim verilerindeki önyargıları nasıl yansıtabileceğini ve bunları ele almanın farklı yollarını araştırmaya devam ediyoruz.

Araştırma önizlemesi sırasında, güvenlik sistemlerimizi iyileştirmek için aşağıdakiler de dahil olmak üzere başka adımlar attık:

• Gerçekçi yüzler içeren resim yüklemelerini reddederek ve ünlüler ve önde gelen siyasi şahsiyetler de dahil olmak üzere kamuya mal olmuş kişilerin benzerliğini oluşturmaya çalışarak, DALL·E'nin aldatıcı içerik oluşturmak için kötüye kullanılma riskini en aza indirmek.
• Kurallarımızı ihlal eden istemleri ve resim yüklemelerini engellemede daha etkili olmaları için içerik filtrelerimizi daha doğru hale getirmek içerik politikası hala yaratıcı ifadeye izin verirken.
• Yanlış kullanıma karşı koruma sağlamak için otomatik ve insan izleme sistemleri geliştiriliyor.

Bu iyileştirmeler, daha fazla kullanıcıyı DALL·E deneyimine davet etme konusunda güven kazanmamıza yardımcı oldu.

Erişimi genişletmek, hayatımızın önemli bir parçasıdır. AI sistemlerini sorumlu bir şekilde dağıtmak çünkü gerçek dünyadaki kullanım hakkında daha fazla bilgi edinmemize ve güvenlik sistemlerimizi yinelemeye devam etmemize olanak tanıyor.