Mengurangi Bias dan Meningkatkan Keamanan di DALL·E 2

Hari ini, kami menerapkan teknik baru sehingga DALL·E menghasilkan gambar orang yang lebih akurat mencerminkan keragaman populasi dunia. Teknik ini diterapkan pada tingkat sistem ketika DALL·E diberikan prompt yang menjelaskan seseorang yang tidak menentukan ras atau jenis kelamin, seperti “petugas pemadam kebakaran.”

Berdasarkan evaluasi internal kami, pengguna 12x lebih mungkin untuk mengatakan bahwa gambar DALL·E menyertakan orang-orang dari berbagai latar belakang setelah teknik tersebut diterapkan. Kami berencana untuk meningkatkan teknik ini dari waktu ke waktu saat kami mengumpulkan lebih banyak data dan umpan balik.

Pada bulan April, kami mulai mempratinjau penelitian DALL·E 2 kepada sejumlah orang terbatas, yang memungkinkan kami untuk lebih memahami kemampuan dan keterbatasan sistem serta meningkatkan sistem keselamatan kami.

Selama fase pratinjau ini, pengguna awal telah menandai gambar sensitif dan bias yang telah membantu menginformasikan dan mengevaluasi mitigasi baru ini.

Kami terus meneliti bagaimana sistem AI, seperti DALL·E, dapat mencerminkan bias dalam data pelatihannya dan berbagai cara kami dapat mengatasinya.

Selama pratinjau penelitian, kami telah mengambil langkah-langkah lain untuk meningkatkan sistem keselamatan kami, termasuk:

• Meminimalkan risiko DALL·E disalahgunakan untuk membuat konten yang menipu dengan menolak unggahan gambar yang berisi wajah realistis dan upaya untuk membuat kemiripan dengan figur publik, termasuk selebritas dan tokoh politik terkemuka.
• Membuat filter konten kami lebih akurat sehingga lebih efektif dalam memblokir perintah dan unggahan gambar yang melanggar kami kebijakan konten sambil tetap memungkinkan ekspresi kreatif.
• Menyempurnakan sistem pemantauan otomatis dan manusia untuk menjaga dari penyalahgunaan.

Peningkatan ini telah membantu kami mendapatkan kepercayaan diri dalam kemampuan untuk mengundang lebih banyak pengguna untuk mengalami DALL·E.

Memperluas akses adalah bagian penting dari kami menerapkan sistem AI secara bertanggung jawab karena memungkinkan kami untuk mempelajari lebih lanjut tentang penggunaan di dunia nyata dan terus melakukan iterasi pada sistem keamanan kami.