DALL·E 2 . में पूर्वाग्रह कम करना और सुरक्षा में सुधार करना

आज, हम एक नई तकनीक लागू कर रहे हैं ताकि DALL·E ऐसे लोगों की छवियां तैयार करें जो विश्व की जनसंख्या की विविधता को अधिक सटीक रूप से दर्शाती हैं। यह तकनीक सिस्टम स्तर पर लागू होती है जब DALL·E को एक ऐसे व्यक्ति का वर्णन करने के लिए संकेत दिया जाता है जो जाति या लिंग निर्दिष्ट नहीं करता है, जैसे "अग्निशामक।"

हमारे आंतरिक मूल्यांकन के आधार पर, उपयोगकर्ताओं के यह कहने की संभावना 12 गुना अधिक थी कि तकनीक लागू होने के बाद DALL·E छवियों में विविध पृष्ठभूमि के लोग शामिल थे। हम समय के साथ इस तकनीक को बेहतर बनाने की योजना बना रहे हैं क्योंकि हम अधिक डेटा और प्रतिक्रिया एकत्र करते हैं।

अप्रैल में, हमने सीमित संख्या में लोगों के लिए DALL·E 2 शोध का पूर्वावलोकन शुरू किया, जिसने हमें सिस्टम की क्षमताओं और सीमाओं को बेहतर ढंग से समझने और अपनी सुरक्षा प्रणालियों में सुधार करने की अनुमति दी है।

इस पूर्वावलोकन चरण के दौरान, शुरुआती उपयोगकर्ताओं ने संवेदनशील और पक्षपाती छवियों को फ़्लैग किया है, जिन्होंने इस नए शमन को सूचित करने और मूल्यांकन करने में मदद की है।

हम शोध करना जारी रख रहे हैं कि कैसे एआई सिस्टम, जैसे डीएएलएल · ई, अपने प्रशिक्षण डेटा में पूर्वाग्रहों को प्रतिबिंबित कर सकता है और विभिन्न तरीकों से हम उन्हें संबोधित कर सकते हैं।

अनुसंधान पूर्वावलोकन के दौरान हमने अपनी सुरक्षा प्रणालियों को बेहतर बनाने के लिए अन्य कदम उठाए हैं, जिनमें शामिल हैं:

• वास्तविक चेहरों वाले छवि अपलोड को अस्वीकार करके भ्रामक सामग्री बनाने के लिए DALL·E के दुरुपयोग के जोखिम को कम करना और मशहूर हस्तियों और प्रमुख राजनीतिक हस्तियों सहित सार्वजनिक हस्तियों की समानता बनाने का प्रयास करना।
• हमारी सामग्री फ़िल्टर को अधिक सटीक बनाना ताकि वे हमारे उल्लंघन करने वाले संकेतों और छवि अपलोड को अवरुद्ध करने में अधिक प्रभावी हों सामग्री नीति जबकि अभी भी रचनात्मक अभिव्यक्ति की अनुमति है।
• दुरुपयोग से बचाव के लिए स्वचालित और मानव निगरानी प्रणालियों को परिष्कृत करना।

इन सुधारों ने हमें DALL·E का अनुभव करने के लिए और अधिक उपयोगकर्ताओं को आमंत्रित करने की क्षमता में विश्वास हासिल करने में मदद की है।

पहुंच का विस्तार करना हमारा एक महत्वपूर्ण हिस्सा है एआई सिस्टम को जिम्मेदारी से तैनात करना क्योंकि यह हमें वास्तविक दुनिया के उपयोग के बारे में अधिक जानने और हमारी सुरक्षा प्रणालियों पर पुनरावृति जारी रखने की अनुमति देता है।