नई और बेहतर सामग्री मॉडरेशन टूलिंग

डेवलपर्स को संभावित दुरुपयोग से अपने अनुप्रयोगों की रक्षा करने में मदद करने के लिए, हम तेज़ और अधिक सटीक पेश कर रहे हैं मॉडरेशन समापन बिंदु. यह एंडपॉइंट ओपनएआई एपीआई डेवलपर्स को मुफ्त पहुंच प्रदान करता है जीपीटी-आधारित अवांछित सामग्री का पता लगाने वाले क्लासिफायर - का एक उदाहरण एआई सिस्टम का उपयोग करना इन प्रणालियों के मानव पर्यवेक्षण में सहायता करने के लिए। हमने दोनों को भी जारी कर दिया है तकनीकी कागज हमारी कार्यप्रणाली का वर्णन करना और डाटासेट मूल्यांकन के लिए उपयोग किया जाता है।

जब एक टेक्स्ट इनपुट दिया जाता है, तो मॉडरेशन एंडपॉइंट यह आकलन करता है कि क्या सामग्री यौन, घृणित, हिंसक है, या आत्म-नुकसान को बढ़ावा देती है - हमारे द्वारा निषिद्ध सामग्री सामग्री नीति. समापन बिंदु को त्वरित, सटीक, और अनुप्रयोगों की एक श्रृंखला में मजबूती से प्रदर्शन करने के लिए प्रशिक्षित किया गया है। महत्वपूर्ण रूप से, यह उत्पादों के "गलत" कहने की संभावना को कम करता है, तब भी जब उन्हें बड़े पैमाने पर उपयोगकर्ताओं के लिए तैनात किया जाता है। नतीजतन, एआई शिक्षा जैसी संवेदनशील सेटिंग्स में लाभों को अनलॉक कर सकता है, जहां इसे अन्यथा आत्मविश्वास के साथ उपयोग नहीं किया जा सकता है।

मॉडरेशन एंडपॉइंट डेवलपर्स को हमारे बुनियादी ढांचे के निवेश से लाभ उठाने में मदद करता है। अपने स्वयं के क्लासिफायर बनाने और बनाए रखने के बजाय - एक व्यापक प्रक्रिया, जैसा कि हम अपने में दस्तावेज करते हैं काग़ज़- वे इसके बजाय एक ही एपीआई कॉल के माध्यम से सटीक क्लासिफायर का उपयोग कर सकते हैं।

OpenAI's . के हिस्से के रूप में प्रतिबद्धता सेवा मेरे एआई पारिस्थितिकी तंत्र को सुरक्षित बनाना, हम सभी OpenAI API-जनित सामग्री के मुफ्त मॉडरेशन की अनुमति देने के लिए यह समापन बिंदु प्रदान कर रहे हैं। उदाहरण के लिए, विश्व में, एक ओपनएआई एपीआई ग्राहक, अपने एआई-आधारित आभासी पात्रों को "स्क्रिप्ट पर बने रहने" में मदद करने के लिए मॉडरेशन एंडपॉइंट का उपयोग करता है। ओपनएआई की तकनीक का लाभ उठाकर, इनवर्ल्ड अपने मुख्य उत्पाद पर ध्यान केंद्रित कर सकता है - यादगार पात्रों का निर्माण।

इसके अतिरिक्त, हम सामग्री को मॉडरेट करने के लिए समापन बिंदु के उपयोग का स्वागत करते हैं नहीं ओपनएआई एपीआई के साथ उत्पन्न। एक मामले में, कंपनी एनजीएल - एक गुमनाम मैसेजिंग प्लेटफॉर्म, सुरक्षा पर ध्यान देने के साथ - अपने एप्लिकेशन में घृणित भाषा और बदमाशी का पता लगाने के लिए मॉडरेशन एंडपॉइंट का उपयोग करता है। एनजीएल ने पाया कि ये क्लासिफायर नवीनतम कठबोली को सामान्य बनाने में सक्षम हैं, जिससे वे समय के साथ अधिक आत्मविश्वासी बने रह सकते हैं। गैर-एपीआई ट्रैफ़िक की निगरानी के लिए मॉडरेशन एंडपॉइंट का उपयोग निजी बीटा में है और शुल्क के अधीन होगा। यदि आप रुचि रखते हैं, तो कृपया हमसे संपर्क करें support@openai.com.

चेक आउट करके मॉडरेशन एंडपॉइंट के साथ शुरुआत करें दस्तावेज़ीकरण. प्रशिक्षण प्रक्रिया और मॉडल के प्रदर्शन का अधिक विवरण हमारे . में उपलब्ध है काग़ज़. हमने एक भी जारी किया है मूल्यांकन डाटासेट, इन श्रेणियों में लेबल किए गए सामान्य क्रॉल डेटा की विशेषता है, जो हमें उम्मीद है कि इस क्षेत्र में और शोध को बढ़ावा देगा।