أدوات الإشراف على المحتوى الجديدة والمحسّنة

لمساعدة المطورين على حماية تطبيقاتهم من سوء الاستخدام المحتمل ، نقدم لك الأسرع والأكثر دقة نقطة نهاية الاعتدال. توفر نقطة النهاية هذه لمطوري OpenAI API وصولاً مجانيًا إلى ملفات على أساس GPT المصنفات التي تكتشف المحتوى غير المرغوب فيه - مثال على باستخدام أنظمة الذكاء الاصطناعي للمساعدة في الإشراف البشري على هذه الأنظمة. لقد أصدرنا أيضًا كلاً من ملف ورقة تقنية وصف منهجيتنا و بيانات تستخدم للتقييم.

عند إعطاء إدخال نصي ، تقيِّم نقطة نهاية "الإشراف" ما إذا كان المحتوى جنسيًا أو بغيضًا أو عنيفًا أو يروج لإيذاء الذات - المحتوى الذي يحظره سياسة المحتوى. تم تدريب نقطة النهاية على أن تكون سريعة ودقيقة وذات أداء قوي عبر مجموعة من التطبيقات. الأهم من ذلك ، أن هذا يقلل من فرص "قول" المنتجات شيئًا خاطئًا ، حتى عند نشرها على المستخدمين على نطاق واسع. نتيجة لذلك ، يمكن للذكاء الاصطناعي أن يطلق العنان للمزايا في البيئات الحساسة ، مثل التعليم ، حيث لا يمكن استخدامه بثقة.

تساعد نقطة نهاية الاعتدال المطورين على الاستفادة من استثماراتنا في البنية التحتية. بدلا من بناء وصيانة المصنفات الخاصة بهم - عملية واسعة النطاق ، كما نوثق في لدينا ورقة—يمكنهم بدلاً من ذلك الوصول إلى المصنفات الدقيقة من خلال استدعاء API واحد.

كجزء من OpenAI's التزام إلى جعل النظام البيئي للذكاء الاصطناعي أكثر أمانًا، نحن نقدم نقطة النهاية هذه للسماح بالإشراف المجاني على كل المحتوى الذي تم إنشاؤه بواسطة OpenAI API. على سبيل المثال، في العالم، أحد عملاء OpenAI API ، يستخدم نقطة نهاية الإشراف لمساعدة الشخصيات الافتراضية المستندة إلى الذكاء الاصطناعي على "البقاء على النص". من خلال الاستفادة من تقنية OpenAI ، يمكن لـ Inworld التركيز على منتجها الأساسي - إنشاء شخصيات لا تُنسى.

بالإضافة إلى ذلك ، نرحب باستخدام نقطة النهاية للإشراف على المحتوى ليس تم إنشاؤه باستخدام OpenAI API. في حالة واحدة ، الشركة NGL - منصة مراسلة مجهولة الهوية ، مع التركيز على السلامة - تستخدم نقطة نهاية الاعتدال لاكتشاف لغة الكراهية والتنمر في التطبيق. وجدت NGL أن هذه المصنفات قادرة على التعميم على أحدث لغة عامية ، مما يسمح لها بالبقاء أكثر ثقة بمرور الوقت. يعد استخدام نقطة نهاية الإشراف لمراقبة حركة البيانات غير المرتبطة بواجهة برمجة تطبيقات في إصدار تجريبي خاص وسيخضع لرسوم. إذا كنت مهتمًا ، فيرجى التواصل معنا على support@openai.com.

ابدأ بنقطة نهاية الإشراف عن طريق الدفع وثائق. مزيد من التفاصيل حول عملية التدريب وأداء النموذج متوفرة في موقعنا ورقة. لقد أصدرنا أيضًا ملف مجموعة بيانات التقييم، والتي تعرض بيانات الزحف الشائعة المصنفة ضمن هذه الفئات ، والتي نأمل أن تحفز المزيد من البحث في هذا المجال.