DALL·E 3 متاح الآن في ChatGPT Plus وEnterprise

نحن نستخدم نظام أمان متعدد المستويات للحد من قدرة DALL·E 3 على إنشاء صور قد تكون ضارة، بما في ذلك المحتوى العنيف أو محتوى البالغين أو المحتوى الذي يحض على الكراهية. يتم إجراء فحوصات الأمان عبر مطالبات المستخدم والصور الناتجة قبل ظهورها للمستخدمين. لقد عملنا أيضًا مع المستخدمين الأوائل والفرق الحمراء الخبراء لتحديد ومعالجة الثغرات في تغطية أنظمة السلامة لدينا والتي ظهرت مع إمكانات نموذجية جديدة. على سبيل المثال، ساعدتنا التعليقات في تحديد الحالات المتطورة لإنشاء محتوى رسومي، مثل الصور الجنسية، واختبار الإجهاد لقدرة النموذج على إنشاء صور مضللة بشكل مقنع. 

كجزء من العمل الذي تم إنجازه لإعداد DALL·E 3 للنشر، اتخذنا أيضًا خطوات للحد من احتمالية إنشاء النموذج لمحتوى بأسلوب الفنانين الأحياء، وصور الشخصيات العامة، ولتحسين التمثيل الديموغرافي عبر الصور التي تم إنشاؤها. لقراءة المزيد حول العمل المنجز لإعداد DALL·E 3 للنشر على نطاق واسع، راجع DALL·E 3 بطاقة النظام.

ستساعدنا تعليقات المستخدمين في التأكد من استمرارنا في التحسين. يمكن لمستخدمي ChatGPT مشاركة التعليقات مع فريق البحث لدينا باستخدام رمز العلم لإبلاغنا بالمخرجات غير الآمنة أو المخرجات التي لا تعكس بدقة المطالبة التي قدمتها إلى ChatGPT. يعد الاستماع إلى مجتمع متنوع وواسع من المستخدمين والحصول على فهم حقيقي للعالم أمرًا بالغ الأهمية لتطوير ونشر الذكاء الاصطناعي بشكل مسؤول وهو أمر أساسي لمهمتنا.

نحن نبحث ونقيم إصدارًا أوليًا لمصنف المصدر — وهي أداة داخلية جديدة يمكن أن تساعدنا في تحديد ما إذا كانت الصورة قد تم إنشاؤها بواسطة DALL·E 3 أم لا. في التقييمات الداخلية المبكرة، كانت الدقة أكثر من 99% في تحديد ما إذا كانت الصورة قد تم إنشاؤها أم لا. تم إنشاء صورة بواسطة DALL·E عندما لم يتم تعديل الصورة. وتظل دقيقة بنسبة تزيد عن 95% عندما تخضع الصورة لأنواع شائعة من التعديلات، مثل الاقتصاص أو تغيير الحجم أو ضغط JPEG أو عندما يتم تركيب نص أو قصاصات من صور حقيقية على أجزاء صغيرة من الصورة التي تم إنشاؤها. على الرغم من هذه النتائج القوية في الاختبار الداخلي، لا يمكن للمصنف إلا أن يخبرنا أنه من المحتمل أن تكون الصورة قد تم إنشاؤها بواسطة DALL·E، ولا يمكننا حتى الآن من التوصل إلى استنتاجات نهائية. قد يصبح مُصنف المصدر هذا جزءًا من مجموعة من التقنيات لمساعدة الأشخاص على فهم ما إذا كان المحتوى الصوتي أو المرئي تم إنشاؤه بواسطة الذكاء الاصطناعي. إنه تحدٍ سيتطلب التعاون عبر سلسلة قيمة الذكاء الاصطناعي، بما في ذلك مع المنصات التي توزع المحتوى على المستخدمين. ونتوقع أن نتعلم الكثير عن كيفية عمل هذه الأداة وأين يمكن أن تكون مفيدة للغاية، وأن نحسن نهجنا بمرور الوقت.