أفضل الممارسات لنشر نماذج اللغة

توصية مشتركة لنشر نموذج اللغة

نوصي بالعديد من المبادئ الأساسية لمساعدة مزودي نماذج اللغات الكبيرة (LLM) على التخفيف من مخاطر هذه التكنولوجيا من أجل تحقيق وعدها الكامل بزيادة القدرات البشرية.

بينما تم تطوير هذه المبادئ على وجه التحديد بناءً على خبرتنا في توفير LLM من خلال واجهة برمجة التطبيقات ، نأمل أن تكون مفيدة بغض النظر عن استراتيجية الإصدار (مثل المصادر المفتوحة أو الاستخدام داخل الشركة). نتوقع أن تتغير هذه التوصيات بشكل كبير بمرور الوقت لأن الاستخدامات التجارية لـ LLM واعتبارات السلامة المصاحبة جديدة ومتطورة. نحن نتعلم بنشاط ونتعامل مع قيود LLM وسبل سوء الاستخدام ، وسنقوم بتحديث هذه المبادئ والممارسات بالتعاون مع المجتمع الأوسع بمرور الوقت.

نحن نشارك هذه المبادئ على أمل أن يتعلم مقدمو LLM الآخرون منها ويتبنوها ، ولتعزيز المناقشة العامة حول تطوير ونشر LLM.

يحظر سوء الاستخدام

نشر إرشادات الاستخدام وشروط الاستخدام LLMs بطريقة تحظر الضرر المادي للأفراد والمجتمعات والمجتمع مثل البريد العشوائي أو الاحتيال أو التسويق الماكر. يجب أن تحدد إرشادات الاستخدام أيضًا المجالات التي يتطلب فيها استخدام LLM تدقيقًا إضافيًا وتحظر حالات الاستخدام عالية الخطورة غير المناسبة ، مثل تصنيف الأشخاص بناءً على الخصائص المحمية.

بناء الأنظمة والبنية التحتية لفرض إرشادات الاستخدام. قد يشمل ذلك حدود المعدل ، وتصفية المحتوى ، والموافقة على التطبيق قبل الوصول إلى الإنتاج ، ومراقبة النشاط الشاذ ، وعمليات التخفيف الأخرى.

التخفيف من الضرر غير المقصود

استباقي التخفيف من سلوك النموذج الضار. تشمل أفضل الممارسات تقييمًا نموذجيًا شاملاً لتقييم القيود بشكل صحيح ، وتقليل المصادر المحتملة للتحيز في هيئة التدريب ، وتقنيات لتقليل السلوك غير الآمن مثل من خلال التعلم من ردود الفعل البشرية.

توثيق نقاط الضعف والضعف المعروفة، مثل التحيز أو القدرة على إنتاج رمز غير آمن ، لأنه في بعض الحالات لا يمكن لأي درجة من الإجراءات الوقائية أن تقضي تمامًا على احتمال حدوث ضرر غير مقصود. يجب أن تتضمن التوثيق أيضًا أفضل ممارسات السلامة النموذجية وحالة الاستخدام الخاصة.

نتعاون بشكل مدروس مع أصحاب المصلحة

كوِّن فرقًا ذات خلفيات متنوعة ويطلب مدخلات واسعة. هناك حاجة إلى وجهات نظر متنوعة لتوصيف ومعالجة كيفية عمل النماذج اللغوية في تنوع العالم الحقيقي ، حيث إذا لم يتم التحقق منها فقد تعزز التحيزات أو تفشل في العمل مع بعض المجموعات.

الكشف علنًا عن الدروس المستفادة فيما يتعلق بسلامة LLM وسوء الاستخدام من أجل تمكين التبني على نطاق واسع والمساعدة في التكرار عبر الصناعة على أفضل الممارسات.

تعامل مع كل العمالة في سلسلة توريد نموذج اللغة باحترام. على سبيل المثال ، يجب أن يكون لدى مقدمي الخدمة معايير عالية لظروف عمل أولئك الذين يقومون بمراجعة مخرجات النموذج داخليًا وإلزام البائعين بمعايير محددة جيدًا (على سبيل المثال ، ضمان قدرة واضعي الملصقات على الانسحاب من مهمة معينة).

بصفتنا موفري LLM ، يمثل نشر هذه المبادئ خطوة أولى في التوجيه التعاوني لتطوير ونشر نموذج لغة كبيرة أكثر أمانًا. نحن متحمسون لمواصلة العمل مع بعضنا البعض ومع الأطراف الأخرى لتحديد الفرص الأخرى لتقليل الأضرار غير المقصودة ومنع الاستخدام الضار لنماذج اللغة.

تحميل ك PDF