ভাষা মডেল স্থাপনের জন্য সর্বোত্তম অনুশীলন

ভাষা মডেল স্থাপনের জন্য যৌথ সুপারিশ

মানুষের ক্ষমতা বাড়ানোর সম্পূর্ণ প্রতিশ্রুতি অর্জনের জন্য আমরা এই প্রযুক্তির ঝুঁকি কমাতে বৃহৎ ভাষা মডেল (LLMs) প্রদানকারীদের সাহায্য করার জন্য বেশ কয়েকটি মূল নীতির সুপারিশ করছি।

যদিও এই নীতিগুলি বিশেষভাবে একটি API এর মাধ্যমে LLM প্রদানের আমাদের অভিজ্ঞতার উপর ভিত্তি করে তৈরি করা হয়েছিল, আমরা আশা করি যে তারা রিলিজ কৌশল নির্বিশেষে কার্যকর হবে (যেমন ওপেন-সোর্সিং বা কোম্পানির মধ্যে ব্যবহার)। আমরা আশা করি যে এই সুপারিশগুলি সময়ের সাথে সাথে উল্লেখযোগ্যভাবে পরিবর্তিত হবে কারণ LLM-এর বাণিজ্যিক ব্যবহার এবং এর সাথে নিরাপত্তা বিবেচনাগুলি নতুন এবং বিকশিত। আমরা সক্রিয়ভাবে LLM সীমাবদ্ধতা এবং অপব্যবহারের উপায়গুলি সম্পর্কে শিখছি এবং মোকাবেলা করছি এবং সময়ের সাথে সাথে বৃহত্তর সম্প্রদায়ের সাথে সহযোগিতায় এই নীতিগুলি এবং অনুশীলনগুলি আপডেট করব৷

আমরা এই নীতিগুলি শেয়ার করছি এই আশায় যে অন্যান্য LLM প্রদানকারীরা সেগুলি থেকে শিখতে পারে এবং গ্রহণ করতে পারে এবং LLM বিকাশ এবং স্থাপনার বিষয়ে জনসাধারণের আলোচনাকে এগিয়ে নিতে পারে৷

অপব্যবহার নিষিদ্ধ করুন

ব্যবহারের নির্দেশিকা এবং ব্যবহারের শর্তাবলী প্রকাশ করুন LLM-এর এমন একটি উপায় যা ব্যক্তি, সম্প্রদায় এবং সমাজের বস্তুগত ক্ষতি যেমন স্প্যাম, জালিয়াতি বা অ্যাস্ট্রোটার্ফিংয়ের মাধ্যমে নিষিদ্ধ করে। ব্যবহারের নির্দেশিকাগুলিতে এমন ডোমেনগুলিও নির্দিষ্ট করা উচিত যেখানে LLM ব্যবহারের জন্য অতিরিক্ত পরীক্ষা-নিরীক্ষার প্রয়োজন হয় এবং উচ্চ-ঝুঁকির ব্যবহার-কেসগুলিকে নিষিদ্ধ করে যা উপযুক্ত নয়, যেমন সুরক্ষিত বৈশিষ্ট্যের ভিত্তিতে লোকেদের শ্রেণীবদ্ধ করা।

ব্যবহারের নির্দেশিকা কার্যকর করার জন্য সিস্টেম এবং অবকাঠামো তৈরি করুন. এর মধ্যে রেট লিমিট, কন্টেন্ট ফিল্টারিং, প্রোডাকশন অ্যাক্সেসের আগে অ্যাপ্লিকেশান অনুমোদন, অস্বাভাবিক কার্যকলাপের জন্য পর্যবেক্ষণ এবং অন্যান্য প্রশমন অন্তর্ভুক্ত থাকতে পারে।

অনিচ্ছাকৃত ক্ষতি প্রশমিত করুন

সক্রিয়ভাবে ক্ষতিকারক মডেল আচরণ প্রশমিত. সর্বোত্তম অনুশীলনগুলির মধ্যে রয়েছে সীমাবদ্ধতাগুলি সঠিকভাবে মূল্যায়ন করার জন্য ব্যাপক মডেল মূল্যায়ন, প্রশিক্ষণ সংস্থায় পক্ষপাতের সম্ভাব্য উত্সগুলি হ্রাস করা, এবং মানুষের প্রতিক্রিয়া থেকে শেখার মাধ্যমে অনিরাপদ আচরণ কমানোর কৌশলগুলি।

পরিচিত দুর্বলতা এবং দুর্বলতা নথি, যেমন পক্ষপাতিত্ব বা অনিরাপদ কোড তৈরি করার ক্ষমতা, যেমন কিছু ক্ষেত্রে প্রতিরোধমূলক পদক্ষেপের কোনো মাত্রাই অনিচ্ছাকৃত ক্ষতির সম্ভাবনাকে সম্পূর্ণরূপে নির্মূল করতে পারে না। ডকুমেন্টেশনে মডেল এবং ব্যবহার-কেস-নির্দিষ্ট নিরাপত্তার সর্বোত্তম অনুশীলন অন্তর্ভুক্ত করা উচিত।

ভেবেচিন্তে স্টেকহোল্ডারদের সাথে সহযোগিতা করুন

বিভিন্ন ব্যাকগ্রাউন্ড সহ দল তৈরি করুন এবং বিস্তৃত ইনপুট অনুরোধ. বাস্তব জগতের বৈচিত্র্যের মধ্যে ভাষার মডেলগুলি কীভাবে কাজ করবে তা চিহ্নিত করতে এবং সম্বোধন করার জন্য বিভিন্ন দৃষ্টিভঙ্গির প্রয়োজন, যেখানে যদি চেক না করা হয় তবে তারা পক্ষপাতকে শক্তিশালী করতে পারে বা কিছু গোষ্ঠীর জন্য কাজ করতে ব্যর্থ হতে পারে।

এলএলএম সুরক্ষা এবং অপব্যবহার সম্পর্কে শেখা পাঠগুলি সর্বজনীনভাবে প্রকাশ করুন সর্বোত্তম অনুশীলনের উপর ক্রস-ইন্ডাস্ট্রি পুনরাবৃত্তির সাথে ব্যাপকভাবে গ্রহণ এবং সাহায্য করার জন্য।

ভাষা মডেল সরবরাহ শৃঙ্খলে সমস্ত শ্রমকে সম্মানের সাথে বিবেচনা করুন. উদাহরণ স্বরূপ, প্রোভাইডারদের কাজের অবস্থার জন্য উচ্চ মান থাকা উচিত যারা ইন-হাউস মডেলের আউটপুট পর্যালোচনা করে এবং বিক্রেতাদেরকে সুনির্দিষ্ট মানদণ্ডে ধরে রাখে (যেমন, নিশ্চিত করা যে লেবেলাররা একটি প্রদত্ত কাজ থেকে অপ্ট আউট করতে সক্ষম হয়)।

LLM প্রদানকারী হিসাবে, এই নীতিগুলি প্রকাশ করা নিরাপদ বৃহৎ ভাষা মডেল উন্নয়ন এবং স্থাপনার সহযোগিতামূলকভাবে নির্দেশনার প্রথম পদক্ষেপের প্রতিনিধিত্ব করে। আমরা ভাষা মডেলের অনিচ্ছাকৃত ক্ষতি কমাতে এবং দূষিত ব্যবহার প্রতিরোধ করার জন্য অন্যান্য সুযোগগুলি চিহ্নিত করতে একে অপরের সাথে এবং অন্যান্য পক্ষের সাথে কাজ চালিয়ে যেতে উত্তেজিত।

PDF হিসাবে ডাউনলোড করুন