নতুন-ও-উন্নত বিষয়বস্তু মডারেশন টুলিং

ডেভেলপারদের সম্ভাব্য অপব্যবহারের বিরুদ্ধে তাদের অ্যাপ্লিকেশনগুলিকে সুরক্ষিত করতে সাহায্য করার জন্য, আমরা দ্রুত এবং আরও নির্ভুল প্রবর্তন করছি৷ সংযম শেষ বিন্দু. এই এন্ডপয়েন্ট OpenAI API ডেভেলপারদের বিনামূল্যে অ্যাক্সেস প্রদান করে GPT-ভিত্তিক ক্লাসিফায়ার যা অবাঞ্ছিত বিষয়বস্তু সনাক্ত করে — এর একটি উদাহরণ এআই সিস্টেম ব্যবহার করে এই সিস্টেমের মানুষের তত্ত্বাবধানে সাহায্য করার জন্য। আমরা উভয়ই মুক্তি দিয়েছি প্রযুক্তিগত কাগজ আমাদের পদ্ধতি বর্ণনা এবং ডেটা সেটটি মূল্যায়নের জন্য ব্যবহৃত হয়।

যখন একটি টেক্সট ইনপুট দেওয়া হয়, তখন মডারেশন এন্ডপয়েন্ট মূল্যায়ন করে যে বিষয়বস্তুটি যৌন, ঘৃণ্য, হিংসাত্মক, বা আত্ম-ক্ষতি প্রচার করে - আমাদের দ্বারা নিষিদ্ধ বিষয়বস্তু বিষয়বস্তু নীতি. এন্ডপয়েন্টকে দ্রুত, নির্ভুল এবং বিভিন্ন ধরনের অ্যাপ্লিকেশন জুড়ে দৃঢ়ভাবে পারফর্ম করার জন্য প্রশিক্ষিত করা হয়েছে। গুরুত্বপূর্ণভাবে, এটি পণ্যগুলিকে "কথা বলার" সম্ভাবনাকে কমিয়ে দেয়, এমনকি যখন ব্যবহারকারীদের কাছে স্কেলে মোতায়েন করা হয়। ফলস্বরূপ, এআই শিক্ষার মতো সংবেদনশীল সেটিংসে সুবিধাগুলি আনলক করতে পারে, যেখানে এটি অন্যথায় আত্মবিশ্বাসের সাথে ব্যবহার করা যায় না।

মডারেশন এন্ডপয়েন্ট ডেভেলপারদের আমাদের পরিকাঠামো বিনিয়োগ থেকে উপকৃত হতে সাহায্য করে। তাদের নিজস্ব শ্রেণীবিভাগ তৈরি এবং বজায় রাখার পরিবর্তে - একটি বিস্তৃত প্রক্রিয়া, যেমন আমরা আমাদের নথিভুক্ত করি কাগজ—তারা পরিবর্তে একটি একক API কলের মাধ্যমে সঠিক শ্রেণীবিভাগ অ্যাক্সেস করতে পারে।

OpenAI এর অংশ হিসেবে প্রতিশ্রুতি থেকে এআই ইকোসিস্টেমকে নিরাপদ করা, আমরা সমস্ত OpenAI API-জেনারেট করা বিষয়বস্তুর বিনামূল্যে সংযম করার অনুমতি দেওয়ার জন্য এই এন্ডপয়েন্ট প্রদান করছি। এই ক্ষেত্রে, বিশ্বের, একজন OpenAI API গ্রাহক, তাদের AI-ভিত্তিক ভার্চুয়াল অক্ষরগুলিকে "অন-স্ক্রিপ্টে থাকতে" সাহায্য করতে মডারেশন এন্ডপয়েন্ট ব্যবহার করে। ওপেনএআই-এর প্রযুক্তি ব্যবহার করে, ইনওয়ার্ল্ড তাদের মূল পণ্যের উপর ফোকাস করতে পারে – স্মরণীয় চরিত্র তৈরি করে।

উপরন্তু, আমরা পরিমিত বিষয়বস্তুতে এন্ডপয়েন্ট ব্যবহারকে স্বাগত জানাই না OpenAI API দিয়ে তৈরি। একটি ক্ষেত্রে, কোম্পানি ngl - একটি বেনামী মেসেজিং প্ল্যাটফর্ম, নিরাপত্তার উপর ফোকাস সহ - তাদের অ্যাপ্লিকেশনে ঘৃণ্য ভাষা এবং গুন্ডামি সনাক্ত করতে মডারেশন এন্ডপয়েন্ট ব্যবহার করে। এনজিএল দেখতে পায় যে এই শ্রেণিবিন্যাসকারীরা সাম্প্রতিক স্ল্যাং-এ সাধারণীকরণ করতে সক্ষম, যা তাদেরকে সময়ের সাথে আরও আত্মবিশ্বাসী থাকতে দেয়। নন-এপিআই ট্র্যাফিক নিরীক্ষণ করতে মডারেশন এন্ডপয়েন্টের ব্যবহার ব্যক্তিগত বিটাতে রয়েছে এবং একটি ফি দিতে হবে। আপনি আগ্রহী হলে, এ আমাদের সাথে যোগাযোগ করুন support@openai.com.

চেক আউট করে মডারেশন এন্ডপয়েন্ট দিয়ে শুরু করুন ডকুমেন্টেশন. প্রশিক্ষণ প্রক্রিয়া এবং মডেল কর্মক্ষমতা আরো বিস্তারিত আমাদের পাওয়া যায় কাগজ. আমরা একটি প্রকাশ করেছি মূল্যায়ন ডেটাসেট, এই বিভাগগুলির মধ্যে লেবেলযুক্ত সাধারণ ক্রল ডেটা বৈশিষ্ট্যযুক্ত, যা আমরা আশা করি এই ক্ষেত্রে আরও গবেষণাকে উত্সাহিত করবে৷