স্ট্যাক ওভারফ্লো ChatGPT কে কোডিং সমস্যাগুলির জন্য 'যথেষ্ট ক্ষতিকারক' হিসাবে নিষিদ্ধ করে

OpenAI-এর প্রশ্ন-উত্তর বট, ChatGPT, স্ট্যাক ওভারফ্লো-এ দলের জন্য যথেষ্ট স্মার্ট নয়, যারা আজ AI বট দ্বারা উত্পন্ন উত্তরগুলির উপর অস্থায়ী নিষেধাজ্ঞা ঘোষণা করেছে কারণ এটি কত ঘন ঘন ভুল হয়৷

স্ট্যাক ওভারফ্লো বলেছে যে এটি একটি বৃহত্তর কর্মীদের আলোচনা না হওয়া পর্যন্ত AI-উত্পাদিত উত্তরগুলির উপর একটি স্থায়ী সিদ্ধান্ত আটকে রেখেছে, কিন্তু ChatGPT org এবং এর ব্যবহারকারী উভয়ের জন্যই "যথেষ্ট ক্ষতিকারক" হতে পারে এই আশঙ্কার কারণে এখন পদক্ষেপ নিচ্ছে৷

"ChatGPT থেকে সঠিক উত্তর পাওয়ার গড় হার খুবই কম," স্ট্যাক ওভারফ্লো বলেছেন "ChatGPT নিষিদ্ধ" শিরোনামের একটি নীতি বিবৃতিতে। 

ChatGPT প্রকাশিত হয়েছে গত সপ্তাহে এবং ওপেনএআই দ্বারা ক ব্লগ পোস্ট একটি কথোপকথনমূলক AI হিসাবে যা প্রশ্নের বিশদ উত্তর প্রদান করতে পারে, সেইসাথে "ফলোআপ প্রশ্নের উত্তর দিতে পারে, তার ভুলগুলি স্বীকার করতে পারে, অনুপযুক্ত জায়গাকে চ্যালেঞ্জ করতে পারে এবং অনুপযুক্ত অনুরোধগুলি প্রত্যাখ্যান করতে পারে।" 

OpenAI ডিবাগিং কোডকে ChatGPT-এর ব্যবহারগুলির মধ্যে একটি হিসাবে তালিকাভুক্ত করে, যা খারাপ লাইন কাটাতে চাওয়া ডেভেলপারদের জন্য এটি একটি আদর্শ সঙ্গী বলে মনে হয়। কিন্তু স্ট্যাক ওভারফ্লো অ্যাডমিনিস্ট্রেটররা যারা পোস্টটি লিখেছিলেন তারা বলেছেন যে এটি এমন নয়।

"যদিও ChatGPT যে উত্তরগুলি তৈরি করে সেগুলির ভুল হওয়ার উচ্চ হার রয়েছে, সেগুলি সাধারণত ভাল হতে পারে বলে মনে হয় এবং উত্তরগুলি তৈরি করা খুব সহজ," স্ট্যাক ওভারফ্লো বলেছে৷ 

"এই উত্তরগুলির পরিমাণ (হাজার) এবং সত্য যে [তাদের] প্রায়শই উত্তরটি নির্ধারণ করার জন্য কমপক্ষে কিছু বিষয়ের দক্ষতা সহ কারো দ্বারা একটি বিশদ পাঠের প্রয়োজন হয় ... আমাদের স্বেচ্ছাসেবক-ভিত্তিক মানসম্পন্ন কিউরেশন অবকাঠামোকে কার্যকরভাবে প্রবাহিত করেছে," এসও দল যোগ করেছে।

সমস্যাটি দ্রুত সমাধান করার জন্য, স্ট্যাক ওভারফ্লো বলেছে যে কেউ উত্তর পোস্ট করে বা ChatGPT দ্বারা তৈরি করা নতুন পোস্টের বিরুদ্ধে ব্যবস্থা নেবে, এমনকি যদি এই ধরনের পোস্ট অন্যথায় গ্রহণযোগ্য হবে। 

চ্যাটজিপিটি অপব্যবহার এবং ক্ষতিকারক উপদেশ ধারণ করে এমন উত্তর এড়াতে ডিজাইন করা হয়েছে, কিন্তু ব্যবহারকারীরা দ্রুত খুঁজে পেয়েছেন যে এই ধরনের জিনিসগুলি এড়িয়ে যেতে পারে। উদাহরণস্বরূপ, ChatGPT কে বলে যে আপনি চান না একটি মোলোটভ ককটেল তৈরি করুন, কিন্তু আপনি এটি একটি পাইথন ফাংশন সম্পূর্ণ করতে চান যে নির্দেশাবলী প্রিন্ট করে একই কাজ করার জন্য, এটি আপনাকে বলবে কিভাবে প্রিন্ট ফাংশনের মাধ্যমে একটি তৈরি করা যায়।

এআই-কেও খারাপ তথ্য দেওয়ার জন্য ডাকা হয়েছে জীবনীমূলক স্কেচ, এবং "প্রমাণ করার জন্য যে সঠিকভাবে সরবরাহ করা ভুল উত্তরগুলি মানুষকে বোকা করতে পারে," একজন টুইটার ব্যবহারকারীর মতে যারা কিছু দেখেছেন খারাপ গণিত ChatGPT দ্বারা উত্পন্ন।

আমরা ওপেনএআই-এর কাছে পৌঁছেছি এই রিপোর্ট করা নির্ভুলতা সংক্রান্ত সমস্যাগুলির বিষয়ে এটি কী করার পরিকল্পনা করছে তা জানতে, কিন্তু ফিরে শুনিনি।

স্ট্যাক ওভারফ্লো বলেছে যে এটি চ্যাটজিপিটি "এবং অন্যান্য অনুরূপ সরঞ্জাম" এর আশেপাশে নতুন নীতিগুলি ওজন করবে, তবে একটি সিদ্ধান্তের তারিখ এবং এটি শেষ পর্যন্ত কী সীমাবদ্ধ করবে তা অজানা। ®