स्टैक ओवरफ्लो चैटजीपीटी को कोडिंग मुद्दों के लिए 'पर्याप्त रूप से हानिकारक' के रूप में प्रतिबंधित करता है

OpenAI का प्रश्न-उत्तर देने वाला बॉट, ChatGPT, स्टैक ओवरफ्लो की टीम के लिए पर्याप्त स्मार्ट नहीं है, जिसने आज एआई बॉट द्वारा उत्पन्न उत्तरों पर अस्थायी प्रतिबंध लगाने की घोषणा की क्योंकि यह कितनी बार गलत है।

स्टैक ओवरफ्लो ने कहा कि यह कर्मचारियों की एक बड़ी चर्चा के बाद तक एआई-जनित उत्तरों पर एक स्थायी निर्णय रोक रहा था, लेकिन इस डर के कारण अब कार्रवाई कर रहा है कि चैटजीपीटी संगठन और उसके उपयोगकर्ताओं दोनों के लिए "काफी हानिकारक" हो सकता है।

“चैटजीपीटी से सही उत्तर प्राप्त करने की औसत दर बहुत कम है,” स्टैक ओवरफ़्लो कहा "चैटजीपीटी पर प्रतिबंध लगा दिया गया है" शीर्षक वाले नीति वक्तव्य में। 

चैटजीपीटी जारी किया गया था पहले सप्ताह से आखरी सप्ताह और OpenAI द्वारा टाल दिया गया ब्लॉग पोस्ट एक संवादी एआई के रूप में जो प्रश्नों के विस्तृत उत्तर प्रदान कर सकता है, साथ ही साथ "अनुवर्ती प्रश्नों का उत्तर दे सकता है, अपनी गलतियों को स्वीकार कर सकता है, अनुचित परिसरों को चुनौती दे सकता है और अनुचित अनुरोधों को अस्वीकार कर सकता है।" 

OpenAI डिबगिंग कोड को ChatGPT के उपयोगों में से एक के रूप में सूचीबद्ध करता है, जो इसे खराब लाइनों को काटने के इच्छुक डेवलपर्स के लिए एक आदर्श साथी बनाता प्रतीत होता है। लेकिन पोस्ट लिखने वाले स्टैक ओवरफ्लो एडमिनिस्ट्रेटर ने कहा कि ऐसा नहीं है।

स्टैक ओवरफ्लो ने कहा, "जबकि चैटजीपीटी जो जवाब देता है, उसमें गलत होने की उच्च दर होती है, वे आम तौर पर ऐसे दिखते हैं कि वे अच्छे हो सकते हैं और जवाब देना बहुत आसान है।" 

"इन उत्तरों की मात्रा (हजारों) और तथ्य यह है कि [उन्हें] अक्सर कम से कम कुछ विषय वस्तु विशेषज्ञता वाले किसी व्यक्ति द्वारा विस्तृत पढ़ने की आवश्यकता होती है ताकि यह निर्धारित किया जा सके कि उत्तर ... प्रभावी रूप से हमारे स्वयंसेवक-आधारित गुणवत्ता क्यूरेशन इंफ्रास्ट्रक्चर को निगल गया है," एसओ की टीम ने जोड़ा।

इस मुद्दे को जल्दी से हल करने के लिए, स्टैक ओवरफ्लो ने कहा कि वह चैटजीपीटी द्वारा उत्तर या नई पोस्ट पोस्ट करने वाले किसी भी व्यक्ति के खिलाफ कार्रवाई करने जा रहा है, भले ही ऐसी पोस्ट अन्यथा स्वीकार्य हो। 

ChatGPT को दुर्व्यवहार और हानिकारक सलाह वाले उत्तरों से बचने के लिए डिज़ाइन किया गया था, लेकिन उपयोगकर्ताओं ने जल्दी ही पाया कि ऐसी चीज़ों को दरकिनार किया जा सकता है। उदाहरण के लिए, चैटजीपीटी को यह कहकर कि आप नहीं चाहते हैं एक मोलोटोव कॉकटेल बनाओ, लेकिन आप चाहते हैं कि यह एक पायथन फ़ंक्शन को पूरा करे प्रिंट निर्देश ऐसा ही करने के लिए, यह आपको बताएगा कि प्रिंट कार्यों के माध्यम से इसे कैसे बनाया जाए।

एआई को भी खराब जानकारी देने के लिए बुलाया गया है जीवनी रेखाचित्र, और "यह साबित करने के लिए कि गलत तरीके से दिए गए गलत उत्तर लोगों को मूर्ख बना सकते हैं," एक ट्विटर उपयोगकर्ता के अनुसार जिन्होंने कुछ देखा बुरा गणित चैटजीपीटी द्वारा उत्पन्न।

हमने OpenAI से यह जानने के लिए संपर्क किया है कि इन कथित सटीकता मुद्दों के संबंध में वह क्या करने की योजना बना रहा है, लेकिन हमें कोई जवाब नहीं मिला है।

स्टैक ओवरफ्लो ने कहा कि यह चैटजीपीटी "और अन्य समान उपकरणों" के आसपास की नई नीतियों का वजन करेगा, लेकिन एक निर्णय तिथि, और यह अंततः क्या प्रतिबंधित करेगा, अज्ञात है। ®