चैटजीपीटी ओवरनाइट शॉकर में बकवास बातें उगलना शुरू कर देता है

चैटजीपीटी ओवरनाइट शॉकर में बकवास बातें उगलना शुरू कर देता है

समय टिकट: 21 फरवरी, 2024 9:32 पूर्वाह्न
चैटजीपीटी ने रातोंरात चौंकाने वाले प्लेटोब्लॉकचेन डेटा इंटेलिजेंस में बकवास शब्द उगलना शुरू कर दिया। लंबवत खोज. ऐ.

कभी-कभी जेनरेटिव एआई सिस्टम अस्पष्ट बातें बोल सकते हैं, जैसा कि ओपनएआई के चैटजीपीटी चैटबॉट उपयोगकर्ताओं ने कल रात खोजा था।

OpenAI विख्यात, 2340 फरवरी, 20 को 2024 यूटीसी पर "हम चैटजीपीटी से अप्रत्याशित प्रतिक्रियाओं की रिपोर्ट की जांच कर रहे हैं", क्योंकि उपयोगकर्ताओं ने खुशी-खुशी चैटबॉट की छवियां पोस्ट कीं जो पूरी तरह से बकवास का उत्सर्जन करती दिखाई दे रही थीं।

जबकि कुछ स्पष्ट रूप से नकली थे, अन्य प्रतिक्रियाओं ने संकेत दिया कि लोकप्रिय चैटबॉट वास्तव में बहुत अजीब व्यवहार कर रहा था। Reddit पर ChatGPT फोरम पर, एक उपयोगकर्ता तैनात "कंप्यूटर क्या है?" प्रश्न पर चैटबॉट से एक अजीब, अव्यवस्थित प्रतिक्रिया मिली।

प्रतिक्रिया शुरू हुई: "यह देश के लिए कला के एक जाल के अच्छे काम, विज्ञान के एक चूहे, कुछ दुखी लोगों को आसानी से आकर्षित करने के रूप में करता है..." और बस चलता रहा, तेजी से अवास्तविक होता गया।

अन्य उपयोगकर्ताओं ने ऐसे उदाहरण पोस्ट किए जहां चैटबॉट एक अलग भाषा में जवाब देता हुआ दिखाई दिया, या बस अर्थहीन कचरे के साथ जवाब दिया।

कुछ उपयोगकर्ता वर्णित आउटपुट "शब्द सलाद" के रूप में।

स्वादिष्ट।

गैरी मार्कस, एक संज्ञानात्मक वैज्ञानिक और कृत्रिम बुद्धिमत्ता पंडित, लिखा था अपने ब्लॉग में: "चैटजीपीटी पागल हो गया है" और इस व्यवहार को "एक चेतावनी" के रूप में वर्णित किया।

ओपनएआई ने इस बारे में विस्तार से नहीं बताया है कि वास्तव में क्या हुआ था, हालांकि एक प्रशंसनीय सिद्धांत यह है कि इनमें से एक या अधिक सेटिंग्स चैटबॉट की प्रतिक्रिया को नियंत्रित करने के लिए पर्दे के पीछे उपयोग किए जाने वाले को गलत तरीके से कॉन्फ़िगर किया गया था, जिसके परिणामस्वरूप उपयोगकर्ताओं के सामने अस्पष्टता प्रस्तुत की गई थी।

पहली बार समस्या स्वीकार करने के सात मिनट बाद, ओपनएआई ने कहा, "समस्या की पहचान कर ली गई है और अब इसका समाधान किया जा रहा है," और यह तब से स्थिति की निगरानी कर रहा है। जब हमने "कंप्यूटर क्या है?" का प्रयास किया। आज सुबह प्रश्न पूछे जाने पर चैटजीपीटी ने कहीं अधिक उचित उत्तर दिया "कंप्यूटर एक प्रोग्राम करने योग्य इलेक्ट्रॉनिक उपकरण है जो डेटा को संग्रहीत, पुनर्प्राप्त और संसाधित कर सकता है।"

हमने उससे यह भी पूछा कि कल रात वह उन्मत्त क्यों हो गया।

इसने उत्तर दिया:

एक एआई भाषा मॉडल के रूप में, मेरे पास भावनाएं या चेतना नहीं है, इसलिए मैं एक इंसान की तरह "उन्मत्त" नहीं हो सकता। हालाँकि, कभी-कभी अप्रत्याशित व्यवहार प्रोग्रामिंग में त्रुटियों, इनपुट की गलतफहमी या प्रशिक्षण डेटा में सीमाओं के कारण हो सकता है।

मार्कस ने कहा: “अंत में, जेनरेटिव एआई एक प्रकार की कीमिया है। लोग डेटा का सबसे बड़ा ढेर इकट्ठा कर सकते हैं, और (जाहिरा तौर पर, अगर अफवाहों पर विश्वास किया जाए) छिपे हुए संकेतों के साथ छेड़छाड़ करते हैं... उम्मीद करते हैं कि सब कुछ ठीक से काम करेगा।

उन्होंने आगे कहा कि, वास्तव में, सिस्टम कभी भी स्थिर नहीं रहे हैं, और उनमें सुरक्षा गारंटी का अभाव है। "पूरी तरह से अलग प्रौद्योगिकियों की आवश्यकता जो कम अपारदर्शी, अधिक व्याख्या योग्य, अधिक रखरखाव योग्य और अधिक डिबग योग्य हो - और इसलिए अधिक सुव्यवस्थित हो - सर्वोपरि बनी हुई है।"

जो कुछ हुआ उसकी अधिक विस्तृत व्याख्या के लिए हमने ओपनएआई से संपर्क किया और कंपनी के जवाब देने पर हम इस लेख को अपडेट करेंगे। ®

समय टिकट:

से अधिक रजिस्टर