يبدأ ChatGPT في نطق كلمات لا معنى لها في صدمة بين عشية وضحاها

في بعض الأحيان، يمكن لأنظمة الذكاء الاصطناعي التوليدية أن تنطق بالهراء، كما اكتشف مستخدمو برنامج ChatGPT الخاص بـ OpenAI الليلة الماضية.

OpenAI وأشار، "نحن نحقق في تقارير عن استجابات غير متوقعة من ChatGPT" في الساعة 2340 بالتوقيت العالمي المنسق في 20 فبراير 2024، حيث نشر المستخدمون بسعادة صورًا لبرنامج الدردشة الآلي يبدو أنه يصدر هراءًا مطلقًا.

وبينما كان بعضها مزيفًا بشكل واضح، أشارت ردود أخرى إلى أن برنامج الدردشة الآلي الشهير كان يتصرف بالفعل بغرابة شديدة. في منتدى ChatGPT على Reddit، مستخدم نشر رد غريب ومربك من برنامج الدردشة الآلي على السؤال "ما هو الكمبيوتر؟"

بدأ الرد: "إنها تفعل ذلك باعتباره عملاً جيدًا لشبكة فنية من أجل البلاد، وفأرة علمية، ورسمة سهلة لقلة حزينة..." واستمرت في العمل، وأصبحت سريالية بشكل متزايد.

نشر مستخدمون آخرون أمثلة حيث بدا أن برنامج الدردشة الآلي يستجيب بلغة مختلفة، أو ببساطة استجاب بأشياء لا معنى لها.

بعض المستخدمين وصف الإخراج باعتباره "سلطة الكلمات".

لذيذ.

غاري ماركوس، عالم معرفي ومحلل في الذكاء الاصطناعي، كتب في مدونته: "لقد أصبح ChatGPT هائجًا" واستمر في وصف السلوك بأنه "تحذير".

لم توضح OpenAI ما حدث بالضبط، على الرغم من أن إحدى النظريات المعقولة هي أن واحدًا أو أكثر من هذه الأحداث إعدادات المستخدمة خلف الكواليس للتحكم في استجابة برنامج الدردشة الآلية، تم تكوينها بشكل غير صحيح، مما أدى إلى تقديم هراء للمستخدمين.

وبعد سبع دقائق من الاعتراف بالمشكلة لأول مرة، قالت OpenAI: "تم تحديد المشكلة ويجري علاجها الآن"، وهي تراقب الوضع منذ ذلك الحين. عندما جربنا "ما هو الكمبيوتر؟" على هذا السؤال هذا الصباح، أجاب موقع ChatGPT بإجابة أكثر منطقية: "الكمبيوتر هو جهاز إلكتروني قابل للبرمجة يمكنه تخزين البيانات واسترجاعها ومعالجتها".

سألناه أيضًا عن سبب هياجه الليلة الماضية.

أجاب:

قال ماركوس: “في النهاية، الذكاء الاصطناعي التوليدي هو نوع من الكيمياء. يجمع الناس أكبر قدر ممكن من البيانات، ويتلاعبون (على ما يبدو، إذا صدقت الشائعات) بأنواع المحفزات الخفية… على أمل أن يسير كل شيء على ما يرام.

ومضى يقول إن الأنظمة في الواقع لم تكن مستقرة على الإطلاق، وتفتقر إلى ضمانات السلامة. "إن الحاجة إلى تقنيات مختلفة تمامًا تكون أقل غموضًا، وأكثر قابلية للتفسير، وأكثر قابلية للصيانة، وأكثر قابلية للتصحيح - وبالتالي أكثر قابلية للمتابعة - تظل أمرًا بالغ الأهمية."

لقد اتصلنا بـ OpenAI للحصول على شرح أكثر تفصيلاً لما حدث وسنقوم بتحديث هذه المقالة في حالة استجابة الشركة. ®

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/