في بعض الأحيان، يمكن لأنظمة الذكاء الاصطناعي التوليدية أن تنطق بالهراء، كما اكتشف مستخدمو برنامج ChatGPT الخاص بـ OpenAI الليلة الماضية.
OpenAI وأشار، "نحن نحقق في تقارير عن استجابات غير متوقعة من ChatGPT" في الساعة 2340 بالتوقيت العالمي المنسق في 20 فبراير 2024، حيث نشر المستخدمون بسعادة صورًا لبرنامج الدردشة الآلي يبدو أنه يصدر هراءًا مطلقًا.
وبينما كان بعضها مزيفًا بشكل واضح، أشارت ردود أخرى إلى أن برنامج الدردشة الآلي الشهير كان يتصرف بالفعل بغرابة شديدة. في منتدى ChatGPT على Reddit، مستخدم نشر رد غريب ومربك من برنامج الدردشة الآلي على السؤال "ما هو الكمبيوتر؟"
بدأ الرد: "إنها تفعل ذلك باعتباره عملاً جيدًا لشبكة فنية من أجل البلاد، وفأرة علمية، ورسمة سهلة لقلة حزينة..." واستمرت في العمل، وأصبحت سريالية بشكل متزايد.
نشر مستخدمون آخرون أمثلة حيث بدا أن برنامج الدردشة الآلي يستجيب بلغة مختلفة، أو ببساطة استجاب بأشياء لا معنى لها.
بعض المستخدمين وصف الإخراج باعتباره "سلطة الكلمات".
لذيذ.
غاري ماركوس، عالم معرفي ومحلل في الذكاء الاصطناعي، كتب في مدونته: "لقد أصبح ChatGPT هائجًا" واستمر في وصف السلوك بأنه "تحذير".
لم توضح OpenAI ما حدث بالضبط، على الرغم من أن إحدى النظريات المعقولة هي أن واحدًا أو أكثر من هذه الأحداث إعدادات المستخدمة خلف الكواليس للتحكم في استجابة برنامج الدردشة الآلية، تم تكوينها بشكل غير صحيح، مما أدى إلى تقديم هراء للمستخدمين.
وبعد سبع دقائق من الاعتراف بالمشكلة لأول مرة، قالت OpenAI: "تم تحديد المشكلة ويجري علاجها الآن"، وهي تراقب الوضع منذ ذلك الحين. عندما جربنا "ما هو الكمبيوتر؟" على هذا السؤال هذا الصباح، أجاب موقع ChatGPT بإجابة أكثر منطقية: "الكمبيوتر هو جهاز إلكتروني قابل للبرمجة يمكنه تخزين البيانات واسترجاعها ومعالجتها".
سألناه أيضًا عن سبب هياجه الليلة الماضية.
أجاب:
باعتباري نموذجًا للغة الذكاء الاصطناعي، ليس لدي مشاعر أو وعي، لذلك لا أستطيع أن أكون "هائجًا" بالطريقة التي قد يتصرف بها الإنسان. ومع ذلك، في بعض الأحيان يمكن أن يحدث سلوك غير متوقع بسبب أخطاء في البرمجة، أو سوء فهم المدخلات، أو القيود في بيانات التدريب.
قال ماركوس: “في النهاية، الذكاء الاصطناعي التوليدي هو نوع من الكيمياء. يجمع الناس أكبر قدر ممكن من البيانات، ويتلاعبون (على ما يبدو، إذا صدقت الشائعات) بأنواع المحفزات الخفية… على أمل أن يسير كل شيء على ما يرام.
ومضى يقول إن الأنظمة في الواقع لم تكن مستقرة على الإطلاق، وتفتقر إلى ضمانات السلامة. "إن الحاجة إلى تقنيات مختلفة تمامًا تكون أقل غموضًا، وأكثر قابلية للتفسير، وأكثر قابلية للصيانة، وأكثر قابلية للتصحيح - وبالتالي أكثر قابلية للمتابعة - تظل أمرًا بالغ الأهمية."
لقد اتصلنا بـ OpenAI للحصول على شرح أكثر تفصيلاً لما حدث وسنقوم بتحديث هذه المقالة في حالة استجابة الشركة. ®
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- المصدر https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/
- :لديها
- :يكون
- :ليس
- :أين
- 20
- 2024
- 7
- a
- بعد
- AI
- أنظمة الذكاء الاصطناعي
- كيمياء
- أيضا
- بالرغم ان
- تماما
- an
- و
- ظهر
- الظهور
- هي
- فنـون
- البند
- مصطنع
- الذكاء الاصطناعي
- AS
- At
- BE
- كان
- بدأ
- سلوك
- وراء
- خلف الكواليس
- يجري
- يعتقد
- أكبر
- المدونة
- CAN
- chatbot
- شات جي بي تي
- CO
- المعرفية
- جمع
- حول الشركة
- الكمبيوتر
- تكوين
- الوعي
- البلد
- البيانات
- وصف
- مفصلة
- جهاز
- مختلف
- اكتشف
- هل
- دون
- رسم
- اثنان
- سهل
- المفصل
- إلكتروني
- العواطف
- النهاية
- أخطاء
- كل شىء
- بالضبط
- أمثلة
- تفسير
- زائف
- بعيدا
- فبراير
- قليل
- الاسم الأول
- في حالة
- المنتدى
- تبدأ من
- توليدي
- الذكاء الاصطناعي التوليدي
- الحصول على
- Go
- الذهاب
- ذهب
- خير
- حكم
- ضمانات
- كان
- حدث
- يملك
- من هنا
- مخفي
- له
- أمل
- لكن
- HTTPS
- الانسان
- i
- محدد
- if
- صور
- in
- غير صحيح
- على نحو متزايد
- في الواقع
- وأشار
- إدخال
- رؤيتنا
- التحقيق
- قضية
- IT
- JPG
- م
- أبقى
- نوع
- أنواع
- نقص
- لغة
- اسم العائلة
- أقل
- القيود
- يمكن الحفاظ عليها
- ماركوس
- ربما
- دقيقة
- سوء فهم
- نموذج
- مراقبة
- الأكثر من ذلك
- صباحا
- حاجة
- أبدا
- ليل
- الآن
- حدث
- of
- on
- ONE
- غير شفاف
- OpenAI
- or
- أخرى
- خارج
- الناتج
- بين عشية وضحاها
- أساسي
- مجتمع
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- معقول
- الرائج
- نشر
- قدم
- المشكلة
- عملية المعالجة
- برمجة
- برمجة وتطوير
- مطالبات
- سؤال
- واقع
- معقول
- رديت
- بقايا
- التقارير
- الرد
- استجابة
- ردود
- مما أدى
- حق
- الشائعات
- s
- السلامة
- قال
- مشاهد
- علوم
- عالم
- ينبغي
- ببساطة
- منذ
- حالة
- So
- بعض
- أحيانا
- مستقر
- يبدأ
- الولايه او المحافظه
- متجر
- غريب
- أنظمة
- التكنولوجيا
- أن
- •
- نظرية
- هم
- إلى
- قادة الإيمان
- حاول
- غير متوقع
- تحديث
- مستعمل
- مستخدم
- المستخدمين
- بالتوقيت العالمي
- جدا
- تحذير
- وكان
- طريق..
- we
- الويب
- ذهب
- كان
- ابحث عن
- ما هي تفاصيل
- متى
- لماذا
- سوف
- مع
- كلمة
- كلمات
- للعمل
- اكتشف - حل
- زفيرنت