همانطور که شب گذشته کاربران چت ربات ChatGPT OpenAI کشف کردند، گاهی اوقات سیستمهای هوش مصنوعی مولد میتوانند چرندیات را منتشر کنند.
OpenAI اشاره کرد، "ما در حال بررسی گزارشهای پاسخهای غیرمنتظره از ChatGPT هستیم" در 2340 UTC در 20 فوریه 2024، زیرا کاربران با خوشحالی تصاویری از ربات چت منتشر کردند که ظاهراً مزخرف است.
در حالی که برخی از آنها به وضوح جعلی بودند، پاسخ های دیگر نشان داد که چت بات محبوب واقعاً رفتار عجیبی دارد. در انجمن ChatGPT در Reddit، یک کاربر + نوشته شده در یک پاسخ عجیب و نامنظم از ربات چت به این سوال، "کامپیوتر چیست؟"
پاسخ شروع شد: "این کار را به عنوان کار خوب یک شبکه هنری برای کشور انجام می دهد، یک موش علم، یک قرعه کشی آسان از تعداد کمی غمگین ..." و فقط ادامه داد و به طور فزاینده ای سورئال شد.
سایر کاربران نمونه هایی را ارسال کردند که در آن به نظر می رسید چت بات به زبان دیگری پاسخ می دهد یا به سادگی با زباله های بی معنی پاسخ می دهد.
برخی از کاربران شرح داده شده خروجی به عنوان "سالاد کلمه".
خوش طعم.
گری مارکوس، دانشمند شناختی و کارشناس هوش مصنوعی، نوشت در وبلاگ خود: "ChatGPT دیوانه شده است" و در ادامه این رفتار را "یک هشدار" توصیف کرد.
OpenAI در مورد اینکه دقیقاً چه اتفاقی افتاده است توضیح بیشتری نداده است، اگرچه یک نظریه قابل قبول این است که یک یا چند مورد از آنها تنظیمات در پشت صحنه برای کنترل پاسخ ربات چت به درستی پیکربندی نشده بود که منجر به ارائه هجوم به کاربران شد.
هفت دقیقه پس از اولین اعتراف به مشکل، OpenAI گفت: "مشکل شناسایی شده است و اکنون در حال اصلاح است" و از آن زمان وضعیت را زیر نظر دارد. وقتی «کامپیوتر چیست؟» را امتحان کردیم. سوال امروز صبح، ChatGPT با پاسخ بسیار منطقیتر پاسخ داد: «کامپیوتر یک دستگاه الکترونیکی قابل برنامهریزی است که میتواند دادهها را ذخیره، بازیابی و پردازش کند.»
ما همچنین از آن پرسیدیم که چرا دیشب از کوره در رفت.
پاسخ داد:
من به عنوان یک مدل زبان هوش مصنوعی، احساسات یا آگاهی ندارم، بنابراین نمیتوانم در مسیری که یک انسان ممکن است «جنون» باشم. با این حال، گاهی اوقات رفتار غیرمنتظره می تواند به دلیل خطا در برنامه نویسی، درک نادرست ورودی، یا محدودیت در داده های آموزشی رخ دهد.
مارکوس اظهار داشت: «در پایان، هوش مصنوعی مولد نوعی کیمیاگری است. مردم بزرگترین انبوهی از دادهها را که میتوانند جمعآوری میکنند، و (ظاهراً، اگر شایعات را باور کنیم) انواع پیامهای پنهان را سرهم میکنند... به امید اینکه همه چیز درست پیش برود.»
وی ادامه داد که در واقعیت، سیستم ها هرگز پایدار نبوده و فاقد ضمانت ایمنی هستند. «نیاز به فناوریهای کاملاً متفاوتی که کمتر مبهم، قابل تفسیرتر، قابل نگهداریتر و اشکالزداییپذیرتر باشند - و در نتیجه قابل حملتر - همچنان بسیار مهم است.»
ما با OpenAI تماس گرفتیم تا توضیح دقیق تری درباره آنچه اتفاق افتاده است ارائه دهیم و در صورت پاسخ دادن شرکت، این مقاله را به روز خواهیم کرد. ®
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/
- : دارد
- :است
- :نه
- :جایی که
- 20
- 2024
- 7
- a
- پس از
- AI
- سیستم های هوش مصنوعی
- کیمیاگری
- همچنین
- هر چند
- در مجموع
- an
- و
- به نظر می رسد
- ظاهر می شود
- هستند
- هنر
- مقاله
- مصنوعی
- هوش مصنوعی
- AS
- At
- BE
- بوده
- آغاز شد
- رفتار
- پشت سر
- پشت صحنه
- بودن
- اعتقاد بر این
- بزرگترین
- بلاگ
- CAN
- chatbot
- GPT چت
- CO
- شناختی
- جمع آوری
- شرکت
- کامپیوتر
- پیکربندی
- آگاهی
- کشور
- داده ها
- توصیف
- دقیق
- دستگاه
- مختلف
- کشف
- میکند
- دان
- قرعه کشی
- دو
- ساده
- توسعه یافته
- الکترونیکی
- احساسات
- پایان
- خطاهای
- همه چیز
- کاملا
- مثال ها
- توضیح
- جعلی
- بسیار
- فوریه
- کمی از
- نام خانوادگی
- برای
- انجمن
- از جانب
- مولد
- هوش مصنوعی مولد
- گرفتن
- Go
- رفتن
- رفته
- خوب
- حکومت می کند
- تضمین می کند
- بود
- اتفاق افتاده است
- آیا
- از این رو
- پنهان
- خود را
- امید
- اما
- HTTPS
- انسان
- i
- شناسایی
- if
- تصاویر
- in
- نادرست
- به طور فزاینده
- در واقع
- نشان داد
- ورودی
- اطلاعات
- تحقیق
- موضوع
- IT
- JPG
- تنها
- نگه داشته شد
- نوع
- انواع
- عدم
- زبان
- نام
- کمتر
- محدودیت
- قابل نگهداری
- مارکوس
- قدرت
- دقیقه
- سوء تفاهم
- مدل
- نظارت بر
- بیش
- صبح
- نیاز
- هرگز
- شب
- اکنون
- رخ می دهد
- of
- on
- ONE
- مات
- OpenAI
- or
- دیگر
- خارج
- تولید
- شبانه
- برترین
- مردم
- افلاطون
- هوش داده افلاطون
- PlatoData
- محتمل
- محبوب
- + نوشته شده در
- ارائه شده
- مشکل
- روند
- قابل برنامه ریزی
- برنامه نويسي
- پرسیدن
- سوال
- واقعیت
- معقول
- ق
- بقایای
- گزارش ها
- پاسخ
- پاسخ
- پاسخ
- نتیجه
- راست
- شایعات
- s
- ایمنی
- سعید
- صحنه های
- علم
- دانشمند
- باید
- به سادگی
- پس از
- وضعیت
- So
- برخی از
- گاهی
- پایدار
- شروع می شود
- دولت
- opbevare
- عجیب
- سیستم های
- فن آوری
- که
- La
- نظریه
- آنها
- این
- به
- آموزش
- سعی
- غیر منتظره
- بروزرسانی
- استفاده
- کاربر
- کاربران
- ساعت محلی UTC تنظیم شده اند
- بسیار
- هشدار
- بود
- مسیر..
- we
- وب
- رفت
- بود
- چی
- چه شده است
- چه زمانی
- چرا
- اراده
- با
- کلمه
- کلمات
- مهاجرت کاری
- کار کردن
- زفیرنت