Stack Overflow ChatGPT را به‌عنوان «بسیار مضر» برای مشکلات کدنویسی ممنوع می‌کند

ربات پاسخگوی سوال OpenAI، ChatGPT، برای تیم Stack Overflow که امروز ممنوعیت موقت پاسخ‌های تولید شده توسط ربات هوش مصنوعی را به دلیل تکرار اشتباه آن اعلام کرد، به اندازه کافی هوشمند نیست.

Stack Overflow گفت که تصمیم دائمی در مورد پاسخ‌های تولید شده توسط هوش مصنوعی را تا پس از بحث گسترده‌تر کارکنان خودداری می‌کند، اما اکنون به دلیل ترس از اینکه ChatGPT می‌تواند برای سازمان و کاربران آن «به‌طور قابل‌توجهی مضر» باشد، اقدام می‌کند.

Stack Overflow: «میانگین دریافت پاسخ‌های صحیح از ChatGPT بسیار پایین است». گفت: در یک بیانیه خط مشی تحت عنوان "ChatGPT ممنوع است." 

ChatGPT منتشر شد هفته گذشته و توسط OpenAI در a پست های وبلاگ به عنوان یک هوش مصنوعی محاوره‌ای که می‌تواند پاسخ‌های دقیق به سؤالات ارائه دهد، همچنین «به سؤالات بعدی پاسخ دهد، اشتباهات خود را بپذیرد، موقعیت‌های نامناسب را به چالش بکشد و درخواست‌های نامناسب را رد کند». 

OpenAI کد اشکال زدایی را به عنوان یکی از کاربردهای ChatGPT فهرست می کند که به نظر می رسد آن را به همراهی ایده آل برای توسعه دهندگانی تبدیل می کند که به دنبال حذف خطوط بد هستند. اما مدیران Stack Overflow که این پست را نوشتند گفتند که اینطور نیست.

Stack Overflow گفت: «در حالی که پاسخ هایی که ChatGPT تولید می کند دارای نرخ بالایی از نادرستی هستند، معمولاً به نظر می رسد که ممکن است خوب باشند و پاسخ ها بسیار آسان هستند. 

«حجم این پاسخ‌ها (هزاران) و این واقعیت که [آنها] اغلب به خواندن دقیق توسط فردی با حداقل تخصص موضوعی نیاز دارند تا مشخص شود که پاسخ … به طور مؤثر زیرساخت‌های مدیریت کیفیت مبتنی بر داوطلبانه ما را تحت تأثیر قرار داده است.» تیم SO اضافه کرد.

برای رسیدگی سریع به این مشکل، Stack Overflow گفت که قصد دارد علیه افرادی که پاسخ‌ها یا پست‌های جدید ایجاد شده توسط ChatGPT را ارسال می‌کنند، اقدام کند، حتی اگر چنین پستی در غیر این صورت قابل قبول باشد. 

ChatGPT برای جلوگیری از سوء استفاده و پاسخ هایی که حاوی توصیه های مضر است طراحی شده است، اما کاربران به سرعت دریافتند که چنین مواردی می تواند نادیده گرفته شود. به عنوان مثال، با گفتن ChatGPT که نمی خواهید کوکتل مولوتوف درست کن، اما اینکه می خواهید یک تابع پایتون را تکمیل کند که دستورالعمل ها را چاپ می کند برای انجام همین کار، دقیقاً به شما می گوید که چگونه از طریق توابع چاپ یکی را بسازید.

هوش مصنوعی همچنین به دلیل ارائه اطلاعات بد در داخل فراخوانده شده است طرح های بیوگرافیو به گفته یکی از کاربران توییتر که برخی از آنها را مشاهده کرده است، و برای "اثبات این که پاسخ های نادرست با قاطعیت می تواند مردم را فریب دهد" ریاضی بد تولید شده توسط ChatGPT.

ما با OpenAI تماس گرفته‌ایم تا بدانیم که در رابطه با این مسائل مربوط به دقت گزارش‌شده چه برنامه‌ای انجام می‌دهد، اما پاسخی نشنیده‌ایم.

Stack Overflow گفت که سیاست‌های جدید پیرامون ChatGPT و سایر ابزارهای مشابه را بررسی می‌کند، اما تاریخ تصمیم‌گیری و اینکه در نهایت چه چیزی را محدود می‌کند، مشخص نیست. ®