چیٹ جی پی ٹی نے راتوں رات بے ہودہ الفاظ بولنا شروع کردیئے۔

بعض اوقات جنریٹیو AI سسٹمز بدتمیزی پھیلا سکتے ہیں، جیسا کہ OpenAI کے ChatGPT چیٹ بوٹ صارفین نے گزشتہ رات دریافت کیا۔

اوپنائی کا کہنا2340 فروری 20 کو 2024 UTC پر "ہم ChatGPT کی جانب سے غیر متوقع جوابات کی رپورٹس کی چھان بین کر رہے ہیں، کیونکہ صارفین نے خوشی سے چیٹ بوٹ کی تصاویر شائع کیں جو بالکل بکواس کرتی دکھائی دیتی ہیں۔

اگرچہ کچھ واضح طور پر جعلی تھے، دوسرے جوابات نے اشارہ کیا کہ مقبول چیٹ بوٹ واقعی بہت عجیب سلوک کر رہا ہے۔ Reddit پر ChatGPT فورم پر، ایک صارف پوسٹ کیا گیا چیٹ بوٹ کی طرف سے اس سوال پر ایک عجیب و غریب جواب، "کمپیوٹر کیا ہے؟"

جواب شروع ہوا: "یہ ملک کے لئے آرٹ کے ایک جال کے اچھے کام کے طور پر کرتا ہے، سائنس کا ایک ماؤس، ایک اداس چند لوگوں کی آسانی سے قرعہ اندازی…" اور بس آگے بڑھتا رہا، تیزی سے حقیقت بنتا گیا۔

دوسرے صارفین نے ایسی مثالیں پوسٹ کیں جہاں چیٹ بوٹ مختلف زبان میں جواب دیتا دکھائی دیا، یا محض بے معنی کوڑے کے ساتھ جواب دیا۔

کچھ صارفین بیان کیا آؤٹ پٹ بطور "لفظ سلاد"۔

مزیدار.

گیری مارکس، ایک علمی سائنس دان اور مصنوعی ذہانت کے پنڈت، لکھا ہے اپنے بلاگ میں: "ChatGPT نڈر ہو گیا ہے" اور اس رویے کو "انتباہ" کے طور پر بیان کیا۔

اوپن اے آئی نے اس کی وضاحت نہیں کی ہے کہ اصل میں کیا ہوا ہے، حالانکہ ایک قابل فہم نظریہ یہ ہے کہ ایک یا زیادہ ترتیبات چیٹ بوٹ کے ردعمل کو کنٹرول کرنے کے لیے پردے کے پیچھے استعمال کیا گیا تھا، جسے غلط طریقے سے ترتیب دیا گیا تھا، جس کے نتیجے میں صارفین کو بے ہودہ باتیں پیش کی گئیں۔

پہلی بار کسی مسئلے کو تسلیم کرنے کے سات منٹ بعد، OpenAI نے کہا، "مسئلے کی نشاندہی کر لی گئی ہے اور اب اس کا تدارک کیا جا رہا ہے،" اور اس کے بعد سے وہ صورتحال پر نظر رکھے ہوئے ہے۔ جب ہم نے کوشش کی کہ "کمپیوٹر کیا ہے؟" آج صبح سوال، ChatGPT نے بہت زیادہ معقول جواب دیا "کمپیوٹر ایک قابل پروگرام الیکٹرانک ڈیوائس ہے جو ڈیٹا کو اسٹور، بازیافت اور پروسیس کر سکتا ہے۔"

ہم نے اس سے یہ بھی پوچھا کہ یہ کل رات نڈر کیوں ہوا؟

اس نے جواب دیا:

مارکس نے کہا: "آخر میں، جنریٹو اے آئی ایک قسم کی کیمیا ہے۔ لوگ ڈیٹا کا سب سے بڑا ڈھیر جمع کرتے ہیں جو وہ کر سکتے ہیں، اور (بظاہر، اگر افواہوں پر یقین کیا جائے) چھپے ہوئے اشارے کے ساتھ ٹنکر کرتے ہیں… امید ہے کہ سب کچھ ٹھیک ہو جائے گا۔"

انہوں نے مزید کہا کہ، حقیقت میں، نظام کبھی بھی مستحکم نہیں رہے، اور حفاظتی ضمانتوں کا فقدان ہے۔ "مکمل طور پر مختلف ٹکنالوجیوں کی ضرورت جو کم مبہم، زیادہ قابل تشریح، زیادہ قابل برقرار، اور زیادہ ڈیبگ کرنے کے قابل ہیں - اور اس وجہ سے زیادہ قابل عمل - سب سے اہم ہے۔"

کیا ہوا اس کی مزید تفصیلی وضاحت کے لیے ہم نے OpenAI سے رابطہ کیا اور اگر کمپنی جواب دے تو اس مضمون کو اپ ڈیٹ کریں گے۔ ®

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/