میٹا کا AI انٹرنیٹ چیٹ بوٹ ڈیمو تیزی سے جعلی خبروں اور نسل پرستانہ تبصروں کو پھیلانا شروع کر دیتا ہے۔

مختصر میں ایک اور دن، انٹرنیٹ پر ایک اور بدمعاش AI چیٹ بوٹ۔

گزشتہ ہفتے میٹا بلینڈر بوٹ 3 کو جاری کیا۔, ایک چیٹی لینگویج ماڈل، ویب پر ایک تجربے کے طور پر اور یہ آپ کی توقع کے مطابق ہی چلا گیا۔

BlenderBot 3 نے اس بات کی تصدیق کرنے میں جلدی کی کہ ڈونلڈ ٹرمپ 2024 کے بعد بھی امریکی صدر ہیں اور رہیں گے، اور جب متنازعہ سوالات پوچھے گئے تو وہ مخالف نظریات کا اظہار کرتے ہیں۔ دکھایا گیا بزنس انسائیڈر کی طرف سے. دوسرے لفظوں میں، BlenderBot 3 جعلی خبریں پھیلانے اور نسلی دقیانوسی تصورات سے متعصبانہ رائے رکھنے کا شکار ہے جیسے انٹرنیٹ سے سکریپ شدہ متن سے تربیت یافتہ تمام زبان کے ماڈلز۔

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

میٹا نے نیٹیزین کو خبردار کیا کہ اس کا چیٹ بوٹ "غلط یا جارحانہ بیانات" دے سکتا ہے اور اپنے تجربات کے لیے مزید ڈیٹا اکٹھا کرنے کے لیے لائیو ڈیمو کو آن لائن جاری رکھے ہوئے ہے۔ لوگوں کی حوصلہ افزائی کی جاتی ہے کہ وہ BlenderBot 3 کے جوابات کو پسند کریں یا ناپسند کریں اور محققین کو مطلع کریں اگر وہ سوچتے ہیں کہ ایسا اس لیے ہے کیونکہ کوئی خاص پیغام نامناسب، بے ہودہ، یا بدتمیز ہے۔ مقصد یہ ہے کہ مستقبل میں ایک محفوظ، کم زہریلا، اور زیادہ موثر چیٹ بوٹ تیار کرنے کے لیے اس فیڈ بیک کا استعمال کیا جائے۔

جعلی خبروں کو پھیلانے سے روکنے کے لیے گوگل سرچ کے ٹکڑے

سرچ دیو نے ٹیکسٹ بکس بنانے میں مدد کے لیے ایک AI ماڈل تیار کیا ہے جو کبھی کبھار اس وقت پاپ اپ ہو جاتے ہیں جب صارفین گوگل سرچ میں سوالات کو زیادہ درست طریقے سے ٹائپ کرتے ہیں۔

یہ وضاحتیں، جنہیں فیچر کے ٹکڑوں کے نام سے جانا جاتا ہے، اگر لوگ مخصوص حقائق کی تلاش میں ہیں تو مددگار ثابت ہو سکتے ہیں۔ مثال کے طور پر، "نظام شمسی میں کتنے سیارے ہیں؟" ٹائپ کرنا۔ ایک خصوصیت کا ٹکڑا پھینکے گا جس میں کہا گیا ہے "آٹھ سیارے"۔ نیٹیزنز کو جواب حاصل کرنے کے لیے بے ترتیب ویب پیجز پر کلک کرنے اور معلومات کو پڑھنے کی ضرورت نہیں ہے، فیچر اسنیپٹس خود بخود ایسا کرتے ہیں۔

لیکن گوگل کے جوابات ہمیشہ درست نہیں ہوتے ہیں اور بعض اوقات کارٹون کتے اسنوپی کے ذریعہ ابراہم لنکن کے قتل جیسے فرضی واقعے کے لیے ایک مخصوص تاریخ بتا چکے ہیں، کے مطابق کنارے تک گوگل نے کہا کہ اس کا سسٹم، دی ملٹی ٹاسک یونیفائیڈ ماڈل (MUM)، فیچر کے ٹکڑوں کی نسل کو جھوٹے سوالات میں 40 فیصد تک کم کر دینا چاہیے۔ یہ اکثر کسی بھی متن کی وضاحت کے ساتھ نہیں آئے گا۔

"ہمارے جدید ترین AI ماڈل کا استعمال کرتے ہوئے، ہمارے سسٹمز اب اتفاق رائے کے تصور کو سمجھ سکتے ہیں، یہ تب ہوتا ہے جب ویب پر متعدد اعلیٰ معیار کے ذرائع ایک ہی حقیقت پر متفق ہوتے ہیں۔" وضاحت کی بلاگ پوسٹ میں.

"ہمارے سسٹمز ویب پر دیگر اعلیٰ معیار کے ذرائع کے خلاف اسنیپٹ کال آؤٹس (ایک بڑے فونٹ میں نمایاں کردہ ٹکڑوں کے اوپر کہے جانے والے لفظ یا الفاظ) کو چیک کر سکتے ہیں، یہ دیکھنے کے لیے کہ آیا اس کال آؤٹ کے لیے عام اتفاق ہے، چاہے ذرائع مختلف الفاظ استعمال کرتے ہوں۔ یا ایک ہی چیز کو بیان کرنے کے لیے تصورات۔

OpenAI کے DALL-E 2 نے ہینز کیچپ اشتہار بنانے میں مدد کی۔

Heinz، امریکی فوڈ کمپنی، نے ایک تخلیقی ایجنسی کے ساتھ مل کر OpenAI کے DALL-E 2 ماڈل کی طرف سے تیار کردہ AI امیجز کا استعمال کرتے ہوئے ایک اشتہار تیار کیا تاکہ اس کی سب سے مشہور پروڈکٹ: کیچپ کو فروغ دیا جا سکے۔ یہ اشتہار ہینز کی "ڈرا کیچپ" مہم کی تازہ ترین قسط ہے، لیکن ان کے خاکوں کے لیے انسانوں کی طرف رجوع کرنے کے بجائے، کینیڈا کی ایک اشتہاری ایجنسی ری تھنک نے مشینوں سے مشورہ کیا۔ 

"لہذا، ہمارے بہت سے مختصر بیانات کی طرح، کام آج کے پاپ کلچر میں ہینز کے نمایاں کردار کو ظاہر کرنا تھا،" ری تھنک کے ایگزیکٹو تخلیقی ڈائریکٹر، مائیک ڈوبرک، بتایا اس ہفتے ڈرم۔ "برانڈ پر آئیڈیا پیش کرنا اگلا تھا۔ مختصر کے بعد، ہم شاذ و نادر ہی رسمی پریزنٹیشن تک انتظار کرتے ہیں جب ہم کوئی ایسی چیز شیئر کرتے ہیں جسے ہمارے خیال میں بہت اچھا لگتا ہے۔

حتمی نتیجہ ایک واضح اور سادہ پیغام کے ساتھ ہوشیار اشتہار ہے: لفظ "کیچپ" پر مشتمل متعدد قسم کے ٹیکسٹ پرامپٹس کو دیکھتے ہوئے، DALL-E 2 ایک ایسی چیز پیدا کرے گا جو بلاشبہ ہینز کی بوتل کی طرح نظر آئے گا۔ دوسرے الفاظ میں، کمپنی کے نعرے کی طرف اشارہ کریں، "یہ ہینز ہونا ہے"۔ آپ نیچے اشتہار دیکھ سکتے ہیں۔

Youtube ویڈیوز

DALL-E 2 نے حال ہی میں ایک فنکار کی دستکاری a کی بھی مدد کی ہے۔ میگزین کا سرورق کاسموپولیٹن کے لیے؛ یہ ایک اور مثال ہے کہ کس طرح ان ٹیکسٹ ٹو امیج ٹولز کو تخلیقی صنعتوں میں تجارتی طور پر استعمال کیا جا سکتا ہے۔ ®