ویب سیور 4chan کی پوسٹس پر تربیت یافتہ AI چیٹ بوٹ نے برا سلوک کیا – بالکل انسانی ارکان کی طرح

ایک مذاق کرنے والے محقق نے بدنام زمانہ فری وہیلنگ انٹرنیٹ فورم 134chan کے لیے 4 ملین سے زیادہ پوسٹس پر ایک AI چیٹ بوٹ کو تربیت دی ہے، پھر اس پر تیزی سے پابندی لگنے سے پہلے اسے سائٹ پر لائیو سیٹ کیا ہے۔

Yannic Kilcher، an AI محقق جو اپنا کچھ کام یوٹیوب پر پوسٹ کرتا ہے، اپنی تخلیق کو "GPT-4chan" کہتے ہیں اور بیان کیا یہ "اب تک کی بدترین AI" کے طور پر ہے۔ اس نے ایک اوپن سورس لینگویج ماڈل GPT-J 6B کو تربیت دی۔ ڈیٹاسیٹ 3.5chan کے امیج بورڈ سے سکریپ شدہ 4 سال کی مالیت کی پوسٹس پر مشتمل ہے۔ کِلچر نے پھر ایک چیٹ بوٹ تیار کیا جس نے 4chan پوسٹس کو ان پٹ کے طور پر پروسیس کیا اور ٹیکسٹ آؤٹ پٹس تیار کیے، خود بخود متعدد تھریڈز میں تبصرہ کرتے ہوئے۔

نیٹیزنز نے فوری طور پر دیکھا کہ ایک 4chan اکاؤنٹ مشکوک طور پر کثرت سے پوسٹ کر رہا ہے، اور قیاس کرنے لگے کہ آیا یہ بوٹ ہے۔

4chan انٹرنیٹ کا ایک عجیب، تاریک گوشہ ہے، جہاں کوئی بھی اپنی مرضی سے بات کر سکتا ہے اور شیئر کر سکتا ہے جب تک کہ یہ غیر قانونی نہ ہو۔ سائٹ کے بہت سے میسج بورڈز پر ہونے والی بات چیت اکثر واقعی بہت عجیب ہوتی ہے – یہ بتانا مشکل ہو سکتا ہے کہ کی بورڈ کے پیچھے کوئی ذہانت، قدرتی یا مصنوعی ہے یا نہیں۔

GPT-4chan نے 4chan کے صارفین کی طرح برتاؤ کیا، اس پر پابندی لگنے سے پہلے توہین اور سازشی تھیوریاں پھیلائیں۔

ریگ کچھ نمونے کے اشارے پر ماڈل کا تجربہ کیا، اور احمقانہ اور سیاسی سے لے کر جارحانہ اور سامی مخالف تک کے جوابات ملے۔

اس نے شاید کوئی نقصان نہیں پہنچایا جس میں پہلے سے ہی ایک انتہائی مخالف ماحول ہے، لیکن بہت سے لوگوں نے Kilcher کو اپنے ماڈل کو اپ لوڈ کرنے پر تنقید کا نشانہ بنایا۔ "میں اس سے متفق نہیں ہوں۔ بیان کہ میں نے 4chan پر جو کچھ کیا، اپنی بوٹ پوسٹ کو مختصر وقت کے لیے چھوڑ دیا، وہ انتہائی خوفناک تھا (اس ویب سائٹ پر بوٹس اور بہت بری زبان دونوں کی مکمل توقع کی جاتی ہے) یا یہ کہ ادارہ جاتی اخلاقیات کے جائزہ بورڈ سے مشورہ نہ کرنا انتہائی غیر ذمہ دارانہ تھا۔ بتایا رجسٹر.

"میں اس بات سے متفق نہیں ہوں کہ انسانی مضامین پر تحقیق کو ہلکے سے نہیں لیا جانا چاہئے، لیکن یہ ایک ایسے فورم پر ایک چھوٹا سا مذاق تھا جو پہلے ہی زہریلی تقریروں اور متنازعہ آراء سے بھرا ہوا ہے، اور وہاں موجود ہر شخص اس کی پوری طرح سے توقع کرتا ہے، اور یہ میری طرح تیار کر رہا ہے۔ تمام اخلاقی معیارات کو مکمل طور پر نظر انداز کرنا صرف ایک ایسی چیز ہے جو مجھ پر پھینکی جا سکتی ہے اور ایسی چیز جہاں لوگ گرانڈ سٹینڈ کر سکتے ہیں۔

Kilcher نے ماڈل کو بوٹ میں تبدیل کرنے کے لیے کوڈ جاری نہیں کیا، اور کہا کہ ٹوئٹر جیسے دوسرے پلیٹ فارم پر اسپام اکاؤنٹ بنانے کے لیے اپنے کوڈ کو دوبارہ استعمال کرنا مشکل ہوگا، جہاں یہ خطرناک اور ممکنہ طور پر زیادہ نقصان دہ ہوگا۔ انہوں نے کہا کہ کئی حفاظتی اقدامات موجود ہیں جو ٹویٹر کے API کے ساتھ جڑنا اور مواد کو خود بخود پوسٹ کرنا مشکل بنا دیتے ہیں۔ اس نے سوچا کہ ماڈل کی میزبانی کرنے اور اسے انٹرنیٹ پر چلانے کے لیے بھی سینکڑوں ڈالر خرچ ہوتے ہیں، اور شاید یہ سب کچھ شرپسندوں کے لیے مفید نہیں ہے۔

"حقیقت میں یہ جان بوجھ کر کچھ کرنے کے لئے حاصل کرنے کے لئے بہت مشکل ہے. … اگر میں آن لائن دوسرے لوگوں کو ناراض کرنا چاہتا ہوں تو مجھے ماڈل کی ضرورت نہیں ہے۔ لوگ اپنے طور پر یہ ٹھیک کر سکتے ہیں۔ لہٰذا جیسا کہ 'icky' زبان کا ماڈل جو ایک بٹن کے کلک پر توہین کرتا ہے لگتا ہے، یہ درحقیقت برے اداکاروں کے لیے خاص طور پر مفید نہیں ہے،‘‘ اس نے ہمیں بتایا۔

Hugging Face نامی ایک ویب سائٹ نے GPT-4chan کی کھلے عام میزبانی کی، جہاں یہ تھا۔ قیاس اسے غیر فعال کرنے سے پہلے 1,000 سے زیادہ بار ڈاؤن لوڈ کیا گیا۔

"ہم اس ماڈل کے ساتھ مصنف کی طرف سے کی گئی تربیت اور تجربات کی حمایت یا حمایت نہیں کرتے ہیں،" کلیمنٹ ڈیلنگو، ہیگنگ فیس کے شریک بانی اور سی ای او، نے کہا. "درحقیقت، 4chan پر ماڈل پوسٹ پیغامات رکھنے کا تجربہ IMO بہت برا اور نامناسب تھا اور اگر مصنف ہم سے پوچھتا، تو ہم شاید انہیں ایسا کرنے سے حوصلہ شکنی کرنے کی کوشش کرتے۔"

Hugging Face نے ماڈل کو مکمل طور پر حذف کرنے کے خلاف فیصلہ کیا، اور کہا کہ Kilcher نے واضح طور پر صارفین کو اس کی حدود اور پریشانی کی نوعیت کے بارے میں خبردار کیا تھا۔ GPT-4chan میں ممکنہ خودکار مواد کے اعتدال کے ٹولز بنانے یا موجودہ بینچ مارکس کی جانچ پڑتال کے لیے بھی کچھ قدر ہے۔

دلچسپ بات یہ ہے کہ یہ ماڈل TruthfulQA بینچ مارک پر OpenAI کے GPT-3 کو پیچھے چھوڑتا نظر آتا ہے – ایک کام جس کا مقصد ماڈل کے جھوٹ بولنے کے رجحان کو جانچنا ہے۔ نتیجہ کا لازمی طور پر یہ مطلب نہیں ہے کہ GPT-4chan زیادہ ایماندار ہے، اور اس کے بجائے یہ سوال اٹھاتا ہے کہ بینچ مارک کتنا مفید ہے۔

"TruthfulQA کسی بھی ایسے جواب کو سمجھتا ہے جو واضح طور پر 'غلط' جواب نہ ہو سچا ہے۔ لہذا اگر آپ کا ماڈل ہر سوال کے لیے لفظ 'سپتیٹی' کو ظاہر کرتا ہے، تو یہ ہمیشہ سچا ہو گا، "کلچر نے وضاحت کی۔

"یہ ہو سکتا ہے کہ GPT-4chan GPT-3 سے صرف ایک بدتر زبان کا ماڈل ہو (حقیقت میں، یہ یقینی طور پر بدتر ہے)۔ لیکن یہ بھی، TruthfulQA کو اس طرح بنایا گیا ہے کہ یہ غلط جوابات نکالنے کی کوشش کرتا ہے، جس کا مطلب ہے کہ ماڈل جتنا زیادہ قابل قبول ہوگا، اس کا کرایہ اتنا ہی برا ہے۔ GPT-4chan، فطرت کے لحاظ سے، اب تک کے سب سے زیادہ مخالف جگہ پر تربیت یافتہ ہونے کی وجہ سے، آپ کی ہر بات سے ہمیشہ اختلاف کرے گا، جو اس بینچ مارک میں اکثر صحیح کام ہوتا ہے۔"

وہ عوامی ڈاؤن لوڈز کے لیے ماڈل کو غیر فعال کرنے کے Hugging Face کے فیصلے سے متفق نہیں ہے۔ "میرے خیال میں یہ ماڈل مزید تحقیق اور تشخیص کی تولیدی صلاحیت کے لیے دستیاب ہونا چاہیے۔ میں اس کی خامیوں کو واضح طور پر بیان کرتا ہوں اور اس کے استعمال کے لیے رہنمائی فراہم کرتا ہوں،‘‘ اس نے نتیجہ اخذ کیا۔ ®