انتھروپک نے اپنے اصولوں کو صارفین کے ذریعہ منتخب کرنے کی اجازت دے کر ایک جمہوری AI چیٹ بوٹ بنایا۔

مصنوعی ذہانت (AI) کمپنی، Anthropic نے AI صلاحیتوں کی ایک اہم دریافت میں، صارف کی متعین اقدار کی عکاسی کرنے کے لیے ایک بڑے لینگویج ماڈل (LLM) کو تیار کیا ہے۔ اس منفرد مطالعہ میں 1,000 شرکاء سے ان پٹ جمع کرنا شامل تھا تاکہ ان کے اجتماعی فیصلوں کی بنیاد پر LLM کے جوابات کو ٹھیک بنایا جا سکے۔

روایتی LLMs کے برعکس جو کچھ آؤٹ پٹس کو محدود کرنے کے لیے پہلے سے طے شدہ گارڈریلز سے لیس ہیں، Anthropic کا نقطہ نظر صارف ایجنسی کو قبول کرتا ہے۔ انتھروپک سے کلاڈ اور OpenAI سے ChatGPT جیسے ماڈل اکثر پہلے سے طے شدہ حفاظتی ردعمل پر عمل کرتے ہیں، خاص طور پر حساس موضوعات کے حوالے سے۔ تاہم، ناقدین کا استدلال ہے کہ اس طرح کی مداخلتیں صارف کی خود مختاری پر سمجھوتہ کر سکتی ہیں، کیونکہ قابل قبولیت کی تعریف مختلف ہوتی ہے اور ثقافتوں اور وقت کے ادوار میں موضوعی ہوتی ہے۔

اس پیچیدہ چیلنج کا ایک ممکنہ حل صارفین کو AI ماڈلز کی ویلیو الائنمنٹ کو شکل دینے کے لیے بااختیار بنانا ہے۔ انتھروپک نے پولس اور اجتماعی انٹیلی جنس پروجیکٹ کے ساتھ مل کر "اجتماعی آئینی AI" کے تجربے کا آغاز کیا۔ متنوع پس منظر سے تعلق رکھنے والے 1,000 صارفین کو شامل کرتے ہوئے، انہوں نے قیمتی بصیرتیں جمع کرنے کے لیے پولنگ کے ذریعے سوالات کا ایک سلسلہ کھڑا کیا۔

یہ تجربہ صارفین کو ناپسندیدہ نتائج کے سامنے لائے بغیر مناسبیت کا تعین کرنے کا اختیار دینے کے گرد گھومتا ہے۔ اس عمل میں صارف کی اقدار کو نکالنا اور انہیں پہلے سے تربیت یافتہ ماڈل میں شامل کرنا شامل تھا۔ انتھروپک ایک تکنیک کو استعمال کرتا ہے جسے "آئینی AI" کہا جاتا ہے، جہاں ماڈل کو قوانین کا ایک سیٹ فراہم کیا جاتا ہے، جو قوموں میں دستور کی رہنمائی کرنے کے مترادف ہے۔

اجتماعی آئینی AI تجربے میں، Anthropic کا مقصد صارف گروپس کے تاثرات کو ماڈل کے آئین میں ضم کرنا تھا۔ Anthropic کی بلاگ پوسٹ کے مطابق، نتائج ایک سائنسی کامیابی کی تجویز کرتے ہیں، جو صارفین کو LLM پروڈکٹ کی قدروں کو اجتماعی طور پر متعین کرنے دینے سے وابستہ چیلنجوں پر روشنی ڈالتے ہیں۔

ٹیم کو درپیش ایک قابل ذکر رکاوٹ ایک نیا بینچ مارکنگ عمل تیار کرنا تھا۔ تجربے کی ابتدائی نوعیت اور انتھروپک کے آئینی AI طریقہ کار پر انحصار کے پیش نظر، ہجوم سے حاصل شدہ قدروں کا استعمال کرتے ہوئے بیس ماڈلز کا موازنہ کرنے کے لیے کوئی ٹیسٹ نہیں ہے۔

آخر میں، ایسا لگتا ہے کہ صارف کے پولنگ فیڈ بیک سے اخذ کردہ ڈیٹا کو شامل کرنے والے ماڈل نے متعصب آؤٹ پٹس کو کم کرنے میں بنیادی ماڈل کے مقابلے میں "معمولی" بہتری کی نمائش کی۔ انتھروپک نہ صرف نتیجہ خیز ماڈل کے بارے میں جوش و خروش کا اظہار کرتا ہے بلکہ اس سے بھی اہم بات یہ ہے کہ خود زمینی عمل کے بارے میں۔ یہ تجربہ ابتدائی مثالوں میں سے ایک کی نشاندہی کرتا ہے جہاں عوام، ایک اجتماعی طور پر، جان بوجھ کر ایک بڑے زبان کے ماڈل کے طرز عمل کو متاثر کرتی ہے۔ امید یہ ہے کہ عالمی سطح پر کمیونٹیز ایسے ماڈل تیار کرنے کے لیے ایسی تکنیکوں پر استوار ہوں گی جو ان کی مخصوص ثقافتی اور سیاق و سباق کی ضروریات کے مطابق ہوں۔