DALL·E 2 میں تعصب کو کم کرنا اور حفاظت کو بہتر بنانا

آج، ہم ایک نئی تکنیک کو نافذ کر رہے ہیں تاکہ DALL·E لوگوں کی ایسی تصاویر تیار کرے جو دنیا کی آبادی کے تنوع کو زیادہ درست طریقے سے ظاہر کریں۔ یہ تکنیک سسٹم کی سطح پر اس وقت لاگو ہوتی ہے جب DALL·E کو کسی ایسے شخص کی وضاحت کرنے کا اشارہ دیا جاتا ہے جو نسل یا جنس کی وضاحت نہیں کرتا، جیسے "فائر فائٹر"۔

ہماری داخلی تشخیص کی بنیاد پر، تکنیک کو لاگو کرنے کے بعد صارفین کے یہ کہنے کا امکان 12× زیادہ تھا کہ DALL·E تصاویر میں متنوع پس منظر کے لوگ شامل تھے۔ ہم وقت کے ساتھ ساتھ اس تکنیک کو بہتر بنانے کا ارادہ رکھتے ہیں کیونکہ ہم مزید ڈیٹا اور تاثرات اکٹھا کرتے ہیں۔

اپریل میں، ہم نے محدود تعداد میں لوگوں کے لیے DALL·E 2 تحقیق کا جائزہ لینا شروع کیا، جس نے ہمیں سسٹم کی صلاحیتوں اور حدود کو بہتر طور پر سمجھنے اور اپنے حفاظتی نظام کو بہتر بنانے کی اجازت دی ہے۔

پیش نظارہ کے اس مرحلے کے دوران، ابتدائی صارفین نے حساس اور متعصب تصاویر کو جھنڈا لگایا ہے جس نے اس نئی تخفیف کو مطلع کرنے اور اس کا اندازہ کرنے میں مدد کی ہے۔

ہم اس بات کی تحقیق جاری رکھے ہوئے ہیں کہ کس طرح AI سسٹمز، جیسے DALL·E، اپنے تربیتی ڈیٹا میں تعصبات کی عکاسی کر سکتے ہیں اور مختلف طریقوں سے ہم ان سے نمٹ سکتے ہیں۔

تحقیقی پیش نظارہ کے دوران ہم نے اپنے حفاظتی نظام کو بہتر بنانے کے لیے دیگر اقدامات کیے ہیں، بشمول:

• DALL·E کے حقیقی چہروں پر مشتمل تصویری اپ لوڈز کو مسترد کرکے دھوکہ دہی پر مبنی مواد بنانے کے لیے غلط استعمال کیے جانے کے خطرے کو کم کرنا اور عوامی شخصیات کی مشابہت پیدا کرنے کی کوششیں، بشمول مشہور شخصیات اور نمایاں سیاسی شخصیات۔
• ہمارے مواد کے فلٹرز کو زیادہ درست بنانا تاکہ وہ ہماری خلاف ورزی کرنے والے اشارے اور تصویری اپ لوڈز کو روکنے میں زیادہ موثر ہوں۔ مواد کی پالیسی تخلیقی اظہار کی اجازت دیتے ہوئے
• غلط استعمال سے بچاؤ کے لیے خودکار اور انسانی نگرانی کے نظام کو بہتر بنانا۔

ان بہتریوں نے ہمیں مزید صارفین کو DALL·E کا تجربہ کرنے کی دعوت دینے کی صلاحیت میں اعتماد حاصل کرنے میں مدد کی ہے۔

رسائی کو بڑھانا ہمارا ایک اہم حصہ ہے۔ AI سسٹمز کو ذمہ داری کے ساتھ تعینات کرنا کیونکہ یہ ہمیں حقیقی دنیا کے استعمال کے بارے میں مزید جاننے اور اپنے حفاظتی نظاموں پر اعادہ کرنے کی اجازت دیتا ہے۔