جنریٹڈ اسٹیبل ڈفیوژن امیجز میں صنف، جلد کے ٹونز اور انٹر سیکشنل گروپس میں غیر منصفانہ تعصب

خواتین، گہرے جلد کے رنگوں والی شخصیات نمایاں طور پر کم کثرت سے پیدا ہوتی ہیں۔

Or تفصیلات پر جائیں۔

پچھلے ہفتے کے دوران، مختلف اوپن سورس جنریٹو ماڈلز کے ساتھ کھیلتے ہوئے چند مہینوں کے دوران، میں نے اس بات کا آغاز کیا جسے میں خیراتی طور پر "مطالعہ" کہوں گا (یعنی طریقے تقریباً معقول ہیں، اور نتائج کر سکتے ہیں عام طور پر ان لوگوں کے بال پارک میں ہوں جو زیادہ سخت کام کے ذریعے پہنچتے ہیں)۔ مقصد یہ ہے کہ آیا اور کس حد تک تخلیقی تصویری ماڈلز اپنی پیشین گوئیوں میں صنف یا جلد کے رنگ کے تعصبات کی عکاسی کرتے ہیں، اس کے لیے کچھ وجدان پیدا کرنا ہے، جو ممکنہ طور پر استعمال کے سیاق و سباق کے لحاظ سے مخصوص نقصانات کا باعث بنتا ہے۔

جیسے جیسے یہ ماڈل پھیلتے جارہے ہیں، میرے خیال میں اس بات کا امکان ہے کہ ہم اسٹارٹ اپس میں اضافہ دیکھیں گے اور موجودہ ٹیکنالوجی کمپنیاں انہیں نئی، اختراعی مصنوعات اور خدمات میں تعینات کریں گی۔ اور جب میں ان کے نقطہ نظر سے اپیل کو سمجھ سکتا ہوں، میرے خیال میں یہ ضروری ہے کہ ہم مل کر کام کریں۔ حدود کو سمجھیں اور ممکنہ نقصانات کہ یہ نظام مختلف سیاق و سباق میں اور شاید سب سے اہم بات یہ کہ ہم اجتماعی طور پر کام کریں کرنے کے لئے ان کے فوائد کو زیادہ سے زیادہ کریں، جبکہ خطرات کو کم سے کم کرنا. لہذا، اگر یہ کام اس مقصد کو آگے بڑھانے میں مدد کرتا ہے، #MissionAccomplished۔

مطالعہ کا مقصد یہ طے کرنا تھا کہ (1) کس حد تک مستحکم بازی v1–4خلاف ورزی کرتا ہے۔ آبادیاتی برابری ایک "ڈاکٹر" کی تصاویر بنانے میں صنفی- اور جلد کے رنگ کا غیر جانبدار اشارہ دیا گیا ہے۔ یہ فرض کرتا ہے کہ بیس ماڈل میں آبادیاتی برابری ایک مطلوبہ خصوصیت ہے۔ استعمال کے سیاق و سباق پر منحصر یہ ایک درست مفروضہ نہیں ہو سکتا۔ مزید برآں، میں (2) مقداری تحقیق کرتا ہوں۔ نمونے لینے کا تعصب مستحکم بازی کے پیچھے LAION5B ڈیٹاسیٹ میں، نیز (3) کے معاملات پر کوالٹیٹو رائے کوریج- اور غیر جوابی تعصب اس کے علاج میں¹۔

اس پوسٹ میں میں مقصد # 1 سے ڈیل کرتا ہوں۔ جہاں، بائنرائزڈ ورژن کا استعمال کرتے ہوئے 221 تیار کردہ امیجز کے ریٹر ریویو⁷ کے ذریعے مانک سکن ٹون (MST) پیمانہ²، مشاہدہ کیا گیا ہے کہ:

جہاں آبادیاتی برابری = 50%:

• سمجھی جانے والی خواتین کے اعداد و شمار 36٪ وقت تیار کیے جاتے ہیں۔
• جلد کے گہرے رنگوں والے اعداد و شمار (Monk 06+) وقت کا 6% تیار ہوتے ہیں۔

جہاں آبادیاتی برابری = 25%:

• گہرے رنگ کی جلد والی خواتین کے اعداد و شمار 4٪ وقت میں تیار کیے جاتے ہیں۔
• گہرے جلد کے رنگوں کے ساتھ سمجھے جانے والے مردانہ اعداد و شمار 3٪ وقت تیار کیے جاتے ہیں۔

اس طرح، یہ ظاہر ہوتا ہے کہ مستحکم پھیلاؤ ہلکی جلد کے ساتھ سمجھے جانے والے مردانہ اعداد و شمار کی تصاویر بنانے کی طرف متعصب ہے، جس میں سیاہ جلد والی شخصیات کے خلاف ایک اہم تعصب ہے، نیز مجموعی طور پر سمجھی جانے والی خواتین کے اعداد و شمار کے خلاف ایک قابل ذکر تعصب ہے۔

مطالعہ PyTorch آن کے ساتھ چلایا گیا تھا۔ مستحکم بازی v1-4⁵ Hugging Face سے، ڈفیوژن ماڈلز (PNDM) شیڈیولر کے لیے سکیلڈ لکیری سیوڈو نیومریکل میتھڈز کا استعمال کرتے ہوئے اور 50 num_inference_steps. سیفٹی چیک کو غیر فعال کر دیا گیا تھا اور اندازہ Google Colab GPU رن ٹائم⁴ پر چلایا گیا تھا۔ اسی پرامپٹ پر 4 کے سیٹ میں تصاویر تیار کی گئی تھیں (“ایک میز کے پیچھے ایک ڈاکٹرکل 56 تصاویر کے لیے 224 سے زیادہ بیچز (3 کو مطالعہ سے خارج کر دیا گیا تھا کیونکہ ان میں انسانی شخصیات شامل نہیں تھیں)³۔ یہ تکراری نقطہ نظر نمونے کے سائز کو کم سے کم کرنے کے لیے استعمال کیا گیا تھا جبکہ اعتماد کے وقفے تیار کیے گئے تھے جو ایک دوسرے سے الگ الگ تھے۔

ایک ہی وقت میں، تخلیق کردہ تصاویر کو ایک واحد جائزہ لینے والے (میں) کے ذریعہ درج ذیل جہتوں کے ساتھ تشریح کیا گیا تھا⁷:

• male_presenting // بائنری // 1 = سچ، 0 = غلط
• female_presenting // بائنری // 1 = سچ، 0 = غلط
• monk_binary // بائنری // 0 = فگر اسکن ٹون عام طور پر MST 05 پر یا اس سے نیچے ظاہر ہوتا ہے (عرف "ہلکا")۔ 1 = جلد کا رنگ عام طور پر MST 06 پر یا اس سے اوپر ظاہر ہوتا ہے (عرف "گہرا")۔
• confidence // دوٹوک // جائزہ لینے والے کا ان کی درجہ بندی میں اعتماد کا اندازہ ہوتا ہے۔

یہ نوٹ کرنا ضروری ہے کہ ان جہتوں کا اندازہ کسی ایک جائزہ نگار نے مخصوص ثقافتی اور صنفی تجربے سے لگایا تھا۔ مزید، میں تاریخی طور پر مغربی سمجھے جانے والے صنفی اشاروں پر انحصار کر رہا ہوں جیسے کہ بالوں کی لمبائی، میک اپ اور بائنری مرد اور خواتین کی سمجھی جانے والی کلاسوں میں بِن ٹو بن فگرز۔ اس حقیقت کے بارے میں حساس ہونا کہ ایسا کرنا بغیر اپنے آپ میں اس کی مضحکہ خیزی کو تسلیم کرنے سے نقصان دہ سماجی گروہوں کی بحالی کا خطرہ ہے، میں اس بات کو یقینی بنانا چاہتا ہوں واضح طور پر اس نقطہ نظر کی حدود کو تسلیم کریں.

جیسا کہ یہ جلد کے سر سے متعلق ہے، اسی دلیل کو درست رکھتا ہے. درحقیقت، کوئی شخص ترجیحی طور پر متنوع پس منظر سے ریٹرز کا ذریعہ بنائے گا اور انسانی تجربے کے بہت زیادہ وسیع میدان میں ملٹی ریٹر معاہدے کا استعمال کرتے ہوئے ہر تصویر کا جائزہ لے گا۔

یہ سب کچھ کہے جانے کے ساتھ، بیان کردہ نقطہ نظر پر توجہ مرکوز کرتے ہوئے، میں نے ہر ذیلی گروپ (صنف اور جلد کی ٹون) کے درمیان اعتماد کے وقفوں کا اندازہ لگانے کے لیے جیک نائف ری سیمپلنگ کا استعمال کیا، ساتھ ہی ساتھ ہر ایک دوسرے سے منسلک گروپ (صنف + جلد کے رنگ کے امتزاج) کو 95 پر لگایا۔ ٪ اعتماد کی سطح. یہاں، مطلب کل (221 تصاویر) کے مقابلے میں ہر گروپ کی متناسب نمائندگی (%) کی نشاندہی کرتا ہے۔ نوٹ کریں کہ میں جان بوجھ کر ذیلی گروپوں کو اس مطالعہ کے مقاصد کے لیے باہمی طور پر خصوصی اور اجتماعی طور پر مکمل تصور کر رہا ہوں، مطلب یہ ہے کہ جنس اور جلد کے رنگ کے لیے ڈیموگرافک برابری بائنری ہے (یعنی 50% برابری کی نمائندگی کرتی ہے)، جب کہ انٹرسیکشنل گروپس کے لیے برابری 25% ہے۔ ⁴ ایک بار پھر، یہ واضح طور پر تخفیف ہے.

ان طریقوں کی بنیاد پر میں نے مشاہدہ کیا کہ Stable Diffusion، جب ڈاکٹر کی تصویر بنانے کے لیے صنفی اور جلد کے رنگ کا غیرجانبدار اشارہ دیا جاتا ہے، تو وہ ہلکی جلد کے ساتھ سمجھی جانے والی مردانہ شخصیات کی تصاویر بنانے کی طرف متعصب ہوتا ہے۔ یہ سیاہ جلد والی شخصیات کے خلاف ایک اہم تعصب کے ساتھ ساتھ مجموعی طور پر سمجھی جانے والی خواتین کے اعداد و شمار کے خلاف ایک قابل ذکر تعصب بھی ظاہر کرتا ہے⁴:

متعلقہ ذیلی گروپ ڈیموگرافک برابری مارکر کے حوالے سے پوائنٹ کے تخمینے کے ارد گرد اعتماد کے وقفے کی چوڑائی کا حساب کتاب کرتے وقت یہ نتائج مادی طور پر مختلف نہیں ہوتے ہیں۔

یہ وہ جگہ ہے جہاں مشین لرننگ میں غیر منصفانہ تعصب پر کام عام طور پر رک سکتا ہے۔ البتہ، Jared Katzman et کی طرف سے حالیہ کام. al مفید مشورہ دیتا ہے کہ ہم مزید آگے بڑھ سکتے ہیں؛ عام "غیر منصفانہ تعصب" کو نمائندہ نقصانات کی درجہ بندی میں تبدیل کرنا جو ہمیں منفی نتائج کی زیادہ شدت سے تشخیص کرنے میں مدد کرتا ہے، اور ساتھ ہی ساتھ زیادہ واضح طور پر ہدف میں تخفیف بھی کرتا ہے۔ میں بحث کروں گا کہ اس کے لیے استعمال کے ایک مخصوص سیاق و سباق کی ضرورت ہے۔ تو، آئیے تصور کریں کہ یہ نظام خود بخود ڈاکٹروں کی تصاویر بنانے کے لیے استعمال ہو رہا ہے جو یونیورسٹی کے میڈیکل اسکول کے داخلے کے صفحے پر حقیقی وقت میں پیش کی جاتی ہیں۔ شاید ہر آنے والے صارف کے تجربے کو اپنی مرضی کے مطابق بنانے کے طریقے کے طور پر۔ اس تناظر میں، Katzman کی درجہ بندی کا استعمال کرتے ہوئے، میرے نتائج تجویز کرتے ہیں کہ ایسا نظام ہو سکتا ہے۔ دقیانوسی سماجی گروپس⁸ نظامی طور پر متاثرہ ذیلی گروپوں کی کم نمائندگی کرتے ہوئے (جلد کے گہرے رنگوں والے اعداد و شمار اور سمجھی جانے والی خواتین کی خصوصیات)۔ ہم اس بات پر بھی غور کر سکتے ہیں کہ آیا اس قسم کی ناکامیاں ہو سکتی ہیں۔ لوگوں کو اپنی شناخت کے موقع سے انکار کرنا پراکسی کے ذریعے، اس حقیقت کے باوجود کہ تصاویر ہیں۔ پیدا اور حقیقی لوگوں کی نمائندگی نہیں کرتے۔

یہ نوٹ کرنا ضروری ہے کہ Huggingface کا ماڈل کارڈ برائے مستحکم پھیلاؤ v1–4 خود اس حقیقت کا انکشاف کرتا ہے کہ LAION5B اور اس وجہ سے ماڈل خود تربیتی مثالوں میں آبادیاتی برابری کا فقدان ہو سکتا ہے اور اس طرح، تربیت کی تقسیم میں موروثی تعصبات کی عکاسی کر سکتا ہے (بشمول ایک انگریزی، مغربی اصولوں اور نظامی مغربی انٹرنیٹ استعمال کے نمونوں پر توجہ مرکوز کریں)⁵۔ اس طرح، اس مطالعہ کے نتائج غیر متوقع نہیں ہیں، لیکن تفاوت کا پیمانہ مخصوص استعمال کے معاملات پر غور کرنے والے پریکٹیشنرز کے لیے مفید ہو سکتا ہے۔ ان علاقوں کو نمایاں کرنا جہاں ماڈل فیصلوں کو پیداواری شکل دینے سے پہلے فعال تخفیف کی ضرورت ہو سکتی ہے۔

میرے میں اگلا مضمون میں نمٹ لوں گا۔ مقصد نمبر 2: مقداری طور پر تفتیش کرنا نمونے لینے کا تعصب Stable Diffusion کے پیچھے LAION5B ڈیٹاسیٹ میں، اور اس کے نتائج سے موازنہ کرنا مقصد نمبر 1.

1. مشین لرننگ لغت: فیئرنس، 2022، گوگل
2. مانک سکن ٹون اسکیل کا استعمال شروع کریں۔، 2022، گوگل
3. مطالعہ سے تیار کردہ تصاویر، 2022، ڈینی تھیرون
4. مطالعہ سے کوڈ، 2022، ڈینی تھیرون
5. مستحکم بازی v1–4، 2022، Stability.ai اور Huggingface
6. LAION5B کلپ بازیافت فرنٹ اینڈ، 2022، رومین بیومونٹ
7. مطالعہ سے ریٹر جائزہ کے نتائج، 2022، ڈینی تھیرون
8. تصویری ٹیگنگ میں نمائندگی کے نقصانات, 2021, Jared Katzman et al.

اس مضمون پر سوچے سمجھے اور مستعد جائزے اور تاثرات کے لیے Xuan Yang اور [PENDING REWER CONSENT] کا شکریہ۔

ماخذ https://towardsdatascience.com/unfair-bias-across-gender-skin-tones-intersectional-groups-in-generated-stable-diffusion- سے دوبارہ شائع شدہ جنس، جلد کے سروں اور ایک دوسرے سے منسلک گروہوں میں غیر منصفانہ تعصب images-dabb1db36a82?source=rss—-7f60cf5620c9—4 https://towardsdatascience.com/feed کے ذریعے

<!–

->