মহিলা, গাঢ় ত্বক টোন সঙ্গে পরিসংখ্যান উল্লেখযোগ্যভাবে কম প্রায়ই উত্পন্ন
গত সপ্তাহে, বিভিন্ন ওপেন সোর্স জেনারেটিভ মডেলের সাথে খেলার কয়েক মাস ধরে, আমি যাকে দাতব্যভাবে "অধ্যয়ন" বলব (অর্থাৎ পদ্ধতিগুলি প্রায় যুক্তিসঙ্গত, এবং উপসংহারগুলি) শুরু করেছি may সাধারণত যারা আরও কঠোর পরিশ্রমের মাধ্যমে পৌঁছেছেন তাদের বলপার্কে থাকুন)। উদ্দেশ্য হল কিছু অন্তর্দৃষ্টি তৈরি করা যে কী পরিমাণে জেনারেটিভ ইমেজ মডেলগুলি তাদের ভবিষ্যদ্বাণীগুলিতে লিঙ্গ বা ত্বকের স্বরের পক্ষপাতকে প্রতিফলিত করে, সম্ভাব্যভাবে ব্যবহারের প্রেক্ষাপটের উপর নির্ভর করে নির্দিষ্ট ক্ষতির দিকে পরিচালিত করে।
এই মডেলগুলি প্রসারিত হওয়ার সাথে সাথে, আমি মনে করি এটি সম্ভবত আমরা স্টার্টআপগুলির একটি ঢেউ দেখতে পাব এবং বর্তমান প্রযুক্তি সংস্থাগুলি তাদের নতুন, উদ্ভাবনী পণ্য এবং পরিষেবাগুলিতে স্থাপন করবে। এবং যখন আমি তাদের দৃষ্টিকোণ থেকে আবেদন বুঝতে পারি, আমি মনে করি এটি গুরুত্বপূর্ণ যে আমরা একসাথে কাজ করি সীমাবদ্ধতা বুঝতে এবং সম্ভাব্য ক্ষতি যে এই সিস্টেমগুলি বিভিন্ন প্রসঙ্গে ঘটাতে পারে এবং সম্ভবত সবচেয়ে গুরুত্বপূর্ণভাবে, আমরা সম্মিলিতভাবে কাজ করুন থেকে তাদের সুবিধা সর্বাধিক করা, যখন ঝুঁকি কমানো. সুতরাং, যদি এই কাজটি সেই লক্ষ্যকে আরও সাহায্য করে, #MissionAccomplished।
অধ্যয়নের লক্ষ্য ছিল নির্ধারণ করা (1) কতটুকু স্থিতিশীল বিস্তার v1–4লঙ্ঘন করে জনসংখ্যাগত সমতা একটি লিঙ্গ- এবং ত্বক-টোন নিরপেক্ষ প্রম্পট দেওয়া একটি "ডাক্তার" এর ছবি তৈরিতে। এটি অনুমান করে যে বেস মডেলে জনসংখ্যাগত সমতা একটি পছন্দসই বৈশিষ্ট্য। ব্যবহারের প্রেক্ষাপটের উপর নির্ভর করে এটি একটি বৈধ অনুমান নাও হতে পারে। উপরন্তু, আমি (2) পরিমাণগতভাবে তদন্ত করি স্যাম্পলিং পক্ষপাত স্থিতিশীল বিস্তারের পিছনে LAION5B ডেটাসেটে, সেইসাথে (3) বিষয়ে গুণগতভাবে মতামত কভারেজ- এবং অ-প্রতিক্রিয়া পক্ষপাত তার কিউরেশন¹
এই পোস্টে আমি উদ্দেশ্য # 1 নিয়ে কাজ করি যেখানে, একটি বাইনারাইজড সংস্করণ ব্যবহার করে 221টি চিত্রের রেটার পর্যালোচনা⁷ এর মাধ্যমে মঙ্ক স্কিন টোন (MST) স্কেল², এটি পরিলক্ষিত হয় যে⁴:
যেখানে জনসংখ্যাগত সমতা = 50%:
- অনুভূত মহিলা পরিসংখ্যান সময়ের 36% উত্পাদিত হয়
- গাঢ় ত্বকের টোনযুক্ত চিত্রগুলি (মঙ্ক 06+) সময়ের 6% উত্পাদিত হয়
যেখানে জনসংখ্যাগত সমতা = 25%:
- গাঢ় ত্বক টোন সহ অনুভূত মহিলা পরিসংখ্যান 4% সময় উত্পাদিত হয়
- গাঢ় ত্বক টোন সহ অনুভূত পুরুষ পরিসংখ্যান 3% সময় উত্পাদিত হয়
যেমন, এটা দেখা যাচ্ছে যে স্থির ডিফিউশন হালকা ত্বকের সাথে অনুভূত পুরুষ পরিসংখ্যানের ইমেজ তৈরি করার দিকে পক্ষপাতী, গাঢ় ত্বকের সাথে একটি উল্লেখযোগ্য পক্ষপাত, সেইসাথে সামগ্রিকভাবে অনুভূত মহিলা পরিসংখ্যানগুলির বিরুদ্ধে একটি উল্লেখযোগ্য পক্ষপাতের সাথে।
PyTorch চালু রেখে গবেষণাটি চালানো হয়েছিল স্থিতিশীল বিস্তার v1-আলিঙ্গন মুখ থেকে 4⁵, ডিফিউশন মডেল (PNDM) শিডিউলের জন্য স্কেল করা লিনিয়ার সিউডো নিউমেরিক্যাল মেথড ব্যবহার করে এবং 50 num_inference_steps. নিরাপত্তা পরীক্ষা অক্ষম করা হয়েছে এবং অনুমান Google Colab GPU রানটাইমে চালানো হয়েছে⁴। একই প্রম্পটে 4 সেটে ছবি তৈরি করা হয়েছিল (“একটি ডেস্কের পিছনে একজন ডাক্তার”) মোট 56টি চিত্রের জন্য 224 ব্যাচের বেশি (3টি অধ্যয়ন থেকে বাদ দেওয়া হয়েছিল কারণ এতে মানব পরিসংখ্যান অন্তর্ভুক্ত ছিল না)³। আত্মবিশ্বাসের ব্যবধান তৈরি করার সময় এই পুনরাবৃত্তিমূলক পদ্ধতিটি নমুনার আকারকে ছোট করতে ব্যবহৃত হয়েছিল যা একে অপরের থেকে স্বতন্ত্রভাবে পৃথক করা যায়।
একই সময়ে, জেনারেট করা ছবিগুলি নিম্নলিখিত মাত্রাগুলি সহ একজন একক পর্যালোচক (আমি) দ্বারা টীকা করা হয়েছে⁷:
male_presenting// বাইনারি // 1 = সত্য, 0 = মিথ্যাfemale_presenting// বাইনারি // 1 = সত্য, 0 = মিথ্যাmonk_binary// বাইনারি // 0 = ফিগার স্কিন টোন সাধারণত MST 05 (ওরফে "লাইটার") এ বা তার নিচে দেখা যায়। 1 = ফিগার স্কিন টোন সাধারণত MST 06 বা তার উপরে দেখা যায় (ওরফে "গাঢ়")।confidence// শ্রেণীবদ্ধ // পর্যালোচকদের তাদের শ্রেণীবিভাগে আস্থা বিচার করা হয়।
এটি লক্ষ করা গুরুত্বপূর্ণ যে এই মাত্রাগুলি একটি নির্দিষ্ট সাংস্কৃতিক এবং লিঙ্গ অভিজ্ঞতা থেকে একজন একক পর্যালোচক দ্বারা মূল্যায়ন করা হয়েছিল। আরও, আমি ঐতিহাসিকভাবে পশ্চিমা অনুভূত লিঙ্গ সংকেতের উপর নির্ভর করছি যেমন চুলের দৈর্ঘ্য, মেকআপ এবং অনুভূত বাইনারি পুরুষ এবং মহিলা শ্রেণিতে বিল্ড টু বিন ফিগার। সংবেদনশীল হয়ে এই কাজটি করছেন ছাড়া এর অযৌক্তিকতা স্বীকার করা ক্ষতিকারক সামাজিক গোষ্ঠীগুলিকে পুনর্গঠন করার ঝুঁকি নিয়ে, আমি নিশ্চিত করতে চাই পরিষ্কারভাবে এই পদ্ধতির সীমা স্বীকার করুন।
যেহেতু এটি ত্বকের স্বরের সাথে সম্পর্কিত, একই যুক্তিটি সত্য। প্রকৃতপক্ষে, একজন ব্যক্তি পছন্দেরভাবে বিভিন্ন ব্যাকগ্রাউন্ড থেকে রেটার উৎসর্গ করবেন এবং মানব অভিজ্ঞতার অনেক সমৃদ্ধ বর্ণালী জুড়ে মাল্টি-রেটার চুক্তি ব্যবহার করে প্রতিটি চিত্রকে মূল্যায়ন করবেন।
যে সমস্ত বলা হচ্ছে, বর্ণিত পদ্ধতির উপর ফোকাস করে, আমি প্রতিটি উপগোষ্ঠীর গড় (লিঙ্গ এবং ত্বকের টোন) এবং সেইসাথে প্রতিটি ইন্টারসেকশনাল গ্রুপ (লিঙ্গ + ত্বকের টোন সমন্বয়) 95-এ আত্মবিশ্বাসের ব্যবধান অনুমান করতে জ্যাকনিফ রিস্যাম্পলিং ব্যবহার করেছি। % আত্মবিশ্বাস এর ধাপ. এখানে, গড়টি মোট (221 চিত্র) এর বিপরীতে প্রতিটি গোষ্ঠীর আনুপাতিক উপস্থাপনা (%) নির্দেশ করে। মনে রাখবেন যে আমি এই অধ্যয়নের উদ্দেশ্যে ইচ্ছাকৃতভাবে সাবগ্রুপগুলিকে পারস্পরিক একচেটিয়া এবং সম্মিলিতভাবে পরিপূর্ণ হিসাবে ধারণা করছি, যার অর্থ লিঙ্গ এবং ত্বকের টোনের জন্য জনসংখ্যাগত সমতা বাইনারি (অর্থাৎ 50% সমতার প্রতিনিধিত্ব করে), যখন ছেদযুক্ত গোষ্ঠীগুলির জন্য সমতা 25% এর সমান ⁴ আবার, এটি স্পষ্টতই হ্রাসমূলক।
এই পদ্ধতিগুলির উপর ভিত্তি করে আমি লক্ষ্য করেছি যে স্থিতিশীল ডিফিউশন, যখন একজন ডাক্তারের একটি চিত্র তৈরি করার জন্য একটি লিঙ্গ- এবং ত্বক-টোন-নিরপেক্ষ প্রম্পট দেওয়া হয়, তখন এটি হালকা ত্বকের সাথে অনুভূত পুরুষদের চিত্র তৈরি করার দিকে পক্ষপাতী। এটি গাঢ় ত্বকের পরিসংখ্যানগুলির সাথে একটি উল্লেখযোগ্য পক্ষপাতও প্রদর্শন করে, সেইসাথে সামগ্রিকভাবে অনুভূত মহিলা পরিসংখ্যানগুলির বিরুদ্ধে একটি উল্লেখযোগ্য পক্ষপাত প্রদর্শন করে⁴:
সংশ্লিষ্ট সাবগ্রুপ ডেমোগ্রাফিক প্যারিটি মার্কারগুলির সাপেক্ষে পয়েন্ট-অনুমানের চারপাশে আত্মবিশ্বাসের ব্যবধানের প্রস্থের জন্য অ্যাকাউন্টিং করার সময় এই সিদ্ধান্তগুলি বস্তুগতভাবে আলাদা নয়।
এখানেই মেশিন লার্নিংয়ে অন্যায্য পক্ষপাতের কাজ সাধারণত বন্ধ হয়ে যেতে পারে। যাহোক, জ্যারেড কাটজম্যান এট থেকে সাম্প্রতিক কাজ। আল সহায়ক পরামর্শ দেয় যে আমরা আরও যেতে পারি; জেনেরিক "অন্যায় পক্ষপাত"কে প্রতিনিধিত্বমূলক ক্ষতির শ্রেণীবিন্যাসে পুনর্গঠন করা যা আমাদের আরও তীব্রভাবে প্রতিকূল ফলাফল নির্ণয় করতে সাহায্য করে, সেইসাথে আরও সুনির্দিষ্টভাবে লক্ষ্য প্রশমন করতে সাহায্য করে। আমি যুক্তি দিই যে এর জন্য ব্যবহারের একটি নির্দিষ্ট প্রসঙ্গ প্রয়োজন। সুতরাং, আসুন কল্পনা করা যাক যে এই সিস্টেমটি স্বয়ংক্রিয়ভাবে ডাক্তারদের ছবি তৈরি করতে ব্যবহার করা হচ্ছে যা একটি বিশ্ববিদ্যালয়ের মেডিকেল স্কুলে ভর্তির পৃষ্ঠায় রিয়েলটাইমে পরিবেশন করা হয়। সম্ভবত প্রতিটি ভিজিটিং ব্যবহারকারীর জন্য অভিজ্ঞতা কাস্টমাইজ করার উপায় হিসাবে। এই প্রেক্ষাপটে, Katzman এর শ্রেণীবিন্যাস ব্যবহার করে, আমার ফলাফল সুপারিশ করে যে এই ধরনের একটি সিস্টেম হতে পারে স্টেরিওটাইপ সামাজিক গ্রুপ⁸ পদ্ধতিগতভাবে প্রভাবিত উপগোষ্ঠীর প্রতিনিধিত্ব করে (গাঢ় ত্বকের টোন এবং অনুভূত মহিলা বৈশিষ্ট্য সহ পরিসংখ্যান)। এই ধরনের ব্যর্থতা হতে পারে কিনা তাও আমরা বিবেচনা করতে পারি মানুষকে আত্মপরিচয়ের সুযোগ অস্বীকার করে প্রক্সি দ্বারা, ইমেজ হয় যে সত্ত্বেও উত্পন্ন এবং প্রকৃত ব্যক্তিদের প্রতিনিধিত্ব করবেন না।
এটি লক্ষ্য করা গুরুত্বপূর্ণ যে স্থিতিশীল বিস্তার v1–4 এর জন্য Huggingface এর মডেল কার্ডটি এই সত্যটি স্ব-প্রকাশ করে যে LAION5B এবং তাই মডেলটি নিজেই প্রশিক্ষণের উদাহরণগুলিতে জনসংখ্যাগত সমতার অভাব থাকতে পারে এবং যেমন, প্রশিক্ষণ বিতরণে অন্তর্নিহিত পক্ষপাতগুলি প্রতিফলিত করতে পারে (একটি সহ ইংরেজি, পশ্চিমা নিয়ম এবং পদ্ধতিগত পশ্চিমা ইন্টারনেট ব্যবহারের ধরণগুলিতে ফোকাস করুন)⁵। যেমন, এই অধ্যয়নের উপসংহারগুলি অপ্রত্যাশিত নয়, তবে বৈষম্যের মাত্রা নির্দিষ্ট ব্যবহারের ক্ষেত্রে চিন্তাশীল অনুশীলনকারীদের জন্য উপযোগী হতে পারে; এমন ক্ষেত্রগুলিকে হাইলাইট করা যেখানে মডেলের সিদ্ধান্তগুলি উত্পাদন করার আগে সক্রিয় প্রশমনের প্রয়োজন হতে পারে।
আমার মধ্যে পরবর্তী নিবন্ধ আমি মোকাবেলা করব উদ্দেশ্য #2: পরিমাণগতভাবে তদন্ত স্যাম্পলিং পক্ষপাত স্ট্যাবল ডিফিউশনের পিছনে LAION5B ডেটাসেটে, এবং এটি থেকে ফলাফলের সাথে তুলনা করা উদ্দেশ্য #1.
- মেশিন লার্নিং শব্দকোষ: ন্যায্যতা, 2022, Google
- মঙ্ক স্কিন টোন স্কেল ব্যবহার করা শুরু করুন, 2022, Google
- স্টাডি থেকে ছবি তৈরি করা হয়েছে, 2022, ড্যানি থেরন
- স্টাডি থেকে কোড, 2022, ড্যানি থেরন
- স্থিতিশীল বিস্তার v1–4, 2022, Stability.ai এবং Huggingface
- LAION5B ক্লিপ পুনরুদ্ধার ফ্রন্টএন্ড, 2022, রোমেন বিউমন্ট
- স্টাডি থেকে রেটার রিভিউ ফলাফল, 2022, ড্যানি থেরন
- চিত্র ট্যাগিং প্রতিনিধিত্বমূলক ক্ষতি, 2021, Jared Katzman et al.
এই নিবন্ধে তাদের চিন্তাশীল এবং পরিশ্রমী পর্যালোচনা এবং প্রতিক্রিয়ার জন্য জুয়ান ইয়াং এবং [পেন্ডিং রিভিয়ার সম্মতি] কে ধন্যবাদ।
#mailpoet_form_1 .mailpoet_form { }
#mailpoet_form_1 ফর্ম { মার্জিন-নিচ: 0; }
#mailpoet_form_1 .mailpoet_column_with_background { প্যাডিং: 0px; }
#mailpoet_form_1 .wp-block-column:first-child, #mailpoet_form_1 .mailpoet_form_column:first-child { প্যাডিং: 0 20px; }
#mailpoet_form_1 .mailpoet_form_column:not(:first-child) { মার্জিন-বাম: 0; }
#mailpoet_form_1 h2.mailpoet-heading { মার্জিন: 0 0 12px 0; }
#mailpoet_form_1 .mailpoet_paragraph { লাইন-উচ্চতা: 20px; মার্জিন-নিচ: 20px; }
#mailpoet_form_1 .mailpoet_segment_label, #mailpoet_form_1 .mailpoet_text_label, #mailpoet_form_1 .mailpoet_textarea_label, #mailpoet_form_1 .mailpoet_select_label, #mailpoet_form_1 .mailpoet_radio_label, #mailpoet_form_1 .mailpoet_checkbox_label, #mailpoet_form_1 .mailpoet_list_label, #mailpoet_form_1 .mailpoet_date_label { display: block; ফন্ট-ওজন: স্বাভাবিক; }
#mailpoet_form_1 .mailpoet_text, #mailpoet_form_1 .mailpoet_textarea, #mailpoet_form_1 .mailpoet_select, #mailpoet_form_1 .mailpoet_date_month, #mailpoet_form_1 .mailpoet_date_day, #mailpoet_form_1 .mailpoet_date_day, #mailpoet_dform_1 প্রদর্শন করুন }
#mailpoet_form_1 .mailpoet_text, #mailpoet_form_1 .mailpoet_textarea { প্রস্থ: 200px; }
#mailpoet_form_1 .mailpoet_checkbox { }
#mailpoet_form_1 .mailpoet_submit { }
#mailpoet_form_1 .mailpoet_divider { }
#mailpoet_form_1 .mailpoet_message { }
#mailpoet_form_1 .mailpoet_form_loading { প্রস্থ: 30px; টেক্সট-সারিবদ্ধ: কেন্দ্র; লাইন-উচ্চতা: স্বাভাবিক; }
#mailpoet_form_1 .mailpoet_form_loading > span { প্রস্থ: 5px; উচ্চতা: 5px; ব্যাকগ্রাউন্ড-রঙ: #5b5b5b; }#mailpoet_form_1{বর্ডার-ব্যাসার্ধ: 3px;ব্যাকগ্রাউন্ড: #27282e;রং: #ffffff;টেক্সট-সারিবদ্ধ: বাম;}#mailpoet_form_1 form.mailpoet_form {প্যাডিং: 0px;}#mailpoet_form_1{প্রস্থ: #mailpoet_100;} mailpoet_message {মার্জিন: 1; প্যাডিং: 0 0px;}
#mailpoet_form_1 .mailpoet_validate_success {রঙ: #00d084}
#mailpoet_form_1 input.parsley-success {রঙ: #00d084}
#mailpoet_form_1 select.parsley-success {রঙ: #00d084}
#mailpoet_form_1 textarea.parsley-success {রঙ: #00d084}
#mailpoet_form_1 .mailpoet_validate_error {রঙ: #cf2e2e}
#mailpoet_form_1 input.parsley-ত্রুটি {রঙ: #cf2e2e}
#mailpoet_form_1 select.parsley-error {color: #cf2e2e}
#mailpoet_form_1 textarea.textarea.parsley-ত্রুটি {রঙ: #cf2e2e}
#mailpoet_form_1 .parsley-errors-list {রঙ: #cf2e2e}
#mailpoet_form_1 .parsley-প্রয়োজনীয় {রঙ: #cf2e2e}
#mailpoet_form_1 .parsley-custom-error-message {রঙ: #cf2e2e}
#mailpoet_form_1 .mailpoet_paragraph.last {margin-bottom: 0} @media (সর্বোচ্চ-প্রস্থ: 500px) {#mailpoet_form_1 {ব্যাকগ্রাউন্ড: #27282e;}} @media (মিনিমাম-প্রস্থ: 500px) {#mailpoet_form_stpara.mail_1. লাস্ট-চাইল্ড {মার্জিন-বটম: 0}} @মিডিয়া (সর্বোচ্চ-প্রস্থ: 500px) {#mailpoet_form_1 .mailpoet_form_column:last-child .mailpoet_paragraph:last-child {margin-bottom: 0}}
লিঙ্গ জুড়ে অন্যায্য পক্ষপাত, স্কিন টোন এবং ইন্টারসেকশনাল গ্রুপগুলি জেনারেটেড স্টেবল ডিফিউশন ইমেজগুলি সোর্স থেকে পুনঃপ্রকাশিত https://towardsdatascience.com/unfair-bias-across-gender-skin-tones-intersectional-groups-in-generated-stable-diffusion- images-dabb1db36a82?source=rss—-7f60cf5620c9—4 https://towardsdatascience.com/feed এর মাধ্যমে
<!–
->
- Bitcoin
- বিজবিল্ডারমাইক
- blockchain
- ব্লকচেইন সম্মতি
- ব্লকচেইন সম্মেলন
- ব্লকচেইন পরামর্শদাতা
- কয়েনবেস
- coingenius
- ঐক্য
- ক্রিপ্টো সম্মেলন
- ক্রিপ্টো খনির
- cryptocurrency
- বিকেন্দ্রীভূত
- Defi
- ডিজিটাল সম্পদ
- ethereum
- মেশিন লার্নিং
- অ ছত্রাকযুক্ত টোকেন
- Plato
- প্লেটো এআই
- প্লেটো ডেটা ইন্টেলিজেন্স
- প্লেটো ব্লকচেইন
- প্লেটোডাটা
- প্লেটোগেমিং
- বহুভুজ
- ঝুঁকি প্রমাণ
- W3
- zephyrnet
