DALL·E 2-এ পক্ষপাত কমানো এবং নিরাপত্তার উন্নতি করা

আজ, আমরা একটি নতুন কৌশল প্রয়োগ করছি যাতে DALL·E মানুষের ছবি তৈরি করে যা বিশ্বের জনসংখ্যার বৈচিত্র্যকে আরও সঠিকভাবে প্রতিফলিত করে। এই কৌশলটি সিস্টেম স্তরে প্রয়োগ করা হয় যখন DALL·E-কে "অগ্নিনির্বাপক" এর মতো জাতি বা লিঙ্গ নির্দিষ্ট করে না এমন ব্যক্তির বর্ণনা করার জন্য একটি প্রম্পট দেওয়া হয়।

আমাদের অভ্যন্তরীণ মূল্যায়নের উপর ভিত্তি করে, ব্যবহারকারীদের 12× বেশি বলার সম্ভাবনা ছিল যে DALL·E চিত্রগুলি কৌশল প্রয়োগ করার পরে বিভিন্ন ব্যাকগ্রাউন্ডের লোকদের অন্তর্ভুক্ত করেছে। আমরা আরও ডেটা এবং প্রতিক্রিয়া সংগ্রহ করার সাথে সাথে সময়ের সাথে সাথে এই কৌশলটি উন্নত করার পরিকল্পনা করি।

এপ্রিল মাসে, আমরা সীমিত সংখ্যক লোকের কাছে DALL·E 2 গবেষণার পূর্বরূপ দেখা শুরু করেছি, যা আমাদের সিস্টেমের সক্ষমতা এবং সীমাবদ্ধতাগুলিকে আরও ভালভাবে বুঝতে এবং আমাদের নিরাপত্তা ব্যবস্থা উন্নত করার অনুমতি দিয়েছে।

এই প্রিভিউ পর্বে, প্রাথমিক ব্যবহারকারীরা সংবেদনশীল এবং পক্ষপাতদুষ্ট ছবিগুলিকে পতাকাঙ্কিত করেছে যা এই নতুন প্রশমনকে জানাতে এবং মূল্যায়ন করতে সাহায্য করেছে৷

আমরা গবেষণা চালিয়ে যাচ্ছি যে কীভাবে DALL·E-এর মতো AI সিস্টেমগুলি এর প্রশিক্ষণ ডেটাতে পক্ষপাতিত্ব প্রতিফলিত করতে পারে এবং বিভিন্ন উপায়ে আমরা সেগুলিকে মোকাবেলা করতে পারি।

গবেষণা প্রিভিউ চলাকালীন আমরা আমাদের নিরাপত্তা ব্যবস্থা উন্নত করার জন্য অন্যান্য পদক্ষেপ নিয়েছি, যার মধ্যে রয়েছে:

• বাস্তবমুখী চেহারা সম্বলিত ছবি আপলোড প্রত্যাখ্যান করে এবং সেলিব্রিটি এবং বিশিষ্ট রাজনৈতিক ব্যক্তিত্ব সহ পাবলিক ফিগারদের মতো তৈরি করার চেষ্টা করে প্রতারণামূলক বিষয়বস্তু তৈরি করতে DALL·E এর অপব্যবহারের ঝুঁকি হ্রাস করা।
• আমাদের বিষয়বস্তু ফিল্টারগুলিকে আরও নির্ভুল করা যাতে তারা আমাদের লঙ্ঘন করে এমন প্রম্পট এবং ছবি আপলোডগুলিকে ব্লক করতে আরও কার্যকর হয় বিষয়বস্তু নীতি সৃজনশীল অভিব্যক্তির অনুমতি দেওয়ার সময়।
• অপব্যবহার থেকে রক্ষা করার জন্য স্বয়ংক্রিয় এবং মানব পর্যবেক্ষণ ব্যবস্থা পরিমার্জন করা।

এই উন্নতিগুলি আমাদের আরও বেশি ব্যবহারকারীদের DALL·E-এর অভিজ্ঞতা নিতে আমন্ত্রণ জানানোর ক্ষমতার প্রতি আস্থা অর্জন করতে সাহায্য করেছে।

এক্সেস সম্প্রসারণ আমাদের একটি গুরুত্বপূর্ণ অংশ দায়িত্বের সাথে এআই সিস্টেম স্থাপন করা কারণ এটি আমাদেরকে বাস্তব-বিশ্বের ব্যবহার সম্পর্কে আরও জানতে এবং আমাদের নিরাপত্তা ব্যবস্থায় পুনরাবৃত্তি করতে দেয়।