পুলিশ ল্যাব চাই শিশু নির্যাতন শনাক্ত করতে AI-কে প্রশিক্ষণ দিতে আপনার শৈশবের সুখী ছবি

আপডেট করা হয়েছে অস্ট্রেলিয়ার ফেডারেল পুলিশ এবং মোনাশ ইউনিভার্সিটি নেটিজেনদেরকে তাদের তরুণদের ছবি পাঠাতে বলছে একটি মেশিন-লার্নিং অ্যালগরিদমকে প্রশিক্ষণ দেওয়ার জন্য যাতে ফটোগ্রাফে শিশু নির্যাতন শনাক্ত করা যায়।

গবেষকরা নিরাপদ পরিস্থিতিতে 17 বছর এবং তার কম বয়সী ব্যক্তিদের ছবি সংগ্রহ করতে খুঁজছেন; তারা কোনও নগ্নতা চায় না, এমনকি যদি এটি একটি শিশুর স্নানের মতো তুলনামূলকভাবে নিরীহ ছবি হয়। ক্রাউডসোর্সিং প্রচারণা, ডাব আমার ছবি ম্যাটার, 18 বছর বা তার বেশি বয়সীদের জন্য উন্মুক্ত, যারা গবেষণার উদ্দেশ্যে তাদের ফটোগ্রাফ ব্যবহার করতে সম্মতি দিতে পারেন।

একটি সাধারণ পরিবেশে একটি নাবালক এবং একটি শোষণমূলক, অনিরাপদ পরিস্থিতির মধ্যে পার্থক্য বলার জন্য একটি AI মডেলকে প্রশিক্ষণ দেওয়ার প্রয়াসে সমস্ত চিত্রগুলি মোনাশ শিক্ষাবিদদের দ্বারা পরিচালিত একটি ডেটাসেটে একত্রিত করা হবে। সফ্টওয়্যারটি, তাত্ত্বিকভাবে, আইন প্রয়োগকারীকে আরও ভালভাবে স্বয়ংক্রিয়ভাবে সাহায্য করতে পারে এবং দ্রুত শিশু যৌন নির্যাতনের উপাদান (ওরফে CSAM) হাজার হাজার ফটোগ্রাফের মধ্যে তদন্তাধীন, মানব বিশ্লেষকদের প্রতিটি স্ন্যাপ পরিদর্শন করা এড়িয়ে যেতে পারে।

এই ভয়াবহ উপাদান পর্যালোচনা একটি ধীর প্রক্রিয়া হতে পারে

অস্ট্রেলিয়ান ফেডারেল পুলিশের নেতৃস্থানীয় সিনিয়র কনস্টেবল জেনিস ডালিন্স বলেছেন যে ফলস্বরূপ AI সম্ভাব্যভাবে শিকারদের সনাক্ত করতে এবং কর্মকর্তাদের আগে জানা ছিল না এমন বেআইনি উপাদানগুলিকে চিহ্নিত করতে সহায়তা করতে পারে।

"2021 সালে, AFP-এর নেতৃত্বে অস্ট্রেলীয় সেন্টার টু কাউন্টার চাইল্ড এক্সপ্লয়টেশন অনলাইনে শিশু শোষণের 33,000-এরও বেশি রিপোর্ট পেয়েছে এবং প্রতিটি রিপোর্টে অপরাধীদের পরিতৃপ্তির জন্য শিশুদের যৌন নিপীড়ন বা শোষণের বিশাল পরিমাণ ছবি এবং ভিডিও থাকতে পারে।" বলেছেন এই সপ্তাহ.

ডালিনস এআইএলইসিএস ল্যাবের সহ-পরিচালক, মোনাশের তথ্য প্রযুক্তি অনুষদের শিক্ষাবিদদের মধ্যে গবেষণা সহযোগিতা এবং এএফপি যে মাই পিকচার্স ম্যাটার প্রকল্পটি চালাচ্ছে।

"এই ভয়ঙ্কর উপাদান পর্যালোচনা করা একটি ধীর প্রক্রিয়া হতে পারে এবং ধ্রুবক এক্সপোজার তদন্তকারীদের জন্য উল্লেখযোগ্য মানসিক যন্ত্রণার কারণ হতে পারে," তিনি যোগ করেছেন। “AiLECS ল্যাবের উদ্যোগ পুলিশ অফিসারদের এবং আমরা যে শিশুদের রক্ষা করার চেষ্টা করছি তাদের সমর্থন করবে; এবং গবেষকরা এই ধরনের উদ্যোগের পিছনে প্রযুক্তিকে নৈতিকভাবে বিকাশ করার জন্য একটি উদ্ভাবনী উপায়ের কথা চিন্তা করেছেন।"

ছবির একটি বড় ডেটাসেট কম্পাইল করার সবচেয়ে সহজ উপায় হল খোলা ইন্টারনেট স্ক্র্যাপ করা। কিন্তু, কিছু সাম্প্রতিক AI মডেলের মতো – যেমন OpenAI এর ডাল·ই ২ এবং গুগল এর ছবি - দেখিয়েছেন, এই ডেটার মান নিয়ন্ত্রণ করা কঠিন। পক্ষপাতদুষ্ট বা অনুপযুক্ত ছবিগুলি ডেটাসেটে ঢুকতে পারে, মডেলগুলিকে সমস্যাযুক্ত এবং সম্ভাব্য কম কার্যকর করে তোলে।

পরিবর্তে, AiLECS-এর দলটি বিশ্বাস করে যে তাদের ক্রাউডসোর্সিং প্রচারাভিযান শিশুদের ছবি সংগ্রহ করার একটি সহজ এবং আরও নৈতিক উপায় প্রদান করে। "শোষণমূলক ছবি শনাক্ত করতে পারে এমন AI বিকাশ করতে, আমাদের দৈনন্দিন 'নিরাপদ' প্রেক্ষাপটে শিশুদের ফটোগ্রাফের একটি খুব বড় সংখ্যক প্রয়োজন যা শিশুদের শোষণের বিরুদ্ধে লড়াই করার উদ্দেশ্যে AI মডেলগুলিকে প্রশিক্ষণ ও মূল্যায়ন করতে পারে," ক্যাম্পবেল উইলসন, AiLECS এর সহ-পরিচালক এবং একটি মোনাশ বিশ্ববিদ্যালয়ের সহযোগী অধ্যাপক ড.

প্রাপ্তবয়স্কদের কাছ থেকে ছবি সংগ্রহ করে, অবহিত সম্মতির মাধ্যমে, আমরা নৈতিকভাবে জবাবদিহিমূলক এবং স্বচ্ছ প্রযুক্তি তৈরি করার চেষ্টা করছি

“কিন্তু ইন্টারনেট থেকে এই ছবিগুলি সোর্স করা সমস্যাযুক্ত যখন জানার কোনও উপায় নেই যে এই ছবির বাচ্চারা তাদের ছবি আপলোড বা গবেষণার জন্য ব্যবহার করার জন্য সত্যই সম্মতি দিয়েছে কিনা। প্রাপ্তবয়স্কদের কাছ থেকে ছবি সংগ্রহ করে, অবগত সম্মতির মাধ্যমে, আমরা এমন প্রযুক্তি তৈরি করার চেষ্টা করছি যা নৈতিকভাবে জবাবদিহি এবং স্বচ্ছ।”

প্রচারণার অংশ হিসাবে লোকেদের শুধুমাত্র তাদের ব্যক্তিগত ছবি এবং একটি ইমেল ঠিকানা পাঠাতে হবে। ল্যাবের প্রজেক্ট লিড এবং রিসার্চ ফেলো নিনা লুইস বলেছেন, এটি অন্য কোনো ধরনের ব্যক্তিগত তথ্য লগ করতে যাচ্ছে না। ইমেল ঠিকানাগুলি একটি পৃথক ডাটাবেসে সংরক্ষণ করা হবে, আমাদের বলা হয়েছে। 

"ছবি এবং সম্পর্কিত ডেটাতে কোনও সনাক্তকারী তথ্য অন্তর্ভুক্ত থাকবে না, এটি নিশ্চিত করে যে গবেষকদের দ্বারা ব্যবহৃত চিত্রগুলি চিত্রিত ব্যক্তিদের সম্পর্কে কোনও ব্যক্তিগত তথ্য প্রকাশ করতে পারে না," তিনি বলেছিলেন। অংশগ্রহণকারীদের প্রকল্পের প্রতিটি পর্যায়ে আপডেট দেওয়া হবে এবং তারা চাইলে ডেটাসেট থেকে তাদের ছবি মুছে ফেলতে বলতে পারে।

প্রকল্পের মহৎ লক্ষ্যগুলি প্রযুক্তিগতভাবে অসম্ভব নয় এবং অত্যন্ত উচ্চাভিলাষী, তাই আমরা ইমেজ-স্বীকৃতি সিস্টেমগুলির সম্মুখীন হওয়া চ্যালেঞ্জগুলির প্রেক্ষিতে ফলাফলগুলি দেখার জন্য অপেক্ষা করতে পারি না, যেমন পক্ষপাত এবং প্রতিপক্ষের আক্রমণ অন্যদের মধ্যে সীমাবদ্ধতা.

নিবন্ধনকর্মী আরও বিস্তারিত জানতে চেয়েছে মোনাশ বিশ্ববিদ্যালয়কে। ®

6 জুন যোগ করার জন্য আপডেট করা হয়েছে

মোনাশের ডাঃ লুইসের সাথে আরও কিছু বিস্তারিত যোগাযোগ করা হয়েছে। তিনি আমাদের বলেছিলেন যে লক্ষ্য হল AI মডেলকে প্রশিক্ষণের জন্য 100,000 অনন্য চিত্রের একটি ডেটাসেট তৈরি করা।

"আমরা ফটোগুলিকে নতুন এবং বিদ্যমান অ্যালগরিদমগুলির জন্য প্রশিক্ষণ এবং পরীক্ষার ডেটা হিসাবে ব্যবহার করব যা শিশুদের 'নিরাপদ' চিত্রগুলি সনাক্ত এবং শ্রেণিবদ্ধ করবে," তিনি যোগ করেছেন। “ডিজিটাল ফাইলগুলিতে শিশুদের 'অনিরাপদ' চিত্র রয়েছে কিনা তা মূল্যায়ন করতে কীভাবে সেই প্রযুক্তিগুলি প্রয়োগ করা যেতে পারে তাও আমরা গবেষণা করব৷

“মাই পিকচার্স ম্যাটার প্রকল্পটি অনিরাপদ পরিস্থিতিতে শিশুদের ছবি সম্পর্কে এআইকে প্রশিক্ষণ দিচ্ছে না। আমরা বিপরীত পরিস্থিতির তদন্ত করছি: অনলাইন প্ল্যাটফর্মের মাধ্যমে তৈরি ও বিতরণ করা শিশু নির্যাতনের চিত্রের ক্রমবর্ধমান ভলিউম মোকাবেলায় সহায়তা করার জন্য মেশিন লার্নিং-এ ব্যবহারের জন্য কীভাবে নৈতিকভাবে উত্সযুক্ত এবং সম্মতিপূর্ণ ডেটাসেট তৈরি করা যায়।"

মেশিন-লার্নিং সিস্টেমের সক্ষমতা সম্পর্কে উদ্বেগ উত্থাপনকারী আপনার কিছু মন্তব্যের প্রতিক্রিয়ায়, ডঃ লুইস যোগ করেছেন: “আমরা স্বীকার করি যে স্বয়ংক্রিয় সরঞ্জামগুলি ভোঁতা যন্ত্রের চেয়ে বেশি হওয়া দরকার, এবং উদাহরণস্বরূপ, ত্বকের স্বরের উচ্চ অনুপাতের উপস্থিতি। একটি ভিজ্যুয়াল ইমেজে অপব্যবহারের ইঙ্গিত দেয় না।"

যারা ডেটার গোপনীয়তা রক্ষার বিষয়ে চিন্তিত তাদের জন্য, ডঃ লুইস mypicturesmatter.org-এর "ডেটা হ্যান্ডলিং" বিভাগের দিকে নির্দেশ করেছেন "চলো যাই"-তে ক্লিক করার পর যা বলে:

তিনি আরও জোর দিয়েছিলেন যে প্রকল্পের জন্য সংগৃহীত ছবিগুলি বিশ্ববিদ্যালয় দ্বারা রাখা হবে এবং ব্যবহার করা হবে, পুলিশ সরাসরি নয়।

"এটি একটি পুলিশ ডেটাসেট নয়, এবং AFP দ্বারা রাখা বা পরিচালিত হবে না," ডাঃ লুইস আমাদের বলেছেন। "এই গবেষণাটি মোনাশ ইউনিভার্সিটি দ্বারা পরিচালিত হচ্ছে, কীভাবে ডেটা সংগ্রহ করা হয়, ব্যবহার করা হয় এবং পরিচালনা করা হয় তার জন্য আনুষ্ঠানিক মানব গবেষণা নীতিগত অনুমোদনের সাথে।"