প্রাইভেসি ওয়াচডগ সংস্থাগুলিকে আবেগগত বিশ্লেষণ এআই সফ্টওয়্যার বাদ দেওয়ার আহ্বান জানিয়েছে৷

ইউকে-এর তথ্য কমিশনার অফিস (আইসিও) এই সপ্তাহে সতর্ক করেছে, সিস্টেমিক পক্ষপাতিত্ব এবং অন্যান্য স্নাফসের জন্য প্রবণ এআই-চালিত আবেগগত বিশ্লেষণ সিস্টেম স্থাপন করার আগে কোম্পানিগুলির দুবার চিন্তা করা উচিত।

সংস্থাগুলি তদন্তের মুখোমুখি হয় যদি তারা চাপ দেয় এবং এই সাব-পার প্রযুক্তি ব্যবহার করে যা মানুষকে ঝুঁকির মধ্যে ফেলে, ওয়াচডগ যোগ করে।

মেশিন-লার্নিং অ্যালগরিদম যা একজন ব্যক্তির মেজাজ এবং প্রতিক্রিয়ার পূর্বাভাস দিতে কম্পিউটার দৃষ্টি ব্যবহার করে দৃষ্টিশক্তি, মুখের নড়াচড়া এবং অডিও প্রসেসিংকে ট্র্যাক করতে এবং সামগ্রিক অনুভূতির পরিমাপ করতে। যেমন কেউ কল্পনা করতে পারে, এটি অগত্যা সঠিক বা ন্যায্য নয়, এবং প্রশিক্ষণ এবং অনুমানের জন্য ডেটা পরিচালনা করার ক্ষেত্রে গোপনীয়তার সমস্যা হতে পারে।

প্রকৃতপক্ষে, আইসিওর ডেপুটি কমিশনার স্টিফেন বোনার বলেছেন যে প্রযুক্তিটি নির্বোধ নয়, যা নির্দিষ্ট সামাজিক গোষ্ঠীর বিরুদ্ধে পদ্ধতিগত পক্ষপাত, ভুলতা বা বৈষম্যের দিকে পরিচালিত করে। “বায়োমেট্রিক্স এবং ইমোশন এআই মার্কেটের উন্নয়ন অপরিপক্ক। তারা এখনও কাজ করতে পারে না, বা প্রকৃতপক্ষে কখনও, "তিনি বলেছেন এক বিবৃতিতে. 

“যদিও সুযোগ রয়েছে, বর্তমানে ঝুঁকি বেশি। ICO-তে, আমরা উদ্বিগ্ন যে ডেটার ভুল বিশ্লেষণের ফলে একজন ব্যক্তির সম্পর্কে অনুমান এবং রায় হতে পারে যা ভুল এবং বৈষম্যের দিকে পরিচালিত করে, "তার বিবৃতি অব্যাহত রয়েছে।

বোনার উল্লেখ করেছেন যে আবেগগত বিশ্লেষণ সফ্টওয়্যারটি প্রায়শই বায়োমেট্রিক সিস্টেমের সাথে যুক্ত থাকে, মুখের চিত্রের বাইরেও ব্যক্তিগত তথ্যের বিস্তৃত পরিসর সংগ্রহ এবং সংরক্ষণ করে। সফ্টওয়্যার প্রদানকারীরা প্রায়শই এই ব্যক্তিগত ডেটা কীভাবে প্রক্রিয়া বা সংরক্ষণ করা হয় সে সম্পর্কে স্বচ্ছ নয়। 

"একমাত্র টেকসই বায়োমেট্রিক স্থাপনা হবে যেগুলি সম্পূর্ণরূপে কার্যকরী, দায়বদ্ধ এবং বিজ্ঞান দ্বারা সমর্থিত," তিনি বলেছিলেন। "এটি যেমন দাঁড়িয়েছে, আমরা এখনও কোনো আবেগ AI প্রযুক্তি এমনভাবে বিকাশ করতে পারিনি যা ডেটা সুরক্ষা প্রয়োজনীয়তাগুলিকে সন্তুষ্ট করে এবং এই ক্ষেত্রে সমানুপাতিকতা, ন্যায্যতা এবং স্বচ্ছতা সম্পর্কে আরও সাধারণ প্রশ্ন রয়েছে।"

যা বলার একটি ভদ্র উপায় বলে মনে হচ্ছে: আপনার শুধুমাত্র আবেগ-পড়া AI মডেলগুলি ব্যবহার করা উচিত যা ICO-এর প্রত্যাশা অনুযায়ী কাজ করে এবং সেই মডেলগুলি বিদ্যমান নেই, তাই আপনি যা করছেন তা বন্ধ করা উচিত।

ব্রিটেনের ডেটা প্রাইভেসি ওয়াচডগ আগামী বছর বসন্তে কোম্পানিগুলির দ্বারা মুখের শনাক্তকরণ, আঙুলের ছাপ সনাক্তকরণ এবং ভয়েস স্বীকৃতি সহ বায়োমেট্রিক ডেটা কীভাবে পরিচালনা করা উচিত তা বিশদ বিবরণ দিয়ে একটি প্রতিবেদন প্রকাশ করবে বলে আশা করা হচ্ছে৷

"আইসিও বাজারের পরীক্ষা-নিরীক্ষা চালিয়ে যাবে, স্টেকহোল্ডারদের চিহ্নিত করবে যারা এই প্রযুক্তিগুলি তৈরি বা স্থাপন করতে চাইছে, এবং বর্ধিত ডেটা গোপনীয়তা এবং সম্মতির গুরুত্ব ব্যাখ্যা করবে, যখন এই সিস্টেমগুলি কীভাবে কাজ করে তার উপর আস্থা ও আত্মবিশ্বাসকে উত্সাহিত করবে," বোনার যোগ করেছেন।

বিশেষজ্ঞরা বছরের পর বছর ধরে অনুভূতি এবং আবেগ বিশ্লেষণের উপর সতর্কতা বাজিয়েছেন। অনুভূতিগুলি বিষয়ভিত্তিক এবং তাদের সঠিকভাবে ব্যাখ্যা করা কঠিন। মানুষ প্রায়শই নিজের বা অন্যদের জন্য এটি কার্যকরভাবে করতে পারে না, মেশিনগুলিকে ছেড়ে দিন। ®