আইনপ্রণেতারা আবার খোলা ব্ল্যাক বক্স অ্যালগরিদম ভাঙার চেষ্টা করে

আইনপ্রণেতারা আবার খোলা ব্ল্যাক বক্স অ্যালগরিদম ভাঙার চেষ্টা করে

সময় স্ট্যাম্প: 16 ফেব্রুয়ারী, 2024 5:47 অপরাহ্ন
আইনপ্রণেতারা আবার চেষ্টা করে খোলা ব্ল্যাক বক্স অ্যালগরিদম প্লাটোব্লকচেন ডেটা ইন্টেলিজেন্স ভাঙার। উল্লম্ব অনুসন্ধান. আ.

ফৌজদারি তদন্তের জন্য ব্যবহৃত সফ্টওয়্যার সোর্স কোডটি পরীক্ষা করা যেতে পারে এবং সরকার কর্তৃক প্রমিত পরীক্ষার সাপেক্ষে তা নিশ্চিত করার জন্য গণতান্ত্রিক আইন প্রণেতারা আবারও আইনের প্রস্তাব করেছেন।

বৃহস্পতিবার হাউস রিপ্রেজেন্টেটিভ মার্ক টাকানো (ডি-সিএ) এবং ডোয়াইট ইভান্স (ডি-পিএ) 2024 সালের ফরেনসিক অ্যালগরিদম অ্যাক্টে জাস্টিস পুনঃপ্রবর্তন করেছেন, একটি খসড়া আইন যা প্রতিরক্ষা অ্যাটর্নিদের ফৌজদারি মামলাগুলির সাথে প্রাসঙ্গিক সোর্স কোড পর্যালোচনা করতে বাধা দেওয়ার জন্য ট্রেড সিক্রেট দাবি ব্যবহার করতে নিষেধ করে। এবং ফরেনসিক সফ্টওয়্যারের জন্য একটি ফেডারেল টেস্টিং ব্যবস্থা প্রতিষ্ঠা করে।

সফ্টওয়্যার বিকাশকারীদের ট্রেড-সিক্রেট সুবিধাগুলি কখনই আসামীদের যথাযথ প্রক্রিয়ার অধিকারকে তুচ্ছ করা উচিত নয়

বিলটি পেশ করা হয়েছে 2019 মধ্যে এবং 2021 মধ্যে কোন লাভ হয়নি, এর লক্ষ্য গ্যারান্টি দেওয়া যে অপরাধী আসামীদের তাদের বিরুদ্ধে ব্যবহৃত সফ্টওয়্যারটির ন্যায্যতা মূল্যায়ন করার সুযোগ রয়েছে৷

প্রায়শই এটি হয় না কারণ ফরেনসিক সফ্টওয়্যার নির্মাতারা তাদের সোর্স কোডটি একটি ট্রেড সিক্রেট হিসাবে শ্রেণীবদ্ধ দাবি করে সর্বজনীন পর্যালোচনাকে প্রতিরোধ করতে পারে।

"যেহেতু অ্যালগরিদমের ব্যবহার আমেরিকানদের বিচারে প্রসারিত হয়, আমাদের অবশ্যই নিশ্চিত করতে হবে যে তারা ব্ল্যাক বক্স দেখতে এবং চ্যালেঞ্জ করতে পারে যা নির্ধারণ করতে পারে যে তারা দোষী সাব্যস্ত হয়েছে কিনা," তাকানো বলেছেন বিবৃতি. "সফ্টওয়্যার ডেভেলপারদের ট্রেড সিক্রেট সুবিধাগুলি কখনই ফৌজদারি বিচার ব্যবস্থায় আসামীদের যথাযথ প্রক্রিয়ার অধিকারকে তুচ্ছ করা উচিত নয়।"

এবং তবুও তারা করে। নর্থপয়েন্ট, একটি সিস্টেমের ডেভেলপার যার নাম COMPAS (কারেকশনাল অফেন্ডার ম্যানেজমেন্ট প্রোফাইলিং ফর অল্টারনেটিভ নিষেধাজ্ঞা), যা রিসিডিভিজম ঝুঁকি গণনা করার জন্য ব্যবহৃত হয়- এবং বিচার-পরবর্তী সিদ্ধান্ত জানাতে, এটির সিস্টেমটিকে মালিকানা বলে মনে করে এবং এটি কীভাবে কাজ করে তা প্রকাশ করতে অস্বীকার করেছে।

"একটি ব্যক্তিগতভাবে উন্নত অ্যালগরিদম হিসাবে, COMPAS বাণিজ্য গোপন আইনের সুরক্ষা প্রদান করে," অ্যান্ড্রু লি পার্ক 2019 সালের UCLA আইন পর্যালোচনায় লিখেছেন প্রবন্ধ. "এর মানে হল যে COMPAS-এর অ্যালগরিদম - এর সফ্টওয়্যার সহ, এটি যে ধরনের ডেটা ব্যবহার করে, এবং COMPAS প্রতিটি ডেটা পয়েন্টকে কীভাবে ওজন করে - সবই তৃতীয় পক্ষের তদন্ত থেকে মুক্ত।"

এটি সহনীয় হতে পারে যদি COMPAS প্রত্যেকের সাথে ন্যায্য আচরণ করে, পার্ক বলেন, কিন্তু গবেষণা বলছে তা হয় না। বিশেষ করে, একটি বিশ্লেষণ 2016 সালে ProPublicain দ্বারা পরিচালিত COMPAS আফ্রিকান আমেরিকানদের বিরুদ্ধে পক্ষপাতদুষ্ট এবং প্রায়শই ভুল ছিল।

নর্থপয়েন্ট প্রকাশিত হয়েছে খণ্ডন গবেষণা তার সফ্টওয়্যার ন্যায্য দাবি. এবং ProPublica প্রতিরোধ, এটা তার অনুসন্ধানের দ্বারা দাঁড়িয়েছে বলে. ঘটনাটি রয়ে গেছে যে কীভাবে সেই সিদ্ধান্তগুলি নেওয়া হয়েছিল তা প্রকাশ না করে ফৌজদারি বিচারের সিদ্ধান্ত নেওয়া সমস্যাযুক্ত।

ইএফএফ স্টাফ অ্যাটর্নি হান্না ঝাও বলেছেন, "আমরা ফরেনসিক অ্যালগরিদম আইনের ন্যায়বিচারে স্বচ্ছতা এবং মানদণ্ডের প্রয়োজনীয়তা সমর্থন করি" নিবন্ধনকর্মী. "অপরাধী আসামী এবং জনসাধারণের অধিকার আছে যে অ্যালগরিদমগুলি লোকেদের কারাগারের পিছনে ফেলার জন্য ব্যবহার করা হচ্ছে তা পরীক্ষা করার।"

বিবাদীরা যুক্তি দেখিয়েছেন যে এই ধরনের সফ্টওয়্যারের সোর্স কোডে অ্যাক্সেস অস্বীকার করা একজনের অভিযুক্তের মুখোমুখি হওয়ার ষষ্ঠ সংশোধনী অধিকার লঙ্ঘন করে, একটি সমস্যা একটি আবেদন [PDF] দোষী সাব্যস্ত খুনি জন ওয়েকফিল্ডের 2015 হত্যার সাজা বাতিল করতে।

2023 সালের ডিসেম্বরে আইন পর্যালোচনা নিবন্ধ শিরোনাম "অ্যালগরিদমিক অ্যাকাউন্টিবিলিটি এবং ষষ্ঠ সংশোধনী: একটি কৃত্রিম সাক্ষীর মুখোমুখি হওয়ার অধিকার," ইউনিভার্সিটি অফ বাল্টিমোর স্কুল অফ ল'র ছাত্র ড্যালন ড্যানফোর্থ যুক্তি দেন যে আদালত ব্যবস্থাকে একজন অভিযুক্তের মুখোমুখি হওয়ার অধিকার এবং বুদ্ধিজীবীকে রক্ষা করার অধিকারের মধ্যে উত্তেজনা সমাধান করতে হবে। সম্পত্তি

2024 সালের ফরেনসিক অ্যালগরিদম অ্যাক্টের জাস্টিস এর বিষয়ে কিছু বলার আছে। খুব খারাপ এটি সম্ভবত হাউস এবং সিনেট উভয়ের মাধ্যমেই এই সময়ে তৈরি হবে না। ®

সময় স্ট্যাম্প:

থেকে আরো নিবন্ধনকর্মী