कानून निर्माता ब्लैक बॉक्स एल्गोरिदम को तोड़ने का फिर से प्रयास कर रहे हैं

डेमोक्रेटिक सांसदों ने एक बार फिर यह सुनिश्चित करने के लिए कानून का प्रस्ताव दिया है कि आपराधिक जांच के लिए उपयोग किए जाने वाले सॉफ़्टवेयर स्रोत कोड की जांच की जा सकती है और यह सरकार द्वारा मानकीकृत परीक्षण के अधीन है।

गुरुवार को हाउस रिप्रेजेंटेटिव्स मार्क ताकानो (डी-सीए) और ड्वाइट इवांस (डी-पीए) ने जस्टिस इन फॉरेंसिक एल्गोरिदम एक्ट 2024 को फिर से पेश किया, एक मसौदा कानून जो बचाव पक्ष के वकीलों को आपराधिक मामलों से संबंधित स्रोत कोड की समीक्षा करने से रोकने के लिए व्यापार गुप्त दावों का उपयोग करने से रोकता है। और फोरेंसिक सॉफ्टवेयर के लिए एक संघीय परीक्षण व्यवस्था स्थापित करता है।

सॉफ़्टवेयर डेवलपर्स के व्यापार-गुप्त विशेषाधिकारों को कभी भी प्रतिवादियों के उचित प्रक्रिया अधिकारों पर हावी नहीं होना चाहिए

बिल पेश किया गया 2019 में और 2021 में कोई फायदा नहीं, इसका उद्देश्य यह गारंटी देना है कि आपराधिक प्रतिवादियों को उनके खिलाफ इस्तेमाल किए गए सॉफ़्टवेयर की निष्पक्षता का आकलन करने का अवसर मिले।

अक्सर ऐसा नहीं होता है क्योंकि फोरेंसिक सॉफ़्टवेयर के निर्माता यह दावा करके अपने स्रोत कोड की सार्वजनिक समीक्षा का विरोध कर सकते हैं कि इसे व्यापार रहस्य के रूप में वर्गीकृत किया गया है।

ताकानो ने कहा, "चूंकि अमेरिकियों के अभियोजन में एल्गोरिदम का उपयोग बढ़ रहा है, हमें यह सुनिश्चित करना चाहिए कि वे ब्लैक बॉक्स देख सकें और चुनौती दे सकें जो यह निर्धारित कर सकें कि उन्हें दोषी ठहराया गया है या नहीं।" कथन. "सॉफ्टवेयर डेवलपर्स के व्यापार रहस्य विशेषाधिकारों को कभी भी आपराधिक न्याय प्रणाली में प्रतिवादियों के उचित प्रक्रिया अधिकारों पर हावी नहीं होना चाहिए।"

और फिर भी वे ऐसा करते हैं। नॉर्थपॉइंट, COMPAS (वैकल्पिक प्रतिबंधों के लिए सुधारात्मक अपराधी प्रबंधन प्रोफाइलिंग) नामक प्रणाली का विकासकर्ता, जिसका उपयोग परीक्षण-पूर्व और बाद के निर्णयों को सूचित करने के लिए पुनरावृत्ति जोखिम की गणना के लिए किया जाता है, अपने सिस्टम को मालिकाना मानता है और यह बताने से इनकार कर दिया है कि यह कैसे काम करता है।

एंड्रयू ली पार्क ने 2019 यूसीएलए लॉ रिव्यू में लिखा, "एक निजी तौर पर विकसित एल्गोरिदम के रूप में, कंपास को व्यापार रहस्य कानून की सुरक्षा प्रदान की जाती है।" लेख. "इसका मतलब है कि कम्पास का एल्गोरिदम - जिसमें इसका सॉफ़्टवेयर, इसके द्वारा उपयोग किए जाने वाले डेटा के प्रकार और कैसे कम्पास प्रत्येक डेटा बिंदु का वजन करता है - तीसरे पक्ष की जांच से पूरी तरह से प्रतिरक्षित है।"

पार्क ने कहा, अगर कंपास हर किसी के साथ उचित व्यवहार करता है तो यह सहनीय हो सकता है, लेकिन शोध से पता चलता है कि ऐसा नहीं है। विशेष रूप से, एक विश्लेषण 2016 में ProPublicain द्वारा किए गए सर्वेक्षण में पाया गया कि COMPAS अफ्रीकी अमेरिकियों के प्रति पक्षपाती था और अक्सर गलत था।

नॉर्थपॉइंट प्रकाशित खंडन अनुसंधान यह दावा करते हुए कि इसका सॉफ्टवेयर निष्पक्ष है। और प्रोपब्लिका मुकाबला, यह कहते हुए कि वह अपने निष्कर्षों पर कायम है। तथ्य यह है कि ये निर्णय कैसे लिए गए इसका खुलासा किए बिना आपराधिक न्याय संबंधी निर्णय लेना समस्याग्रस्त बना हुआ है।

ईएफएफ स्टाफ वकील हन्ना झाओ ने कहा, "हम फॉरेंसिक एल्गोरिदम में न्याय अधिनियम में पारदर्शिता और मानकों की आवश्यकताओं का समर्थन करते हैं।" रजिस्टर. "आपराधिक प्रतिवादियों और जनता को लोगों को सलाखों के पीछे डालने के लिए इस्तेमाल किए जा रहे एल्गोरिदम की जांच करने का अधिकार है।"

प्रतिवादियों ने तर्क दिया है कि ऐसे सॉफ़्टवेयर के स्रोत कोड तक पहुंच से वंचित किया जाना किसी के आरोप लगाने वाले का सामना करने के छठे संशोधन के अधिकार का उल्लंघन है, एक मुद्दा असफल रूप से उठाया गया एक अपील [पीडीएफ] दोषी हत्यारे जॉन वेकफील्ड की 2015 की हत्या की सजा को पलटने के लिए।

दिसंबर 2023 में कानून समीक्षा लेख "एल्गोरिदमिक जवाबदेही और छठा संशोधन: एक कृत्रिम गवाह का सामना करने का अधिकार" शीर्षक से, बाल्टीमोर विश्वविद्यालय के लॉ स्कूल के छात्र डैलन डैनफोर्थ का तर्क है कि अदालत प्रणाली को आरोप लगाने वाले का सामना करने के अधिकार और बुद्धिजीवियों की रक्षा के अधिकार के बीच तनाव को हल करना होगा। संपत्ति।

2024 का जस्टिस इन फॉरेंसिक एल्गोरिदम अधिनियम इस बारे में कुछ कहना चाहता है। बहुत बुरी बात है कि शायद इस बार भी इसे सदन और सीनेट दोनों में पारित नहीं किया जा सकेगा। ®

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/