يحاول المشرعون مرة أخرى كسر خوارزميات الصندوق الأسود المفتوحة

اقترح المشرعون الديمقراطيون مرة أخرى تشريعًا لضمان إمكانية فحص كود مصدر البرنامج المستخدم في التحقيقات الجنائية وإخضاعه لاختبار موحد من قبل الحكومة.

في يوم الخميس، أعاد ممثلا مجلس النواب مارك تاكانو (ديمقراطي من ولاية كاليفورنيا) ودوايت إيفانز (ديمقراطي من ولاية بنسلفانيا) تقديم قانون العدالة في خوارزميات الطب الشرعي لعام 2024، وهو مشروع قانون يحظر استخدام ادعاءات الأسرار التجارية من منع محامي الدفاع من مراجعة كود المصدر ذي الصلة بالقضايا الجنائية. ويؤسس نظام اختبار فدرالي لبرامج الطب الشرعي.

لا ينبغي أبداً أن تتفوق امتيازات الأسرار التجارية التي يتمتع بها مطورو البرمجيات على حقوق المتهمين في الإجراءات القانونية الواجبة

مشروع القانون، قدم في القرن الرابع الميلادي و في القرن الرابع الميلادي دون جدوى، تهدف إلى ضمان حصول المتهمين الجنائيين على فرصة تقييم مدى عدالة البرامج المستخدمة ضدهم.

في كثير من الأحيان لا يكون هذا هو الحال لأن صانعي برامج الطب الشرعي يمكن أن يقاوموا المراجعة العامة لشفرة المصدر الخاصة بهم من خلال الادعاء بأنها مصنفة على أنها سر تجاري.

وقال تاكانو في بيان: "مع انتشار استخدام الخوارزميات في محاكمة الأمريكيين، يجب علينا التأكد من أنهم يستطيعون رؤية وتحدي الصناديق السوداء التي يمكن أن تحدد ما إذا كانوا مدانين أم لا". بيان. "لا ينبغي لامتيازات الأسرار التجارية التي يتمتع بها مطورو البرامج أن تتفوق أبدًا على حقوق المتهمين في الإجراءات القانونية الواجبة في نظام العدالة الجنائية."

ومع ذلك فإنهم يفعلون ذلك. تعتبر شركة نورثبوينت، مطور نظام يسمى كومباس (ملف تعريف إدارة المجرمين الإصلاحي للعقوبات البديلة)، والذي يستخدم لحساب مخاطر العودة إلى الإجرام لتوجيه قرارات ما قبل وبعد المحاكمة، أن نظامها مملوك لها ورفضت الكشف عن كيفية عمله.

كتب أندرو لي بارك في مراجعة قانون جامعة كاليفورنيا في لوس أنجلوس لعام 2019: "باعتبارها خوارزمية تم تطويرها بشكل خاص، تتمتع كومباس بحماية قانون السر التجاري". البند. "وهذا يعني أن خوارزمية كومباس - بما في ذلك برامجها، وأنواع البيانات التي تستخدمها، وكيفية وزن كومباس لكل نقطة بيانات - محصنة ضد تدقيق الطرف الثالث."

وقال بارك إن هذا قد يكون مقبولاً إذا عاملت كومباس الجميع بإنصاف، لكن الأبحاث تشير إلى أن الأمر ليس كذلك. خاصة، تحليل وجدت دراسة أجرتها ProPublicain في عام 2016 أن نظام COMPAS متحيز ضد الأمريكيين من أصل أفريقي وكان في كثير من الأحيان غير دقيق.

نشرت نورثبوينت أبحاث الطعن مدعيا أن برنامجها عادل. و بروبوبليكا وردمشيرة إلى أنها ملتزمة بالنتائج التي توصلت إليها. وتظل الحقيقة أن اتخاذ قرارات العدالة الجنائية دون الكشف عن كيفية اتخاذ تلك القرارات لا يزال يمثل مشكلة.

وقالت هانا تشاو محامية موظفي EFF: "نحن ندعم متطلبات الشفافية والمعايير في قانون العدالة في خوارزميات الطب الشرعي". السجل. "للمتهمين الجنائيين والجمهور الحق في فحص الخوارزميات المستخدمة لوضع الأشخاص خلف القضبان".

جادل المدعى عليهم بأن حرمانهم من الوصول إلى الكود المصدري لمثل هذه البرامج ينتهك حق التعديل السادس في مواجهة المتهم، وهي قضية أثيرت دون جدوى في نداء [PDF] لإلغاء إدانة القتل المدان بالقاتل جون ويكفيلد عام 2015.

في ديسمبر 2023 مقالة مراجعة القانون بعنوان "المساءلة الخوارزمية والتعديل السادس: الحق في مواجهة شاهد مصطنع"، يرى دالون دانفورث، طالب كلية الحقوق بجامعة بالتيمور، أن نظام المحاكم سيتعين عليه حل التوتر بين الحق في مواجهة المتهم والحق في حماية الفكر الفكري. ملكية.

قانون العدالة في خوارزميات الطب الشرعي لعام 2024 لديه ما يقوله عن ذلك. من المؤسف أنه ربما لن يمر عبر مجلسي النواب والشيوخ هذه المرة أيضًا. ®

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/