قانونگذاران دوباره تلاش می کنند تا الگوریتم های جعبه سیاه باز را بشکنند

قانونگذاران دموکرات بار دیگر قوانینی را پیشنهاد کردند تا اطمینان حاصل شود که کد منبع نرم افزار مورد استفاده برای تحقیقات جنایی قابل بررسی است و تحت آزمایش استاندارد شده توسط دولت قرار می گیرد.

در روز پنجشنبه، نمایندگان مجلس نمایندگان مارک تاکانو (D-CA) و دوایت ایوانز (D-PA) قانون عدالت در الگوریتم های قانونی سال 2024 را مجدداً معرفی کردند، پیش نویس قانونی که استفاده از ادعاهای اسرار تجاری را از منع وکلای مدافع از بازبینی کد منبع مرتبط با پرونده های جنایی منع می کند. و یک رژیم آزمایش فدرال برای نرم افزار پزشکی قانونی ایجاد می کند.

امتیازات اسرار تجاری توسعه دهندگان نرم افزار هرگز نباید بر حقوق دادرسی متهمان تسلط پیدا کند

لایحه، معرفی شد در 2019 و در 2021 بی فایده است، هدف تضمین این است که متهمان جنایی فرصت ارزیابی عادلانه نرم افزارهای مورد استفاده علیه خود را دارند.

اغلب اینطور نیست زیرا سازندگان نرم افزارهای پزشکی قانونی می توانند با ادعای طبقه بندی کد منبع خود به عنوان یک راز تجاری، در برابر بررسی عمومی کد منبع خود مقاومت کنند.

تاکانو در گزارشی گفت: «از آنجایی که استفاده از الگوریتم‌ها در پیگرد قانونی آمریکایی‌ها گسترش می‌یابد، ما باید اطمینان حاصل کنیم که آنها می‌توانند جعبه‌های سیاهی را ببینند و به چالش بکشند که می‌تواند تشخیص دهد که آیا آنها محکوم هستند یا خیر. بیانیه. امتیازات اسرار تجاری توسعه دهندگان نرم افزار هرگز نباید بر حقوق دادرسی متهمان در سیستم عدالت کیفری تجاوز کند.

و با این حال آنها انجام می دهند. Northpointe، توسعه‌دهنده سیستمی به نام COMPAS (پروفایل مدیریت مجرمان اصلاحی برای مجازات‌های جایگزین)، که برای محاسبه خطر تکرار جرم برای اطلاع‌رسانی تصمیمات قبل و بعد از محاکمه استفاده می‌شود، سیستم خود را اختصاصی می‌داند و از افشای نحوه عملکرد آن خودداری کرده است.

اندرو لی پارک در یک بررسی حقوقی UCLA در سال 2019 نوشت: «به عنوان یک الگوریتم توسعه‌یافته خصوصی، COMPAS از حمایت‌های قانون اسرار تجاری برخوردار است. مقاله. این بدان معناست که الگوریتم COMPAS - از جمله نرم‌افزار آن، انواع داده‌هایی که استفاده می‌کند، و اینکه COMPAS چگونه هر نقطه داده را وزن می‌کند - از بررسی دقیق شخص ثالث مصون است.

پارک گفت، اگر COMPAS با همه منصفانه رفتار کند، این ممکن است قابل تحمل باشد، اما تحقیقات نشان می‌دهد که اینطور نیست. به طور مشخص، تجزیه و تحلیل انجام شده توسط ProPublicain در سال 2016 نشان داد که COMPAS علیه آمریکایی های آفریقایی تبار مغرضانه است و اغلب نادرست است.

نورث پوینت منتشر شد تحقیق ابطال ادعا می کند که نرم افزار آن منصفانه است. و ProPublica مقابله کردبا بیان اینکه بر یافته های خود پایبند است. واقعیت این است که اتخاذ تصمیمات عدالت کیفری بدون افشای چگونگی اتخاذ این تصمیمات همچنان مشکل ساز است.

هانا ژائو، وکیل کارکنان EFF گفت: «ما از شفافیت و الزامات استاندارد در قانون الگوریتم‌های عدالت در قانون قانونی حمایت می‌کنیم. ثبت نام. متهمان جنایی و مردم حق دارند الگوریتم هایی را که برای به زندان انداختن افراد استفاده می شود، بررسی کنند.

متهمان استدلال کرده‌اند که محرومیت از دسترسی به کد منبع چنین نرم‌افزاری، حق متمم ششم برای رویارویی با متهم را نقض می‌کند، موضوعی که ناموفق در فرجام خواهی [PDF] برای لغو محکومیت قتل قاتل محکوم جان ویکفیلد در سال 2015.

در دسامبر 2023 مقاله بررسی قانون دالون دانفورث، دانشجوی دانشکده حقوق دانشگاه بالتیمور با عنوان «پاسخگویی الگوریتمی و متمم ششم: حق مقابله با شاهد مصنوعی» استدلال می‌کند که سیستم دادگاه باید تنش بین حق مقابله با متهم و حق حمایت از روشنفکر را حل کند. ویژگی.

قانون عدالت در الگوریتم های قانونی سال 2024 در مورد آن چیزی برای گفتن دارد. حیف که احتمالاً این بار هم از مجلس و سنا عبور نخواهد کرد. ®

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/