ฝ่ายนิติบัญญัติพยายามอีกครั้งเพื่อทำลายอัลกอริธึมกล่องดำแบบเปิด

ผู้ร่างกฎหมายจากพรรคเดโมแครตได้เสนอกฎหมายอีกครั้งเพื่อให้แน่ใจว่าซอร์สโค้ดซอฟต์แวร์ที่ใช้ในการสืบสวนคดีอาญาสามารถตรวจสอบได้และอยู่ภายใต้การทดสอบที่ได้มาตรฐานโดยรัฐบาล

เมื่อวันพฤหัสบดี ผู้แทนสภาผู้แทนราษฎร Mark Takano (D-CA) และ Dwight Evans (D-PA) ได้เปิดตัวกฎหมาย Justice in Forensic Algorithms Act ปี 2024 อีกครั้ง ซึ่งเป็นร่างกฎหมายที่ห้ามไม่ให้ใช้การกล่าวอ้างที่เป็นความลับทางการค้า จากการห้ามทนายฝ่ายจำเลยตรวจสอบซอร์สโค้ดที่เกี่ยวข้องกับคดีอาญา และกำหนดระบบการทดสอบของรัฐบาลกลางสำหรับซอฟต์แวร์ทางนิติวิทยาศาสตร์

สิทธิพิเศษที่เป็นความลับทางการค้าของนักพัฒนาซอฟต์แวร์ไม่ควรสำคัญกว่าสิทธิในการดำเนินการทางกฎหมายของจำเลย

ร่างพระราชบัญญัติแนะนำ ใน 2019 และ ใน 2021 ไม่มีประโยชน์ โดยมีจุดมุ่งหมายเพื่อรับประกันว่าจำเลยทางอาญามีโอกาสที่จะประเมินความเป็นธรรมของซอฟต์แวร์ที่ใช้ต่อต้านพวกเขา

บ่อยครั้งไม่เป็นเช่นนั้น เนื่องจากผู้ผลิตซอฟต์แวร์นิติเวชสามารถต่อต้านการตรวจสอบซอร์สโค้ดของตนโดยสาธารณะโดยอ้างว่าซอร์สโค้ดถูกจัดประเภทว่าเป็นความลับทางการค้า

“ในขณะที่การใช้อัลกอริธึมแพร่หลายในการดำเนินคดีกับชาวอเมริกัน เราต้องตรวจสอบให้แน่ใจว่าพวกเขาสามารถมองเห็นและท้าทายกล่องดำที่สามารถระบุได้ว่าพวกเขาถูกตัดสินลงโทษหรือไม่” ทาคาโนะกล่าวใน คำสั่ง. “สิทธิพิเศษด้านความลับทางการค้าของนักพัฒนาซอฟต์แวร์ไม่ควรสำคัญกว่าสิทธิในกระบวนการยุติธรรมของจำเลยในระบบยุติธรรมทางอาญา”

แล้วพวกเขาก็ทำ Northpointe ผู้พัฒนาระบบที่เรียกว่า COMPAS (Profiling Offender Management Profiling for Alternative Sanctions) ซึ่งใช้สำหรับคำนวณความเสี่ยงจากการกระทำผิดซ้ำเพื่อแจ้งการตัดสินใจก่อนและหลังการพิจารณาคดี ถือว่าระบบมีกรรมสิทธิ์ และปฏิเสธที่จะเปิดเผยวิธีการทำงาน

“ในฐานะอัลกอริธึมที่พัฒนาขึ้นโดยเอกชน COMPAS ได้รับการคุ้มครองกฎหมายความลับทางการค้า” Andrew Lee Park เขียนในการทบทวนกฎหมาย UCLA ปี 2019 บทความ. “นั่นหมายความว่าอัลกอริธึมของ COMPAS รวมถึงซอฟต์แวร์ ประเภทของข้อมูลที่ใช้ และวิธีที่ COMPAS ชั่งน้ำหนักแต่ละจุดข้อมูล ล้วนแต่ได้รับการยกเว้นจากการตรวจสอบข้อเท็จจริงโดยบุคคลที่สาม”

สิ่งนี้อาจจะพอทนได้หาก COMPAS ปฏิบัติต่อทุกคนอย่างยุติธรรม ปาร์คกล่าว แต่การวิจัยกลับแย้งว่าไม่เป็นเช่นนั้น โดยเฉพาะ การวิเคราะห์ จัดทำโดย ProPublicain ในปี 2016 พบว่า COMPAS มีอคติต่อชาวอเมริกันเชื้อสายแอฟริกัน และมักจะไม่ถูกต้อง

นอร์ธพอยท์ตีพิมพ์แล้ว การวิจัยโต้แย้ง อ้างว่าซอฟต์แวร์มีความยุติธรรม และโปรพับลิก้า โต้โดยระบุว่ามันยืนหยัดตามการค้นพบของมัน ข้อเท็จจริงยังคงอยู่ว่าการตัดสินใจด้านกระบวนการยุติธรรมทางอาญาโดยไม่เปิดเผยว่าการตัดสินใจเหล่านั้นเกิดขึ้นอย่างไรยังคงเป็นปัญหาอยู่

“เราสนับสนุนข้อกำหนดด้านความโปร่งใสและมาตรฐานในกฎหมาย Justice in Forensic Algorithms Act” Hannah Zhao ทนายความของ EFF กล่าว ลงทะเบียน. “จำเลยทางอาญาและประชาชนมีสิทธิที่จะตรวจสอบอัลกอริทึมที่ใช้ในการจับคนเข้าคุก”

จำเลยได้แย้งว่าการถูกปฏิเสธการเข้าถึงซอร์สโค้ดของซอฟต์แวร์ดังกล่าวเป็นการละเมิดสิทธิในการแก้ไขที่หกในการเผชิญหน้ากับผู้กล่าวหาของตน ปัญหาที่เกิดขึ้นไม่ประสบผลสำเร็จใน อุทธรณ์ [PDF] เพื่อล้มล้างการพิพากษาลงโทษคดีฆาตกรรม John Wakefield ฆาตกรที่ถูกตัดสินลงโทษในปี 2015

ในเดือนธันวาคม 2023 บทความทบทวนกฎหมาย ชื่อ “ความรับผิดชอบอัลกอริทึมและการแก้ไขครั้งที่หก: สิทธิในการเผชิญหน้ากับพยานเทียม” นักศึกษาคณะนิติศาสตร์มหาวิทยาลัยบัลติมอร์ Dallon Danforth ให้เหตุผลว่าระบบศาลจะต้องแก้ไขความตึงเครียดระหว่างสิทธิ์ในการเผชิญหน้ากับผู้กล่าวหาและสิทธิ์ในการปกป้องทางปัญญา คุณสมบัติ.

พระราชบัญญัติ Justice in Forensic Algorithms Act ปี 2024 มีเรื่องที่จะกล่าวถึงเรื่องนี้ น่าเสียดายที่อาจจะไม่ผ่านทั้งสภาและวุฒิสภาในครั้งนี้เช่นกัน ®

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/