Các nhà lập pháp cố gắng phá vỡ các thuật toán hộp đen đang mở

Các nhà lập pháp cố gắng phá vỡ các thuật toán hộp đen đang mở

Dấu thời gian: 16 tháng 2024 năm 5 47:XNUMX CH
Các nhà lập pháp cố gắng một lần nữa để phá vỡ các thuật toán hộp đen đang mở PlatoBlockchain Data Intelligence. Tìm kiếm dọc. Ái.

Các nhà lập pháp đảng Dân chủ một lần nữa đã đề xuất luật để đảm bảo rằng mã nguồn phần mềm được sử dụng để điều tra tội phạm có thể được kiểm tra và chịu sự kiểm tra tiêu chuẩn của chính phủ.

Vào thứ Năm, các Dân biểu Hạ viện Mark Takano (D-CA) và Dwight Evans (D-PA) đã giới thiệu lại Đạo luật Công lý trong Thuật toán Pháp y năm 2024, một dự thảo luật cấm sử dụng các khiếu nại bí mật thương mại để ngăn cản luật sư bào chữa xem xét mã nguồn liên quan đến các vụ án hình sự và thiết lập một chế độ thử nghiệm liên bang cho phần mềm điều tra.

Đặc quyền bí mật thương mại của các nhà phát triển phần mềm không bao giờ được lấn át các quyền theo thủ tục tố tụng hợp pháp của bị đơn

Dự luật được giới thiệu trong 2019 và trong 2021 vô ích, nhằm mục đích đảm bảo rằng các bị cáo hình sự có cơ hội đánh giá tính công bằng của phần mềm được sử dụng để chống lại họ.

Điều này thường không xảy ra vì các nhà sản xuất phần mềm điều tra có thể chống lại sự xem xét công khai về mã nguồn của họ bằng cách tuyên bố rằng nó được phân loại là bí mật thương mại.

Takano cho biết: “Khi việc sử dụng thuật toán ngày càng phổ biến trong việc truy tố người Mỹ, chúng tôi phải đảm bảo rằng họ có thể nhìn thấy và thách thức các hộp đen có thể xác định xem họ có bị kết án hay không”. tuyên bố. “Các đặc quyền về bí mật thương mại của các nhà phát triển phần mềm không bao giờ được lấn át các quyền xét xử công bằng của bị cáo trong hệ thống tư pháp hình sự.”

Và họ vẫn làm như vậy. Northpointe, nhà phát triển hệ thống có tên COMPAS (Hồ sơ quản lý tội phạm cải tạo để áp dụng các biện pháp trừng phạt thay thế), được sử dụng để tính toán rủi ro tái phạm nhằm đưa ra các quyết định trước và sau phiên tòa, coi hệ thống của mình là độc quyền và đã từ chối tiết lộ cách thức hoạt động của nó.

Andrew Lee Park đã viết trong Bài đánh giá luật UCLA năm 2019: “Là một thuật toán được phát triển riêng, COMPAS được bảo vệ bởi luật bí mật thương mại”. bài viết . “Điều đó có nghĩa là thuật toán của COMPAS – bao gồm phần mềm, loại dữ liệu nó sử dụng và cách COMPAS cân nhắc từng điểm dữ liệu – hoàn toàn miễn nhiễm với sự giám sát của bên thứ ba.”

Park cho biết điều này có thể được chấp nhận nếu COMPAS đối xử công bằng với mọi người, nhưng nghiên cứu cho thấy điều đó không xảy ra. Đặc biệt, một phân tích do ProPublicain thực hiện vào năm 2016 cho thấy COMPAS có thành kiến ​​với người Mỹ gốc Phi và thường không chính xác.

Northpointe đã xuất bản nghiên cứu phản bác khẳng định phần mềm của nó là công bằng. Và ProPublica chống lại, nói rằng nó đứng trước những phát hiện của nó. Thực tế là việc đưa ra các quyết định tư pháp hình sự mà không tiết lộ cách thức đưa ra các quyết định đó vẫn còn có vấn đề.

Luật sư Hannah Zhao của EFF cho biết: “Chúng tôi ủng hộ các yêu cầu về tính minh bạch và tiêu chuẩn trong Đạo luật thuật toán pháp y công lý”. Đăng ký. “Các bị cáo hình sự và công chúng có quyền kiểm tra các thuật toán được sử dụng để đưa mọi người vào tù.”

Các bị cáo đã lập luận rằng việc bị từ chối truy cập vào mã nguồn của phần mềm đó là vi phạm Quyền sửa đổi thứ sáu để đối đầu với người tố cáo, một vấn đề được nêu ra không thành công trong một lời kêu gọi [PDF] để lật lại bản án giết người năm 2015 của kẻ giết người bị kết án John Wakefield.

Trong một ngày 2023 tháng XNUMX bài viết đánh giá pháp luật có tiêu đề “Trách nhiệm giải trình bằng thuật toán và Bản sửa đổi thứ sáu: Quyền đối đầu với nhân chứng nhân tạo”, sinh viên Đại học Luật Dallon Danforth của Đại học Baltimore lập luận rằng hệ thống tòa án sẽ phải giải quyết căng thẳng giữa quyền đối đầu với người tố cáo và quyền bảo vệ trí tuệ. tài sản.

Đạo luật Công lý trong Thuật toán Pháp y năm 2024 có điều gì đó để nói về điều đó. Thật tệ là lần này có lẽ nó cũng sẽ không được thông qua ở cả Hạ viện và Thượng viện. ®

Dấu thời gian:

Thêm từ Đăng ký