立法者再次尝试打破开放的黑匣子算法

民主党议员再次提出立法，以确保用于刑事调查的软件源代码可以接受政府的审查并接受标准化测试。

周四，众议院代表马克·高野 (D-CA) 和德怀特·埃文斯 (D-PA) 重新提出了 2024 年法证算法正义法案，该法律草案禁止使用商业秘密主张来阻止辩护律师审查与刑事案件相关的源代码并建立了法医软件的联邦测试制度。

软件开发者的商业秘密特权绝不能凌驾于被告的正当程序权利之上

该法案提出 在2019 和 在2021 目的是保证刑事被告有机会评估针对他们使用的软件的公平性，但无济于事。

通常情况并非如此，因为取证软件的制造商可以通过声称其源代码被归类为商业秘密来抵制公众对其源代码的审查。

高野在一份报告中表示：“随着算法在起诉美国人中的使用激增，我们必须确保他们能够看到并挑战可以确定他们是否被定罪的黑匣子。” 声明。 “软件开发商的商业秘密特权永远不应凌驾于刑事司法系统中被告的正当程序权利。”

但他们确实做到了。 Northpointe 是 COMPAS（替代性制裁惩教罪犯管理分析）系统的开发商，该系统用于计算累犯风险，为审前和审后决策提供信息。该系统认为其系统是专有的，并拒绝透露其工作原理。

“作为一种私人开发的算法，COMPAS 受到商业秘密法的保护，”Andrew Lee Park 在 2019 年加州大学洛杉矶分校法律评论中写道 刊文。 “这意味着 COMPAS 的算法——包括其软件、使用的数据类型以及 COMPAS 如何衡量每个数据点——几乎不受第三方审查。”

Park 表示，如果 COMPAS 公平地对待每个人，这种情况可能是可以容忍的，但研究表明事实并非如此。具体来说， 分析 ProPublicain 于 2016 年进行的调查发现，COMPAS 对非裔美国人存在偏见，而且常常不准确。

北角发表 反驳研究 声称其软件是公平的。和 ProPublica 反驳，表示坚持其调查结果。事实仍然是，在不披露这些决定是如何做出的情况下做出刑事司法决定仍然存在问题。

“我们支持《司法取证算法法案》中的透明度和标准要求，”EFF 专职律师汉娜·赵告诉记者 注册。 “刑事被告和公众有权检查用于将人投入监狱的算法。”

被告辩称，被拒绝访问此类软件的源代码违反了第六修正案与原告对峙的权利，这一问题在 上诉 [PDF] 推翻 2015 年对已被定罪的杀手约翰·韦克菲尔德 (John Wakefield) 的谋杀定罪。

在2023年XNUMX月 法律评论文章 巴尔的摩大学法学院学生达伦·丹福斯 (Dallon Danforth) 题为“算法问责与第六修正案：对抗人工证人的权利”，他认为法院系统必须解决对抗原告的权利与保护知识分子的权利之间的紧张关系。财产。

2024 年法证算法正义法案对此有相关规定。遗憾的是，这次它可能也无法在众议院和参议院获得通过。 ®

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/