議員らはブラックボックスアルゴリズムの突破を再び試みる

議員らはブラックボックスアルゴリズムの突破を再び試みる

タイムスタンプ：16年2024月5日47:XNUMX
議員たちは、ブラックボックスアルゴリズムであるPlatoBlockchain Data Intelligenceの突破を再び試みています。垂直検索。あい。

民主党議員らは、犯罪捜査に使用されるソフトウェアのソースコードが検査可能であり、政府による標準化されたテストの対象となることを保証する法案を再び提案した。

木曜日、マーク・タカノ下院議員(民主党-カリフォルニア州)とドワイト・エバンス下院議員(民主党-ペンシルバニア州)は、2024年法医学アルゴリズム司法法を再提出した。これは、弁護人が刑事事件に関連するソースコードを審査することを禁じ、営業秘密の主張の使用を禁止する法案である。また、フォレンジック ソフトウェアに対する連邦政府のテスト体制を確立します。

ソフトウェア開発者の営業秘密特権は、被告の適正手続きの権利よりも優先されるべきではありません

法案が導入されました in 2019 および in 2021 目的は、刑事被告人に対して使用されたソフトウェアの公平性を評価する機会を保証することです。

多くの場合、これは当てはまりません。フォレンジック ソフトウェアのメーカーは、ソース コードが企業秘密であると主張して、ソース コードの公開レビューに抵抗できるからです。

「アメリカ人の訴追においてアルゴリズムの使用が急増しているため、有罪判決を受けるかどうかを決定する可能性のあるブラックボックスを彼らが確認し、異議を唱えることができるようにする必要がある」と高野氏は論文で述べた。 ステートメント。 「ソフトウェア開発者の営業秘密の特権が、刑事司法制度における被告の適正手続きの権利よりも優先されるべきではありません。」

それでも彼らはそうなります。 COMPAS（代替制裁のための矯正犯罪者管理プロファイリング）と呼ばれるシステムの開発者であるノースポイント社は、公判前後の決定を知らせるために再犯リスクを計算するために使用されているが、そのシステムは独自のものであると考えており、その仕組みを明らかにすることを拒否している。

「民間で開発されたアルゴリズムとして、COMPAS には営業秘密法の保護が与えられています」と Andrew Lee Park 氏は 2019 年の UCLA Law Review で述べています。 記事。 「つまり、COMPAS のアルゴリズム（ソフトウェア、使用するデータの種類、COMPAS が各データ ポイントの重み付け方法を含む）は、第三者の監視からほとんど影響を受けないことになります。」

COMPAS がすべての人を公平に扱っていれば、これは許容できるかもしれないが、研究ではそうではないことが示唆されている、と Park 氏は述べています。具体的には、 分析 2016年にProPublicainが実施した調査では、COMPASはアフリカ系アメリカ人に対して偏見を持っており、多くの場合不正確であることが判明した。

ノースポイントが公開されました 反論研究 自社のソフトウェアは公正であると主張している。そしてプロパブリカ 対抗と、その調査結果を支持すると述べた。事実として、刑事司法上の決定がどのように行われたかを開示せずに行うことには依然として問題がある。

EFFスタッフのハンナ・ジャオ弁護士は、「我々は法医学アルゴリズム司法法の透明性と基準要件を支持する」と語った。 登録。 「刑事被告人と国民には、人々を刑務所に入れるために使用されているアルゴリズムを調査する権利がある。」

被告らは、そのようなソフトウェアのソースコードへのアクセスを拒否されることは、告発者と対決する憲法修正第6条の権利を侵害するものであると主張しており、この問題は、訴訟で提起されても不成功に終わった。 アピール [PDF] 有罪判決を受けた殺人犯ジョン・ウェイクフィールドに対する2015年の殺人有罪判決を覆すため。

2023年XNUMX月に 法律レビュー記事 「アルゴリズム的説明責任と憲法修正第 6 条: 人造証人に対峙する権利」と題したボルチモア大学法学部の学生ダロン・ダンフォースは、法廷制度は告発者に対峙する権利と知的財産を保護する権利との間の緊張を解決する必要があると主張している。財産。

2024 年の法医学アルゴリズムにおける正義法には、この点について言及があります。残念ながら今回もおそらく下院と上院の両方を通過することはできないだろう。 ®

タイムスタンプ：

より多くの 登録