Les législateurs tentent à nouveau de briser les algorithmes de la boîte noire

Les législateurs tentent à nouveau de briser les algorithmes de la boîte noire

Horodatage: 16 février 2024 5:47
Les législateurs tentent à nouveau de briser les algorithmes de la boîte noire de PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Les législateurs démocrates ont une fois de plus proposé une législation garantissant que le code source des logiciels utilisés dans les enquêtes criminelles puisse être examiné et soumis à des tests standardisés par le gouvernement.

Jeudi, les représentants de la Chambre Mark Takano (D-CA) et Dwight Evans (D-PA) ont réintroduit la loi de 2024 sur la justice dans les algorithmes médico-légaux, un projet de loi qui interdit l'utilisation de secrets commerciaux pour empêcher les avocats de la défense d'examiner le code source pertinent aux affaires pénales. et établit un régime fédéral de tests pour les logiciels médico-légaux.

Les privilèges des développeurs de logiciels en matière de secrets commerciaux ne devraient jamais l'emporter sur les droits des accusés à une procédure régulière.

Le projet de loi, présenté en 2019. ainsi que en 2021. en vain, vise à garantir que les accusés criminels aient la possibilité d'évaluer le caractère équitable des logiciels utilisés à leur encontre.

Ce n'est souvent pas le cas, car les fabricants de logiciels médico-légaux peuvent résister à l'examen public de leur code source en prétendant qu'il est classé comme secret commercial.

"Alors que l'utilisation d'algorithmes prolifère dans les poursuites contre les Américains, nous devons nous assurer qu'ils peuvent voir et contester les boîtes noires qui pourraient déterminer s'ils sont condamnés", a déclaré Takano dans un communiqué. déclaration. "Les privilèges des développeurs de logiciels en matière de secrets commerciaux ne devraient jamais l'emporter sur les droits à une procédure régulière des accusés dans le système de justice pénale."

Et pourtant ils le font. Northpointe, le développeur d'un système appelé COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilisé pour calculer le risque de récidive afin d'éclairer les décisions avant et après le procès, considère son système comme exclusif et a refusé de révéler son fonctionnement.

"En tant qu'algorithme développé en privé, COMPAS bénéficie des protections de la loi sur les secrets commerciaux", a écrit Andrew Lee Park dans une revue de droit de l'UCLA de 2019. article. "Cela signifie que l'algorithme de COMPAS - y compris son logiciel, les types de données qu'il utilise et la manière dont COMPAS évalue chaque point de données - est pratiquement à l'abri de tout examen minutieux par des tiers."

Cela pourrait être tolérable si COMPAS traitait tout le monde équitablement, a déclaré Park, mais les recherches suggèrent que ce n'est pas le cas. Spécifiquement, une analyse menée par ProPublicain en 2016 a révélé que COMPAS était biaisé contre les Afro-Américains et était souvent inexact.

Northpointe publié recherche de réfutation prétendre que son logiciel est juste. Et ProPublica contré, déclarant qu'il maintenait ses conclusions. Il n’en demeure pas moins que prendre des décisions en matière de justice pénale sans divulguer comment ces décisions ont été prises demeure problématique.

"Nous soutenons les exigences de transparence et de normes de la loi sur la justice dans les algorithmes médico-légaux", a déclaré Hannah Zhao, avocate de l'EFF. Le registre. « Les accusés et le public ont le droit d’examiner les algorithmes utilisés pour mettre des personnes derrière les barreaux. »

Les accusés ont fait valoir que le fait de se voir refuser l'accès au code source d'un tel logiciel viole le droit du sixième amendement de confronter son accusateur, une question soulevée sans succès dans un appel [PDF] pour annuler la condamnation pour meurtre en 2015 du tueur reconnu John Wakefield.

En décembre 2023 article de révision de la loi intitulé « Responsabilité algorithmique et sixième amendement : le droit de confronter un témoin artificiel », Dallon Danforth, étudiant à la faculté de droit de l'Université de Baltimore, soutient que le système judiciaire devra résoudre la tension entre le droit de confronter un accusateur et le droit de protéger les droits intellectuels. propriété.

La loi de 2024 sur la justice dans les algorithmes médico-légaux a quelque chose à dire à ce sujet. Dommage qu'il ne parvienne probablement pas non plus à passer par la Chambre et le Sénat cette fois-ci. ®

Horodatage:

Plus de Le registre