Wetgevers proberen opnieuw black box-algoritmen open te breken

Democratische wetgevers hebben opnieuw wetgeving voorgesteld om ervoor te zorgen dat de softwarebroncode die voor strafrechtelijk onderzoek wordt gebruikt, kan worden onderzocht en wordt onderworpen aan gestandaardiseerde tests door de overheid.

Donderdag hebben huisvertegenwoordigers Mark Takano (D-CA) en Dwight Evans (D-PA) de Justice in Forensic Algorithms Act van 2024 opnieuw ingevoerd, een wetsontwerp dat het gebruik van bedrijfsgeheimen verbiedt om advocaten te beletten de broncode te bekijken die relevant is voor strafzaken. en stelt een federaal testregime voor forensische software in.

Bedrijfsgeheimrechten van softwareontwikkelaars mogen nooit de rechten van gedaagden op een eerlijk proces overtroeven

Het wetsvoorstel, geïntroduceerd in 2019 en in 2021 het mocht niet baten, heeft tot doel te garanderen dat criminele beklaagden de mogelijkheid hebben om de eerlijkheid te beoordelen van de software die tegen hen wordt gebruikt.

Vaak is dit niet het geval, omdat makers van forensische software zich kunnen verzetten tegen openbare beoordeling van hun broncode door te beweren dat deze als bedrijfsgeheim is geclassificeerd.

“Nu het gebruik van algoritmen bij de vervolging van Amerikanen steeds vaker voorkomt, moeten we ervoor zorgen dat ze de zwarte dozen kunnen zien en bestrijden die kunnen bepalen of ze veroordeeld worden”, zei Takano in een verklaring. “De handelsgeheimenprivileges van softwareontwikkelaars mogen nooit de rechten van beklaagden in het strafrechtsysteem overtroeven.”

En toch doen ze dat. Northpointe, de ontwikkelaar van een systeem genaamd COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), dat wordt gebruikt voor het berekenen van het recidiverisico om beslissingen voor en na het proces te onderbouwen, beschouwt zijn systeem als bedrijfseigen en heeft geweigerd te onthullen hoe het werkt.

“Als particulier ontwikkeld algoritme geniet COMPAS de bescherming van de wet op bedrijfsgeheimen”, schreef Andrew Lee Park in een UCLA Law Review uit 2019 dit artikel. “Dat betekent dat het algoritme van COMPAS – inclusief de software, de soorten gegevens die het gebruikt en de manier waarop COMPAS elk datapunt weegt – vrijwel immuun is voor controle door derden.”

Dit zou aanvaardbaar kunnen zijn als COMPAS iedereen eerlijk zou behandelen, zei Park, maar uit onderzoek blijkt dat dit niet het geval is. Concreet, analyse Uit onderzoek van ProPublicain in 2016 bleek dat COMPAS bevooroordeeld was ten opzichte van Afro-Amerikanen en vaak onnauwkeurig was.

Noordpunt gepubliceerd weerleggend onderzoek beweren dat de software eerlijk is. En ProPublica tegengegaanen verklaarde dat het bij zijn bevindingen bleef. Het feit blijft dat het nemen van strafrechtelijke beslissingen zonder bekend te maken hoe die beslissingen zijn genomen problematisch blijft.

“Wij ondersteunen de transparantie- en standaardvereisten in de Justice in Forensic Algorithms Act”, zei EFF-stafadvocaat Hannah Zhao. Het register. “Criminele beklaagden en het publiek hebben het recht om de algoritmen te onderzoeken die worden gebruikt om mensen achter de tralies te zetten.”

Gedaagden hebben betoogd dat het weigeren van toegang tot de broncode van dergelijke software in strijd is met het Sixth Amendment Right om de aanklager te confronteren, een kwestie die zonder succes aan de orde is gesteld in een beroep [PDF] om de moordveroordeling uit 2015 van de veroordeelde moordenaar John Wakefield ongedaan te maken.

Op 2023 december wet overzichtsartikel getiteld ‘Algorithmic Accountability and the Sixth Amendment: The Right to Confront an Artificial Witness’, betoogt Dallon Danforth, student aan de University of Baltimore School of Law, dat het rechtssysteem de spanning zal moeten oplossen tussen het recht om een ​​aanklager te confronteren en het recht om intellectuelen te beschermen. eigendom.

De Justice in Forensic Algorithms Act van 2024 heeft daar iets over te zeggen. Jammer dat het deze keer waarschijnlijk ook niet door het Huis van Afgevaardigden en de Senaat zal komen. ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/