Lagstiftare försöker igen att bryta upp svarta lådans algoritmer

Lagstiftare försöker igen att bryta upp svarta lådans algoritmer

Tidsstämpel: 16 februari 2024 5:47
Lagstiftare försöker igen att bryta upp black box-algoritmerna PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Demokratiska lagstiftare har återigen föreslagit lagstiftning för att säkerställa att programvarans källkod som används för brottsutredningar kan granskas och är föremål för standardiserade tester av regeringen.

På torsdagen återinförde husrepresentanterna Mark Takano (D-CA) och Dwight Evans (D-PA) lagen om rättvisa i forensiska algoritmer från 2024, ett lagförslag som förbjuder användning av anspråk på affärshemligheter från att hindra försvarsadvokater från att granska källkod som är relevant för brottmål och upprättar ett federalt testsystem för kriminalteknisk programvara.

Affärshemliga privilegier för programvaruutvecklare bör aldrig övertrumfa de anklagades rättigheter

Lagförslaget, framlagt i 2019 och i 2021 utan resultat, syftar till att garantera att åtalade brottslingar har möjlighet att bedöma rättvisan hos programvara som används mot dem.

Ofta är detta inte fallet eftersom tillverkare av kriminalteknisk programvara kan motstå offentlig granskning av sin källkod genom att hävda att den klassificeras som en affärshemlighet.

"Eftersom användningen av algoritmer ökar i lagföringen av amerikaner måste vi se till att de kan se och utmana svarta lådor som kan avgöra om de är dömda", sa Takano i en meddelandet. "Mjukvaruutvecklarnas affärshemlighetsprivilegier bör aldrig övertrumfa de åtalades rätt till vederbörlig process i det straffrättsliga systemet."

Och ändå gör de det. Northpointe, utvecklare av ett system som heter COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), som används för att beräkna återfallsrisk för att informera om beslut före och efter rättegången, anser att sitt system är proprietärt och har vägrat att avslöja hur det fungerar.

"Som en privat utvecklad algoritm ges COMPAS skyddet av lagar om affärshemligheter", skrev Andrew Lee Park i en UCLA Law Review 2019 Artikeln. "Det betyder att COMPAS algoritm - inklusive dess mjukvara, de typer av data den använder och hur COMPAS väger varje datapunkt - är nästan immun mot granskning från tredje part."

Detta kan vara acceptabelt om COMPAS behandlade alla rättvist, sa Park, men forskning tyder på att det inte gör det. Specifikt, en analys genomfördes av ProPublicain 2016 fann COMPAS vara partisk mot afroamerikaner och var ofta felaktig.

Northpointe publicerade vederlagsforskning hävdar att dess programvara är rättvis. Och ProPublica motverkas, och angav att den stod vid sina resultat. Faktum kvarstår att det fortfarande är problematiskt att fatta straffrättsliga beslut utan att avslöja hur dessa beslut fattades.

"Vi stöder transparens- och standardkraven i lagen om rättvisa i kriminaltekniska algoritmer", säger EFF-personalens advokat Hannah Zhao. Registret. "Kriminella åtalade och allmänheten har rätt att undersöka de algoritmer som används för att sätta människor bakom galler."

Åtalade har hävdat att nekad tillgång till sådan programvaras källkod bryter mot den sjätte ändringsrätten att konfrontera sin anklagare, en fråga som utan framgång togs upp i ett överklagande [PDF] för att upphäva morddomen 2015 på den dömde mördaren John Wakefield.

I december 2023 lagen om översyn av artiklarna med titeln "Algorithmic Accountability and the Sixth Amendment: The Right to Confront an Artificial Witness," University of Baltimore School of Law-student Dallon Danforth hävdar att domstolssystemet måste lösa spänningen mellan rätten att konfrontera en anklagare och rätten att skydda intellektuell fast egendom.

The Justice in Forensic Algorithms Act från 2024 har något att säga om det. Synd att det förmodligen inte kommer att ta sig igenom både kammaren och senaten den här gången heller. ®

Tidsstämpel:

Mer från Registret