I legislatori tentano nuovamente di infrangere gli algoritmi della scatola nera

I legislatori tentano nuovamente di infrangere gli algoritmi della scatola nera

Timestamp: 16 febbraio 2024 5:47
I legislatori provano ancora una volta a violare gli algoritmi della scatola nera PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

I legislatori democratici hanno ancora una volta proposto una legislazione per garantire che il codice sorgente del software utilizzato per le indagini penali possa essere esaminato e soggetto a test standardizzati da parte del governo.

Giovedì i rappresentanti della Camera Mark Takano (D-CA) e Dwight Evans (D-PA) hanno reintrodotto il Justice in Forensic Algorithms Act del 2024, un progetto di legge che vieta l'uso di rivendicazioni di segreti commerciali impedendo agli avvocati della difesa di rivedere il codice sorgente rilevante per i casi penali e stabilisce un regime di test federale per il software forense.

I privilegi legati al segreto commerciale degli sviluppatori di software non dovrebbero mai prevalere sui diritti degli imputati a un giusto processo

Il disegno di legge, presentato in 2019 ed in 2021 inutilmente, mira a garantire che gli imputati penali abbiano l’opportunità di valutare l’equità del software utilizzato contro di loro.

Spesso questo non è il caso perché i produttori di software forense possono opporsi alla revisione pubblica del loro codice sorgente sostenendo che è classificato come segreto commerciale.

"Mentre l'uso di algoritmi prolifera nei procedimenti giudiziari contro gli americani, dobbiamo garantire che possano vedere e sfidare le scatole nere che potrebbero determinare se saranno condannati", ha affermato Takano in un dichiarazione. “I privilegi legati ai segreti commerciali degli sviluppatori di software non dovrebbero mai prevalere sui diritti degli imputati a un giusto processo nel sistema di giustizia penale”.

Eppure lo fanno. Northpointe, lo sviluppatore di un sistema chiamato COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilizzato per calcolare il rischio di recidiva per informare le decisioni pre e post-processuali, considera il suo sistema esclusivo e si è rifiutato di rivelare come funziona.

"Essendo un algoritmo sviluppato privatamente, COMPAS gode della protezione della legge sul segreto commerciale", ha scritto Andrew Lee Park in una UCLA Law Review del 2019 articolo. “Ciò significa che l’algoritmo di COMPAS – compreso il suo software, i tipi di dati che utilizza e il modo in cui COMPAS pesa ciascun punto dati – è quasi immune dal controllo di terze parti”.

Ciò potrebbe essere tollerabile se COMPAS trattasse tutti equamente, ha affermato Park, ma la ricerca suggerisce che non è così. Nello specifico, un'analisi condotto da ProPublicain nel 2016 ha rilevato che COMPAS era parziale nei confronti degli afroamericani ed era spesso impreciso.

Northpointe pubblicato ricerca di confutazione sostenendo che il suo software è giusto. E ProPublica contrastato, affermando di mantenere le proprie conclusioni. Resta il fatto che prendere decisioni di giustizia penale senza rivelare come tali decisioni sono state prese rimane problematico.

"Sosteniamo i requisiti di trasparenza e standard del Justice in Forensic Algorithms Act", ha affermato l'avvocato dello staff dell'EFF Hannah Zhao Il registro. “Gli imputati criminali e il pubblico hanno il diritto di esaminare gli algoritmi utilizzati per mettere le persone dietro le sbarre”.

Gli imputati hanno sostenuto che il fatto che venga negato l'accesso al codice sorgente di tale software viola il sesto emendamento, diritto di confrontarsi con il proprio accusatore, una questione sollevata senza successo in un appello [PDF] per ribaltare la condanna per omicidio del 2015 del condannato assassino John Wakefield.

In un 2023 di dicembre articolo di revisione legale intitolato "Responsabilità algoritmica e sesto emendamento: il diritto di confrontarsi con un testimone artificiale", lo studente Dallon Danforth della School of Law dell'Università di Baltimora sostiene che il sistema giudiziario dovrà risolvere la tensione tra il diritto di affrontare un accusatore e il diritto di proteggere i diritti intellettuali. proprietà.

Il Justice in Forensic Algorithms Act del 2024 ha qualcosa da dire al riguardo. Peccato che probabilmente non riuscirà a passare né alla Camera né al Senato neanche questa volta. ®

Timestamp:

Di più da Il registro