Parlamentarii încearcă din nou să spargă algoritmii cutiei negre

Legislatorii democrați au propus încă o dată o legislație pentru a se asigura că codul sursă al software-ului utilizat pentru investigațiile penale poate fi examinat și este supus testării standardizate de către guvern.

Reprezentanții Camerei Mark Takano (D-CA) și Dwight Evans (D-PA) au reintrodus joi Legea Justiției în Algoritmii Criminali din 2024, un proiect de lege care interzice utilizarea revendicărilor secrete comerciale pentru a împiedica avocații apărării să revizuiască codul sursă relevant pentru cazurile penale. și stabilește un regim federal de testare pentru software-ul criminalistic.

Privilegiile secrete comerciale ale dezvoltatorilor de software nu ar trebui niciodată să depășească drepturile de proces echitabil ale inculpaților

Proiectul de lege, prezentat în 2019 și în 2021 fără niciun rezultat, urmărește să garanteze că inculpații au posibilitatea de a evalua corectitudinea software-ului utilizat împotriva lor.

Adesea, acest lucru nu este cazul, deoarece producătorii de software criminalistic pot rezista revizuirii publice a codului lor sursă susținând că este clasificat drept secret comercial.

„Pe măsură ce utilizarea algoritmilor proliferează în urmărirea penală a americanilor, trebuie să ne asigurăm că aceștia pot vedea și contesta cutiile negre care ar putea determina dacă sunt condamnați”, a spus Takano într-un declaraţie. „Privilegiile secretelor comerciale ale dezvoltatorilor de software nu ar trebui niciodată să depășească drepturile la proces echitabil ale inculpaților în sistemul de justiție penală.”

Și totuși o fac. Northpointe, dezvoltatorul unui sistem numit COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), folosit pentru calcularea riscului de recidivă pentru a informa deciziile pre- și post-proces, consideră că sistemul său este proprietar și a refuzat să dezvăluie cum funcționează.

„Ca algoritm dezvoltat privat, COMPAS beneficiază de protecția legii secretelor comerciale”, a scris Andrew Lee Park într-o revizuire a legii UCLA din 2019. articol. „Asta înseamnă că algoritmul COMPAS – inclusiv software-ul său, tipurile de date pe care le utilizează și modul în care COMPAS cântărește fiecare punct de date – este aproape imun la controlul terților.”

Acest lucru ar putea fi tolerabil dacă COMPAS ar trata pe toată lumea în mod corect, a spus Park, dar cercetările sugerează că nu. Specific, o analiză realizat de ProPublicain în 2016, a constatat că COMPAS este părtinitor împotriva afro-americanilor și a fost adesea inexact.

Northpointe a publicat cercetare de respingere susținând că software-ul său este corect. Și ProPublica contracarate, afirmând că a susținut constatările sale. Faptul rămâne că luarea deciziilor de justiție penală fără a dezvălui cum au fost luate aceste decizii rămâne problematică.

„Susținem cerințele de transparență și standarde din Legea Justiției în Algoritmii Criminali”, a spus avocatul personalului EFF, Hannah Zhao. Registrul. „Inculpații penali și publicul au dreptul să examineze algoritmii folosiți pentru a pune oamenii după gratii”.

Pârâții au susținut că faptul că i se interzice accesul la codul sursă al unui astfel de software încalcă Dreptul de a-și confrunta acuzatorul al șaselea amendament, problemă ridicată fără succes în un apel [PDF] pentru a anula condamnarea pentru crimă din 2015 a ucigașului condamnat John Wakefield.

Într-un 2023 decembrie articol de revizuire a legii intitulat „Răspunderea algoritmică și al șaselea amendament: dreptul de a se confrunta cu un martor artificial”, studentul la Facultatea de Drept de la Universitatea din Baltimore, Dallon Danforth, susține că sistemul judecătoresc va trebui să rezolve tensiunea dintre dreptul de a se confrunta cu un acuzator și dreptul de a proteja intelectualul. proprietate.

Legea Justiției în Algoritmii Criminali din 2024 are ceva de spus despre asta. Păcat că probabil că nu va trece nici de această dată în Camera și Senat. ®

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/