Zakonodajalci znova poskušajo zlomiti algoritme črne skrinjice

Ponovno objavil Platon

Spremljevalci: 0

Lawmakers try again to break open black box algorithms PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Demokratični zakonodajalci so znova predlagali zakonodajo, ki zagotavlja, da se izvorna koda programske opreme, ki se uporablja za kazenske preiskave, lahko pregleda in da je predmet standardiziranega testiranja vlade.

V četrtek sta predstavnika predstavniškega doma Mark Takano (D-CA) in Dwight Evans (D-PA) ponovno uvedla zakon o pravosodju v forenzičnih algoritmih iz leta 2024, osnutek zakona, ki prepoveduje uporabo trditev o poslovni skrivnosti, da bi obrambnim odvetnikom prepovedali pregled izvorne kode, pomembne za kazenske zadeve. in vzpostavlja zvezni režim testiranja forenzične programske opreme.

Privilegiji razvijalcev programske opreme v zvezi s poslovno skrivnostjo ne smejo nikoli prevladati nad pravicami obdolžencev glede dolžnega postopka

Predlog zakona, predstavljen v 2019 in v 2021 brezuspešno, želi zagotoviti, da imajo obtoženci kaznivih dejanj možnost oceniti poštenost programske opreme, ki se uporablja proti njim.

Pogosto temu ni tako, ker se izdelovalci forenzične programske opreme lahko uprejo javnemu pregledu svoje izvorne kode s trditvijo, da je označena kot poslovna skrivnost.

"Ker se uporaba algoritmov širi pri pregonu Američanov, moramo zagotoviti, da lahko vidijo in izzovejo črne skrinjice, ki bi lahko ugotovile, ali so obsojeni," je dejal Takano v Izjava. "Privilegiji razvijalcev programske opreme v zvezi s poslovnimi skrivnostmi ne smejo nikoli prevladati nad pravicami obdolžencev v kazenskem pravosodju."

In vendar to počnejo. Northpointe, razvijalec sistema, imenovanega COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), ki se uporablja za izračun tveganja ponovitve za obveščanje o odločitvah pred in po sojenju, meni, da je njegov sistem zaščiten in ni hotel razkriti, kako deluje.

»Kot zasebno razvit algoritem je COMPAS zagotovljena zaščita zakona o poslovnih skrivnostih,« je zapisal Andrew Lee Park v pregledu prava UCLA iz leta 2019. članek. "To pomeni, da je algoritem COMPAS - vključno z njegovo programsko opremo, vrstami podatkov, ki jih uporablja, in načinom, kako COMPAS tehta vsako podatkovno točko - skorajda imun na nadzor tretjih oseb."

To bi lahko bilo sprejemljivo, če bi COMPAS vse obravnaval pošteno, je dejal Park, vendar raziskave kažejo, da ne. Natančneje, analiza ki jih je leta 2016 izvedel ProPublicain, je bilo ugotovljeno, da je COMPAS pristranski do Afroameričanov in je bil pogosto netočen.

Northpointe objavil zavrnitvene raziskave trdi, da je njegova programska oprema poštena. In ProPublica nasprotniin izjavil, da vztraja pri svojih ugotovitvah. Dejstvo ostaja, da sprejemanje kazenskopravnih odločitev brez razkritja, kako so bile te odločitve sprejete, ostaja problematično.

"Podpiramo zahteve glede preglednosti in standardov v Zakonu o pravičnosti v forenzičnih algoritmih," je povedala odvetnica osebja EFF Hannah Zhao Register. "Obtoženci kaznivih dejanj in javnost imajo pravico preučiti algoritme, ki se uporabljajo za spravljanje ljudi za rešetke."

Obtoženci so trdili, da zavrnitev dostopa do izvorne kode takšne programske opreme krši šesti amandma Pravica do soočenja s svojim obtožnikom, vprašanje, ki je bilo neuspešno izpostavljeno v pritožba [PDF] za razveljavitev obsodbe za umor iz leta 2015 obsojenega morilca Johna Wakefielda.

V 2023. decembru pravni pregledni članek z naslovom »Algoritemska odgovornost in šesti amandma: pravica do soočenja z umetno pričo« študent pravne fakultete Univerze v Baltimoru Dallon Danforth trdi, da bo sodni sistem moral razrešiti napetost med pravico do soočenja z obtožnikom in pravico do zaščite intelektualcev premoženje.

Zakon o pravičnosti v forenzičnih algoritmih iz leta 2024 ima nekaj povedati o tem. Škoda, da tudi tokrat verjetno ne bo uspelo priti skozi predstavniški dom in senat. ®