Lainsäätäjät yrittävät jälleen rikkoa mustan laatikon algoritmeja

Lainsäätäjät yrittävät jälleen rikkoa mustan laatikon algoritmeja

Aikaleima: 16. helmikuuta 2024 5
Lainsäätäjät yrittävät jälleen murtaa mustan laatikon algoritmeja PlatoBlockchain Data Intelligencen. Pystysuuntainen haku. Ai.

Demokraattiset lainsäätäjät ovat jälleen ehdottaneet lainsäädäntöä sen varmistamiseksi, että rikostutkinnassa käytettävä ohjelmistolähdekoodi voidaan tutkia ja että hallitus testaa sitä standardoidusti.

Torstaina edustajainhuoneen edustajat Mark Takano (D-CA) ja Dwight Evans (D-PA) esittelivät uudelleen vuoden 2024 Justice in Forensic Algorithms Actin, lakiluonnoksen, joka kieltää liikesalaisuuksien käyttämisen estämästä puolustajia tarkistamasta rikosasioihin liittyvää lähdekoodia. ja perustaa rikosteknisten ohjelmistojen liittovaltion testausjärjestelmän.

Ohjelmistokehittäjien liikesalaisuusoikeudet eivät saa koskaan ohittaa syytettyjen asianmukaisia ​​oikeudenkäyntioikeuksia

Lakiesitys esitelty vuonna 2019 ja vuonna 2021 turhaan, pyrkii takaamaan, että syytetyillä on mahdollisuus arvioida heitä vastaan ​​käytettyjen ohjelmistojen oikeudenmukaisuutta.

Usein näin ei ole, koska rikosteknisten ohjelmistojen valmistajat voivat vastustaa lähdekoodinsa julkista tarkastelua väittämällä, että se on luokiteltu liikesalaisuudeksi.

"Koska algoritmien käyttö lisääntyy amerikkalaisten syytteeseenpanossa, meidän on varmistettava, että he voivat nähdä ja haastaa mustat laatikot, jotka voivat määrittää, onko heidät tuomittu", Takano sanoi. selvitys. "Ohjelmistojen kehittäjien liikesalaisuuksien oikeudet eivät saa koskaan ohittaa syytettyjen asianmukaisia ​​oikeudenkäyntioikeuksia rikosoikeusjärjestelmässä."

Ja silti he tekevät. Northpointe, COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) -nimisen järjestelmän kehittäjä, jota käytetään uusimisriskin laskemiseen ennen oikeudenkäyntiä ja sen jälkeisiä päätöksiä, pitää järjestelmäänsä omistusoikeudellisena ja on kieltäytynyt paljastamasta, miten se toimii.

"Yksityisesti kehitettynä algoritmina COMPASilla on liikesalaisuuslain suoja", kirjoitti Andrew Lee Park 2019 UCLA Law Reviewssa. artikkeli. "Tämä tarkoittaa, että COMPASin algoritmi – mukaan lukien sen ohjelmistot, sen käyttämät datatyypit ja miten COMPAS punnitsee jokaisen datapisteen – on täysin immuuni kolmannen osapuolen valvonnalta."

Tämä saattaa olla siedettävää, jos COMPAS kohtelisi kaikkia oikeudenmukaisesti, Park sanoi, mutta tutkimusten mukaan näin ei ole. Erityisesti, analyysi ProPublicainin vuonna 2016 suorittaman tutkimuksen mukaan COMPAS oli puolueellinen afroamerikkalaisia ​​kohtaan ja se oli usein epätarkka.

Northpointe julkaistiin vastaväitetutkimus väittää, että sen ohjelmisto on oikeudenmukainen. Ja ProPublica torjua, jossa se totesi pitävänsä kiinni havainnoistaan. Tosiasia on, että rikosoikeudellisten päätösten tekeminen paljastamatta, miten nämä päätökset tehtiin, on edelleen ongelmallista.

"Tuemme Justice in Forensic Algorithms Actin avoimuus- ja standardivaatimuksia", sanoi EFF:n asianajaja Hannah Zhao. Rekisteri. "Rikossyytetyillä ja yleisöllä on oikeus tutkia algoritmeja, joilla ihmiset laitetaan kaltereiden taakse."

Vastaajat ovat väittäneet, että pääsyn epääminen tällaisen ohjelmiston lähdekoodiin loukkaa kuudennen lisäyksen oikeutta kohdata syyttäjänsä, mikä on tuotu esille tuloksetta vetoomus [PDF] kumoaa murhasta tuomitun John Wakefieldin vuonna 2015 antaman tuomion.

Joulukuun 2023. päivänä lain tarkistusartikkeli Baltimoren yliopiston oikeustieteellisen korkeakoulun opiskelija Dallon Danforth, jonka otsikkona on "Algoritminen vastuullisuus ja kuudes muutos: oikeus kohdata keinotekoinen todistaja", väittää, että oikeusjärjestelmän on ratkaistava jännitys oikeuden kohdata syyttäjä ja oikeuden suojella henkistä. omaisuutta.

Vuoden 2024 Justice in Forensic Algorithms Actilla on jotain sanottavaa tästä. Harmi, että se ei todennäköisesti selviä parlamentissa ja senaatissa tälläkään kertaa. ®

Aikaleima:

Lisää aiheesta Rekisteri