A törvényhozók ismét megpróbálják feltörni a fekete doboz algoritmusait

A törvényhozók ismét megpróbálják feltörni a fekete doboz algoritmusait

Időbélyeg: 16. február 2024. 5:47
Lawmakers try again to break open black box algorithms PlatoBlockchain Data Intelligence. Vertical Search. Ai.

A demokratikus jogalkotók ismét jogszabályt javasoltak annak biztosítására, hogy a bűnügyi nyomozásokhoz használt szoftverforráskódok megvizsgálhatók legyenek, és a kormány által szabványosított tesztelés alá essen.

Csütörtökön a képviselőház Mark Takano (D-CA) és Dwight Evans (D-PA) újra bevezette a 2024-es Justice in Forensic Algorithms Act-et, azt a törvénytervezetet, amely megtiltja az üzleti titokra vonatkozó követelések felhasználását, és megakadályozza, hogy a védőügyvédek felülvizsgálják a büntetőügyekkel kapcsolatos forráskódot. és létrehozza a törvényszéki szoftverek szövetségi tesztelési rendszerét.

A szoftverfejlesztők üzleti titokhoz fűződő jogai soha nem léphetik túl az alperesek megfelelő eljárási jogait

A törvényjavaslatot benyújtották 2019-ben és a 2021-ben hiába, célja annak biztosítása, hogy a vádlottaknak lehetőségük legyen felmérni a velük szemben alkalmazott szoftverek tisztességességét.

Gyakran nem ez a helyzet, mert a kriminalisztikai szoftverek gyártói ellenállhatnak forráskódjuk nyilvános felülvizsgálatának, ha azt állítják, hogy azt üzleti titoknak minősítették.

„Mivel az algoritmusok használata elterjedt az amerikaiak vádemelése során, biztosítanunk kell, hogy láthassák és megtámadhassák azokat a fekete dobozokat, amelyek eldönthetik, hogy elítélik őket” – mondta Takano. nyilatkozat. "A szoftverfejlesztők üzleti titkokkal kapcsolatos kiváltságai soha nem léphetik túl a vádlottak megfelelő eljárási jogait a büntető igazságszolgáltatási rendszerben."

És mégis megteszik. A Northpointe, a COMPAS (Corectional Offender Management Profiling for Alternative Sanctions) nevű rendszer fejlesztője, amelyet a bűnismétlés kockázatának kiszámítására használnak a tárgyalás előtti és utáni döntések meghozatalára, rendszerét védettnek tekinti, és nem hajlandó elárulni, hogyan működik.

„Magán kifejlesztett algoritmusként a COMPAS az üzleti titok védelmét élvezi” – írta Andrew Lee Park a 2019-es UCLA Law Review-ban. cikkben. „Ez azt jelenti, hogy a COMPAS algoritmusa – beleértve a szoftverét, az általa használt adattípusokat és azt, hogy a COMPAS hogyan mérlegeli az egyes adatpontokat – teljesen mentes a harmadik fél általi ellenőrzéstől.”

Ez elviselhető lenne, ha a COMPAS mindenkivel tisztességesen bánna, mondta Park, de a kutatások szerint nem így van. Kimondottan, egy elemzés A ProPublicain által 2016-ban végzett vizsgálat megállapította, hogy a COMPAS elfogult az afroamerikaiakkal szemben, és gyakran pontatlan.

A Northpointe megjelent cáfolatkutatás azt állítva, hogy szoftvere tisztességes. És a ProPublica ellensúlyozni, kijelentve, hogy kitart a megállapításai mellett. Továbbra is problémás a büntető igazságszolgáltatási döntések meghozatala anélkül, hogy nyilvánosságra hoznák a döntések meghozatalának módját.

„Támogatjuk a Justice in Forensic Algorithms Act átláthatóságra és szabványokra vonatkozó követelményeit” – mondta Hannah Zhao, az EFF ügyvédje. A regisztráció. „A vádlottaknak és a nyilvánosságnak joga van megvizsgálni azokat az algoritmusokat, amelyekkel embereket rács mögé juttatnak.”

Az alperesek azzal érveltek, hogy az ilyen szoftverek forráskódjához való hozzáférés megtagadása sérti a vádlóval való szembenézéshez való hatodik kiegészítés jogát, amely kérdés sikertelenül vetődött fel fellebbezés [PDF], hogy hatályon kívül helyezze az elítélt gyilkos, John Wakefield 2015-ben hozott ítéletét.

2023. decemberében törvény áttekintő cikke Az „Algoritmikus elszámoltathatóság és a hatodik módosítás: A mesterséges tanúval való szembenézés joga” címmel a Baltimore-i Egyetem Jogi Karának hallgatója, Dallon Danforth azt állítja, hogy a bírósági rendszernek fel kell oldania a feszültséget a vádlóval való szembenézés joga és az értelmiségi védelméhez való jog között. ingatlan.

A 2024-es Justice in Forensic Algorithms Actnek van valami mondanivalója erről. Kár, hogy valószínűleg ezúttal sem jut át ​​a képviselőházban és a szenátuson sem. ®

Időbélyeg:

Még több A regisztráció