Seadusandjad proovivad uuesti musta kasti algoritme lahti murda

Taasavaldanud Platon

järgijaid: 0

Lawmakers try again to break open black box algorithms PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Demokraatlikud seadusandjad on taas esitanud õigusakti ettepaneku, et tagada kriminaaluurimiseks kasutatava tarkvara lähtekoodi kontrollimine ja valitsuse poolt standardiseeritud testimine.

Neljapäeval võtsid esindajatekoja esindajad Mark Takano (D-CA) ja Dwight Evans (D-PA) uuesti kasutusele 2024. aasta kohtuekspertiisi algoritmide õigusemõistmise seaduse – seaduseelnõu, mis keelab ärisaladuse väidete kasutamisel kaitsjatel kriminaalasjadega seotud lähtekoodi üle vaadata. ning kehtestab kohtuekspertiisi tarkvara föderaalse testimise korra.

Tarkvaraarendajate ärisaladused ei tohiks kunagi ületada kostjate nõuetekohast menetlusõigust

Eelnõu, tutvustatud aastal 2019 ja aastal 2021 tulutult, eesmärk on tagada, et kriminaalsüüdistatavatel oleks võimalus hinnata nende vastu kasutatud tarkvara õiglust.

Sageli pole see nii, sest kohtuekspertiisi tarkvara tootjad võivad oma lähtekoodi avalikult üle vaadata, väites, et see on ärisaladuseks klassifitseeritud.

"Kuna algoritmide kasutamine ameeriklaste süüdistuste esitamisel vohab, peame tagama, et nad saaksid näha ja vaidlustada musti kaste, mis võivad määrata nende süüdimõistmise," ütles Takano avaldus. "Tarkvara arendajate ärisaladuste õigused ei tohiks kunagi ületada süüdistatavate õigusi kriminaalõigussüsteemis."

Ja ometi nad seda teevad. Northpointe, süsteemi nimega COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) arendaja, mida kasutatakse retsidiivsusriski arvutamiseks, et teavitada kohtueelsetest ja -järgsetest otsustest, peab oma süsteemi omandiõiguseks ja on keeldunud avaldamast, kuidas see toimib.

"Eraviisiliselt välja töötatud algoritmina on COMPAS-il tagatud ärisaladuse seaduse kaitse," kirjutas Andrew Lee Park 2019. aasta UCLA seaduse ülevaates. artikkel. "See tähendab, et COMPAS-i algoritm – sealhulgas selle tarkvara, kasutatavad andmetüübid ja see, kuidas COMPAS iga andmepunkti kaalub – on kolmanda osapoole kontrollimise suhtes immuunne."

See võib olla talutav, kui COMPAS kohtleks kõiki õiglaselt, ütles Park, kuid uuringud näitavad, et see pole nii. Täpsemalt analüüs ProPublicain 2016. aastal leidis, et COMPAS on afroameeriklaste suhtes kallutatud ja sageli ebatäpne.

Northpointe avaldas ümberlükkamisuuringud väites, et selle tarkvara on õiglane. Ja ProPublica vastu, kinnitades, et jääb oma järelduste juurde. Fakt on see, et kriminaalõigusotsuste tegemine ilma nende otsuste tegemise viisi avaldamata on endiselt problemaatiline.

"Toetame läbipaistvus- ja standardinõudeid kohtuekspertiisi algoritmide seaduses," ütles EFF-i personaliadvokaat Hannah Zhao. Register. "Süüdistatavatel ja avalikkusel on õigus uurida algoritme, mida kasutatakse inimeste trellide taha panemiseks."

Kostjad on väitnud, et sellise tarkvara lähtekoodile juurdepääsu keelamine rikub kuuenda muudatuse õigust oma süüdistajaga silmitsi seista – see probleem tõstatati edutult kaebus [PDF], et tühistada süüdimõistetud tapja John Wakefieldi 2015. aasta mõrvas süüdimõistmine.

2023. aasta detsembris seaduse ülevaateartikkel Pealkirjaga "Algoritmiline vastutus ja kuues muudatus: õigus astuda vastu kunstlikule tunnistajale" väidab Baltimore'i ülikooli õigusteaduskonna üliõpilane Dallon Danforth, et kohtusüsteem peab lahendama pinge süüdistajaga silmitsi seismise õiguse ja intellektuaali kaitsmise õiguse vahel. vara.

2024. aasta kohtuekspertiisi algoritmide seadusel on selle kohta midagi öelda. Kahju, et tõenäoliselt ei pääse see ka seekord nii parlamendist kui ka senatist läbi. ®