Ustawodawcy ponownie próbują złamać algorytmy czarnej skrzynki

Demokratyczni prawodawcy po raz kolejny zaproponowali przepisy zapewniające możliwość sprawdzenia kodu źródłowego oprogramowania wykorzystywanego w dochodzeniach karnych i poddania go standardowym testom przeprowadzanym przez rząd.

W czwartek przedstawiciele Izby Reprezentantów Mark Takano (D-CA) i Dwight Evans (D-PA) ponownie przedstawili ustawę Justice in Forensic Algorithms Act z 2024 r., czyli projekt ustawy, która zabrania wykorzystywania roszczeń stanowiących tajemnicę handlową w celu zakazania obrońcom przeglądania kodu źródłowego istotnego dla spraw karnych i ustanawia federalny system testowania oprogramowania kryminalistycznego.

Przywileje objęte tajemnicą handlową twórców oprogramowania nie powinny nigdy przeważać nad prawami oskarżonych do należytego procesu

Projekt ustawy, wprowadzony w 2019 i w 2021 bezskutecznie ma na celu zagwarantowanie oskarżonym o popełnienie przestępstwa możliwości oceny uczciwości oprogramowania użytego przeciwko nim.

Często tak nie jest, ponieważ twórcy oprogramowania kryminalistycznego mogą oprzeć się publicznemu przeglądowi ich kodu źródłowego, twierdząc, że jest on objęty tajemnicą handlową.

„W miarę rozpowszechniania się stosowania algorytmów w ściganiu Amerykanów, musimy dopilnować, aby mogli zobaczyć i zakwestionować czarne skrzynki, które mogą określić, czy zostaną skazani”, stwierdził Takano w przemówieniu oświadczenie. „Przywileje twórców oprogramowania dotyczące tajemnic handlowych nie powinny nigdy przeważać nad prawami oskarżonych do należytego procesu w systemie sądownictwa karnego”.

A jednak to robią. Northpointe, twórca systemu o nazwie COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), wykorzystywanego do obliczania ryzyka recydywy na potrzeby podejmowania decyzji przed i po procesie, uważa swój system za zastrzeżony i nie chce ujawnić, jak działa.

„Jako algorytm opracowany prywatnie, COMPAS jest objęty ochroną na mocy prawa dotyczącego tajemnicy handlowej” – napisał Andrew Lee Park w przeglądzie prawnym UCLA z 2019 r. artykuł. „Oznacza to, że algorytm COMPAS – w tym jego oprogramowanie, rodzaje wykorzystywanych danych i sposób, w jaki COMPAS waży każdy punkt danych – jest prawie odporny na kontrolę ze strony osób trzecich”.

Mogłoby to być tolerowane, gdyby COMPAS traktował wszystkich sprawiedliwie, stwierdził Park, ale badania sugerują, że tak nie jest. Konkretnie, analiza przeprowadzone przez ProPublicain w 2016 r. wykazało, że COMPAS jest stronniczy w stosunku do Afroamerykanów i często jest niedokładny.

Opublikowano Northpointe badania zaprzeczające twierdząc, że jego oprogramowanie jest uczciwe. I ProPublica skontrowany, oświadczając, że podtrzymuje swoje ustalenia. Faktem pozostaje, że podejmowanie decyzji w sprawach karnych bez ujawniania, w jaki sposób te decyzje zostały podjęte, pozostaje problematyczne.

„Popieramy wymogi przejrzystości i standardów zawarte w ustawie o sprawiedliwości w algorytmach kryminalistycznych” – powiedziała Hannah Zhao, prawniczka EFF Rejestr. „Oskarżeni w sprawach karnych i społeczeństwo mają prawo zbadać algorytmy wykorzystywane do wsadzania ludzi za kratki”.

Pozwani argumentowali, że odmowa dostępu do kodu źródłowego takiego oprogramowania narusza prawo do konfrontacji z oskarżycielem zawarte w szóstej poprawce, co zostało bezskutecznie podniesione w sprawie odwołanie [PDF] w celu unieważnienia wyroku skazującego za morderstwo z 2015 r. wydanego na skazanego zabójcę Johna Wakefielda.

W grudniu 2023 r. artykuł przeglądowy prawa zatytułowany „Odpowiedzialność algorytmiczna a szósta poprawka: prawo do konfrontacji ze sztucznym świadkiem” Dallon Danforth, student Wydziału Prawa Uniwersytetu w Baltimore, twierdzi, że system sądowy będzie musiał rozwiązać napięcie między prawem do konfrontacji z oskarżycielem a prawem do ochrony intelektualnej nieruchomość.

Ustawa o sprawiedliwości w algorytmach kryminalistycznych z 2024 r. ma coś do powiedzenia na ten temat. Szkoda, że ​​tym razem prawdopodobnie nie przejdzie zarówno przez Izbę, jak i Senat. ®

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/