Законодавці знову намагаються зламати алгоритми чорної скриньки

Демократичні законодавці знову запропонували закон, який гарантує, що вихідний код програмного забезпечення, що використовується для кримінальних розслідувань, може перевірятися та підлягати стандартизованому тестуванню урядом.

У четвер представники Палати представників Марк Такано (D-CA) і Дуайт Еванс (D-PA) повторно представили Закон про правосуддя в алгоритмах криміналістичної експертизи від 2024 року, проект закону, який забороняє використання претензій щодо комерційної таємниці, що забороняє адвокатам переглядати вихідний код, який стосується кримінальних справ. і встановлює федеральний режим тестування для криміналістичного програмного забезпечення.

Привілеї розробників програмного забезпечення, пов’язані з комерційною таємницею, ніколи не повинні переважати над належними процесуальними правами відповідачів

Законопроект, внесено У 2019 та У 2021 безрезультатно, має на меті гарантувати, що підсудні мають можливість оцінити справедливість програмного забезпечення, яке використовується проти них.

Часто це не так, тому що виробники програмного забезпечення для судової експертизи можуть протистояти публічному перегляду свого вихідного коду, стверджуючи, що він класифікується як комерційна таємниця.

«Оскільки використання алгоритмів поширюється під час судового переслідування американців, ми повинні переконатися, що вони можуть бачити та оскаржувати чорні скриньки, які можуть визначити, чи засуджені вони», — сказав Такано в заяву. «Привілеї розробників програмного забезпечення щодо комерційних таємниць ніколи не повинні переважати права обвинувачених у системі кримінального правосуддя».

І все ж вони це роблять. Northpointe, розробник системи під назвою COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), яка використовується для розрахунку ризику рецидиву для інформування про рішення до та після судового розгляду, вважає свою систему запатентованою та відмовився розкрити, як вона працює.

«Як приватно розроблений алгоритм, COMPAS захищено законодавством про комерційну таємницю», — написав Ендрю Лі Парк у Огляді законодавства UCLA за 2019 рік. стаття. «Це означає, що алгоритм COMPAS, включаючи його програмне забезпечення, типи даних, які він використовує, і те, як COMPAS зважує кожну точку даних, практично не піддається стороннім перевіркам».

Це могло б бути терпимим, якби COMPAS ставився до всіх справедливо, сказав Пак, але дослідження показують, що це не так. Зокрема, аналіз Проведений ProPublicain у 2016 році виявив, що COMPAS упереджений щодо афроамериканців і часто був неточним.

Нортпойнт опубліковано спростування дослідження стверджуючи, що його програмне забезпечення є чесним. І ProPublica протистояв, заявивши, що залишається при своїх висновках. Факт залишається фактом, що прийняття рішень у кримінальному суді без розголошення того, як ці рішення були прийняті, залишається проблематичним.

«Ми підтримуємо вимоги щодо прозорості та стандартів у Законі про правосуддя в алгоритмах криміналістичної експертизи», — сказала Ханна Чжао, адвокат штату EFF. Реєстр. «Обвинувачені у кримінальних справах і громадськість мають право перевіряти алгоритми, які використовуються для посадки людей за ґрати».

Відповідачі стверджували, що відмова у доступі до вихідного коду такого програмного забезпечення порушує Шосту поправку. Право на віч-на-віч із обвинувачем, питання, яке безуспішно піднімалося в апеляція [PDF], щоб скасувати вирок засудженому вбивці Джону Вейкфілду у 2015 році.

У грудні 2023р оглядова стаття закону під назвою «Алгоритмічна підзвітність і шоста поправка: право на очну ставку зі штучним свідком» студент Школи права Балтиморського університету Даллон Денфорт стверджує, що судовій системі доведеться вирішити суперечність між правом на очну ставку з обвинувачем і правом захищати інтелектуальну власність.

Закон про правосуддя в алгоритмах криміналістичної експертизи від 2024 року має щось сказати з цього приводу. Шкода, що й цього разу він, мабуть, не пройде ні в Палаті представників, ні в Сенаті. ®

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/