Законодатели снова пытаются взломать алгоритмы черного ящика

Законодатели снова пытаются взломать алгоритмы черного ящика

Отметка времени: 16 февраля 2024 г., 5:47
Законодатели снова пытаются взломать алгоритмы черного ящика PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Законодатели-демократы в очередной раз предложили закон, гарантирующий, что исходный код программного обеспечения, используемый для уголовных расследований, может быть проверен и подвергнут стандартизированному тестированию со стороны правительства.

В четверг представители Палаты представителей Марк Такано (демократ от Калифорнии) и Дуайт Эванс (демократ от Пенсильвании) повторно представили Закон о правосудии в алгоритмах судебной экспертизы 2024 года, законопроект, который запрещает использование заявлений о коммерческой тайне и запрещает адвокатам проверять исходный код, имеющий отношение к уголовным делам. и устанавливает федеральный режим тестирования криминалистического программного обеспечения.

Привилегии разработчиков программного обеспечения в отношении коммерческой тайны никогда не должны преобладать над процессуальными правами ответчиков.

Законопроект, внесенный , в 2019 году и , в 2021 году безрезультатно, направлен на то, чтобы гарантировать обвиняемым по уголовным делам возможность оценить справедливость программного обеспечения, используемого против них.

Зачастую это не так, потому что производители криминалистического программного обеспечения могут сопротивляться публичному рассмотрению своего исходного кода, заявляя, что он классифицируется как коммерческая тайна.

«Поскольку использование алгоритмов в судебном преследовании американцев распространяется, мы должны гарантировать, что они смогут видеть и оспаривать черные ящики, которые могут определить, осуждены ли они», — сказал Такано в докладе. заявление. «Привилегии разработчиков программного обеспечения в отношении коммерческой тайны никогда не должны превосходить права обвиняемых на надлежащую правовую процедуру в системе уголовного правосудия».

И все же они это делают. Компания Northpointe, разработчик системы под названием COMPAS (Профилирование исправительных правонарушителей для альтернативных санкций), используемой для расчета риска рецидива для обоснования досудебных и послесудебных решений, считает свою систему запатентованной и отказывается раскрыть, как она работает.

«Как алгоритм, разработанный в частном порядке, COMPAS защищен законом о коммерческой тайне», — написал Эндрю Ли Парк в журнале UCLA Law Review за 2019 год. гайд. «Это означает, что алгоритм COMPAS – включая его программное обеспечение, типы данных, которые он использует, и то, как COMPAS взвешивает каждую точку данных – практически неуязвим для проверки со стороны третьих лиц».

Это могло бы быть терпимо, если бы COMPAS относился ко всем справедливо, сказал Пак, но исследования показывают, что это не так. Конкретно, анализ Исследование, проведенное ProPublicain в 2016 году, показало, что КОМПАС предвзято относится к афроамериканцам и часто бывает неточным.

Нортпойнт опубликован опровержение исследования утверждая, что ее программное обеспечение является честным. И ПроПублика противопоставить, заявив, что он придерживается своих выводов. Факт остается фактом: принятие решений по уголовному правосудию без раскрытия того, как эти решения были приняты, остается проблематичным.

«Мы поддерживаем требования прозрачности и стандартов в Законе о правосудии в алгоритмах судебной экспертизы», — сказала штатный адвокат EFF Ханна Чжао. Регистр. «Обвиняемые по уголовным делам и общественность имеют право проверять алгоритмы, используемые для помещения людей за решетку».

Ответчики утверждали, что отказ в доступе к исходному коду такого программного обеспечения нарушает Шестую поправку о праве на очную ставку с обвинителем. Этот вопрос безуспешно поднимался в обращение [PDF] об отмене приговора за убийство, вынесенного в 2015 году осужденному убийце Джону Уэйкфилду.

В декабре 2023 статья обзора закона Студент юридического факультета Балтиморского университета Даллон Дэнфорт под названием «Алгоритмическая ответственность и шестая поправка: право противостоять искусственному свидетелю» утверждает, что судебной системе придется разрешить противоречие между правом противостоять обвинителю и правом защищать интеллектуальную собственность. свойство.

Закон о правосудии в криминалистических алгоритмах 2024 года может что-то сказать по этому поводу. Жаль, что и на этот раз он, вероятно, не пройдет ни через Палату представителей, ни через Сенат. ®

Отметка времени:

Больше от Регистр