Legisladores tentam novamente quebrar algoritmos de caixa preta

Os legisladores democratas propuseram mais uma vez legislação para garantir que o código-fonte do software utilizado para investigações criminais possa ser examinado e sujeito a testes padronizados pelo governo.

Na quinta-feira, os representantes da Câmara Mark Takano (D-CA) e Dwight Evans (D-PA) reintroduziram a Lei de Justiça em Algoritmos Forenses de 2024, um projeto de lei que proíbe o uso de reivindicações de segredo comercial para impedir que advogados de defesa revisem o código-fonte relevante para casos criminais e estabelece um regime federal de testes para software forense.

Os privilégios de segredo comercial dos desenvolvedores de software nunca devem superar os direitos do devido processo dos réus

O projeto de lei, apresentado em 2019 e em 2021 sem sucesso, visa garantir que os réus criminais tenham a oportunidade de avaliar a justiça do software usado contra eles.

Muitas vezes este não é o caso porque os fabricantes de software forense podem resistir à revisão pública do seu código-fonte alegando que é classificado como segredo comercial.

“À medida que o uso de algoritmos prolifera na acusação de americanos, devemos garantir que eles possam ver e desafiar caixas pretas que possam determinar se serão condenados”, disse Takano em um comunicado. afirmação. “Os privilégios de segredos comerciais dos desenvolvedores de software nunca devem superar os direitos do devido processo dos réus no sistema de justiça criminal.”

E ainda assim eles fazem. Northpointe, o desenvolvedor de um sistema chamado COMPAS (Perfil Correcional de Gestão de Infratores para Sanções Alternativas), usado para calcular o risco de reincidência para informar decisões pré e pós-julgamento, considera seu sistema proprietário e se recusou a revelar como funciona.

“Como um algoritmo desenvolvido de forma privada, o COMPAS recebe as proteções da lei de segredo comercial”, escreveu Andrew Lee Park em uma UCLA Law Review de 2019 artigo. “Isso significa que o algoritmo do COMPAS – incluindo seu software, os tipos de dados que usa e como o COMPAS avalia cada ponto de dados – está praticamente imune ao escrutínio de terceiros.”

Isto poderia ser tolerável se o COMPAS tratasse todos de forma justa, disse Park, mas a investigação sugere que não. Especificamente, uma análise conduzido pela ProPublicain em 2016 concluiu que o COMPAS era tendencioso contra os afro-americanos e muitas vezes impreciso.

Northpointe publicado pesquisa de refutação alegar que seu software é justo. E ProPública rebatido, afirmando que manteve suas descobertas. A verdade é que a tomada de decisões de justiça criminal sem revelar como essas decisões foram tomadas continua problemática.

“Apoiamos os requisitos de transparência e padrões da Lei de Justiça em Algoritmos Forenses”, disse a advogada da EFF, Hannah Zhao. O registro. “Os réus criminais e o público têm o direito de examinar os algoritmos usados ​​para colocar as pessoas atrás das grades.”

Os réus argumentaram que ter acesso negado ao código-fonte de tal software viola o direito da Sexta Emenda de confrontar o acusador, uma questão levantada sem sucesso em um apelo [PDF] para anular a condenação por homicídio de 2015 do assassino condenado John Wakefield.

Em 2023 de dezembro artigo de revisão de lei intitulado “Responsabilidade Algorítmica e a Sexta Emenda: O Direito de Confrontar uma Testemunha Artificial”, Dallon Danforth, estudante da Faculdade de Direito da Universidade de Baltimore, argumenta que o sistema judicial terá que resolver a tensão entre o direito de confrontar um acusador e o direito de proteger direitos intelectuais. propriedade.

A Lei de Justiça em Algoritmos Forenses de 2024 tem algo a dizer sobre isso. Pena que provavelmente não será aprovado na Câmara e no Senado desta vez. ®

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/