Los legisladores intentan nuevamente descifrar los algoritmos de caja negra

Los legisladores demócratas han propuesto una vez más una legislación para garantizar que el código fuente del software utilizado para las investigaciones criminales pueda ser examinado y esté sujeto a pruebas estandarizadas por parte del gobierno.

El jueves, los representantes de la Cámara de Representantes Mark Takano (D-CA) y Dwight Evans (D-PA) reintrodujeron la Ley de Justicia en Algoritmos Forenses de 2024, un proyecto de ley que prohíbe el uso de afirmaciones de secretos comerciales o que los abogados defensores revisen el código fuente relevante para casos penales. y establece un régimen de pruebas federal para software forense.

Los privilegios de secreto comercial de los desarrolladores de software nunca deben prevalecer sobre los derechos al debido proceso de los acusados

El proyecto de ley, presentado en 2019 y en 2021 en vano, pretende garantizar que los acusados ​​penales tengan la oportunidad de evaluar la imparcialidad del software utilizado en su contra.

A menudo, este no es el caso porque los fabricantes de software forense pueden resistirse a la revisión pública de su código fuente alegando que está clasificado como secreto comercial.

"A medida que prolifera el uso de algoritmos en el procesamiento de estadounidenses, debemos asegurarnos de que puedan ver y desafiar las cajas negras que podrían determinar si son condenados", dijo Takano en un ambiental. "Los privilegios de secretos comerciales de los desarrolladores de software nunca deberían prevalecer sobre los derechos al debido proceso de los acusados ​​en el sistema de justicia penal".

Y, sin embargo, lo hacen. Northpointe, el desarrollador de un sistema llamado COMPAS (Perfiles de gestión de delincuentes correccionales para sanciones alternativas), utilizado para calcular el riesgo de reincidencia para informar las decisiones previas y posteriores al juicio, considera que su sistema es propietario y se ha negado a revelar cómo funciona.

"Como algoritmo desarrollado de forma privada, COMPAS cuenta con la protección de la ley de secretos comerciales", escribió Andrew Lee Park en una revisión de leyes de UCLA de 2019. artículo. "Eso significa que el algoritmo de COMPAS (incluido su software, los tipos de datos que utiliza y cómo COMPAS pesa cada punto de datos) es prácticamente inmune al escrutinio de terceros".

Esto podría ser tolerable si COMPAS tratara a todos de manera justa, dijo Park, pero las investigaciones sugieren que no es así. Específicamente, un análisis Un estudio realizado por ProPublicain en 2016 encontró que COMPAS tenía prejuicios contra los afroamericanos y, a menudo, era inexacto.

Northpointe publicado investigación de refutación afirmando que su software es justo. Y ProPública contrarrestado, afirmando que mantenía sus conclusiones. El hecho es que tomar decisiones de justicia penal sin revelar cómo se tomaron sigue siendo problemático.

"Apoyamos los requisitos de transparencia y estándares de la Ley de Justicia en Algoritmos Forenses", dijo la abogada de la EFF, Hannah Zhao. El registro. "Los acusados ​​criminales y el público tienen derecho a examinar los algoritmos que se utilizan para poner a las personas tras las rejas".

Los demandados han argumentado que se les niega el acceso al código fuente de dicho software viola el derecho de la Sexta Enmienda a confrontar al acusador, una cuestión planteada sin éxito en una apelación [PDF] para revocar la condena por asesinato del asesino convicto John Wakefield en 2015.

En un 2023 de diciembre artículo de revisión de la ley Titulado “Responsabilidad algorítmica y la Sexta Enmienda: El derecho a confrontar a un testigo artificial”, Dallon Danforth, estudiante de la Facultad de Derecho de la Universidad de Baltimore, sostiene que el sistema judicial tendrá que resolver la tensión entre el derecho a confrontar a un acusador y el derecho a proteger la propiedad intelectual. propiedad.

La Ley de Justicia en Algoritmos Forenses de 2024 tiene algo que decir al respecto. Lástima que esta vez probablemente tampoco lo aprobará ni la Cámara ni el Senado. ®

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/