국회의원들은 공개된 블랙박스 알고리즘을 깨기 위해 다시 시도합니다.

국회의원들은 공개된 블랙박스 알고리즘을 깨기 위해 다시 시도합니다.

타임 스탬프 : 16 년 2024 월 5 일 오후 47:XNUMX
국회의원들은 공개된 블랙박스 알고리즘인 PlatoBlockchain Data Intelligence를 깨기 위해 다시 시도합니다. 수직 검색. 일체 포함.

민주당 의원들은 범죄 수사에 사용되는 소프트웨어 소스코드를 정부가 검사하고 표준화된 테스트를 받을 수 있도록 하는 법안을 다시 한번 제안했다.

목요일 하원 의원 마크 타카노(D-CA)와 드와이트 에반스(D-PA)는 2024년 법의학 알고리즘 정의법(Justice in Forensic Algorithms Act of XNUMX)을 다시 발의했습니다. 이 법안은 영업 비밀 주장을 사용하여 피고측 변호사가 형사 사건과 관련된 소스 코드를 검토하는 것을 금지하는 법안입니다. 법의학 소프트웨어에 대한 연방 테스트 체제를 확립합니다.

소프트웨어 개발자의 영업비밀 특권은 피고인의 정당한 절차 권리보다 우선되어서는 안 됩니다.

법안이 소개됨 2019년 및 2021년 소용이 없지만, 형사 피고인이 자신에게 불리하게 사용되는 소프트웨어의 공정성을 평가할 기회를 갖도록 보장하는 것이 목표입니다.

법의학 소프트웨어 제조업체는 소스 코드가 영업 비밀로 분류되어 있다고 주장하여 공개 검토를 거부할 수 있기 때문에 그렇지 않은 경우가 많습니다.

타카노는 "미국인 기소에 알고리즘 사용이 급증함에 따라 그들이 유죄 여부를 결정할 수 있는 블랙박스를 보고 이의를 제기할 수 있도록 해야 한다"고 말했다. 성명서. “소프트웨어 개발자의 영업 비밀 특권은 형사 사법 제도에서 피고인의 적법 절차 권리보다 결코 우선되어서는 안 됩니다.”

하지만 그들은 그렇습니다. 재판 전후 결정을 알리기 위해 재범 위험을 계산하는 데 사용되는 COMPAS(대안적 제재를 위한 교정 범죄자 관리 프로파일링)라는 시스템의 개발자인 Northpointe는 자사 시스템이 독점적인 것으로 간주하고 작동 방식 공개를 거부했습니다.

Andrew Lee Park는 2019년 UCLA Law Review에서 “민간 개발된 알고리즘으로서 COMPAS는 영업비밀법의 보호를 받습니다.”라고 썼습니다. 기사. "즉, 소프트웨어, 사용하는 데이터 유형, COMPAS가 각 데이터 포인트에 가중치를 부여하는 방법을 포함한 COMPAS의 알고리즘은 제3자의 조사로부터 거의 영향을 받지 않는다는 것을 의미합니다."

박씨는 COMPAS가 모든 사람을 공정하게 대우한다면 이는 용인될 수 있다고 말했지만 연구 결과에 따르면 그렇지 않습니다. 구체적으로, 분석 2016년 ProPublicain이 실시한 조사에 따르면 COMPAS는 아프리카계 미국인에 대해 편견을 갖고 있으며 종종 부정확한 것으로 나타났습니다.

노스포인트 출판 반박 연구 자사의 소프트웨어가 공정하다고 주장합니다. 그리고 프로퍼블리카 반박, 그 결과를 고수한다고 말했습니다. 결정이 어떻게 내려졌는지 공개하지 않고 형사 사법 결정을 내리는 것은 여전히 ​​문제가 있다는 사실이 남아 있습니다.

EFF 직원 변호사 Hannah Zhao는 "우리는 법의학 알고리즘 법의 투명성과 표준 요구 사항을 지지합니다"라고 말했습니다. 등록. “형사 피고인과 대중은 사람들을 감옥에 가두는 데 사용되는 알고리즘을 조사할 권리가 있습니다.”

피고는 그러한 소프트웨어의 소스 코드에 대한 접근이 거부되는 것은 고소인과 대면할 수 있는 수정헌법 제6조의 권리를 침해한다고 주장해왔습니다. 호소 [PDF] 유죄 판결을 받은 살인자 John Wakefield의 2015년 살인 유죄 판결을 뒤집기 위해.

2023년 XNUMX월에 법률 검토 기사 볼티모어 대학 법학대학원의 Dallon Danforth는 "알고리즘적 책임과 수정헌법 제6조: 인공 증인에 맞설 권리"라는 제목으로 법원 시스템이 고발자와 맞설 권리와 지식인을 보호할 권리 사이의 긴장을 해결해야 한다고 주장합니다. 재산.

2024년 법의학 알고리즘 정의법(Justice in Forensic Algorithms Act)에는 이에 대해 언급할 내용이 있습니다. 안타깝게도 이번에도 하원과 상원을 모두 통과하지 못할 것 같습니다. ®

타임 스탬프 :

더보기 등록