Anggota parlemen mencoba lagi untuk mendobrak algoritma kotak hitam

Anggota parlemen dari Partai Demokrat sekali lagi telah mengusulkan undang-undang untuk memastikan bahwa kode sumber perangkat lunak yang digunakan untuk investigasi kriminal dapat diperiksa dan tunduk pada pengujian standar oleh pemerintah.

Pada hari Kamis, Perwakilan DPR Mark Takano (D-CA) dan Dwight Evans (D-PA) memperkenalkan kembali Undang-Undang Keadilan dalam Algoritma Forensik tahun 2024, sebuah rancangan undang-undang yang melarang penggunaan klaim rahasia dagang yang melarang pengacara pembela meninjau kode sumber yang relevan dengan kasus pidana. dan menetapkan rezim pengujian federal untuk perangkat lunak forensik.

Hak istimewa rahasia dagang dari pengembang perangkat lunak tidak boleh mengesampingkan hak proses hukum para terdakwa

RUU itu, diperkenalkan di 2019 dan di 2021 tidak berhasil, bertujuan untuk menjamin bahwa terdakwa pidana mempunyai kesempatan untuk menilai keadilan perangkat lunak yang digunakan terhadap mereka.

Seringkali hal ini tidak terjadi karena pembuat perangkat lunak forensik dapat menolak tinjauan publik terhadap kode sumber mereka dengan mengklaim bahwa kode tersebut diklasifikasikan sebagai rahasia dagang.

“Seiring dengan menjamurnya penggunaan algoritme dalam penuntutan warga Amerika, kita harus memastikan bahwa mereka dapat melihat dan menantang kotak hitam yang dapat menentukan apakah mereka dihukum,” kata Takano dalam sebuah pernyataan. pernyataan. “Hak istimewa rahasia dagang yang dimiliki pengembang perangkat lunak tidak boleh mengalahkan hak proses hukum terdakwa dalam sistem peradilan pidana.”

Namun mereka melakukannya. Northpointe, pengembang sistem yang disebut COMPAS (Profil Manajemen Pelanggar Pemasyarakatan untuk Sanksi Alternatif), yang digunakan untuk menghitung risiko residivisme untuk menginformasikan keputusan sebelum dan sesudah persidangan, menganggap sistemnya sebagai hak milik dan menolak untuk mengungkapkan cara kerjanya.

“Sebagai algoritma yang dikembangkan secara swasta, COMPAS diberikan perlindungan hukum rahasia dagang,” tulis Andrew Lee Park dalam Tinjauan Hukum UCLA tahun 2019. artikel. “Artinya, algoritme COMPAS – termasuk perangkat lunaknya, jenis data yang digunakan, dan cara COMPAS mempertimbangkan setiap titik data – kebal dari pengawasan pihak ketiga.”

Hal ini mungkin dapat ditoleransi jika COMPAS memperlakukan semua orang dengan adil, kata Park, namun penelitian menunjukkan bahwa hal tersebut tidak berlaku. Secara khusus, analisis yang dilakukan oleh ProPublicain pada tahun 2016 menemukan bahwa COMPAS bias terhadap orang Amerika keturunan Afrika dan seringkali tidak akurat.

Northpointe diterbitkan penelitian bantahan mengklaim perangkat lunaknya adil. Dan ProPublica balas, menyatakan pihaknya mendukung temuannya. Faktanya, pengambilan keputusan peradilan pidana tanpa mengungkapkan bagaimana keputusan tersebut dibuat masih merupakan suatu permasalahan.

“Kami mendukung persyaratan transparansi dan standar dalam Undang-Undang Keadilan dalam Algoritma Forensik,” kata staf pengacara EFF Hannah Zhao kepada Pendaftaran. “Terdakwa pidana dan masyarakat mempunyai hak untuk memeriksa algoritma yang digunakan untuk memenjarakan orang.”

Para terdakwa berpendapat bahwa penolakan akses terhadap kode sumber perangkat lunak tersebut melanggar Hak Amandemen Keenam untuk menghadapi penuduh, sebuah isu yang tidak berhasil diangkat dalam sebuah daya tarik [PDF] untuk membatalkan hukuman pembunuhan tahun 2015 terhadap terpidana pembunuh John Wakefield.

Pada 2023 Desember artikel ulasan hukum berjudul “Akuntabilitas Algoritmik dan Amandemen Keenam: Hak untuk Menghadapi Saksi Buatan,” mahasiswa Fakultas Hukum Universitas Baltimore, Dallon Danforth berpendapat bahwa sistem pengadilan harus menyelesaikan ketegangan antara hak untuk menghadapi penuduh dan hak untuk melindungi intelektual. Properti.

Undang-Undang Keadilan dalam Algoritma Forensik tahun 2024 menyatakan sesuatu tentang hal itu. Sayang sekali kali ini pemilu tersebut mungkin tidak akan berhasil lolos ke DPR dan Senat. ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/