Milletvekilleri kara kutu algoritmalarını yeniden kırmaya çalışıyor

Demokrat milletvekilleri, cezai soruşturmalar için kullanılan yazılım kaynak kodunun incelenebilmesini ve hükümet tarafından standartlaştırılmış testlere tabi tutulabilmesini sağlamak için bir kez daha yasa teklifinde bulundu.

Perşembe günü Meclis Temsilcileri Mark Takano (D-CA) ve Dwight Evans (D-PA), savunma avukatlarının ceza davalarıyla ilgili kaynak kodunu incelemesini engelleyen ticari sır iddialarının kullanılmasını yasaklayan bir yasa tasarısı olan 2024 Adli Algoritmalarda Adalet Yasasını yeniden sundu. ve adli yazılımlar için federal bir test rejimi oluşturur.

Yazılım geliştiricilerin ticari sır ayrıcalıkları hiçbir zaman davalıların hukuki süreç haklarını gölgede bırakmamalıdır

Tasarı tanıtıldı 2019 yılında ve 2021 yılında boşuna, suçlu sanıkların kendilerine karşı kullanılan yazılımın adilliğini değerlendirme fırsatına sahip olmalarını garanti etmeyi amaçlıyor.

Çoğu zaman durum böyle değildir çünkü adli yazılım üreticileri, kaynak kodlarının ticari sır olarak sınıflandırıldığını iddia ederek kamuya açık incelemeye karşı çıkabilirler.

Takano, "Amerikalıların yargılanmasında algoritmaların kullanımı yaygınlaştıkça, mahkum olup olmadıklarını belirleyebilecek kara kutuları görebilmelerini ve onlara meydan okuyabilmelerini sağlamalıyız" dedi. ifade. "Yazılım geliştiricilerinin ticari sır ayrıcalıkları, ceza adaleti sistemindeki sanıkların yasal süreç haklarını asla gölgede bırakmamalıdır."

Ve yine de yapıyorlar. Yargılama öncesi ve sonrası kararları bilgilendirmek için tekerrür riskini hesaplamak için kullanılan COMPAS (Alternatif Yaptırımlar için Düzeltici Suçlu Yönetimi Profili Oluşturma) adlı sistemin geliştiricisi Northpointe, sisteminin özel olduğunu düşünüyor ve nasıl çalıştığını açıklamayı reddetti.

Andrew Lee Park, 2019 UCLA Hukuk İncelemesinde "Özel olarak geliştirilmiş bir algoritma olarak COMPAS, ticari sırlar yasasının korumasını sağlıyor" diye yazdı. göre. "Bu, COMPAS'ın algoritmasının (yazılımı, kullandığı veri türleri ve COMPAS'ın her veri noktasını nasıl değerlendirdiği dahil) üçüncü tarafların incelemesinden muaf olduğu anlamına geliyor."

Park, COMPAS'ın herkese adil davranması durumunda bunun tolere edilebileceğini söyledi ancak araştırmalar bunun böyle olmadığını öne sürüyor. Özellikle, bir analiz ProPublicain tarafından 2016 yılında yürütülen bir araştırma, COMPAS'ın Afrikalı Amerikalılara karşı önyargılı olduğunu ve çoğu zaman hatalı olduğunu ortaya çıkardı.

Northpointe yayınlandı çürütücü araştırma yazılımının adil olduğunu iddia ediyor. Ve ProPublica karşılıkbulgularının arkasında durduğunu belirtti. Gerçek şu ki, bu kararların nasıl verildiğini açıklamadan ceza adaleti kararları vermek sorunlu olmaya devam ediyor.

EFF personel avukatı Hannah Zhao, "Adli Algoritmalarda Adalet Yasası'ndaki şeffaflık ve standart gerekliliklerini destekliyoruz" dedi. Kayıt. "Suçlu sanıklar ve kamuoyu, insanları parmaklıklar ardına koymak için kullanılan algoritmaları inceleme hakkına sahiptir."

Davalılar, bu tür bir yazılımın kaynak koduna erişimin reddedilmesinin, Altıncı Değişiklik'in kişiyi suçlayanla yüzleşme hakkını ihlal ettiğini ileri sürdüler; itiraz [PDF] hüküm giymiş katil John Wakefield'ın 2015 yılındaki cinayet mahkûmiyetini bozmak için.

Aralık 2023'de kanun inceleme makalesi Baltimore Üniversitesi Hukuk Fakültesi öğrencisi Dallon Danforth, "Algoritmik Sorumluluk ve Altıncı Değişiklik: Yapay Bir Tanıkla Yüzleşme Hakkı" başlıklı makalesinde, mahkeme sisteminin suçlayıcıyla yüzleşme hakkı ile entelektüelleri koruma hakkı arasındaki gerilimi çözmesi gerektiğini savunuyor. mülk.

2024 tarihli Adli Algoritmalarda Adalet Yasası'nın bu konuda söyleyecekleri var. Ne yazık ki bu sefer muhtemelen hem Temsilciler Meclisi'nden hem de Senato'dan geçemeyecek. ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/