Der Gesetzgeber versucht erneut, Black-Box-Algorithmen aufzubrechen

Demokratische Gesetzgeber haben erneut Gesetze vorgeschlagen, um sicherzustellen, dass der für strafrechtliche Ermittlungen verwendete Software-Quellcode überprüft werden kann und einer standardisierten Prüfung durch die Regierung unterliegt.

Am Donnerstag haben die Repräsentanten des Repräsentantenhauses Mark Takano (D-CA) und Dwight Evans (D-PA) den Justice in Forensic Algorithms Act von 2024 wieder eingeführt, einen Gesetzesentwurf, der die Nutzung von Geschäftsgeheimnisansprüchen verbietet und Verteidigern die Überprüfung von Quellcode, der für Strafsachen relevant ist, verbietet und richtet ein bundesweites Testsystem für forensische Software ein.

Die Geschäftsgeheimnisprivilegien von Softwareentwicklern sollten niemals Vorrang vor den Rechten der Angeklagten auf ein ordnungsgemäßes Verfahren haben

Der Gesetzentwurf, eingeführt im Jahr 2019 angegeben und im Jahr 2021 angegeben Ziel ist es, sicherzustellen, dass Angeklagte die Möglichkeit haben, die Fairness der gegen sie eingesetzten Software zu beurteilen.

Dies ist häufig nicht der Fall, da Hersteller forensischer Software der öffentlichen Überprüfung ihres Quellcodes mit der Behauptung widerstehen können, dieser sei als Geschäftsgeheimnis eingestuft.

„Da der Einsatz von Algorithmen bei der Strafverfolgung von Amerikanern zunimmt, müssen wir sicherstellen, dass sie Black Boxes sehen und anfechten können, die über ihre Verurteilung entscheiden könnten“, sagte Takano in einem Aussage. „Die Geschäftsgeheimnisprivilegien von Softwareentwicklern sollten niemals Vorrang vor den Rechten der Angeklagten auf ein ordnungsgemäßes Verfahren in der Strafjustiz haben.“

Und doch tun sie es. Northpointe, der Entwickler eines Systems namens COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), das zur Berechnung des Rückfallrisikos als Grundlage für vor- und nachgerichtliche Entscheidungen dient, hält sein System für proprietär und weigert sich, seine Funktionsweise preiszugeben.

„Als privat entwickelter Algorithmus genießt COMPAS den Schutz des Geschäftsgeheimnisgesetzes“, schrieb Andrew Lee Park in einem UCLA Law Review aus dem Jahr 2019 Artikel. „Das bedeutet, dass der Algorithmus von COMPAS – einschließlich seiner Software, der von ihm verwendeten Datentypen und der Art und Weise, wie COMPAS jeden Datenpunkt gewichtet – nahezu immun gegen die Prüfung durch Dritte ist.“

Dies wäre möglicherweise tolerierbar, wenn COMPAS alle fair behandeln würde, sagte Park, aber Untersuchungen deuten darauf hin, dass dies nicht der Fall ist. Speziell, eine Analyse Eine von ProPublicain im Jahr 2016 durchgeführte Studie ergab, dass COMPAS voreingenommen gegenüber Afroamerikanern war und oft ungenau war.

Northpointe veröffentlicht Widerlegungsforschung behaupten, seine Software sei fair. Und ProPublica kontertund erklärte, es bleibe bei seinen Erkenntnissen. Tatsache ist, dass es nach wie vor problematisch ist, strafrechtliche Entscheidungen zu treffen, ohne offenzulegen, wie diese Entscheidungen getroffen wurden.

„Wir unterstützen die Transparenz- und Standardanforderungen des Justice in Forensic Algorithms Act“, sagte EFF-Mitarbeiteranwältin Hannah Zhao Das Register. „Angeklagte Straftäter und die Öffentlichkeit haben das Recht, die Algorithmen zu untersuchen, mit denen Menschen hinter Gitter gebracht werden.“

Die Beklagten haben argumentiert, dass die Verweigerung des Zugriffs auf den Quellcode dieser Software das Recht des Sechsten Zusatzartikels zur Konfrontation mit dem Ankläger verletze, ein Problem, das 2010 erfolglos angesprochen wurde ein Aufruf [PDF], um die Verurteilung des verurteilten Mörders John Wakefield wegen Mordes aus dem Jahr 2015 aufzuheben.

In einem 2023. Dezember Gesetzesartikel Mit dem Titel „Algorithmische Rechenschaftspflicht und der sechste Verfassungszusatz: Das Recht, einen künstlichen Zeugen zu konfrontieren“ argumentiert Dallon Danforth, Student der University of Baltimore School of Law, dass das Gerichtssystem die Spannung zwischen dem Recht, einen Ankläger zu konfrontieren, und dem Recht, geistiges Eigentum zu schützen, lösen muss Eigentum.

Der Justice in Forensic Algorithms Act von 2024 hat dazu etwas zu sagen. Schade, dass es wahrscheinlich auch dieses Mal nicht durch das Repräsentantenhaus und den Senat kommt. ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/