Οι νομοθέτες προσπαθούν ξανά να σπάσουν τους αλγόριθμους των ανοιχτών μαύρων κουτιών

Οι δημοκρατικοί νομοθέτες πρότειναν για άλλη μια φορά νομοθεσία για να διασφαλιστεί ότι ο πηγαίος κώδικας λογισμικού που χρησιμοποιείται για ποινικές έρευνες μπορεί να εξεταστεί και να υπόκειται σε τυποποιημένες δοκιμές από την κυβέρνηση.

Την Πέμπτη, οι εκπρόσωποι της Βουλής Mark Takano (D-CA) και Dwight Evans (D-PA) επανέφεραν τον νόμο Justice in Forensic Algorithms Act του 2024, ένα σχέδιο νόμου που απαγορεύει τη χρήση αξιώσεων εμπορικού μυστικού να απαγορεύει στους δικηγόρους υπεράσπισης να ελέγχουν τον πηγαίο κώδικα που σχετίζεται με ποινικές υποθέσεις και καθιερώνει ένα ομοσπονδιακό καθεστώς δοκιμών για εγκληματολογικό λογισμικό.

Τα εμπορικά απόρρητα προνόμια των προγραμματιστών λογισμικού δεν θα πρέπει ποτέ να υπερισχύουν των δικαιωμάτων των κατηγορουμένων

Το νομοσχέδιο, εισήχθη σε 2019 και σε 2021 χωρίς αποτέλεσμα, στοχεύει να εγγυηθεί ότι οι κατηγορούμενοι εγκληματίες έχουν την ευκαιρία να αξιολογήσουν τη δικαιοσύνη του λογισμικού που χρησιμοποιείται εναντίον τους.

Συχνά αυτό δεν συμβαίνει επειδή οι κατασκευαστές εγκληματολογικού λογισμικού μπορούν να αντισταθούν στον δημόσιο έλεγχο του πηγαίου κώδικα τους ισχυριζόμενοι ότι έχει ταξινομηθεί ως εμπορικό μυστικό.

«Καθώς η χρήση αλγορίθμων πολλαπλασιάζεται στη δίωξη των Αμερικανών, πρέπει να διασφαλίσουμε ότι μπορούν να δουν και να αμφισβητήσουν τα μαύρα κουτιά που θα μπορούσαν να καθορίσουν εάν καταδικαστούν», δήλωσε ο Τακάνο σε μια δήλωση. «Τα προνόμια εμπορικών μυστικών των προγραμματιστών λογισμικού δεν θα πρέπει ποτέ να υπερισχύουν των δικαιωμάτων των κατηγορουμένων στο σύστημα ποινικής δικαιοσύνης».

Κι όμως το κάνουν. Η Northpointe, ο δημιουργός ενός συστήματος που ονομάζεται COMPAS (Correctional Offender Management Profiles for Alternative Sanctions), που χρησιμοποιείται για τον υπολογισμό του κινδύνου υποτροπής για την ενημέρωση των αποφάσεων πριν και μετά τη δίκη, θεωρεί ότι το σύστημά του είναι αποκλειστικό και αρνήθηκε να αποκαλύψει πώς λειτουργεί.

«Ως ιδιωτικά ανεπτυγμένος αλγόριθμος, η COMPAS διαθέτει την προστασία του νόμου περί εμπορικού μυστικού», έγραψε ο Andrew Lee Park σε μια επιθεώρηση δικαίου του UCLA 2019. άρθρο. «Αυτό σημαίνει ότι ο αλγόριθμος της COMPAS – συμπεριλαμβανομένου του λογισμικού της, των τύπων δεδομένων που χρησιμοποιεί και του τρόπου με τον οποίο το COMPAS ζυγίζει κάθε σημείο δεδομένων – είναι εντελώς απρόσβλητος από τον έλεγχο τρίτων».

Αυτό μπορεί να είναι ανεκτό εάν η COMPAS συμπεριφερόταν σε όλους δίκαια, είπε ο Park, αλλά η έρευνα δείχνει ότι δεν το κάνει. ΕΙΔΙΚΑ, ανάλυση που διεξήχθη από την ProPublicain το 2016 διαπίστωσε ότι το COMPAS ήταν προκατειλημμένο εναντίον Αφροαμερικανών και ήταν συχνά ανακριβές.

Δημοσιεύτηκε η Northpointe έρευνα αντίκρουσης ισχυρίζεται ότι το λογισμικό του είναι δίκαιο. Και η ProPublica αντιστάθηκε, δηλώνοντας ότι έμεινε στα ευρήματά της. Το γεγονός παραμένει ότι η λήψη αποφάσεων ποινικής δικαιοσύνης χωρίς να αποκαλύπτεται πώς ελήφθησαν αυτές οι αποφάσεις παραμένει προβληματική.

«Υποστηρίζουμε τις απαιτήσεις διαφάνειας και προτύπων στον νόμο Justice in Forensic Algorithms Act», δήλωσε η δικηγόρος του προσωπικού του EFF, Hannah Zhao. Το μητρώο. «Οι κατηγορούμενοι και το κοινό έχουν το δικαίωμα να εξετάζουν τους αλγόριθμους που χρησιμοποιούνται για να βάλουν ανθρώπους πίσω από τα κάγκελα».

Οι κατηγορούμενοι υποστήριξαν ότι η άρνηση πρόσβασης στον πηγαίο κώδικα αυτού του λογισμικού παραβιάζει το δικαίωμα της Έκτης Τροποποίησης να αντιμετωπίζει κάποιος τον κατήγορο του, ένα ζήτημα που τέθηκε ανεπιτυχώς στο έφεση [PDF] για να ανατρέψει την καταδίκη του 2015 για φόνο του καταδικασμένου δολοφόνου John Wakefield.

Στις 2023 Δεκεμβρίου άρθρο αναθεώρησης του νόμου Με τίτλο «Algorithmic Accountability and the Sixth Amendment: The Right to Confronting a Artificial Witness», ο φοιτητής της Νομικής Σχολής του Πανεπιστημίου της Βαλτιμόρης, Dallon Danforth, υποστηρίζει ότι το δικαστικό σύστημα θα πρέπει να επιλύσει την ένταση μεταξύ του δικαιώματος αντιμετώπισης ενός κατηγόρου και του δικαιώματος προστασίας των πνευματικών ιδιοκτησία.

Ο νόμος Justice in Forensic Algorithms Act του 2024 έχει κάτι να πει για αυτό. Κρίμα που πιθανότατα δεν θα περάσει τόσο από τη Βουλή όσο και από τη Γερουσία αυτή τη φορά. ®

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/