מחוקקים מנסים שוב לפרוץ אלגוריתמי קופסה שחורה

מחוקקים דמוקרטיים הציעו שוב חקיקה כדי להבטיח שניתן לבחון את קוד מקור התוכנה המשמש לחקירות פליליות והוא כפוף לבדיקות סטנדרטיות על ידי הממשלה.

ביום חמישי הציגו מחדש נציגי בית הנבחרים, מארק טאקאנו (D-CA) ודווייט אוונס (D-PA) את חוק הצדק באלגוריתמים משפטיים משנת 2024, טיוטת חוק האוסרת על שימוש בתביעות סוד מסחרי לאסור על עורכי דין לסנגורים לעיין בקוד המקור הרלוונטי לתיקים פליליים ומקימה משטר בדיקות פדרלי לתוכנה משפטית.

הרשאות סודיות מסחריות של מפתחי תוכנה לעולם לא צריכות לגבור על זכויות ההליך התקין של הנתבעים

הצעת החוק, שהוגשה ב2019 ו ב2021 ללא הועיל, מטרתו להבטיח שלנאשמים פליליים תהיה הזדמנות להעריך את הגינות התוכנה המשמשת נגדם.

לעתים קרובות זה לא המקרה מכיוון שיצרני תוכנה משפטית יכולים להתנגד לביקורת פומבית של קוד המקור שלהם בטענה שהוא מסווג כסוד מסחרי.

"ככל שהשימוש באלגוריתמים מתרבה בהעמדה לדין של אמריקאים, עלינו להבטיח שהם יוכלו לראות ולערער על קופסאות שחורות שיכולות לקבוע אם הם מורשעים", אמר טקאנו ב הצהרה. "הרשאות הסודות המסחריות של מפתחי תוכנה לעולם לא צריכות לגבור על זכויות ההליך התקין של נאשמים במערכת המשפט הפלילי".

ובכל זאת הם עושים זאת. Northpointe, מפתחת מערכת בשם COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), המשמשת לחישוב סיכון רצידיביזם כדי ליידע החלטות לפני ואחרי משפט, מחשיבה את המערכת שלה כקניינית וסירבה לחשוף כיצד היא פועלת.

"כאלגוריתם שפותח באופן פרטי, ל-COMPAS ניתנת ההגנות של חוק סודות מסחריים", כתב אנדרו לי פארק ב-UCLA Law Review משנת 2019 מאמר. "משמעות הדבר היא שהאלגוריתם של COMPAS - כולל התוכנה שלה, סוגי הנתונים שבהם היא משתמשת, והאופן שבו COMPAS שוקל כל נקודת נתונים - הוא כמעט חסין מפני בדיקה של צד שלישי."

זה עשוי להיות נסבל אם COMPAS מתייחס לכולם בצורה הוגנת, אמר פארק, אך מחקרים מראים שלא. באופן ספציפי, ניתוח שנערך על ידי ProPublicain ב-2016 מצא כי COMPAS מוטה כלפי אפרו-אמריקאים ולעתים קרובות לא היה מדויק.

נורת'פוינט פרסם מחקר הפרכה בטענה שהתוכנה שלו הוגנת. וגם ProPublica נגד, בהצהרה שהיא עמדה על ממצאיה. העובדה היא שקבלת החלטות במשפט פלילי מבלי לחשוף כיצד התקבלו החלטות אלה נותרה בעייתית.

"אנו תומכים בדרישות השקיפות והסטנדרטים בחוק הצדק באלגוריתמים משפטיים", אמרה עורכת הדין לצוות ה-EFF, חנה ז'או. הקופה. "לנאשמים פליליים ולציבור יש זכות לבחון את האלגוריתמים המשמשים כדי לשים אנשים מאחורי סורג ובריח".

הנאשמים טענו כי מניעת גישה לקוד המקור של תוכנה כזו מפרה את זכות התיקון השישי להתעמת עם המאשים, בעיה שהועלתה ללא הצלחה ב ערעור [PDF] כדי לבטל את ההרשעה ברצח 2015 של הרוצח המורשע ג'ון ווייקפילד.

בדצמבר 2023 מאמר סקירת חוק שכותרתו "אחריות אלגוריתמית והתיקון השישי: הזכות להתעמת עם עד מלאכותי", סטודנט לבית הספר למשפטים באוניברסיטת בולטימור, דאלון דנפורט, טוען שמערכת המשפט תצטרך לפתור את המתח בין הזכות להתעמת עם מאשים לבין הזכות להגן על אינטלקטואל תכונה.

לחוק הצדק באלגוריתמים משפטיים משנת 2024 יש מה לומר על כך. חבל שזה כנראה לא יעבור גם הפעם בבית וגם בסנאט. ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2024/02/16/black_box_government/