Μια μελέτη σχετικά με την αποτελεσματικότητα ενός νόμου της Νέας Υόρκης που στοχεύει τη μεροληψία στους αλγόριθμους πρόσληψης τεχνητής νοημοσύνης διαπίστωσε ότι η νομοθεσία είναι σε μεγάλο βαθμό αναποτελεσματική.
Τοπικός Νόμος 144 (LL144) της Νέας Υόρκης ήταν πέρασε το 2021, τέθηκε σε ισχύ την 1η Ιανουαρίου του περασμένου έτους και τέθηκε σε ισχύ από τον Ιούλιο του 2023. Ο νόμος απαιτεί από τους εργοδότες που χρησιμοποιούν αυτοματοποιημένα εργαλεία απόφασης απασχόλησης (AEDT) να τα ελέγχουν ετησίως για φυλετική και έμφυλη προκατάληψη, να δημοσιεύουν αυτά τα αποτελέσματα στους ιστότοπούς τους, και περιλαμβάνουν ειδοποίηση στις αγγελίες εργασίας ότι χρησιμοποιούν τέτοιο λογισμικό για να λαμβάνουν αποφάσεις για την απασχόληση.
Η μελέτη από ερευνητές στο Πανεπιστήμιο Cornell, την υπηρεσία κριτικών μη κερδοσκοπικού χαρακτήρα Consumer Reports και το μη κερδοσκοπικό Data & Society Research Institute, δεν έχει ακόμη δημοσιευθεί, αλλά κοινοποιήθηκε Το μητρώο. Διαπίστωσε ότι από τους 391 εργοδότες του δείγματος, μόνο 18 είχαν δημοσιεύσει εκθέσεις ελέγχου που απαιτούνται βάσει του νόμου. Μόλις 13 εργοδότες (11 από τους οποίους δημοσίευσαν επίσης εκθέσεις ελέγχου) περιλάμβαναν τις απαραίτητες ειδοποιήσεις διαφάνειας.
Το LL144 «παρέχει σχεδόν απόλυτη διακριτική ευχέρεια στους εργοδότες να αποφασίσουν εάν το σύστημά τους εμπίπτει στο πεδίο εφαρμογής του νόμου», είπε ο Jacob Metcalf, ερευνητής στο Data & Society και ένας από τους συγγραφείς της μελέτης. Το μητρώο. "Και υπάρχουν πολλοί τρόποι για τους εργοδότες να ξεφύγουν από αυτό το πεδίο."
Ο Metcalf μας είπε ότι το LL144 δεν απαιτεί από τις εταιρείες να λάβουν μέτρα εάν ένας από τους ελέγχους του δείξει ότι ένα AEDT έχει οδηγήσει σε μεροληπτικά αποτελέσματα. Ωστόσο, αυτό δεν σημαίνει ότι οι εταιρείες που διαπιστώθηκε ότι χρησιμοποιούν προκατειλημμένες AEDTs δεν θα είναι στο γάντζο.
"Οι εργοδότες που δημοσιεύουν έλεγχο που δείχνει ανόμοιο αντίκτυπο είναι ανοιχτοί σε άλλες μορφές δράσης", μας είπε ο Metcalf. «Οι αστικές αγωγές σχετικά με τις διακρίσεις στην απασχόληση μπορεί να είναι πολύ ακριβές».
Ο Metcalf και αρκετοί από τους συναδέλφους του εργάζονται σε ένα δεύτερο έγγραφο σχετικά με το LL144 που εστιάζει στην εμπειρία των ελεγκτών που εξετάζουν τα AEDTs που χρησιμοποιούνται από εταιρείες της Νέας Υόρκης. Το μητρώο έχει δει την εργασία, η οποία αυτή τη στιγμή βρίσκεται υπό αξιολόγηση από ομοτίμους. Διαπιστώνει ότι οι έλεγχοι έχουν βρει περιπτώσεις διάκρισης από AEDT.
«Γνωρίζουμε από συνεντεύξεις με ελεγκτές ότι οι εργοδότες έχουν πληρώσει για αυτούς τους ελέγχους και στη συνέχεια αρνήθηκαν να τους δημοσιεύσουν δημόσια όταν τα νούμερα είναι κακά», μας είπε ο Metcalf. «Ο νομικός τους σύμβουλος φοβάται περισσότερο την Επιτροπή Ίσων Ευκαιριών Απασχόλησης παρά τη Νέα Υόρκη».
Ο νόμος της Νέας Υόρκης επιβραδύνει την υιοθέτηση παρόμοιων κανόνων
Νόμοι παρόμοιοι με τον LL144 έχουν εξεταστεί από άλλες δικαιοδοσίες. Αυτές οι προτάσεις έχουν ως επί το πλείστον αδιέξοδο καθώς οι νομοθέτες έχουν συνειδητοποιήσει ότι η προσπάθεια της Νέας Υόρκης να αποτρέψει τη μεροληψία πρόσληψης τεχνητής νοημοσύνης δεν ήταν αποτελεσματική.
«Οι χορηγοί [των νομοσχεδίων] επανεξετάζουν τη δομή τους. Από όσο γνωρίζω, δεν έχει γίνει καμία ενέργεια για παρόμοιους νόμους», μας είπε ο Metcalf. Καλιφόρνια θεωρούνται παρόμοια νομοθεσία το 2022, ενώ η Ουάσιγκτον DC και η πολιτεία της Νέας Υόρκης έχουν επίσης σκεφτεί νομοθεσία όπως η LL144.
Η Ευρωπαϊκή Ένωση AI Act, που συμφωνήθηκε προσωρινά τον Δεκέμβριο του 2023, τοποθετεί την τεχνητή νοημοσύνη που χρησιμοποιείται στη διαδικασία πρόσληψης στο νόμο «υψηλού κινδύνου"κατηγορία, νόημα τέτοια προϊόντα θα πρέπει να επανεξεταστούν πριν φτάσουν στην αγορά και καθ' όλη τη διάρκεια του κύκλου ζωής τους. Η ΕΕ δεν έχει ακόμη εγκρίνει το νόμο της.
Η προκατάληψη στην τεχνητή νοημοσύνη υπήρξε καλά εδραιωμένο σε αυτό το σημείο.
Η εταιρεία λογισμικού ανθρώπινου δυναμικού Workday ήταν ακόμη μήνυσε σχετικά με τους ισχυρισμούς ότι το λογισμικό στρατολόγησης του έχει χρησιμοποιηθεί για να κάνει διακρίσεις εις βάρος των Μαύρων αιτούντων – ακριβώς το είδος που το LL144 σχεδιάστηκε για να καταπολεμήσει.
Ενώ το LL144 ήταν σε μεγάλο βαθμό αναποτελεσματικό, οι ερευνητές κατέληξαν στο συμπέρασμα ότι ο νόμος είναι ένα πρώτο βήμα προς τη βελτίωση της νομοθεσίας.
«Όποιος εργάζεται σε αυτούς τους νόμους πειραματίζεται σε δομές λογοδοσίας – δεν ξέρουμε ακόμα τι λειτουργεί», μας είπε ο Μέτκαλφ. «Σχεδόν όλα όσα είπαν οι επικριτές της κοινωνίας των πολιτών [για το LL144] έχουν γίνει πραγματικότητα, αλλά μάθαμε πράγματα σε αυτό το έγγραφο που μπορούν να συλλέξουν άλλοι άνθρωποι [για μελλοντικές προσπάθειες επιβολής του νόμου]».
Ένα από τα πιο σημαντικά πράγματα που θα μπορούσαμε να μάθουμε από το LL144, είπε ο Metcalf, είναι ότι θα πρέπει να διευρυνθεί το εύρος του τι συνιστά καλυπτόμενη χρήση του λογισμικού AEDT.
Η γλώσσα στο LL144 είναι αφηρημένη και ορίζει τη χρήση του λογισμικού AEDT μόνο σε περιπτώσεις όπου «χρησιμοποιείται για να βοηθήσει ουσιαστικά ή να αντικαταστήσει τη λήψη αποφάσεων κατά τη λήψη αποφάσεων για την απασχόληση». Το τι σημαίνει «ουσιαστικό» εξαρτάται από την ερμηνεία.
Εάν οι μελλοντικοί νόμοι που θα δημιουργηθούν για την καταπολέμηση των διακρίσεων AEDT είναι αποτελεσματικοί, μας λένε, κάθε προσόν σχετικά με τη χρήση αλγορίθμων πρόσληψης τεχνητής νοημοσύνης πρέπει να απορριφθεί.
«Εάν ένα σύστημα αποδίδει μια βαθμολογία, είναι εντός εμβέλειας. Περίοδος», μας είπε ο Μέτκαλφ. «Η παροχή διακριτικής ευχέρειας στους εργοδότες [να αποφασίσουν εάν η χρήση του AEDT εμπίπτει στο πεδίο εφαρμογής του LL144] δημιουργεί διεστραμμένα κίνητρα που υπονομεύουν την πραγματική ευθύνη που θα μπορούσε να έχει επιτύχει αυτός ο νόμος». ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/
- :έχει
- :είναι
- :που
- $UP
- 1
- 11
- 13
- 2021
- 2022
- 2023
- 7
- a
- Σχετικα
- ΠΕΡΙΛΗΨΗ
- ευθύνη
- επιτευχθεί
- Πράξη
- Ενέργειες
- πραγματικός
- Υιοθεσία
- κατά
- σύμφωνος
- AI
- αλγόριθμοι
- Ισχυρισμοί
- Επίσης
- an
- και
- Ετησίως
- κάθε
- κάποιος
- αιτούντες
- ΕΙΝΑΙ
- AS
- βοηθήσει
- At
- απόπειρα
- έλεγχος
- ελεγκτών
- έλεγχοι
- συγγραφείς
- Αυτοματοποιημένη
- επίγνωση
- Κακός
- BE
- γίνονται
- ήταν
- πριν
- Καλύτερα
- προκατάληψη
- μεροληπτική
- Γραμμάτια
- Μαύρη
- αλλά
- by
- Καλιφόρνια
- ήρθε
- CAN
- περιπτώσεις
- κατηγορία
- Πόλη
- πολιτικής
- CO
- συναδέλφους
- την καταπολέμηση της
- Ελάτε
- παραπομπής σας
- Εταιρείες
- Κατέληξε στο συμπέρασμα
- θεωρούνται
- καταναλωτής
- εκθέσεις των καταναλωτών
- cornell
- θα μπορούσε να
- Συμβούλιο
- ο ΣΥΝΗΓΟΡΟΣ
- καλύπτονται
- δημιουργήθηκε
- δημιουργεί
- Οι επικριτές
- Τη στιγμή
- DC
- ημερομηνία
- Δεκέμβριος
- αποφασίζει
- Αποφασίζοντας
- απόφαση
- Λήψη Αποφάσεων
- αποφάσεις
- καθορίζοντας
- σχεδιασμένα
- διακριτικότητα
- διακριτική ευχέρεια
- τρέλα
- doesn
- Don
- έπεσε
- αποτέλεσμα
- Αποτελεσματικός
- αποτελεσματικότητα
- προσπάθειες
- εργοδότες
- εργασία
- επιβολή
- ίσος
- διαφυγή
- EU
- Ευρώπη
- ευρωπαϊκός
- Ευρωπαϊκή Ένωση
- Even
- πάντα
- ακριβά
- εμπειρία
- Falls
- μακριά
- ευρήματα
- Εταιρεία
- Όνομα
- εστιάζει
- Για
- μορφές
- Βρέθηκαν
- από
- μελλοντικός
- Φύλο
- Δίνοντας
- επιχορηγήσεις
- είχε
- Έχω
- Πρόσληψη
- του
- Ωστόσο
- HTTPS
- i
- if
- Επίπτωση
- σημαντικό
- in
- Κίνητρα
- περιλαμβάνουν
- περιλαμβάνονται
- Ινστιτούτο
- ερμηνεία
- συνεντεύξεις
- σε
- IT
- ΤΟΥ
- Ιάκωβος
- Ιανουάριος
- Δουλειά
- jpg
- Ιούλιος
- δικαιοδοσίες
- μόλις
- Ξέρω
- σε μεγάλο βαθμό
- Επίθετο
- Πέρυσι
- Νόμος
- νομοθέτες
- Του νόμου
- Αγωγές
- μάθει
- Led
- Νομικά
- Νομοθεσία
- κύκλος ζωής
- Μου αρέσει
- τοπικός
- κάνω
- Κατασκευή
- αγορά
- εννοώ
- μέσα
- Metcalf
- περισσότερο
- πλέον
- ως επί το πλείστον
- πολλαπλούς
- Κοντά
- σχεδόν
- απαραίτητος
- Ανάγκη
- ανάγκες
- Νέα
- Νέα Υόρκη
- Νέα Υόρκη
- Το κράτος της Νέας Υόρκης
- Όχι για κέρδος
- Ειδοποίηση..
- αριθμοί
- NYC
- of
- on
- ONE
- αποκλειστικά
- ανοίξτε
- Ευκαιρία
- or
- ΑΛΛΑ
- αποτελέσματα
- επί
- καταβλήθηκε
- Χαρτί
- passieren
- ομότιμων
- People
- περίοδος
- επιλέξτε
- Μέρη
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- Σημείο
- Θέση
- πρόληψη
- διαδικασια μας
- Προϊόντα
- Προτάσεις
- αποδεικνύει
- δημοσίως
- δημοσιεύει
- δημοσιεύθηκε
- προσόν
- Αγώνας
- RE
- φθάνοντας
- την πρόσληψη
- στρατολόγηση
- Ρυθμιστικές Αρχές
- απόδοση
- αντικαθιστώ
- Εκθέσεις
- απαιτούν
- απαιτείται
- Απαιτεί
- έρευνα
- ερευνητής
- ερευνητές
- Αποτελέσματα
- ανασκόπηση
- αξιολόγηση
- επανεξέταση
- Κριτικές
- s
- Είπε
- φοβάται
- έκταση
- σκορ
- Δεύτερος
- υπηρεσία
- διάφοροι
- Shared
- θα πρέπει να
- Δείχνει
- παρόμοιες
- Αναστροφή
- Κοινωνία
- λογισμικό
- Χορηγοί
- Κατάσταση
- Βήμα
- στάση
- δομή
- δομές
- Μελέτη
- ουσιώδης
- ουσιαστικά
- τέτοιος
- σύστημα
- Πάρτε
- στόχευση
- από
- ότι
- Η
- ο νόμος
- τους
- Τους
- τότε
- Εκεί.
- Αυτοί
- αυτοί
- πράγμα
- πράγματα
- αυτό
- εκείνοι
- παντού
- προς την
- είπε
- εργαλεία
- Σύνολο
- προς
- Διαφάνεια
- αληθής
- υπό
- ένωση
- πανεπιστήμιο
- us
- χρήση
- μεταχειρισμένος
- χρησιμοποιώντας
- πολύ
- ήταν
- Ουάσιγκτον
- τρόπους
- we
- ιστοσελίδες
- Τι
- πότε
- Ποιό
- ενώ
- θα
- με
- εντός
- Κέρδισε
- Ημέρα εργασίας
- εργαζόμενος
- λειτουργεί
- έτος
- ακόμη
- Υόρκη
- zephyrnet