Laki, joka on suunniteltu estämään tekoälyn puolueellinen palkkaaminen, osoittautuu tehottomaksi

Tutkimus New Yorkin lain tehokkuudesta, joka kohdistuu tekoälyn palkkaamisalgoritmeihin, on todennut, että lainsäädäntö on suurelta osin tehoton.

New York City Local Law 144 (LL144) oli Hyväksytty vuonna 2021, tuli voimaan 1. tammikuuta viime vuonna ja se on tullut voimaan heinäkuusta 2023. Laki edellyttää, että työnantajat, jotka käyttävät automatisoituja työllisyyspäätöstyökaluja (AEDT), tarkastavat ne vuosittain rotu- ja sukupuoliharhojen varalta, julkaisevat tulokset verkkosivuillaan, ja sisällyttää työpaikkailmoituksiin ilmoituksen, että he käyttävät tällaisia ​​ohjelmistoja työllistämispäätösten tekemiseen.

Cornellin yliopiston tutkijoiden, voittoa tavoittelemattoman arvostelupalvelun Consumer Reportsin ja voittoa tavoittelemattoman Data & Society Research Instituten tutkimusta ei ole vielä julkaistu, mutta se jaettiin Rekisteri. Se havaitsi, että otokseen valituista 391 työnantajasta vain 18 oli julkaissut lain edellyttämät tarkastusraportit. Vain 13 työnantajaa (joista 11 julkaisi myös tarkastusraportit) sisälsi tarvittavat avoimuusilmoitukset.

LL144 "antaa työnantajille lähes täydellisen harkintavallan päättää, kuuluuko heidän järjestelmänsä lain piiriin", Jacob Metcalf, Data & Societyn tutkija ja yksi tutkimuksen tekijöistä, kertoi. Rekisteri. "Ja työnantajilla on useita tapoja päästä eroon siitä."

Metcalf kertoi meille, että LL144 ei vaadi yrityksiä ryhtymään toimiin, jos yksi sen auditoinneista osoittaa, että AEDT on johtanut syrjiviin tuloksiin. Tämä ei kuitenkaan tarkoita, että yritykset, joiden havaitaan käyttävän puolueellisia AEDT:itä, eivät olisi koukussa.

"Työnantajat, jotka lähettävät auditoinnin, jossa näkyy erilainen vaikutus, ovat avoimia muille toimenpiteille", Metcalf kertoi meille. "Työsyrjintää koskevat siviilioikeudenkäynnit voivat olla erittäin kalliita."

Metcalf ja useat hänen kollegansa työstävät toista LL144-asiakirjaa, joka keskittyy NYC-yritysten käyttämien AEDT-arviointien tarkastajien kokemuksiin. Rekisteri on katsellut paperia, joka on parhaillaan vertaisarvioinnissa. Se toteaa, että tarkastuksissa on havaittu AEDT:n harjoittamia syrjintätapauksia.

"Tiedämme tilintarkastajien haastatteluista, että työnantajat ovat maksaneet näistä tarkastuksista ja sitten kieltäytyneet julkaisemasta niitä julkisesti, kun luvut ovat huonoja", Metcalf kertoi meille. "Heidän lakimiehensä pelkää enemmän Equal Employment Opportunity Commissionia kuin New York Cityä."

New Yorkin laki hidastaa vastaavien sääntöjen hyväksymistä

Muut lainkäyttöalueet ovat huomioineet LL144:n kaltaisia ​​lakeja. Nämä ehdotukset ovat enimmäkseen pysähtyneet, kun lainsäätäjät ovat tulleet tietoisiksi siitä, että NYC:n yritys estää tekoälyn palkkaaminen ei ole ollut tehokasta.

"Laskujen sponsorit harkitsevat rakennettaan uudelleen. Tietääkseni vastaavia lakeja koskevia toimia ei ole ryhdytty”, Metcalf kertoi. Kalifornia harkittu vastaava lainsäädäntö vuonna 2022, kun taas Washington DC ja New Yorkin osavaltio ovat myös pohtineet lainsäädäntöä, kuten LL144.

Euroopan unioni AI-laki, josta sovittiin alustavasti joulukuussa 2023, sijoittaa rekrytointiprosessissa käytetyn tekoälyn lain "suuri riski" kategoria, merkitys Tällaiset tuotteet on tarkistettava ennen markkinoille tuloa ja koko niiden elinkaaren ajan. EU ei ole vielä hyväksynyt lakiaan.

Harhaa tekoälyssä on ollut vakiintunut tässä tilanteessa.

HR-ohjelmistoyritys Workday on jopa ollut haastaa syytöksien takia, että sen rekrytointiohjelmistoa on käytetty mustien hakijoiden syrjimiseen – juuri sellaista asiaa, jota LL144 on suunniteltu torjumaan.

Vaikka LL144 on ollut suurelta osin tehoton, tutkijat päättelivät, että laki on ensimmäinen askel kohti parempaa sääntelyä.

"Jokainen näiden lakien parissa työskentelevä kokeilee vastuullisuusrakenteita – emme vielä tiedä, mikä toimii", Metcalf kertoi meille. "Melkein kaikki, mitä kansalaisyhteiskunnan kriitikot sanoivat [LL144:stä], on toteutunut, mutta opimme tässä artikkelissa asioita, joita muut voivat poimia [tulevia täytäntöönpanotoimia varten]."

Yksi tärkeimmistä asioista, joka voidaan oppia LL144:stä, Metcalf sanoi, on se, että AEDT-ohjelmiston katettua käyttöä tulisi laajentaa.

LL144:n kieli on abstraktia, ja se määrittelee AEDT-ohjelmiston käytön vain tapauksissa, joissa sitä "käytetään olennaisesti avustamaan tai korvaamaan harkinnanvaraista päätöksentekoa työllistämispäätösten tekemisessä". Mitä "olennainen" tarkoittaa, on tulkinnan varassa.

Jos AEDT-syrjinnän torjumiseksi laaditut tulevat lait ovat tehokkaita, meille kerrotaan, että kaikki tekoälyn palkkaamisalgoritmien käyttöä koskevat vaatimukset on hylättävä.

"Jos järjestelmä tekee pistemäärän, se on laajuudessa. Kausi", Metcalf kertoi meille. "Harkivallan antaminen työnantajille [päättäessään, kuuluuko heidän AEDT:n käyttönsä LL144:n soveltamisalaan] luo vääriä kannustimia, jotka heikentävät todellista vastuullisuutta, jonka tämä laki olisi voinut saavuttaa." ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/