Seadus, mille eesmärk on peatada tehisintellekti kallutatav palkamine, osutub ebatõhusaks

Taasavaldanud Platon

järgijaid: 0

Tehisintellekti kallutatava palkamise peatamiseks loodud seadus osutub PlatoBlockchaini andmeluure ebatõhusaks. Vertikaalne otsing. Ai.

Uuring New Yorgi seaduse tõhususe kohta, mis on suunatud tehisintellekti palkamise algoritmide eelarvamusele, on leidnud, et seadus on suures osas ebatõhus.

New Yorgi kohalik seadus 144 (LL144) oli Vastu võetud 2021. aastal, jõustus eelmise aasta 1. jaanuaril ja jõustus 2023. aasta juulist. Seadus kohustab tööandjaid, kes kasutavad automatiseeritud tööhõiveotsuste tööriistu (AEDT-sid), neid igal aastal rassi- ja soolise kallutatuse suhtes auditeerima, avaldama need tulemused oma veebisaitidel, ja lisage töökuulutustele teade, et nad kasutavad sellist tarkvara tööhõiveotsuste tegemiseks.

Cornelli ülikooli teadlaste, mittetulundusliku ülevaateteenistuse Consumer Reports ja mittetulundusühingu Data & Society Research Institute uurimus on veel avaldamata, kuid seda jagati Register. Selles leiti, et valimisse kaasatud 391 tööandjast oli ainult 18 avaldanud seadusega nõutud auditiaruande. Vaid 13 tööandjat (kellest 11 avaldas ka auditiaruande) lisasid vajalikud läbipaistvuse teatised.

LL144 "annab tööandjatele peaaegu täieliku kaalutlusõiguse otsustada, kas nende süsteem kuulub seaduse reguleerimisalasse," ütles Data & Society teadlane ja üks uuringu autoritest Jacob Metcalf. Register. "Ja tööandjatel on sellest ulatusest pääsemiseks mitu võimalust."

Metcalf ütles meile, et LL144 ei nõua ettevõtetelt meetmete võtmist, kui üks selle audititest näitab, et AEDT on viinud diskrimineerivate tulemusteni. See ei tähenda aga, et ettevõtted, kes kasutavad kallutatud AEDT-sid, ei oleks konksul.

"Tööandjad, kes postitavad erinevat mõju näitava auditi, on avatud muudele meetmetele," ütles Metcalf. "Tsiviilkohtumenetlused tööalase diskrimineerimise kohta võivad olla väga kallid."

Metcalf ja mitmed tema kolleegid töötavad teise dokumendi kallal LL144 kohta, mis keskendub NYC ettevõtete kasutatavate AEDT-de ülevaatamise audiitorite kogemustele. Register on vaadanud paberit, mis on praegu vastastikuse eksperdihinnangu all. Selles leitakse, et auditite käigus on leitud AEDT-de diskrimineerimisjuhtumeid.

"Me teame audiitoritega tehtud intervjuudest, et tööandjad on nende auditite eest tasunud ja keeldunud neid avalikult avaldamast, kui numbrid on halvad," ütles Metcalf. "Nende õigusnõustaja kardab võrdsete töövõimaluste komisjoni rohkem kui New Yorki."

New Yorgi seadus aeglustab sarnaste reeglite vastuvõtmist

LL144-ga sarnaseid seadusi on arvesse võtnud ka teised jurisdiktsioonid. Need ettepanekud on enamasti seiskunud, kuna seadusandjad on saanud teadlikuks, et NYC katse takistada tehisintellekti palkamise erapoolikust ei ole olnud tõhus.

"[Arvete] sponsorid mõtlevad oma struktuuri ümber. Niipalju kui mina tean, ei ole sarnaste seadustega midagi ette võetud, ”rääkis Metcalf meile. California kaaluda sarnased õigusaktid 2022. aastal, samal ajal kui Washington DC ja New Yorgi osariik on mõelnud ka selliste õigusaktide üle nagu LL144.

Euroopa Liit AI seadus2023. aasta detsembris ajutiselt kokku lepitud, asetab värbamisprotsessis kasutatud tehisintellekti seaduse „kõrge riskigakategooria, tähendus sellised tooted tuleb enne turule jõudmist ja kogu nende elutsükli jooksul üle vaadata. EL peab oma seadusi veel vastu võtma.

AI eelarvamus on olnud hästi välja kujunenud sel hetkel.

Personalitarkvarafirma Workday on isegi olnud kaevata süüdistuste pärast, et selle värbamistarkvara on kasutatud mustanahaliste kandidaatide diskrimineerimiseks – see on täpselt selline asi, mille vastu LL144 oli loodud.

Kuigi LL144 on olnud suures osas ebatõhus, jõudsid teadlased järeldusele, et seadus on esimene samm parema reguleerimise suunas.

"Igaüks, kes nende seadustega töötab, katsetab vastutuse struktuure – me ei tea veel, mis töötab," ütles Metcalf. "Peaaegu kõik, mida kodanikuühiskonna kriitikud [LL144 kohta] ütlesid, on tõeks saanud, kuid me õppisime sellest artiklist asju, mida teised inimesed saavad [tulevasteks jõustamispüüdlusteks] üles võtta."

Metcalf ütles, et üks olulisemaid asju, mida LL144-st võiks õppida, on see, et AEDT tarkvara hõlmatud kasutusala tuleks laiendada.

LL144 keel on abstraktne, määratledes ainult AEDT tarkvara kasutamise juhtudel, kui seda "kasutatakse tööotsuste tegemisel suvalise otsustusprotsessi oluliseks abistamiseks või asendamiseks". See, mida "oluline" tähendab, sõltub tõlgendamisest.

Meile öeldakse, et kui AEDT diskrimineerimise vastu võitlemiseks loodud tulevased seadused peavad olema tõhusad, tuleb loobuda igasugustest tehisintellekti palkamise algoritmide kasutamise kohta.

„Kui süsteem renderdab skoori, on selle ulatus. Periood,” rääkis Metcalf meile. "Tööandjatele kaalutlusõiguse andmine [otsustada, kas nende AEDT kasutamine kuulub LL144 reguleerimisalasse] loob vääraid stiimuleid, mis õõnestavad tegelikku vastutust, mida see seadus oleks võinud saavutada." ®