Írta: AI Trends Staff
Míg a munkaerő-felvétel során a mesterséges intelligencia mára széles körben használatos munkaköri leírások írására, jelöltek szűrésére és interjúk automatizálására, széles körű diszkrimináció veszélyét rejti magában, ha nem alkalmazzák körültekintően.
Ezt üzente Keith Sonderling, az Egyesült Államok Esélyegyenlőségi Bizottságának biztosa a konferencián. AI világkormány esemény élőben és virtuálisan Alexandriában, Va.-ban került megrendezésre a múlt héten. Sonderling felelős azoknak a szövetségi törvényeknek a betartatásáért, amelyek megtiltják az állásra jelentkezők faji, bőrszín, vallás, nem, nemzeti származás, kor vagy fogyatékosság alapján történő megkülönböztetését.
„Két éve közelebb állt a sci-fihez az a gondolat, hogy a mesterséges intelligencia általánossá válik a HR-osztályokon, de a járvány felgyorsította a munkaadók általi mesterséges intelligencia használatának arányát” – mondta. „A virtuális toborzás most itt marad.
Ez egy mozgalmas időszak a HR-esek számára. "A nagy lemondás a nagy újbóli felvételhez vezet, és az AI olyan szerepet fog játszani ebben, mint korábban nem láthattuk" - mondta Sonderling.
A mesterséges intelligencia évek óta foglalkoztatott munkaerő-felvételben – „Ez nem egyik napról a másikra történt.” – olyan feladatokra, mint például a pályázatokkal való csevegés, annak előrejelzése, hogy egy jelölt elvállalja-e a munkát, előrejelzés, hogy milyen típusú alkalmazott lesz, valamint a továbbképzési és átképzési lehetőségek feltérképezése. „Röviden, az AI meghozza az összes olyan döntést, amelyet korábban a HR-esek hoztak”, amelyeket nem jellemezt jónak vagy rossznak.
„A gondosan megtervezett és megfelelően használt mesterséges intelligencia képes igazságosabbá tenni a munkahelyet” – mondta Sonderling. „De hanyagul végrehajtott mesterséges intelligencia olyan mértékű diszkriminációt tudhat magáénak, mint amilyet egy HR szakember még soha nem látott.”
A munkaerő-felvételhez használt AI-modellek képzési adatkészletei tükrözik a sokszínűséget
Ennek az az oka, hogy az AI modellek a képzési adatokra támaszkodnak. Ha a vállalat jelenlegi munkaerő-állományát használják fel a képzés alapjául, „Ez megismétli a status quót. Ha elsősorban egy nemről vagy egy rasszról van szó, akkor ez megismétli ezt” – mondta. Ezzel szemben a mesterséges intelligencia segíthet csökkenteni a faji, etnikai háttér vagy fogyatékossági státusz alapján történő felvételi elfogultság kockázatát. „Azt akarom, hogy a mesterséges intelligencia javuljon a munkahelyi diszkrimináció terén” – mondta.
Az Amazon 2014-ben kezdett el építeni egy munkaerő-felvételi alkalmazást, és idővel úgy találta, hogy az ajánlásaiban diszkriminálta a nőket, mivel az AI-modellt a vállalat saját, az előző 10 évre vonatkozó felvételi rekordjára alapozva képezték, amely elsősorban férfiakra vonatkozott. Az Amazon fejlesztői megpróbálták kijavítani, de végül 2017-ben leselejtezték a rendszert.
A Facebook a közelmúltban beleegyezett, hogy 14.25 millió dollárt fizet az amerikai kormány azon polgári jogi követeléseinek rendezésére, hogy a közösségi médiacég diszkriminálta az amerikai munkavállalókat, és megsértette a szövetségi munkaerő-toborzási szabályokat. Reuters. Az eset középpontjában az állt, hogy a Facebook a PERM programnak nevezett munkaügyi tanúsítási programot használta. A kormány megállapította, hogy a Facebook nem volt hajlandó amerikai munkavállalókat felvenni olyan munkákra, amelyeket a PERM program keretében ideiglenes vízummal rendelkezőknek tartottak fenn.
„Az emberek kizárása a munkaerő-kölcsönzésből szabálysértésnek minősül” – mondta Sonderling. Ha a mesterséges intelligencia program „visszatartja az álláslehetőséget az adott osztály számára, így nem gyakorolhatják jogaikat, vagy ha leminősít egy védett osztályt, az a mi hatáskörünkbe tartozik” – mondta.
A második világháború után elterjedtebb foglalkoztatási értékelések nagy értéket képviselnek a HR-menedzserek számára, és az AI segítségével lehetőségük van minimálisra csökkenteni a munkaerő-felvételi elfogultságot. "Ugyanakkor ki vannak téve a diszkriminációval kapcsolatos állításoknak, ezért a munkaadóknak óvatosnak kell lenniük, és nem szabad elfogulniuk" - mondta Sonderling. „A pontatlan adatok felerősítik az elfogultságot a döntéshozatalban. A munkáltatóknak ébernek kell lenniük a diszkriminatív következményekkel szemben.”
Azt javasolta, hogy keressenek megoldásokat olyan szállítóktól, akik a faji, nemi és egyéb tényezők alapján vizsgálják az elfogultság kockázatát.
Az egyik példa innen származik HireVue Dél-Jordánban (Utah állam), amely az Egyesült Államok Esélyegyenlőségi Bizottságának egységes iránymutatásaira épülő munkaerő-felvételi platformot épített ki, amelyet kifejezetten a tisztességtelen munkaerő-felvételi gyakorlatok mérséklésére terveztek. allWork.
A weboldalán található, a mesterséges intelligencia etikai elveiről szóló bejegyzés részben kijelenti: „Mivel a HireVue mesterséges intelligencia technológiát használ termékeiben, aktívan dolgozunk azon, hogy megakadályozzuk bármely csoporttal vagy egyénnel szembeni elfogultság bevezetését vagy továbbterjedését. Továbbra is gondosan felülvizsgáljuk a munkánk során használt adatkészleteket, és gondoskodunk arról, hogy azok a lehető legpontosabbak és változatosabbak legyenek. Továbbra is fejlesztjük képességeinket az elfogultság megfigyelésére, észlelésére és enyhítésére. Arra törekszünk, hogy változatos háttérrel rendelkező, változatos tudással, tapasztalatokkal és nézőpontokkal rendelkező csapatokat építsünk, hogy a legjobban képviseljék a rendszereink által kiszolgált embereket.”
Továbbá: „Adattudósaink és IO-pszichológusaink úgy építik a HireVue Assessment algoritmusokat, hogy eltávolítsák azokat az adatokat az algoritmus általi figyelembevétel alól, amelyek hozzájárulnak a káros hatásokhoz anélkül, hogy jelentősen befolyásolnák az értékelés előrejelzési pontosságát. Az eredmény egy nagyon érvényes, torzítást enyhítő értékelés, amely segít az emberi döntéshozatalban, miközben aktívan támogatja a sokszínűséget és az esélyegyenlőséget, nemre, etnikai hovatartozásra, korra vagy fogyatékosságra való tekintet nélkül.”
Az AI-modellek betanításához használt adatkészletek torzításának kérdése nem korlátozódik a munkaerő-felvételre. Dr. Ed Ikeguchi, az AiCure, az élettudományi iparágban dolgozó mesterséges intelligencia-elemző cég vezérigazgatója egy nemrégiben megjelent beszámolójában nyilatkozott. HealthcareITNews, "A mesterséges intelligencia csak annyira erős, mint az általa betáplált adatok, és az utóbbi időben ennek az adathálózatnak a hitelessége egyre inkább megkérdőjeleződik. A mai mesterséges intelligencia fejlesztői nem férnek hozzá a nagy, változatos adatkészletekhez, amelyeken új eszközöket taníthatnának és érvényesíthetnének.”
Hozzátette: „Gyakran szükségük van nyílt forráskódú adatkészletek felhasználására, de ezek közül sokat számítógép-programozó önkéntesek segítségével képezték ki, akik túlnyomórészt fehér lakosság. Mivel az algoritmusokat gyakran egyeredetű adatmintákon képezik, korlátozott sokféleséggel, ha valós forgatókönyvekben alkalmazzák a különböző rasszok, nemek, életkorok és egyebek szélesebb populációjára, a kutatás során rendkívül pontosnak tűnő technológia megbízhatatlannak bizonyulhat.”
Továbbá: „Minden algoritmus esetében szükség van az irányításra és a szakértői értékelésre, mivel még a legszilárdabb és legteszteltebb algoritmusok is váratlan eredményekkel járnak. Az algoritmus soha nem tanul meg-folyamatosan fejleszteni kell, és több adatot kell betáplálni a fejlesztés érdekében.”
És: „Iparágként szkeptikusabbá kell lennünk az AI következtetéseivel kapcsolatban, és ösztönöznünk kell az átláthatóságot az iparágban. A vállalatoknak azonnal meg kell válaszolniuk az alapvető kérdéseket, például: „Hogyan képezték ki az algoritmust? Mi alapján vonta le ezt a következtetést?”
Olvassa el a forrás cikkeket és információkat a címen AI világkormány, From Reuters és HealthcareITNews.
- Coinsmart. Európa legjobb Bitcoin- és kriptográfiai tőzsdéje.
- Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. SZABAD HOZZÁFÉRÉS.
- CryptoHawk. Altcoin radar. Ingyenes próbaverzió.
- Forrás: https://www.aitrends.com/ai-world-government/promise-and-perils-of-using-ai-for-hiring-guard-against-data-bias/
- "
- 100
- 70
- hozzáférés
- Szerint
- Fiók
- pontos
- AI
- algoritmus
- algoritmusok
- Minden termék
- amazon
- Amerikai
- analitika
- Alkalmazás
- alkalmazások
- megközelítés
- cikkek
- auto
- alap
- hogy
- BEST
- épít
- Épület
- vezérigazgató
- Tanúsítvány
- beszélgetni
- követelések
- közelebb
- Közös
- Companies
- vállalat
- megfontolás
- folytatódik
- tudott
- Jelenlegi
- dátum
- Döntéshozatal
- fejlett
- fejlesztők
- DID
- különböző
- Sokféleség
- domain
- ösztönzése
- példa
- Gyakorol
- Tapasztalatok
- tényezők
- igazságos
- Fed
- Szövetségi
- Fiction
- talált
- nem
- jó
- kormányzás
- Kormány
- nagy
- Csoport
- irányelvek
- segít
- segít
- itt
- Magas
- nagyon
- bérel
- Kölcsönzés
- tartók
- Hogyan
- hr
- HTTPS
- Hatás
- végre
- javul
- Beleértve
- egyéni
- ipar
- információ
- interjúk
- kérdés
- IT
- Munka
- Állások
- tudás
- munkaerő
- nagy
- törvények
- vezető
- Tőkeáttétel
- Life Sciences
- Korlátozott
- főáram
- Gyártás
- Média
- millió
- modell
- modellek
- a legtöbb
- nemzeti
- Lehetőségek
- Alkalom
- Más
- járvány
- Fizet
- Emberek (People)
- személyzet
- perspektívák
- emelvény
- játszani
- medence
- népesség
- lehetséges
- Termékek
- szakmai
- tehetséges alkalmazottal
- Program
- kérdés
- Futam
- rekord
- toborzás
- vallás
- kutatás
- Lemondás
- felelős
- Eredmények
- Reuters
- Kritika
- Kockázat
- szabályok
- Mondott
- Skála
- Tudomány
- TUDOMÁNYOK
- tudósok
- Szex
- rövid
- So
- Közösség
- Közösségi média
- Megoldások
- Dél
- kifejezetten
- Államok
- Állapot
- tartózkodás
- erős
- rendszer
- Systems
- feladatok
- tech
- Technológia
- ideiglenes
- The Source
- idő
- szerszámok
- Képzések
- Átláthatóság
- Trends
- us
- minket kormány
- érték
- gyártók
- Visa
- Sebezhető
- háború
- weboldal
- hét
- Mit
- vajon
- WHO
- belül
- nélkül
- Női
- Munka
- dolgozók
- munkaerő
- dolgozó
- Munkahely
- világ
- írás
- év
- év