Az AI toborzószoftver „automatizált áltudomány” – állapítja meg a cambridge-i tanulmány

Egy ezen a héten közzétett tanulmány cáfolta azokat az állításokat, amelyek szerint a mesterséges intelligencia alapú toborzási szoftverek növelhetik az újonnan felvett munkaerő sokféleségét egy munkahelyen.

A testbeszéd elemzésére és a jelöltek érzelmi intelligenciájának előrejelzésére képzett gépi tanulási algoritmusok hívei úgy vélik, hogy a szoftver igazságosabb módszert kínál a dolgozók értékelésére, ha nem veszi figyelembe a nemet és a rasszt. Azzal érvelnek, hogy az új eszközök eltávolíthatják az emberi elfogultságokat, és segíthetnek a vállalatoknak elérni a sokszínűséggel, egyenlőséggel és befogadással kapcsolatos céljaikat azáltal, hogy több embert vesznek fel alulreprezentált csoportokból.

De egy papír közzétett a folyóiratban Filozófia és technológia A Cambridge-i Egyetem kutatóinak párja azonban bebizonyítja, hogy a szoftver alig több, mint „automatizált áltudomány”. Hat informatikus egyetemista megismételte az iparban használt kereskedelmi modellt, hogy megvizsgálja, hogyan jósolja meg az AI-toborzási szoftver az emberek személyiségét az arcképek segítségével. 

A „Személyiséggépnek” nevezett rendszer az „öt nagy” személyiségtrópusokat keresi: extroverzió, kedvesség, nyitottság, lelkiismeretesség és neuroticizmus. Azt találták, hogy a szoftver előrejelzéseit befolyásolták az emberek arckifejezésében, megvilágításában és hátterében bekövetkezett változások, valamint a ruházatválasztásuk. Ezeknek a tulajdonságoknak semmi közük az álláskereső képességeihez, így a mesterséges intelligencia toborzási célokra való alkalmazása hibás – érvelnek a kutatók. 

"Az a tény, hogy a fény, a telítettség és a kontraszt változásai befolyásolják a személyiség pontszámát, ezt bizonyítja" - mondta Kerry Mackereth, a Cambridge-i Egyetem Nemi Tanulmányok Központjának posztdoktori munkatársa. A regisztráció. A tanulmány eredményeit korábbi tanulmányok támasztják alá, amelyek mutatott jegyezte meg, hogy a szemüveg és a fejkendő viselése a videóinterjún, vagy a könyvespolc háttérbe helyezése hogyan csökkentheti a jelöltek lelkiismeretességére és neuroticizmusára vonatkozó pontszámait. 

Mackereth azt is elmagyarázta, hogy ezeket az eszközöket valószínűleg arra képezték ki, hogy a korábbi sikeres jelöltekhez kapcsolódó tulajdonságokat keressenek, és ezért nagyobb valószínűséggel toboroznak hasonló megjelenésű embereket ahelyett, hogy a sokszínűséget támogatnák. 

„A gépi tanulási modelleket prediktívnek tekintik; mivel azonban a múltbeli adatokra képezték ki őket, a múltban hozott döntéseket ismétlik meg, nem a jövőt. Ahogy az eszközök tanulnak ebből a már meglévő adathalmazból, visszacsatolási hurok jön létre a vállalatok által ideális munkavállalónak tartott személy és az automatizált toborzási eszközök által a jelöltek kiválasztásához használt kritériumok között” – mondta.

A kutatók úgy vélik, hogy a technológiát szigorúbban kell szabályozni. „Aggódunk amiatt, hogy egyes eladók a „kígyóolaj” termékeket fényes csomagolásba csomagolják, és gyanútlan vásárlóknak adják el.” mondott társszerző, Eleanor Drage, a Gender Studies Központ posztdoktori munkatársa. 

„Bár a vállalatok nem járnak el rosszhiszeműen, kevés az elszámoltathatóság a termékek felépítésével vagy tesztelésével kapcsolatban. Mint ilyen, ez a technológia és értékesítési módja veszélyes félretájékoztatási forrásokká válhat arról, hogyan lehet a toborzást „elfogulatlanná” tenni és igazságosabbá tenni” – tette hozzá.

Mackereth elmondta, hogy bár az Európai Unió mesterséges intelligenciatörvénye az ilyen toborzási szoftvereket „nagy kockázatúnak” minősíti, nem világos, hogy milyen szabályokat kényszerítenek ki e kockázatok csökkentése érdekében. "Úgy gondoljuk, hogy ezeknek az eszközöknek és az ezekre a termékekre vonatkozó marketingkijelentéseknek sokkal komolyabb ellenőrzésre van szükségük, és az AI-alapú HR-eszközök szabályozásának sokkal hangsúlyosabb szerepet kell játszania az AI-politikai menetrendben."

„Bár a mesterséges intelligencia által működtetett munkaerő-kölcsönző eszközök ártalmai sokkal látensebbnek és alattomosabbnak tűnnek, mint az algoritmikus diszkrimináció nagyobb horderejű esetei, megvan a lehetőségük arra, hogy hosszan tartó hatást gyakoroljanak a foglalkoztatásra és a társadalmi-gazdasági mobilitásra” – tette hozzá. ®