قانون طراحی شده برای جلوگیری از استخدام مغرضانه هوش مصنوعی ناکارآمد است

مطالعه ای در مورد اثربخشی قانون شهر نیویورک برای هدف قرار دادن سوگیری در الگوریتم های استخدام هوش مصنوعی نشان داده است که این قانون تا حد زیادی بی اثر است.

قانون محلی شهر نیویورک 144 (LL144) بود گذشت در سال 2021، از اول ژانویه سال گذشته اجرایی شد و از ژوئیه 1 اجرا شد. این قانون کارفرمایان را ملزم می کند که از ابزارهای خودکار تصمیم گیری استخدامی (AEDT) استفاده می کنند تا سالانه آنها را از نظر تعصب نژادی و جنسیتی بررسی کنند، نتایج را در وب سایت های خود منتشر کنند. و در آگهی های شغلی اعلامیه ای را درج کنید که آنها از چنین نرم افزارهایی برای تصمیم گیری در مورد استخدام استفاده می کنند.

مطالعه محققان دانشگاه کرنل، خدمات بررسی غیرانتفاعی Consumer Reports و موسسه غیرانتفاعی Data & Society Research Institute هنوز منتشر نشده است، اما به اشتراک گذاشته شده است. ثبت نام. این نشان داد که از 391 کارفرمای نمونه، تنها 18 کارفرما گزارش حسابرسی مورد نیاز طبق قانون را منتشر کرده بودند. فقط 13 کارفرما (11 نفر از آنها گزارش های حسابرسی را نیز منتشر کردند) اخطارهای شفافیت لازم را درج کردند.

جیکوب متکالف، محقق در Data & Society و یکی از نویسندگان این مطالعه، گفت: LL144 تقریباً به کارفرمایان اجازه می دهد تا تصمیم بگیرند که آیا سیستم آنها در محدوده قانون است یا خیر. ثبت نام. و راه‌های متعددی برای فرار کارفرمایان از این محدوده وجود دارد.»

Metcalf به ما گفت که LL144 شرکت‌ها را ملزم به انجام هیچ اقدامی در صورتی که یکی از ممیزی‌های آن نشان دهد AEDT منجر به نتایج تبعیض‌آمیز شده است، ندارد. با این حال، این بدان معنا نیست که شرکت هایی که از AEDT های مغرضانه استفاده می کنند، وارد عمل نخواهند شد.

متکالف به ما گفت: «کارفرمایانی که ممیزی را ارسال می کنند که تأثیر متفاوتی را نشان می دهد، برای سایر اشکال اقدام باز هستند. دعاوی مدنی در مورد تبعیض شغلی می تواند بسیار گران باشد.

متکالف و چند تن از همکارانش در حال کار بر روی مقاله دوم در مورد LL144 هستند که بر تجربه حسابرسان در بررسی AEDT های مورد استفاده شرکت های نیویورک تمرکز دارد. ثبت نام مقاله را مشاهده کرده است که در حال حاضر در دست بررسی است. این نشان می‌دهد که ممیزی‌ها مواردی از تبعیض توسط AEDTها را پیدا کرده است.

متکالف به ما گفت: «ما از مصاحبه با حسابرسان می‌دانیم که کارفرمایان برای این ممیزی‌ها پول پرداخت کرده‌اند و سپس از ارسال عمومی آن‌ها در صورت بد بودن اعداد خودداری کرده‌اند. مشاور حقوقی آنها بیشتر از شهر نیویورک از کمیسیون فرصت های شغلی برابر می ترسد.

قانون شهر نیویورک تصویب قوانین مشابه را کند می کند

قوانین مشابه LL144 توسط سایر حوزه های قضایی در نظر گرفته شده است. این پیشنهادها عمدتاً متوقف شده اند زیرا قانونگذاران متوجه شده اند که تلاش نیویورک برای جلوگیری از تعصب استخدام هوش مصنوعی مؤثر نبوده است.

حامیان [لوایح] در حال تجدید نظر در ساختار خود هستند. تا آنجا که من می دانم هیچ اقدامی در مورد قوانین مشابه صورت نگرفته است.» متکالف به ما گفت. کالیفرنیا در نظر گرفته قوانین مشابه در سال 2022، در حالی که واشنگتن دی سی و ایالت نیویورک نیز قوانینی مانند LL144 را مورد بررسی قرار داده اند.

اتحادیه اروپا قانون هوش مصنوعی، که به طور موقت در دسامبر 2023 موافقت شد، هوش مصنوعی را در فرآیند استخدام در قانون قرار می دهد.ریسک بالا" دسته بندی، معنی چنین محصولاتی قبل از رسیدن به بازار و در طول چرخه عمرشان نیاز به بررسی دارند. اتحادیه اروپا هنوز قانون خود را تصویب نکرده است.

تعصب در هوش مصنوعی بوده است به خوبی تثبیت شده در این مرحله

شرکت نرم افزار منابع انسانی Workday حتی شده است شکایت به دلیل ادعاهایی مبنی بر اینکه نرم افزار استخدام آن برای تبعیض علیه متقاضیان سیاه پوست استفاده شده است - دقیقاً همان چیزی که LL144 برای مبارزه با آن طراحی شده است.

در حالی که LL144 تا حد زیادی ناکارآمد بوده است، محققان به این نتیجه رسیدند که این قانون اولین گام به سوی مقررات بهتر است.

متکالف به ما گفت: «هرکسی که روی این قوانین کار می‌کند، ساختارهای پاسخگویی را آزمایش می‌کند - ما هنوز نمی‌دانیم چه کار می‌کند. «تقریباً همه چیزهایی که منتقدان جامعه مدنی [درباره LL144] گفتند به حقیقت پیوسته است، اما ما چیزهایی را در این مقاله آموختیم که افراد دیگر می‌توانند [برای تلاش‌های اجرایی آینده] آن‌ها را انتخاب کنند.»

متکالف گفت، یکی از مهم‌ترین چیزهایی که می‌توان از LL144 آموخت، این است که دامنه استفاده تحت پوشش نرم‌افزار AEDT باید گسترش یابد.

زبان در LL144 انتزاعی است و فقط استفاده از نرم‌افزار AEDT را در مواردی تعریف می‌کند که «برای کمک یا جایگزینی اساسی برای تصمیم‌گیری اختیاری برای تصمیم‌گیری استخدام استفاده می‌شود». معنای «ماهوی» به تفسیر بستگی دارد.

اگر قوانین آتی ایجاد شده برای مبارزه با تبعیض AEDT موثر باشد، به ما گفته می شود، هر گونه صلاحیت در مورد استفاده از الگوریتم های استخدام هوش مصنوعی باید کنار گذاشته شود.

«اگر سیستمی امتیازی را ارائه می‌کند، در محدوده است. متکالف به ما گفت. "اعطای اختیار به کارفرمایان [در تصمیم گیری در مورد اینکه آیا استفاده آنها از AEDT تحت محدوده LL144 قرار می گیرد یا خیر] انگیزه های انحرافی ایجاد می کند که پاسخگویی واقعی را که این قانون می توانست به دست آورد، تضعیف می کند." ®

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/