أثبت القانون المصمم لوقف التوظيف المتحيز للذكاء الاصطناعي عدم فعاليته

وجدت دراسة حول فعالية قانون مدينة نيويورك الذي يستهدف التحيز في خوارزميات توظيف الذكاء الاصطناعي أن التشريع غير فعال إلى حد كبير.

القانون المحلي لمدينة نيويورك رقم 144 (LL144) كان مرت في عام 2021، دخل حيز التنفيذ اعتبارًا من 1 يناير من العام الماضي وتم تطبيقه اعتبارًا من يوليو 2023. ويلزم القانون أصحاب العمل الذين يستخدمون أدوات قرار التوظيف الآلية (AEDTs) بمراجعتهم سنويًا للتأكد من التحيز العرقي والجنساني، ونشر تلك النتائج على مواقعهم الإلكترونية، وتضمين إشعار في إعلانات الوظائف بأنهم يستخدمون مثل هذه البرامج لاتخاذ قرارات التوظيف.

لم يتم نشر الدراسة التي أجراها باحثون في جامعة كورنيل، وخدمة المراجعات غير الربحية Consumer Reports، ومعهد أبحاث البيانات والمجتمع غير الربحي، ولكن تمت مشاركتها مع السجل. ووجدت أنه من بين 391 صاحب عمل تم أخذ عينات منهم، 18 فقط نشروا تقارير التدقيق المطلوبة بموجب القانون. قام 13 صاحب عمل فقط (11 منهم أيضًا بنشر تقارير التدقيق) بتضمين إشعارات الشفافية اللازمة.

وقال جاكوب ميتكالف، الباحث في Data & Society وأحد مؤلفي الدراسة، إن LL144 "يمنح أصحاب العمل سلطة تقديرية كاملة ليقرروا ما إذا كان نظامهم يقع ضمن نطاق القانون". السجل. "وهناك طرق متعددة لأصحاب العمل للهروب من هذا النطاق."

أخبرنا Metcalf أن LL144 لا يطلب من الشركات اتخاذ أي إجراء إذا أظهرت إحدى عمليات التدقيق التي أجرتها أن AEDT قد أدى إلى نتائج تمييزية. ومع ذلك، هذا لا يعني أن الشركات التي يتبين أنها تستخدم أدوات AEDT المتحيزة لن تكون في مأزق.

أخبرنا ميتكالف قائلاً: "إن أصحاب العمل الذين ينشرون تدقيقاً يظهر تأثيراً متبايناً يكونون منفتحين على أشكال أخرى من العمل". "الدعاوى المدنية المتعلقة بالتمييز في العمل يمكن أن تكون مكلفة للغاية."

يعمل ميتكالف والعديد من زملائه على ورقة بحثية ثانية حول LL144 تركز على تجربة المدققين الذين يراجعون AEDTs المستخدمة من قبل شركات مدينة نيويورك. السجل لقد اطلع على الورقة، والتي هي حاليًا قيد المراجعة من قبل النظراء. ووجدت أن عمليات التدقيق وجدت حالات تمييز من قبل AEDTs.

أخبرنا ميتكالف: "نعلم من المقابلات التي أجريت مع مدققي الحسابات أن أصحاب العمل دفعوا تكاليف عمليات التدقيق هذه ثم رفضوا نشرها علناً عندما تكون الأرقام سيئة". "مستشارهم القانوني أكثر خوفًا من لجنة تكافؤ فرص العمل من مدينة نيويورك."

قانون مدينة نيويورك يبطئ اعتماد قواعد مماثلة

تم النظر في قوانين مشابهة لـ LL144 من قبل ولايات قضائية أخرى. لقد توقفت هذه المقترحات في الغالب حيث أصبح المشرعون يدركون أن محاولة مدينة نيويورك لمنع التحيز في توظيف الذكاء الاصطناعي لم تكن فعالة.

“الرعاة [لمشاريع القوانين] يعيدون التفكير في هيكلهم. قال لنا ميتكالف: "على حد علمي، لم يتم اتخاذ أي إجراء بشأن قوانين مماثلة". كاليفورنيا نظرت تشريعات مماثلة في عام 2022، بينما فكرت واشنطن العاصمة وولاية نيويورك أيضًا في تشريعات مثل LL144.

الاتحاد الأوروبي قانون AI، الذي تم الاتفاق عليه مؤقتًا في ديسمبر 2023، يضع الذكاء الاصطناعي المستخدم في عملية التوظيف في "قانون"مخاطرة عالية" فئة، معنى ستحتاج هذه المنتجات إلى المراجعة قبل وصولها إلى السوق وطوال دورة حياتها. ولم يقم الاتحاد الأوروبي بعد بتمرير قانونه.

لقد كان التحيز في الذكاء الاصطناعي راسخة عند هذه النقطة.

لقد كانت شركة برمجيات الموارد البشرية Workday كذلك دعوى قضائية ضد بسبب مزاعم بأن برنامج التوظيف الخاص بها قد تم استخدامه للتمييز ضد المتقدمين من السود - وهو النوع المحدد من الشيء الذي تم تصميم LL144 لمكافحته.

وفي حين أن قانون LL144 كان غير فعال إلى حد كبير، فقد خلص الباحثون إلى أن القانون هو خطوة أولى نحو تنظيم أفضل.

وقال لنا ميتكالف: "إن أي شخص يعمل على هذه القوانين يقوم بتجربة هياكل المساءلة - ونحن لا نعرف حتى الآن ما الذي ينجح". "تقريبًا كل ما قاله منتقدو المجتمع المدني [حول LL144] أصبح حقيقة، لكننا تعلمنا أشياء في هذه الورقة يمكن لأشخاص آخرين التقاطها [لجهود الإنفاذ المستقبلية]".

وقال ميتكالف إن أحد أهم الأشياء التي يمكن تعلمها من LL144 هو أنه ينبغي توسيع نطاق ما يشكل استخدامًا مغطى لبرنامج AEDT.

اللغة في LL144 مجردة، وتحدد فقط استخدام برنامج AEDT في الحالات التي يتم فيها "استخدامها للمساعدة بشكل كبير أو استبدال عملية صنع القرار التقديرية لاتخاذ قرارات التوظيف." ما تعنيه كلمة "جوهري" متروك للتفسير.

إذا أردنا أن تكون القوانين المستقبلية التي سيتم إنشاؤها لمكافحة التمييز في مجال AEDT فعالة، فيجب إسقاط أي مؤهلات بشأن استخدام خوارزميات توظيف الذكاء الاصطناعي.

"إذا كان النظام يقدم نتيجة، فهو في نطاقه. أخبرنا ميتكالف. "إن منح أصحاب العمل السلطة التقديرية [في تقرير ما إذا كان استخدامهم لـ AEDT يقع ضمن نطاق LL144] يخلق حوافز ضارة تقوض المساءلة الفعلية التي كان من الممكن أن يحققها هذا القانون." ®

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/