Дослідження ефективності закону міста Нью-Йорк, спрямованого на упередженість алгоритмів найму ШІ, показало, що законодавство в основному неефективне.
Місцевий закон Нью-Йорка 144 (LL144) був Пройшов у 2021 році, набув чинності 1 січня минулого року та набрав чинності з липня 2023 року. Закон вимагає від роботодавців, які використовують автоматизовані інструменти прийняття рішень про працевлаштування (AEDT), щорічно перевіряти їх на предмет расової та гендерної упередженості, публікувати ці результати на своїх веб-сайтах, і включати в оголошення про роботу повідомлення про те, що вони використовують таке програмне забезпечення для прийняття рішень щодо працевлаштування.
Дослідження дослідників Корнельського університету, некомерційної служби оглядів Consumer Reports і некомерційного Інституту дослідження даних і суспільства ще не опубліковано, але було надіслано Реєстр. Було встановлено, що з 391 роботодавця, який був включений у вибірку, лише 18 опублікували аудиторські звіти, які вимагаються згідно із законом. Лише 13 роботодавців (11 з яких також опублікували аудиторські звіти) включили необхідні повідомлення про прозорість.
Джейкоб Меткалф, дослідник Data & Society та один з авторів дослідження, сказав, що LL144 «надає роботодавцям майже повну свободу вирішувати, чи підпадає їхня система в дію закону». Реєстр. «І у роботодавців є кілька способів уникнути цієї сфери».
Меткалф сказав нам, що LL144 не вимагає від компаній вживати жодних дій, якщо один із його аудитів показує, що AEDT призвело до дискримінаційних результатів. Однак це не означає, що компанії, які використовують упереджені AEDT, не будуть на гачку.
«Роботодавці, які публікують аудит, який показує неоднаковий вплив, відкриті до інших форм дій», — сказав нам Меткалф. «Цивільні позови щодо дискримінації при працевлаштуванні можуть бути дуже дорогими».
Меткалф і кілька його колег працюють над другим документом про LL144, який зосереджується на досвіді аудиторів, які переглядають AEDT, що використовуються компаніями Нью-Йорка. Реєстр переглянув статтю, яка зараз знаходиться на стадії рецензування. Було встановлено, що перевірки виявили випадки дискримінації з боку AEDT.
«З інтерв’ю з аудиторами ми знаємо, що роботодавці платили за ці перевірки, а потім відмовлялися публікувати їх публічно, коли цифри були поганими», — сказав нам Меткалф. «Їхній юридичний радник більше боїться Комісії з рівних можливостей працевлаштування, ніж Нью-Йорка».
Закон Нью-Йорка уповільнює прийняття подібних правил
Закони, подібні до LL144, розглядалися іншими юрисдикціями. Ці пропозиції здебільшого застопорилися, оскільки законодавцям стало відомо, що спроба Нью-Йорка запобігти упередженню при наймі ШІ не була ефективною.
«Спонсори [законопроектів] переосмислюють їх структуру. Наскільки мені відомо, жодних дій щодо подібних законів не було», — сказав нам Меткалф. Каліфорнія вважається аналогічне законодавство у 2022 році, тоді як Вашингтон і штат Нью-Йорк також замислювалися над таким законодавством, як LL144.
Європейський Союз Закон про ШІ, попередньо узгоджений у грудні 2023 року, розміщує штучний інтелект, який використовується в процесі вербування, в Законі «високий ризиккатегорія, сенс такі продукти необхідно перевіряти перед надходженням на ринок і протягом усього життєвого циклу. ЄС ще має прийняти свій закон.
Була упередженість у ШІ добре зарекомендував себе на цьому місці.
Компанія з програмного забезпечення кадрів Workday навіть була подав до суду через звинувачення в тому, що його програмне забезпечення для найму використовувалося для дискримінації темношкірих кандидатів – саме для боротьби з цим LL144 було розроблено.
Хоча закон LL144 був значною мірою неефективним, дослідники дійшли висновку, що закон є першим кроком до кращого регулювання.
«Кожен, хто працює над цими законами, експериментує зі структурами підзвітності – ми ще не знаємо, що працює», – сказав нам Меткалф. «Майже все, що критики громадянського суспільства говорили [про LL144], здійснилося, але ми дізналися в цій статті те, що інші люди можуть підібрати [для майбутніх заходів із правозастосування]».
За словами Меткалфа, одна з найважливіших речей, яку можна винести з LL144, полягає в тому, що слід розширити сферу використання програмного забезпечення AEDT.
Мова в LL144 є абстрактною, вона визначає використання програмного забезпечення AEDT лише у випадках, коли воно «використовується для істотної допомоги або заміни дискреційного прийняття рішень для прийняття рішень щодо працевлаштування». Що означає «значний», залежить від тлумачення.
Нам кажуть, що якщо майбутні закони, створені для боротьби з дискримінацією AEDT, будуть ефективними, необхідно скасувати будь-яку кваліфікацію щодо використання алгоритмів найму ШІ.
«Якщо система рендерить оцінку, це в межах. Крапка, — сказав нам Меткалф. «Надання роботодавцям повноважень [у прийнятті рішення про те, чи підпадає використання ними AEDT під сферу дії LL144], створює спотворені стимули, які підривають фактичну підзвітність, якої міг досягнути цей закон». ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/
- : має
- :є
- :де
- $UP
- 1
- 11
- 13
- 2021
- 2022
- 2023
- 7
- a
- МЕНЮ
- РЕЗЮМЕ
- підзвітність
- досягнутий
- Діяти
- дію
- фактичний
- Прийняття
- проти
- вирішено
- AI
- алгоритми
- Звинувачення
- Також
- an
- та
- Щорічно
- будь-який
- будь
- заявники
- ЕСТЬ
- AS
- допомогу
- At
- спроба
- аудит
- Аудитори
- аудит
- authors
- Автоматизований
- знати
- поганий
- BE
- ставати
- було
- перед тим
- Краще
- зміщення
- упереджений
- Банкноти
- Black
- але
- by
- Каліфорнія
- прийшов
- CAN
- випадків
- Категорія
- Місто
- громадянський
- CO
- колеги
- боротьби з
- Приходити
- комісія
- Компанії
- уклали
- вважається
- споживач
- звіти споживачів
- Корнелл
- може
- Рада
- адвокат
- покритий
- створений
- створює
- Критиків
- В даний час
- Постійний струм
- дані
- Грудень
- вирішувати
- Вирішивши
- рішення
- Прийняття рішень
- рішення
- визначаючи
- призначений
- розсуд
- дискреційний
- розрізнені
- байдуже
- Дон
- впав
- ефект
- Ефективний
- ефективність
- зусилля
- роботодавців
- зайнятість
- примус
- рівним
- бігти
- EU
- Europa
- Європейська
- european union
- Навіть
- все
- дорогий
- досвід
- Фолс
- далеко
- знахідки
- Фірма
- Перший
- фокусується
- для
- форми
- знайдений
- від
- майбутнє
- Стать
- дає
- гранти
- було
- Мати
- Наймання
- його
- Однак
- HTTPS
- i
- if
- Impact
- важливо
- in
- стимули
- включати
- включені
- Інститут
- інтерпретація
- інтерв'ю
- в
- IT
- ЙОГО
- Джекоб
- січня
- робота
- JPG
- липень
- юрисдикції
- просто
- Знати
- в значній мірі
- останній
- Минулого року
- закон
- законодавці
- Законодавство
- судові процеси
- вчений
- Led
- легальний
- Законодавство
- Життєвий цикл
- як
- місцевий
- зробити
- Робить
- ринок
- значити
- засоби
- Меткальф
- більше
- найбільш
- в основному
- множинний
- Близько
- майже
- необхідно
- Необхідність
- потреби
- Нові
- Нью-Йорк
- Нью-Йорк
- Штат Нью-Йорк
- Некомерційний
- Зверніть увагу..
- номера
- Нью-Йорк
- of
- on
- ONE
- тільки
- відкрити
- Можливість
- or
- Інше
- Результати
- над
- оплачувану
- Папір
- проходити
- однолітка
- Люди
- period
- вибирати
- місця
- plato
- Інформація про дані Платона
- PlatoData
- точка
- пошта
- попередження
- процес
- Продукти
- Пропозиції
- доводить
- публічно
- публікувати
- опублікований
- кваліфікація
- Гонки
- RE
- досягнення
- наймання
- набір
- Регулювання
- надання
- замінювати
- Звіти
- вимагати
- вимагається
- Вимагається
- дослідження
- дослідник
- Дослідники
- результати
- огляд
- відгуки
- рецензування
- Відгуки
- s
- Зазначений
- переляканий
- сфера
- рахунок
- другий
- обслуговування
- кілька
- загальні
- Повинен
- Шоу
- аналогічний
- Уповільнення
- суспільство
- Софтвер
- Спонсори
- стан
- Крок
- Стоп
- структура
- структур
- Вивчення
- істотний
- по суті
- такі
- система
- Приймати
- націлювання
- ніж
- Що
- Команда
- закон
- їх
- Їх
- потім
- Там.
- Ці
- вони
- річ
- речі
- це
- ті
- по всьому
- до
- сказав
- інструменти
- Усього:
- до
- прозорість
- правда
- при
- союз
- університет
- us
- використання
- використовуваний
- використання
- дуже
- було
- Вашингтон
- способи
- we
- веб-сайти
- Що
- коли
- який
- в той час як
- волі
- з
- в
- Виграв
- Робочий день
- робочий
- працює
- рік
- ще
- йорк
- зефірнет