Можливість відповісти на RFI ВПС США щодо протидії упередженості в наборах даних AI/ML » Блог CCC

Раніше цього місяця міжвідомча робоча група головного наукового співробітника ВПС США надіслала a Запит на інформацію (RFI) про ненавмисне упередження штучного інтелекту (AI).. Група заглиблюється в критичну проблему упередженості в алгоритмах ШІ та машинного навчання (ML), з основним акцентом на наборах даних. Вони прагнуть дізнатися про ці упередження в академічних установах, таких як заклади, що обслуговують меншини (MSI) та коледжі та університети з історичним походженням темношкірих (HBCU), а також промисловість, федеральний уряд та інші академічні установи.

Незважаючи на розробку кількох інструментів, спрямованих на виявлення та усунення упереджень, таких як набір інструментів відповідального штучного інтелекту Міністерства оборони (DoD), у боротьбі з упередженнями в системах штучного інтелекту та ML залишаються значні проблеми.

Група визнає, що в міру того, як технологія штучного інтелекту поширюється на нові сфери, виникають унікальні проблеми, кожна з яких має власний набір упереджень, що стосуються конкретної програми, які можуть ненавмисно призвести до шкідливих результатів. Таким чином, існує нагальна потреба в продовженні досліджень і співпраці між дисциплінами для розробки ефективних стратегій для виявлення та пом’якшення упередженості на кожному етапі розробки ШІ та ML.

Особи та групи, зацікавлені в обміні інформацією про те, як краще зрозуміти упередженість штучного інтелекту в наборах даних, повинні надіслати відповідь через свій портал до 15 травня.

Відповіді мають містити:

• заява про можливості
• опис поточних і майбутніх досліджень, які проводить установа для боротьби з ненавмисним упередженням ШІ
• опис усіх існуючих партнерств, спрямованих на дослідження та пом’якшення упередженості штучного інтелекту
• опис типів ненавмисних упереджень штучного інтелекту, які спостерігаються (включаючи дані, що збираються), доменів, у яких вони знаходяться, і впливу, який вони мають на установу
• заява про те, як ця робота сприятиме освіті та навчанню студентів і дослідників

Щоб отримати більше інформації та надіслати відповідь, перегляньте повний RFI тут.

Хочете поінформувати групу про ці виклики з точки зору галузі? Вони також випустили RFI, де вони сподіваються почути відгуки комерційних і некомерційних організацій, які використовують дані для розвитку можливостей ШІ.