Снижение предвзятости и повышение безопасности в DALL·E 2

Сегодня мы внедряем новую методику, позволяющую DALL·E генерировать изображения людей, более точно отражающие разнообразие населения мира. Этот метод применяется на системном уровне, когда DALL·E выдается подсказка с описанием человека без указания расы или пола, например «пожарный».

Основываясь на нашей внутренней оценке, пользователи в 12 раз чаще говорили, что изображения DALL·E включали людей разного происхождения после применения этой техники. Мы планируем улучшить эту технику с течением времени, поскольку мы собираем больше данных и отзывов.

В апреле мы начали предварительный просмотр исследования DALL·E 2 для ограниченного числа людей, что позволило нам лучше понять возможности и ограничения системы и улучшить наши системы безопасности.

На этом предварительном этапе первые пользователи отметили конфиденциальные и предвзятые изображения, которые помогли информировать и оценить это новое смягчение.

Мы продолжаем исследовать, как системы искусственного интеллекта, такие как DALL·E, могут отражать предвзятость в своих обучающих данных и различные способы их устранения.

Во время предварительного исследования мы предприняли другие шаги для улучшения наших систем безопасности, в том числе:

• Сведение к минимуму риска неправомерного использования DALL·E для создания вводящего в заблуждение контента путем отклонения загружаемых изображений, содержащих реалистичные лица, и попыток создать изображения общественных деятелей, в том числе знаменитостей и видных политических деятелей.
• Мы делаем наши фильтры контента более точными, чтобы они более эффективно блокировали подсказки и загрузки изображений, которые нарушают наши правила. контентная политика при этом позволяя творческое самовыражение.
• Усовершенствование автоматизированных систем и систем мониторинга человека для защиты от неправомерного использования.

Эти усовершенствования помогли нам обрести уверенность в возможности пригласить больше пользователей испытать DALL·E.

Расширение доступа — важная часть нашей ответственное развертывание систем ИИ потому что это позволяет нам больше узнать об использовании в реальных условиях и продолжать совершенствовать наши системы безопасности.