Зменшення зміщення та підвищення безпеки в DALL·E 2

Сьогодні ми впроваджуємо нову техніку, завдяки якій DALL·E створює зображення людей, які точніше відображають різноманіття населення світу. Ця техніка застосовується на системному рівні, коли DALL·E отримує підказку з описом особи без вказівки раси чи статі, наприклад «пожежний».

Згідно з нашою внутрішньою оцінкою, після застосування цієї техніки користувачі в 12 разів частіше казали, що зображення DALL·E містять людей різного походження. Ми плануємо з часом удосконалювати цю техніку, коли збиратимемо більше даних і відгуків.

У квітні ми розпочали попередній перегляд дослідження DALL·E 2 для обмеженої кількості людей, що дозволило нам краще зрозуміти можливості та обмеження системи та покращити наші системи безпеки.

Під час цього етапу попереднього перегляду перші користувачі позначали конфіденційні та упереджені зображення, які допомогли отримати інформацію та оцінити цей новий засіб пом’якшення.

Ми продовжуємо досліджувати, як системи штучного інтелекту, як-от DALL·E, можуть відображати упередженості в своїх навчальних даних, і різні способи їх усунення.

Під час попереднього перегляду дослідження ми вжили інших заходів для покращення наших систем безпеки, зокрема:

• Зведення до мінімуму ризику неправомірного використання DALL·E для створення оманливого вмісту шляхом відхилення завантажених зображень із реалістичними обличчями та спробами створити схожість із громадськими діячами, зокрема знаменитостями та відомими політичними діячами.
• Зробити наші фільтри вмісту точнішими, щоб вони ефективніше блокували підказки та завантаження зображень, які порушують наші політика щодо вмісту дозволяючи творче самовираження.
• Удосконалення автоматизованих і людських систем моніторингу для захисту від зловживання.

Ці вдосконалення допомогли нам отримати впевненість у здатності запрошувати більше користувачів випробувати DALL·E.

Розширення доступу є важливою частиною нашого відповідальне розгортання систем ШІ тому що це дозволяє нам дізнатися більше про використання в реальному світі та продовжувати вдосконалювати наші системи безпеки.