Найкращі методи розгортання мовних моделей

Спільна рекомендація щодо розгортання мовної моделі

Ми рекомендуємо кілька ключових принципів, які допоможуть постачальникам великих мовних моделей (LLM) зменшити ризики цієї технології, щоб досягти її повної обіцянки розширити людські можливості.

Хоча ці принципи були розроблені спеціально на основі нашого досвіду надання LLM через API, ми сподіваємося, що вони будуть корисними незалежно від стратегії випуску (наприклад, відкритий вихідний код або використання в компанії). Ми очікуємо, що ці рекомендації з часом значно зміняться, оскільки комерційне використання LLM та супутні міркування безпеки є новими та розвиваються. Ми активно вивчаємо та вирішуємо обмеження та шляхи неправомірного використання LLM, а також будемо оновлювати ці принципи та практики у співпраці з більшою спільнотою.

Ми ділимося цими принципами в надії, що інші постачальники LLM зможуть навчитися і прийняти їх, а також сприяти громадському обговоренню розвитку та розгортання LLM.

Заборонити зловживання

Опублікувати інструкції та умови використання LLM у спосіб, який забороняє заподіяння матеріальної шкоди окремим особам, спільнотам і суспільству, наприклад через спам, шахрайство або астротурфінг. Інструкції щодо використання повинні також визначати домени, де використання LLM вимагає додаткової перевірки, і забороняти випадки використання високого ризику, які є невідповідними, наприклад, класифікувати людей на основі захищених характеристик.

Створюйте системи та інфраструктуру для дотримання правил використання. Це може включати обмеження швидкості, фільтрацію вмісту, схвалення програми перед доступом до виробництва, моніторинг аномальної активності та інші пом’якшення.

Пом’якшення ненавмисної шкоди

Проактивно пом’якшуйте шкідливу поведінку моделі. Найкращі методи включають комплексну оцінку моделі для правильної оцінки обмежень, мінімізації потенційних джерел упередженості в навчальних корпусах та методи мінімізації небезпечної поведінки, наприклад, навчання на основі зворотного зв’язку з людьми.

Задокументуйте відомі слабкі та вразливі місця, наприклад, упередженість або здатність створювати небезпечний код, оскільки в деяких випадках ніякі превентивні дії не можуть повністю усунути ймовірність ненавмисної шкоди. Документація також повинна включати найкращі методи безпеки для моделі та конкретного випадку використання.

Продумано співпрацюйте із зацікавленими сторонами

Створюйте команди з різним досвідом і запропонувати широкий внесок. Необхідні різноманітні точки зору, щоб охарактеризувати та розглянути те, як мовні моделі будуть працювати в різноманітності реального світу, де, якщо їх не перевіряти, вони можуть посилити упередження або не працювати для деяких груп.

Публічно оприлюднити набуті уроки щодо безпеки та неправомірного використання LLM щоб забезпечити широке впровадження та допомогти з міжгалузевими ітераціями найкращих практик.

Ставтеся з повагою до всієї праці в ланцюжку поставок мовної моделі. Наприклад, постачальники повинні мати високі стандарти щодо умов роботи тих, хто перевіряє результати моделі всередині компанії, а постачальники повинні дотримуватися чітко визначених стандартів (наприклад, гарантувати, що маркувальники можуть відмовитися від певного завдання).

Як постачальники LLM, публікація цих принципів є першим кроком у спільному керівництві більш безпечною розробкою та розгортанням моделі великих мов. Ми раді продовжувати працювати один з одним та з іншими сторонами, щоб виявити інші можливості для зменшення ненавмисної шкоди та запобігання зловмисному використанню мовних моделей.

Завантажити як PDF