Kielimallien käyttöönoton parhaat käytännöt

Yhteinen suositus kielimallin käyttöönotosta

Suosittelemme useita keskeisiä periaatteita auttaaksemme suurten kielimallien (LLM) tarjoajia vähentämään tämän tekniikan riskejä, jotta se saavuttaisi täyden lupauksensa lisätä ihmisen kykyjä.

Vaikka nämä periaatteet on kehitetty nimenomaan kokemuksemme perusteella LLM:iden tarjoamisesta API:n kautta, toivomme, että niistä on hyötyä julkaisustrategiasta (kuten avoimesta lähdekoodista tai yrityksen sisäisestä käytöstä) riippumatta. Odotamme näiden suositusten muuttuvan merkittävästi ajan myötä, koska LLM:n kaupallinen käyttö ja siihen liittyvät turvallisuusnäkökohdat ovat uusia ja kehittyviä. Opimme aktiivisesti LLM:n rajoituksista ja väärinkäytöksistä ja käsittelemme niitä, ja päivitämme näitä periaatteita ja käytäntöjä yhteistyössä laajemman yhteisön kanssa ajan myötä.

Jaamme nämä periaatteet siinä toivossa, että muut LLM-palveluntarjoajat voivat oppia niistä ja omaksua ne sekä edistää julkista keskustelua LLM:n kehittämisestä ja käyttöönotosta.

Estä väärinkäyttö

Julkaise käyttöohjeet ja käyttöehdot LLM:t tavalla, joka kieltää aineellisen haitan yksilöille, yhteisöille ja yhteiskunnalle, kuten roskapostin, petosten tai astroturfin kautta. Käyttöohjeissa tulee myös määritellä alueet, joilla LLM-käyttö vaatii erityistä tarkastelua, ja kieltää riskialttiit käyttötapaukset, jotka eivät ole tarkoituksenmukaisia, kuten ihmisten luokittelu suojattujen ominaisuuksien perusteella.

Rakenna järjestelmiä ja infrastruktuuria käyttöohjeiden noudattamiseksi. Tämä voi sisältää nopeusrajoituksia, sisällön suodatusta, sovelluksen hyväksyntää ennen tuotantokäyttöä, poikkeavien toimintojen tarkkailua ja muita lievennyksiä.

Vähennä tahatonta vahinkoa

Vähennä ennakoivasti haitallista mallikäyttäytymistä. Parhaat käytännöt sisältävät kattavan mallin arvioinnin rajoitusten asianmukaiseksi arvioimiseksi, mahdollisten harhalähteiden minimoimisen koulutuskorpuissa ja tekniikat vaarallisen käytöksen minimoimiseksi, kuten ihmispalautteesta oppimisen avulla.

Dokumentoi tunnetut heikkoudet ja haavoittuvuudet, kuten harhaa tai kykyä tuottaa epävarmaa koodia, koska joissakin tapauksissa mikään ennaltaehkäisevä toiminta ei pysty täysin poistamaan tahattoman haitan mahdollisuutta. Dokumentaation tulee sisältää myös malli- ja käyttötapauskohtaisia ​​parhaita turvallisuuskäytäntöjä.

Tee harkittua yhteistyötä sidosryhmien kanssa

Rakenna tiimejä erilaisilla taustoilla ja pyydä laajaa palautetta. Erilaisia ​​näkökulmia tarvitaan luonnehtimaan ja käsittelemään sitä, kuinka kielimallit toimivat todellisen maailman monimuotoisuudessa. Jos niitä ei valvota, ne voivat vahvistaa ennakkoluuloja tai epäonnistua joidenkin ryhmien kohdalla.

Julkaise LLM-turvallisuudesta ja väärinkäytöstä saadut kokemukset mahdollistaakseen laajan käyttöönoton ja auttaakseen parhaiden käytäntöjen eri toimialojen iteraatiossa.

Kohtele kaikkea työvoimaa kielimallin toimitusketjussa kunnioittavasti. Esimerkiksi palveluntarjoajilla tulisi olla korkeat standardit niiden työoloille, jotka tarkastelevat mallin tuotoksia talon sisällä, ja toimittajat noudattavat tarkasti määriteltyjä standardeja (esim. varmistamalla, että merkinnät voivat kieltäytyä tietyn tehtävän suorittamisesta).

LLM-palveluntarjoajina näiden periaatteiden julkaiseminen on ensimmäinen askel turvallisemman laajan kielimallin kehittämisen ja käyttöönoton ohjaamisessa yhteistyössä. Jatkamme innolla yhteistyötä toistemme ja muiden osapuolten kanssa löytääksemme muita mahdollisuuksia vähentää tahattomia haittoja ja estää kielimallien haitallista käyttöä.

Lataa PDF