Beste praksis for distribusjon av språkmodeller

Felles anbefaling for utplassering av språkmodeller

Vi anbefaler flere nøkkelprinsipper for å hjelpe leverandører av store språkmodeller (LLM) med å redusere risikoen ved denne teknologien for å oppnå sitt fulle løfte om å øke menneskelige evner.

Selv om disse prinsippene ble utviklet spesifikt basert på vår erfaring med å tilby LLM-er gjennom en API, håper vi at de vil være nyttige uavhengig av utgivelsesstrategi (som åpen kildekode eller bruk i et selskap). Vi forventer at disse anbefalingene vil endre seg betydelig over tid fordi kommersiell bruk av LLM og tilhørende sikkerhetshensyn er nye og utviklende. Vi lærer aktivt om og adresserer LLM-begrensninger og veier for misbruk, og vil oppdatere disse prinsippene og praksisene i samarbeid med det bredere samfunnet over tid.

Vi deler disse prinsippene i håp om at andre LLM-leverandører kan lære av og ta i bruk dem, og for å fremme offentlig diskusjon om LLM-utvikling og -distribusjon.

Forby misbruk

Publiser retningslinjer og vilkår for bruk av LLM-er på en måte som forbyr materiell skade på enkeltpersoner, samfunn og samfunn, for eksempel gjennom spam, svindel eller astroturfing. Retningslinjer for bruk bør også spesifisere domener der LLM-bruk krever ekstra gransking og forby høyrisikobrukstilfeller som ikke er hensiktsmessige, for eksempel klassifisering av personer basert på beskyttede egenskaper.

Bygg systemer og infrastruktur for å håndheve retningslinjer for bruk. Dette kan inkludere hastighetsgrenser, innholdsfiltrering, applikasjonsgodkjenning før produksjonstilgang, overvåking for unormal aktivitet og andre begrensninger.

Redusere utilsiktet skade

Proaktivt redusere skadelig modellatferd. Beste praksis inkluderer omfattende modellevaluering for å vurdere begrensninger på riktig måte, minimere potensielle kilder til skjevheter i treningskorpora, og teknikker for å minimere usikker atferd, for eksempel gjennom å lære av menneskelig tilbakemelding.

Dokumenter kjente svakheter og sårbarheter, for eksempel skjevhet eller evne til å produsere usikker kode, ettersom i noen tilfeller ingen grad av forebyggende handling kan fullstendig eliminere potensialet for utilsiktet skade. Dokumentasjonen bør også inkludere modell- og bruksspesifikke beste praksiser for sikkerhet.

Gjennomtenkt samarbeid med interessenter

Bygg team med forskjellig bakgrunn og be om brede innspill. Forskjellige perspektiver er nødvendige for å karakterisere og adressere hvordan språkmodeller vil fungere i mangfoldet i den virkelige verden, der hvis de ikke kontrolleres, kan de forsterke skjevheter eller ikke fungere for noen grupper.

Offentliggjør lærdommen om LLM-sikkerhet og misbruk for å muliggjøre utbredt bruk og hjelp med gjentakelse på tvers av bransje om beste praksis.

Behandle all arbeidskraft i språkmodellens forsyningskjede med respekt. For eksempel bør leverandører ha høye standarder for arbeidsforholdene til de som vurderer modellutdata internt og holde leverandører til velspesifiserte standarder (f.eks. sikre at etiketteringsleverandører kan velge bort en gitt oppgave).

Som LLM-leverandører representerer publisering av disse prinsippene et første skritt for å samarbeide om å lede sikrere utvikling og distribusjon av store språkmodeller. Vi er glade for å fortsette å samarbeide med hverandre og med andre parter for å identifisere andre muligheter for å redusere utilsiktede skader fra og forhindre ondsinnet bruk av språkmodeller.

Last ned som PDF