Bedste praksis for implementering af sprogmodeller

Fælles anbefaling for udrulning af sprogmodel

Vi anbefaler flere nøgleprincipper for at hjælpe udbydere af store sprogmodeller (LLM'er) med at mindske risiciene ved denne teknologi for at opnå dens fulde løfte om at øge menneskelige evner.

Selvom disse principper blev udviklet specifikt baseret på vores erfaring med at levere LLM'er gennem en API, håber vi, at de vil være nyttige uanset udgivelsesstrategi (såsom open-sourcing eller brug i en virksomhed). Vi forventer, at disse anbefalinger vil ændre sig væsentligt over tid, fordi de kommercielle anvendelser af LLM'er og medfølgende sikkerhedsovervejelser er nye og under udvikling. Vi lærer aktivt om og adresserer LLM-begrænsninger og muligheder for misbrug, og vi vil opdatere disse principper og praksis i samarbejde med det bredere samfund over tid.

Vi deler disse principper i håb om, at andre LLM-udbydere kan lære af og adoptere dem, og for at fremme offentlig diskussion om LLM-udvikling og -implementering.

Forbyd misbrug

Udgiv retningslinjer for brug og brugsbetingelser af LLM'er på en måde, der forbyder materiel skade på enkeltpersoner, samfund og samfund, såsom gennem spam, bedrageri eller astroturfing. Retningslinjer for brug bør også specificere domæner, hvor LLM-brug kræver ekstra undersøgelse og forbyde højrisikobrugstilfælde, som ikke er passende, såsom klassificering af personer baseret på beskyttede egenskaber.

Byg systemer og infrastruktur for at håndhæve retningslinjer for brug. Dette kan omfatte hastighedsgrænser, indholdsfiltrering, applikationsgodkendelse før produktionsadgang, overvågning for unormal aktivitet og andre begrænsninger.

Afbød utilsigtet skade

Afbød proaktivt skadelig modeladfærd. Bedste praksis omfatter omfattende modelevaluering for korrekt at vurdere begrænsninger, minimering af potentielle kilder til skævhed i træningskorpora og teknikker til at minimere usikker adfærd, såsom gennem at lære af menneskelig feedback.

Dokumenter kendte svagheder og sårbarheder, såsom bias eller evnen til at producere usikker kode, da i nogle tilfælde ingen grad af forebyggende handling helt kan eliminere potentialet for utilsigtet skade. Dokumentation bør også omfatte model- og use-case-specifikke bedste praksis for sikkerhed.

Gennemtænksomt samarbejde med interessenter

Byg teams med forskellig baggrund og anmode om brede input. Forskellige perspektiver er nødvendige for at karakterisere og adressere, hvordan sprogmodeller vil fungere i mangfoldigheden af ​​den virkelige verden, hvor de, hvis de ikke kontrolleres, kan forstærke skævheder eller ikke fungere for nogle grupper.

Offentliggør erfaringer fra LLM-sikkerhed og misbrug for at muliggøre udbredt adoption og hjælp til tværfaglig iteration af bedste praksis.

Behandl al arbejdskraft i sprogmodellens forsyningskæde med respekt. For eksempel bør udbydere have høje standarder for arbejdsforholdene for dem, der gennemgår modeloutput internt, og holde leverandørerne til velspecificerede standarder (f.eks. sikre etiketteringsvirksomheder er i stand til at fravælge en given opgave).

Som LLM-udbydere repræsenterer udgivelsen af ​​disse principper et første skridt i samarbejdet med at vejlede sikrere udvikling og implementering af store sprogmodeller. Vi er glade for at fortsætte samarbejdet med hinanden og med andre parter for at identificere andre muligheder for at reducere utilsigtede skader fra og forhindre ondsindet brug af sprogmodeller.

Download som PDF