Best practices voor het implementeren van taalmodellen

Gezamenlijke aanbeveling voor implementatie van taalmodellen

We bevelen verschillende hoofdprincipes aan om leveranciers van grote taalmodellen (LLM's) te helpen de risico's van deze technologie te verkleinen, zodat de belofte om de menselijke capaciteiten te vergroten, volledig kan worden waargemaakt.

Hoewel deze principes specifiek zijn ontwikkeld op basis van onze ervaring met het aanbieden van LLM's via een API, hopen we dat ze nuttig zullen zijn ongeacht de releasestrategie (zoals open-sourcing of gebruik binnen een bedrijf). We verwachten dat deze aanbevelingen in de loop van de tijd aanzienlijk zullen veranderen, omdat het commerciële gebruik van LLM's en de bijbehorende veiligheidsoverwegingen nieuw en in ontwikkeling zijn. We leren actief over en pakken LLM-beperkingen en mogelijkheden voor misbruik aan, en zullen deze principes en praktijken in de loop van de tijd bijwerken in samenwerking met de bredere gemeenschap.

We delen deze principes in de hoop dat andere LLM-aanbieders ervan kunnen leren en ze kunnen toepassen, en om de publieke discussie over de ontwikkeling en implementatie van LLM te bevorderen.

Misbruik verbieden

Gebruiksrichtlijnen en gebruiksvoorwaarden publiceren van LLM's op een manier die materiële schade aan individuen, gemeenschappen en de samenleving verbiedt, zoals door spam, fraude of astroturfing. Gebruiksrichtlijnen moeten ook domeinen specificeren waar LLM-gebruik extra nauwkeurig onderzoek vereist en risicovolle use-cases verbieden die niet geschikt zijn, zoals het classificeren van mensen op basis van beschermde kenmerken.

Bouw systemen en infrastructuur om gebruiksrichtlijnen af ​​te dwingen. Dit kan snelheidslimieten, inhoudsfiltering, goedkeuring van applicaties voorafgaand aan productietoegang, monitoring op afwijkende activiteit en andere maatregelen omvatten.

Onbedoelde schade beperken

Schadelijk modelgedrag proactief verminderen. Best practices omvatten uitgebreide modelevaluatie om beperkingen goed te beoordelen, potentiële bronnen van vooringenomenheid in trainingscorpora te minimaliseren en technieken om onveilig gedrag te minimaliseren, zoals door te leren van menselijke feedback.

Documenteer bekende zwakheden en kwetsbaarheden, zoals vooringenomenheid of het vermogen om onveilige code te produceren, omdat in sommige gevallen geen enkele mate van preventieve actie de kans op onbedoelde schade volledig kan elimineren. Documentatie moet ook model- en use-case-specifieke veiligheidsbest practices bevatten.

Doordacht samenwerken met belanghebbenden

Stel teams samen met verschillende achtergronden en om brede input vragen. Er zijn verschillende perspectieven nodig om te karakteriseren en aan te pakken hoe taalmodellen zullen werken in de diversiteit van de echte wereld, waar ze, als ze niet worden gecontroleerd, vooroordelen kunnen versterken of niet werken voor sommige groepen.

De geleerde lessen met betrekking tot de veiligheid en misbruik van LLM openbaar maken om wijdverbreide acceptatie mogelijk te maken en te helpen bij interindustriële iteratie van best practices.

Behandel alle arbeid in de toeleveringsketen van het taalmodel met respect. Aanbieders moeten bijvoorbeeld hoge normen hanteren voor de arbeidsomstandigheden van degenen die modeloutputs intern beoordelen en leveranciers aan goed gespecificeerde normen houden (bijvoorbeeld door ervoor te zorgen dat etiketteerders zich kunnen afmelden voor een bepaalde taak).

Als LLM-providers is het publiceren van deze principes een eerste stap in het gezamenlijk begeleiden van veiligere ontwikkeling en implementatie van grote taalmodellen. We zijn verheugd om met elkaar en met andere partijen te blijven werken om andere mogelijkheden te identificeren om onbedoelde schade door kwaadwillig gebruik van taalmodellen te verminderen en te voorkomen.

Downloaden als PDF