Bästa metoder för att implementera språkmodeller

Gemensam rekommendation för spridning av språkmodeller

Vi rekommenderar flera nyckelprinciper för att hjälpa leverantörer av stora språkmodeller (LLM) att minska riskerna med denna teknik för att uppnå sitt fulla löfte om att utöka mänskliga förmågor.

Även om dessa principer utvecklades specifikt baserat på vår erfarenhet av att tillhandahålla LLM:er genom ett API, hoppas vi att de kommer att vara användbara oavsett releasestrategi (som öppen källkod eller användning inom ett företag). Vi förväntar oss att dessa rekommendationer kommer att förändras avsevärt över tiden eftersom den kommersiella användningen av LLM och åtföljande säkerhetsöverväganden är nya och utvecklas. Vi lär oss aktivt om och tar itu med LLM-begränsningar och vägar för missbruk, och kommer att uppdatera dessa principer och praxis i samarbete med det bredare samhället över tiden.

Vi delar med oss ​​av dessa principer i hopp om att andra LLM-leverantörer kan lära av och anta dem, och för att främja offentlig diskussion om utveckling och implementering av LLM.

Förbjud missbruk

Publicera användningsriktlinjer och användarvillkor av LLMs på ett sätt som förbjuder materiell skada på individer, samhällen och samhälle, till exempel genom skräppost, bedrägerier eller astroturfing. Riktlinjer för användning bör också specificera domäner där LLM-användning kräver extra granskning och förbjuda användningsfall med hög risk som inte är lämpliga, som att klassificera personer baserat på skyddade egenskaper.

Bygg system och infrastruktur för att upprätthålla användningsriktlinjer. Detta kan inkludera hastighetsgränser, innehållsfiltrering, applikationsgodkännande före produktionsåtkomst, övervakning av onormal aktivitet och andra begränsningar.

Minska oavsiktlig skada

Proaktivt mildra skadligt modellbeteende. Bästa praxis inkluderar omfattande modellutvärdering för att korrekt bedöma begränsningar, minimera potentiella källor till partiskhet i träningskroppar och tekniker för att minimera osäkert beteende, till exempel genom att lära av mänsklig feedback.

Dokumentera kända svagheter och sårbarheter, såsom partiskhet eller förmåga att producera osäker kod, eftersom i vissa fall ingen grad av förebyggande åtgärder helt kan eliminera risken för oavsiktlig skada. Dokumentationen bör också innehålla modell- och användningsspecifika säkerhetsmetoder.

Genomtänksamt samarbeta med intressenter

Bygg team med olika bakgrunder och be om bred input. Olika perspektiv behövs för att karakterisera och ta itu med hur språkmodeller kommer att fungera i den verkliga världens mångfald, där de om de inte kontrolleras kan förstärka fördomar eller misslyckas med att fungera för vissa grupper.

Offentliggöra lärdomar om LLM säkerhet och missbruk för att möjliggöra utbredd användning och hjälp med branschövergripande iteration av bästa praxis.

Behandla all arbetskraft i språkmodellens leveranskedja med respekt. Till exempel bör leverantörer ha höga standarder för arbetsförhållandena för dem som granskar modellutdata internt och hålla leverantörer till väl specificerade standarder (t.ex. se till att etikettörer kan välja bort en viss uppgift).

Som LLM-leverantörer representerar publicering av dessa principer ett första steg i att tillsammans vägleda säkrare utveckling och implementering av stora språkmodeller. Vi är glada över att fortsätta arbeta med varandra och med andra parter för att identifiera andra möjligheter att minska oavsiktliga skador från och förhindra skadlig användning av språkmodeller.

Ladda ner som PDF